原创 关注AI的 机器之心

机器之心报道

机器之心编辑部

AI 作图，不止卖家在用，买家也在用。

最近，不少网友晒出了一个令人啼笑皆非的操作：为了从卖家那里占到一点便宜，一些买家会故意声称商品有瑕疵，并要求退款。但其实，瑕疵图是他们自己用 AI 做的，比如把好的榴莲做成腐烂掉的榴莲。

由于水果这种东西不方便退货验证（即使当时没坏，退回去也得坏了，而且运费很高），商家只能硬着头皮退钱。

还有些商品虽然可以退货验证，但由于客单价比较低，退货流程比较繁琐，一来二去还不如退钱成本低。所以这类商家在收到瑕疵反馈的时候，一般也会选择退钱或赔偿部分金额了事。

不过，商家也留了一手，会要求买家把瑕疵品剪坏，从而确保其失去使用价值。但就是留的这手，现在也被 AI 破解了。

我们从电商卖家口中了解到，其实这种骗术由来已久。大概在十年前，就有买家通过 PS 等工具在正常商品的照片上 P 上瑕疵。但以普通用户的 P 图水平，如果卖家放大图片仔细去看，大部分时候还是能是看出来的。但现在 AI 做的图，鉴别起来就没有那么容易了。

这看起来有点像一场「魔法打败魔法」的闹剧，因为如今的购物平台上，商家滥用 AI 的情况也屡见不鲜，导致大量买家收到货后发现「货不对板」。

商家们利用 AI 进行着各种形式的误导：凭空生成不存在的产品图，将普通商品过度美化；使用无法真实反映上身效果的虚拟模特来节省成本；甚至利用 AI 批量伪造看似真实的「买家秀」和图文并茂的好评。

而上述的部分买家除了贪小便宜，有的可能也隐藏着一种复杂的「报复性维权」心理。当一些买家自己曾遭遇过商家用精美的 AI 渲染图「货不对板」的欺骗后，可能会产生一种「以其人之道还治其人之身」的冲动。

出于好奇，我们用一些 AI 工具尝试了一下，发现给正常商品加上瑕疵真是动动嘴皮子就行。虽然 AI 工具在生成的时候会给图片加上水印，但是把水印裁掉也是很简单的事情。

不过，要想呈现商品被破坏的效果，对于模型来说还有一定难度。

针对这个问题，不少网友提出了一些解决方案，但这些方案似乎都有各自的局限性。

比如，有人认为，可以要求买家回传「瑕疵」商品的视频。这种方法是否有效其实不太好说，因为在经过若干次抽卡之后，很多视频生成工具也能生成效果非常不错的视频，这取决于买家选择的 AI 工具和为此付出的努力。

还有人认为，可以要求买家不同角度多拍几张照片。这个想法利用了当前 AI 生成技术的一大软肋：「多视图一致性」。然而，这顶多算是一个暂时的「补丁」，毕竟 AI 的技术迭代速度是以天来计算的。我们刚找到它的破绽，它可能明天就已修复。

还有建议强制要求在 App 内拍摄并上传，禁止使用相册。这能防止直接上传 AI 生成的成品，但防不住「物理外挂」——用两台手机互拍，这个所谓的限制就形同虚设了。

总结下来，单一的证据形式都极易被伪造。或许比较可行的方式是要求买家提供一条难以伪造、逻辑完整的证据链：包含「拆箱、剪裁、展示瑕疵」等关键步骤在内的、多角度、全过程实拍视频或连拍图片。

另外我们也尝试用「魔法打败魔法」：用 AI 鉴别 AI。其实市面上有很多 AI 鉴别器，但实测发现鉴别效果很像「抽卡」，大多数情况是它也「不确定」是不是 AI 生成的。

一个更具前瞻性的技术方案是引入「数字水印」与「内容溯源」技术。目前，科技界正在推动 C2PA 等行业技术标准，而像谷歌已经推出了名为 SynthID 的工具，它可以在 AI 生成的图片、视频和音频中直接嵌入肉眼无法察觉的数字水印。

这种技术就像是为 AI 内容内置的「数字身份证」，可以记录其生成和修改的关键信息。若未来能强制主流 AI 模型在生成内容时都加入此类标记，那么溯源和鉴别将变得容易得多。

归根结底，还是迅猛发展且缺少监管的 AI 降低了买卖双方的作假门槛。而依靠个人的力量是很难防范的，还可能会给商家售后和买家维权造成额外的成本。

这场信任危机可能会是一场持续的「攻防战」。

一方面，AI 生成技术在不断进化，让伪造的图片和视频越来越逼真；另一方面，AI 检测技术也在奋力追赶，试图通过分析图像的微观特征来识别伪造痕迹。这就像一场永不停歇的猫鼠游戏，考验着双方算法的迭代速度。

在这种背景下，平台方也在探索多种技术和策略组合。例如，通过强化证据链的完整性来提高伪造的难度，对那些通过 App 内相机即时拍摄、带有时间戳和地理位置等原始信息的照片赋予更高的证据权重。

淘宝此前还发布公告治理 AI 假图，严厉打击利用 AI 假图欺骗消费者、侵害原创品牌商家的违规行为。

同时，利用大数据分析建立用户信用模型，对行为异常的账户进行更严格的审查，也是一种常见的风险控制手段。当技术手段难以一锤定音时，引入独立的第三方鉴定服务，则提供了一种结合技术与人工的解决方案。

长远来看，行业内普遍认为，建立统一的、可追溯的数字内容标准至关重要。像 SynthID 这样的数字水印技术，如果能成为行业共识并广泛应用，无疑将为解决当前的信任困境提供最有效的技术路径。

最终，这场由技术引发的问题，或许仍需依靠更成熟、更统一的技术来寻找答案。

对此你怎么看？

© THE END

转载请联系本公众号获得授权

投稿或寻求报道：liyazhou@jiqizhixin.com

原标题：《电商上演「魔法对轰」：卖家用AI假图骗下单，买家拿AI烂水果骗退款》

阅读原文