AI难辨AI造假图？背后的警示：AI其实不懂自己画了什么
如今AI生成图片随处可见，利用AI造假牟利的行为也愈发频繁。
比如，用“AI修图”把网购商品照改成损坏或腐烂的样子骗取退款的新闻，现在已屡见不鲜。
这或许是网传“AI图片造假”最知名的段子
除此之外，另一种常见手段是通过AI生成图片伪造不存在的事件、编造未发布的产品，再当作“独家”进行病毒式营销和引流。
甚至在一些更离谱的案例中，还出现用AI生成的“照片”作伪证、拿AI生成的产品图向管理部门申报的情况。
显然，AI生成图片已被滥用。从经验来看，除非像三易生活这样对相关领域产品有深入了解，否则普通消费者往往难辨真假，很容易被这些AI生成图片欺骗。
消费者该如何保护自己？
有人可能会想，自己认不出AI生成的图，让AI去辨认不行吗？毕竟现在AI技术这么发达，AI难道认不出AI造假的图片？
事实上，最新实验结果显示，只要造假者注意几个“关键步骤”，AI伪造的图片几乎能骗过其他AI。这个实验的步骤及特殊情况，让我们对现阶段AI“识图”原理和辨伪方式产生了很大质疑。
测试开始时，实验设计者先选用谷歌的图像生成AI“Nano Banana Pro”，让它生成一幅现实风格但内容略带荒诞的图像：“一位女子手持香蕉指向天空，背景是典型城市景观，行人漠不关心。”
实验设计者称，选用谷歌的图像生成AI是因为它“足够新”，那些只记录老旧模型特征的AI图像识别服务，可能“认不出”Nano Banana Pro在图像代码层面留下的印记（即AI隐形水印）。
同时，实验者一方面没抹除AI生成图片右下角的可见LOGO，另一方面故意选略带荒诞题材的图像，也是想考验“识别AI”能否仅从图像内涵判断其是否“真实”。
水印仍在，AI识别工具却“看不清”了
实验者先对这张AI生成图片进行格式转换（目的是抹除原始数据，避免直接“露馅”），再交给6个不同的“AI图片检测工具”检测“AI生成率”。结果，有两个工具在第一个环节就直接出错了。
只要AI生图用的模型足够新，就能骗过不少检测平台
要知道此时图片右下角的可见水印还在，这说明并非所有AI图片检测平台都会“注意到”AI生成水印的存在，它们判断图片是否“AI生成”可能靠其他技术手段。
去掉可见水印：作用有限
接着，实验者用图像编辑工具（实际也是基于AI算法）去掉测试图片右下角可见的AI生成Logo，再次交给这些检测平台。
肉眼可见的“AI水印”对检测算法干扰不大
这个修改有一点作用，之前能“认出”这是AI生成图片的一个平台，现在报告图片是“非AI生成的”，但超半数检测工具仍能正确判断这是“AI图片”。也就是说，虽然现在很多AI生成图片工具（尤其是带AI图像编辑功能的手机）会为“讨好用户”允许关闭可见图像水印，但这种“给人看”的水印，对AI检测工具的判断影响不大。
人为加瑕疵，是骗过AI检测的关键
最后实验人员猜测，AI图片检测的关键机制可能是检测图片中的“瑕疵”程度。因为真实拍摄的照片通常有各种瑕疵，比如边缘色差、抖动导致的细节重影、曝光不足的噪点等。而AI生成的图片相对过于“完美”，容易在检测工具前暴露。
经人为后期修改的图片，添加了更多“瑕疵”却未改内容
为此，实验人员通过图像编辑软件给这张AI生成图片添加人为噪点、边缘伪影，增大对比度让图片更暗，偏离一般“AI作图”常见的明亮风格。
结果，经这些修改的图片彻底“瞒过”了所有AI检测平台。这说明上述图像特征确实可能是现阶段各“检测AI”真正关注的重点。只要“造假者”稍加留意，在AI生成图片后手动修改，就能大幅降低图片被其他AI“识破”的几率。
这不是造假者的胜利，而是AI的局限
可能有人觉得这是在教人造假，其实不然。实验者的目的只是证明“AI检测”识别AI生成图片的无效性，并非教大家让“AI图片”更逼真。
关键在于“一名女子神情肃穆举着香蕉站在马路中央”这个场景本身就“反常识”。对正常人类来说，哪怕没有右下角的可见AI水印，通常也能判断“图片里的事大概不存在”。
AI图像检测工具的失败，实则证明“AI识图”脱离现实世界
“检测AI”做不到这一点，恰恰说明现有AI虽能“画”出以假乱真的荒诞图片，却难以真正“看懂”其荒诞性。它们只能纠结于画面平滑度、噪点数量等“技术性”细节，无法真正理解内涵，更做不到结合现实判断画面的“合理程度”。
这才是实验揭露的事实：AI本身根本理解不了自己“画了什么”，它对现实世界的理解能力可能远低于我们的预期。
【本文图片来自网络】
本文来自微信公众号“三易生活”（ID：IT-3eLife），作者：三易菌，36氪经授权发布。
本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。
免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com