Airbnb栽跟头：房东用AI伪造图片致用户误赔
不管是否愿意承认，如今AI正在改变世界。打工人借助它提升工作效率，互联网大厂也将其当作裁员的理由，让大批打工人失去工作。同时，它还成了居心不良的黑灰产团队的工具，此前#仅退款AI图#登上微博热搜，引发广泛关注。在这种形势下，海外商家也开始使用AI。
据《卫报》报道，今年早些时候，一名用户在Airbnb上预订了纽约曼哈顿的一套公寓，因某些原因提前结束租期。该用户离开在Android上预订的公寓后，房东称其给公寓造成数千美元损失。Airbnb接受房东提交的证据后，判定用户需支付7053美元赔偿。
然而，看到用户提交的证据后，才发现房东提交的咖啡桌、扫地机器人、沙发等物品受损照片是AI生成的。随后，Airbnb道歉，退还用户全部住宿费用，并删除房东留下的负面评价。
国内商家因对AI技术了解不足，容易被羊毛党欺骗。但Airbnb作为知名互联网大厂，在这件事上却翻了车。要知道，在这波AI浪潮中，Airbnb并非无所作为。早在2023年11月，它就以约2亿美元收购AI创业公司GamePlanner.AI，增强智能化住宿服务实力。
2024年10月，Airbnb创始人Brian Chesky宣布要用AI彻底改变旅行，将用户带入真正由AI驱动的应用程序。由此可见，Airbnb对AI很敏感，为何还会轻易被AI图片欺骗呢？Brian Chesky在采访中给出答案，Airbnb率先将AI技术应用于客户服务，用户联系客服时，越来越多的工作由AI完成。
当时，Brian Chesky兴奋地向媒体描述AI客服的优势，“AI能讲所有语言，可全天候工作，还能读取所有用户反馈的语料库，提供最佳答案”。显然，这次是AI客服出了问题，它收到房东反馈后，依据AI图片就判定用户需赔偿。
我们认定是AI客服的问题，是因为它已广泛应用于这类程式化问题。在用户与房东的纠纷中，证据至关重要，通常只要一方提供实证，AI客服就会偏向该方。房东用AI生图软件生成物品受损照片并提交后，AI看到“证据”便进入赔偿流程。
实际上，这一事件的关键问题在于Airbnb的AI客服未能正确识别AI图片。用户能扭转局面，是因为房东提供的同一张受损咖啡桌不同角度照片中，裂缝不一致。因此，Airbnb重新判定后告知房东，无法验证其作为投诉一部分提交的图片。
如果Airbnb没有大规模引入AI客服，或许就不会出现这样的乌龙。真人客服能看出同一张咖啡桌不同角度照片的关联，但AI很可能将其识别为不同咖啡桌。事实上，AI客服引发的问题已让不少企业深受其害。
比如瑞典金融科技企业Klarna曾宣称“AI能完成所有人力工作”，用AI客服完全取代人工客服。但使用一段时间纯AI客服后，Klarna CEO不得不承认AI降本是以牺牲质量为代价，于是重新大规模招聘客服员工。
此前国内媒体报道，清华大学与广西电网研究发现，引入AI助手作为“数智客服”虽改进了语音转录、信息回顾等流程，但也带来语音识别错误、口音识别困难、对话记录不完整等问题。人工客服不仅要学习与AI协作，还需纠正其错误、安抚不满客户，AI的“帮倒忙”反而增加了工作压力。
回到Airbnb此次事件，导致用户因房东用AI图片被错误判定赔偿的核心问题是，AI为何无法判断图片是AI生成的？这是因为目前用AI识别AI存在很大局限性。虽然去年5月OpenAI推出专用图像检测分类器，识别DALL - E 3生成图像的准确率高达98%。
但DALL - E 3是OpenAI自己的AI图片生成工具，且他们也承认该工具在区分DALL - E 3与其他AI图片工具产出方面表现不佳。更何况这次Airbnb房东用的是“局部伪造”技术，把真实照片局部区域替换为AI生成内容。
实际上，整个AI业界至今都没拿出真正可靠的AI内容检测工具。业界普遍采用AI数字水印技术，即在生成式AI产出图片、视频时，在元数据中加入不可见水印，从源头解决问题。为此，微软、Adobe、索尼、OpenAI、Meta等公司组建了C2PA（内容来源和真实性联盟），如今ChatGPT等工具生成的图片已有C2PA元数据。
遗憾的是，目前没有证据表明Airbnb加入了C2PA或使用其服务。这意味着Airbnb可能只看到AI技术好的一面，却忽略了潜在风险。而且Airbnb此次事件或许只是开始，几乎所有C2C类平台都要面对基于生成式AI深度伪造内容的冲击，平台、消费者和卖家的关系将在这一冲击中被重塑。
本文来自微信公众号“三易生活”（ID：IT - 3eLife），作者：三易菌，36氪经授权发布。
本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。
免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com