张文宏，雷军，靳东深受其害，AI假冒名人到底有多真实？
AI以前所未有的方式改变了世界，从智能家居的语音助手到无人驾驶汽车。然而，随着AI技术的不断进步和双刃剑的应用，深度伪造技术带来了很多隐患。
AI能轻松改变脸型，模仿声音，能让张文宏半夜带货，让雷军大骂网友，甚至明星靳东也被AI硬塞代言。
半夜张文宏带货？
近日，有网友向媒体反映，知名传染病专家张文宏医生在网上销售商品的视频中看到，他们正在销售一种蛋白质产品。老人相信这一点，不仅下了订单，还转发了很多群。
其实这个视频不是张文宏博士自己发布的，而是有人用AI技术生成的。在这段视频中，生成的肖像反复介绍一个产品，声音听起来像张文宏本人。商品橱窗里的一个蛋白棒销售链接显示已经卖了1200多个了。目前，该账户无法搜索。
对此，张文宏博士在回应媒体时表示:“发现这件事后，我立即投诉了AI生成的视频，但他的账户一直在变化，我终于没有精力了。这些假的AI生成信息就像蝗灾一样，一次又一次地发生，像蝗虫一样害人。事实上，从平台投诉的结果来看，我认为最终很难解决问题。”
除了向平台投诉，张文宏说他也想过报警，但对方看不见摸不着，很难像幽灵一样描述。他只能希望有关部门加强监管。“报警一定要有目标，对吧？现在报警谁？他每天换一个账号，都是虚拟的。我向谁报警？因此，我认为他侵犯了消费者的利益，我认为有关部门应该处理。”张文宏说。
科技漩涡认为，随着AI技术的快速发展，尤其是深度学习算法的不断成熟，换脸技术的门槛大大降低。在前面提到的假张文宏之前，假靳东、假雷军、假于东来等等都出现过。
AI雷军骂全网，AI靳东诈骗老人。
国庆假期，短视频平台上出现了大量“雷军”演讲视频，涉及交通堵塞、休息、游戏等热门话题，不仅言辞犀利，而且经常骂人。
对许多熟悉网络环境的人来说，这些“雷军” AI “配音”视频可能是“一见钟情”，但雷军名气太大，知名度太高，难免会有人当真。毕竟在短视频平台上，很多人被“假靳东”视频忽悠了，那些甚至没有用AI配音，只是用编辑的图像和文字字幕。
据悉，今年11月，江西一位65岁的老人前往银行办理业务，声称要向男友“靳东”借200万元演戏。经过调查，发现老年人手机中的“靳东”来自AI生成的视频。
今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用了自己过去的电影，用AI代言了一个不知名的药膏品牌。
科技漩涡认为，技术进步带来了数据的洪流。我们不应该“听风就是雨”，盲目相信所谓的“名人信息”和醒目的信息，轻易下单购买。AI变脸等新型侵权案件不断涌现。除了提高用户自身的网络安全意识外，还需要从源头上对AI变脸相关风险进行监督和司法管理，形成多主体、全链条。
技术创新，监管更加严格
今年9月，国家网络信息办公室发布了《人工智能生成合成内容识别方法(征求意见稿)》，要求从视频制作和发布的根源管理信息。其中明确指出了人工智能生成生成内容识别的两种类型，即“显式识别”和“隐式识别”，也明确了两种类型的识别应该适用的场景，直接关系到《深度合成条例》第十七条提出的“显式识别”和“显式识别”。
12月15日，“微信珊瑚安全”微信微信官方账号发布通知，打击使用AI假冒名人进行营销宣传，已处理532条内容，关闭209个账号。
今年3月，Tiktok安全中心发布了一份不当使用AI生成虚拟形象的治理公告，指出将严厉处罚非法使用AI生成虚拟形象，发布违反科学常识、弄虚作假、散布谣言的内容。
AI工具的创作者除了监管机构和平台出台的相关规定外，还需要遵守相关法律法规。今年5月，OpenAI在未经美国演员“寡姐”斯嘉丽·约翰逊同意的情况下，收到了律师函。
在中国，第一起AI声音人格权侵权案件已经发生。4月，北京互联网法院对全国首起“AI声音侵权案件”进行了一审判决。关于这件事，我们咨询过。孙亮律师，北京鼎世律师事务所执行主任。，他指出:“《民法典》第四部分是人格权编辑，专门规定了肖像权、名誉权、隐私权、声音权等民事权利。在使用AI技术创作的过程中，相关主体应该注意这一点，以防止侵犯自然人的民事权益。”
科技漩涡认为，人工智能技术是一把双刃剑，张文宏、雷军、靳东等案例不断提醒我们面对AI带来的各种挑战。只有全社会共同努力，要求企业、学术界、立法机关等各方共同努力，才能遏制技术飞速发展带来的各种问题。
写在最后
AI技术的快速发展需要通过各种努力来划分“底线”和“红线”，从而大大降低AI内容所隐藏的各种风险，从而真正享受前沿技术带来的便利，促进人工智能产业的良好健康发展。
本文来自微信微信官方账号“科技漩涡”，作者：孙浩南，36氪经授权发布。
本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。
免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com