AI变脸“真假难辨”？最新的微信公告：关闭帐号！永久禁止！

最近，有人使用 AI(人工智能)技术假冒名医张文宏带货的消息冲上热搜。

12 月 15 日，微信“珊瑚安全”微信官方账号发布报道称，微信从速度上严厉打击了一批使用者。 AI 假冒名人进行营销不当、恶意博取流量的违规操作，并对相关情况进行专项治理，截至目前，累积处理内容 532 关闭帐户 209 个。

最近微信处理了一些非法账户。

张文宏不是第一个被子 AI 技术冒名顶替的受害者。近几年，名人被 AI 假货已经屡见不鲜。“假靳东”迷住了很多大妈，“假雷军”评论了世界各地的情况...这些乱象不仅给当事人带来了很多麻烦，也很可能导致诈骗案件。

此外，很多短片都上演了 AI 魔改经典影视作品的戏码。比如《甄嬛传》中的宫廷战斗情节被篡改为激烈的枪战场面，而《红楼梦》中的林黛玉则化身为拳击手，与贾宝玉作战，甚至《西游记》中的唐僧也频频“示好”怪物。

针对这种现象，12 月 7 日本，广电总局网络视听司发布《管理提示（AI 魔改）》，明确提出，这些视频为了获得流量，没有底线篡改经典作品，与原有的精神内核背道而驰，涉嫌侵权。同时，《管理提示》还提出了具体的管理要求，包括督促短视频平台进行调查和清理 AI 影视剧《魔改》短片，认真落实生成式人工智能内容审核要求等。

随着 AI 技术飞速发展，

AI 产生的信息越来越难以辨别真假。

所以，作为一个普通人，

怎样识别我们？ AI 换脸的漏洞和预防方法？

有关专家指出，尽管如此 AI 变脸技术已经相当成熟，甚至可以实现视频聊天的实时变脸，但是只要稍加注意，还是可以发现其中的漏洞。

比如，在视频聊天当时，我们可以仔细观察对方的面部整形手术是否异常模糊，光源是否正常。如有必要，我们还可以要求对方迅速抬头、点头或扭头，以观察面部整形手术在运动过程中是否有异常模糊的现象。

对于AI 变脸变音鉴别方面，专家建议:一方面要检查面部特征，观察表情、动作、声音和嘴型的匹配程度；另一方面，要检查信息来源，可以通过让对方用手遮住脸或者做其他面部动作来判断画面是否连贯。

此外，防止个人隐私信息泄露而且很重要。

AI 面部交换数据的前提是模仿人的照片、视频等，个人公开的照片、视频越多，AI 算法学习的数据越多，产生的“数字人”就越真实。

为防止个人信息泄露，

还可采取以下四种措施：

1. 不连未知 WiFi

免费的公共场所 WiFi 常常隐藏风险。犯罪分子经常设置虚假热点，一旦连接起来，个人信息就会岌岌可危。

2. 提防钓鱼链接

一些犯罪分子会冒充银行、学校等机构向用户发送信息或邮件，以“通知”、“账户验证”等名义诱导用户点击网站链接。

3. 拒绝不明二维码

4. 仔细分享信息

在社交媒体上分享需要谨慎，尤其是机票、照片、证书等个人敏感信息。一旦泄露，可能会造成严重后果。

记者：陈洁

图片：网络截图，图虫创意

转载请注明上海静安官方微信。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com