“假拜登”在美国大选中无处不在。

出品 | 虎嗅科技组

作者 | 王欣

编辑 | 苗正卿

头图 | 视觉中国

5 月 31 日本，在陪审团主席宣读特朗普成为美国历史上第一位被判有罪的前总统后，曼哈顿下城的法院外，每个人都涌向附近的公园，抗议者之间发生了激烈的对抗。

这个历史事件使美国大选进入了一个混乱的新阶段， AI 深层次的伪造内容正在帮助这种混乱。

5 月 23 民主党政治顾问史蒂文日 · 由于使用克莱默 AI 工具，伪造美国总统拜登的电话呼叫，试图说服1000多名新罕布什尔州居民在民主党初选中向拜登投票。

这个“假拜登”的电话呼叫内容是：把你的选票留下 11 每月重新投票非常重要。这个星期二的投票，只会让共和党成功，让特朗普再次当选为共和党候选人。

“假拜登”电话的炮制者克雷默曾为拜登的竞争对手、众议员迪恩 · 菲利普斯工作，他声称这个电话总共要花钱。 500 美元。他说：“这是我改变现状的一种方式，我已经做到了。花 500 获得价值约的美元， 500 关注万美元。”

此前 CCDH 有几个科研人员 AI 在工具测试中，拜登躺在医院病床上的深伪照片也顺利生成。此外，还有 Midjourney 顾客成功地使用了“特朗普被捕，高质量，狗仔队照片”这个提示。

“竞选团队”已经成立了一个跨部门团队，拜登竞选团队的发言人表示， AI 准备本次选举的影响，包括恶意深度伪造内容的威胁。“这个团队从来没有。” 9 月亮成立，“并且有各种各样的工具来解决问题。”

杰西卡卡，美国联邦通信委员会主席 · 罗森沃塞尔说:“当来电者听起来像你认识的政治家、你喜欢的名人或熟悉的家庭成员时，我们中的任何人都可能被使用。 AI 技术性的电话欺骗，相信一些不真实的事。”

这样的 AI 深度伪造正在混淆美国选民的视野，播种混乱的种子。它们在社交平台上迅速传播，并逐渐演变成越来越严重的全球威胁，这也使得社交媒体面临着识别深层欺诈和防止错误信息传递的压力。

AI 大选年深伪内容搅拌

基于以色列社交媒体分析企业 Cyabra 在 5 月 24 每日发布，对社会媒体平台 X（前身是 Twitter）虚假帐户的分析报告显示，对特朗普的赞扬和对拜登的批评 X 账户上有 15% 这是假的。赞美拜登，指责特朗普。 X 账号中有 7% 是虚假的。

Cyabra 的探讨了自 3 月 1 号码开始后的两个月内 X 在平台上进行内容审查。审查方法是分析热点标签，确定发布内容的正面、负面或中性情绪。

该报告指出，3月和4月新发现的虚假帐户数量增加了十倍。 总计 94,363 在支持特朗普个人账户的情况下， 12,391 一个是假的；总而言之 10,065 有个人帐户支持拜登， 803 一个是假的。这份报告没有透露个人和团队伪造了这个内容。

自 2022 每年被马斯克收购后，X 平台上一直在淡化虚假账户的情况。Twitter 在 2022 年 5 月度内部审查显示，其日常活跃用户中不到 5% 这是一个“虚假或垃圾帐户”。那时 Cyabra 这一数据估计是 13.7% 。

马斯克曾经对此表示：X “清除机器人和恶意评论者，将追究责任人，并采取法律措施”。

但是，研究表明，其中包括 X 相反，许多社会媒体平台减少或重组了负责检查危险伪造内容的团队。一些平台还提供了个人单向广播等新功能，特别难以监控。

此前，X 亚历山德拉平台信任与安全运营负责人 · 马斯克收购了波肯 X 离开几个月后 X, 并且加入了内容审核企业 WebPurify。“许多社交媒体企业严重依赖不可靠的人工智能内容审批工具，使精简的人力团队处于不断灭火的状态。”她承认:“选举诚信是一项巨大的努力，真的需要一个积极的策略，需要大量的人力和智慧。"

值得注意的是，之前支持拜登的马斯克，最近的态度发生了明显的变化，其原因包括科技监管和税收。

马斯克在 X 中对 1.85 亿万粉丝直言不讳，指着拜登的移民、电动车和关税政策:“拜登显然对发生的事情一无所知。他只是一个左翼政治机器悲惨的傀儡。”

与此同时，马斯克还督促美国最高法院推翻特朗普的罚款，为特朗普辩护，称赞他的幽默感，并指责媒体偏袒拜登。5 月 31 日本，知情人士表示，马斯克计划在大选前与美国前总统特朗普一起举行。 X 现场直播平台。

特雷弗弗是特朗普政府期间美国驻奥地利使者的特雷弗 • 特雷纳说：“我认为我们可以承认，他基本上已经(支持特朗普)了。

5 月 29 日本，《华尔街日报》援引知情人士的话报道称，如果特朗普再次进入白宫，他将考虑雇佣埃隆亿万富翁。 · 马斯克担任政策顾问。

非营利智库 TechFreedom 的主席贝林 • 索卡 ( Berin Szóka ) 表示，像马斯克这样的科技创始人可能会通过与特朗普的联盟，在网络言论和内容审核的斗争中寻求“优势”。

谁能阻止这种混乱呢？

AI 深度伪造内容的泛滥使得美国大选年更加“多事之秋”，但目前美国国会还没有付诸行动。

相关从业人员告诉媒体:“唯一阻止我们制造不道德的深层伪造品的，就是我们的道德规范。 "但是很难阻止这种情况。"

政府官员在没有监管的情况下，为了控制自己，正在寻求政治家和科技公司自愿达成协议 AI 深度伪造选举的传播。维拉欧盟委员会副主席 · 朱罗娃说，她致信了欧盟成员国的主要政党，并呼吁他们抵制使用这项技术。但是，如果政治家和政党不服从她的要求，他们就不会面临任何后果。

朱罗娃说，她在这里 2023 年 7 月曾要求大型社交平台在选举前进行选举。 AI 标记生成的内容。这个要求在硅谷得到的回复褒贬不一，有的平台甚至告诉她开发检验。 AI 技术是不可能的。

非营利组织“反数字仇恨中心”监控网络仇恨言论（CCDH）报告显示：尽管每个公司都有禁止制作误导性内容的政策，但是它们仍然可以用来制作与选举相关的假照片。

CCDH 测试了 OpenAI 的 ChatGPT Plus、微软的 Image Creator、Midjourney 和 Stability AI 的 DreamStudio 等 AI 文生图软件。

在 CCDH 在测试中，他们成功地使用了测试。 AI 制作美国总统乔的工具 · 拜登躺在医院的病床上，选举工作人员砸碎了投票机的图像。

其中 ChatGPT Plus 和 Image Creator 当候选人需要提供图像时，成功阻止了所有提醒，Midjourney 在所有工具中表现最差， 65% 在检测过程中产生了误导图像。

CCDH 有证据表明，一些用户已经在使用这个工具来制作误导性的政治内容。这些都是 Midjourney 一位顾客使用了“特朗普被捕，高质量，狗仔队照片”这个提示。

Midjourney 创始人戴维 · 霍尔兹曾在一封电子邮件中表示，“与即将到来的美国大选相关的更新即将发布”，并补充说，去年成立的图像并不等于研究实验室目前的审计实践。

这些 AI 深度伪造的内容也增加了各大社会媒体平台的压力。

Meta 在 5 月 29 日表示，在其中 Facebook 和 Instagram 该平台发现“深伪评论内容可能由人工智能产生”，该公司将此次活动归因于特拉维夫政治营销公司 STOIC。

“使用生成式 AI 创建内容的工具使他们能更快地制作深伪内容，而且数量急剧增加。但是这并没有真正影响我们检验他们的能力，” Meta 威胁调查负责人 Mike Dvilyanski 表示。 Meta 根据季度安全报告，他们在第一季度成功阻止了六项类似的秘密影响行动。

但是，马上就要来了 6 欧盟选举和月初 11 这个月的美国大选，是的 Meta 防御能力是一个很大的考验。

负责印度主要选举政党 AI 从事政治工作的贾杜恩表示，深度伪造内容的传播不能只靠政府和企业来解决，公民必须接受更多的教育。

“任何让你的情绪上升到更深层次的内容，”他说，“分享前请三思。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com