警醒，历史上最狡猾的大骗局，许多人已经受害

杰弗里·欣顿是“人工智能之父”他做了一个世界末日的推测：

人工智能可能会对人造成巨大威胁，因为“很难找到一种方法来防止坏人利用它做坏事”

不幸的是，越来越多的坏人掌握了人工智能。

福州某科技公司法人代表郭先生，4月20日11点40分左右遭遇高端欺骗。

一个朋友突然做了一个微信视频：

我的一个朋友老郭在外地投标，需要430万元的保证金。你看能不能先去你的业务账号帮忙贴一下？

朋友说钱已经交了，还发了银行转账收据截图。因为是视频通话，郭先生没有核实钱是否到账，直接给对方转了430万 的账户。

之后郭先生给朋友打电话说“事情做好了”对方很惊讶，回应完全不在话下。

9分钟，430万没了！郭先生 坑是典型的AI诈骗。

这一招分三步走：

犯罪分子利用AI机器人骚扰电话，获取目标的声音素材，然后伪造声音；

偷目标 找到受害者；

利用AI变脸技术，与受害者视频聊天，赢得信任，实施诈骗。

这种诈骗手段环环相扣，耗时耗力，防不胜防。这意味着诈骗犯罪升级，进入AI智能、定制化的时代。

传统因特网“发音”面对AI诈骗，“打视频”的反欺诈方法基本无效。更可怕的是，越来越多的骗子掌握了AI诈骗！

公开资料显示，2021年以来，多个省份出现AI诈骗不当牟利案件。中国互联网协会5月24日表示，使用“AI变脸”AI变声”等进行诈骗、诽谤并不少见。

AI诈骗不仅仅是几百万“肥肉”有成千上万个“苍蝇肉”大学同学、亲戚、供应商等视频借用案例层出不穷。

如果你认为你从不借钱，你就赢了，那就太天真了不要被抓住。

骗子装扮成领导，要求下属立即汇款、很少有人能因为资金周转等紧急原因承受转账的压力。什么更有甚者，骗子直接假冒了孩子、父母车祸住院等借口，利用亲情出轨。

2006年，中国台湾省诈骗集团成立20多年，将目光投向互联网普及不久的大陆。他们在东南亚等国家设立诈骗基地，招募员工进行人员设置言论包装等统一培训。

到底是诱导恋爱还是裸聊“杀猪盘”非法购买彩票网上赌场和贷款欺诈等发明开始席卷大陆。

电信诈骗已经成为悬在14亿人头上的尖刀。甚至有人开玩笑说，没接到过诈骗电话的人，买彩票都能中奖。

然而，大多数人仍然不 我不太了解电信诈骗。在传统认知中，他们的出轨对象大多经不起诱惑、实践经验较少的“接收者”和一些老年人谁不不要经常上网。

比如上世纪80年代最著名的尼日利亚王子来信，还有最近那封让人忍俊不禁的信“上门枪决”通知短信。这些夸张的剧本似乎只是为了选择那些“缺乏基本的识别能力”的人。

但正如微博大V@所有工作人员都说:“你还没有 不被骗，不是因为你聪明，也不是因为你没钱，而是因为它适合你‘剧本’还在路上。

只要给几张照片和几秒钟的声音，就可以复制了“假人”AI诈骗，以一种极其恐怖的方式，让所有人都难逃一死。

湖北网警巡逻执法发布的消息显示，AI技术新骗局诈骗通过率接近100%，其通过率高、涉案金额大、诈骗速度惊人。

例如，在安徽安庆经开区的一起AI诈骗案中，诈骗分子仅用了一段9秒的智能AI变脸视频就冒充了“熟人”成功从受害人处骗取245万元。

什么更令人毛骨悚然的是信息被泄露、隐私不安全的普遍现实为人工智能欺诈创造了条件“天然苗床”

2月15日，一名“几乎无一幸免，涉嫌泄露45亿条电商或快递信息”的新闻冲上热搜。有网友说:“十年前收到的资料都被翻出来了。

在这方面，每个人都可以 忍不住吐槽:“要有多强的防范意识，才能想到和你视频聊天的亲朋好友。阿伦 你不是一个活生生的人吗？需要有多强的隐私意识才能保证自己的信息不被泄露或窃取？

AI诈骗的降维攻击也引起了社会的广泛关注和一些恐慌。AI诈骗全国爆发”这个话题已经达到了热搜的巅峰，阅读量超过2亿。

随后，公安机关专门辟谣称，目前AI诈骗案件占比仍然较低。同时承诺关注这种新的犯罪方式，加大技术反击和预防宣传力度。

数据显示，2022年公安部门破获46起.电信网络诈骗案件4万起，涉案资金被紧急阻止超过3180亿元。从诈骗案件的量级和涉案金额来看，还是一个社会“顽症”

一个悲观的预期是，新的AI欺诈的到来和迭代的加速可能会使“大家提高警惕，全民防骗”成为未来社会不得不面对的严重问题之一。

四月底的一天，一个名叫詹妮弗的美国人·D 斯特凡诺 她的妈妈接到了一个奇怪的电话。

妈妈，救命！大女儿Briana似乎遇到了大麻烦。

詹妮弗惊呆了，一个下贱的男人威胁道：如果你报警，你就再也见不到她了！

挂了电话后，身边的朋友都劝她报警。詹妮弗渴望赎金是因为“女儿”哭声太真实了，令人心碎。幸运的是，我女儿碰巧打电话作弊“不攻自破”

但是关注的詹妮弗还是很惊讶：即使隔着一栋楼，我也赢了不要让我的孩子进来她在哭。

詹妮弗从来没有想过，AI技术的飞速发展已经比一个母亲更了解自己的孩子。骗子可能每月支付不到5美元。

2017年，它被称为“Deepfakes“社交平台客户使用人工智能技术发布视频剪辑，并将色情演员变成盖尔·加朵、泰勒·斯威夫特、斯嘉丽·约翰逊等名人引起强烈反响。
自此，人工智能变声变脸技术走进大众 的视野，被称为“深度伪造”Deepfake）

2018年，美国的犯罪分子主要利用非法机器人电话冒充慈善机构或谷歌数据服务代理进行诈骗。

但是，机器人语音系统通常有一个卡片屏幕、音质机械化、多轮对话“鬼打墙”等问题，“虚张声势”能力有限。

此后，AI变声器迅速发展到了复制的水平。2019年3月，一名诈骗犯冒充英国能源集团老板，强烈要求该公司首席执行官立即向匈牙利供应商银行账户转账22万欧元。

这位高管毫不犹豫地照做了，因为大老板的语气一如既往，甚至他“微妙的德国口音”都没有瑕疵。这一事件被称为全球人工智能诈骗第一案。

事实上，在美国、在AI技术普及的欧洲等发达国家，AI诈骗早已先行一步。

过去一年，美国AI诈骗同比增长50%到75%根据联邦调查局的年度报告，2022年，美国网络欺诈损失达103亿美元，创五年新高，而针对老年人的AI语音欺诈是高发区。

在过去的一年里，26%的小公司和38%大公司都经历过严重的伪造欺诈，”世界经济论坛的研究和分析负责人布鲁内曼说。她甚至预测，2026年，将超过90%黑客内容将由AI生成。

AI技术的快速升级不仅让声音发生了变化、I辨别真伪变得越来越难了。

加州大学伯克利分校教授法里德Farid表示，一两年前，生成AI声音需要大量音频数据，而现在只需要十秒钟的短视频或音频。采集人脸信息比较简单，一张照片就可以实现。

相应的AI程序服务费从每月5美元到几百美元不等。可怕的是，任何人都可以从中从事非法活动。

AI诈骗的对象包括从老人到精英，从普通人到明星偶像，甚至有规范章程的商业公司和学校，很容易被招进来。

更智能的AI技术也让欺骗变得更加花哨，难以防范。

AI可以通过信息收集和大数据分析进行智能选择“易骗群体”比如金融诈骗，经常收集投资信息的群体会成为潜在目标。

甚至AI可以分析目标社交网络，以掌握其个性化表达、人际关系、爱好和其他生活方式，来实现“诈骗剧本”的定制化。

法里德惊呼道：这太可怕了，就像一场完美的风暴，所有的条件都会导致大灾难。

更可怕的是，虽然风险不言而喻，但AI语音视频合成技术依然满天飞。AI竞争，科技巨头，也在不断加码。

今年1月，微软团队发布了VALLAI语音生成模型-E。它只需要3秒钟来指定材料，和扬声器 的声音可以准确模拟，甚至环境背景声音也可以准确还原。

AI签名，AI声音再现，AI变脸…这些新技术最初是创造美丽和便利的代表。
然而，当这种高端技术变得廉价易得，并被不法分子恶意利用时，无数人和机构的财产、信息和真正的安全就像“裸奔”同样的，会有多大的风险？

AI诈骗在全球范围内的爆发，无疑给人类敲响了警钟。

清华大学教授沈阳说：现在已经达到了很大的规模、聚焦AI风险关键期。

其实对AI诈骗的警惕和治理方案早就在路上了。

美国安全中心发布的《人工智能与国家安全》明确将人工智能伪造技术列为威胁国防安全的关键技术。中国也在逐步处理其潜在的安全风险，包括政策管理和技术限制。
但AI造假似乎是神仙“小强”

例如，美国美国联邦贸易委员会近年来加强了对非法机器人手机的监管，但数据显示，2019年，美国民众收到的“机器人骚扰电话”总数超过500亿次，即每个美国人平均每月至少接收15次“机器人骚扰电话”

这是一个两难的问题——美国不断升级立法打击电信诈骗，但机器人手机数量屡创新高。

根本原因是护栏建设的速度在法律法规的制定和推广中可以 跟不上AI技术的迭代和传播速度。工业与人对AI伤害的反应也容易变慢。

连AI骗局都超过了“诈骗”范围，涌向人类社会的每一个角落。

3月，一群来自中途的特朗普“被捕”遍布全球。一觉醒来，看到美国前总统被警察包围，躺在地上，你会觉得不可思议。

然而，这只是网站创始人艾略特的一张图片·希金斯精心制作“AI假照片”虽然他的账号被封了，但当时大家都非常震惊和惊讶，这成了一个“笑话”

更像是人工智能骗局 区分人和真实感情的能力“嘲弄”很快，大家经历了一场更严重的大戏。

5月22日，五角大楼周围发生爆炸的图片广为流传。这张假照片的流行甚至引起了标准 穷人和穷人标普500指数瞬间涨跌。

假新闻、假图案在中国也沸腾了。

5月7日，甘肃省平凉市公安局网安大队成功破获一起AI诈骗案。罪犯利用ChatGPT伪造“今天早上，一辆火车撞上了甘肃的一名公路工人，造成9人死亡”假消息，立刻得到1个多亿.5万次点击率。

5月24日，受一篇名为《科大讯飞有重大风险的警告》的文章影响，科大讯飞 美国的股价也迅速下跌。公司紧急回应，股票下跌是一个生成性AI写的假话“短文”引起的。
人们越来越害怕发现自己被AI放在了一个地方“没有真相的时代”

伪造甚至成了一件常见而必要的事情“谋生手段”国外一份调查报告指出，49个假新闻网站都是AI做的。而且这些数据受众群体庞大，粉丝超过10万。

打假热潮无处不在，普通人和明星更难阻止。

一方面几十块钱“AI变脸教程”很受欢迎；另一方面，在地铁上“AI一键脱衣”散布谣言的女人不能抱怨。打扮成“杨幂”迪丽热巴”成龙”等明星直播卖货更是肆无忌惮。

面对铺天盖地的“AI孙燕姿”合成视频，佛教徒斯蒂芬妮别无选择，只能说:“你和一个每隔几分钟就发布新专辑的人‘人’还有什么好争的？

真相被“编造”I这已经够可怕了，人们可以 分不清，让现实越来越乱。

4月13日，索尼世界摄影大奖颁奖典礼上，大奖得主冲上舞台，夺下话筒，痛心地说是艾伪造的。他的反问发人深省。如果索尼世界摄影奖的评委能够 不能辨别照片的真假，别人还能做什么？

当人工智能骗局从专业水平开始，“大众化”熟悉的亲友每日新闻权威知识眼见为实原理，甚至集体记忆等，原本刻在骨头里的“信心”都被一一颠覆。

人工智能控制，任重道远。归根结底，人类离不开真理，就像钟表离不开指针一样。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com