如果AI开始图财杀人：从骗钱到卖假药，人类应该怎样预防？

05-06 08:38

不，现在AI造假都这么离谱吗？

前几天央视曝光了“苗古金贴”骗局。这款产品的推广名字不小，号称是由传承“千年秘方”的非遗传传承人制作的。此外，“非遗传传承人”证书和“非遗传传承人”照片也像样被曝光。此刻销量暴涨，上了电商畅销榜，总销量几十万。真的很恐怖。

因此，媒体深挖下来，传承人的照片实际上是AI产生的，面部表情僵硬，手掌有六指，光源美得离谱，一眼就假了。

而且所谓的“非遗传承人”证书是机构非法制作的，花两三千元就能买到；“苗古金贴”由第三方代工厂贴牌生产，费用不到10元。“千年秘方”、治疗颈椎问题只不过是借助AI来割韭菜的骗术。

AI产生的人物，伪造的品牌证书，品牌生产的商品，整个事件变得神奇起来。最后，有关部门介入，对有关企业和涉案人员进行了立案调查，这波卖假药的人等待法律审判。

这个事件也让小雷想起了以前电视上的那个。“作出违反祖先决定”“神医”，同样是各种光晕傍身，家族传承下来的药方，也是公然出售假药。

只是之前的“神医”是出现在电视上还是真人，现在的“神医”是出现在互联网上还是出现在AI上，真的是“没有这个人”。

但是电视上的“神医”至少还有真人出镜扮演“神医”，这种“情感价值”或多或少增加了一些可信度。

没有“苗古金贴”那么离谱，AI直接生成人物图片就出来作弊。然而，仍然有那么多人被愚弄。整个事件让小雷感到不可思议，但它真的出现了。只能说世界是一个草台团队。

AI技术“失控”

今年是AI技术飞速发展的一年。AI公司也开发了AI生成图片、AI生成视频、AI生成代码等功能。可以说，目前的AI技术已经进入了一个新的阶段。

此前央视315晚会曝光了AI诈骗的违法行为，目前比较常见的主要是AI诈骗产生AI声音与AI变脸另外，随着AI技术的不断发展，成本也越来越低，只需几十块钱，就可以定制AI深度生成名人音频视频。

而且围绕AI技术，也构成了呼出产业链。呼出公司使用人工智能机器人拨打营销电话。机器人不知疲倦，白天黑夜都可以拨打营销电话。此外，呼出公司提前用真人录音将AI复制复制成机器人声音，这使得接听者很难区分电话那头是人还是机器人。

小雷曾经接到过这样一个叫AI的电话。真的很难在两三分钟内听到是真人还是AI。后来发现对面没有呼吸的声音，就判断是AI，但足以蒙蔽别人。

另外，据新京报报道，现在围绕AI技术也形成了一条完整的黑色产业链：上游技术负责销售“AI变脸套餐”，而中游则利用非法获取的个人信息投放诈骗信息，而下游则通过虚拟货币和跑分平台转移资金。“技术、数据、资金”三位一体”，编织了一张AI诈骗网，让很多用户陷入其中。

近两年，使用AI技术假冒名人实施违法行为时有发生。张文宏、靳东、雷军等名人深受其害:骗子用“AI靳东”诈骗，很多女性消费者上当；张文宏博士“带货”冲上热搜，但这是AI变脸后的“张文宏”。稍微懂一点AI的朋友一眼就能看出来是假的，但是还是有很多老人被骗了，在“AI张文宏”买了货。

这件事也让张文宏医生束手无策，他也曾向媒体透露自己没有办法投诉，不胜其烦。

雷军的遭遇更加离谱。2024年国庆期间，“雷军语音包”引发热议。很多以“雷军”声音为配音的内容在社交平台上迅速传播，“锐评”假期堵车、游戏等话题也出现了很多粗言秽语。结果出现了“国庆7天，被AI雷军骂了8天”的调侃。

雷军本人也专门为此发了一段视频，呼吁大家不要再用自己的声音恶搞了。

靳东、雷军等名人的遭遇也让我们看到了AI技术滥用的后果，以前注重耳听为实，眼见为实，但是在互联网AI时代，耳朵听到的可能是假的，眼睛看到的也不一定是真的。

而且使用AI技术围猎的不仅仅是老年人，甚至年轻人也会掉进坑里。据《东南早报》报道，福建某公司老板郭某接到“朋友”的视频聊天，向郭某借钱。不到十分钟，郭某就被骗了430万元。后来发现电话那头是朋友的“数字身体替身”——脸是直接AI换的，声音也是AI拟声技术生成的。问题是受害者对此一点警觉都没有，这有点可怕。

难怪有人担心，以前可以通过观察眼睛、头发、手指等来区分AI是否产生。现在这些伎俩都不是很好。如果AI再次被发现，恐怕真的可以达到真正的效果。

给AI技术戴上“紧箍咒”

小雷非常喜欢一句话，技术上没有善恶之分，有善恶之分的是使用技术的人，这句话是对AI最好、最准确的描述。AI的良好使用可以帮助人类提高效率，更好地处理复杂的事务；当AI技术被用来误导消费者，实施非法行为时，平台和监管者就成了伙伴。

就像上面提到的“苗古金贴”骗局一样，你可以通过AI生成的照片来严格出售假货，这暴露了电商平台审核制度的不足。像电子商务畅销榜这样的名单，平台是否有资格批准登上名单的相关门店？有没有对店铺投放的广告进行逐一排查？如果平台不重视，加强对内容的审批，恐怕会有越来越多像“苗古金贴”这样AI产生的假人可以通过审核的离谱事件。