看着这个 AI 奶奶把骗子耍得团团转,可是让我很开心。

2024-11-19

你好,骗子,我是你的噩梦。




这位慈眉善目的奶奶就在眼前。 Daisy。这是一种反诈骗,没有真人的身体。 AI 高手。


不同于传统的反诈宣传,Daisy 不要苦口婆心地提醒你谨防上当受骗,而要从源头上抓起,和骗子打交道。


天上不会掉馅饼,但是骗子会把诱饵扔给你。


打造 Daisy 最初的目的是利用骗子的坚持消耗骗子的时间,减少后者「扔诱饵」机会,从而更好地保护其它隐性受害者。


回应那句话, 真正的反诈骗胜利并非击败骗子,而是使诈骗不划算。


与其教会一个人防骗,不如浪费一个骗子的时间。


Daisy 幕后开发者来自英国的一家电信公司 O2。


与 Vodafone、EE 和 Three 并排,O2 作为英国四大老牌通信运营商之一。 O2 67%的内部研究表明 英国人担心成为诈骗受害者,四分之一的人每周都会遭受一定程度的诈骗。


O2面临着诈骗者的兴风作浪, 也很头疼。


所以他们想出了一个妙招,那就是创造一个妙招。 AI 奶奶——Daisy,并且让他主动进攻,最多可以和骗子一起进攻。 40 一分钟的通话。


方法有些无私奉献,但又很实用,毕竟折腾完骗子,这样骗子就没有时间去欺骗别人了。



Daisy 角色设定是一位善良的老奶奶,映衬到日常生活中,老人也正是诈骗者最常针对的下手人群。


正式发布的演示 demo 中,Daisy 会和电话那头的骗子聊天,生动地分享她的爱好——编织毛衣,聊聊家里可爱的猫等等。


没有它,通话时间拖得越久越好。


如果涉及到银行卡帐户/密码等重要信息, AI 奶奶也会凭空杜撰,主推一句有回应,一切都没有着落,睁着眼睛说谎。


O2 欺诈行政主管 Murray Mackenzie 杀人诛心地指出,Daisy 其作用在于,她完全扭转了与骗子的游戏趋势。


「通过让他们一直在网上,我们巧妙地在他们身上。『游戏』中国战胜并超越了他们。」



在 Daisy 以前,实际上也有很多类似的工具诞生。


据外媒 The Guardian 据报道,澳大利亚麦考瑞大学团队还开发了一个专门的电信诈骗骗子「聊天」的 AI 机器人 Apate。


如果澳大利亚警方分析并拦截了电信诈骗电话,他们就会转接到这个电话。「受害者机器人」。



创作者 Kafaar 也曾透露过 Apate 故事的出现。 当两个孩子在外面野餐时,他给诈骗来电者讲了一个笑话。


后来,他受到了启发,开始思考如何用无意义的聊天来消耗骗子的时间,从而阻止他们欺骗更多的人。


那时我想,这样做的目的就是欺骗骗子,浪费他们的时间,这样他们就不能和别人说话了。



Apate 还有上百种不同的身份,有的装作懵懂,有的像老人一样说话爱重复,主要是为了不被骗子认出身份。


总之,与其教会一个人防骗,不如浪费一个骗子的时间。


随着技术的升级,人类的判断永远是最后的防线。


AI 快速发展为 Daisy 它的出现提供了一个极好的机会。


Daisy 基于定制训练的大型语言模型(LLM)建设,工作原理和 Google Gemini Live 或者是初始版本 ChatGPT Voice 类似。


简单来说,AI 会转录来电者的声音,然后这个人 AI 奶奶会根据预设的角色性格来调整答案的风格和内容,最后再转化为 AI 奶奶的声音:


1. 将语音转录为文本:将捕获的声音转换为文本的过程称为「转录」。这样,Daisy 能够理解来电者所说的内容,并准备相应的回复。


2. 生成回应:Daisy 使用定制的大型语言模型(LLM)生成回应。这种模式不仅可以理解文本信息,还可以基于前后文和预设的角色性格层。(character personality layer)产生适当的答案。


3. 角色性格层:「角色性格层」是指 Daisy 回答时,回答的风格和内容会根据预设的角色性格进行调整,这样更符合角色设定,比如一个奶奶的亲近和耐心。


4. 文本转换语音:生成的文本回应需要再次转换为语音, Daisy 能通过电话与来电者沟通。这个过程也就是「文本转语音」(TTS),Daisy 使用定制的 AI 模型来完成这个步骤。



另外,在练习的过程中,Daisy 也得到了一个 YouTube 博主 Jim Browning 的支持。


该博主在 YouTube 上拥有 400 万 粉丝是平台上最有影响力的反诈骗者之一。他的视频不仅展示了诈骗手法,还通过详细的技术分析和案例揭示了整个诈骗行业的运营模式。


归根结底,最了解你的人永远是你的敌人,骗子也是如此。


但在 Daisy 在与骗子交谈的整个过程中,几乎没有明显的延迟,因为从听声音、转录文本、生成回应到文本转换语音。


不过,Daisy 不能直接提供 O2 用户使用。


原因很简单,O2 担心顾客会用它来报复诈骗者。 内部研究发现,71% 有些英国人想要报复那些欺骗他们或他们所爱的人的骗子。


另外,据外媒报道 techspot 报告说,这是 AI 该工具已列入骗子常用的易骗号目录。Daisy 可以在 24 小时不间断地与来电者互动,而且不需要人工控制。



但问题是, 现在有两种骗子,一种是不懂。 AI 的,一个是理解 AI 的。


不久前,创业公司 Bland AI 在 X 该平台声称,在模型的加持下,其产品将成为世界上最快的对话。 AI,而且可以不存在「幻觉」沟通的情况。


此外,Bland AI 机器人还具有极其自然的生成语音和多种语言切换。


除了善于模仿人类真实对话的语调和间歇,外媒 WIRED 在技术测试中,Bland AI 机器人甚至可以否认自己是 AI,并且虚报其真实身份。


包含 APPSO 此前仅用了 10 秒的时间可以是0 声音克隆的费用。


在 AI 随着技术的提高,这些工具很容易被犯罪分子反过来欺骗我们。


矛盾的是,电话一端连在一起。 AI 骗子,电话一端连接 AI Daisy,双方不断地循环着一个赞美,一个调侃。 懂得做事的人都知道,这其中的修养有多深。


而且早些时候,智能电话系统已经很完善了。


只需向服务提供商提出要求,后者就可以快速搭建管理平台。通过简单的界面操作,客户可以设置演讲、模板、通信线路等数据,导入联系人信息后即可启动自动呼出功能。



所以,国内手机厂商在这方面也做了很多努力。 举例来说,国内大部分手机系统都提供了自动识别和阻挡伪基站的功能。


此外,您还可以在电话拦截设置中打开它「在线识别陌生号码」功能,使系统更准确地识别和拦截骚扰电话。


诈骗本质上是一种选择游戏,骗子不在乎失败。 999 第二,他们只需要成功 1 次。


被骗,一切归零。


诚然,诈骗手段千变万化,但是下面这个官方的反诈骗公式永远不会过时。


「角色(陌生人) 沟通(各种通讯工具,反正是见不到面的) 要求(转帐汇款,反正是谈钱)=诈骗。」


在 AI 骗子和反诈骗技术在时代都在升级,人类的判断永远是最后的防线。


本文来自微信微信官方账号“APPSO”,作者:APPSO,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com