人工智能：你是打击诈骗的奶奶，还是另一个网络骗子？

最近，英国电信公司O2推出了一个非常“特别”的角色——黛西奶奶（Daisy）。她的工作很简单：通过长篇大论，讲述家庭琐事，编织一堆无关紧要的故事，拖延电话诈骗者的时间。

黛西的目标是什么？当然是“打击犯罪”！她的任务是让骗子浪费时间，防止他们伤害真正的受害者。想象一下，一位热衷于编织的奶奶正在打电话给你，告诉她她有多喜欢编织毛衣，然后突然开始提到她的“假银行账户”。想到这一幕，人们忍不住笑了。

你有没有在日常生活中接到过一个电话，电话那头的声音听起来很熟悉，但是你知道这不是一个真正的人吗？你在社交媒体上看到过一个看似“亲密”的视频吗？里面的人好像是你认识的朋友，甚至是明星，但显然有点“不对”？是的，这就是人工智能。（AI）力量-它能使你分不清真假，甚至在不知不觉中被利用。它暴露了一个我们必须思考的问题——人工智能究竟是用来做“社会好助手”还是“社会大麻烦”？

AI的正面力量：打击诈骗的“新武器”

让我们回到黛西的故事。“奶奶”AI是O2企业通过模仿奶奶的说话方式，通过模仿奶奶的说话方式，努力打击电话诈骗进行“喋喋不休”的反诈骗。根据O2的数据，67%的英国人担心被骗，四分之一的人每周都会被骗。毫无疑问，黛西的出现为这些受到欺诈困扰的人提供了一个新的“战士”。在看似毫无意义的聊天中，她拖住了骗子的脚步，甚至让骗子最后愤怒地挂断了电话。

这个应用令人欣慰。这是AI被用于社会利益的一个案例——AI为社会提供了额外的保护屏障，成为帮助人类抵御网络诈骗的有力武器。黛西的成功不止于此。在许多情况下，她成功地避免了真正的受害者与骗子的接触，打破了骗子的套路，迫使他们陷入无聊和无效的对话。

AI的黑暗面：骗子的“新黑技术”

但是，就像每一个英雄都可能成为反派一样，AI也有另外一面——冒用声音和虚拟身份的危险。最近，在全球范围内，有许多关于“AI声音假冒”的例子逐渐浮出水面。AI技术正在悄然改变我们对“真实”的概念，从骗子用AI模仿家庭声音骗钱，到深度伪造名人视频。一个典型的例子是，一个黑客团伙用AI重建了世界著名演员的声音，并通过虚假声音电话向粉丝推销产品。虽然这类AI声音很真实，几乎没有任何缺陷，但却深深地侵犯了明星的隐私和肖像权。

更糟糕的是，人工智能被用来制造虚假新闻和舆论困境，甚至在政治领域，人工智能声音被用来伪造政治人物来骚扰选民。举例来说，在美国大选期间，骗子们已经开始假装拜登给选民打电话，依靠AI产生的声音。您没听错，AI可以让任何人说“我是拜登”，再说一些“请支持我”的话，选民也可以因为心软而投票。最令人担忧的是，这项技术很容易被骗子使用:如果骗子打电话给你亲戚的声音，告诉你“我迷路了，你能给我一些钱吗？””“你可能真的被骗了。这个就是AI的另一面：从帮助“奶奶”到让骗子“开挂”，一步之遥。

这项技术带来的最大问题是“信任危机”。当AI足够真实，可以模拟任何人的声音、外表甚至行为时，我们就再也无法仅凭感觉来判断谁是真的，谁是假的。当信息泛滥时，我们如何保护自己免受虚假信息的侵害，防止被AI技术控制？

AI向善：超越奶奶，成为更好的社会参与者。

如果AI能做好事，不仅要处理诈骗问题，还要在社会上发挥更大的作用。想象一下，如果每个家庭都能有一个“智能奶奶”，它不仅可以过滤掉电话诈骗，还可以在孩子的作业中提出建议，帮助他们在购物时分析价格的性价比，甚至在面对各种信息时进行逆向思考，帮助你做出更明智的决定。如果AI善良，它不仅是防守者，而且是全天候的“守护神”。

AI可以帮助医疗诊断，帮助医生更准确地诊断疾病，甚至提前警告一些健康风险。想象一下，AI可以扫描你的健康数据，提前“听到”潜在症状，提醒你及时就医，比任何专家都要快速准确。

AI也可以成为更聪明的教育工具，帮助那些因为某些原因被“忽视”的孩子。它可以根据孩子的兴趣、学习习惯和个性提供个性化的学习计划，甚至模拟一个“虚拟教师”，帮助他们完成学习任务，提供情感支持。通过不断的学习和自我优化，AI可以成为知识的传递者、情感的安慰者，甚至是精神的守护者。

另一种可能是AI可以成为城市中的“安全巡逻员”。AI可以通过人脸识别和声音分析技术监控公共场所，识别潜在危险，并及时报警。例如，在公共交通网站上，AI可以发现任何异常现象，并通过分析人们的情绪波动、语言交流和行为迅速做出反应。这不仅是“AI反诈骗”的升级，也是“AI反诈骗”的跃升。

AI还可以帮助政府和企业在更广泛的社会层面做出更准确的决策。AI可以通过对大量数据的分析，提前预见社会问题的趋势，并给出预防重大社会危机的解决方案。

伦理与监督的考验：谁来决定AI的界限？

在这样一个AI飞速发展的时代，我们应该正视一个问题:如何控制人工智能的发展？它有很大的未来，但如果没有有效的伦理框架和监管机制，AI很可能被用来违反社会秩序。

AI的伦理问题不仅限于如何保护个人隐私，如何避免盗用身份等技术。更重要的是，我们应该思考如何让AI的应用保持透明和公平，并在合适的场景中帮助它。例如，像黛西这样的“善良AI”令人欣慰，但这也引发了一个更深层次的问题:谁来决定AI的作用？它能有“道德感”吗？在处理诈骗时，能否避免过度侵入个人生活，或者作为“恶意骚扰”的工具被滥用？

AI的一个难点是它本身没有“道德感”。我们不能告诉AI："不，你不能模仿这个人的声音！"它只是按照程序做事，能否保持“正确”主要取决于它的设计和应用领域。

目前，全球对AI的监管处于相对模糊的状态。美国、欧洲等地都在努力推进相关法律法规，但面对如此复杂快速的技术，现有的法律法规似乎有点落后。尤其是在语音模仿、虚假信息传播等领域，AI的潜在威胁仍然难以定义。

未来的AI，是保护还是威胁？

作为一种技术工具，AI本身没有善恶之分。它就像一把双刃剑，不仅能给社会带来好处，还能给人们带来巨大的风险。如果你觉得AI和黛西奶奶一样可爱，请不要懈怠太快。在未来的某一天，AI可能不仅是骗子的天敌，也是你生活中的“大麻烦”。它可以是守护者，也可以是毁灭者，可以帮助你远离欺诈，让你陷入更复杂的欺骗。与此同时，语音技术的滥用也为我们敲响了警钟:如果AI被用来侵犯个人隐私，控制舆论，也可能是一个巨大的威胁。

未来，我们必须学会与人工智能相处，但这并不意味着我们必须盲目拥抱它。我们应该有更清晰的规则和伦理框架来引导和完善人工智能的应用。只有在这个健康透明的环境中，人工智能才能真正成为“好”的一方，而不是可怕的“恶”。

希望有一天，AI带来的不是信任危机，而是信任重建。今天，它让骗子头疼；未来，它应该成为我们安全感的来源，而不是新的恐惧来源。

(作者胡逸是大数据工作者)

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com