AI应用“玩过界”受到质疑：乱用公众人物的声音，只产生20秒的音频。

最近，一些短视频平台上出现了一大批知名企业家的视频。在视频中，企业家嘲讽和评论了交通堵塞、休息、游戏等热门话题，甚至穿插了不雅的词汇，引起了网友的热烈讨论。

其实那些吐槽视频并不是企业家自己在说话，而是网友用AI软件收集企业家原声产生的配音，但是逼真的效果让很多人信以为真。

AI的发展给生活带来了很多便利，但一些混乱也引起了质疑。以AI语音合成技术为例，只需打开软件，动手，就可以发布一个真实的配音视频。然而，一些视频已经跨越了开玩笑的边界，“偷走”了别人的声音进行恶搞和造谣，带来了极端的社会影响。

一个AI音频可以在20秒内生成

记者在社交软件上搜索AI配音，发现很多用户都发布了形成相关视频的教程。其中，大部分视频的配音都来自于某个拟真语音模型的应用。

在这个应用平台上，创作者上传了一段随机人物的音频作为训练材料，然后AI可以在学习中复制一个声音角色。网站中的其他用户可以通过输入文本来生成内容。

根据该网站的应用指导，记者添加了上述知名企业家的声音角色，输入100字的文本，然后点击“开始生成”。大约20秒后，生成了一个与企业家声音非常相似的AI音频。记者发现，到目前为止，已经使用了79.9万个声音角色，生成了4455.5万个字符。

还有很多公众人物被“偷”了。今年9月底，一段直播平台老板卢某某的酒后音频在网上流传，整体表现出卢某某对消费者的傲慢态度和对相关人员的不尊重，引起了平台的不小争议。经过警方调查，发现音频内容不真实，是大模型伪造的。

一位业内人士告诉记者，AI技术已经能够高度还原音频样本的声音，通过模仿音频样本的语调、语速、情绪、口音、发声等特点，达到人耳和其他鉴定方法难以区分的程度。

AI的发展进入了‘深度伪造’时代，从早期的‘一眼假’到现在的‘真假难辨’。中国社会科学院法学院副教授、互联网法治研究中心主任刘晓春告诉记者，用别人的声音制作AI语音产品，尤其是“借用”公众人物的声音，在未经授权或标注的情况下，很容易引起误解，不仅会损害个人信息安全，还会扰乱网络环境的生态秩序。

滥用他人的声音侵犯人格权。

目前很多网友在生成别人的AI音频时，只是抱着娱乐的心态，并没有意识到背后隐藏的法律风险。记者注意到，在一个“AI配音教程”视频的评论区，有同学问“这样不侵权吗？”？

博主回答说：“每个人都在做，如果提醒违反规定，删除即可。”

对此，北京盈善律师事务所律师张清鑫表示，与“肖像”类似，自然人的声音是唯一的、独特的，是自然人人格的重要组成部分，声音权益是人格权的一种。制作和上传他人AI音频的行为已经构成了对其人格权的侵犯，无论是为了商业目的还是为了娱乐目的。如果配音内容违法或违反公序良俗，可能会侵犯他人的名誉权。

据了解，今年4月，北京互联网法院一审判决了国内首起AI生成声音人格权侵权案件。在这种情况下，配音师将短视频平台和制作人等5家公司告上法庭，因为他觉得自己的作品被AI用于短视频平台生成语音产品，严重侵犯了他的声音权益。最后，原告赔偿了25万元的财产损失。

在审判过程中，被告公司辩称，人工智能生成的声音产品在人身权属性上不同于自然人的声音产品。目前，技术将对人工智能生成的声音进行水印标记，切断了人工智能生成的声音与自然人声音的联系，不会造成对应自然人的人格属性。法院认为，AI声音与原告声音高度一致，可以导致普通人产生与原告相关的思想或爱情活动，可以将声音与原告本人联系起来。在可识别的前提下，自然人声音权利的保护范围可以与AI产生的声音相同。

刘晓春说：“这个判决对于澄清和把握AI产生声音的边界具有指导意义。

治理方法要跟上科技的脚步。

清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近年来，经济和企业AI谣言数量增长99.91%。接受采访的专家指出，法律法规和治理方法要跟上科技发展的步伐，明确约束AI技术的应用，引导科技向好。

张清鑫认为，AI语音软件工具提供商不应该“置之不理”，而应该做好第一道关，加强对根源材料的控制和对生成内容的监督，完善操作规则，在出现问题时积极配合相关部门，追溯非法音频的产生根源。

今年9月，国家网络信息办公室发布的《人工智能生成合成内容识别方法(征求意见稿)》提出，提供网络信息内容传播平台服务的服务提供商应采取措施，规范生成内容传播活动的生成。包括提供必要的识别功能，并提醒用户主动声明生成内容是否包含在发布内容中。

“短视频等传播平台作为内容传播的服务供应商，应当履行相关责任。”刘晓春建议，平台除了提示用户识别外，还应该建立识别和跟踪AI生成内容的机制。一旦发现涉嫌伪造的内容或收到相关投诉，应要求内容发布者及时识别伪造的信息。如果没有标记，内容可以根据平台规则删除，如果造成严重后果，可以禁止和标题处理。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com