甄嬛传变枪战片？媒体：管理好AI魔改视频，让科技向善落地。

利用人工智能赋能各个行业各个领域的发展，同时避免技术异化，引导技术向上发展，使其真正成为促进社会进步、提高生活质量的有力工具，应该是多方积极努力的方向。

《甄嬛传》变成了“枪战片”，《红楼梦》变成了“武打剧”，孙悟空骑着摩托车转身离开了...据新华社12月10日报道，广电总局网络视听司近日发布《管理提示(AI魔改)》，指出近期AI“魔改”视频真假难辨，“魔改”经典现象频发，要求相关省局督促辖区内短视频平台对AI“魔改”影视剧短视频进行排查清理。时间限制反馈工作；认真落实生成式人工智能内容审核要求，举一反三，对各自平台开发的大模型或AI特效功能进行自查，严格准入监控平台上使用和传输的各种相关技术产品，显著提醒AI生成内容。

“在AI‘魔改’视频中，没有人知道下一秒会发生什么。”“我以前在电视上看什么，现在用AI做我想看的。”——在社交媒体上，有网友总结了“AI魔改”视频的“无所不能”。这些视频大部分都是创作者脑洞大开的，在AI视频软件或者平台上为经典影视剧中的著名场景设置了另一个离奇的情节，通过提供图片和文字描述的方式生成。他们大多追求意想不到的下巴。对此，很多网友表示“乍一看感觉新鲜，但没有底线去修改经典，传达的价值观大多是错误的，是过度娱乐”，有网友直言“很多人可能笑过去了，但对于剧粉来说，感觉自己毁了角色”。

在这样的现实中，广电总局发布管理提醒，有必要对这类视频进行规范和监督。提醒中“相关视频为流量，亵渎经典IP没有界限，冲击传统文化认知，违背原有精神内核，涉嫌侵权”的表述也一针见血地指出了“AI魔改”视频的危害。

近年来，人工智能产业蓬勃发展，技术迭代升级速度惊人。新鲜强大的产品不断创新技术落地的场景，改变了每个人的生产生活。然而，技术的应用不时会带来一些隐患——“AI变脸”可以让一辈子没走出深山的叔叔张开嘴，“英语飙升”，“AI复活”可以让死去的明星对大家说“其实我并没有真正离开”，“AI换声”可以随意复制任何自然人的声音...不难想象，在这些操作下，有心人可以通过炮制名人音频作品的真实性来区分。一个特定的人甚至可以假冒精确的“杀熟”、实施诈骗…当亲眼看到、亲耳听到的东西都变得不可信，后果可想而知。道德伦理、信息安全、侵权等问题。由AI技术的滥用可能带来的，不仅会严重污染网络视听空间，还会给“科技改变生活”蒙上阴影。

毫无疑问，任何技术的应用和发展都应该建立在满足道德伦理、社会规则和法律的前提下。在避免技术异化的同时，利用人工智能赋能各行业各领域的发展，引导技术向上发展，使其真正成为促进社会进步、提高生活质量的有力工具，应该是多方积极努力的方向。

对涉嫌违反法律法规、社会道德和社会道德的人工智能应用进行防御和抵制，并认真对待有潜在风险的人工智能应用，已经采取了许多治理措施。从《生成式人工智能服务管理暂行办法》颁布、《人工智能生成合成内容识别办法(征求意见稿)》颁布，到相关职能部门及时“发言”整顿相关乱象，再到互联网大会上积极讨论“AI向善”、在共同绘画与人工智能共存的未来，AI技术这种高速列车，需要科学的信号引导，需要多方的保驾护航。同时，控制过程中面临的一些挑战也要引起重视，比如AI训练中使用的算法模型存在问题，使用的数据存在侵权风险，不同级别的监管者法律责任界限不明确。相应的监管手段也要避免临时性、应急性，让“科技向善”更有针对性，落地有声。

就在这几天，有媒体报道称，江苏无锡街道出现了“AI交警”，提示行人或非机动车越线、闯红灯，交警24小时守候。希望未来的人工智能技术不再伴随着“麻烦”和“侵权”，而是成为赋能美好生活的代名词，给公众更多的快乐、收获和安全感。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com