抖音用AI治理AI谣言，“AI抖音求真”或治标不治本
早在2023年年底，生成式人工智能（AIGC）、大语言模型走红时，就有从业者预言AI会成为互联网虚假内容的“制造机”。如今，“AI污染互联网”已成为网友共识。
作为压实平台主体责任的举措，抖音近日上线“AI抖音求真”功能。据介绍，当用户浏览易产生误解的内容或搜索谣言相关信息时，可通过该功能获知事件完整信息和辟谣内容。
抖音相关负责人称，近期将大模型技术用于谣言治理，7月以来平台谣言曝光量下降67%。以往谣言治理靠媒体报道或机构发声，有了辟谣信息后，人工将谣言信息点纳入谣言库，再回查、下架和拦截同类谣言内容。
“AI抖音求真”依托抖音训练的“谣言治理大模型”“资讯大模型”及专门的辟谣运营团队，能精准定义“内容误导性”“公共价值”“可证伪”等谣言特征，主动审查平台上有一定热度的内容，通过提取视频信息、分析主旨、联网搜索，判断内容是否为谣言。
当然，“AI抖音求真”并非万能。抖音副总裁李亮表示，这是新尝试，可能存在不准确、覆盖面不完整的情况，会持续提升，欢迎用户提意见。
抖音最终选择“以AI治AI”。此前百模大战时，抖音、快手、知乎等平台要求创作者添加“内容由AI生成”声明，但创作者担心作品会被限流。内容平台对AI又爱又恨，既希望AIGC丰富内容池，又怕低质量AIGC内容污染生态。
当时，多数用AI创作的人难以做出高质量作品，且最初一批想用AIGC的人“目的不纯”。“内容农场”的自动化脚本易被网民脱敏和平台算法过滤，而AIGC表达能力与人类接近，大厂为让AI表现出与人类相似的智能，使AI与人类难以分辨。
同时，流量分成政策让“AI农场”出现，平台不能取消流量分成，只能用技术手段解决问题。
“AI抖音求真”短时间内只能“治标不治本”。它依托的“谣言治理大模型”通过联网搜索判断内容真假，信源来自权威媒体报道、政务公开平台和历史谣言库样本。所以对以往谣言类型有效，对新内容可能力不从心。其效能取决于“谣言治理大模型”的迭代速度，若跟不上AI虚假内容发展，遇到权威媒体未报道的内容，就只能给出“存疑”判断。
本文来自微信公众号“三易生活”（ID：IT - 3eLife），作者：三易菌，36氪经授权发布。
本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。
免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com