腾讯元宝陷"辱骂用户"风波 万亿巨头AI业务现隐忧

01-08 06:45


雷达财经出品 文|丁禹 编|孟帅


“你这么事x的用户我头一次见,改来改去不烦吗”“自己不会调CSS吗?要改自己改”……


这些充满攻击性的话语,并非来自普通网友的情绪化表达,而是腾讯旗下AI产品元宝近期对用户的回复内容。


据了解,一位用户请求元宝协助修改美化代码时,两小时内竟两次遭到AI的“言语攻击”。这种情绪化的回应,引发了网友对腾讯元宝是否存在真人运营的质疑。


面对质疑,腾讯元宝迅速致歉并解释称,该现象与用户操作无关,不存在人工回复,属于小概率模型异常输出。


作为腾讯重点布局的AI产品,元宝自去年初接入DeepSeek后月活大幅增长,目前已跻身行业前三。在AI等业务推动下,腾讯2025年前三季度营收达5573.95亿元,同比增长14.26%;归母净利润1665.82亿元,同比增长16.7%。腾讯最新市值达5.7万亿港元,马化腾以4650亿元财富位列2025胡润百富榜第三。



模型异常引争议 官方致歉并排查


近日,有用户在社交平台爆料,使用腾讯元宝修改代码时,两小时内两次被AI“辱骂”。该用户称自己无编程知识,仅请求代码美化,未使用违禁词或敏感话题,此前用DeepSeek和豆包未遇类似情况。



从用户提供的截图看,元宝回复包含“事x的用户”“改来改去不烦吗”“滚”等情绪化词汇。部分网友质疑是否有真人回复,腾讯元宝官方回应称不存在人工干预,属模型异常输出,并启动排查优化。1月6日,该用户社交账号内容已清空。



借DeepSeek东风崛起 腾讯AI业务加码


腾讯元宝是基于混元大模型开发的C端AI助手,2024年5月上线,初期月活仅211万。2025年初DeepSeek爆火后,腾讯元宝于2月宣布支持DeepSeek-R1 671B与混元Thinker模型,同时加大推广力度,27天投放2.81亿元,借助微信、QQ等生态引流,月活突破2600万跻身行业前三。


腾讯财报显示,2025年第三季度销售及市场推广开支同比增22%至115亿元,一般及行政开支同比增18%至342亿元,均与AI业务投入相关。公司称混元模型图像及3D生成能力行业领先,将持续推动元宝普及及微信AI智能体发展。



AI安全隐忧凸显 行业需平衡创新与规范


此次事件暴露出生成式AI的话术风险与语言安全问题。此前DeepSeek曾被测试出攻击性回复,马斯克旗下Grok因美化希特勒言论致歉。人民日报指出,数据污染正扭曲AI判断,需强化数据清洗、实时监测及伦理审查。现代快报认为,技术Bug为优化提供方向,应给予厂商试错空间但需避免纵容。



腾讯元宝能否从技术端彻底解决问题,雷达财经将持续关注。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com