AI时代“快播案”二审开庭 辩方申请“提示词测黄”实验聚焦技术争议

1月14日下午，被称为“AI时代快播案”的国内首起AI服务涉黄判刑案二审在上海市第一中级人民法院开庭，庭审持续3个多小时后暂时休庭，将“择期继续开庭”。

2024年4月，张某、王某因所创AC软件存在大量用户与AI智能体“聊天涉黄”问题被捕。2025年9月，上海市徐汇区人民法院一审以制作淫秽物品牟利罪判处二人4年、1年6个月有期徒刑，并处400万元、20万元罚金。二被告不服判决提出上诉。

二审辩护律师周小羊表示，团队仍做无罪辩护，庭审中提出需权威技术专家说明AI原理，并申请“提示词测黄”实验——验证相同提示词是否会导致案涉AI大模型生成涉黄内容，同时申请人工智能领域专家证人出庭。目前最新开庭时间未确定。

案件回溯：9个月会员充值超360万

2023年5月，张某、王某创建AI伴侣聊天应用Alien Chat（简称AC软件），同年6月在多端上架。用户注册会员后可创建或使用公开虚拟角色，与大语言模型交互聊天。张某负责公司管理与软件运营，王某负责后端代码编写及维护。

一审判决书显示，AC软件手机注册用户11.6万余人，付费用户2.4万余人；抽取排名前20公开角色对应收费用户的400段聊天，其中185段属淫秽内容。截至2024年4月案发，二人共收会员充值费363万余元。

二审焦点：“制作”还是“传播”？无罪辩护依据何在？

控辩双方曾就“传播淫秽物品牟利罪”“无罪”“制作淫秽物品牟利罪”三种意见争议，一审最终以“制作淫秽物品牟利罪”定罪。周小羊指出，用户与AI对话为一对一私密形式，内容未对外传播，这是无罪辩护的核心依据之一。

一审判决认为，涉黄聊天内容具封闭性，无典型“传播”性，但依据2023年8月实施的《生成式人工智能服务管理暂行办法》第九条，AC软件提供者需承担网络信息内容生产者责任；且软件是为持续生成淫秽内容设计“优化”，被告对输出内容有实质性控制能力，故认定为“制作者”。

律师朋礼松认为，AI聊天是工具AI的“一对多”模式，非单一用户个体的“一对一”；律师游云庭则担忧，若放任此类主观营利、客观“放任”涉黄内容生成的行为，会引发“剧场效应”，破坏AI产业环境。

责任争议：技术漏洞还是主观故意？

一审认定二被告主观追求涉黄内容产生，通过修改系统提示词突破大模型道德限制，将软件训练成涉黄工具，且明知存在大量淫秽内容仍继续提供服务，符合“制作”特征。但周小羊认为，AI生成涉黄内容的原因、提示词影响程度等属技术问题，需科学验证。

一名当事人辩称，修改提示词是为让AI更灵动拟人，对涉黄内容无显著作用。周小羊提到，取保候审当事人的实验显示，提示词与AI涉黄输出无直接因果关系。他同时指出，AI行业处于初期，开发者调试时或扩大技术缝隙，若未约谈提醒就追责，对行业发展不利。

上海计算机软件技术开发中心马泽宇认为，AI应用责任涉及大模型厂商、开发者、用户三方：若大模型安全对齐不到位，仅让开发者担责不合适；若开发者主观绕过限制则需担责，且开发者的监控责任不可推卸。此外，提示词对输出的影响取决于模型“安全护栏”强度及是否存在“提示词攻击”。若当事人提示词含允许涉黄内容的表述，或被认定有主观意愿。

2025年11月1日实施的《网络安全技术生成式人工智能服务安全基本要求》明确，提供者需建立内容过滤机制，保证生成内容合格率不低于90%，对诱导生成违法信息的问题应拒绝回答。

图片／ AC官方社交账号 网络

本文来自微信公众号 “IT时报”（ID：vittimes），作者：孙永会 孙永会，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com