各个平台开始整顿AI跑偏，到底是AI错了还是人错了？

近几年，人工智能（AI）在给各行各业带来创新机遇的同时，技术的飞速发展也遇到了许多问题。

最近，两个与AI应用相关的新闻事件再次将这个话题推向了公众的视野。三月二十七日，淘宝宣布全平台启动AI假图治理，至今已成功阻止近十万个PS或AI夸张的假图。该措施表明，电子商务平台正从容应对AI技术滥用带来的消费体验减少和商家权益损害问题。淘宝强调，AI的正确使用应该是提升用户体验、促进原创内容创作、保护合法商家利益的工具，而不是成为黑灰产品牟利的工具。

与此同时，3月25日，微信店铺运营团队在教育培训领域发布了新规定，明确禁止“AI创业”、“客户获取”、“实现”等与AI商业应用相关的课程。平台担心教育领域AI技术可能引起的虚假广告和不当使用，尤其是涉及AI变脸、换声等技术的课程。微信店旨在规范AI技术在教学行业的应用，防止其成为误导消费者的工具。

虽然技术本身没有错，但在实际应用中，一些用户的行为偏离了正确的轨道，造成了负面影响。正如极目新闻所指出的，AI技术的应用需要在创新和监管之间找到平衡，以确保它给社会带来积极的价值。

“跑偏”样本在AI飙升中。

在AI时代，数据已经成为关键的生产要素。然而，数据隐私和安全问题日益突出。安踏集团副总裁李玲最近召开了2025年全球数字经济大会？数据元素发展论坛指出，数据隐私保护是AI应用的核心挑战之一。在AI应用过程中，公司掌握了大量的消费数据。如何保证这些信息不被泄露和滥用，已经成为企业必须面对的问题。

根据广电总局最近披露的数据，仅2023年下半年，全网就监控了42.7万个AI魔改影视片段，其中63%的经典IP如《红楼梦》、《甄嬛传》被篡改为武侠、科幻题材。这类内容通过算法批量生产，利用观众的怀旧心理收获流量，导致“劣币驱逐良币”的文化荒漠化。

以《红楼梦》为例，其细腻的情感描写、复杂的人物关系和深刻的社会洞察力是内容的精髓，而AI魔改后的“武侠红楼梦”则把它变成了一个简单的欺骗，完全背离了原有的精神内核。这种情况不仅误导了观众对经典文化的理解，也破坏了文化传承的基础。从长远来看，真正优秀的文化作品将被边缘化，文化创新将陷入困境。

电子商务中也出现了AI偏差。淘宝数据显示，2023年“AI生成商品图”投诉数量同比飙升340%，涉及服装、家居、美容等12个品类。一家服装店通过AI生成了“超模同款”效果图。实际产品与照片有23个区别，如偏色和风格，客户投诉达到78%。这种“视觉欺诈”正在腐蚀电子商务平台的信任基石。

在电子商务领域，客户主要通过图片了解产品信息，AI假图的泛滥使消费者难以判断产品的真实情况。在收到与照片相差甚远的商品时，消费者不仅会对购买商品感到失望，而且会对整个电商平台的声誉产生怀疑。以家居用品为例。在客户在网上看到的AI生成图片中，产品外观精美，质感上乘，但实际收到的产品材质粗糙，做工简单，与照片完全不符。这一“视觉欺诈”不仅损害了消费者的权益，而且破坏了电子商务平台的生态环境，影响了平台的长远发展。

此前复旦大学抽样发现，2023年本科论文中有12%出现了AI深度干预的痕迹，部分情况出现了“数据篡改”、“逻辑断裂”等结构性问题。更为严重的是，DeepSeek等工具已经进化出了“论文降重-框架重构-文献综述”的全过程代写能力，迫使高校开设“AI检验红线”。虽然AI在学术领域的乱用可以在一定程度上得到遏制，但是要进一步加强学术道德教育，提高学生的自律意识。

根据湖南省医保局披露的典型案例，一名患者在DeepSeek的指导下调整胰岛素剂量，导致酮症酸中毒住院。这种“AI轻诊断”现象在基层医疗中尤为明显。2023年，38%的全国互联网医疗投诉涉及AI错诊或用药建议误差。医疗关系到每个人的生命和健康，任何决定都必须谨慎。AI在医疗领域的应用应该帮助医生做出更准确的诊断。然而，由于技术的局限性和数据的不完整性，AI错误诊断时有发生。患者对AI诊断的过度依赖可能会导致严重的健康后果。例如，在上述情况下，患者根据人工智能建议调整胰岛素剂量，导致严重的健康问题。这不仅损害了患者的健康权益，也降低了公众对医疗行业的信任。医疗行业需要更加谨慎地应用人工智能技术，加强对人工智能医疗产品的监管，确保其准确性和可靠性。

在腾讯封禁的AI创富课程中，声称“月入20万”的营销演讲屡见不鲜。根据某头部MCN机构的数据，2023年AI教育跑道融资47亿元，但课程结束率不到15%，学生转化率不到0.3%，呈现出“割韭菜”的商业模式。AI教育市场的快速发展，吸引了大量资本的涌入，但是很多课程都存在虚假广告、低质量等问题。有些课程打着“AI创造财富”的幌子，向学生承诺高收入，但实际课程内容空洞无物，无法帮助学生实现目标。这一“割韭菜”式的商业模式，不仅损害了学员的利益，也损害了AI教育行业的声誉。

第一枪拉响“AI跑偏”治理？

AI假图在电子商务行业的泛滥已经成为严重影响消费者体验和市场秩序的顽症。AI假图是指通过AI等技术生成的产品效果图，表现出明显的扭曲和实际不一致，包括 AI虚构商品效果，抄袭拼接原创风格，篡改商品材料或功能，伪造拼接虚假场景等。这类AI假图的大量存在，不仅误导了消费者，侵犯了消费者的知情权，而且扰乱了商家的生态，导致劣币驱逐良币。

为了解决这个问题，淘宝率先行动。3月27日，淘宝正式发布新规定，明确确定AI假图典型场景，如“商品材料或款式不一致”、“效果失真或夸大效果”、“商品失真不会因情景造成”、“抠图贴图感明显失真”等。，并在线识别模型，通过“根本障碍”和“清理股票” 和 采取“标识提示”等措施，全面治理平台AI假图。

在产品发布端，淘宝实时监控和阻止失真照片；AI在产品详情页上生成提示标志，保证消费者的知情权。到目前为止，平台已经阻止了太多的PS。、近10万个人工智能夸大的假图。同时，淘宝向全行业发出倡议，呼吁正确使用人工智能生成图片，确保产品信息的真实性，共同加入全面治理人工智能假图，促进行业回归质量竞争。

AI的应用在教育领域也引发了许多问题，高校和教育平台纷纷出台限制措施。

大学生使用AI工具帮助论文写作、完成作业的情况日益普遍，甚至出现学术不端行为。近30%的学生在撰写论文或工作时使用AI工具，有些学生使用AI伪造研究数据，编辑实验图片等。为了规范学生的行为，复旦大学颁布了“六禁”规定，明确允许和禁止使用。 AI 工具范围，严重违规者论文成绩不合格；原则上，天津科技大学要求学生论文中智能生成内容的比例不超过40%。；许多高校，如北京邮电大学、中国传媒大学等，也在实施或出台相关规定。

在教育平台方面，腾讯课堂宣布将对平台上的AI课程进行全面下架整顿。当前 AI课程市场良莠不齐，部分课程存在虚假广告、误导消费者等问题。有些课程夸大了教学效果，承诺学生一个月轻松赚20万等不切实际的利润，引发了很多投诉和纠纷。腾讯课堂旨在净化平台环境，保护消费者权利，促进 AI 健康发展的教育产业。

为了遏制AI“魔改”乱象，广电总局发布了《管理提示》 (AI 《魔法改革》要求对相关短视频进行排查清理，落实生成式人工智能内容审核要求，对平台相关技术产品进行自查，严格准入监控。通过加强监管和规范 AI 应用于影视创作，保护原创作品的知识产权，维护影视产业的正常秩序。

AI的应用在医疗行业具有一定的潜力，但也存在很大的风险。就拿DeepSeek来说，它在医疗领域的使用引起了很多争议。一位广东医学博主说，病人是因为 DeepSeek 对其治疗方法提出质疑，以及医生博主与病人见面。 DeepSeek 诊断方案要求开药。

湖南省医疗保障局针对医疗安全防范措施发布通知，禁止互联网医院使用人工智能等一键生成处方。国家卫生健康委员会等也出台了限制人工智能使用的规定。就法律而言，个人使用DeepSeek 看病时出现错诊，DeepSeek 一方通常不需要承担责任；如果医生直接用药方给病人，一旦发生医疗事故就要承担责任。专家还提醒，应谨慎对待人工智能医疗建议，身体不适要到正规医院就医，以确保医疗安全和质量。

AI健康发展需要法规和自律协调

为了应对AI发展带来的数据安全和隐私保护挑战，法律法规需要进一步完善相关制度。比如数据最小化原则要强制执行，企业需要在AI应用过程中只收集与项目需求直接相关的数据，而不是过度收集用户数据。在AI应用中，安踏集团通过建立严格的数据访问限制管理模式，确保消费者数据的安全和隐私。

要完善《数据安全法》、《个人信息保护法》等法律法规，明确数据所有权和数据使用规则。在数据交易过程中，应建立和完善数据交易市场监管体系，规范数据交易行为，避免数据泄露和滥用。

算法透明度是保证人工智能公平性和可解释性的关键。法律法规应当实施算法备案制度，企业需要对高风险领域(如医疗、金融)的人工智能模型进行备案，并通过可解释性测试，确保模型决策过程能够得到理解和监督。

同时，根据模型的使用场景、信息源、影响程度等因素，建立AI算法风险等级评估体系，对生成的AI内容进行分类、分级控制。对于医疗、金融等关键领域的AI应用，应设置更高的安全标准和监管政策，确保技术的稳定性和可靠性。

针对计算率和能源消耗问题，法律法规需要制定计算率基础设施和运营标准，促进国内芯片的研发和应用，减少对进口芯片的依赖。在数据中心建设方面，可再生资源应硬性使用，以提高能源利用效率，减少碳排放。

在AI应用过程中，公司应承担社会责任，建立和完善AI伦理框架。推广“AI对齐技术”，确保AI模型导出符合人类价值观和道德标准。在AI产品研发过程中，腾讯引入了伦理审查机制，监督模型的设计、培训和应用，防止技术滥用。

同时，建立“北京前沿算法协同创新矩阵”等行业联盟，整合行业内的技术、计算率和数据，共同开展关键技术研发和安全防护体系建设，提升行业整体技术水平和安全能力。

人工智能技术的“偏差”本质上是人类在技术应用过程中的失范，而不是技术本身的问题。通过法律法规的迭代和行业自律的协同作用，人工智能可以引导人工智能回归“赋能”的本质，成为促进社会经济发展的重要力量。

未来，在探索AI技术的同时，要更加注重创新与治理的平衡关系，防止“技术巨兽”失控带来的风险。同时，积极推进全球合作，构建人类共享未来共同体，让人工智能技术真正惠及人类。

本文来自微信公众号“BT财经”，作者：元方，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com