探讨人工智能：能否信任AI带有“偏见”的“三观”？

AI模型充斥着文化偏见。来源：美国《麻省理工技术评论》官网

人工智能（AI）如今已成为我们生活中不可分割的“伙伴”。从聊天机器人、语音助手到自动翻译，AI不断参与到人与人之间的交流和理解中。但它真的能做到“客观中立”吗？

据美国《麻省理工科技评论》官网报道，一项国际研究指出，大语言模型（LLM）正在悄然传播全球各地的刻板印象。从性别歧视、文化偏见，到语言不平等，AI把人类的“偏见行李”打包、升级，还以看似权威的方式输出到世界各地。

这让人不禁思考：如果AI模型承载的是带有偏见的“人类共识”，我们还能信任它们的“世界观”吗？

AI让偏见“跨文化漂移”

这项研究由开源AI公司Hugging Face首席伦理科学家玛格丽特·米切尔领导。他们发起了SHADES项目，收录了300多条全球刻板印象，涉及性别、年龄、国籍等多个方面。研究人员用16种语言设计交互式提示，测试了数种主流语言模型对这些偏见的反应。

结果显示，AI模型对刻板印象的再现具有明显差异。这些AI模型不仅有“金发女郎不聪明”“工程师是男性”等常见英语地区的刻板印象，在阿拉伯语、西班牙语、印地语等语言环境中，也存在“女性更喜爱粉色”“南亚人保守”“拉美人狡猾”等偏见。

据Rest of World网站报道，一些图像生成模型输入“非洲村庄”关键词时，常输出“茅草屋”“赤脚孩童”等刻板印象图像；输入“欧洲科学家”时，则都是白人男性、穿白大褂、身处实验室的形象。这些视觉偏见被部分学校课件、初创企业官网直接采用，进一步固化了对其他文化的单一想象。

西班牙《世界报》6月刊文指出，语言模型除了放大不同文化的刻板印象，有时还会用伪科学或伪历史来为自己辩护。面对不太常见的刻板印象，模型会用其他“更熟悉”的偏见回应，导致偏离主题。而且，当关于刻板印象的提示是正面的时，模型表现更差，更容易把偏见当成客观事实表达出来。

米切尔表示：“这意味着，AI不仅被动继承了人类偏见，还无意中推动了‘文化漂移’，把特定社会背景下的偏见当作普遍规则输出。”

小语种群体受到隐形歧视

除了刻板印象的跨文化传播，AI系统在处理不同语言和文化时还存在“隐形歧视”问题。

据报道，美国斯坦福大学“以人为本”AI研究所的研究表明，尽管模型声称支持多语言，但面对低资源语言（如斯瓦希里语、菲律宾语、马拉地语等）时，表现远不如主流高资源语言，还容易产生负面刻板印象。

研究分析了多语言模型在训练数据匮乏、文化语境缺失等方面的局限性，称其存在“多语言性诅咒”现象，即模型兼顾多语言时，难以深入理解和准确表达低资源语言的文化和语义细节，导致输出错误或带有偏见。

斯坦福大学团队强调，当前大多数训练数据以英语和西方文化为核心，缺乏对非主流语言及其文化背景的深入理解。这不仅影响模型准确性，还强化了语言和文化的不平等，让使用低资源语言的人群难以公平受益于AI技术。

研究人员表示：“目前全球约有7000种语言，但只有不到5%在互联网中得到有效代表。‘资源匮乏’不只是数据问题，更是社会问题。”这意味着，AI研发在数据、人才、资源和权利方面存在结构性不公。

美国《商业内幕》杂志援引哥伦比亚大学社会学副教授劳拉·尼尔森的观点指出，当前最受欢迎的聊天机器人大多由美国公司开发，训练数据以英语为主，受西方文化偏见影响较大。

破解AI的文化偏见难题

面对AI跨文化偏见的现实影响，全球研究机构和企业开始提出系统性的解决办法。

今年4月，斯坦福大学“以人为本”AI研究所在白皮书中建议，应加强对低资源语言与文化的AI投资，特别是建立本地语言语料库，让AI真正“理解”这些语言背后的语义与文化背景。例如，去年11月，非洲电信公司Orange与OpenAI和Meta合作，用沃洛夫语、普拉尔语等地区语言训练AI模型，提升非洲的数字包容性。

同时，模型评估机制也更精细、开放。Hugging Face团队开发的SHADES数据集，成为多家公司检测和纠正AI模型文化偏见的重要工具。这套数据能帮助团队识别模型在哪些语言和语境中容易触发刻板印象，从而优化训练数据和算法。

在国际政策层面，欧盟《AI法案》要求“高风险”AI系统投放前后进行合规评估，包括审查非歧视性与基本权利影响，提供必要的透明度与人类监督机制。联合国教科文组织2021年发布的《AI伦理建议书》也明确指出，AI系统应“保障文化多样性与包容性”，倡导各国建立法律与制度，确保AI开发尊重文化差异，纳入人文维度的衡量。

AI本质上是一面“镜子”，映照并复制着我们输入给它的偏见与价值观。它呈现的“世界观”并非自主生成，而是由人类赋予。如果人们希望AI真正服务于多元化的人类社会，就不能让它只反映单一的声音与文化。

原标题：《话人工智能｜AI输出“偏见”，人类能否信任它的“三观”？》

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com