怎样让科技伦理赶上科技的发展？

最近，一场关于聊天机器人的海外诉讼再次引起了人工智能伦理问题的关注。原告的父母说，聊天机器人建议他们 17 年龄较大的儿童，杀害父母是对其电子产品使用时间有限的合理回应。这种说法被认为是聊天机器人教唆未成年人杀害父母。

无独有偶。日前，中国科学院教授、北京大学教授梅宏在复旦大学举办的第二届中国科技伦理高峰论坛上提出的一系列问题，也引发了与会者的激烈争论:无人驾驶汽车遇到紧急情况，谁的安全优先级更高？亚马逊自助出版系统的青少年和成人当代言情小说以及电子书畅销榜 100 名中，只有 19 本来是真人写的，剩下的都是人工智能生成的，那么，作品的创作和阅读价值又该如何评价、维护呢？

类似的案例数不胜数。许多与会者呼吁，在科技伦理体系不完善的今天，科技界和伦理界必须携手并进，跟随科技发展。

怎样让科技伦理赶上科技的发展，甚至“跑”到科技前面，成为专家学者关注的话题。

与科技发展速度相比，科技伦理“走得太慢”

"从 20 自20世纪中期以来，科技伦理一直受到学术界的关注，现在它变得越来越重要和迫切。“中国科学技术协会-复旦大学科技伦理与人类未来研究院院长王国豫是中国最早从事科技伦理研究的学者之一。在她看来，与科技发展的速度相比，目前的科技伦理还是太慢了。

王国豫提到，现代技术有两个方面，即它可以造福人类，但是一旦失控，也常常会给人类带来不可预知的不良影响。以目前正在快速发展的脑机接口技术为例。一方面可以给患者带来新的生活，另一方面，侵入式脑机接口技术在哪里可以收集和处理人脑数据？人类的情感、思维一旦缺乏伦理规范，将不再仅仅是科幻小说的内容。

事实上，技术的发展也使伦理边界一次又一次地被划分。一位参与者以实验室对病毒的合成和应用为例提到，无论是流感病毒还是脊髓灰质炎病毒，都已经可以在世界各地的许多实验室中生成。一些海外实验室甚至成功合成了小鼠脱脚病毒，一度引起全球科学界的恐慌。那对病毒产生利用的界限到底在哪里？到目前为止，这个问题还没有答案。“在R&D日新月异的情况下，如何让伦理规则跟随技术发展，提前划分技术界限，值得大家思考。”这位学者说。

中国科学院教授、中国科学院大学教授高福也表示:“科学家的科学研究是一种没有边界的自由探索。因为科学本身就是一种知识结构，科学与技术相结合后会有不可抗拒的力量。规范这些技术的边界非常重要，尤其是找到一个大家都能接受的共同伦理标准。”

技术创新，要在“向善”的道路上发展。

还有人担心，关注科技伦理会影响技术创新吗？对此，梅宏态度明确:“为什么不能影响？如果一项技术显然对人类的未来不利，我们为什么要发展它？”他强调，科学技术的发展需要“善良”。

梅宏长期从事计算机软件技术领域的研究。在最近的几份公开学术报告中，他谈到了一些关于当前人工智能热潮的冷思考。 他不由引用 2024 年度诺贝尔经济学获得者，美国麻省理工学院教授达龙 · 阿西莫格鲁和西蒙 · 约翰逊的作品《权力与进步:我们在技术与繁荣的千年斗争》中写道:“目前，人工智能的发展已经失去了方向，许多算法的设计试图取代人类，但技术进步是让机器对人类有用，而不是取代人类。"

梅宏进一步提到，如果没有科技伦理的介入，目前备受关注的大模型对人类的负面影响就在眼前。想象一下，人类社会是在经历了漫长的发展之后，建立了一个基于“发现-验证-传播”的标准化知识结构。但是，如果盲目采用人工智能技术产生的内容，从长远来看，这种“日积月累”会污染人类通过长期的历史积累和演变产生的知识结构。

高福也深深地感受到了这一点，他曾经心血来潮，让研究生问 ChatGPT，早上注射疫苗和晚上注射的效果是否不同，结果，ChatGPT 找来了 5 有关论文、通讯作者、单位等一应俱全，但只有一篇是真的，另外， 4 这篇文章是编造出来的。

“科技伦理体系的构建不是为了约束创新，而是为了让创新在‘善良’的道路上发展。”梅宏说。

技术伦理，应该是每个人的“必修课”

从过去的学科划分来看，科技伦理原本只是哲学下的三级甚至四级学科。目前，越来越多的学者认为这个曾经的“小学科”应该是每个人的“必修课”，尤其是研究人员。

“长期以来，科学家对伦理的关注远远不够。”一位来自生物医学工程领域的中国科学院教授提到，许多研究人员甚至抱怨要填写太多的伦理表格来做老鼠实验。”这在一定程度上说明，研究人员对科技伦理的关注度肯定远低于对科研本身的关注度。"

记者在采访中了解到，目前，在中国科协的指导下，复旦大学科技伦理与人类未来研究所正在推进中国科技伦理协会的筹备，以促进中国科技伦理治理体系的发展和健全。

“加强科技伦理治理是促进负责任创新的重要保证。”王国豫表示，复旦大学是第一批开设应用伦理专业的大学，在全校开设了人工智能伦理课程。未来，学校将进一步推进学科交叉整合，加强科技伦理治理研究和人才队伍建设；同时，通过国际交流合作，加强对科技发展的风险预警和判断，积极参与全球科技伦理治理。

作者：姜澎 张菲垭

文： 姜澎 见习记者 张菲垭 编辑：钱亦琛 编辑：施薇

请注明转载此文的来源。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com