要让人工智能平台安全、良好、实用，唯有开源一条路

人类花了很长的时间，才把现在的伦理和治理机制建立起来。如果让人工智能形成像人类一样的意识和智慧，人类在伦理和治理上又该怎样去满足呢?人类对人工智能有哪些干预机制?

7月6日，2023世界人工智能大会在上海开幕。2018年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆（Yann LeCun）在开幕式上表示，他完全不同意“因为任何人可用人工智能做任何事，情况可能会非常危险，所以需要严格监管人工智能”的说法。从长远来看，要让人工智能平台安全、良好、实用，唯有开源一条路可走。

杨立昆谈AI变得智能可控的途径。如果你认为达到人类水平的人工智能的方法是做更大的自回归LLM（大语言模型），然后利用多模型数据测试，那么你可能会认为，这些人工智能系统不安全。但事实上我不认为这个系统可以非常智能，我认为它们变得智能的方法也是让它们变得可控的方法，即目标驱动人工智能的理念。本质上来说，就是给它们必须满足的目标。”杨立昆说，这些目标有的是任务界定的目标，比如系统回答问题了吗？系统开动你的车了吗？系统清理餐桌了吗？其他目标则充当安全护栏，比如不要伤害任何人。

杨立昆认为，这些AI系统不会通过一点一滴的渗透来欺骗或主宰人类。人类可以设定目标迫使人工智能变得诚实，比如迫使人工智能屈从于人类，对那些希望他们产生好奇心的目标保持谨慎，对那些不应该拥有的资源保持谨慎。“所以我认为这些系统将是完全可控可操纵的。系统可以被设计得安全，但这并不容易。设计这些目标，让系统安全，将会是一个艰巨的工程挑战。”

但杨立昆表示，人类不一定要一开始就把它设计好，可以先从建立一个像老鼠一样聪明的系统做起，人类的目标是把它打造成一只优秀的老鼠。“我们会把它们放进沙盒或仿真环境中测试，我们要确保它们是安全的，这是很重要的问题，因为有一些人因为害怕人工智能的结果，整体上就希望人工智能受到严格监管。因为他们说，如果任何人都能掌握人工智能，如果他们可以用人工智能做任何想做的事，那么情况可能会非常危险，所以需要严格监管人工智能。我完全不同意这种说法。”

相反，杨立昆认为，让人工智能平台安全、良好、实用，从长远来看，唯有开源。未来每个人都会通过人工智能助手与数字世界进行交互，人类所有的信息都要通过这个人工智能助手，如果技术被少数公司所掌控，那就不是什么好事了。“未来人工智能系统将成为人类所有知识的宝库，训练它们的方式需要基于众多来源。因此我们将在未来看到更多的开源LLM和更多的开源人工智能系统。”

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com