下一轮人工智能机会：从‘处理’到真正的‘理解’

人工智能究竟是帮手还是对手？9月5日，在2024 Inclusion·外滩大会期间，中国科学院自动化研究所研究员曾毅联合国人工智能高级咨询机构专家、北京人工智能安全与治理实验室主任、研究员曾毅在接受包括澎湃在内的媒体采访时表示，人工智能不会是人类的对手，但如果不负责任地开发和使用，人类和人工智能甚至没有机会竞争。

他认为，作为一种信息处理工具，人工智能目前能做的事情并没有大家想象的那么多。目前它会在每一项工作中发挥一定的作用，但并不是颠覆性的。人工智能将长期停留在“工具”阶段。当人工智能从“处理”变成真正的“理解”时，就是下一个机会。因此，我们应该回到基础研究，探索人工智能机制和计算机制的本质。

北京人工智能安全与治理实验室主任、中国科学院自动化研究所研究员曾毅联合国人工智能高级顾问机构专家。

产生数据和算法的偏见

随着人工智能技术的快速发展，人类治理的挑战越来越大。对于技术研究者来说，科学突破是最容易的。思考科学可能对社会的负面影响比科学突破更难。比这些更难的是解决科学突破带来的潜在风险。

他说：“如果处理得当，人工智能就能消除数字鸿沟，如果处理不当，人工智能就会带来更多的智能鸿沟。曾毅说，数字化已经产生了公平的差异，人工智能缩短了与人类智慧的界面。信息和知识获取的便利性将使数字差距和智能差距更大，影响一代甚至几代人。如何避免智能差距，绝不是人工智能和科研人员、技术研发人员和不熟悉的人完全可以解决的问题。智能差距是一个技术和社会问题。

他说：“许多人认为，人工智能技术是中立的，最重要的是每个人如何使用它。但是人工智能不是，人工智能的起点是数据和算法。”曾毅说，数据和算法都可能使人工智能产生偏见。数据来自社会，社会上的数据是人类行为的记录。数据统计显著存在偏见。学习人类数据的人工智能不仅学习了人类的偏见，还放大了偏见。"例如，让AI推荐这个职业，女孩，20岁，就是护士，服务员，有没有给出这个条件后推荐CEO？没有。男孩，35岁，文凭好，推荐CEO。、CTO，那就是统计显著性的偏见。”

1960年，现代控制论的创始人诺伯特·维纳在《科学》杂志上写道:“我们最好确保我们写程序，让一台机器做的事情与我们的初衷一致。“人工智能的数据中有善恶，人类规定人工智能不允许在某些场景中表现出恶。然而，曾毅说，这并不意味着人工智能不会这样做。“人类不可能清楚地列出所有的情况。他指出，“数据中隐藏的人类局限性是人类自身很少反思的问题，但现在已经被机器学习了，我们还没有明确梳理出机器如何应用数据的潜在风险。”

帮手还是对手？

人工智能是帮手还是对手？曾毅认为，人类需要把人工智能塑造成人类的帮手。“如果我们不负责任地发展人工智能，放弃它的发展趋势，甚至追求短期利益，它可能会成为对手。”

人工智能的出现通常令人担忧，AI是否会带走人类的工作。曾毅说，《论语》中的“君子不器”，意思是君子不像器具，其作用仅限于某一方面。“未来可能会形成新的工作形式，逐渐得到社会的认可。随着越来越多的工作可以被人工智能所取代，人不可替代的部分会变得更加清晰，这将迫使人类回到我们的起源和我们应该做的事情。”

在他看来，人工智能技术的发展和长期应用迫使人们思考人类的意义，以及人们应该做什么。“当更大规模的人工智能编写的数据和知识出现在互联网上时，这些信息和知识被喂进人工智能中训练，人工智能的能力就会变弱。因此，我认为人工智能取代了一些工作。就像蒸汽机时代和计算机时代一样，技术给人们带来了短期的焦虑，可能会让更多的人回到他们应该回到的位置。”

在曾毅看来，人工智能的潜在风险应该通过探索社会与技术的深度融合来解决。就像无人出租车“萝卜快跑”一样，社会各方面都没有完全准备好迎接这项技术。“我们永远不应该依靠技术来处理潜在的风险，也不应该只把希望寄托在技术研究者身上。”

“很多技术研究人员，尤其是创业的技术研究人员，告诉你，如果你不做，那就太晚了，或者如果你不发展机会，那就是别人的了。事实上，我不能说生成型人工智能是一个非常明显的泡沫，就像人工智能发展的前三轮一样，但作为一种信息处理工具，它能做的事情并没有大家想象的那么多。这是现阶段，它会在每一项工作中发挥一定的作用，但它不是颠覆性的。”

曾毅表示，人工智能似乎是一种智能信息处理工具，并且长期停留在“工具”阶段。没有自我的人工智能根本没有机会产生“理解”。至少下一轮机会是让人工智能从“处理”变成真正的“理解”。因此，我们应该回到基础研究，探索人工智能机制和计算机制的本质，从大数据和计算率发展到小数据、小任务、全智能和节能。“这才是未来真正应该发展的方式，从数据驱动到机制驱动的人工智能。”

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com