在AGI时代，财富洗牌，Hinton分解了未来的财富流向，普通人何去何从？

随着AGI/ASI的不断逼近，比人类更智能的系统即将出现，彻底颠覆了人类社会的面貌。像Hinton这样的专家预测，一旦AGI能够取代人类劳动力，人类就会「富人越富有，穷人越穷」，社会结构将发生巨大的变化。

OpenAI在《经济蓝图》中描述了AI带给人类的未来：在不久的将来，普通人的生活将比现在更好。「壕」富人，生活得更好。

但是真的这样吗？

归根结底，由于AI的进步，硅谷大厂Saleforece冻结了相关职位的招聘，Meta等大厂商也在开发中级程序员级别的智能体。

所以，以后CS毕业生就业难，他们的生活会不会比现在更好？

关于通用人工智能（AGI）、超级智能(ASI)预言铺天盖地。

对于其他专业，这些究竟意味着什么？

虽然这个话题并不新鲜，但也不简单。

关于AI的讨论和对生活的影响，可以分为三个部分：

是否会产生超级智能或通用人工智能？（AGI）——一个超越人类智慧的实体，

怎样改善/摧毁我们的生活，

以及我们现在可以做些什么来调整结果。

AGI/接近ASI

「谷歌文档」鼻祖Steve Newman详细解释了AGI的含义：「AGI可以在超过95%的经济活动中以成本效率的方式替代人类，包括未来的新工作。」

而且这一能力水平还能帮助人类实现太空移民、星际旅行等理想，并能加速科学发现等。

虽然这是一个可能的预测，但是Newman对AGI的解释，代表了大多数领域专家对下一代AI的看法。

类似于AGI，但是超级智能（ASI）更注重AI对科学发现的促进作用。

AGI距离实现只剩下几年了，许多专家或AI巨头的首席执行官也给出了更具体的时间节点。

Hinton去年表示，我们最终将迎来超级智能，并且比想象中更快地到来。

哥伦比亚大学计算机科学教授加拿大英属，Jeff Clune也同意Hinton的观点。

他指出：「我认为超级智能有完全的机会，而且这个机会并不渺茫，所以今年可能会出现。我们已经进入了一个接近超级智能的时代。而且这种可能性每隔一个月就会增加。」

但是，无论其后果是好是坏，专家们都警告不要低估AI的力量。

超智能化的危险

假如失去对AI的控制，那么人类的未来也许就不那么光明了。

AI扩大了贫富差距

最近一次公开讨论，Geoffrey Hinton预测AI会加重贫富悬殊，使社会变得「越来越糟」。

技术进步造成的历史长河「失业」，这并非什么新鲜事。

伴随着全球工业化和现代化，一些传统职业正在消失，一些行业已经被彻底摧毁。

但是AI越来越强，越来越多的工作面临着被淘汰的危险。

2025年，各大公司纷纷表示将推出。「虚拟员工」，人工智能进入劳动力市场。人工智能可能会导致许多人失业。「最后一根稻草」。

Hinton在最近的圆桌讨论中预测，随着AI的发展，财富差距将迅速扩大：

我们谈论的是生产力的巨大提高。因此，每个人都应该能够获得更多的商品或服务，每个人都应该变得更好，但事实上，情况可能并非如此。

假如处理不当，他指出下一步会发生：

大幅度提高生产力将为大型企业和富人赚取更多的钱，从而增加富人和失业者之间的差距。

这主要是因为下岗的人会失去收入，但是控制AI的人，也就是生产商品和服务的人，在没有劳动力成本的情况下，会享受财务特权。

一些研究证实，一些自由职业受到ChatGPT的影响，他们的工作机会和收入持续下降。研究人员甚至推断，一旦AI有实力取代人类的职位，人类就不可能回到原来的职位。

而很多有钱人和大企业都在专注于AI。

人们很难相信，他们不是为了未来的利益，而是为了所有人类的美好未来，在免费的「打工」。

归根结底，即使是OpenAI也很快变成了「CloseAI」奥特曼正在将OpenAI从非营利组织转变为更加商业化的营利组织。

网民们还猜测，财富从大众中流失，将如何引起社会不平衡。

一般人变得无足轻重

去年12月28日，L Rudolf L发布了《Capital, AGI, and human ambition》，强调AI对社会价值观念的影响。

以下是他的核心观点：

能够取代劳动力的AI，将会迅速改变人类和非人类生产因素的相对重要性，这将是减少社会关心人的动机，与此同时，使现有的权力更加巩固。

现在若要花钱实现自己的抱负，最深层次的问题可能是招聘不到合适的人才，因为招聘人才面临着几个问题：

除非你有相当的天赋，否则很难判断人才。否则，通常会错过真正的人才。

人才匮乏(尤其是那些脱颖而出，头角辉煌的人才)。

即使你能找到顶尖人才，顶尖人才一般也不像别人那么容易被钱买走。

而且可以代替劳动力的AI，完全没有这些问题。

第一，尽管AI「才能」而且很难估计，但是AI可以复制。

每一个人——至少在GPU上烧一些钱——都可以带来突破性的AI。

而且人类和它有很大的不同，人才不仅可以很难确定，而且很难复制。。

而且，人才的成本会大大降低，因为AI的成本会低于同样的人类劳动力。

并且因为AI的能力可以复制，竞争会更加激烈。

而且资金转化为人才的最大瓶颈，在于许多顶尖人才都有复杂的人类偏好，他们比AI更难被金钱收购。

一般来说，顶尖天才对学科或工作都有极高的奉献精神和责任感，「钱财为粪土」。

相比之下，AI的出现是为了出售(至少在安全范围内)。

很明显，AI没有「人性」，无论执行什么类型的任务，「无怨无悔」，远超人类。

AI取代了劳动力的世界：

金钱将比过去在现实世界中买到更好的结果。

每个人的劳动都比以往任何时候都缺乏知名度。

劳动致富基本上是不可能的。

资本的根本平衡很难在各国内部或各国之间实现。

也就是说，当AI可以更换劳动力时， 拥有大量资金的人将具有长期优势。

她们将拥有比今天富人更多的权力：只要自由制度（liberal institutions）他们仍然坚强，他们不一定在人民之上，但至少在物质和精神上更强大。。

而且没有新的力量能打败他们，因为现在资本可以很容易地转化为任何领域。「超人」劳动力。

另外，世界上拥有权力的机构也不会有动力关心每个人来维持或增加自己的权力，因为所有真正的权力都将来自AI。

但是，政治机构可能会坚定地维护自由人文价值观。

如果每个人都有无条件的有价值基本收入(或类似的措施)，并且经济保持以人为本，人们的购买力也可能得以维持。

往坏处想，AI亿万富翁拥有近乎无限且不受约束的权力，而且是永久的贵族阶层。

就像当代人不能认同封建等级制度一样，阶级之间的权力差异可能会使当代人感到颤抖。

这就是权力和金钱鼓励的方向。

智能诅咒

在L Rudolf 基于L的理论，AI治理专家Lukee Drago进一步解释了AI的隐患，他称之为：「智能诅咒」，即当权者因为AGI而失去投资者的鼓励。。

与犁、蒸汽机或电脑等工具相比，AGI更像是煤炭或石油等资源。

就像煤炭、石油等生态资源一样：

需要相当多的资金来发现和使用AGI。

少数玩家将控制AGI，主要是开发AI的实验室和它们所在的国家。

国家和企业从AGI中获得大部分或全部收入，不再依赖他人获得收入。

AGI将取代上一代文明资源。对煤炭来说，就是木头。对AGI来说，就是人力资源。。

虽然有些国家拥有丰富的自然资源 收入来源自然，但经济发展模式单一，普通公民的生活并未得到改善。

这被称为「资源诅咒」。

造成资源诅咒的因素很多，但其中一个核心因素是：造成不关心人民经济福祉的鼓励。

用AI代替劳动力的当权者，将面临类似的情况，但后果更为严重。

因为他们的收入来自未来「人•工智能」，而非人类。

因此，他们只需持续投资AI，就有可能获得更多的收益。。

最终，他们将不再需要向人们提供工资或福利，也不再需要提供教育、医疗等社会保障。

最后的结果是，一般人不能养家糊口。人没有用武之地，所以也不会得到报酬。

这便是智能诅咒——当权者创造并实现通用智能时，他们将失去投资者的鼓励。

智能诅咒一旦出现比人更好、更便宜、更快、更可靠的AI系统，就会开始生效。在接下来的1-5年里，恶果就会出现。

而且人类从此无法摆脱这种类型。「诅咒」，而「资源诅咒」但是有望处理。

考虑到石油的气候和可再生资源的兴起，任何国家都可以生产能源。石油生产国被迫寻找新的收入来源，在这个过程中向人民放权，从而摆脱了「资源诅咒」。

而且AGI不会有这样的效果——后续的模型会比上一代更强，少数人会一直处于垄断地位。

AGI也不会像石油那样被使用「耗尽」。目前计算能力或能源可能已经耗尽，但是随着时间的推移，计算能力变得更便宜，能源也越来越绿。

如何控制AI？

尽管对这一技术的范围和时间框架的预测可能各不相同，但是研究人员普遍认为超级智能是不可避免的。

仍然悬而未决的问题是人类能否保持对AI的控制。

对于Hinton来说，答案是选择那些高度。重视AI的控制的政治家：「在研究和开发这些技术时，我们应该做的是鼓励政府迫使大型企业进行更多的研究，以保持其安全。」

然而，Google 高级研究顾问Clune说，DeepMind表示，许多领先的AI企业都坚持正确的人生观，并且「我们正在努力做对。」

「与开发领先的AI模型企业相比，我更担心的是其他试图追赶的国家和组织。他们的顾忌远不如头部的AI实验室多。」。

与核时代的做法相似，Clune提出的实际解决方案是邀请所有主要AI参与者定期进行对话。

AI从业者应合作，确保AI能够安全发展。

Clune说「它是人类历史上最大的一个筹码，甚至比核武器还大」，并且建议全球研究者互相了解对方的进展情况，在需要的时候减缓研发进度。

「极高的筹码。假设我们做得对，收入也很大。如果我们做错了什么，我们可能会讨论人类文明的终结。」

参考资料：

https://lukedrago.substack.com/p/the-intelligence-curse

https://www.cbc.ca/news/science/artificial-intelligence-predictions-1.7427024

https://nosetgauge.substack.com/p/capital-agi-and-human-ambition

https://x.com/jeffclune/status/1878869359080165473

https://x.com/tsarnick/status/1869488149967392973

本文来自微信微信官方账号“新智元”，作者：新智元，36氪经授权发布。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com