超级智能时代的三大追问：人是否无需工作、软件公司何去何从与人类存在意义
科幻与科技正加速融合。
9月24日，阿里巴巴CEO吴泳铭在云栖大会提出AI的终极目标是ASI（超级人工智能），届时每个人都将有上百个Agent为其服务。这让我不禁思考：“人，那时会做什么？”
马斯克曾在采访中说：“如果AI能比你更出色地完成工作，我们如何在生活中找寻意义？”尼克·波斯特洛姆在《未来之地：超级智能时代人类的目的和意义》中也提出，在一个“所有问题都被解决的世界”里，什么能赋予我们生活的意义和目标？
更现实的第二个问题是，当ASI来临，人真的不用工作了吗？
凯恩斯曾预测，到2030年，人类社会生产总值将比他所处时代增长4 - 8倍，平均工作时长会减至每周15小时。但如今离2030年仅剩5年，人均GDP增长超7倍，全球主流工作时长仍是每周35 - 40小时，更不用说中国众多实行“996”的互联网大厂。
更现实的第三个问题是，如果大模型成为下一代操作系统，一句话就能生成Agent，传统商业软件公司将走向何方？吴泳铭表示，最终大模型会吞噬软件，不再需要工程师专业开发商业软件。
2023年，大模型在编程领域出现“智能涌现”时，我询问过不下10家软件公司，若未来大模型能将用户自然语言需求直接转化为可执行功能，他们该怎么办。多数企业负责人认为这是天方夜谭。
然而两年后的今天，这已成为可见的未来。
回答这三个问题的顺序恰好相反。
从最具体现实的“软件公司命运”出发，最终探讨最抽象根本的“人类存在意义”，这种逆向追问的过程，或许能让我们在未来数十年逐渐明晰这三个问题。
第一，商业软件公司会消失吗？
不会消失，而是“融合”。
传统商业软件的核心是“功能封装”，即将业务流程固化为代码，通过界面交互供用户操作。但当大模型能理解自然语言、调用API、生成代码和执行任务时，软件的“壳”就多余了。用户只需说：“帮我给客户A下一笔5000件的订单，用最优物流方案。”Agent就能自动完成全流程。
这意味着软件不再以“产品”形式存在，而是以“服务流”或“意图代理”形式运行，软件公司的角色将发生根本转变。
从跨国商业软件公司的最新动态可见一斑。SAP今年的战略是“AI优先，套件优先”，通过AI + 套件打破数据孤岛，实现业务流程端到端流畅运转，让Agent在各领域能直接使用。未来，软件公司或许会变成“Agent运营商”，表面上用户一句话生成Agent，背后是基于无数“最佳实践”学习的行业语义。
所以，商业软件公司不会“消失”，而是融入大模型生态，其护城河不再是代码，而是领域知识、数据资产与伦理治理能力。
第二，人真的不用工作了吗？
不用工作，但必须学习。
ChatGPT出现不到三年，世界已天翻地覆。编程、设计、法律文书、市场分析甚至写作等曾被视为“高技能”的工作，都可由AI完成或部分完成。
照此速度，5年后，AI替代人类某些工作将成为明显事实，甚至创造性认知工作也可能被Agent取代。
但“不用工作”不意味着“没有任务”。现实中，人类仍需设定目标、评估结果、处理模糊性与价值冲突。比如营销Agent能生成100套方案，“哪套更符合品牌价值观”仍需人类判断。
如果对AI工作进行判断和决策成为新的工作形态，那么这种决策力从何而来？
不久前，爱奇艺宣布推出“AI剧场”，由AI创作剧集，邀请《卧虎藏龙》摄影师鲍德熹担任总顾问。我猜测，审美将是未来AI内容创作最重要的能力。
同理，如果人类要成为对AI工作结果负责的重要决策者，就必须具备判断能力。就像鲍德熹是奥斯卡最佳摄影获得者。
所以，想成为“Agent伦理审计师”“意图澄清师”“数字共情教练”等新职场人，或许不用重复脑力和体力劳动，但学习不能停，甚至要终身学习。
第三，当一切问题都被解决之后，人，到时候在干嘛？（PS：学习也不需要了，通过脑机接口，你可以瞬间获得数据智能。）
我没有答案。
中世纪科克恩传说中的乌托邦，是“悠闲度日，无须劳作，无论老少强弱，皆可享受生活，从无物资短缺之忧，连围墙都由香肠筑成”的美好世界。吴泳铭描述的是每天有数百个Agent 24小时为自己工作。凯文·凯利认为，未来智能眼镜将获取世界和人类所有数据，形成透明的“镜像世界”，人类能获得充分个性化服务，生活极度便利。
但在实现人类“躺平”、一切问题都被解决的ASI时代前，我们如何跨越人类数十万年演化形成的“黑暗森林”法则？
阿西莫夫在《机器人》系列短篇小说中，描绘了由超级计算机控制的地球，它掌控地球一切，能根据资源安排经济活动，是地球“霸主”。《未来之地：超级智能时代人类的目的和意义》中，狐狸费奥多尔和哲学家想建立动物大同社会，却遭狼群袭击，似乎暗示乌托邦难敌弱肉强食的现实。
从这方面看，凯文·凯利更现实，他在《必然》中写道：“进托邦在产生新利益的同时，也制造几乎同样多的新麻烦。今天的问题来自昨天的成功。而对今天问题的技术解决方案，又会给明天埋下隐患。随着时间推移，真正的利益在问题与解决方案的循环扩张中逐渐积累。”
然而，无论是否被期待，ASI终将到来。
图片／ unsplash 豆包AI
本文来自微信公众号“IT时报”，作者：郝俊慧，36氪经授权发布。
本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。
免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com