通用人工智能的哲学思想②｜刘伟：通用人工智能的现实困境

【主持人语(刘永谋，中国人民大学吴玉章讲座教授)】：伴随着ChatGPT、生成人工智能，如Sora（GAI）最近关于通用人工智能的工具爆红，（AGI）这个话题又一次被热议。有些人认为，大语言模型（LLM）接近或者已经是AGI了。实际上，AGI并不是人工智能发展的主流，很多技术专家都公开表达了反对AGI的想法。特邀科技哲学与人工智能技术领域的资深学者就“AGI的本质”问题进行了深入探讨。为了找到适合中国国情的通用人工智能辨证发展道路，刘永谋从技术、宣传、人文三个方面审查了当前通用人工智能的话语。从通用人工智能在技术层面的实现所面临的三大困境出发，刘伟提出了一条构建人-机-环境系统智能生态的新路径。杨庆峰指出，“多模态大模式走向通用人工智能”只是多模态论者的一种信念，其中包括错误，而通用人工智能只是走向超级智能的三个渠道之一，另外两个是具体智能和交互智能。闫宏秀深入分析了通用人工智能的“通”道含义，呼吁技术发展更加注重人的维度。

2024年第9期，本系列原创文章《哲学动态》。

刘伟(北京邮电大学人工智能学院)

【摘要】一般来说，一般人工智能有三个基本特征:一是可以完成无限任务，而不是只完成人们定义的有限任务；第二，你可以独立发现场景中的任务；第三，它是由独立的价值驱动的，而不是被动地由数据驱动的。目前，从技术手段来看，通用人工智能的实现面临着数学和物理工具的不完善、技术、生物和社会性等瓶颈问题，以及事实和价值的不一致。它所依赖的数据、算法、算率和知识只是智能的一部分表现。本质上，它只能在封闭的环境中进行正式的计算，而不能像人一样在开放的环境中灵活运用上述元素。而且人-机-环境系统智能生态的构建是未来通用人工智能的发展趋势。

一般认为，通用人工智能（AGI）目的是开发一个可以模拟人类智能的系统，可以在许多不同的领域学习和应用。其目标是构建一个适用性广、普遍性广的智能系统，可以像人类一样思考、学习和解决各种问题，因为目前的人工智能技术仍然局限于特定领域和任务的优化，远远达不到类人智能的水平。然而，虽然AGI是许多研究人员和公司的目标，但要实现真正的通用人工智能，需要克服许多技术问题和伦理问题。因此，AGI可能更像是一个理想化的概念，而不是一项可以在实际研究中实现的技术。

第一，基本特征

AGI有三个基本特征:第一，它可以完成无限任务，而不仅仅是人们定义的有限任务；第二，你可以在场景中独立发现任务，也就是我们通常所说的“眼里有工作”；三是具有独立的价值驱动，而非被动地由数据驱动。

第一，AGI的目的是拥有完成无限任务的能力，而非仅限于能完成人们定义的有限任务。在图像分类、语音识别等方面，传统的人工智能系统通常会对特定的任务进行优化和训练。但是，AGI旨在模拟人类智能，具有处理和解决各种领域和类型任务的能力。为了在各种场景中灵活应对，AGI需要具备普遍的知识、推理、学习和适应能力。它需要能够理解和处理各种形式的数据，如自然语言、图像、声音等，并能根据新的任务进行学习和适应。另外，AGI还需要具备推理能力，可以利用以前所学的知识来处理新问题。

第二，AGI也需要有能力独立发现任务。在当前场景中，它应能积极地分析和理解信息，并识别可能出现的任务或问题。AGI应根据任务要求采取相应的行动，一旦任务被识别出来。它可能涉及到使用各种技术和算法来解决问题，获取所需信息，或者执行特定的操作。对AGI来说，这种独立发现任务的能力非常重要，因为它促使人工智能在更复杂、更多样化的场景中应用，并能适应不断变化的环境和需求。它也是实现真正智力的关键之一。

最后，简单的数据驱动只是指人工智能系统通过分析和处理大量数据来得出结论和决策，而AGI则被期望具有类似于人类的认知和思维能力，能够理解和解释数据，并能根据价值观和道德原则做出合乎逻辑的决策。独立的价值驱动能力意味着AGI可以根据事先设定的价值和目标，积极判断哪些行为是好是坏，从而在实践中选择合适的行为。这种能力是基于人工智能系统对伦理、道德和社会规范的认知，使其能够在遇到道德困境时，遵循人类的价值观，做出正确的判断。

通过赋予AGI独立的价值驱动能力，可以保证其在处理复杂问题时能够考虑到伦理和道德因素，防止不良决策和行为。这对保证人工智能系统的安全性、公平性和可靠性尤为重要，有利于构建人工智能与人类共同生活合作的可持续发展未来。所以，AGI应该不只是简单的数据驱动，而应该具备独立的价值驱动能力。

第二，工具困难

但是，就目前的技术发展而言，谈论AGI的实现恐怕还为时过早。目前数学和逻辑工具仍然非常有限，不能完全满足AGI的需要。根据一般的理解，AGI必须具备类似于人类智能的多功能能力，包括理解、学习、推理、决策等。虽然数学和逻辑工具可以在一定程度上帮助我们建立一些机器学习、推理和决策模型，但仍然存在以下挑战:首先，目前的数学和逻辑工具对知识的表达和学习能力有限。人工智能需要学习新知识和从大量数据中获取模式的能力，而传统的数学和逻辑工具往往只能用来处理已知的规则和逻辑关系。其次，现实世界充满了不确定性和抽象性，数学和逻辑通常是基于确定性假设。AGI需要能够处理不完整的信息、模糊的概念和不确定性推理，这完全超出了目前数学和逻辑的能力范围。第三，人类智能通常基于大量的前景知识和背景知识，而数学和逻辑工具很难有效地表达和应用这些内容。AGI需要更丰富、更灵活的知识表达和推理方法来理解和应用各个领域的知识。最后，数学和逻辑工具一般都是基于严格的规则和推导方法，很难模拟人类的创造性思维和直觉判断。AGI需要更灵活、更非线性的计算和计算(计算)模型来产生新的想法和灵感。

因此，AGI的实现必然要求我们进一步开发新的数学和逻辑工具，并结合认知科学、心理学、哲学、社会学、人文艺术等其他学科的研究成果(参考Gilson、pp3-4)，实现更全面、更强大的智能系统。目前，接触天花板的三个问题还远未解决。

第一，人类的计算(算计)能否通过多种方式得到解决？人的计算(算计)一般都很复杂，涉及到很多因素和变量，通常不容易简单地用数学模型来描述。尤其与人类行为、情感和社会因素相关的决策，更难简化为数学题目。虽然通过一些简单的数学模型可以解决一些决策问题，但考虑到人类的行为往往是非理性的，受到文化、历史、心理等诸多因素的影响，用多种方式解决这些问题是相当困难的。在实际应用中，科学家通常会尝试通过统计分析和机器学习来理解和预测人类的行为和决策，但即便如此，完全准确地模拟人类复杂的思维和行为方式还是有10.8万英里的差距。

第二，人类的计算(计算)和计算是否可逆？人的计算和运算并非完全可逆的。尽管人类在进行计算和计算时可以选择各种因素并做出相对准确的预测，但是由于现实世界的复杂性和不确定性，我们无法预测所有可能的结果。计算(计算)一般涉及到更多的主观原因，包括情感、价值观、个人经验等，各种因素都会影响决策和结果。而且计算更依赖于客观的输入和算法，其结果可以通过逻辑判断和数学运算来实现。然而，即使在计算中，也存在一些不可控因素，如计算机硬件问题、输入数据错误或不完整、算法限制等。各种因素都会导致数值不准确或不完整。综上所述，人类的计算(计算)和计算在一定程度上是可逆的，但由于各种主客观因素的干扰和不确定性，很难保证完全准确和可逆。

第三，机器智能能带来计算(计算)吗？大家都知道，从某种意义上说，机器智能已经能够在一定条件下对类人进行“计算(计算)”。例如，人工智能在国际象棋、围棋比赛、蛋白质结构分析等方面已经超越了人类，比如使用算法分析和预测数据，制定决策或执行特定任务。然而，机器智能的计算能力仍然受到其过程和算法的限制，无法完全模拟人类的思维和决策过程。计算时，机器智能还需要依靠大量的数据和输入，不能像人类那样具有小样本的直觉、情感和创造性。所以，机器智能的计算能力与人类的计算能力仍然存在着根本的差距。就现在而言，现有的机器智能仍然不能产生实用性。

尽管人工智能技术、数学、物理、心理等领域不断发展，并取得了重大进展，但目前的机器智能仍然存在一定的局限性。现在的机器智能依赖于大量的数据统计和规则模块来执行特定的任务，通常只在特定的领域表现出色。然而，为了实现真正的实用性，机器智能需要更多的创新和发展，以实现新数学、新物理、新信息论、新控制论、新系统论、新协同论、新科技、新复杂论等更深层次的学习和理解能力。(参考刘伟、王赛涵等。)所以，虽然机器智能在很多领域都表现出了惊人的潜力，但是人类还有更多的研究和创新才能实现真正的通用智能。

三是真正的瓶颈

没有与现实世界的互动，简单的数字AGI就没有生命力。然而，与此同时，通用智能的发展面临着三个瓶颈:技术、生物和社会。

目前很多大型语言模型或多模态模型都是基于多里层神经网络，网络内部有两个函数，一个叫线性函数，一个叫激活函数。这两个函数会导致Transformer结构瓶颈，这也是“机器幻觉”的由来——线性函数和激活函数的相互作用导致整个分布不均匀、不透明和不可解释。(参考马库斯)这些技术瓶颈主要表现为AGI系统需要更高的计算能力、更先进的算法和更高效的数据处理方法，才能实现更复杂、更智能的功能。而且，一般人工智能的“计算”不仅包括计算能力，还包括计算(计算)能力。计算(计算)能力是指一般智能系统在处理复杂问题、进行推理和决策时所需的类人能力。目前，人工智能技术通常受到算法设计、数据质量、模型解释等的制约。在处理现实世界中的各种复杂问题时。克服这些瓶颈需要跨学科的合作和不断的创新努力。通用智能只有在逻辑、数学、物理等方面取得更大的突破，才能走向更成熟、更全面的发展。

生物瓶颈主要表现在我们对人脑认知能力和运行机制的认知仍然非常有限。为了达到类似人类的智力水平，我们需要更深入的神经科学和认知研究。人脑是一种高度复杂的器官，脑神经元之间的相互作用十分复杂，我们对工作原理的认识仍然非常有限。为了开发一个真正具有通用智能的人工智能系统，我们需要对大脑的工作原理有更深入的了解，并将其应用到计算机软件中。人脑可以很容易地处理非结构化信息和模糊信息，但是对计算机来说，这是一个巨大的挑战。

社会瓶颈涵盖了文化差异、社会道德、隐私保护等人工智能系统与人类社会的结合，这些都是影响人工智能发展的关键因素。通用智能系统需要适应和尊重不同的文化，因为行为准则和价值观在不同文化和社会背景下的差异。对于需要了解和回应不同文化背景的全球市场客户服务机器人，这是一种跨文化交流。同时，一般智能系统必须考虑伦理和道德问题，包括隐私保护、公平性和安全性，以确保其发展和应用符合道德标准和社会预期。

客观地说，AGI背后反映的其实是文化，不同于纯技术的人工智能。文化在AGI的研究、开发和应用中起着重要作用。文化影响着人们对问题的定义和解决方案的选择。不同的文化对问题有不同的认识和思想，从而导致AI在不同的文化环境中具有不同的状态和应用效果。AI的数据和算法受到文化的影响，AI的学习和训练过程需要大量的数据，而且这些信息通常是在特定的文化背景下获得的。所以，如果AI数据主要来自某种文化，那么它的学习和表现就会受到这种文化的影响。与此同时，算法的设计也会受到开发者文化背景的影响，从而在算法的决策和推理过程中产生文化误差。AI的应用程序通常涉及到一系列的价值判断和道德问题，这些问题通常与文化有关，文化也会对AI的应用产生影响。不同的文化对隐私、权利、道德规范等有不同的理解和重视。，这将导致人工智能在不同文化环境中的应用不同。

为了实现人工智能的实用目标，我们需要考虑和理解不同文化对人工智能的影响，并努力防止文化误差、偏见甚至歧视。这不仅需要在人工智能开发、数据收集和算法设计中加入多样性和包容性的原则，还需要促进不同文化之间的对话和交流。

要克服以上三大瓶颈，需要跨学科合作，不断创新努力，与现实世界互动。一方面，通用智能只有在技术、生物和社会方面取得全面突破，才能取得更加成熟和全面的发展。另一方面，通用人工智能的发展只有通过与现实世界(包括物理、心理、生理、伦理、法理、文理、艺术等)的交互，才能有生命力。).(参照Chen， et al）互动是一般人工智能学习和优化的有效途径。通过与现实世界的互动，通用人工智能系统可以不断获取新的信息和经验，逐步提高智能水平。通用人工智能不与现实世界互动，只是虚拟存在，并不能真正体现其潜在能力和实用价值。所以，与现实世界的互动是通用人工智能发展的必由之路。

第四，事实价值

建立AGI需要有价值的思维，而不仅仅是事实思维，或许这也是AGI发展面临的一个极其重要的方面。AGI需要能够理解和应用人类的价值观和道德标准，而不仅仅是提供事实信息。也就是说，人工智能系统不仅需要智能化和学习能力，而且需要道德和伦理判断。正如AGI系统在做出医疗决策时，应考虑病人的健康和福祉，而不仅仅是提供一些医疗事实；为了给出最合适的医疗建议，需要衡量不同的价值观，例如病人的痛苦程度、生活质量等因素。

事实是客观存在的，可以通过观察和实验证据来确认。价值是主观的，是人们对事物的评价、观点、观点和立场。事实和价值经常在讨论AGI的边界时交织在一起。由于AGI是一个智能系统，可以像人类一样执行各种智能任务，所以我们必须从事实和价值两个角度来分析它的边界。

从事实的角度来看，AGI界限通常指的是它的能力和限制。即使在最先进的人工智能技术中，也有很多局限性，比如理解复杂的情况，识别人类的情绪，实现创造性思维。这些限制导致AGI人工智能无法完全取代人类在各种智商任务中的表现。

从价值的角度来看，AGI界限也涉及到道德、伦理、社会等方面的一系列考虑。比如AGI可以代替人类在某些职业中的表现，可能会导致大量人类工作的消失，从而导致社会问题；AGI可能会在决策过程中产生偏见，导致不公平的结果；等等。这些价值考虑在讨论AGI界限时也很重要。

在“智商”、“智能”和“智慧”之间，AGI中的事实/价值发展需求融合在一起。“智商”涉及到处理和学习信息的能力。“智能”是指系统在特定任务中的表现和知识的适当运用能力，而“智能”则更注重系统的创造力、推理能力、理解情况、有机协调各方的能力。将这三者有机地融合在一起，可以使人工智能更全面、更灵活地面对各种复杂的场景，更好地为社会的发展和进步服务。

具体而言，“智商”是指智能体在认知、思维和分析方面的优势，包括记忆、推理、解决问题等。它是智能体获取和理解知识的基础，也是有效学习知识的前提。(参考Wickens)有效学习知识的能力是指智能体通过适当的学习方法和策略，有效地获取和吸收知识的能力。它包括筛选和总结信息，以及巩固和应用所学知识的能力。举例来说，智力高的智能体在学习时能迅速理解复杂的概念和问题，并能运用逻辑和推理能力来解决问题。

智能化是指智能体在适应环境、解决问题、创新等方面的能力。这是在智力和知识的基础上，通过合理的思考、决策和灵活的行动，实现目标的能力。与通过思考和分析有效学习知识的智商能力相比。智能化强调个人在面对实际问题时，能够合理地运用所学知识和技能进行决策和行动。举例来说，一个智能体在管理团队时，可以根据每个智能体的不同特点和能力，制定适当的工作安排和激励机制，从而提高团队的整体表现。

“智慧”是指智能体能够准确理解和评估情况，在面对各种情况和困难时做出明智的决策，合理协调各方利益，找到最佳解决方案的能力。智慧不仅要依靠智力和知识，还要灵活运用经验、洞察力和创造力。这包含了更广泛的能力，不仅包括智力和智力，还包括洞察和掌握常识经验和智能体之间关系的能力。例如，一个聪明的智能主体可以平衡各方的利益，根据不同的情况找到最佳的解决方案。同时，他可以通过与其他智能主体的交流和合作，达成共识，实现共同目标。

AGI作为一种可以广泛应用于各种目标和情境的智能方法，一般用于指代一种能够在各种任务中表现出强大学习和解决问题能力的智能系统。通用智能不同于致力于特定任务的人工智能(如下棋程序或语音识别系统)，更类似于人类的综合智能能力。从某种意义上说，AGI可视为人-机-环境系统智能化的一部分。人-机-环境系统智能涉及人与各种智能系统(如计算机、机器人等)之间的事实交互和价值整合。)和周围环境。AGI是指智能系统，具有一定的智能和适应性，可以在不同的目标和环境中执行任务。通用智能可以与人-机-环境系统中的其它智能系统合作，共同完成特定的任务或解决问题。这一集成与合作能力有助于提高整个系统的智能化水平和质量。

现在的机器智能只能完成某些特定的任务，而不能像人类那样具有全面的感知、思考和行动能力。人的身体智能涵盖了环境感知、运动控制、情感体验等方面。目前，机器只能通过传感器和执行器进行有限的感知和锻炼。虽然机器可以通过深度学习等技术独立学习和决策，但它们缺乏人类的情感和直觉，无法真正理解事物背后的含义和人类的意图——简单的数据库映射关系无法反映人类动机的来源。所以，机器不能像人类那样具有真正的具体智能。

目前，人工智能还远远不能完全统一客观事实和主观价值。虽然所谓的通用智能可以处理大量的客观事实和数据，但短期恐惧很难实现与人类相同的主观意识和思想。归根结底，人类的价值观和情感是复杂而主观的，常常受到文化、背景、经验等因素的影响，而通用智能算法通常是通过大数据和模式来识别的，缺乏对主观价值的理解和判断。

结语

总而言之，实现通用人工智能的关键不仅仅是机器智能的研发，还有人类智能、环境因素等方面的综合考虑。AGI的实现需要考虑人类的认知和学习能力，以及与环境的关系。另外，还要考虑伦理、道德、法律等方面，确保人工智能的发展不会对人类社会产生负面影响。所以，未来实现AGI的关键不仅仅在于技术上的突破，更在于充分考虑各种因素，实现人类与人工智能的和谐共处。因此，本文认为，真正真实的“通用”人工智能应该是一个系统的智能生态，人、机器和环境相结合，而不仅仅是一个孤立的机器智能产品或系统，这样才能适应不同的环境和任务，具有学习能力和自我适应能力，与人类自然有效地互动，在多种前提下做出合理的决策。(参考刘伟、谭文辉等。)这种通用的人工智能可以帮助人类更好地理解和处理复杂的问题，提高工作效率和生活质量。真正的通用人工智能将是人类智能与机器智能的完美结合，极大地促进了未来的社会和经济发展。

与技术问题相比，通用人工智能问题更加复杂和长远。理解智能化的本质和机制是处理一般人工智能问题的前提。唯有深入了解智力，才能更好地把握技术在其中的作用和价值。技术是实现智能化的手段工具，可以用来处理和分析大量的数据，构建模型，优化算法等。它可以帮助我们实现一些智能目标，提高智能系统的效率和性能。但是，目前的技术并不是解决智能问题的通用方法。智能化问题远不止于技术层面，还涉及到伦理、社会、文化等多个维度，需要我们充分考虑不同层次的因素。

参考文献：

2021年刘伟：清华大学出版社《人机融合：超越人工智能》。

2024年，刘伟、谭文辉、刘欣：“人机环境系统智能化：超越人机融合”，科学出版社。

2021年，刘伟、王赛涵、辛益博、王小凤：《深度态势感知与智能战争》，载《国防科技》第三期。

2021年马库斯：《代数大脑：揭示智力背后的逻辑》，刘伟，刘欣，于栖洋等译，机械工业出版社。

Gilson， R D，1995，“Special Issue Preface”，in Human Factors 37（1）.

Wickens，C D，2002，“Situation Awareness and Workload in Aviation”，in Current Directions in Psychological Science 11（4）.

【本文是通用人工智能的实际困境。本文是“基于大规模调查数据的城市复合风险及其治理研究”(编号23&ZD143)国家社会科学基金重点项目的阶段性成果。】

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com