边缘AI的下一跳:迈向“智能体操作系统”
我们似乎可以看到这样的场景:一天晚上,一架无人巡逻机在高空低鸣,摄像头准确锁定了主控泵房的机器异常抖动。同时,地面四足机器人接收到异常码,绕过障碍物迅速前往现场。两者不是通过云调度,而是通过“边缘智能体操作系统”在当地自组织形成任务协作:无人机负责视觉识别和路径分析,路面机器人完成执行和反馈。整个过程不需要人干涉,也不需要连接远程云平台。
它不是科幻小说,而是边缘AI从推理引擎走向合作智能体的真实演变。
近年来,边缘AI的演变路径清晰可见——我们实现了“让模型运行”的任务,从最初的TinyML微机学习探索低功耗AI推理,到边缘推理框架的应用,再到平台级AI部署工具的兴起,再到最近流行的垂直模型。
但是,下一步的边缘AI不是继续堆叠更多的模型和参数,而是回答更根本的问题:在AI模型运行后,它们能否合作?
这种局限性,正是边缘AI向更全面的智能形态“隐形天花板”迈进。
真正的边缘智能,不仅仅是做出判断,而是做出决策,构成系统,做出任务。它是边缘AI从静态推理向动态智能体演变的起点。
我们不再需要更大的模型,而是更大的模型。一组可以合作的模型。可以认为,模型使设备看到世界,智能体让设备参与世界。
本文将基于最新的市场数据、技术进步和平台趋势,探讨边缘AI如何从模型部署演变为智能体操作系统,以及这一趋势将如何重塑智能终端的交互技术、系统结构和商业价值。
AI智能体正在边缘落地,从模型部署到系统自治。
过去,公司在边缘部署AI的主流方式仍然是“模型驱动” “平台调度”的搭配范式:开发模型,部署到终端,通过边缘平台完成资源配置和状态可视化。
这种方法在初期确实解决了模型能否运行的问题,促进了边缘侧大量AI能力的落地,但也会出现越来越突出的结构性瓶颈:当部署规模扩大,情景复杂度提高时,这种模式无法回答更本质的问题:模型能否合作?系统是否具有自我控制能力?
这一重点的转变,已在企业决策中明显显现。

据ZEDEDA公司于2025年初发布的全球CIO调查报告显示,97%的CIO表示,该公司已经部署或计划在未来两年内部署边缘AIO;54%的公司明确希望边缘AI成为系统能力的一部分,而不是孤立的单一功能;更值得注意的是,48%的公司将“减少对云的依赖,提高当地自治反应能力”纳入下一阶段的重点目标。
在这一组数据的背后,正在形成一个产业级的共识:未来的边缘AI,不再仅仅是模型可以运行的问题,而是系统能否实现自组织、自感知、自响应的技能提升。
这一能力转移的关键媒介,正是“边缘AI智能体”。
与传统的模型部署模式相比,边缘智能体不再是一个被动的推理引擎,而是一个具有感知、决策、行动和协同能力的最小智能模块。它不仅可以运行模型,还可以根据环境状态、系统规则和任务目标,在边缘系统中发起行为、讨论角色和分配资源,成为具有主动性的基本智能节点。
以智能制造场景为例,我们可以直观地理解边缘智能理论的价值链:当传送带上的摄像头识别出物料的缺陷时,视觉检测的智能感知会立即生成事件信号;这个信号触发了物料搬运智能体自动调度移动机器人转移有问题的物料;然后,质量检验智能体在收到信号后进行二次验证;最后,MES系统智能体实时同步生产流程和下一道工序计划。
整个过程不再依赖于从异常识别到任务执行的集中调度系统,而是通过多个边缘智能体在当地独立合作完成。这种“感知-决策-合作-反馈”的闭环不仅提高了响应效率,而且使系统具有高度的弹性和适应性。

如果模型部署解决了“设备是否有思维能力”的问题,那么智能系统部署进一步回答了“设备是否有参与能力”的命题。为了真正实现这种参与,边缘智能系统需要一个完整的能力系统。
我们可以把它概括为PCE模型-即感知、协同、经济。三级能力栈。
第一层是感知层(Perception)。
智能体必须能够理解其环境,从图像、声音、温度、湿度、振动等多模态传感器数据中读取和分析,并结合上下文信息进行任务判断。根据ZEDEDA的调查,超过60%的公司在边缘设备中部署了多模态AI模型,为智能体提供了大量的环境感知基础。
其次是协同层(Coordination)。
一个智能系统不能完成所有的任务,真正的智能系统依赖于多个智能系统之间的高效合作。这种协同不是简单的数据交换,而是一个基于状态共享、角色讨论和任务分工的智能代理网络。协同能力使边缘系统从设备互联升级为智能互助。
最终是经济层面(Economy)。
他们自然成为机器经济的参与者,当边缘智能体开始具备任务接单、资源协商、成本控制等行为能力。实现这一层的基础是设备钱夹、加密身份和可编程合同机制。根据我的文章《端边AI井喷喷井》 根据虚拟货币的改变,设备钱包打开了AI代理经济的大门。未来,AI设备之间的M2M交易总额有望超过人类之间的总交易金额,智能体将成为边缘经济网络中的活跃节点。经济状况,不但使智能体具有执行能力,而且使其具有合作价值。
感知、协同和经济三层能力共同构成了边缘智能理论的“PCE能力栈”。它不仅定义了智能体应该具备哪些能力模块,也为未来边缘AI平台的系统设计提供了参考框架。
为什么边缘智能体需要AI操作系统?

虽然近年来边缘AI实现了从模型部署到平台管理的转变,但主流的边缘AI平台仍然停留在“模型运行环境”的层面。然而,当AI从模型演变为智能体时,这种传统的平台模式似乎无能为力。
原因在于,智能机构不是静态推理服务,而是具有状态感知、任务协商和独立行动能力的动态服务。它不仅需要执行空间,还需要一个完整的操作系统。
我们称之为边缘AI操作系统。
边缘AI操作系统与传统的AI平台相比,需要从底层结构上满足三个核心能力要求。
第一,它需要正确的异构率资源调度能力。AI模型可以在边缘设备中运行于CPU。、GPU、NPU甚至ASIC等各种计算单元。如何在这些异构算率之间进行动态分配和负载平衡,成为操作系统级别的技术挑战。
第二,真正的边缘AI操作系统应该得到支持运行时多智能体管理(Runtime)。也就是说,系统不仅要运行模型,还要调度智能体:包括智能体之间的状态感知、任务调度、权限管理和行为协调。
它还引出了AI OS的第三核心能力:三位一体的任务-资源-状态调控机制。在过去的平台上,任务通常是静态的,资源配置是根据需要调用的,而状态管理则依赖于外部监控。但是在智能系统中,这三者是动态的:一个智能体能否执行某个任务,取决于它目前的状态、资源和系统中其他智能体的反馈。
这一趋势共同指向一个事实:随着边缘智能体的兴起,操作系统的范式正在被迫重建。
如果说传统的操作系统是为程序而生的,那么边缘AI操作系统即将到来,它是为智能系统而生的。它不仅要了解硬件和模型,还要了解行为、协同和生态。
目前,首席信息官面临的不是“是否部署AI”,而是“如何系统规划AI”的考验。随着智能体的出现,AI正逐渐从“项目支出”转变为“系统基础设施支出”。
根据ZEDEDA的调查,超过54%的企业已经选择了“云” 在边缘混合部署模式下,预计未来两年将有超过60%的新增AI预算用于边缘部署,其中近一半明确指向“自主AI能力”的构建。它反映了公司AI支出的结构正在发生根本性的变化:以CAPEX为主的“模型采购” 部署费”,转变为以OPEX为主的“智能服务” 智能订阅”。
企业不会按“模型数”付费,而是按“智能体生命周期”进行预算管理。公司不再一次购买某一模型,而是订阅某一类智能体功能,按效果收费。这一切都意味着边缘智能系统的工业化路径将会加快。
四个门槛,从“模型能跑”到“智能体能活”。
虽然未来边缘智能理论越来越清晰,技术路径也在逐步发展,但从“模型可以运行”到“智能体能活动”,不是一个线性演变,而是一个跨越四个门槛的系统升级。
首先,调度复杂性这是目前最现实、最严重的问题之一。
边缘场景自然异构,设备种类繁多,计算率结构不同,网络条件时断时续,智能体所依赖的模型、资源和传感器接口不同,导致统一调度策略难以生效。更复杂的是,智能体本身处于动态状态,其行为具有环境依赖性和时序波动性。调度系统不仅要分配资源,还要了解智能体目前的意图和可行性。
其次,模型多样性形成了第二个门槛。
在边缘AI的实际应用中,越来越多的任务需要通用语言模型与垂直行业模型的协调。然而,这两种模型在运行机制、输入结构、计算能力需求和响应时限上存在显著差异,传统模型的中心调度已经不能满足智能身体协同运行的需要。
更具挑战性的是第三个门槛。——资料隐私与合规。
边缘AI最大的特点是本土化智能,这也意味着它所依赖的数据高度私有化和敏感化,涉及公司运营指标、客户行为轨迹、生产链状态等核心资产。在过去的AI中,数据被上传到云中进行统一的训练和推理。然而,在智能系统中,数据往往只在当地生成、处理和决策。如何在不违反数据隐私的情况下实现系统智能体的协同和学习,已经成为一个难题。
最终,智能化身体治理问题渐渐地浮出水面。
多个智能系统在同一个系统中合作运行,不可避免地会出现资源占用、任务矛盾、战略竞争甚至信息欺骗等现象。传统的任务优先系统在智能系统中变得复杂,尤其是当智能系统具有学习能力或自我更新能力时,其行为路径将变得不可预测,系统风险将随之增加。
只有跨越这四个门槛,智能身体才能真正“活”起来,不仅可以运行和合作,还可以在复杂的系统中不断进化、自我修复和安全运行。
写在最后
边缘AI的未来不是为了安排更多的模型,而是为了激活更多“可以理解、可以行动、可以合作”的智能体。所谓智能,不再是云的算率堆叠和模型推理,而是机器在物理世界中有感知和目的,在当地环境中有反应和判断的能力。在这个即将到来的新阶段,公司将不再只是安排模型,而是安排智能体。
AI 并非边缘运转,而是从边缘开始思考。
对企业来说,这不再是一个“要不要去AI”的问题,而是一个“能否构建自己的智能体生态”的战略决策。
边缘智能理论的未来不是工具,而是伴侣。它们将与人类共同决策、协同执行和长期共生。我们不是在训练模型,而是在塑造新的组织边界、新的系统智能和新的产业秩序。
参考资料:
1.Edge AI Matures: Widespread Adoption, Rising Budgets, and New
2.Priorities Revealed in ZEDEDA’s CIO Survey,来源:ZEDEDA
3.16 Changes to AI in the Enterprise: 2025 Edition,来源:a16z.com
4.Why is EDGE AI growing so fast,来源:imaginationtech.com
本文来自微信公众号“物联网智库”(ID:作者:彭昭,36氪经授权发布,iot101)。
本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。
免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com




