方案部署面临着怎样的考验，从数据到智能：边缘AI的发展进入了一个新的阶段？

2025-01-16

电子爱好者网报道(文章 / 回顾吴子鹏) 2024 年 AI 产业发展，AI 大型模型仍在大踏步前进，但将会 AI 从云端卸载到终端的工作负载趋势已十分明显，边缘计算是承载的边缘 AI 前途无量。根据 STL Partners 边缘计算关键数据分析，预计全球边缘计算市场规模将从 2020 年 90 亿美元，迅速增长到 2030 年 4450 亿美元，其间复合增长率为亿美元。 48%。AIGC 随着时代的到来，边缘计算和 AI 深度融合，边缘 AI 这一概念得到了各个行业的普遍认可。

在最新的 2025 年预测中，NVIDIA AI 预计智能商店和新机器人将继续崛起，医疗卫生和制造业将实现突破性发展。不断涌现的行业经典案例显示，边缘 AI 使得终端数据显示出更高的价值，从数据向智能转变是当前各行业的重点工作。

NVIDIA 2025 年预测解读

NVIDIA 2025 年度预测的主题是《AI 在这一预测中，将深入挖掘行业数据湖，NVIDIA 的 AI 专家们谈到了各行各业的应用——手术机器人，AI 制药厂，移动机器人（AMR）、智慧金融、AI 工厂，智能能源，AI 智能化、智能化零售等。这些极具创新潜力的应用说明，全球各行各业都在积极构建和定制大语言模型。（LLM），AI 大型模型下沉到终端让“ AI “这些典型的应用是从概念走向现实的。

如同 NVIDIA 医疗卫生副总裁 Kimberly Powell 当谈到手术机器人时，数字孪生、模拟和 AI 从理解和响应人类指令到执行和协助复杂的手术，使手术机器人更加强大，使其能以各种方式协助人类临床医生。Kimberly Powell 强调，用于训练机器人执行复杂任务的新型虚拟世界将使自主手术机器人成为现实。这类手术机器人可以准确地执行复杂的手术任务，缩短病人的康复时间，减少外科医生的认知工作。

NVIDIA Omniverse 还有模拟技术副总裁 Rev Lebaredian “让我们拥抱物理，”建议 AI，为了能够感知、理解物理世界并与之互动 AI 模型准备充分，这是企业即将面对的挑战。"也许许多人对物理物理有好处。 AI 这个概念也有些生疏，简单理解，物理理解。 AI 就是在数字世界中通过数字世界。 3D 模拟物理世界的重构方式，可以使算法模型更好地理解物理世界，适应物理世界的约束。物理 AI 基于物理的大规模仿真需要根据真实场景来完成，这样机器人等智能体才能在虚拟世界中高效完成各种训练，训练的成本和效率都有了显著提高。

其他 NVIDIA AI 专家们的预测并没有在这里一一进行，但是这些预测实际上更多的是应用领域的差异，在推广逻辑上有很大的共性，基本上都是围绕着智能体，AI 大型下沉，虚拟现实，物理 AI、进行物理模拟等概念，完成细分领域的“ AI "。实现的结果就是，基于细分领域的数据构建。 AI 模型或者模拟，然后用模型和模拟结果赋能终端更好的智能化。

因此，透过 NVIDIA AI 从数据转化为具体的专家预测中不难看出。 AI 应用程序将为终端产业带来巨大的价值空间。利用大数据、机器学习、统计方法等技术手段，从大量数据中获取有用的信息和知识，是数据价值挖掘的过程。随着 AI 大模型，物理 AI 随着智能体概念的加强，数据挖掘和转换的目标变得更加明确，数据的增长不再局限于云或数据中心，智能终端已经成为源源不断的数据源。随后，基于数据的算法、模型和智能体将具有更强的智能能力，并能以更快的速度、更低的成本和更低的功耗提供实时分析和反馈。这一相互促进使得终端应用能够快速迭代，不仅高效、低功耗、安全，而且具有极强的垂直特性，包括个性化定制属性。

总而言之，边缘 AI 在 2025 每年都会有一些显著的变化，不仅仅是基于一般算法和基本算率，而是基于行业数据打造自己的大模型和智能体，可以根据即时数据采集及时给出反馈和策略调整，已经有了智能的雏形。这一趋势将受到各终端行业的欢迎，就像分析机构一样。 Gartner 报告中提到的，到 2025 年将有 75% 数据产生于数据中心和云之外，并在边缘侧进行处理；到达 2026 年，86% 在项目实施过程中，边缘开发者将锁定目标。 AI 方向。

边沿 AI 部署的现状、挑战和应对策略

NVIDIA AI 专家们的预测告诉我们，2025 年边沿 AI 它取得了巨大的成就，对创新非常宽容。当然，目前各行业面临的市场形势并不一致，地域差异明显。简单看一下。 AI 普及一些典型领域的情况：

· 自动驾驶：乘联会数据显示，2023 年中国市场乘用车 L2 级别自动驾驶的渗透率已经达到明显领先于世界的47.3%(高盛数据显示 20%）；

· 智能化机器人：I-AIIG 在美国机器人市场中，数据显示 AI 高端机器人系统驱动的比例是比全球平均水平高30%。

· 人形机器人：Omdia 最近的报告指出，2027 全球人形机器人年销量突破万元，目前正处于行业爆发前夕。

伴随着各个行业的边缘 AI 认同度越来越高，参与度越来越深，边缘越来越深， AI 部署开始出现既定的方案，比如 NVIDIA 在分享自动驾驶预测时，全球副总裁、汽车事业部负责人吴新宙提到，支持自动驾驶汽车开发的关键计算机有三台——一台是基于数据中心训练的。 AI 另外一个堆栈用于模拟和验证，为了实现安全驾驶，第三台车载计算机用于处理即时传感器数据。

前沿的人形机器人也是如此。目前，人形机器人主要由几个关键部分组成，如感知系统、动力装置、控制系统、能源供应和通信模块，其中感知系统和控制系统的主要职责是实现智能化。控制系统是人形机器人的大脑，包括主板芯片、分系统控制器和各种控制组件。核心算法模型运行在主板芯片上。

虽然经过一段时间的发展，边缘 AI 部署不再是摸着石头过河，但是仍然有一些挑战需要克服。边沿 AI 该系统主要包括硅芯片层，硬件系统层，AI 以及网络层，垂直解决方案层。相较于云端 AI，边沿 AI 但在能源效率、实时性和数据安全方面具有明显的优势，但布署边缘 AI 战略硬件资源非常有限，包括计算资源、存储资源和网络带宽资源。如何基于有限的硬件资源构建强大的智能应用是所有行业共同研究的课题。为了建立更好的边缘 AI，开发者需要更强大的计算芯片，也需要尽可能通过量化技术、权重修剪、低秩分解等技术来压缩。 AI 模型，全面推进软硬件协同优化。

此外，在软硬件协同优化方面还会有一些额外的测试。比如软硬件协同优化通常是基于培训数据，而忽略了最后的部署场景。上面已经提到了，目前的边缘 AI 并非简单的布署通用算法，而是要根据实时动态的模型进行反馈和临时决策，这使得很多提升后的方案在现场布署时又要进行提升，有时方案可能需要回到设计初期，这对开发者来说是一个很大的打击。

为使各行业能够应对新时期的边缘 AI 部署挑战，让 NVIDIA AI 专家们的预测更好地从概念照进入现实，NVIDIA 提供了大量的解决方案。NVIDIA Blackwell 基于该架构的架构和计算平台也是边缘 AI 克服边缘，提供足够的算率保障。 AI “算率不足恐惧症” , 为生成式 AI 加速计算带来了突破性的进步。

NVIDIA 就是各个行业的边缘 AI 开发提供了大量的开发资源和服务。以服务机器人为基础， NVIDIA Omniverse 搭建的 Isaac Sim 基于物理的虚拟环境，允许开发者在基于物理的虚拟环境中进行设计、模拟、检测和训练。 AI 在这个过程中，开发者可以选择自定义模拟器，也可以选择基于自定义的机器人和自主机器。 Isaac Sim 现有的技术建设方案。

面向物理 AI，NVIDIA Omniverse 提供各种平台 API、SDK 和服务，可以帮助开发者轻松描述一般场景。 ( OpenUSD ) 和 RTX 将渲染技术集成到当前的软件工具和模拟工作流程中，从而构建这些 3D 环境。NVIDIA Omniverse 它是西门子、富士康等龙头企业的共同选择，可以帮助完成工厂的数字孪生、机器人虚拟训练空间建设、自动光学检测、物体识别、缺陷检测、轨迹规划等。帮助生产线。

开发汽车自动驾驶科学研究，NVIDIA DRIVE Orin 系统级芯片已广泛应用于各种品牌车辆，同时基于 NVIDIA Blackwell GPU 架构的 NVIDIA DRIVE Thor 汽车计算平台已成为汽车企业更新下一代自动驾驶技术的首选平台，赋能当前和未来的主流。 AI 对汽车进行定义。

实际上，不只是 NVIDIA AI 这些应用程序，各种边缘 AI 所有的实现都可以实现 NVIDIA 找出合适的方案，包括计算平台、虚拟空间、参考示例和核心技术等。与此同时，开发者也能从云中获得。 NVIDIA 先进的 AI 技术，目前 NVIDIA NIM 微型服务已扩展到各种关键的亚马逊云技术 AI 服务中，包含 NVIDIA Nemotron-4（先进的 LLM）、Llama 3.1 8B-Instruct（8B 大语言模型)、Llama 3.1 70B-Instruct（70B 大语言模型)和 Mixtral 8x7B Instruct v0.1(专家模型)等。

结语

随着 AI 2025年，大模型和算率逐渐下沉。年边沿 AI 可以说前景无限。如同 NVIDIA 边缘计算机器人和副总裁 Deepu Talla 预言：在不久的将来，机器人将无处不在，从手术室、数据中心到仓库和工厂。甚至交通控制系统，或者整个城市，都会从静态、人工操作的系统转变为基于物理的系统。 AI 自主互动系统。

但需要注意的是，边缘 AI 核心本质正在发生变化，已经开始展现智能化的能力，能够与环境互动，这对整个边缘系统提出了更高的要求。面对这些设计挑战，NVIDIA 硬件和方案是开发者的得力帮手，推动边缘 AI 战略升级迭代。

阅读更多热门文章

加关注星标我们

把我们设为星标，不要错过每一次更新！