NPU是如何发展的？影响性能的因素有哪些？

02-06 06:56

(电子发烧友网综合报道)NPU 它是一种硬件Cpu，专门用于加快神经网络计算。伴随着人工智能和深度学习技术的飞速发展，传统 CPU 和 GPU 处理复杂的神经网络计算时显得有心无力，NPU 正是为了解决这个问题而设计的。

NPU 是如何发展起来的

早在 2011 年，Google 提出了利用大规模神经网络进行图像识别的技术， 2012 年 ImageNet 在比赛中取得了显著的成绩，标志着深度学习技术的兴起。

伴随着深度学习技术的不断发展，传统 CPU 和 GPU 当处理大规模神经网络计算时，逐渐显得有心无力，迫切需要更高效的计算单元来支持。

为满足深度学习计算的需要，NPU 应时而生。NPU 采用并行计算架构，可显著提高计算效率，是一种专门用于加速神经网络计算的处理器。

2016 年，Google 发布了 TPU 芯片，这是世界上第一个商业芯片。 NPU 商品。TPU 为了在深度学习计算中表现出色， NPU 商业应用奠定了基础。接着，英伟达，AMD、同时，英特尔等科技巨头也纷纷推出自己的产品 NPU 商品，促进了 NPU 快速发展的市场。

智能手机领域，NPU 应用程序也逐渐兴起。2016 多年前后，寒武纪发布了世界上第一个商业终端。 AI Cpu，为手机 AI 计算提供了强大的硬件支持。

2017 年，华为在 Mate 10 第一次搭载集成 AI 模块麒麟 970 Cpu，意味着手机 AI 时代的到来。随后，苹果、三星等制造商也相继推出了搭载。 NPU 智能手机商品。

伴随着技术的不断发展，NPU 同时，性能和功能也得到了显著提高。在高通、联发科等芯片制造商中 NPU 在该领域进行了大量的R&D投资，推出了多代 NPU 商品，如高通 Hexagon NPU 系列。Hexagon NPU 在性能、功耗、灵活性等方面表现良好，为智能手机、物联网设备等终端设备提供了强大的服务。 AI 计算能力。

NPU 的性能参数

NPU 一般来说，性能受多种因素影响，计算率是检验。 NPU 一般来说，性能的关键指标是浮点计算频率，每秒都可以实现。（FLOPS）或者整数运算频率（IOPS）去衡量。在 AI 在芯片中，计算率通常是 TOPS（Tera Operations Per Second，也就是每秒万亿次计算)来表示。

计算能力的高低直接相关 NPU 处理神经网络任务的速度和效率。计算率越高，NPU 能同时完成的计算量越大，那么就能更快地完成复杂的神经网络任务。

NPU 工作频率是另一个重要的性能参数，它影响处理器的计算速度。制作节点和制作节点的频率取决于制作节点。 NPU 不同的设计 NPU 它们之间可能会有差异。允许更高的频率 NPU 在单位时间内进行更多的计算，从而提高响应速度。但是，增加频率也会引起更高的功耗和热量，影响电池寿命和客户体验。所以，在设计中 NPU 在性能和功耗之间找到平衡点是很有必要的。

NPU 它有大量的并行计算核心，可以支持高效的并行计算。那就是 NPU 处理神经网络任务后的一个重要优势。并行计算能力越强，NPU 更多的计算任务或数据点可以同时处理，从而提高整体计算效率。对大规模神经网络和复杂数据的处理至关重要。

它是嵌入式设备的一个组成部分，NPU 功耗也是一个不可忽视的性能参数。功耗是指 NPU 运转过程中所消耗的能量。低功耗能使 NPU 更适合移动终端和边缘计算场景。设计 NPU 为了延长设备的使用时间，提高用户体验，需要考虑如何在保持高性能的同时降低功耗。

精确度是指计算的粒度，一般精确度越高，模型的精确度越高，但计算强度也越高。常见的精度包括 32 位和 16 通常采用的位浮点精度，以及速度更快、精度低、功耗低的模型。 8 位和 4 位置整数精度。为平衡选择合适的精度。 NPU 特别重要的是性能和功耗。高精度可以提高模型的精度，但会增加计算的复杂性和功耗；低精度可以降低功耗和计算的复杂性，但可能会牺牲一定的模型精度。

内存带宽的决定 NPU 数据的速度可以从内存中获取。如内存带宽不足，NPU 由于等待数据，可能会有空闲时间，从而降低综合性能。

软体优化也有影响 NPU 性能的关键因素。通过优化算法和代码，可以充分利用 NPU 计算资源，提高计算效率和准确性。

写在最后

现代化的ic设计，NPU 常常被集成到 SoC 中，作为 SoC 这是一个重要组成部分。这一集成方法促使 SoC 能够进一步扩大其在人工智能领域的应用能力，同时保持其高集成度、低功耗等优点。

例如，在智能手机、物联网设备等应用中，NPU 常集成到 SoC 为了提供高效率，中 AI 处理能力。这一集成方法不仅有利于提高设备的综合性能，而且可降低设计成本和功耗。

当 NPU 被集成到 SoC 在里时，它可以和其它功能模块(例如 CPU、GPU、存储器等)协调工作，共同完成复杂的计算任务。CPU 负责通用计算任务的处理，GPU 它负责图形渲染和大规模并行计算任务， NPU 它致力于神经网络计算任务。这一协调工作方法能充分发挥各功能模块的优势，提高整体计算效率。

伴随着人工智能技术的不断进步，NPU 在 SoC 其中使用场景也越来越广泛。智能手机中，NPU 可用于实现 AI 照相、语音助手等功能；在物联网设备中，NPU 可用于实现自动识别、自动控制等功能；在无人驾驶汽车中，NPU 则可用于实现视觉识别、路径规划等任务。

阅读更多热门文章

加关注星标我们

把我们设为星标，不要错过每一次更新！