边缘AI实现的核心环节：硬件选择和模型部署

电子发烧友网综合报道。 边沿 AI 实现原理是在不将数据传输到远程云服务器的情况下，将人工智能算法和模型部署到数据库附近的边缘设备上，使这些设备能够在当地进行数据处理、分析和决策。边缘 AI 实现的目的是将人工智能能力下沉到边缘设备。

边沿 AI 实现原则和核心环节的实现

边沿 AI 选择分布式计算架构，将计算任务从集中的云分散到各种边缘设备。边缘设备可以是智能手机、智能摄像头、工业传感器、智能家居设备等。这些设备具有一定的计算能力，可以在当地处理收集到的信息，减少对云计算资源的依赖。

边缘设备在当地完成数据采集、预处理、分析和决策。数据在根源周围进行处理，避免了大量数据传输到云端带来的网络延迟和带宽压力。例如，在智能安全监控中，摄像头可以直接分析当地的视频图像，识别行为问题。一旦发现异常情况，可以立即报警，而不是将所有视频数据上传到云端。

模型轻量化：由于边缘设备的计算资源、存储容量和功耗有限，传统的复杂性 AI 模型不能直接高效地运行在边缘设备上。所以，一定是对的 AI 对模型进行轻量化处理，如模型压缩、修枝、量化等。模型压缩可以减少模型参数值的数量，减少模型的存储空间和计算复杂性；模型修剪是去除模型中不重要的神经元或连接，提高模型的运行效率；模型量化将模型中的浮点参数转化为低精度定点，减少计算量和内存占用。

边缘设备布置：轻量化后的 AI 在边缘设备上部署模型。应考虑边缘设备的硬件结构、操作系统和开发环境等因素。不同的边缘设备可能有不同的处理器架构(例如 ARM、x86 等等，需要对不同的结构进行优化和适应，以确保模型能够在设备中高效运行。与此同时，还需要开发相应的应用程序或软件框架，方便边缘设备的调用和管理 AI 模型。

数据采集与预处理：边缘设备通过各种传感器(如摄像机、麦克风、温度传感器、加速度传感器等)采集数据。收集到的原始数据往往存在噪音、冗余和不一致等问题，需要进行预处理。数据预处理包括数据清理、特征提取、数据归一化等操作。数据清洗可以消除噪声数据和异常值；特征提取是从原始数据中提取出来的。 AI 模型有用的图像特征，降低数据维度；数据归一化就是将数据映射到特定的范围内，提高模型的收敛速度和准确性。

即时推理与决策：在边缘设备上输入预处理的数据。 AI 在模型中进行实时推理。AI 根据输入数据对模型进行分析和判断，输出相应的结果。根据推理结果，边缘设备作出决定，并进行相应的操作。例如，在无人驾驶汽车中，边缘设备(如车载计算平台)通过摄像头、雷达、激光雷达等传感器数据的实时处理， AI 对环境感知、目标检测和路径进行模型规划，然后根据推理结果控制车辆的行驶速度、方向和制动。

云协同更新：虽然边缘 AI 强调本地处理，但在某些情况下，边缘设备仍然需要与云协调。例如，当边缘设备遇到复杂的问题或需要处理大量数据时，可以将一些数据上传到云中进一步分析和处理；更新后的云可以在云中 AI 向边缘设备推送模型、算法和知识库，完成边缘设备的远程更新和优化，提高边缘设备 AI 系统性能及适应性。

边沿 AI 硬件配置

边沿 AI 为了满足多样化的使用场景，实现依赖于多种边缘设备，这些设备具有不同的特点和功能。常见的边缘 AI 有很多类型的边缘设备需要。

智能化终端类，如智能手机、智能摄像机、智能可穿戴设施等。智能手机，计算能力强，传感器丰富(如摄像头、麦克风、加速度计、陀螺仪等)。)和良好的通信能力(支持 Wi-Fi、4G/5G 等）。可用于图像识别(如照片翻译、扫码识别)、语音交互(如智能语音助手)、即时健康监测(结合传感器数据)等边缘 AI 应用。例如，用户在旅行时使用手机拍照来识别景点信息，即使用手机边缘。 AI 功能。

智能摄像头，内置图像传感器和一定的计算能力，可以实时收集图像数据并进行当地处理。广泛应用于安全监控、智能交通等领域。在安全监控中，智能摄像头可以通过边缘 AI 实现面部识别、行为分析(如检查异常飞行、徘徊等)。)，并及时报警；在智能交通中，可用于车辆识别、交通流量统计等。

智能可穿戴设备，如智能手表、智能手环等。，具有体积小、便携、贴近人体的特点。一般配备各种传感器(如心率传感器、睡眠监测传感器等。)和低功耗Cpu。主要用于健康监测和运动跟踪。例如，智能手表可以实时监测客户的心率、血压、睡眠质量等数据，并通过边缘 AI 对算法进行初步分析，为用户提供健康建议。

工业设备类，如工业传感器、工业网关、工业机器人控制器等。在工业生产过程中，工业传感器可以实时收集各种参数，如温度、压力、流量、振动等，有些工业传感器具有一定的数据处理能力。在工业自动化生产中，工业传感器可以通过边缘通过采集到的数据 AI 对设备状态进行实时监测和故障预警分析。例如，通过对设备振动数据的分析，可以提前发现设备可能出现的故障隐患，防止设备关机造成的生产损失。

工业网关作为工业现场设备与云之间的桥梁，具有一定的计算能力和通信能力，可以连接各种工业协议的设备，并对收集到的数据进行预处理和边缘计算。可对不同工业设备收集到的数据进行整合和分析，实现设备的远程监控和管理。例如，在工厂中，工业网关可以通过边缘收集各生产线的设备数据， AI 对数据进行算法分析，提高生产流程，提高生产效率。

工业机器人控制器，负责控制工业机器人的运动和操作，具有较高的计算性能和实时要求。结合边缘 AI 技术、工业机器人控制器能使机器人具有更智能的感知和管理能力。例如，在装配线上，机器人可以通过边缘 AI 识别零件的形状和位置，自动调整安装动作，提高安装的准确性和质量。

智能家居，如智能音频和智能家电。智能音频集成了麦克风阵列、音箱和语音识别芯片，具有语音交互能力，可以通过边缘 AI 实现语音命令的识别和处理。用户可以通过语音命令控制智能家居设备，如开灯、调节空调温度等。同时，智能音频还可以提供歌曲播放、新闻信息等服务。

智能家电，如智能冰箱、智能空调、智能洗衣机等。，内置传感器和微控制器，可以实时监控设备的运行状态和环境信息。通过边缘 AI 技术方面，智能家用电器可以实现智能控制和优化运行。例如，智能冰箱可以根据内部成分的储存情况为用户提供购买清单建议；智能空调可根据室内外温度和人员活动情况自动调节运行模式和温度。

智能化交通类，如车载计算平台，智能路边设备。具有高性能计算能力和低延迟通讯能力的车载计算平台，能满足自动驾驶等复杂应用的需要。车载计算平台在无人驾驶汽车中通过边缘 AI 实时处理分析摄像头、雷达、激光雷达等传感器收集的信息，实现环境感知、目标检测、路径规划、决策控制等功能，确保车辆安全行驶。

安装在道路两侧的智能路边设备，如智能信号灯、路边单元等（RSU）等等，可收集车辆流量、车辆速度等信息，并与车辆进行通讯。通过边沿 AI 技术、智能路边设备能实现对交通流量的实时监控和优化控制。例如，根据实时交通流量调整信号灯的长度，提高道路的通行效率；与此同时，还可向车辆发送实时路况，引导车辆选择最佳行驶路线。

边沿 AI 设备环境建设及模型部署

硬件配置选择:根据模型大小和计算要求，选择合适的边缘设备硬件。例如，对于对计算资源要求较高的模型，可以选择配置高性能处理器(例如 GPU、TPU）边缘计算盒；对于一些简单的任务，普通的嵌入式处理器(例如 ARM Cortex 这个系列也许就够了。

操作系统和开发环境配置：在边缘设备上设置适当的操作系统，例如 Linux、Android 等等，并配置相应的开发环境，包括编译器、调试工具等。与此同时，安装支持 AI 模型推理的框架，例如 TensorFlow Lite、PyTorch Mobile、ONNX Runtime 等等，这些框架可以将训练好的模型部署到边缘设备上，进行有效的推理。

模型转换：将训练好的模型转换为边缘设备支持的格式。例如，如果使用的话 TensorFlow 训练模型，可以使用 TensorFlow Lite Converter 把模型转换成 .tflite 保证格式存在 TensorFlow Lite 运行在框架上。

模型部署：将转换后的模型部署到边缘设备上。可通过有线(例如 USB、或者无线(如以太网) Wi-Fi、模型文件通过蓝牙方式传输到边缘设备的存储单元。

系统集成:集成布局好的模型和边缘设备上的其他软件模块，实现数据采集、预处理、模型推理和结果输出的完整过程。例如，编写数据采集程序，实时向模型传输传感器采集的数据进行推理，并根据推理结果控制相应的执行机构。

阅读更多热门文章

加关注 星标我们

把我们设为星标，不要错过每一次更新！

喜欢就奖励一个“在看”！

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com