边缘机器学习成功的关键因素

智能边缘设备的大量涌现已从根本上改变了人与机器间的交互。智能设备可丰富用户体验，自动化日常工作，增强流程和工作流程，提高企业生产力，促进商业生产力和业务增长，并提高人类社会的整体幸福感。促成这些变化的一项基本技术是边缘机器学习（ML）。通过将推理工作负载置于边缘，可针对处理和电源资源有限的环境简化并优化机器学习实现。边缘机器学习使智能更贴近终端设备，从而实现更快速更可靠的决策制定，同时维护数据安全与隐私。

ABI Research预测，2021年至2026年，具有边缘机器学习功能的设备出货量将以24.5%的平均复合增长率（CAGR）增长。开发人员深知该市场潜力，都希望能够利用该技术，但在开发模型和产品时却面临着各种挑战。值得庆幸的是，他们可以从不同边缘机器学习解决方案提供商那里选择适合自己的组件。

本白皮书概述了开发人员在为其边缘机器学习项目选择最佳处理解决方案时需要考虑的关键因素，即定制的处理性能、更高的能源效率、易于使用的开发环境、增强安全和广泛的生态系统。关注这五个因素将有助于开发人员进行边缘机器学习设计、开发和部署，并使其能够抓住边缘机器学习市场的增长机会。

边缘机器学习和智能边缘的兴起

基于云的人工智能（AI）的普及已经彻底改变了许多企业的决策制定过程。通过利用物联网（IoT）的进步，企业实现了资产、工具和设备与云端数据采集平台互连。利用这些平台，企业可收集实时数据进行分析，以更好地了解其运营，同时发现实现进一步优化、安全和自动化的机会。因此，基于云的人工智能已成为实现工作流程自动化和提高运营效率的关键工具。

多年来，互联设备的使用呈爆炸式增长，全球物联网连接总量从2014年的10亿增长至2021年的86亿，达到35.4%。

图表1 ：全球物联网连接以及数据和分析服务收入：2014至2021

边缘互联时代使人们对从这些设备提取数据并实时理解这些数据产生了强烈需求。企业开始采用基于云的人工智能服务和物联网管理平台，如实时数据流、采集和存储、基于人工智能的数据分析以及描述性和预测性维护。

一般而言，人工智能主要有两种类型，即基于规则的人工智能和基于机器学习的人工智能。

基于规则的人工智能模型为自动化决策制定系统，基于人类专家知识构建而成。虽然这些人工智能系统可提供确定性输出，但它们受限于人类知识水平。随着企业开始采集更多数据，它们希望能够了解所收集数据的含义，确定其环境并得出见解。然而，基于规则的人工智能模型并不是交付数据驱动型见解的理想选择。

另一方面，基于机器学习的人工智能模型可实现这一功能。机器学习模型可基于其分析的数据得出见解。同时，此类模型还可以在数据分析过程中自动学习并提高自己的准确性。近几年，一种基于深度神经网络（DNN）的机器学习技术越来越受欢迎，即深度学习（DL）。深度学习模型的目标是通过特征工程对大量数据进行多层处理，以识别其模式，优化决策制定并获得更准确的预测。

在机器学习开发的早期阶段，机器学习开发人员将所有模型（包括训练和推理工作负载）托管在云中，以便利用云计算的可扩展性、灵活性和成本效益。当时的机器学习模型规模庞大，不适合部署在边缘设备上。尽管基于云的人工智能可提供数据驱动型见解，但该技术也面临几个根本的局限性 ：

连接

云人工智能需要持续的连接。云连接的丢失成为基于云的人工智能的单一故障点。企业需要在电信基础设施方面投入更多资源，以保持边缘设备的云连接。

用户体验

云端处理需要一系列操作，首先将数据发送到云，对数据进行修剪和处理，然后生成响应。这一系列操作会引起延迟，因为完成整个流程需要时间，从而导致糟糕的用户体验。

数据安全和隐私

基于云的人工智能要求在云中发送和处理所有数据。因此，基于云的人工智能成为许多用户的关键和敏感信息存储库，从而成为黑客的攻击目标。此外，与单个边缘设备攻击相比，恶意分子只要投入足够的时间和精力，就可以访问并操控云中的更多数据。

在了解基于云的人工智能面临的挑战后，机器学习开发人员社区开始采用新方法。他们通过智能边缘让智能更贴近终端设备。

智能边缘可将数据处理和机器学习推理工作负载转移到整套传感器和边缘设备中。利用设备端推理功能，设备可以收集实时数据点，处理数据，并生成数据驱动型输出，同时尽可能减少延迟。其目标是利用关键任务数据进行实时预测，包括机器视觉、语音识别、生物识别和异常检测。

此外，在边缘对原始数据进行预处理意味着设备无需依赖持续的云连接。如今，以移动为中心的设备（如自动移动机器人、无人机、机器人出租车和自动消费车）具备设备端机器学习功能，且无需以太网连接或无处不在的无线连接。此外，由于边缘设备可处理原始数据，这些潜在的隐私关键型敏感数据不会再被发送到云端。这样一来，企业就可以将网络安全风险降至最低，并遵守消费者数据隐私要求。

尽管机器学习具有一定优势，但智能边缘的机器学习仍取决于设备和用例。为提供更全面的无缝用户体验，边缘设备需要具备环境感知功能。环境感知边缘设备允许同一环境下的设备进行通信和交互，并根据这些交互做出决策和预测。通过在这些设备中使用复杂的机器学习模型，未来的用例（如本地环境个性化、熄灯工厂以及远程患者诊断和护理）将开始逐一实现。

尽管如此，在环境感知边缘成为主流之前，行业仍需克服几大障碍。

环境感知边缘设备需要设备间无缝通信网络和实时信息交换。

这些设备需要运行高级模型，即多模态学习模型。这些模型通常需要密集型计算能力，以处理和协调来自多个传感器的输入，包括图像、音频、温度、压力和振动数据。

许多开发人员尚未在其产品中实现边缘机器学习。

因此，业界迫切需要稳定且易于使用的工具，以帮助机器学习开发人员更加熟悉环境感知边缘，并推动创建高度创新型开发人员社区。尽管边缘机器学习行业距离环境感知边缘仍有很长的一段路要走，但随着边缘机器学习的快速普及，实现环境感知边缘将指日可待。

边缘机器学习成功的关键因素

边缘机器学习时代已真正到来。ABI Research预测，2021年至2026年，具有边缘机器学习功能的设备出货量将以24.5%的CAGR增长。越来越多的技术供应商和公司开始投入大量资源来开发边缘机器学习解决方案和用例。与具有标准化服务器和处理器的云环境不同，边缘机器学习是一个多样化市场，涵盖了广泛的垂直领域、设备外形、处理能力和用例。

图表2表明，消费电子设备（智能手机、游戏机、可穿戴设备和智能家居设备）是最大的边缘机器学习市场，占整个市场份额的85%。然而，虽然消费电子应用仍对边缘机器学习的开发和创新具有高度影响，但越来越多的供应商开始寻求该垂直领域之外的发展机会。越来越多的供应商开始针对汽车、农业、健康保健、工业和制造业、零售、机器人、智能楼宇、智慧城市、交通、物流和公用事业等特定垂直领域提供相应解决方案。从2022年起，这些垂直领域对边缘机器学习的需求预计将呈指数级增长。

通过具体了解几个主要垂直领域，我们发现边缘机器学习的重要性十分明显 ：

汽车

汽车应用一直都是边缘机器学习开发的主要驱动因素。技术供应商竞相推出针对高级驾驶辅助（ADAS）和自动驾驶的硬件、软件和服务。关键用例包括自适应巡航控制、同步定位与建图（SLAM）、驾驶员监测、横向和纵向辅助、夜视、个性化原始设备制造商（OEM）嵌入式信息娱乐系统以及无人出租车。

虽然目前市面上的大部分车辆都处于ADAS L0和L1水平，但预计汽车市场将经历快速变化。目前奥迪、福特、通用和特斯拉等新车普遍采用L2自动驾驶技术。开发人员正在努力实现L3和L4，早期的L5车辆将在2025年测试和发布。ABI Research预测，2021年至2026年，具有边缘机器学习功能的汽车出货量将增加4.5倍。

商用

边缘机器学习普及的最明显迹象就是边缘机器学习设备在商业领域的涌现。ABI Research预测，未来五年，零售、智能楼宇以及交通物流领域的边缘机器学习设备出货量将分别增长2倍、4倍和1.7倍。

零售商开始逐渐部署面向智能付款台、库存监控和仓库执行的自动解决方案。如今，商业楼宇配备了各种楼宇自动化系统，这些系统利用智能传感器和摄像头进行占位检测、温度调节以及确保安全。交通物流公司开始在重型机械和基础设施中部署智能传感系统。例如 ：卡车和铁路运输服务提供商可执行设备管理和预测性维护，而仓储服务提供商则可以在其存储设施中实施简单的货盘计数和环境控制。

健康保健

与其他垂直行业相比，健康保健机构在采用人工智能方面的进展比较缓慢。进展缓慢的主要原因包括严格的法规、属于风险规避领域，以及优先确保高准确性和高精度的要求。因此，在可预测的未来，健康保健并不是边缘机器学习市场的重要组成部分。

尽管如此，由于其基数较低，具有边缘机器学习能力的健康保健设备出货量预计在未来五年将实现6倍增长。COVID-19疫情进一步表明，健康保健是最迫切需要采用边缘机器学习解决方案的领域之一。随着智能医院的出现，具有边缘机器学习能力的医疗设备可以安全可靠地实现一些关键工作负载，包括患者监护和筛查、临床诊断、个性化治疗、用药处方、远程医疗等。医院现在可以通过智能设备的操作洞察力来增强医务人员的知识，从而有效地管理其资源、人员和能力。

工业

农业、石油和天然气以及制造业的工业企业都使用边缘机器学习来实现整体效率的提升、缺陷检查、预测性维护、工作场所安全管理和自动物料处理。近期的工厂资产数字化也侧重于流程自动化、远程工厂车间操作以及灵活的基础设施维护和升级。自动移动机器人和叉车中也部署了基于机器学习的机器视觉，以实现定位和导航、物品分拣、分类和分割。

鉴于这些数据对生产和工作流程的敏感性和关键性，工业和制造业公司对公布的数据非常谨慎。因此促进了他们在工作场所广泛采用边缘机器学习设备和服务器。由于起始基数小，具有边缘机器学习能力的工业设备出货量预计在未来五年将实现20倍增长。

公共基础设施

公共基础设施是指部署在智慧城市中的边缘机器学习设备。数十年来，城市一直面临着拥堵、污染和安全等挑战。因此，许多城市都在积极探索边缘机器学习能力。例如 ：智能交通管理、自动驾驶车辆、行人流量监测和管理、物理和周边安全以及预防性威胁检测等应用都部署了具有深度学习模型的智能摄像头，以实现决策制定的自动化和增强。

与此同时，智能传感器已被嵌入各种公共资产和基础设施中，以收集信息，并提供公共场所的洞见，从而创建可持续的弹性城市。因此，预计2021年至2026年的出货量将翻倍。

为有效地应对上述边缘设备和用例的多样性，机器学习开发人员需要拥有数据操作、机器学习工程、嵌入式系统设计以及边缘机器学习硬件和软件方面的大量专业知识。然而，并非所有开发人员都具备成功实施边缘机器学习项目所需的知识。同时，边缘机器学习应用必须得到最优机器学习硬件的支持，以实现成本、性能和能效之间的适当平衡。最后，如果没有来自边缘机器学习处理器供应商的重要贡献，边缘机器学习的市场渗透将是有限的。

芯片供应商应组合必要的工具，以帮助整个开发人员生态系统克服这些限制，特别是针对机器学习开发人 员。近年来边缘机器学习处理器供应商针对推动边缘机器普及的五个关键因素推出了一些创新解决方案： 处理性能、能效、开发环境、增强安全以及供应商生态系统。

阅读完整研究报告

在本研究报告接下来的章节中，将详细分析推动边缘机器学习普及的五个关键因素，并对未来的前景进行展望，主要的内容包括：

定制的处理能力

更高的能源效率

易于使用的开发环境

增强安全

大型生态系统

边缘机器学习的普及

原文标题：边缘机器学习的大众时代：读懂AI，这份研究报告值得反复研读（内附下载链接）

文章出处：【微信公众号：NXP客栈】欢迎添加关注！文章转载请注明出处。

审核编辑：彭菁