简述边缘计算的持续发展

作者：Arm 架构与技术部安全设备生态系统总监 David Maidment

从今年四月德国 embedded world 展会上的主题就不难看出，边缘人工智能 (AI) 及物联网中关于 AI 应用程序的持续发展成为了热议话题。

目前的互连设备总量已达到数十亿，其中许多都具有先进 AI 计算的需求，这一数字预计到 2030 年将翻倍，达到 300 亿[1]。与此同时，AI 推理也将呈指数级增长（该推理是指利用经训练的模型对新的现实世界数据进行预测或决策的过程），这将导致数十亿个独立端侧设备上处理的个人数据量达到前所未有的量级，而每个终端设备的数据都需要被保护。

虽然存在计算和安全性的挑战，但整个技术行业已达成共识 —— 尽可能在边缘（设备）或本地服务器上进行数据处理。这将为企业和用户带来以下优势：

更低延迟：边缘 AI 减少了一切都要在云端处理的需求，这对于汽车和工业物联网等安全优先型的应用而言尤为重要，因为计算处理的延迟可能会导致潜在的毁灭性后果。

更高可靠性：边缘 AI 消除或减少了对集中式云端往返连接的依赖。

更低成本：在保持高带宽连接的前提下，在云端与边缘侧间来回传输大量数据的成本，要比直接在边缘侧处理少量数据更高。

更高隐私性：边缘 AI 意味着个人数据可以保留在设备上，能更好地对数据访问者进行管控。

更强安全性：边缘 AI 代表着对云端的扩展，而在边缘设备的整个生命周期内，必须确保遵守新出台的网络法规，例如 EU-CRA、NIST 和 UK-PSTI 法案。

为了满足大规模部署 AI 的需求，边缘计算必需不断发展。而“边缘计算的持续发展”促进了对硬件和软件异构性、顺畅开发和规模化安全性三方面的需求。这三方面又将为重要的计算趋势提供支持，从而使整个技术生态系统受益，包括“与云类似”的开发方法、模块化软件、广泛的协作，以及消除不必要的碎片化风险。

边缘侧的硬件和软件异构性

边缘 AI 的计算要求会因不同用例而异。有些应用程序经过调式以实现最低功耗，例如延长电池续航时间，而其他应用程序则需要大量的计算来支持密集型工作负载。积极采纳底层硬件和软件工作负载的异构性至关重要。Arm 架构作为全球最多样化、普及性最高和安全性的代表，被广泛应用于各种边缘设备和不同用例中，可说是硬件异构性的基础。这对开发者而言尤为重要，因为应用程序能够访问尽可能广泛的硬件是他们所希望的。此外，这还能支持开发者针对特定的 AI 用例选出最佳解决方案。

拥抱这种异构性就需要模块化软件，以便尽可能跨不同供应商的不同硬件平台进行无缝运行。目前面临的挑战在于，在很多情况下，互连设备都带有各供应商特有的定制软件层，而这些软件层在长达数十年的部署过程中需要持续进行维护和更新。这种特定供应商的做法会导致高昂的管理成本，并带来安全漏洞。通过采用模块化软件，供应商可以专注于差异化和增值，并通过重复使用标准软件组件（例如主流操作系统和底层固件）来优化设备维护成本。

顺畅开发

尽可能复用软件是边缘 AI 顺畅开发的一大关键。无需从头开始为单个互连设备创建新软件，取而代之的是，在整个生态系统中复用软件，从而加快服务的部署和扩展。这种方式是 SOAFEE 项目的一个主要目标，SOAFEE 是由 Arm 牵头发起且由行业主导的协作项目，它涵盖了整个汽车生态系统和价值链，旨在为大规模软件复用提供基于标准的一致性框架。虽然针对的是汽车行业，但软件定义汽车 (SDV) 本质上是面向互连的边缘设备，通过软件的无线更新 (OTA)，进行关键功能和应用程序的迭代更新。因此，SOAFEE 积累的经验可以广泛应用于各种互连的边缘设备。

顺畅开发的另一大关键是采用“与云类似”的新方法，旨在打破传统的线性嵌入式软件开发流程。那些流程通常是孤立的，针对特定设备，并且仅在硬件可用时方能启动。

“与云类似”的开发方法使得软件能够在云端开发并集成到 CI/CD 工作流中，从而实现持续构建、测试和验证。因此，开发者可以在硬件就绪前，提前在虚拟平台上启动应用程序的开发工作，并采用更灵活的方法实现部署和增强功能。由此助力开发者提高效率、简化开发流程并缩短产品上市时间。

规模化安全性

不过，改进开发流程需要遵循公开可用的标准，采用可信且一致的安全方法来实现。Arm SystemReady、PSA Certified 和 PARSEC 是制定此类标准相关的一些重要举措示例，共同承担着保障生态系统合规性的责任，并为每位参与者带来了海量机遇。不仅如此，这些标准也有助于进一步减少各互连设备上的软件层数，并解决碎片化问题。

每个标准都具备不同的优势。2020 年推出的 Arm SystemReady 面向基于 Arm 架构的设备，旨在实现相关操作系统（例如 Linux）的安全安装和启动的标准化，进而在设备部署的整个生命周期内最大限度降低软件维护成本。Arm 参与创立的 PSA Certified 可为物联网硬件（信任根, RoT）、SoC、系统软件和设备提供独立的认证评估方案，有助于让生态系统对互连设备的安全性充满信心。此外，它还符合新颁布的网络安全法规要求，例如 EU-CRA 法案和 UK-PSTI 法案。这无疑为设备供应商提供了保障，助其大规模部署互连设备。最后，开源计划 PARSEC 可为硬件抽象的安全服务（例如加密服务和安全存储）提供标准化方法，有助于消除与保护目前正在开发和部署的大量边缘 AI 应用程序相关的障碍，并提高软件的复用率和可移植性。

在今年 embedded world 展会上，作为 Arm 软件生态的专业组织，Linaro 展示了一个支持 Arm 生态系统的全新方案 ONELab，依据这些标准以更高效的方式对新发布及更新后的设备固件进行测试。随着越来越多的合作伙伴正积极加入由 Linaro 提供支持的 ONELab 项目，更加无缝、敏捷和顺畅的开发体验将成为可能。

积极拥抱生态系统协作

边缘计算正在加快各种技术设备的数字化转型。这为我们带来了难得的商业机会，并将带领大家探索新的 AI 相关软件功能。当然，整个行业也面临着重重挑战。通过促进行业间协作，不断发展的边缘计算正全力应对这些挑战，致力于让所有参与者持续实现有关顺畅开发、硬件和软件异构性以及规模化安全性的发展目标。然而，这也需要生态系统更广泛地开展协作，进而加速扩展、支持和保护未来的数十亿互连设备。最终的胜利将是生态系统的双赢，更重要的是，使用未来 AI 服务的用户将逐步转移到边缘侧。