AI时代如何确保计算安全？

正如其他技术革新一样，人工智能 (AI) 为人们的数字体验带来了新机遇，但同时也伴随着诸多挑战。除了潜在的变革性影响，有鉴于AI 应用的过程中，大量的敏感数据会被收集和保存，并进一步被使用在为最终用户提供高度个性化的技术体验上，它同时也带来了独特的安全威胁。对安全问题的关注正推动行业及社会各界展开密切讨论，携手寻找合适的解决方案，以更大限度地发挥 AI 的优势，并尽可能减少任何潜在的社会影响。

注重安全性深植于 Arm 的企业核心基因之中。积极应对安全挑战是 Arm 为无处不在的 AI 奠定技术基础的根基。在 AI 以空前的规模加速技术创新之时，Arm 在其业内领先的 IP 中部署了基础安全技术与相关标准，在 AI 的持续演进过程中继续发挥重要作用，以应对新出现的安全威胁。

安全性在边缘 AI 领域的作用

随着 AI 日益普及，我们预计在网络边缘设备上运行 AI 推理工作负载的场景将大幅增长。由于推理工作使用的是经过训练的模型，其所需的算力较少，有助于广泛地推动在边缘领域实现更高效的 AI 计算。与此同时，AI 工作负载将在更接近数据采集之处进行处理，也能够提供更快响应的用户体验，减少延迟。

从安全角度来看，将 AI 处理分布到边缘应用将使企业和用户大受裨益。其中一个关键的安全优势在于，敏感的用户数据可以在实际设备上进行处理，而无需再发送给第三方，这使得企业和消费者都能更好地掌控自己的数据。

目前市面上有很多基于 AI 的安全用例，其中，智能视觉可以充分展示边缘 AI 的优势。许多企业正在研发智能摄像头，以广泛应用于家庭、护理院和医院，用以监测老年人的相关活动，以及时处理摔倒等意外情况的发生。在实际设备上提供图像处理和场景识别的能力，实现了本质上更安全的系统，消除了将敏感信息发送给第三方处理所带来的风险。这也让人们更容易接受在所需环境中安装此类摄像头，因为这些环境中往往也存在着重要的隐私考量。

打造可信赖的硬件

然而，企业还需要确保其硬件值得信赖，尤其是在 AI 时代，他们必须保护其成本高昂的生成式 AI 模型免受攻击。此前发布的《PSA Certified 2023 安全性报告》强调了对安全硬件的需求，报告表明 69% 的技术决策者愿意为保护设备安全支付额外费用，其中 65% 的决策者在做出购买决策时特别关注安全认证。若要防止恶意攻击者窃取基于 AI 和机器学习 (ML) 模型的知识产权，有效地保护边缘设备至关重要。

处理器安全

不论是将 AI 的处理全权交给 CPU，或是结合 GPU 或 NPU 等协处理器一起提供支持，边缘 AI 的发展趋势都与 CPU 相关。大量 AI 计算正发生在 CPU 之上，因此 AI 时代的安全性取决于 CPU 的安全性。这也是为什么确保 AI 安全在很大程度上依赖于保障计算安全的基础。

使用 AI 和 ML 工具及框架部署代码有助于识别安全漏洞，但攻击者也可以使用同样的技术在数百万行代码中找出可利用的漏洞。这意味着计算机架构师需要加倍努力提高计算系统的安全性。多年来，Arm 朝着这个目标刻苦钻研，不断开发和投资新的安全架构功能。

内存标记扩展

Arm 的内存标记扩展 (Memory Tagging Extension, MTE) 功能内建于最新一代 Armv9 架构 CPU 中。MTE 可以动态识别空间和时间内存安全问题，这些问题占所有严重安全漏洞的 70%。随着 AI 的发展，这些安全威胁持续存在。

MTE 已经在移动设备市场上得到了广泛应用。MediaTek 已将这项技术部署到面向旗舰智能手机的基于 Arm 架构的天玑 9300 系统级芯片 (SoC)上，而谷歌也已在 Android 14 中启用了 MTE。vivo 在其 X100 和 X100 Pro 旗舰智能手机中搭载了天玑 9300，此前还宣布开放千镜内存安全检测能力，将为其开发者提供 MTE 等技术。整个移动生态系统致力于支持 MTE，这将帮助全球数百万开发者加快产品上市速度，提供更出色、更安全的用户体验。未来 MTE 的应用范围将不再局限于移动领域，而是随着采用 Arm A 系列架构处理器的设备进入到高性能的物联网 (IoT) 市场。

Arm 安全技术

作为 Armv9 架构的一部分，我们推出了机密领域管理扩展 (Realm Management Extensions, RME)，这是 Arm 机密计算架构 (CCA) 的基础。这有助于保护运行虚拟机的数据安全，避免因虚拟机管理程序遭到破坏而受到攻击。用于训练先进 ML 模型的数据中心显然需要这种技术，但在部署经过训练的 ML 模型的物联网市场中，确保边缘计算系统的安全也同样重要。

我们还引入了指针验证 (Pointer Authentication, PAC) 和分支目标识别 (Branch Target Identification, BTI)，作为内置于 Armv9 架构中的安全技术，从而提供更强大的保护性能，防止返回导向编程 (Return-Orientated Programming, ROP) 和跳转导向编程 (Jump-Orientated Programming, JOP) 等代码复用攻击。在 AI 时代，这一点非常重要，因为攻击者将能够利用 AI 和 ML 工具，开发出复用已有代码的复杂方法。PAC 和 BTI 正部署到消费技术和物联网市场的 Arm A 系列和 M 系列架构中。

此外，Arm 将继续与业界伙伴展开协作，推动我们的安全框架和认证计划 PSA Certified 的发展，创建面向所有联网设备的最佳实践基准。这一体系从核心层面构建，有助于改善系统的基础安全状况，满足消费者的期望——即随着设备的普及，其安全性也应得到保障。这一目标主要针对基于 Arm A 系列和 M 系列架构的物联网设备。

Morello 与安全领域的未来

除了现有的安全功能外，Arm 始终关注新的技术、标准和合作，积极寻求提高安全性的机会。Morello 就是一个很好的例子，该计划重点研究 CPU 架构的创新设计方法，致力于构建更加强大的处理器，防止产生某些关键的安全漏洞。我们与剑桥大学和 SRI International 合作，开发出了一种原型技术，如果进展顺利的话，可能会实施到未来的硬件中。

加快推进 AI 时代的安全性

基于 AI 和 ML 的技术正日益渗透到计算的各个领域。随着 AI 工作负载逐渐转移到边缘，机遇和挑战将在安全领域并存。

在 AI 创新快速涌现的同时，我们仍然需要遵循基础的安全原则。事实上，在 AI 时代，许多目前已投入使用的 Arm 基础安全技术将变得更为重要。

正因如此，我们将致力于提高相关架构、IP 和处理器的安全性，并为由此产生的技术组件和标准提供大力支持。Arm 将持续增加更多的 AI 和 ML 功能，同时推动安全性的加速发展，进而成为全球 AI 体验的安全计算平台。

审核编辑：刘清