Arm物联网事业部业务拓展副总裁马健：如何帮助AIoT企业加速创新？

电子发烧友原创 章鹰

10月24日，安谋科技智能物联网生态研讨会在深圳盛大召开。智能未来的机遇是什么？Arm在智能物联网产业链将扮演怎样的角色？如何帮助开发者加速创新？Arm物联网事业部业务拓展副总裁马健带来了最新的前瞻观点和Arm解决方案。


ChatGPT带火AI，边缘侧AIoT需求迅速增加

在过去一年席卷整个科技界的AI风暴，以ChatGPT大模型和生成式AI为中心，极大地提高了机器的自然语言能力。人工智能有了质的飞跃。英伟达CEO推崇ChatGPT的发布是AI的iPhone时刻，业界普遍认同这是人机能力转移的历史性拐点。不管是认知模型、行为模型还是领域模型，这些会加速下一拐点的到来，这就是机器人和自动驾驶为代表的行动无处不在。这些新范式将重新定义人机交互模式。有了大模型，多模态AI就成为事实。

“随着多模态AI的演进，边缘设备算力的不断提高，以及对延时、带宽、安全隐私用户体验的需求，决定了AI的应用必须需要云边端的协同调度。Arm植根于嵌入式计算，公司在智能手机领域一鸣惊人，奠定了Arm在全球计算平台的地位。Arm成为边缘AI最自然的载体，遍及医疗、健康、智能家居、农业与自然资源、工业和智慧城市、智能零售等诸多领域，来帮助客户解决他们面对的一些复杂的挑战。”马健表示。

快速开发成为AIoT开发者的迫切需求，ARM形成三大方向布局

人工智能驱动了物联网应用的快速迭代，加速开发、让创意提早落地实现成为开发者们关注的焦点。马健表示：“AI和机器学习是AIoT的重中之重，Arm在边缘布局聚焦三大方向：硬件IP组合、软件标准和开发者生态系统。”

在硬件方面，Arm发力拥抱智能，主要有产品线Cortex A应用处理器、Cortex M嵌入式处理器，加速器。Arm今年5月发布的Cortex A720和Cortex A520 IP，这些核心都是基于最新的ARMv9.2架构，支持64位计算，不再兼容32位应用。这些核心的主要特点是提高了IPC和效率，为未来的智能手机和其他设备带来更强的性能和更长的续航。

Cortex M处理器增强了对数字信号处理和机器学习的支持。最新的Cortex M55、Cortex M85可以使每个MCU和嵌入式处理器轻松支持AI和DSP算法。以Cortex M85为例，Cortex-M85具有Arm Helium技术，可支持终端机器学习和DSP工作负载；该处理器还是首个从Arm-v8.1M架构中集成指针认证和分支目标识别（Pointer Authentication and Branch Target Identification, PACBTI）的Cortex产品，该技术能有效增强其安全性。Cortex-M85还在机器学习性能上较Cortex-M55提升了20%。

除了CPU IP之外，Arm还开发了Ethos-U microNPU 系列的最新产品，为各种嵌入式装置打造低成本、高效率的人工智能解决方案。Ethos-U65 维持 Arm Ethos-U55 的功耗效率，可以承受更高的时延，可以支持多种不同的神经网络，同时将其适用性扩展至以 Arm Cortex-A、Cortex-R 和 Neoverse 架构的系统，同时提供两倍装置内机器学习 (ML) 的效能。

“基于Ethos-U55和Ethos-U65，我们已经有了量产的芯片，并且有更多的产品在研发中。我们期待更多的基于Ethos-U65的产品闪亮登场。”马健强调说，“不同的边缘应用会对数据量和推理性能有不同的要求。Arm拥有丰富的半导体IP产品组合，可以服务于广泛的边缘AI应用场景，支持客户在IP选型方面的需求，令客户能够根据性能、价格、功能等做出最优选择。”

Arm对机器学习和标准有广泛的支持，以帮助软件、算法同事更方便开发部署基于Arm平台的高性能、高效率应用。Arm支持多种主流ML框架，包括TensorFlow、TensorFlow Lite、PyTorch、百度飞桨。

Arm一直在思考如何帮助AIoT领域的创新企业？马健表示，新的设计方式和产品形态选用Arm比较成熟而且已经过量产考验的处理器以及系统IP。Arm构建出相对标准化的IP组合，并且经过预先验证，辅以该子系统的Arm虚拟硬件和参考软件栈，这样就形成了一个设计AIoT系统的坚实的基础技术平台,让产品设计者专注差异化和新想法，然后将新观念化为产品推向市场。 Arm 虚拟硬件为物联网应用引入现代化、高弹性的软件开发环境，实现了软硬件并行开发、共同设计以及持续集成/持续部署 (CI/CD)。这些措施显著降低芯片开发成本和风险，大幅度缩短开发周期。

在模型和行动无处不在的新时代，智能视觉将变得必不可少。从趋势上来看，智能视觉正朝向四个方面发展：一是云、边、端协同，二是会由AI加持，三是大算力支持，四是隐私和安全性将愈发重要。

马健最后表示，Arm与安谋科技在中国市场发布最新集Arm与安谋科技IP于一体的智能视觉参考设计便印证了这种改变，方案内包括CPU、ISP、NPU和VPU处理器选项及将这些元件粘合在一起的子系统IP。Arm发起智能视觉合作伙伴计划，联合AI视觉、芯片设计、软件算法和系统集成的行业伙伴，基于Arm架构打造智能视觉应用生态。