Arm Kleidi扩展到汽车市场 Arm Kleidi实现性能自动优化

Arm 控股有限公司（纳斯达克股票代码：ARM，以下简称“Arm”）近日宣布将 Arm Kleidi 技术扩展到汽车市场。Arm Kleidi 是一项广泛的软件及软件社区参与计划，旨在加速人工智能 (AI) 的发展。通过 Arm Kleidi，合作伙伴将能够充分挖掘下一代特定应用 AI 模型在汽车中的优势，并加快其部署速度。

“ Arm 汽车事业部产品和解决方案副总裁 Suraj Gajendra 表示：在汽车行业中，AI 通常被称为自动驾驶汽车的核心——听起来颇具未来感，距离其大规模量产上路还有数年时间。然而，实际的情况是，当下新车型中的很多应用和功能，从自适应巡航控制、个性化车载信息娱乐系统到驾驶员和乘客监控系统，都已经在使用 AI 技术，并且这些特定应用的模型和工作负载已在 Arm 平台上高效运行。这归功于 Arm 计算平台卓越的灵活性、性能、能效和可扩展性，使其成为整个汽车行业中开发者的首选平台。 ”

然而，随着这些汽车应用与功能日益精进，对更多的 AI 功能与日益复杂的工作负载的需求不断提高，汽车行业正面临着一系列独特的挑战，包括：

相较于其他行业，汽车行业拥有庞大而复杂的软件系统，使得开发环境极为复杂。

需要一个强大的从云端到车端的软件开发和验证基础设施，以便将云端开发的应用无缝部署到汽车中。

软件必须符合严格的汽车功能安全和信息安全方面的行业标准和法规。

汽车的使用周期较长，这意味着软件必须具备升级能力，以适应未来不断新增的功能和更新（类似于在最新软件版本发布时对智能手机进行同步更新，但汽车的产品周期要更长）。

Arm 通过领先的汽车增强型 (AE) 技术和在汽车生态系统中的合作，应对这些独特的挑战。这些合作涵盖了虚拟平台和基于标准的软件解决方案，通过面向嵌入式边缘侧的可扩展开放架构 (SOAFEE) 来加速汽车开发周期。所有这些解决方案都为开发人员提供了工具，使他们能够通过应用广泛的 Arm 计算平台无缝获取更高的性能，并加快其产品的上市时间。

利用 Arm Kleidi 实现性能自动优化

Arm Kleidi 于 2024 年推出，旨在为 Arm CPU 上运行的 AI 推理工作负载提供软件性能优化，开发者无需进行任何额外的工作，目前该软件库已应用于移动端、云和数据中心等关键领域，包括 Kleidi 已被集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等热门 AI 框架的最新版本中，开发者只需开始构建应用程序，即可在基于 Arm 架构的平台上自动获取性能的显著提升。

Kleidi 的性能优化特性已引入汽车市场，领先的科技公司已经在他们的汽车软件中体验到了一系列新应用的性能提升。从车载聊天机器人、个性化驾驶员建议，到图像和运动增强以辅助用户、诊断和解决问题，Kleidi 库与关键的开发者框架的集成正在加速 AI 应用的开发，为用户提供更快、更高效的车载体验。

AWS Automotive 将车载聊天机器人的

响应速度提高了 10 倍

利用 Arm 与 Corellium 联合开发的虚拟平台，亚马逊云科技 (AWS) 为软件定义汽车 (SDV) 打造了一款全新的概念验证 (proof-of-concept) AI 聊天机器人，允许驾驶员直接与汽车进行互动，提出问题或询问仪表盘警报，而无需翻阅汽车用户手册。借助集成了 KleidiAI 的最新版 Llama.cpp 开发聊天机器人，AWS 实现了其聊天机器人性能的显著提升，响应时间缩短至一到三秒，性能提升达 10 倍。由于开发者无需在底层软件优化花费心力，KleidiAI 为聊天机器人的开发节省了六周时间。

VicOne 加快了对汽车网络安全威胁的应对速度

VicOne 面向 SDV 的 xCarbon 车载解决方案能使车辆学习和识别网络安全威胁，减少对云端技术的依赖，进而降低成本并更好地保护数据安全。借助 TinyLlama-1 1B 模型，VicOne 解决方案的性能实现了显著提升，预填充提示速度翻倍，词元生成速度提升了 60% 以上，从而缩短了车辆检测网络安全威胁的响应时间。Kleidi 实现的性能优化使 VicOne 能够在无需额外开发工作的情况下，为用户带来更安全、更可靠的驾驶体验。

Sonatus 专为 OEM 打造的 AI Technician Builder 平台，能够无缝运行于基于 Arm 架构的 AWS Graviton CPU

Sonatus 的 AI Technician Builder 是一个从云到边缘侧的平台，可帮助 OEM 厂商创建客户服务代理，以迅速响应用户对汽车的问询，进而改善驾驶体验。该平台最初运行于云端环境的 GPU，而通过引入 Kleidi 优化框架，它现可轻松移植到搭载 Arm 架构的 AWS Graviton EC2 云实例上运行。这不仅确保了用户所需的性价比和响应时间，还为在基于 Arm 架构的汽车计算平台上运行边缘 AI 工作负载铺平道路。

在 Arm 平台上推动汽车及其他领域的 AI 创新

如今，全球 94% 的车厂都在其最新车型中使用了 Arm 技术。Arm 计算平台在汽车领域的广泛应用，表明其在推动关键车载 AI 应用实现显著性能优化方面具备得天独厚的优势，AWS、VicOne 和 Sonatus 的成功实践便是很好的例证。将 Kleidi 集成到现有的软件堆栈中，推动了更高效、更先进的 AI 应用场景的实现，并为那些分秒必争的关键汽车应用提供了更快的响应速递。这赋予了开发者超能力，使他们能够在 Arm CPU 上优化并运行新的特定应用的 AI 模型和工作负载，而无需额外的成本或开发工作量。

通过将 Kleidi 扩展到汽车领域，Arm 持续兑现其承诺——为包括从云到边缘侧的各个 Arm 应用市场的 AI 开发者提供无缝的性能加速，助其打造有吸引力的全新用户体验，不断挖掘 AI 变革的潜力。