0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Arm计算平台持续促进从云到端的AI优化部署

Arm社区 来源:Arm社区 2025-03-25 15:57 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

CFMS | MemoryS 2025 于上周在深圳盛大召开,活动现场汇聚了包括 Arm 在内的全球存储产业链的诸多领先企业。

在大会上,Arm 物联网事业部业务拓展副总裁马健通过主题演讲与在场的行业参与者分享了,Arm 强调以开放生态为核心,通过计算平台创新与标准化协作,赋能从云端到边缘的智能化转型,推动人工智能 (AI) 与存储技术的深度融合。让我们一起跟随本文,深入了解本次演讲的精彩内容!

释放 AI 潜能,Arm 计算平台构建计算与存储的未来

当下,我们正处在激动人心的人工智能 (AI) 技术变革初期阶段。随着自然语言、多模态大模型以及生成式 AI 技术的加速演进,AI 正以前所未有的速度重塑各行各业。根据 IDC 的预测,全球数据量将从 2024 年的 159.2ZB 增长到 2028 年的超过 384.6ZB,年复合增长率达 24.4%。其中,到 2028 年,预计 37% 的数据将会在云端直接产生,而其余数据会从边缘端和终端直接产生。

面对边缘数据的激增,高效的数据处理、低延迟传输以及智能、安全的存储正成为行业关注的重点。未来的计算架构不仅要提供更强的算力,还必须更紧密地与存储系统结合,以确保 AI 模型能够高效运行,同时优化数据管理和访问方式。

从目前的 AI 技术发展方向来看,一方面,大模型正向通用人工智能 (AGI) 演进,探索多模态、物理 AI 等新方向,并持续挑战算力的新极限。另一方面,为推进大模型全面部署的进程,行业开始迈向深度优化和垂直领域定制化,使大模型能走入千行百业,适应移动端、边缘计算、云端部署等不同场景。

DeepSeek 的推出对全球 AI 市场产生了深远影响:作为一种开放的创新技术,它不仅展示了 AI 在训练与推理过程中的优化潜力,还极大提高了大规模部署的效率,充分证明了模型能够在更低成本、更高效能的环境中稳定运行。这一成就对于推动 AI 在企业级应用和边缘计算领域的大规模应用具有重要意义。

Arm 计算平台:持续促进从云到端的 AI 优化部署

在 AI 发展的初期阶段,数据中心作为模型训练和初期推理的核心场所,正面临着前所未有的挑战。传统的标准通用芯片在处理计算密集型的 AI 工作负载时显得力不从心,无法满足 AI 时代对于高性能、低功耗以及灵活扩展性的迫切需求。在此背景下,Arm 计算平台凭借其先进的技术优势,为新一代 AI 云基础设施的发展开辟了新的范式。从 Arm Neoverse 计算子系统 (CSS)、Arm Total Design 生态项目到芯粒系统架构 (CSA),Arm 进行了从技术到生态的整体化布局,不仅为 AI 数据中心的工作负载提供了高效、灵活且可扩展的解决方案,还帮助合作伙伴专注于产品差异化,为产品上市进程提速。

AI 推理是 AI 释放价值的关键,它正迅速从云端拓展至边缘端,覆盖世界的每一个角落。在边缘 AI 领域,Arm 凭借其技术与生态的独特优势,不断创新,确保智能物联网与消费电子生态系统能在恰当的时机、于最适合的地点执行最优工作负载。

为了满足边缘 AI 日益攀升的 AI 工作负载需求,Arm 近期发布了以全新 Armv9 超高能效 Cortex-A320 CPU 以及对 Transformer 网络具有原生支持的 Ethos-U85 AI 加速器为核心的边缘 AI 计算平台。该平台实现了 CPU 与 AI 加速器的深度集成。相比去年以 Cortex-M85 搭配 Ethos-U85 的平台提升了八倍的机器学习 (ML) 计算性能,带来了显著的 AI 计算能力突破,可赋能边缘 AI 设备轻松运行超过 10 亿参数的大模型。

其中,全新发布的超高能效 Cortex-A320 不仅可以为 Ethos-U85 提供更高的内存容量与带宽,让大模型在 Ethos-U85 上的执行如虎添翼,还支持更大的可寻址内存空间,并能够更灵活地管理多层次内存访问延迟。Cortex-A320 与 Ethos-U85 的组合,是运行大模型及应对边缘 AI 任务所带来的内存容量及带宽挑战的理想选择。

此外,Cortex-A320 还充分利用了 Armv9 增强的 AI 计算特性以及包括 Secure EL2、指针验证/分支目标识别 (PACBTI) 以及内存标记扩展 (MTE) 等在内的安全特性。此前,这些特性已经在其他市场得到广泛应用,而 Arm 现在将其引入了物联网与边缘 AI 计算领域,在提供出色且灵活 AI 性能的同时,实现对软件负载更好的隔离与软件内存异常的防护,提高整体系统安全性。

AI 时代的存储发展:存储、计算和安全能力的全面升级

随着 AI 计算需求的持续增长,云边端在对计算能力提出更高要求的同时,也对存储系统的性能、密度、实时性和功耗等方面提出了更严苛的要求。在传统模式下,计算架构往往将存储和计算相对分离,存储设备仅仅承担数据存放的角色,数据需要在存储与计算节点之间频繁搬移,导致“存储-计算”之间的瓶颈。然而在 AI 时代,为满足数据实时分析、智能管理及高效访问等需求,将存储置于离计算单元更近的地方,或让存储本身具备计算能力,变得尤为关键。这样能够确保 AI 任务在最合适的位置得到高效执行。

从云到端的 AI 计算,对存储吞吐量、延迟、能耗、安全以及诸如 Open Channel 等提升主机可管理性 (host manageability) 的需求都不尽相同。存储控制器以及运行在存储控制器中 Arm CPU 上的固件在支持差异化 AI 存储需求中起到了极其重要的作用。

事实上,作为数据存储与网络控制的基石,Arm 一直在为全球存储控制器和设备提供高性能、低功耗、安全可靠的解决方案,其中包括:

Arm Cortex-R 系列实时处理器拥有最快的中断延时和实时反应速度,被广泛应用于诸多存储设备;

Arm Cortex-M 系列嵌入式处理器是后端闪存和媒体控制的热门选择,并支持自定义指令,客户可以针对独特 NAND 介质的深度优化来创造差异;

Arm Cortex-A 系列应用处理器以高吞吐量流水线设计、支持最高处理性能,同时拥有 ML、数据处理软件和丰富操作系统的坚实生态支持;

Arm Ethos-U AI 加速器支持每秒 2,048 MACs 的 Transformer 原生加速,可以助力存储控制器本身变得更智能;

此外,还有为数据中心量身定制的 Neoverse。我们已开始看到 CXL (Compute Express Link) 方面的创新设计采用 Arm Coherent Mesh Network (CMN) 与 Neoverse 组合实现可“组成式”内存扩展,并融入近存储计算的理念,减少数据搬运。

生态携手,构建 AI 计算与存储未来

在专注提供领先的技术和产品的同时,Arm 还致力于和生态系统合作伙伴携手共进,共同推动存储产业的发展。基于 Arm 架构的平台正被行业领先的存储企业广泛采用,以优化其存储解决方案。例如,Solidigm 公司最新发布的 122TB PCIe SSD Solidigm D5-P5336 显著提升了 AI 数据中心的能效、存储密度和性能,其存储控制器采用 Arm Cortex-R CPU,有效提升了读写的实时性和延时确定性;慧荣科技 (Silicon Motion) 面向 AI PC 的 SM2508 主控芯片采用了 Arm Cortex-R8 与 Cortex-M0,在能效和数据吞吐上实现了突破,其 SM2264XT-AT 是业界首款车用 PCIe Gen4 主控芯片,通过增强的虚拟化来支持混合关键性工作负载对数据的访问,并可节省 30% 的能耗;江波龙基于 Arm Cortex-R CPU 打造的 XP2300、ORCA 4836 以及 UNCIA 3836 固态硬盘,凭借其大容量与高性能的优势,广泛应用于 AI PC、服务器、云计算、分布式存储及边缘计算等多个应用场景,满足 AI 技术的本地化部署需求。

此外,在本土存储市场,大普微、联芸科技、忆芯科技、特纳飞、得一微电子、英韧科技等领先的存储企业,也都广泛采用 Arm 技术打造 SSD 主控芯片与设备方案。

迄今为止,基于 Arm 架构和平台所应用的存储设备已近 200 亿台,其中包括云和企业级 SSD、车载 SSD、消费级 SSD、硬盘驱动器和嵌入式闪存设备。目前,由 Arm 技术赋能的存储设备持续保持在每日大约 300 万台的出货量。

凭借前沿的技术实力、丰富的生态布局、深厚的存储行业积累,Arm 正继续引领技术创新,赋能 AI 时代的计算与存储发展。Arm 也将继续与合作伙伴携手,通过安全、高效的 Arm 计算平台,构建 AI 时代计算与存储的新未来。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • ARM
    ARM
    +关注

    关注

    135

    文章

    9501

    浏览量

    388918
  • 物联网
    +关注

    关注

    2939

    文章

    47353

    浏览量

    408383
  • AI
    AI
    +关注

    关注

    90

    文章

    38225

    浏览量

    297119
  • 计算平台
    +关注

    关注

    0

    文章

    88

    浏览量

    9960

原文标题:释放 AI 潜能,Arm 计算平台构建计算与存储的未来

文章出处:【微信号:Arm社区,微信公众号:Arm社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    设计部署AI即服务平台开发深度剖析

    顶层设计最终部署,一个成功的AI即服务平台开发是一项复杂的系统工程,它融合了软件工程、数据科学和运维技术的精髓。
    的头像 发表于 11-13 14:16 209次阅读

    破局全球化IT挑战:中宇联以亚马逊科技服务赋能制造行业数字化转型

    +AI”服务平台,为企业客户提供架构设计、迁移实施、智能运维持续
    的头像 发表于 11-13 10:35 277次阅读

    Arm Unlocked 2025深圳站圆满落幕

    继上海、首尔站之后,Arm Unlocked 2025 AI 技术峰会深圳站圆满落幕。在面对持续增长的人工智能 (AI) 算力需求,Arm
    的头像 发表于 11-04 18:01 1203次阅读

    Arm Flexible Access方案引入Armv9边缘AI计算平台

    全球首个 Armv9 边缘 AI 计算平台(专为物联网及边缘 AI 工作负载优化)将纳入 Arm
    的头像 发表于 10-29 15:27 772次阅读

    如何在基于Arm架构的边缘AI设备上部署飞桨模型

    Arm 与领先的开源深度学习平台强强联合,会带来什么?那就是推动创新的“火箭燃料”。Arm 携手百度,利用双方在高能效计算平台
    的头像 发表于 09-06 14:07 849次阅读

    Arm 公司面向移动市场的 ​Arm Lumex​ 深度解读

    子系统(CSS)​ ​ 在移动的落地形态,Lumex 旨在通过高度集成化的软硬件方案,解决移动设备在 AI 性能、能效比与开发效率上的挑战。以下技术架构、性能突破、应用场景、生态系统及战略价值展开分析: 一、技术架构:异构
    的头像 发表于 05-29 09:54 4062次阅读

    HarmonyOS5服务技术分享--ArkTS开发Node环境

    服务。例如: 用户身份验证 数据实时处理(如订单状态更新) 第三方服务集成(如支付回调) ?️ 二、手把手开发流程:配置部署 1️⃣ ​​环境准备​​ ​​工具链​​:安装DevEco
    发表于 05-22 17:21

    解读基于Arm Neoverse V2平台的Google Axion处理器

    计算需求在人工智能 (AI) 时代的爆发式增长,推动了开发者寻求性能优化且高能效的解决方案,以降低总体拥有成本 (TCO)。Arm 致力于
    的头像 发表于 04-21 13:47 908次阅读

    首创开源架构,天玑AI开发套件让AI模型接入得心应手

    ,正在推动产业迈入“芯片-工具-场景”的高效闭环。开发、部署优化AI不再是少数厂商的专利,而是整个生态的机会。联发科正构建出面向未来的
    发表于 04-13 19:52

    MWC2025亮点放送 探索Arm如何塑造移动技术未来

    ,彰显了人工智能 (AI) 和移动技术之间的共生关系。  Arm 计算平台赋能从
    的头像 发表于 03-14 15:40 1283次阅读
    MWC2025亮点放送 探索<b class='flag-5'>Arm</b>如何塑造移动<b class='flag-5'>端</b>技术未来

    Arm推出全球首个Armv9边缘AI计算平台

    全球首个 Armv9 边缘 AI 计算平台以 Cortex-A320 CPU 和 Ethos-U85 NPU 为核心,专为物联网应用优化,支持运行超 10 亿参数的
    的头像 发表于 02-27 17:08 1237次阅读

    科技报到:大模型云端,“AI+计算”还能讲出什么新故事

    科技报到:大模型云端,“AI+计算”还能讲出什么新故事
    的头像 发表于 01-07 13:27 616次阅读

    Arm平台引领AI计算革新

    我们正处于一个由人工智能 (AI) 定义的计算时代,其转型速度空前迅速。Arm 一直致力于通过工程创新和技术发展,以可持续且可扩展的方式加速 AI
    的头像 发表于 01-03 15:26 1039次阅读

    英特尔与扣子平台合作推出AI PC Bot专区与侧插件商店

    。 Coze-AIPC是扣子平台与英特尔联合发布的增强版智能体开发平台,它深度整合了英特尔AI PC的侧能力与扣子
    的头像 发表于 12-27 14:11 1408次阅读

    Arm Neoverse 驱动 AWS Graviton4,加速计算新时代

    随着人工智能技术的蓬勃发展,计算领域正经历着前所未有的变革。现代AI应用的复杂性对计算解决方案的性能、效率和成本效益提出了更为严苛的要求。在此背景下,云端工作负载的
    的头像 发表于 12-23 17:38 970次阅读