0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

当前的AI芯片现状分析

我快闭嘴 来源:半导体行业观察 作者:半导体行业观察 2020-09-27 14:01 次阅读

过去两年,随着AI的兴起,还有有志于做人工智能芯片的企业开始在自有的CPU中嵌入类似寒武纪品牌的NPU,或者如华为这样自研NPU。蜂拥而起的AI造芯潮使得很多人认为在这个新兴的AI市场,Arm已经丧失了先机,甚至有激进者认为Arm在这个即将爆发的人工智能市场将毫无建树。

但在2018年二月公布代号为Project Trillium的机器学习计划,2019年10月发布包括Ethos N77/N57/N37,并于日前发布全新的Ethos U55 NPU之后,这家IP巨头的AI布局开始逐渐浮出水面。

在谈Arm的AI芯片布局之前,我们先来了解一下Arm以及当前的AI芯片现状。

AI时代错失先机

这家在英国成立,最终被软银巨额收购的芯片公司是IP领域的绝对龙头。

如果统计处理器市场,特别是嵌入式处理器,Arm的IP是当中毫无疑问的大赢家。以大家熟悉的智能手机市场为例,无论是国际知名的苹果和三星,还是国内的华为、小米,他们使用的处理器无一例外都是基于Arm-Cortex-A系列IP设计。

再看嵌入式MCU,因为ST、NXP瑞萨的力拱,以及一众本土厂商的加入,Arm MCU的市场在过去多年里也节节攀升。关于Arm MCU的份额,并不能找到相关数据,但从Arm公司2017年的一份PPT中我们可以看到,物联网设备中,有90%的控制器都是基于Arm产品设计的,微控制器市场,Arm的份额也高达20%。如果统计整个带有处理器的芯片,则使用Arm相关IP的产品占比达到39%。

Arm在不同市场的份额和机会(source:Arm)此外,Arm还有GPU和DPU等一系列IP在市场上表现不错,这也帮助Arm获得了不错的市场份额。

据IP Nest的统计数据显示,整个IP市场2018年的总值为36.02亿美元,当中虽然Arm的份额连续第三年下滑,但是他们的占有率还是高达44.7%,遥遥领先于第二位。IP Nest在报告中还谈到,高端产品的授权转向了架构授权,而最低端的处理器则开始拥抱RISC-V。在2018年的IP市场里,还有一个值得关注的点,那就是机器学习和其他专用架构产品的兴起。

但在AI发展的前几年,Arm在这方面是缺失的。

2018年的IP供应商排名回看过去几年的AI芯片发展,云端市场是GPU、ASICFPGA这些大规模芯片的自留地,这是大部分的芯片厂商所无法设计的,但在终端的推理市场,则百花盛开,百家争鸣。有厂商一开始就通过自研去步入这个领域(如苹果),在MCU市场,ST也推出了代号为Orlando Project的专用卷积神经网络加速器;有厂商则依靠第三方IP去进攻这个市场。这就催生了寒武纪和耐能一些新兴的NPU IP供应商,也让一些老牌厂商的产品在AI加速器这个市场寻找了新的机遇,如CEVACadenceTensilica)和Verisilicon就是当中的代表。

根据ABIRe-search预测,2024年,终端AI芯片市场规模将增长至710亿美元,2019年至2024年间的年复合增长率将达31%。考虑到AIoT市场的潜力,当中必然有相当大一部分营收来自于Arm MCU供应商。那就意味着如果Arm握不住这个市场,他们将会错失一大块蛋糕。甚至有可能在一些集成了RISC-V 与加速器的MCU的倒逼下,连本身领先的Cortex-M MCU城池也失守。

为此,Arm加速AI部署刻不容缓,这就促使Arm在昨日放了个大招。

投下NPU重磅炸弹

其实Arm NPU并不是什么新鲜事物。在文章开头我们已经说到,Arm在去年就推出了其Ethos N77/N57/N37系列NPU。Arm的这个家族的NPU是瞄准手机、AR/VR智能监控等市场。

但很显然,Arm的NPU在这些市场几无胜算。

Arm Ethos N77/N57/N37家族首先看手机市场,盘点现在的手机处理器厂商华为、高通、苹果、三星、MTK和展锐,除了展锐授权了Imagination的AI加速器之外之外,其他所有的厂商都是使用的自研NPU或者使用异构的硬件来做AI加速,当中的华为和MTK等NPU忠实玩家甚至都已经将其AI加速器推进到第三代。在这个发展过程中,他们也同步发展了其AI软件和生态,这就让他们没有任何理由转向Arm的加速器。上图的其他市场大多也有这种境况。

但在未来巨大的市场当中,还有一个目前还没有被大幅挖掘的金矿,那就是低功耗的终端应用。这也是Arm Ethos U55所瞄准的目标。而据行业的专家告诉半导体行业观察记者,AI加速器能否应用到超低功耗的物联网市场,首先要关注的一点就是它的功耗表现,这也是Arm在致力于解决的。

日前发布的Ethos U55 和与之搭配的Cortex-M55则是Arm在这个市场的小试牛刀。

Arm为终端AI带来的全新方案Arm的官方表示,新增的Cortex-M55是Arm历来AI能力最为强大的Cortex-M处理器,也是首款基于Armv8.1-M架构、内建Arm Helium向量处理技术的处理器,它可以大幅提升DSP与ML的性能,同时更省电。Arm同时指出,在这个新的处理器上,客户可以使用Arm Custom Instructions (Arm自定义指令集)延伸处理器的能力,对特定工作负载进行优化。来到Ethos-U55,这是一个可从32个MAC扩展到256个MAC的micro NPU,在与Cortex-M55耦合之后,能够为微控制器带来480倍的机器学习性能飞跃。

Arm方面还强调,这个全新搭配还得到了Cortex-M软件开发工具链的支持,这就使得其针对传统DSP与ML等工作负载,有了一致的开发流程;同时从TensorFlow Lite Micro开始,能针对先进机器学习框架进行特定的整合与优化,确保开发人员拥有无缝的开发体验,并能够在任何一种Cortex-M与Ethos-U55的配置上,获取最佳性能。

Arm首款microNPU业内专家也告诉半导体行业观察记者,考虑到Arm当前的地位和名声,这套方案带给市场的影响是显而易见的。Cortex-M方面自不用多说,这是他们在嵌入式市场安身立命的重要武器。而来到NPU方面,也同样亮点不少。一方面,这是一个带两级SRAM,L2 SRAM可扩展到数MB的产品;另一方面,Ethos-U55自带DMA+control unit, 可完成异步数据流管理;第三,Ethos-U55的Weight Decoder可将神经网络中的weights进行压缩,提高带宽;第四,这个NPU还有针对element wise运算的特殊加速单元,能帮助矩阵运算。

“还有一点,Arm CMSIS-NN所积聚的生态,也会是一个重要的X因素”,业内专家强调。

据介绍,所谓CMSIS的全称是Cortex Microcontroller Software Interface Standard (Cortex微处理器软件接口标准),这是Arm为了解决微处理器生态中软件无法兼容的问题而推出的。而CMSIS-NN则是Arm为了缓解微处理器神经网络相关软件优化压力而推出的CMSIS新成员。

CMSIS-NN的框架图行业专家表示,在Arm刚推出这个库的时候,彼时的Arm Cortex-M还不能跑出让人眼前一亮的结果。但因为Arm强大的号召力,即使很多厂商并不知道它的真正用途,但都纷纷将其融入了其OS和生态里。

而在上述的M55和U55出来以后,Arm的计划似乎也明朗了起来。

胜负未知

也许Arm的想法是这样的——我们有足够多的MCU客户,有足够多终端用户,过去的十几年里,我们也构建了无可比拟的生态,只要我们把这套工具磨利,就能让大家投奔我门下,让Arm在嵌入式AI领域重现Cortex-A和Cortex-M时代的辉煌。

但市场已经不再是以前的市场。

我们可以看到,无论是Cortex-A所支持的AP或者是Cortex-M所驱动的MCU生态,他们所面对的都是相对单一的需求。换而言之打造一些通用化的方案就能通吃市场。但进入了当前的AIoT市场,市场需求千差万别,定制化或者会更为一股重要的趋势,这也是Arm Custom Instructions面世的原因之一。

更重要的是,Arm不但迎来了新的技术,还迎来了更强悍的竞争对手。

首先,以大家过去一两年常谈的RISC-V为例,因为其独特的开源特性和成本优势,很多分析人士都认为其可以在AIoT时代大展拳脚。而在最近,RISC-V的领先厂商SiFive也宣布,将携手IP厂商CEVA,在CPU、DSP、AI处理器和软件方面进行合作,帮助芯片企业开发出大批量面向智能家居、汽车、机器人、安保、增强现实、工业和物联等一系列边缘智能SoC。在官方新闻稿里,他们也强调了面向特定领域的超低功耗Edge AI处理器,这正是Arm新产品所聚焦的。

其次,Lattice这些小容量FPGA供应商,也无限看好这个市场。Lattice方面表示,基于他们的Lattice sensAI可以帮助OEM厂商为下一代毫瓦级智能设备赋予AI和ML功能。对于Arm阵型来说,这也是一个潜在的挑战者。

第三,类似Greenwaves这些初创企业,也成为嵌入式AI市场的一个不确定因素。资料显示,他们最新推出的GAP 9可提供41.6 GB /秒的峰值群集内存带宽和高达50 GOPS的组合计算能力,而总功耗仅仅为50mW,再搭配其完整的工具,这也成为了嵌入式AI市场一股不可忽视的势力。

第四,在Arm芯片阵型里,有一些大客户在研发自己的加速器方案,如瑞萨的动态可配置处理器 (DRP) 技术就是当中一个代表。再搭配其SOTB制程来降低功耗,这就让日本巨头的嵌入式AI方案变得非常有竞争力。

最后,Arm的嵌入式AI方案是否真的能如他们所说,减轻了很多客户的开发工作?这是一个值得推敲的问题。行业专家表示,在嵌入式AI这个领域,其实大家在软件开发上面的难度差不多,迄今为止也没有人能建立其一个很强大的生态。

而对于那些购买了Arm NPU IP的人,他们除了需要面对数据搬运的挑战外,还要直面是否有完整的工具,能很好帮助他们完成模型训练到片上移植的过程。最重要的一点,Arm的这些新IP授权费用怎么收?这也是一个重要考量点。但即使如此,Arm也迈开了嵌入式AI市场的一大步。

从分析师预测看来,AIoT是发展的必然趋势,这也是一个多个阵营虎视眈眈,但谁都没有把握稳赢的市场。作为一个拥用强大的生态合作伙伴的Arm,能否凭借新产品成为这个赛道的领跑者,尚待观察。但对他们来说,这关键一战的冲锋号已经吹响。
责任编辑:tzh

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    18039

    浏览量

    221548
  • 芯片
    +关注

    关注

    445

    文章

    47496

    浏览量

    407910
  • ARM
    ARM
    +关注

    关注

    134

    文章

    8615

    浏览量

    361323
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10338

    浏览量

    206236
收藏 人收藏

    评论

    相关推荐

    AI芯片未来会控制这个世界吗?

    AI芯片行业资讯
    芯广场
    发布于 :2024年03月27日 18:21:28

    使用cube-AI分析模型时报错的原因有哪些?

    使用cube-AI分析模型时报错,该模型是pytorch的cnn转化成onnx ``` Neural Network Tools for STM32AI v1.7.0 (STM.ai
    发表于 03-14 07:09

    解读六大科技巨头自研AI芯片进展,谁将领跑未来?

    当前AI发展浪潮中,NVIDIA无疑是AI算力的领跑者。其A100/H100系列芯片已获得全球人工智能市场顶级客户的订单。
    发表于 02-22 10:35 125次阅读
    解读六大科技巨头自研<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>进展,谁将领跑未来?

    AI芯片短缺已影响超微电脑

    AI芯片行业芯事
    深圳市浮思特科技有限公司
    发布于 :2024年02月21日 10:18:59

    英伟达将用AI设计AI芯片

    AI芯片行业资讯
    深圳市浮思特科技有限公司
    发布于 :2024年02月19日 17:54:43

    AI服务器当前的发展现状分析

    总的来说,除非有某种因素能够抑制AI模型的增长,或者AI训练和推理的计算成本能够降低,否则我们预测到2026年或2027年,AI计算将占据服务器收入的一半左右,这是一种非零的可能性。
    的头像 发表于 11-30 11:18 507次阅读
    <b class='flag-5'>AI</b>服务器<b class='flag-5'>当前</b>的发展<b class='flag-5'>现状</b><b class='flag-5'>分析</b>

    #芯片 #AI 世界最强AI芯片H200性能大揭秘!

    芯片AI
    深圳市浮思特科技有限公司
    发布于 :2023年11月15日 15:54:37

    AI智能呼叫中心

    可以自动识别和响应来电,通过分析用户的语音、文字和情绪等信息,并给出针对性的应答,与传统的人工处理相比,AI智能呼叫中心能够实现24/7不间断的服务,大幅提高了处理效率和用户满意度。二、个性化服务AI
    发表于 09-20 17:53

    AI芯片到底是什么?AI芯片技术架构有哪些?AI芯片主要有哪几种类型?

    AI芯片(Artificial Intelligence chips)是特别设计用于处理人工智能(AI)应用的芯片AI
    发表于 08-24 18:25 5470次阅读

    AI芯片和SoC芯片的区别

    AI芯片和SoC芯片都是常见的芯片类型,但它们之间有些区别。本文将介绍AI芯片和SoC
    的头像 发表于 08-07 17:38 2151次阅读

    AI芯片的应用场景和发展趋势

    AI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。当前AI
    的头像 发表于 08-06 16:18 885次阅读

    AI芯片的优势和主要挑战 AI芯片和存储芯片的区别

      AI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。当前AI
    的头像 发表于 08-03 17:19 1873次阅读

    数据中心 AI 加速器:当前一代和下一代

    数据中心 AI 加速器:当前一代和下一代演讲ppt分享
    发表于 07-14 17:15 0次下载

    当前芯片研发现状下的新需求

    第二个特点是:芯片质量就是生命。目前国内大部分芯片公司都在低端市场里杀价。当客户有多个供应商时,就会变得尤其挑剔。“为什么XX竞品没有问题,你们的芯片有问题?”这通常是灵魂拷问。自己测试没问题一到客户端就问题百出。
    的头像 发表于 06-06 16:18 651次阅读

    新思科技发布业界首款全栈式AI驱动型EDA解决方案Synopsys.ai

    %,这表明AI能够帮助我们应对日益复杂的设计挑战。”联发科总监Xian Lu表示:“日益复杂的芯片当前智能世界的核心动力基础,因此实现高质量的芯片变得十分关键。我们必须不断改进设计方
    发表于 04-03 16:03