0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

以NPU为首的AI芯片们,还有很长的路要走

ss 来源:镁客maker网 作者:家衡 2020-11-06 14:21 次阅读

作为AI芯片的典型,目前华为、苹果等厂商都开始在NPU上发力。除此以外,开发者也在努力推进着手机端AI应用的发展。

NPU(Neural Processing Unit,神经网络处理器),一直都是华为发布会上的热门词汇,这次的麒麟9000同样将NPU标记在芯片结构图的C位。而库克在介绍最先进的A14处理器时,也着重提到了NPU。

早在2013年,高通公司就提出了“Zeroth”处理器的概念,这款处理器可以模仿类似人脑的认知能力,并实现自我学习的功能。

在高通的设想中,Zeroth的终极目标就是形成标准化的新型处理架构,并且第一次提出了NPU的概念,这种芯片已经具备了AI芯片的雏形。

2017年,华为海思推出了麒麟970,这款芯片首次内置了独立NPU。

在此之后,几乎所有的手机厂商都将AI作为新的亮点,一颗SoC芯片如果没有足够的AI算力,似乎都不能被拿到台面上介绍。

如今距离提出NPU的概念已经过去了七年,AI芯片在手机端的发展似乎并不如人意。

如何理解NPU

传统CPU进行累加计算时,效率非常低,但当GPU做类似的计算,效率就会高很多。同样的道理,GPU主要被用来进行图像处理,并没有针对神经网络计算进行特殊优化,这时候使用专业针对神经网络计算的NPU,就可以大大提高计算效率并减少功耗。

假设我们面前有一条没有桥的河,我们应当如何过河?这时候大脑就会涌出各种想法并且比较各种方法的优劣。

NPU的工作就类比大脑,在手机中模拟所有可行的方案,并从中挑选一个最优解。有了NPU之后,手机的AI性能就能得到大幅的提升。

从麒麟970的单核NPU、到最新的麒麟9000的2+1三核NPU,NPU的升级也伴着华为的AI技术的发展,最能直观体会到的就摄像功能带来的进步。

比如取景时的智能场景识别功能,可以让系统快速识别拍摄的物体和场景,并自动做出优化调教。再比如被广大消费者惊叹的“月亮模式”,以及强大的智能防抖功能,再包括最新的物体识别。

这些功能都是通过NPU来弥补华为手机在CMOS尺寸以及ISP(图像信号处理)上与其他厂商的差距。

在麒麟970推出之后,AI功能逐渐拓展,从手持超级夜景到语音助手、节能优化、智慧识别、识图翻译......越来越多的应用场景都开始运用AI加速运算,这些都得益于NPU的支持。

硬件层面,NPU可以代替CPU进行处理,让SoC具备了更强的本地AI运算能力(类似于“硬解”)。相比较CPU的“软解”,“硬解”效率更高、速度更快、功耗也更低。

但即便NPU功能十分强大,如今NPU在手机日常的应用领域还处于初级阶段,它的重要性还远不如CPU、GPU和ISP,属于锦上添花的存在。

例如高通骁龙AI Engine引擎之中就没有独立的NPU单元,而联发科在Helio P60/P90引入的NeuroPilot AI技术最早也是通过多个单元协同计算(APU+CPU+GPU)。

AI芯片只是第一步

有了AI芯片的支持,或许能增强手机AI能力,但目前的AI芯片却不能很好地适配所有的软件。

比如,很多直播APP都有实时美颜功能,可以利用降噪、颜色空间转换实现磨皮、滤镜等基础功能,但使用不同的软件可能会造成耗电量过高的异常,这就是软件层面的不适配。

从整个市场上来看,目前AI芯片还处于算法主导到产品主导的过渡期,由于各家AI芯片的设计不同,AI方案架构方面都有不小区别,像寒武纪的“DIANNAO”、谷歌的TPU,再到华为的达芬奇架构,目前AI芯片的设计可谓百花齐放。除此以外,还有单一针对卷积神经网络的ASIC加速器,以及支持简单编程的通用型AI芯片。

这些种类繁多的AI芯片,推动了AI技术在手机端的普及,但不可避免会带来一些问题。

AI应用需要开发者的努力

虽然各家的AI芯片都开始集成独立的神经网络处理单元,但是在设计上有很大不同,这意味着在运行机器学习应用方面,几家AI芯片在性能和能耗上有很大差别。因此,第三方开发者是否针对几家的芯片设计进行优化,或只支持某一种设计,会对系统性能产生重大影响。

目前,大多数移动AI芯片在机器学习方面做了较为普适性的优化,而对一些特定的计算方式则没有进行太多优化。

就算开发者开发出同一款AI应用,其兼容性可能会存在很多问题。当AI应用的开发进入到实际的应用和业务层面,开发者面临着标准不同、API配适、软件优化等很多的难题。也就导致开发者必须针对不同厂商的设备进行逐个优化。加之安卓生态比较混乱,移动AI开发者很可能受到更多阻碍。

就拿之前提到获得AI技术加持的照相功能来讲,除了在画面上的提升,还是有很多人都会吐槽华为手机存在过分美颜、过度锐化、颜色失真等问题,但这些问题在iPhone上就很少被提及。

一直以来,苹果在照片成像上的AI技术都调教的恰到好处,不论是自带相机还是第三方相机,“拍照真实”也成为iPhone的卖点之一,很多专业摄影师已经选择将iPhone作为便携街拍设备。相比而言,“傻瓜式”的安卓手机更偏向摄影小白。

不过随着安卓手机厂商和应用开发者不断对系统以及APP进行优化,现在的安卓手机拍照也变得更加智能。

所以,AI芯片只是提供了手机AI应用的基石,真正要挖掘出移动端AI的魅力,还需要开发者针对AI芯片的能力开发出合适的应用。

结语

目前,以AI芯片为基础打造一个AI应用生态圈的愿望真的十分美好,但这个过程还有很长的路要走。硬件走在了前面,软件也要跟得上。

在未来,NPU或许也会像当年FPU之于CPU一样,成为移动Soc芯片的标准。或许在未来我们能在智能手机上体会到更棒的AI应用。

至少在现在,以NPU为首的AI芯片们,还有很长的路要走。

责任编辑:xj

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    215

    文章

    33619

    浏览量

    247153
  • 苹果
    +关注

    关注

    61

    文章

    23669

    浏览量

    191605
  • AI
    AI
    +关注

    关注

    87

    文章

    26443

    浏览量

    264045
  • NPU
    NPU
    +关注

    关注

    2

    文章

    210

    浏览量

    18083
收藏 人收藏

    评论

    相关推荐

    采用芯原NPU IP的人工智能(AI)类芯片已在全球出货超过1亿颗

    2024年2月29日,中国上海——芯原股份(芯原,股票代码:688521.SH)今日宣布集成了芯原神经网络处理器(NPU)IP的人工智能(AI)类芯片已在全球范围内出货超过1亿颗
    的头像 发表于 03-06 17:10 284次阅读

    高通NPU和异构计算提升生成式AI性能 

    异构计算的重要性不可忽视。根据生成式AI的独特需求和计算负担,需要配备不同的处理器,如专注于AI工作负载的定制设计的NPU、CPU和GPU。
    的头像 发表于 03-06 14:15 221次阅读

    采用芯原NPU IP的AI芯片已在全球出货超过1亿颗

    芯原股份发布重要消息,其集成了芯原神经网络处理器(NPU)IP的人工智能(AI)类芯片,已在全球范围内出货超过1亿颗。这一里程碑式的成就标志着芯原在AI领域的持续领先和创新。
    的头像 发表于 03-06 10:54 424次阅读

    OpenAI表示Sora还有很长的路要走

    近日,OpenAI发布的Sora视频生成器在技术圈内引起了广泛关注。尽管其初步展示的效果令人印象深刻,但该工具目前仍处在研究阶段,距离实际应用还有相当的距离。
    的头像 发表于 02-27 17:38 347次阅读

    微软画图即将支持NPU,Windows内置应用AI功能持续优化

    神经网络处理单元(NPU),作为一款Win11笔记本上的专属硬件组件,主要承担AI及机器学习任务处置。相较于云服务或通CPU,NPU能有效提升本地设备的AI任务处理能力。
    的头像 发表于 02-26 13:51 221次阅读

    OpenAI重金押注的 “类脑” AI芯片,到底是什么?

    Rain AI 是一家 AI 芯片初创公司,旨在大幅降低 AI 算力的成本。通过研发一种模仿人脑的工作方式的 AI
    的头像 发表于 12-10 14:45 536次阅读
    OpenAI重金押注的 “类脑” <b class='flag-5'>AI</b><b class='flag-5'>芯片</b>,到底是什么?

    NPU跑起来iTOP_RK3588开发板在Linux系统中使用NPU

    下载 rknpu2 并拷贝到虚拟机 Ubuntu,如下图所示,RKNPU2 提供了访问 rk3588 芯片 NPU的高级接口。 下载地址为“iTOP-3588 开发板\\\\02_
    发表于 09-12 10:05

    手机里的npu是什么意思?手机npu是干什么的?

    手机芯片里的NPU是什么?手机里的npu是什么意思?手机npu是干什么的? 随着智能手机的发展、人工智能技术的成熟,一种新型芯片——神经处理
    的头像 发表于 08-27 17:08 3322次阅读

    npu芯片有什么用

    npu芯片有什么用 随着人工智能的发展,NPU芯片作为一款专门用于加速人工智能计算的芯片,正在逐渐成为业界的焦点。
    的头像 发表于 08-27 17:08 4363次阅读

    TPU和NPU的区别

    TPU和NPU的区别  在IT领域中,TPU和NPU属于两种不同类型的芯片。这两种芯片都是专为人工智能(AI)和大型数据分析设计而开发的,但
    的头像 发表于 08-27 17:08 3613次阅读

    npu是华为独有的吗?手机有npu和没有npu的区别?

    进行人工神经网络计算的处理器。NPU可以加速AI算法的运行速度,提高手机对语音、图像、视频等多种应用场景的处理能力,让手机更加智能化。目前,华为Mate 10、华为P20、华为P30等手机都搭载了NPU
    的头像 发表于 08-27 17:03 2440次阅读

    npu是什么处理器?NPU卡是什么?

    npu是什么处理器?NPU卡是什么? NPU是指“神经网络处理器”(Neural Processing Unit),是一种专用的芯片,用于处理大规模神经网络计算。神经网络是一种基于模拟
    的头像 发表于 08-27 17:03 4987次阅读

    npu是什么意思?npu芯片是什么意思?npu到底有什么用?

    。正如CPU和GPU一样,NPU也是一种专门的处理器芯片,但不同于前二者,NPU被用于深度学习领域。NPU在深度学习领域的应用可以提高运算速度,降低功耗,加速推理流程等。
    的头像 发表于 08-27 17:03 2.6w次阅读

    三句话生成CPU!中科院ChipGPT攻克AI芯片设计?

    杜克大学陈怡然老师在微博上表达了对芯片自动生成领域的关注,认为这个话题令人振奋,而中科院计算所 ChipGPT 也同样引人瞩目,但是想要真正做到自动化芯片生成还有很长的路
    的头像 发表于 07-16 15:41 532次阅读
    三句话生成CPU!中科院ChipGPT攻克<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>设计?

    AI发展处于黎明期,AMD用创新芯片和工具助力AI落地

    随着去年年底ChatPGT的推出,AI又重新成为了市场热议的焦点,但真正让AI改变我们的生活和世界还有很长的路要走。不久前,AMD全球副总裁
    的头像 发表于 06-21 21:24 1333次阅读
    <b class='flag-5'>AI</b>发展处于黎明期,AMD用创新<b class='flag-5'>芯片</b>和工具助力<b class='flag-5'>AI</b>落地