0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

[译] [转]Maxim推出低功耗NN加速器芯片,AI边缘计算的“嵌入式革命”

40°研究院 2020-10-10 09:33 次阅读

今天早上,Maxim Integrated发布了其最新产品,一种低功耗NN加速器芯片,希望将AI推向边缘。我们采访了Maxim Integrated Micros,安全和软件业务部执行总监Kris Ardis,以获取详细信息

人工智能物联网似乎是天造地设的一对,但要完美结合这两种技术还需要克服许多障碍。通常,物联网是一种低功耗,电池供电的技术。另一方面,人工智能,特别是卷积神经网络(对于机器视觉来说是必不可少的),在计算上非常昂贵。

边缘计算可提供实时数据处理。图片由计算理论提供

为了克服这些挑战,通常的做法是将计算卸载到云中。但是,这带来了大量延迟和安全性问题。例如,无人驾驶汽车需要尽快做出实时决策。它根本承受不起等待数据发送到云,进行计算并返回的费用。

但是嵌入式设备呢?Maxim Integrated Micros,安全性和软件业务部执行总监Kris Ardis认为,目前,小型嵌入式设备“没有进行AI革命的其余部分”。

“他们看不到也听不到,这比简单的单词要多得多,” Ardis解释说。“这就是我们要填补的空白:我们如何才能将更多的AI承诺带入嵌入式世界?”

一种新的解决方案:Maxim Integrated的NN加速器芯片

为了回答这个问题,Maxim Integrated转向了用于人工智能的低功耗,高性能芯片。今天早上,该公司宣布了其最新产品:神经网络加速器芯片,旨在在电池供电的IoT设备中实现AI

新芯片MAX78000包括两个超低功耗内核-ArmCortex-M4内核或RISC-V内核-一个基于FPU的微控制器和一个卷积神经网络加速器。Ardis评论说:“ RISC-V在那里,因为它是一种在进入加速器之前必要时对数据进行按摩的低功耗方法。”

从性能的角度来看,Maxim声称具有一些令人印象深刻的规格,特别是在功耗和延迟方面。

MAX78000的简化框图

MAX78000的简化框图。图片由Maxim Integrated提供

关于能源,该公司表示MAX78000提供:

  • 运行MNIST时的能耗降低1100倍

  • MNIST的延迟提高了400倍

  • 与低功耗Cortex M4F相比,关键字发现期间的能耗低600倍

  • 与96 MHz Cortex M4F相比,关键字发现的效率提高了200倍

让我们深入研究如何准确地达到这些规格。

MAX78000的核心:神经网络加速器

此SoC中最独特的功能是神经网络加速器,它是专用硬件,旨在最大程度地减少卷积神经网络(CNN)的能耗和等待时间。

根据Ardis的说法,所采用的体系结构是完全专有和新颖的。它的设计目标是最大程度地减少数据移动,众所周知,这是对片上能量的巨大负担,尤其是在处理CNN链中的复杂数学配置时。

此外,该加速器(支持TensorFlow和Pytorch等机器学习领域中的常用工具)旨在提高数学并行度,优化能源消耗并显着减少推理时间。

重要功能块概述

重要功能块概述。图片由Maxim Integrated提供

系统操作的另一个特征是微控制器的介入最少。一般而言,此架构中的MCU用于配置网络,加载数据并启动它。MCU完成其最初的工作后,它基本上就摆脱了阻碍。事实证明,这对于提高能源效率也极为重要。

该设备还可以在执行之前加载数据,从而消除了在推理过程中访问内存的需求,从而降低了能耗并改善了延迟。Ardis说:“不需要外部存储器,这实际上是我们节省能源的方法之一。所有存储器都在芯片上。”

物联网的游戏规则改变者?

随着对低功耗,高性能AI芯片的需求不断增加,这一消息在IoT领域似乎极为重要。

新的NN加速器的描述。图片由Maxim Integrated提供

根据Maxim Integrated的说法,该设备可能为系统提供了在边缘执行实时决策的能力(比基于云的计算更快),并且无需担心安全性。

通过将AI带到边缘设备,该设备可以启用新的应用程序,例如毫秒之内的面部ID或数据处理助听器。这样,MAX78000可能是“切断嵌入式设备电源线”的重要一步。

Ardis表示希望MAX78000能够朝着“嵌入式革命”的道路迈进,类似于嵌入式旋转微控制器的类型。他说:“在使用微控制器之前,没有人考虑过微控制器的所有功能。现在,我至少要戴两个。”

“这就是我们认为边缘技术的AI将会变成的东西,希望我们将成为引领潮流的人之一。”


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏

    评论

    相关推荐

    瑞萨发布下一代动态可重构人工智能处理器加速器

    瑞萨最新发布的动态可重构人工智能处理器(DRP-AI加速器,在业界引起了广泛关注。这款加速器拥有卓越的10 TOPS/W高功率效率,相比传统技术,效率提升了惊人的10倍。其独特之处在于,它能在
    的头像 发表于 03-08 13:45 172次阅读

    Tenstorrent将为日本LSTC新型边缘2纳米AI加速器开发芯片

    加拿大AI芯片领域的初创公司Tenstorrent与日本尖端半导体技术中心(LSTC)达成了一项多层次合作协议。根据协议内容,LSTC将采用Tenstorrent的世界级RISC-V架构和芯片IP来开发其新型
    的头像 发表于 02-28 10:49 221次阅读

    【2023电子工程师大会】ARM嵌入式AI边缘计算开发流程要点p

    【2023电子工程师大会】ARM嵌入式AI边缘计算开发流程要点ppt
    发表于 01-03 16:31 12次下载

    【先楫HPM5361EVK开发板试用体验】:4、TinyML测试(1)

    设备的资源限制。此外,TinyML还依赖于优化的推理引擎和针对嵌入式设备的硬件加速器,以实现高效的模型推理。 TinyML的应用领域非常广泛,包括智能传感、健康监测、物联网、智能音频处理、自动驾驶
    发表于 12-22 10:12

    ADI超低功耗人工智能(AI)MCU MAX78002介绍

    、更快的CNN加速器,更高的模型维度。本视频将介绍边缘AI的概念、ADI边缘AI低功耗微处理器的
    的头像 发表于 12-15 12:36 529次阅读

    PCIe在AI加速器中的作用

    从线上购物时的“猜你喜欢”、到高等级自动驾驶汽车上的实时交通信息接收,再到在线视频游戏,所有的这些都离不开人工智能(AI加速器AI加速器是一种高性能的并行
    的头像 发表于 11-18 10:36 1149次阅读
    PCIe在<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>中的作用

    Banana Pi为何选择rk3588开发与Jetson Nano引脚兼容的嵌入式产品

    应用的需求。 AI加速: RK3588集成了NPU(神经处理单元),可加速深度学习推理,使其成为处理人工智能任务的理想选择。 低功耗: 与其性能相比,RK3588具有出色的
    发表于 11-02 12:30

    低功耗下,高能效AI加速器如何设计?

    如果在数据中心和边缘设备中部署上人工智能(AI加速器,那么它们将能够快速处理PB级的数据量,还能帮助克服传统的冯·诺依曼瓶颈。
    的头像 发表于 10-26 09:18 819次阅读

    armsom:为何选择rk3588开发与Jetson Nano引脚兼容的嵌入式产品

    (神经处理单元),可加速深度学习推理,使其成为处理人工智能任务的理想选择。 低功耗: 与其性能相比,RK3588具有出色的功耗表现,这对于嵌入式设备来说至关重要,特别是对于依赖电池供电
    发表于 10-18 17:35

    低功耗封装的高端边缘AI和视觉处理

    基于德州仪器(TI) Jacinto™ 7 TDA4x或DRA8x处理器的最新SMARC 2.1嵌入式计算机模块。这些新的工业级嵌入式计算机模块非常适合高性能人工智能边缘应用,具有超低功耗
    发表于 10-17 11:28 617次阅读
    超<b class='flag-5'>低功耗</b>封装的高端<b class='flag-5'>边缘</b><b class='flag-5'>AI</b>和视觉处理

    AI加速器架构设计与实现》+第2章的阅读概括

    首先感谢电子发烧友论坛提供的书籍和阅读评测的机会。 拿到书,先看一下封面介绍。这本书的中文名是《AI加速器架构设计与实现》,英文名是Accelerator Based on CNN Design
    发表于 09-17 16:39

    SynSense将开发基于铁电技术的超低功耗边缘AI加速器

    SynSense时识科技宣布成功斩获欧盟边缘人工智能项目Ferro4EdgeAI,将联合11家知名研发机构及企业,开发基于低成本、高密度、多级铁电(FE)存储技术及存内计算范式的超低功耗边缘
    发表于 09-08 10:21 250次阅读

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用

    AI边缘计算是什么意思?边缘ai是什么?AI边缘
    的头像 发表于 08-24 15:18 1410次阅读

    【书籍评测活动NO.18】 AI加速器架构设计与实现

    经验总结图解NPU算法、架构与实现,从零设计产品级加速器当前,ChatGPT和自动驾驶等技术正在为人类社会带来巨大的生产力变革,其中基于深度学习和增强学习的AI计算扮演着至关重要的角色。新的
    发表于 07-28 10:50

    如何采用带专用CNN加速器AI微控制器实现CNN的硬件转换

    服务器农场或昂贵的现场可编程门阵列(FPGA)为载体。AI应用的挑战在于提高计算能力的同时保持较低的功耗和成本。当前,强大的智能边缘计算正在
    的头像 发表于 05-16 01:05 470次阅读