0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

RRAM的芯片成为边缘工作负载的理想选择

IEEE电气电子工程师 来源:IEEE电气电子工程师 作者:IEEE电气电子工程师 2022-09-22 16:45 次阅读

在软件和硅中复制人脑是人工智能AI)研究的长期目标。虽然神经形态芯片在能够同时运行多个计算方面取得了重大进展,并且既能计算也能存储数据,但它们还远未达到模拟大脑的能源效率。

人工智能计算是非常耗能的,但所消耗的能量大部分不是计算本身。能量密集型部分是在AI芯片内的内存和计算单元之间移动数据。为了解决这个问题,一组研究人员开发了一种新的内存计算(CIM)芯片原型,消除了这种分离的需要。他们在8月17日发表在《自然》杂志上的论文中声称,其原型展示了现有人工智能平台效率的两倍。之所以称为NeuRRAM,是因为它使用一种称为电阻式随机存取存储器(RRAM)的RAM,这种48核RRAM-CIM硬件支持多种神经网络模型和架构。

该论文的第一作者、斯坦福大学研究员Weier Wan表示,与传统内存相比,RRAM有很多优点。其中之一是在同一硅片区域内具有更高的容量,从而可以实现更大的AI模型。它也是非易失性的,意味着没有电源泄漏。他补充说,这使得基于RRAM的芯片成为边缘工作负载的理想选择。研究人员设想,NeuRRAM芯片可以在低功耗的边缘设备上有效地处理一系列复杂的人工智能应用,而不依赖于与云的网络连接。

为了设计NeuRRAM,团队必须权衡效率、多功能性和准确性,而不牺牲其中任何一项。Wan说:“主要创新是我们使用了一种新型的模数转换方案,因为这被认为是CIM芯片能源效率的主要瓶颈。我们发明了一种新的方案,它是基于感应电压,而以前的方案是基于感应电流。电压模式感应还允许在单个计算周期内提高RRAM阵列的并行性。”

他们还探索了一些新的体系结构,如可转置神经突触阵列(TNSA),以灵活地控制数据流方向。Wan解释道:“为了精确性,关键是算法和硬件协同设计。这基本上允许我们直接在这些AI模型中建模硬件特征。”这反过来又允许算法适应硬件非理想性并保持精确性。换言之,Wan总结道,他们优化了整个堆栈,从设备到电路,从架构到算法,设计出一款高效、通用、准确的芯片。

加州大学圣地亚哥分校研究员Gert Cauwenberghs是这篇论文的合著者之一,他说:“内存计算的大多数进展都局限于软件级的演示,基本上是使用一系列突触。但在这里,我们将其放在堆栈的水平层。”

NeuRRAM在手写数字识别任务中实现了99%的准确率,在图像分类任务中达到了85.7%,在谷歌语音命令识别任务中达到84.7%,在图像恢复任务中,图像重建错误减少了70%。研究人员总结道:“这些结果可以与现有的数字芯片相媲美,这些数字芯片在相同的比特精度下进行计算,但可以大幅节省能源。”

将NeuRRAM与Intel的Loihi 2神经形态芯片(800万神经元Pohoiki Beach系统的组成部分)进行比较,研究人员表示,他们的芯片具有更好的效率和密度。圣母大学(University of Notre Dame)另一位合著者兼研究员Siddharth Joshi补充道:“基本上,Loihi是一个标准的数字处理器,带有SRAM库和特定的可编程ISA(指令集)架构。它们使用了一种更为von Neumann–ish式的架构,而我们的计算是在位线本身上进行的。”

最近的研究还认为,包括Loihi在内的神经形态芯片可能具有比AI更广泛的应用范围,包括医疗和经济分析,以及量子计算需求。NeuRRAM的制造商同意这一观点,认为内存计算架构是未来的发展方向。Cauwenberghs补充道,NeuRRAM的可扩展性在架构方面表现得很好,“因为我们有这个并行的核心阵列,每个核心独立进行计算,这就是我们如何实现具有任意连接的大型网络的方法。”

研究人员表示,现在考虑商业化还为时过早。虽然他们认为芯片的高效硬件实现与内存计算是一个成功的组合,但广泛采用仍将取决于降低能效基准。

“我们正在继续努力整合学习规则,”Cauwenberghs报告说,“这样未来的版本将能够通过RRAM技术的进步进行循环学习,从而实现大规模的增量学习或产品学习。”Wan还补充道,为了实现商业化,RRAM技术必须更容易为芯片设计者所用。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    446

    文章

    47746

    浏览量

    409043
  • 人工智能
    +关注

    关注

    1776

    文章

    43796

    浏览量

    230571
  • RRAM
    +关注

    关注

    0

    文章

    24

    浏览量

    21274

原文标题:新型AI芯片 其能效或是替代品的两倍

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    SOLIDWORKS教育版:学校教学的理想选择

    随着科技的飞速发展,三维设计软件在教育领域的应用越来越广泛。SOLIDWORKS教育版作为一款功能强大且易于上手的三维CAD软件,正逐渐成为学校教学的理想选择。本文将从以下几个方面探讨学校教学
    的头像 发表于 03-13 14:16 82次阅读

    开关电源是阻性负载还是感性负载

    开关电源适用于各种不同类型的负载,无论是阻性负载还是感性负载都可以正常工作。但是,具体使用哪种类型的负载会对开关电源产生一定的影响。在
    的头像 发表于 02-06 09:25 622次阅读

    如何选择合适的负载功率来确保电源适配器的正常工作

    负载功率对电源适配器有何影响?如何选择合适的负载功率来确保电源适配器的正常工作负载功率对电源适配器的影响包括功率损耗、热量产生、效率降低
    的头像 发表于 01-30 16:51 324次阅读

    最常见的直流负载工作方式

    最常见的直流负载工作方式  直流负载工作方式是指在直流电路中使用的各种负载方式。直流负载是用于测
    的头像 发表于 01-18 15:12 273次阅读

    LT4295空载时上电输出正常,带负载上电芯片无法正常工作怎么解决?

    我用LT4295设计了一个POE反激电源,24V0.95A,参考了DC2046A-4-D这个DEMO。 实际测试发现空载时正常输出24V,但连接电子负载或实际负载(比如网络摄像头)时,芯片无法正常
    发表于 01-03 06:39

    如何根据负载电容和温度特性选择合适的晶振?

    如何根据负载电容和温度特性选择合适的晶振? 选择合适的晶振对于电路设计至关重要,特别是对于要求高稳定性和精确频率的应用。在选择晶振时,我们需要考虑
    的头像 发表于 12-18 14:16 209次阅读

    人工智能工作负载对处理器设计的影响

    外部存储器带宽也是其中的关键部分,尤其是对于边缘设备而言。"没有人拥有足够的带宽,"他补充道。"因此,我们该如何划分工作负载或调度神经网络,从而使外部内存带宽得以维持并尽可能降低?
    发表于 11-16 10:46 168次阅读

    Kria K26 SOM:边缘视觉AI的理想平台

    电子发烧友网站提供《Kria K26 SOM:边缘视觉AI的理想平台.pdf》资料免费下载
    发表于 09-13 17:04 0次下载
    Kria K26 SOM:<b class='flag-5'>边缘</b>视觉AI的<b class='flag-5'>理想</b>平台

    后摩智能首款RRAM大容量存储芯片完成测试验证

    近期,后摩智能完成首款可商用的RRAM测试及应用场景开发,探测及证实了现有工业级的RRAM的技术边界。后续将与车规级应用场景结合,希望与伙伴共同打造新兴存储及新型存算计算范式,赋能客户。
    发表于 08-17 14:16 513次阅读
    后摩智能首款<b class='flag-5'>RRAM</b>大容量存储<b class='flag-5'>芯片</b>完成测试验证

    负载均衡的工作原理

    负载均衡是在多个物理服务器之间智能分配流量以最大化资源利用率的过程。换句话说,在两台或多台计算机/服务器之间共享计算工作负载的过程就是负载均衡。这基本上可以最大限度地减少每台服务器上的
    的头像 发表于 06-16 17:14 1316次阅读

    负载均衡是如何工作的?

    负载均衡是在多个物理服务器之间智能分配流量以最大化资源利用率的过程。换句话说,在两台或多台计算机/服务器之间共享计算工作负载的过程就是负载均衡。这基本上可以最大限度地减少每台服务器上的
    的头像 发表于 06-15 17:26 466次阅读

    边缘处理如何实现下一代毫米波扫描仪

    工作 原理, 并 将 介绍 一种 芯片 组, 该 芯片 组 使用 边缘 处理 来 管理 大量 数据 负载, 从而 支持 漫游 安全 扫
    的头像 发表于 06-08 15:13 727次阅读
    <b class='flag-5'>边缘</b>处理如何实现下一代毫米波扫描仪

    负载电容的作用及选择

    电容作为常用的器件,随着应用逐渐广泛,电容的子类型也越来越多,比如耦合电容、固定电容、可变电容等等。为增进大家对电容的认识,本文将对负载电容、负载电容分类、负载电容的作用以及负载电容的
    的头像 发表于 06-07 15:20 1089次阅读

    马达驱动芯片BDR6120S-空间敏感的系统设计提供理想选择

    SOT23-6 微型封装 描述 BDR6120S是专为驱动小电流直流马达而设计的 集成电路,该电路采用 SOT23-6 微型封装,为对 空间敏感的系统设计提供理想选择。 电路采用 H 桥结构, 内置功率
    发表于 06-01 11:36

    电子负载的典型应用和工作模式

      本文内容包括:为什么用电子负载?直流电子负载本质与工作模式?如何选择合适的电子负载?
    的头像 发表于 05-12 11:43 1164次阅读
    电子<b class='flag-5'>负载</b>的典型应用和<b class='flag-5'>工作</b>模式