0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

RRAM的芯片成为边缘工作负载的理想选择

IEEE电气电子工程师 来源:IEEE电气电子工程师 作者:IEEE电气电子工程师 2022-09-22 16:45 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在软件和硅中复制人脑是人工智能AI)研究的长期目标。虽然神经形态芯片在能够同时运行多个计算方面取得了重大进展,并且既能计算也能存储数据,但它们还远未达到模拟大脑的能源效率。

人工智能计算是非常耗能的,但所消耗的能量大部分不是计算本身。能量密集型部分是在AI芯片内的内存和计算单元之间移动数据。为了解决这个问题,一组研究人员开发了一种新的内存计算(CIM)芯片原型,消除了这种分离的需要。他们在8月17日发表在《自然》杂志上的论文中声称,其原型展示了现有人工智能平台效率的两倍。之所以称为NeuRRAM,是因为它使用一种称为电阻式随机存取存储器(RRAM)的RAM,这种48核RRAM-CIM硬件支持多种神经网络模型和架构。

该论文的第一作者、斯坦福大学研究员Weier Wan表示,与传统内存相比,RRAM有很多优点。其中之一是在同一硅片区域内具有更高的容量,从而可以实现更大的AI模型。它也是非易失性的,意味着没有电源泄漏。他补充说,这使得基于RRAM的芯片成为边缘工作负载的理想选择。研究人员设想,NeuRRAM芯片可以在低功耗的边缘设备上有效地处理一系列复杂的人工智能应用,而不依赖于与云的网络连接。

为了设计NeuRRAM,团队必须权衡效率、多功能性和准确性,而不牺牲其中任何一项。Wan说:“主要创新是我们使用了一种新型的模数转换方案,因为这被认为是CIM芯片能源效率的主要瓶颈。我们发明了一种新的方案,它是基于感应电压,而以前的方案是基于感应电流。电压模式感应还允许在单个计算周期内提高RRAM阵列的并行性。”

他们还探索了一些新的体系结构,如可转置神经突触阵列(TNSA),以灵活地控制数据流方向。Wan解释道:“为了精确性,关键是算法和硬件协同设计。这基本上允许我们直接在这些AI模型中建模硬件特征。”这反过来又允许算法适应硬件非理想性并保持精确性。换言之,Wan总结道,他们优化了整个堆栈,从设备到电路,从架构到算法,设计出一款高效、通用、准确的芯片。

加州大学圣地亚哥分校研究员Gert Cauwenberghs是这篇论文的合著者之一,他说:“内存计算的大多数进展都局限于软件级的演示,基本上是使用一系列突触。但在这里,我们将其放在堆栈的水平层。”

NeuRRAM在手写数字识别任务中实现了99%的准确率,在图像分类任务中达到了85.7%,在谷歌语音命令识别任务中达到84.7%,在图像恢复任务中,图像重建错误减少了70%。研究人员总结道:“这些结果可以与现有的数字芯片相媲美,这些数字芯片在相同的比特精度下进行计算,但可以大幅节省能源。”

将NeuRRAM与Intel的Loihi 2神经形态芯片(800万神经元Pohoiki Beach系统的组成部分)进行比较,研究人员表示,他们的芯片具有更好的效率和密度。圣母大学(University of Notre Dame)另一位合著者兼研究员Siddharth Joshi补充道:“基本上,Loihi是一个标准的数字处理器,带有SRAM库和特定的可编程ISA(指令集)架构。它们使用了一种更为von Neumann–ish式的架构,而我们的计算是在位线本身上进行的。”

最近的研究还认为,包括Loihi在内的神经形态芯片可能具有比AI更广泛的应用范围,包括医疗和经济分析,以及量子计算需求。NeuRRAM的制造商同意这一观点,认为内存计算架构是未来的发展方向。Cauwenberghs补充道,NeuRRAM的可扩展性在架构方面表现得很好,“因为我们有这个并行的核心阵列,每个核心独立进行计算,这就是我们如何实现具有任意连接的大型网络的方法。”

研究人员表示,现在考虑商业化还为时过早。虽然他们认为芯片的高效硬件实现与内存计算是一个成功的组合,但广泛采用仍将取决于降低能效基准。

“我们正在继续努力整合学习规则,”Cauwenberghs报告说,“这样未来的版本将能够通过RRAM技术的进步进行循环学习,从而实现大规模的增量学习或产品学习。”Wan还补充道,为了实现商业化,RRAM技术必须更容易为芯片设计者所用。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    462

    文章

    53534

    浏览量

    459016
  • 人工智能
    +关注

    关注

    1813

    文章

    49734

    浏览量

    261478
  • RRAM
    +关注

    关注

    0

    文章

    29

    浏览量

    21667

原文标题:新型AI芯片 其能效或是替代品的两倍

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    拆解边缘计算的真相:为什么行业都在押注 Linux?

    在物联网(IoT)与人工智能(AI)不断发展的今天,边缘计算逐渐成为企业数字化转型的重要一环。而Linux操作系统,凭借其开源、稳定和高效的特性,成为边缘计算的
    的头像 发表于 11-19 15:28 128次阅读

    如何加速实时工作负载

    对于需要实时响应的数据中心工作负载,性能不仅是指原始吞吐量或处理能力。挑战在于:在保持吞吐量和能效的同时,实现确定性时延。
    的头像 发表于 09-10 15:36 497次阅读

    集创北方联合发布首颗自研RRAM AMOLED显示驱动芯片

    近日,集创北方携手清华大学集成电路学院团队与新忆科技共同推出首颗采用自研RRAM新型存储技术的AMOLED显示驱动芯片(DDIC)“集忆智显”系列首款芯片R100,这也是集创北方首次在AMOLED
    的头像 发表于 08-30 11:50 1231次阅读
    集创北方联合发布首颗自研<b class='flag-5'>RRAM</b> AMOLED显示驱动<b class='flag-5'>芯片</b>

    替代LTC4413双通道理想二极管负载电流2.6A

    MOSFET 管电源开关,以便在 PC4302 不导通时控制第三路备用电源。PC4302 采用 DFN10 型封装,其工作温度范围为40°C~85°C。特征#双通道理想二极管 ORing 或负载均分#ORing
    发表于 08-25 09:28

    如何选择合适的直流负载或交流负载

    如何选择合适的直流负载或交流负载
    的头像 发表于 08-04 17:53 774次阅读
    如何<b class='flag-5'>选择</b>合适的直流<b class='flag-5'>负载</b>或交流<b class='flag-5'>负载</b>?

    为何边缘设备正成为AI的新重心

    人工智能 (AI) 正在以惊人的速度发展。企业不再仅仅是探索 AI,而是积极推动 AI 的规模化落地,从实验性应用转向实际部署。随着生成式模型日益精简和高效,AI 的重心正从云端转向边缘侧。如今,人们不再质疑边缘 AI 是否能实现规模化,它已然
    的头像 发表于 07-30 09:12 687次阅读

    H618核心板:高性能嵌入式系统的理想选择

    终端、边缘计算等领域的理想选择。本文将详细介绍明远智睿的H618核心板的优势,帮助开发者更好地理解其应用价值。   --- **1. 高性能处理器架构**   H618核心板采用先进的ARM Cortex-A55多核架构,主频可
    的头像 发表于 06-30 15:14 1494次阅读

    如何选择合适的电源芯片

    前言 什么是电源芯片?它有什么作用?在选择电源芯片的时候,应该考虑那些地方?输入电压线性调整率、输入电压线性变化时对输出电压的相对影响?下面先来了解几个概念问题: 1、输出电压负载
    发表于 06-07 08:50

    轻松上手边缘AI:MemryX MX3+结合Orange Pi 5 Plus的C/C++实战指南

    在 AI 和边缘计算快速发展的时代,MemryX MX3+ 加速卡凭借其 20 TOPS 的强大性能和低功耗(5 TFLOPS/W),成为边缘智能应用的理想
    的头像 发表于 05-28 08:01 1014次阅读
    轻松上手<b class='flag-5'>边缘</b>AI:MemryX MX3+结合Orange Pi 5 Plus的C/C++实战指南

    芯驰科技成为理想星环OS首个本土车规MCU合作伙伴

    日前,理想汽车自研的汽车操作系统「理想星环OS」正式开源,操作系统代码正式开放下载。作为理想汽车长期合作伙伴,凭借其高性能、高可靠的E3系列车规MCU产品,芯驰科技成为星环OS首个本土
    的头像 发表于 05-06 10:32 1528次阅读

    如何选择 边缘计算服务器

    延迟≤50ms; 视频分析、AI推理类需求侧重‌算力密度‌,建议选择支持16TOPS以上算力且兼容TensorFlow/PyTorch框架的服务器(如RK3588芯片平台); 教育、医疗等敏感数据处理场景,需内置国密加密芯片并支
    的头像 发表于 05-06 07:58 523次阅读
    如何<b class='flag-5'>选择</b> <b class='flag-5'>边缘</b>计算服务器

    如何按照电机负载特性选择和匹配变频器?

    按照电机负载特性选择和匹配变频器是一个关键过程,以确保电机系统的稳定运行和高效性能。以下是一些具体的步骤和考虑因素: 一、明确负载特性 首先,需要明确电机的负载特性。常见的
    的头像 发表于 03-05 07:34 1467次阅读
    如何按照电机<b class='flag-5'>负载</b>特性<b class='flag-5'>选择</b>和匹配变频器?

    HPC工作负载管理的关键要素

    HPC工作负载管理是一个复杂而精细的过程,涉及资源分配、作业调度、性能监控与优化以及故障处理与恢复等多个关键要素。下面,AI部落小编带您了解HPC工作负载管理的关键要素。
    的头像 发表于 02-08 09:53 531次阅读

    如何选择适合的交流回馈老化测试负载

    选择适合的交流回馈老化测试负载是一个涉及多个因素的决策过程,需要综合考虑设备的特性、测试需求以及预算等因素。以下是一些建议: 明确测试需求:首先,要明确你的测试需求是什么。你需要测试的是交流电
    发表于 01-14 09:31

    边缘芯片详解

    本文介绍了什么是边缘芯片(edge die)。 边缘芯片(edge die)是指位于晶圆边缘区域的芯片
    的头像 发表于 12-24 11:38 1360次阅读