0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

清华大学的存算一体化架构和并行加速方法专利

汽车玩家 来源:爱集微 作者:嘉德IPR 2020-03-14 11:41 次阅读

清华大学基于多个忆阻器阵列的全硬件完整存算一体系统,能够高效的运行卷积神经网络算法,证明了存算一体架构全硬件实现的可行性,对今后AI算力瓶颈的突破有着极大意义。

集微网消息,近日来,清华大学微电子学研究所、未来芯片技术高精尖创新中心的钱鹤、吴华强教授团队与合作者在《自然》在线发表了题为“Fully hardware-implemented memristor convolutional neural network”的研究论文,报道了基于忆阻器阵列芯片卷积网络的完整硬件实现。该成果所研发的基于多个忆阻器阵列的存算一体系统,在处理卷积神经网络时的能效远高于GPU,大幅提升了计算设备的算力,成功实现了以更小的功耗和更低的硬件成本完成复杂的计算。

随着以人工智能为代表的信息技术革命兴起,基于各种深度神经网络的算法可以实现图像识别与分割、物体探测以及完成对语音和文本的翻译、生成等处理。然而深度神经网络算法是一类以数据为中心的计算,实现该算法的硬件平台需要具有高性能、低功耗的处理能力,这就对集成电路芯片技术提出了的更高要求。目前传统实现该算法的硬件平台是基于存储和计算分离的冯诺依曼架构,这种架构在计算时需要将数据在存储器件和计算器件之间来回搬移,因此在包含大量参数的深度神经网络的计算过程中,该架构的能效较低。为此,开发一种新型计算硬件来运行深度神经网络算法成为当前亟需解决的问题。

基于这种情况,清华大学团队于2019年11月7日提出一项名为“基于忆阻器的神经网络的并行加速方法及处理器、装置”的发明专利(申请号:201911082236.3),申请人为清华大学。此专利针对复杂神经网络的运算,提供了一种基于忆阻器的存算一体化架构和并行加速方法,并在该系统架构上高效运行了卷积神经网络。

清华大学的存算一体化架构和并行加速方法专利

图1 忆阻器单元及阵列示意图

图一展示了忆阻器单元及阵列,是此专利所用的核心硬件结构。忆阻器是一种可以通过施加外部激励,调节其电导状态的非易失型器件。由忆阻器构成的阵列可以并行的完成乘累加计算,并同时进行计算和存储,因此基于这种特性可以对大量数据实现存算一体计算。由于乘累加是运行神经网络需要的核心计算任务。将忆阻器的的电导表示为权重值,可以实现高能效的神经网络运算,图1右侧展示的忆阻器阵列即为一个m行n列的神经网络权重矩阵。

清华大学的存算一体化架构和并行加速方法专利

图2 基于忆阻器阵列的卷积神经网络卷积计算与全连接计算示意图

卷积神经网络包括卷积层、下采样层、池化层和全连接层,每一层都需要做模块化的功能处理。在卷积层中,通过卷积核替代标量的权重,加上偏置量,并在每一层添加非线性激活函数,通过多个卷积层来解决较为复杂的问题。图2展示了基于忆阻器阵列的卷积计算和全连接计算示意图,用一个忆阻器阵列来实现一个卷积层的卷积计算,如对输入图像 “ 2”进行卷积处理,同时该卷积层包括多个卷积核,每个卷积核对应忆阻器阵列的一行,且每行的多个忆阻器分别用于表示一个卷积核的各个元素的值。而对于全连接型的计算,该忆阻器阵列的每一列用于接收全连接层的输入,各行用于提供全连接层的输出,每一行的多个忆阻器分别用于表示该行的输出对应的各个权重。

清华大学的存算一体化架构和并行加速方法专利

图3 基于忆阻器的神经网络并行加速示意图

基于忆阻器的神经网络并行加速示意图如图3所示,主要将多个第一忆阻器阵列并行地执行卷积层的操作,并将结果输出至第二功能层。通常卷积层需要多个子输入数据,可以按照任意顺序分别提供给多个第一忆阻器阵列,由于各子输入数据由忆阻器阵列进行卷积处理需要耗用的时间基本相同,因此加快卷积层的处理速度,即加快神经网络的处理速度,利用并行处理方式可以大大缩短处理时间。

清华大学的存算一体化架构和并行加速方法专利

图4 神经网络片外训练方法

图4展示了基于忆阻器阵列的神经网络片外训练方法,首先利用数学软件构建神经网络的数学模型,进而基于处理器和存储器等运行及训练上述数学模型,最后将训练好的数学模型的权重参数写入神经网络对应的忆阻器阵列,此时则可执行并行加速的计算过程,并同时对数据进行存储,实现存算一体加速。

随着计算存储一体化的发展趋势,基于忆阻器在硬件架构方面的革新,将数据存储单元和计算单元融合为一体,能显著减少数据搬运,极大提高计算并行度和能效。清华大学的钱鹤、吴华强教授团队搭建的这一基于多个忆阻器阵列的全硬件完整存算一体系统,并能够高效的运行卷积神经网络算法,并验证了图像识别功能,证明了存算一体架构全硬件实现的可行性,对今后AI算力瓶颈的突破有着极大意义。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4539

    浏览量

    98442
  • 忆阻器
    +关注

    关注

    8

    文章

    65

    浏览量

    19459
  • 存算一体
    +关注

    关注

    0

    文章

    88

    浏览量

    4123
收藏 人收藏

    评论

    相关推荐

    深圳市萨科微半导体有限公司,技术骨干来自清华大学和韩国延世大学...

    )从febless发展成为集设计研发、生产制造、销售服务一体化的国家级高新科技企业,“SLKOR”品牌在半导体行业声誉日隆,产业链的关键点已经实现了国产,萨科微乘电子元器件“国产替代”的东风,,立志
    发表于 03-15 11:22

    鸿蒙原生应用/元服务开发-新版本端云一体化模板体验反馈

    、前言 云端一体化模板是基于Serverless服务构建的套模板,提供了应用生态常见场景需求的代码实现,开发者可将所需能力快速部署和集成到自己的应用中。 二、准备 体验最新的远端一体化
    发表于 12-05 14:57

    忆阻器(RRAM)存算一体路线再次被肯定

    近日,清华大学发布的一颗忆阻器存算一体芯片,火了。该芯片的火爆源于一个月前,清华大学发的一篇论文
    的头像 发表于 10-26 09:13 655次阅读
    忆阻器(RRAM)存算<b class='flag-5'>一体</b>路线再次被肯定

    清华大学研发出存储芯片“诊疗一体化”技术

    清华大学物理系教授薛平团队与公安部鉴定中心合作的方法开发的机器人技术融合智能机器人做手术,光学影像和激光蚀消融等技术以损毁的存储芯片帮助一体化“手术”一体化usb储存装置等丢了恢复数据
    的头像 发表于 10-18 11:01 353次阅读

    我国芯片突破!清华大学全球首枚!

    10月10日消息,据清华大学公众号,近日,清华大学集成电路学院教授吴华强、副教授高滨基于存算一体计算范式,研制出全球首颗全系统集成的、支持高效片上学习(机器学习能在硬件端直接完成)的忆阻器存算
    的头像 发表于 10-14 08:11 320次阅读
    我国芯片突破!<b class='flag-5'>清华大学</b>全球首枚!

    存算一体芯片新突破!清华大学研制出首颗存算一体芯片

    这几天清华大学又火出圈了。但这次并不是因为招生抢人和饭堂,而是清华大学的芯片研发团队研制出全球首颗全系统集成的存算一体芯片。这是我国、乃至全世界对半导体行业的又一重大突破。 这个芯片由清华大学
    的头像 发表于 10-11 14:39 643次阅读

    #清华 #芯片 #一体化 清华研制出全球首颗一体芯片

    芯片
    深圳市浮思特科技有限公司
    发布于 :2023年10月10日 18:03:59

    用arduino做个功能强大的一体化万用表

    教你用arduino做个功能强大的一体化万用表。附带资料包含PCB设计图、相关代码等。你也可以简单自己制作!
    发表于 09-27 07:06

    物联网应用之智慧档案馆八防十防一体化平台

    ​ 原标题:智能档案馆八防九防十防十二防一体化监控系统方案​ 监控室角 随着科技的快速发展,智能已成为现代档案馆发展的必然趋势。为了提高档案馆的安全性、可靠性和管理效率
    发表于 09-14 10:33

    国产一体

    一体
    jf_22764069
    发布于 :2023年06月27日 14:38:48

    直播预告|开放原子校源行(清华大学站)

    校源行(清华大学站)活动将在清华大学蒙民伟音乐厅举办。本次活动拟通过邀请政府领导、知名高校嘉宾、头部科技企业、权威主流媒体代表共聚校园共话开源,集中展示“开放原子校源行”公益项目进展及成果,在高校学子中推广优秀开源项目
    的头像 发表于 06-26 21:55 301次阅读
    直播预告|开放原子校源行(<b class='flag-5'>清华大学</b>站)

    石油石化室内外一体化定位解决方案

    一体化
    中海达
    发布于 :2023年06月21日 11:44:11

    国仪量子携手清华大学!《如何精准测孔?》系列讲座开讲

    行了深入交流。讲座线下会场清华大学化学系高工杨海军老师主持会议,杨老师首先介绍了图像分析法、液体注入法、非物质注入法等主流的测孔分析方法,他指出,材料的孔径结构直接影
    的头像 发表于 06-09 10:28 364次阅读
    国仪量子携手<b class='flag-5'>清华大学</b>!《如何精准测孔?》系列讲座开讲

    纵目科技与清华大学共同成立智能辅助驾驶系统联合研究中心

    今日,纵目科技宣布与国内顶尖学府——清华大学共同成立智能辅助驾驶系统联合研究中心(以下简称“联合研究中心”),并在清华园内举办了隆重的揭牌仪式。清华大学教授、副校长曾嵘、中国工程院院士、清华大
    的头像 发表于 05-31 09:52 306次阅读
    纵目科技与<b class='flag-5'>清华大学</b>共同成立智能辅助驾驶系统联合研究中心

    一体技术发展现状和未来趋势

    一体
    电子发烧友网官方
    发布于 :2023年04月25日 17:21:41