0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

IBM开发“混合精度内存计算”,能耗降低了80倍

DPVg_AI_era 来源:未知 作者:胡薇 2018-04-27 17:42 次阅读

IBM Research 称,已经开发出了一种内存计算新方法,可以为微软和谷歌寻求的高性能和机器学习应用的硬件加速器提供答案。

在近日 Nature Electronics 期刊上发表的一篇论文中,IBM 研究人员描述了这种新的 “混合精度内存计算” 方法。

IBM 关注传统计算体系结构的不同看法,在这种体系结构中,软件需要在单独的 CPURAM 单元之间进行数据传输。

据 IBM 称,这种被称为 “冯·诺依曼” 的体系结构设计,为数据分析和机器学习应用制造了一个瓶颈,这些应用需要在处理单元和内存单元之间进行更大的数据传输。传输数据也是一个耗能的过程。

应对这一挑战,IBM 给出的一种方法是模拟相变内存(PCM)芯片,该芯片目前还处于原型阶段,500 万个纳米级 PCM 器件组成 500×2000 交叉阵列。

PCM 的一个关键优势是可以处理大多数密集型数据处理,而无需将数据传输到 CPU 或 GPU,这样以更低的能量开销实现更快速的处理。

IBM 的 PCM 单元将作为 CPU 加速器,就像微软用于加速 Bing 和加强机器学习的 FPGA 芯片一样。

据 IBM 称,研究表明在某些情况下,其 PCM 芯片能够以模拟的方式进行操作,执行计算任务,并提供与 4 位 FPGA 存储器芯片相当的准确度,但能耗降低了 80 倍。

模拟 PCM 硬件并不适合高精度计算。所幸的是,数字型 CPU 和 GPU 是适合的,IBM 认为混合架构可以实现更高性能、更高效率和更高精度的平衡。

这种设计将大部分处理留给内存,然后将较轻的负载交给 CPU 进行一系列的精度修正。

根据 IBM 苏黎世实验室的电气工程师、也是该论文的主要作者 Manuel Le Gallo 称,这种设计有助于云中的认知计算,有助于释放对高性能计算机的访问。

Le Gallo 表示:“凭借我们现在的精确度,我们可以将能耗降低到是使用高精度 GPU 和 CPU 的 1/6。”

“所以我们的想法是,为了应对模拟计算中的不精确性,我们将其与标准处理器结合起来。我们要做的是将大量计算任务转移到 PCM 中,但同时得到最终的结果是精确的。”

这种技术更适合于如数字图像识别等应用,其中误解少数像素并不会妨碍整体识别,此外还有一些医疗应用。

“你可以用低精度完成大量计算——以模拟的方式,PCM 会非常节能——然后使用传统处理器来提高精度。”

对于只有 1 兆字节大小的 IBM 原型内存芯片,现在还处于初期阶段。为了适用于现代数据中心的规模化应用,它需要达到千兆字节的内存量级,分布在数万亿个 PCM 中。

尽管如此,IBM 认为可以通过构建更大规模的 PCM 设备或使其中 PCM 并行运行来实现这一目标。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • IBM
    IBM
    +关注

    关注

    3

    文章

    1661

    浏览量

    74241
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10335

    浏览量

    206226
  • gpu
    gpu
    +关注

    关注

    27

    文章

    4336

    浏览量

    126296

原文标题:IBM 取得内存计算新突破,AI 训练能耗降低 80 倍

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    AD7760手册中单端转差分的参考电路会对信号有两的放大如何修改?

    AD7760手册中单端转差分的参考电路会对信号有两的放大,这样就降低了一半输入信号范围,能否改成其他没有两放大副作用的电路呢?如何修改?谢谢!
    发表于 12-22 06:10

    如何降低三相异步电动机的能耗

    如何降低三相异步电动机的能耗降低三相异步电动机的能耗是一个重要的课题,可以通过多种方法来实现。在本文中,我们将详细介绍一些有效的措施来减少三相异步电动机的
    的头像 发表于 12-19 10:15 367次阅读

    IBM的新型模拟内存芯片能否证明AI操作的性能和能源效率呢?

    IBM 的新型模拟内存芯片证明了 AI 操作的性能和能源效率都是可能的。
    的头像 发表于 12-18 10:09 272次阅读

    IBM发布新型量子计算系统 Heron处理器公布

    IBM在2021年12月5日发布了全球首个模块化量子计算系统IBM Quantum System 2,以及下一代量子处理器芯片IBM Condor和Heron。其中,Condor芯片拥
    的头像 发表于 12-07 15:48 640次阅读

    请问AD7192噪声和精度是怎样计算的?

    请问AD7192噪声 和精度是怎样计算的?例如4.7HZ128时12NV有效值噪声怎么算出的精度22.5(20)
    发表于 12-06 08:03

    电机能耗制动时的制动电阻计算

    :100%电流连续工作不间歇模式应用。 计算和配置如下: 第一步,根据应用的工作制,电阻功率必须是实际使用的制动功率1以上。 第二步,根据第一步的条件,采用P = I∧2 * R 获取电阻允许的连续
    发表于 11-08 07:12

    LabVIEW开发多速率实时混合仿真

    LabVIEW开发多速率实时混合仿真 混合仿真是一种子结构技术,通过将数值建模的优点与实验测试的优点相结合来模拟感兴趣的结构。模拟结构的其余部分特别令人感兴趣,因此可以进行物理复制,以揭示粘弹性
    发表于 11-06 19:34

    IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑

    IBM研发的北极点(NorthPole)处理器芯片可避开访问外部存储器,提高计算能力,节约能源。 美国加利福尼亚州圣何塞的IBM研究人员开发了一种以大脑为灵感的
    的头像 发表于 10-23 15:43 226次阅读

    嵌入式软件开发中C语言能耗消耗最低

    通过测量执行时间和内存使用率等,将这两者与能耗联系起来,不仅了解到内存使用如何影响能源消耗,还要了解到时间和能源之间的关系。
    发表于 10-09 11:48 121次阅读
    嵌入式软件<b class='flag-5'>开发</b>中C语言<b class='flag-5'>能耗</b>消耗最低

    IBM 扩展云安全与合规中心,助客户在混合多云环境中保护数据、评估风险

    现代化的云安全和合规解决方案,旨在帮助企业降低风险并保护其混合、多云环境和工作负载中的数据。当客户寻找供应链新威胁解决之道和力图适应不断变化的全球法规时,该解决方案套件可支持他们的弹性、性能、安全性和合规性需求,同时帮助最大限度地降低
    的头像 发表于 09-19 18:10 284次阅读
    <b class='flag-5'>IBM</b> 扩展云安全与合规中心,助客户在<b class='flag-5'>混合</b>多云环境中保护数据、评估风险

    IBM正研发千量子位元计算系统,2025年达到4000量子位

     Thomas表示,ibm目前拥有20台量子计算机,比世界上任何一家公司都多,在量子计算方面具有技术优势,包括开发quiz kit量子应用程序开发
    的头像 发表于 09-11 11:12 403次阅读

    面向高性能和可扩展计算系统的IBM b-type网络

    电子发烧友网站提供《面向高性能和可扩展计算系统的IBM b-type网络.pdf》资料免费下载
    发表于 08-28 14:39 0次下载
    面向高性能和可扩展<b class='flag-5'>计算</b>系统的<b class='flag-5'>IBM</b> b-type网络

    为什么网速越来越快,能耗却越来越低?

    远传电信在部署爱立信业务持续性AI解决方案后,日常网络能耗降低了25%,且未对性能产生任何不利影响。该节能幅度还有望进一步提升。
    的头像 发表于 05-26 10:19 551次阅读

    三星计划开发基于内存的超级计算

    "三星电子的目标是在2028年前开发出一台基于内存的超级计算机,"三星电子设备解决方案业务的首席执行官Kyung Kye-hyun周四在大田的KAIST发表演讲时说。
    发表于 05-12 11:26 181次阅读

    中国电信自研 RISC-V 云原生轻量级虚拟机 TeleVM 成功运行,内存开销降低约 90%

    —— 昉・天枢上完成软硬件协同测试验证。测试结果显示, 相对于 QEMU+KVM 虚拟化方案,TeleVM 在 RISC-V 架构下的内存开销降低约 90%,启动时延减少约 80% 。 据官方介绍
    发表于 05-05 09:46