0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

超维计算是一种新兴的计算方法,受到人脑神经活动模式的启发

倩倩 来源:互联网分析沙龙 2020-07-10 15:54 次阅读

超维计算(HDC)是一种新兴的计算方法,受到人脑神经活动模式的启发。这种独特的计算类型可以使人工智能系统根据以前遇到的数据或场景保留内存并处理新信息。

过去开发的大多数HDC系统只能在特定任务上表现出色,例如自然语言处理(NLP)或时间序列问题。在《自然电子》上发表的一篇论文中,苏黎世IBM研究中心和苏黎世联邦理工学院的研究人员介绍了一种新的HDC系统,该系统可以在内存中执行所有核心计算,并且可以应用于各种任务。

这项研究的两位主要研究人员Abu Sebastian和Abbas Rahimi对TechXplore说:“我们的工作是由内存计算和超维计算这两个概念之间的自然契合开始的。”“在苏黎世的IBM研究中心,我们一直在开发基于相变存储器(PCM)的内存计算平台,而在苏黎世联邦理工学院,我们一直在探索一种大脑启发的计算范例,称为超维计算。”

研究人员在过去的工作中观察到,HDC涉及的主要操作,即编码和关联内存搜索,都涉及对系统内存中大型分布模式的操纵和比较。由于此特性,可以使用PCM交叉开关阵列有效地制造这些系统,从而实现模拟内存计算的优势。

塞巴斯蒂安和拉希米解释说:“这种量身定制的组合不仅避免了冯·诺伊曼的瓶颈(又名记忆墙),而且还显着提高了能源效率以及对可变性,噪声和故障的鲁棒性。”“大约两年前,这一发现促使我们在ETH和IBM之间朝这个方向发起了一项联合研究。”

为了对神经活动模式进行建模,HDC系统使用丰富的代数,该代数定义了一组规则来构建,绑定和捆绑不同的超向量。超向量是具有独立且分布相同的分量的全息10,000维(伪)随机向量。通过使用这些超向量,HDC可以创建功能强大的计算系统,该系统可用于完成复杂的认知任务,例如对象检测,语言识别,语音和视频分类,时间序列分析,文本分类和分析推理。

Sebastian,Rahimi及其同事在论文中提出了一个完整的内存HDC系统,该系统可以处理各种任务。他们的系统有两个关键组成部分:HDC编码器和关联存储器。

Sebastian和Rahimi说:“我们的系统通过忆阻器件上的逻辑和点积运算在内存中执行核心计算。”“由于HDC固有的鲁棒性,有可能近似于与HDC相关的数学运算,使其适合于硬件实现,并在不影响精度的情况下使用模拟内存计算。”

过去开发的大多数内存HDC体系结构仅适用于有限的任务集,例如单语言识别或二进制分类任务。此外,这些系统主要在仿真中进行了评估,并使用了基于小型原型的紧凑型模型,带有少量电阻装置。

相比之下,由Sebastian和Rahimi开发的系统利用了700,000多个PCM设备。因此,它可以说是迄今为止提供的最大内存内HDC实验演示之一。

该原型是最早被编程为支持不同的超向量表示,尺寸以及输入符号和输出类别的HDC系统之一。这使其适用于从NLP到新闻分类和生物信号处理的多种应用。

塞巴斯蒂安和拉希米说:“我们的工作通过在嘈杂的硬件基板上执行各种分类任务,同时达到与精确软件实现相当的准确性,真正证明了模拟内存计算的潜在优势。”“这种强大的模拟内存计算是通过对数据表示,具有优美近似值的关联操作以及自然使它们能够实现的材料和基底提供新颖的外观来实现的。”

研究人员通过一系列实验对系统进行了评估,测试了它们在AI技术通常解决的三个任务上的性能,这些任务是基于肌电信号分析的语言分类,新闻分类和手势识别。在所有这些任务中,他们的HDC系统在任务的复杂性和分类精度之间实现了接近最佳的权衡。Sebastian,Rahimi及其同事使用760,000个相变存储设备测试了他们的系统,该设备执行了模拟内存计算过程,发现该系统实现了与流行软件技术类似的精度。

“我们通过实验证明,与基于65纳米CMOS技术的优化数字系统相比,使用基于PCM的内存计算的HDC平台可以节省600%的能源。”

将来,在最近的这项研究中引入的HDC系统将可以创建具有高级存储功能的新技术,从而可以完成许多不同的分类任务。该系统很快将在各种实际环境中实施和测试,这将使研究人员可以进一步评估其性能。

塞巴斯蒂安和拉希米说:“在我们的HDC体系结构中,信息的编码和内存的存储在构造上是分开的过程。”“最近在现代深度神经网络中,人们认识到这种关键的解开关系,以使它们摆脱灾难性的遗忘,并能实现短时学习和终身保留。我们的架构和表示系统将在下一代AI的开发中发挥核心作用。提供可以快速学习的系统,在整个生命周期中保留信息,即使使用正确的材料和基材也可以有效地做到这一点。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • PCM
    PCM
    +关注

    关注

    1

    文章

    186

    浏览量

    52674
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230596
收藏 人收藏

    评论

    相关推荐

    耐压测试中漏电流的计算方法

    耐压测试是一种常用的电气测试方法。在进行耐压测试时,需要对漏电流进行计算,以确保测试过程中的安全。本文将详细介绍耐压测试中漏电流的计算方法。 一、漏电流的概念 漏电流是指在绝缘材料表面
    的头像 发表于 01-11 14:38 2444次阅读
    耐压测试中漏电流的<b class='flag-5'>计算方法</b>

    边缘计算是一种什么运算架构

    边缘计算是一种分布式计算架构,它将数据处理和存储功能从传统的云端数据中心移至距离数据源更近的边缘设备或边缘节点上进行处理。这一架构的目标是通过减少数据传输延迟和带宽需求,提高计算资源利
    的头像 发表于 12-27 15:02 324次阅读

    EMC计算方法和EMC仿真(1) ——计算方法简介

    EMC计算方法和EMC仿真(1) ——计算方法简介
    的头像 发表于 12-05 14:56 501次阅读
    EMC<b class='flag-5'>计算方法</b>和EMC仿真(1) ——<b class='flag-5'>计算方法</b>简介

    不同壳温下SOA曲线的计算方法

    不同壳温下SOA曲线的计算方法
    的头像 发表于 12-04 17:54 367次阅读
    不同壳温下SOA曲线的<b class='flag-5'>计算方法</b>

    晶体管的元件温度计算方法

    晶体管的元件温度计算方法
    的头像 发表于 11-23 09:09 272次阅读
    晶体管的元件温度<b class='flag-5'>计算方法</b>

    I2C时钟设置计算方法

    I2C时钟设置计算方法I²C时钟设置计算方法
    发表于 10-20 08:17

    mos管噪声计算方法

    MOS管噪声计算方法 噪声是电路设计和性能评估中的一个关键问题,特别是在高频率和低功耗应用中。MOSFET是一种广泛应用于各种电路的半导体器件。因此,正确计算MOS管噪声是非常重要的。本文将介绍
    的头像 发表于 09-19 16:49 1322次阅读

    噪音计的结构和噪音计工作原理 噪音计算方法解析

      噪音计算方法解析     仪器标准    
    的头像 发表于 09-15 17:54 503次阅读
    噪音计的结构和噪音计工作原理 噪音<b class='flag-5'>计算方法</b>解析

    SOLIDWORKS仿真计算是什么意思?

    SOLIDWORKS仿真计算是指利用SOLIDWORKS软件进行工程设计和分析时所使用的计算方法和技术。SOLIDWORKS是一款流行的三维计算机辅助设计(CAD)软件,它提供了丰富的工具和功能,使工程师能够创建和模拟各种产品和
    的头像 发表于 09-06 15:42 639次阅读
    SOLIDWORKS仿真<b class='flag-5'>计算是</b>什么意思?

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用

    AI边缘计算是什么意思?边缘ai是什么?AI边缘计算应用  随着人工智能技术的不断发展,边缘计算作为一种新型的计算
    的头像 发表于 08-24 15:18 1490次阅读

    变压器电感计算方法 变压器感抗如何计算

    变压器电感计算方法 变压器感抗如何计算 变压器是电力系统中最常见的电力设备之一,其主要作用是进行电压的改变和电能的传输。变压器的核心是磁性材料,通过磁感线的相互作用将电能转换为磁能和再转换为电能
    的头像 发表于 08-23 17:20 3199次阅读

    人工神经网络和bp神经网络的区别

    人工神经网络和bp神经网络的区别  人工神经网络(Artificial Neural Network, ANN)是一种模仿人脑神经元网络结构
    的头像 发表于 08-22 16:45 3433次阅读

    卷积神经网络计算公式

    神经网络计算公式 神经网络是一种类似于人脑神经系统的计算
    的头像 发表于 08-21 16:49 1206次阅读

    高速ADC噪声系数计算方法

    今天给大家分享下高速ADC噪声系数计算方法
    的头像 发表于 07-10 16:33 1016次阅读
    高速ADC噪声系数<b class='flag-5'>计算方法</b>

    零序互感器的变比计算方法

    零序互感器是电力系统中一种特殊的电流互感器,用于测量电力系统中的零序电流,以实现对电气设备的保护和控制。零序互感器一般都有变比,变比是指电流互感器的一种特殊参数,它决定了互感器输出的电流与被测电路中的电流之间的比例关系。下面将介绍零序互感器的变比
    的头像 发表于 06-03 09:39 4424次阅读