0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

基于内存的人工智能神经网络架构

姚小熊27 来源:人工智能实验室 作者:人工智能实验室 2020-12-18 13:40 次阅读

在过去十年左右的时间里,研究人员已经开发了多种基于人工神经网络(ANN)的计算模型。尽管已发现许多这些模型在特定任务上表现良好,但它们并不总是能够识别可应用于新问题的迭代,顺序或算法策略。

过去的研究发现,添加外部存储器组件可以提高神经网络获取这些策略的能力。但是,即使使用外部存储器,它们也容易出错,对提供给他们的数据变化敏感,并且需要大量的训练数据才能很好地发挥作用。

达姆施塔特技术大学的研究人员最近推出了一种新的基于记忆增强的基于ANN的体系结构,该体系结构可以学习解决问题的抽象策略。这种结构在将算法计算与依赖于数据的操作分开,将算法处理的信息流划分为两个不同的“流”。

研究人员在论文中写道:“扩展具有外部记忆的神经网络已经提高了他们学习这种策略的能力,但是它们仍然容易出现数据变化,难以学习可扩展和可转移的解决方案,并且需要大量的训练数据。” “我们提出了神经哈佛计算机,这是一种基于内存的基于网络的体系结构,该体系结构通过将算法操作与数据操作解耦而采用抽象,通过拆分信息流和分离的模块来实现。”

神经哈佛计算机或NHC将输入算法的信息流分为两个不同的流,即数据流(包含特定于数据的操作)和控制流(包含算法操作)。最终,它可以区分与数据相关的模块和算法模块,从而创建两个独立但又耦合的存储器。

NHC具有三个主要的算法模块,分别称为控制器,存储器和总线。这三个组件具有不同的功能,但彼此交互以获取可应用于将来任务的抽象。研究人员在论文中解释说:“这种抽象机制和进化训练使学习健壮和可扩展的算法解决方案成为可能。”

研究人员通过使用NHC训练和运行11种不同的算法来评估NHC。然后,他们测试了这些算法的性能,以及它们的泛化和抽象能力。研究人员发现,NHC可以可靠地运行所有11种算法,同时还可以使它们在比最初训练要完成的任务复杂的任务上表现出色。“在11种复杂程度各异的算法中,我们证明NHC可靠地学习了具有强大概括性和抽象性的算法解决方案,可以完美地概括和扩展到任意任务配置和复杂性,而这些复杂性和复杂性远远超出了训练期间所看到的,并且与数据无关表示法和任务领域”,

该研究人员小组最近进行的研究证实了使用外部存储组件来增强复杂程度不同的任务中基于神经网络的体系结构的性能和可推广性的潜力。将来,NHC体系结构可用于合并和改进不同ANN的功能,从而帮助开发可识别有用策略的模型,从而基于新数据做出准确的预测。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4538

    浏览量

    98437
  • 内存
    +关注

    关注

    8

    文章

    2737

    浏览量

    72614
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230126
收藏 人收藏

    评论

    相关推荐

    详解深度学习、神经网络与卷积神经网络的应用

    在如今的网络时代,错综复杂的大数据和网络环境,让传统信息处理理论、人工智能与人工神经网络都面临巨大的挑战。近些年,深度学习逐渐走进人们的视线,通过深度学习解决若干问题的案例越来越多。一
    的头像 发表于 01-11 10:51 628次阅读
    详解深度学习、<b class='flag-5'>神经网络</b>与卷积<b class='flag-5'>神经网络</b>的应用

    人工智能大模型、应用场景、应用部署教程超详细资料

    丰富的选择。 此次推出的人工智能模型主要包括:Adain 风格迁移模型、Conformer 模型、DeeplabV模型、Fastdepth 模型、LaneAF-ERFNet 模型、Lenet 模型
    发表于 11-13 14:49

    人工神经网络相关资料

    以冯·诺依曼型计算机为中心的信息处理技术的高速发展,使得计算机在当今的信息化社会中起着十分重要的作用。但是,当用它来解决某些人工智能问题时却遇到了很大的困难。 例如,一个人可以很容易地识别他人的脸孔
    发表于 09-27 06:13

    人工神经网络算法、PID算法、Python人工智能学习等资料包分享(附源代码)

    网络(Artificial Neural Network,即ANN) 可以概括的定义为:   由大量具有适应性的处理元素(神经元)组成的广泛并行互联网络,它的组织能够模拟生物神经系统
    的头像 发表于 09-15 15:36 717次阅读
    <b class='flag-5'>人工</b><b class='flag-5'>神经网络</b>算法、PID算法、Python<b class='flag-5'>人工智能</b>学习等资料包分享(附源代码)

    不可错过!人工神经网络算法、PID算法、Python人工智能学习等资料包分享(附源代码)

    ,是模拟人工智能的一条重要途径。人工神经网络与人脑相似性主要表现在: ①神经网络获取的知识是从外界环境学习得来的; ②各神经元的连接权,即突
    发表于 09-13 16:41

    《 AI加速器架构设计与实现》+第一章卷积神经网络观后感

    《 AI加速器架构设计与实现》+第一章卷积神经网络观感    在本书的引言中也提到“一图胜千言”,读完第一章节后,对其进行了一些归纳(如图1),第一章对常见的神经网络结构进行了介绍,举例了一些结构
    发表于 09-11 20:34

    基于IDE构建用于STM32微处理器的完整人工智能项目

    本用户手册指导了基于 IDE 逐步构建用于 STM32 微处理器的完整人工智能(AI)项目,自动转换预训练好的神经网络(NN)并集成所生成的优化库。本手册还介绍了 X-CUBE-AI 扩展包,该扩展
    发表于 09-07 06:15

    什么是卷积神经网络?卷积神经网络人工智能和机器学习的意义

    随着人工智能(AI)技术的快速发展,AI可以越来越多地支持以前无法实现或者难以实现的应用。本文基于此解释了卷积神经网络(CNN)及其对人工智能和机器学习的意义。CNN是一种能够从复杂数据中提取特征的强大工具,例如识别音频信号或图
    发表于 09-05 10:23 475次阅读

    人工神经网络和bp神经网络的区别

    人工神经网络和bp神经网络的区别  人工神经网络(Artificial Neural Network, ANN)是一种模仿人脑
    的头像 发表于 08-22 16:45 3066次阅读

    卷积神经网络主要包括哪些 卷积神经网络组成部分

    卷积神经网络主要包括哪些 卷积神经网络组成部分 卷积神经网络(CNN)是一类广泛应用于计算机视觉、自然语言处理等领域的人工神经网络。它具有良
    的头像 发表于 08-21 17:15 958次阅读

    卷积神经网络算法有哪些?

    算法。它在图像识别、语音识别和自然语言处理等领域有着广泛的应用,成为近年来最为热门的人工智能算法之一。CNN基于卷积运算和池化操作,可以对图像进行有损压缩、提取特征,有效降低输入数据的维度,从而实现对大量数据的处理和分析。下面是对CNN算法的详细介绍: 1. 卷积神经网络
    的头像 发表于 08-21 16:50 1023次阅读

    卷积神经网络的工作原理 卷积神经网络通俗解释

    卷积神经网络的工作原理 卷积神经网络通俗解释  卷积神经网络(Convolutional Neural Network, CNN)是一种众所周知的深度学习算法,是人工智能领域中最受欢迎
    的头像 发表于 08-21 16:49 2296次阅读

    卷积神经网络原理:卷积神经网络模型和卷积神经网络算法

    卷积神经网络原理:卷积神经网络模型和卷积神经网络算法 卷积神经网络(Convolutional Neural Network,CNN)是一种基于深度学习
    的头像 发表于 08-17 16:30 837次阅读

    RBF神经网络(2)#人工智能

    神经网络人工智能
    未来加油dz
    发布于 :2023年07月27日 11:26:00

    RBF神经网络(1)#人工智能

    神经网络人工智能
    未来加油dz
    发布于 :2023年07月27日 11:25:34