0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

一个会说唱的AI在学习了二人转后会忘记如何rap吗?

DPVg_AI_era 来源:lq 2019-05-25 09:32 次阅读

如果AI可以终身学习会怎样?科学家们已经开发出一种新的深度神经网络框架,允许人工智能系统更好地学习新的任务,同时更少地忘记他们在以前的任务中所学的东西。

美国陆军的一个项目为深度神经网络开发了一个新的框架,它允许人工智能系统更好地学习新任务,同时更少地忘记他们在以前任务中学到的东西。

由军方资助的北卡罗莱纳州立大学的研究人员也证明了使用框架学习新的任务可以使人工智能更好地执行以前的任务,这一现象称为反向转移。

“陆军需要准备好在世界任何地方作战,因此它的智能系统也需要准备好,” 陆军研究办公室智能系统(美国陆军作战能力开发司令部陆军研究实验室的一个组成部分)的项目经理Mary Anne Fields博士说道:“我们希望陆军的智能系统能在世界各地的战场上执行任务时不断获得新的技能,而不要忘记已经训练掌握的技能。例如,在进行城市操作时,轮式机器人可能会学习在人口密集的城市该如何行进,但它仍然需要在以前遇到的环境(如森林)中高效工作。”

研究团队提出了一种新的持续学习框架,称为“学习成长”(Learn to Grow),它将网络结构学习和模型参数学习分离开来。在实验测试中,它优于以往的持续学习方法。

“深度神经网络人工智能系统是为学习狭小范围任务而设计的,”该论文的合著者、北卡罗来纳州立大学博士生李锡来(音译)说道。因此,在学习新任务时,可能会发生以下几种情况之一:

◆系统在学习新任务时会忘记旧任务,这称为灾难性遗忘。

◆系统会忘记一些它们知道的关于旧任务的事情,同时不学习去做新的任务。

◆系统可以在添加新任务的同时将旧任务解决——这限制了改进并很快导致人工智能系统太大而无法有效运行。

持续学习,又称终身学习或学着学习(learning-to-learn)正试图解决这个问题。”

要理解“学会成长”框架,请将深层神经网络想成布满多层的管道。原始数据进入管道的顶部,任务输出从底部出来。管道中的每一个“层”都是一个计算,它操纵数据以帮助网络完成其任务,例如识别数字图像中的对象。管道中的层有多种排列方式,它们对应于网络的不同“架构”。

当要求一个深层神经网络学习一个新的任务时,“学习成长”框架首先通过搜索执行一个称为显式神经架构优化的操作。这意味着,当网络到达其系统中的每一层时,它可以决定执行以下四项操作之一:

◆跳过该层

◆用和以前的任务相同的方式使用该层

◆在该层上附加一个轻量级适配器,这会稍微修改该层

◆创建一个全新的层

这种体系结构优化有效地布局了完成新任务所需的最佳拓扑(topology)或者一系列层。一旦完成,网络就使用新的拓扑结构来训练自己如何完成任务——就像其他任何深度学习人工智能系统一样。

“我们已经使用多个数据集进行了实验,我们发现,新任务与以前的任务越相似,现有层执行新任务的重叠程度就越高,” 李锡来说道:“更有趣的是,在经过优化或“学习”的拓扑结构下,接受过执行新任务培训的网络几乎不会忘记执行旧任务所需的内容,即使旧任务不相似。”

研究人员还进行了实验,将“学习成长”框架的学习新任务能力与其他几种持续学习方法进行比较,发现“学习成长”框架在完成新任务时具有更好的准确性。

为了测试在学习新任务时每个网络可能忘记了多少,研究人员随后测试了每个系统在执行旧任务时的准确性——而“学习成长”框架再次优于其他网络。

“在某些情况下,‘学习成长’框架实际上在执行旧任务方面做得更好,”Salesforce Research的研究主管、该论文的合著者之一熊才明(音译)说,“这被称为反向转移,当你发现学习一个新任务会使你更好地完成一个旧任务时就会发生这种情况。我们一直在人们身上看到这一点,但在人工智能上就很少见。”

菲尔兹说:“陆军的这项投资扩展了当前最先进的机器学习技术,这些技术将指导我们的陆军研究实验室研究人员开发机器人应用,如智能机动和学习识别新物体。”这项研究使人工智能更接近于为我们的作战人员提供可部署在战场上的有效无人系统。”

论文 《 学习成长:克服灾难性遗忘的持续结构学习框架》将于6月9日至15日在加利福尼亚长滩举行的第36届机器学习国际会议上发表。论文的共同主要作者包括数控电气与计算机工程助理教授吴天福(音译)博士、北卡罗来纳州立大学博士生李锡来和Salesforce Research的周颖波。论文由Salesforce Research的Richard Socher和Caiming Xiong合著。

这项工作也得到了国家科学基金会的支持。李锡来在Salesforce AI Research做暑期实习生时完成了部分工作。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4539

    浏览量

    98441
  • AI
    AI
    +关注

    关注

    87

    文章

    26153

    浏览量

    263716
  • 人工智能
    +关注

    关注

    1773

    文章

    43373

    浏览量

    230136

原文标题:美国陆军研究实验室:新框架让AI可以终身学习

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【创客营】新品体验!机器视觉VisionBoard开发板免费试用

    4月8日- 4月28日开发板的外设功能模块,每个外设模块的评测为任务,每位参与者领取功能模块任务即可。 片上外设 支持情况 任务难度 备注 UART+GPIO Y ⭐
    发表于 03-20 14:03

    发挥您的无限潜力:GENE-RAP6 搭载第13 代Intel® Core™ 处理器强劲动力

    GENE-RAP6不仅仅是一块单板计算机,它代表了嵌入式计算的新时代。凭借第13代Intel Core 处理器、强固的设计特色和超强的扩展功能,GENE-RAP6可在极端环境中展现出优异的计算能力
    的头像 发表于 02-19 13:05 67次阅读
    发挥您的无限潜力:GENE-<b class='flag-5'>RAP</b>6 搭载第13 代Intel® Core™ 处理器强劲动力

    干货 | 搞硬件设计不能忘记的11知识点

    工程师良好习惯的主要在于培养思维深度和广度以及设计的严谨。的思维,或者我们把它称之为能力,思维的高低就表现在能力高低上。与人的差异不在智商,而在思维上。思维的深度广度决定一个人
    发表于 11-30 15:01

    【KV260视觉入门套件试用体验】Vitis AI 构建开发环境,并使用inspector检查模型

    /vitis-ai-cpu:latest 第步,可以使用了………完……… (^_^),当然不是这么简单,Vitis AI 不仅仅是
    发表于 10-14 15:34

    AI智能呼叫中心

    、数据驱动决策以及人力成本节约,旨在深入剖析其核心优势和对企业的重要意义。、自动化处理AI智能呼叫中心通过引入自然语言处理(NLP)、机器学习和自动化技术,使得呼叫中心的处理过程更加高效和准确,
    发表于 09-20 17:53

    阿里平头哥发布首个 RISC-V AI 软硬全栈平台

    自https://m.ithome.com/html/714391.htm 2023 RISC-V 中国峰会8月23日在北京召开,平头哥在会上发布首个自研 RISC-V AI 平台。 据介绍,该
    发表于 08-26 14:14

    ai机器

    人工智能AI机器
    jf_86111705
    发布于 :2023年08月22日 16:06:28

    ai智能机器

    机器AI
    jf_86111705
    发布于 :2023年08月21日 15:59:56

    ai语音机器

    机器AI
    jf_86111705
    发布于 :2023年08月18日 15:05:25

    profinetethernet网关连接发那科机器配置案例

    机器连接的远程I/O的IP地址即PROFINETEtherNet网关ethernet端的IP地址; 10、添加链接; 11、设置好从站IP(本例为192.168.0
    发表于 08-03 17:58

    关于FPGA的学习和发展问题

    我是大的电子信息工程在读生,目前没有接触过32方向的任何东西,只学习学期的FPGA并参加了集创赛,感觉FPGA的
    发表于 07-26 11:04

    AI 人工智能的未来在哪?

    人工智能、AI智能大模型已经孵化;繁衍过程将突飞猛进,ChatGPT已经上线。 世界首富马斯克认为AI对人类是种威胁;谷歌前CEO施密特认为AI和机器
    发表于 06-27 10:48

    我们拆款Tof+AI避障的扫地机

    连接并通过PWM接口进行控制。 在中间的是中扫轮和电机,看到这个电机比起刚刚拖地轮的电机还算是非常迷你的电机,中扫轮扫起的垃圾最后会吸入到这个灰尘盒里面。 至于中扫轮如何将垃
    发表于 05-26 10:10

    最新的AI键修图火爆全网,祖传PS要失业# AI修图

    AI
    智哪儿
    发布于 :2023年05月22日 11:57:30

    【入群体验】电子行业首个群聊式AI问答机器正式上线

    次数ChatGPT 的火爆推动了互联网发展的小高潮,各种AI软件层出不穷。华秋电子为了能帮助更多的工程师朋友,提高工作和学习效率,我们推出了小秋Chat——完全免费使用,不限提问次
    发表于 04-12 18:02