0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔高管与AI大神再论深度学习

电子工程师 来源:未知 作者:胡薇 2019-03-04 09:09 次阅读

作为开创人工智能产业的核心技术,也就是卷积神经网络的创造者,杨立昆 (Yann LeCun) 针对整个人工智能产业的评论,自然也是备受关注。

他在国际固态电路会的开幕演讲中,明确的表达了他不同意英特尔对于人工智能的观点,他认为,英特尔目前所积极发展的尖峰神经原技术目前还不实用,也缺乏可靠的算法来实现实际生活上的问题。

英特尔也因此炸了锅,其主导神经计算的主管 Mike Davis 更是站出来反驳杨立昆的看法,捍卫尖峰神经原计算的核心价值与发展潜力。

Facebook 人工智能研究院院长杨立昆在三十多年前在多伦多大学博士就学期间,创造了使用特定形式的机器学习,该技术称为卷积神经网络 (CNN),也因此,杨立昆也被称为卷积神经之父。

后来杨立昆先后曾在贝尔实验室开发新型态的机器学习方法,包括我们现在流行的图像识别技术,随后他加入 AT&T 实验室领导图像研究部门,并曾加入 NEC 美国研究室,后来他加入纽约大学,并在 2012 年创建了数据科学中心,随后他加入了 Facebook,建立人工智能研究院,并成为第一任主任。

作为开创人工智能产业的核心技术创造者,杨立昆对尖峰神经原 (spiking neurons) 的负面看法,也引了包含英特尔在内的业界的争议。

众所周知,英特尔正积极发展所谓的尖峰神经原技术,而该技术底层是一种更接近真正生物神经原的一种计算模型,换言之,英特尔认为这种技术所达成的计算才是人工智能。

英特尔神经计算主管 Mike Davis 对杨立昆的看法表示,目前各种以反向传播技术为基础的神经网络模型上进行的计算,根本不能称为真正的深度学习,充其量只能叫做基于算法的路经优化,只有以真正模拟大脑神经原运作,才有办法解决目前深度学习在所有人工智能应用领域所遇到的问题。

Mike Davis 在加州理工大学毕业后,曾短暂在 Fulcrum 这家 IC 设计公司待过,该公司成立于 1999 年,主打低功耗网络设备芯片,该公司后来在 2011 年底被英特尔收购,而 Mike Davis 也转而进入英特尔从事芯片开发工作,后来成为英特尔的神经计算研究室的主任。

反向传播与尖峰神经原之争

基于反向传播的卷积神经深度学习方法是过去几十年来做为人工智能的基础,然而反向传播技术并不存在于自然界的各种逻辑推演过程,实际上,它只是用来简化我们遇到的庞大数据,从中理出逻辑的一套方法。

而反向传播这一深度学习核心技术的提出者之一,Geoffrey Hinton 很早就意识到反向传播并不是自然界生物大脑中存在的机制,也因此,他最近也曾发出声明,强调要追求真正的人工智能,就必须抛弃反向传播,从自然规则,也就是我们的大脑中寻找真正的解法。

基于反向传播的神经网络技术在”学习”的过程中其实会有很多限制,比如说人脑可以在一张图片中的文字加入噪声后仍可轻易判读出来,但现有的神经网络却非如此,即便是同一张图片,加入噪声之后就必须重新学习,否则就无法判读。

换言之,反向传播无法理解事物的因与果,它虽然可以找出一套最优路径,但这不是逻辑的建立,而仅仅是死的规则。

而英特尔进来积极发展的尖峰神经原,也被称做脉冲神经网络,其实就是要仿照大脑神经原的运作方式,让计算机用大脑的运作方式来去理解事物的本质,而不仅仅是最优化工作。

目前的神经网络属于第二代神经网络技术,属于监督式的学习方法,基于自 1970 年代就已经发明的反向传播技术,而尖峰神经原则是属于第三代技术,它不止使用了类似生物的神经网络运作方式,甚至也能把时间信息的影响因素同步考虑进来,换言之,这是一个可以考虑前因后果的神经网络技术。

当然,作为推动近年来人工智能产业的重要核心技术,其实反向传播已经建立起非常庞大的生态价值链,即便它不完美,但它推动了整个人工智能计算产业,其地位已经非常稳固,不仅性能可靠,算法生态丰富,几乎所有的计算硬件都能支援相关算法,在未来很长的时间内都不可能被取代。

然而科学家看的往往是更长远的发展,反向传播技术的限制早就已经被诸多研究者提出,虽然可以利用很多额外的算法来弥补,但无法根除这些问题。

英特尔身为业界计算架构的领导者,他已经错失了在第二代神经网路计算中的先机,也因此,转而全力发展第三代神经网络技术,其 Loihi 技术就是该技术的结晶。

与其他传统神经网络技术不同的是,Loihi 不需要庞大的数据来帮助其完成整个学习过程,理论上它可以利用环境观察中取得的数据来自主完成整个学习过程。

当然,英特尔这边声称这个基于第三代神经网络技术的硬件环境已经非常完备,而且在合适的算法之下,可以达到远优于传统神经网络计算架构的效率与能耗表现。

不过 Mike Davis 也承认,杨立昆的某些观点也是事实,那就是其第三代神经网络,也就是尖峰神经原的硬件还缺乏许多关键算法的实现,临门还缺了一脚,使其还无法真正为业界所用。

但 Mike Davis 强调,算法的完备只是时间问题,由于尖峰神经原技术解决了基于传统反向传播神经网络架构的核心问题,如果要往真正的人工智能发展,那么这就是不得不走的路,当业界普遍认知到反向传播的限制所在,尖峰神经原技术就会是答案。

世代问题

所以从整个事件看来,其实杨立昆与 Mike Davis 之间的争议就是个世代问题,第二代神经网络技术很好的解决了目前我们生活周遭的大数据计算需求,虽然不够智能,但够用,而英特尔则是认为真正的人工智能问题无法用第二代神经网络技术来解决,必须通过第三代技术才有办法达成。

要说二者之间的争议谁是谁非,其实是没有答案的。

这种认知上的落差其实在于现在与未来的认知不同,也就是不同时期在人工智能应用发展所需要的计算核心所需要的不同思维,就好比过去有很长一段时间觉得计算就应该是由 CPU 来完成,但后来 GPU,甚至神经网络芯片加入计算的战场,我们看到的计算生态也变得更多元化,但这并不是说 CPU 的贡献就不存在,或者失去价值。

这场由不同世代神经网络架构所造成的人工智能争议亦是如此。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230126
  • 深度学习
    +关注

    关注

    73

    文章

    5200

    浏览量

    119803

原文标题:谁是真正的深度学习?英特尔高管与AI大神再“论剑”

文章出处:【微信号:deeptechchina,微信公众号:deeptechchina】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    FPGA在深度学习应用中或将取代GPU

    ,也正积极的为其开发专用的 AI 硬件,用于自己的云产品和边缘计算产品环境中。 神经形态芯片 方面也有着一些发展,这是一种专门为神经网络设计的计算机架构。英特尔在神经形态计算领域处于领先地位,已经开发
    发表于 03-21 15:19

    英特尔:2025年全球AIPC将超1亿台占比20%

    英特尔行业资讯
    北京中科同志科技股份有限公司
    发布于 :2024年02月29日 09:15:26

    英特尔1nm投产时间曝光!领先于台积电

    英特尔行业芯事
    深圳市浮思特科技有限公司
    发布于 :2024年02月28日 16:28:32

    英特尔再创辉煌!1.4nm芯片工艺领航微电子时代,工业界的新里程碑?

    英特尔行业资讯
    北京中科同志科技股份有限公司
    发布于 :2024年02月26日 08:58:21

    英特尔登顶2023年全球半导体榜单之首

    英特尔行业芯事
    深圳市浮思特科技有限公司
    发布于 :2024年02月01日 11:55:16

    英特尔酷睿14代处理器系列发布,Arrowlake/LunarLake24年问世

    处理器英特尔
    looger123
    发布于 :2024年01月10日 17:44:38

    AI 无处不在,英特尔酷睿Ultra 和第五代英特尔至强可扩展处理器正式发布

    今天,英特尔在北京举办以“AI无处不在,创芯无所不及”为主题的2023英特尔新品发布会暨AI 技术创新派对,携手ISV、OEM、CSP产业伙伴在内的
    的头像 发表于 12-16 16:05 360次阅读
    <b class='flag-5'>AI</b> 无处不在,<b class='flag-5'>英特尔</b>酷睿Ultra 和第五代<b class='flag-5'>英特尔</b>至强可扩展处理器正式发布

    #通 #英特尔 #Elite 通X Elite芯片或终结苹果、英特尔的芯片王朝

    英特尔苹果
    深圳市浮思特科技有限公司
    发布于 :2023年10月27日 16:46:07

    安装OpenVINO工具套件英特尔Distribution时出现错误的原因?

    安装OpenVINO™工具套件英特尔 Distribution时,出现错误: Python 3.10.0.ECHO is off. Unsupported Python version.
    发表于 08-15 08:14

    Ai 部署的临界考虑电子指南

    虽然GPU解决方案对训练,AI部署需要更多。 预计到2020年代中期,人工智能行业将增长到200亿美元,其中大部分增长是人工智能推理。英特尔Xeon可扩展处理器约占运行AI推理的处理器单元的70
    发表于 08-04 07:25

    英特尔媒体加速器参考软件Linux版用户指南

    英特尔媒体加速器参考软件是用于数字标志、交互式白板(IWBs)和亭位使用模型的参考媒体播放器应用软件,它利用固定功能硬件加速来提高媒体流速、改进工作量平衡和资源利用,以及定制的图形处理股(GPU)管道解决方案。该用户指南将介绍和解释如何为Linux* 使用英特尔媒体加速器
    发表于 08-04 06:34

    英特尔通过AI参考套件加速AI发展

    人工智能(AI)。每个套件均包含面向AI优化的模型代码、训练数据、机器学习流水线、库以及oneAPI组件,让企业可以在采用不同架构的本地、云端和边缘环境下灵活应用。 “ 英特尔
    的头像 发表于 07-28 19:45 553次阅读
    <b class='flag-5'>英特尔</b>通过<b class='flag-5'>AI</b>参考套件加速<b class='flag-5'>AI</b>发展

    大模型算力新选择——宝德AI服务器采用8颗英特尔Gaudi®2加速器

    近日,英特尔专门针对中国市场推出深度学习加速器Habana® Gaudi®2.以领先的性价比优势,加速AI训练及推理,提高深度
    的头像 发表于 07-19 14:43 474次阅读

    英特尔全新Gaudi2处理器面世中国市场,加速大规模深度学习训练与推理

    7月11日,英特尔AI产品战略暨Gaudi2新品发布会在京举行。会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana
    的头像 发表于 07-14 20:10 354次阅读
    <b class='flag-5'>英特尔</b>全新Gaudi2处理器面世中国市场,加速大规模<b class='flag-5'>深度</b><b class='flag-5'>学习</b>训练与推理

    深度学习而生,英特尔全新Gaudi2处理器正式登陆中国

    英特尔AI产品战略暨Gaudi2新品发布会在京举行。会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana® Gaud
    的头像 发表于 07-13 09:48 523次阅读