电子发烧友网 > 人工智能 > 正文

人工智能上存在什么分歧

2020年04月03日 14:41 次阅读

这一领域在其发展方向和原因上存在分歧。

自上世纪50年代以来,人工智能一再言过其实,却未能兑现其承诺。尽管近年来,由于深度学习,人工智能出现了令人难以置信的飞跃,但今天的人工智能仍然很狭隘:它在面对攻击时很脆弱,不能泛化以适应不断变化的环境,而且充满偏见。所有这些挑战使得该技术难以被信任,并限制了其造福社会的潜力。

3月26日,在《麻省理工学院技术评论》(MIT Technology Review)的年度EmTech数字活动上,两位人工智能领域的杰出人物走上虚拟舞台,讨论该领域如何克服这些问题。

加里·马库斯(Gary Marcus),纽约大学名誉教授,Robust.AI公司创始人兼CEO,是一位著名的深度学习批评家。在去年出版的《重启人工智能》(Rebooting AI)一书中,他认为人工智能的缺陷是这种技术固有的。因此,他认为,研究人员必须超越深度学习的范畴,将其与经典人工智能系统结合起来。经典人工智能系统可以编码知识,并具有推理能力。

丹尼·兰格(Danny Lange)是Unity负责人工智能和机器学习的副总裁,他完全属于深度学习阵营。他的职业生涯建立在这项技术的前景和潜力上,曾担任优步(Uber)的机器学习主管、亚马逊(Amazon)的机器学习总经理,以及微软(Microsoft)专注于大规模机器学习的产品主管。在Unity,他现在帮助DeepMind和OpenAI等实验室构建虚拟训练环境,教它们的算法感知世界。

人工智能上存在什么分歧

活动期间,每位演讲者都做了一个简短的陈述,然后坐下来进行小组讨论。他们表达的分歧反映了该领域内的许多冲突,突显出一场持久的理念之战对技术的影响有多么强大,而该技术未来的发展方向又有多么不确定。

为了清楚起见,下面对他们的小组讨论进行了精简和略加编辑。

加里,你利用你在神经科学和心理学方面的专长找出了人工智能目前缺失的东西。你认为是什么原因使得传统的人工智能系统适合与深度学习相结合呢?

加里·马库斯:我要说的第一件事是,我们可能需要比深度学习和传统人工智能更复杂的混合体。我们至少需要它。但可能有一大堆事情我们甚至还没有想到过。我们需要保持开放的心态。

为什么要把经典的人工智能加入其中呢?嗯,我们在世界上根据我们的知识进行各种推理。深度学习并不能代表这一点。在这些系统中,没有办法来表示一个球是什么,一个瓶子是什么,以及这些东西对彼此有什么影响。所以结果看起来很好,但它们通常不是很普遍。

而这便是经典AI所擅长的。例如,它可以将一个句子解析为它的语义表示,或者了解世界上正在发生的事情,然后做出推断。但经典AI也有自己的问题:它通常所能覆盖的范围并不够,因为它有太多的人为定义等。但至少在原则上,这是我们所知道的唯一的方法,来建立一个系统,它可以对抽象的知识进行逻辑推理和归纳推理。这不意味着它是绝对正确的,但它是迄今为止我们拥有的最好的。

还有很多心理学上的证据表明人们可以做某种程度的象征性表征。在我之前的生活中,作为一个认知发展学领域的人,我对7个月大的婴儿做了实验,结果表明这些婴儿可以概括符号知识。如果一个7个月大的婴儿就能做到这一点,那么为什么我们要摒弃我们先天的优势来构建人工智能呢?

你见过成功地将深度学习和经典人工智能结合起来的项目吗?

GM:在我写的一篇名为《人工智能的下一个十年》[1]的文章中,我列出了最近20个不同的项目,这些项目试图将一些有深度学习和一些表征知识的混合模型组合在一起。一个大家都知道的例子是谷歌搜索。当你输入一个搜索查询,有一些经典的人工智能试图消除有歧义的词。它使用谷歌知识图谱试图找出当你谈论“巴黎”时,你是在谈论帕丽斯希尔顿,巴黎,德克萨斯,还是巴黎,法国。然后,它使用深度学习来做一些其他的事情——例如,使用BERT模型[2]来查找同义词。当然,谷歌搜索并不是我们最终希望实现的人工智能,但它是一个非常可靠的证据,证明这不是一个不可能的梦想。

丹尼,你同意我们应该研究这些混合模型吗?

丹尼·兰格:不,我不同意。我对经典人工智能的看法是,它试图在非常深刻的意义上模仿人类的大脑。这让我想起了,你知道,在18世纪,如果你想要更快的交通,你会建造机械马而不是发明内燃机。所以我非常怀疑试图通过模仿人类大脑来解决人工智能的问题。

深度学习不一定是灵丹妙药,但如果你给它提供足够的数据,并且你有正确的神经网络架构,它就能够学习我们人类无法理解的抽象概念,这使系统在解决众多广泛任务时非常有效。

听起来你们俩对人工智能的目标有分歧。

GM:有点讽刺的是,去年12月,我与约舒亚·本吉欧(yobengio)进行了一场辩论。本吉欧说,深度学习必须以神经学为基础。所以我从深度学习中听到了两个相反的极端。这有点奇怪,我认为我们不应该对这些论点太当真。

相反,我们应该说:“经典AI中的符号知识能帮助到我们吗?”答案绝对是肯定的。世界上几乎所有的软件都是建立在符号基础上的。然后你不得不说,“从经验上讲,深度学习的东西能达到我们想要的效果吗?”“到目前为止,问题是它没有模型。Vicarious(一家以人工智能为动力的工业机器人初创公司)展示了一款非常受欢迎的雅达利(Atari)游戏学习系统[3]。但是当Vicarious将球拍移动了几个像素后,整个游戏就崩溃了,因为它的学习水平实在是太浅了。它没有球拍、球、砖头的概念。而符号算法可以很容易地弥补这些缺陷。

研究人类的原因是,人类在某些方面做得比深度学习系统好得多。这并不意味着人类将最终成为正确的模型。我们想要的系统有一些电脑的属性,也有一些从人那里学来的属性。我们不希望因为人的记忆力差所以人工智能系统记忆力也差。但是,由于人是自然界中唯一能够对某件事产生深刻理解的模型——确切地说,是我们所拥有的唯一模型——我们需要认真对待这个模型。

DL:对,世界上的编程语言都是以符号为基础的,这是事实,因为它们是为人类实现自己的想法而设计的。

深度学习不是人脑的复制。也许你可以说它是受到了神经学的启发,但它只是一个软件。我们还没有真正深入到深度学习。到目前为止,我们只有有限的训练数据。我们有有限的结构和有限的计算能力。但关键是深度学习的学习概念,学习特征。这不是人类设计的东西。我认为Gary的方法和我的方法最大的区别是人类工程师是给系统提供智能还是系统自己学习智能。

丹尼,你提到由于数据和计算的局限性,我们还没有真正看到深度学习的潜力。既然深度学习效率如此之低,我们难道不应该开发新技术吗?为了开发新的深度学习能力,我们不得不大幅增加计算能力。

DLs:深度学习的问题之一是,到目前为止,它实际上是基于一种传统的方法:你生成一个大的训练数据集,然后把它输入。一件可以真正提高深度学习的事情是有一个积极的学习过程,在这个过程中,网络被训练来优化训练数据。你不需要输入大量的数据来改善学习过程。可以不断调整训练数据,以针对特定的领域。

加里,你指出了深度学习在面对偏见和对抗性攻击时的弱点。丹尼,你提到了合成数据是解决这个问题的办法,因为“没有偏见”,你可以运行数百万次模拟,以消除对手的弱点。你们对此有何回应?

GM:仅仅依靠数据还不能解决问题。合成数据无法帮助解决贷款中的偏见或工作面试中的偏见等问题。真正的问题是,这些制度有一种倾向,会使那些由于历史原因而存在的偏见永久化。与建立足够复杂的系统来理解我们试图取代的文化偏见相比,人工数据显然不是解决方案。

对抗性攻击是另一回事。数据可能有助于解决其中的一些问题,但到目前为止,我们还没有真正消除许多不同类型的对抗性攻击。之前我的文章中有提到棒球它被描述为浓缩咖啡。如果有人事先想好要在模拟中用意式浓缩咖啡做棒球,然后仔细地给它们贴上标签,那很好。总会有一些没人想到的情况。一个纯粹由数据驱动的系统将继续受到攻击。

DL:不管你做什么,现实世界的数据都是有偏见的。你在特定的环境中收集数据,比如自动驾驶汽车,可能有90%的成年人和10%的儿童在街上。这是正态分布。但是一个机器学习系统需要训练足够多的数据以避免撞上成人或儿童中的任何一个。有了合成数据(模拟数据),如果你小心的话,基本上就能平衡和避免偏差。这并不意味着你不能制造新的偏见。你得小心点。当然,还解决了隐私问题,因为任何训练数据中都没有真实的人或真实的孩子。

至于对抗性的例子,它们的问题是,它们基本上是在弱计算机视觉模型的基础上开发的——这些模型已经训练了1000万或2000万张图像,比如来自ImageNet的图像。这远远不足以概括一个模型。我们需要大量的数据集和大量的领域随机化来概括这些计算机视觉模型,这样它们就不会被愚弄。

你对人工智能的未来最感兴趣的是什么?

GM:去年确实出现了向混合动力汽车发展的趋势。人们正在探索以前没有的新事物,这很令人兴奋。

DL:我认为这是一个多模型系统,是由许多不同的感知和行为模型组成的系统,用来解决真正复杂的任务。

责任编辑:Ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发烧友学院发表于 2019-05-24 00:00 2377次阅读
【5月12】不懂编程没关系,邀请您来学AI

英伟达公司第二季度的收入轻松超过了预期

该公司报告的不计 某些特殊费用的利润,例如股票摊薄后每股1.24美元。该季度收入超过25.8亿美元,....
发表于 2020-04-03 14:48 0次阅读
英伟达公司第二季度的收入轻松超过了预期

ICMEC与AWS一起创建了一个集中式平台

夏皮罗回忆说:“她说要从事这项工作,每天都要这样做,你会放弃自己的一点纯真,以保留他人的纯真。” “....
发表于 2020-04-03 14:46 0次阅读
ICMEC与AWS一起创建了一个集中式平台

人工智能放射科医生是如何兴起的

人工智能应用程序正迅速进入诊所,医生们对这项技术既感到兴奋,又担心自己的工作被机器抢走。
发表于 2020-04-03 14:45 0次阅读
人工智能放射科医生是如何兴起的

Google推出AI平台-构建运行和管理ML项目...

AI平台是您进行此恐怖旅程的地方,它源于一个想法,即如何通过启动安全,可靠的部署在企业中一直使用AI....
发表于 2020-04-03 14:44 0次阅读
Google推出AI平台-构建运行和管理ML项目...

AWS为其三项AI服务发布了新功能

出于合规性原因,许多公司将其文档以加密形式存储在S3中。但是,NLP需要解密的文本数据。S3提供了管....
发表于 2020-04-03 14:41 6次阅读
AWS为其三项AI服务发布了新功能

Google宣布了一项新的beta机器学习服务,...

Gartner和福布斯估计,80%的企业数据是非结构化的,而70%的企业数据是自由格式的文本,例如电....
发表于 2020-04-03 14:39 6次阅读
Google宣布了一项新的beta机器学习服务,...

人工智能能不能加速芯片的发展

纵观该领域的历史,人工智能的发展与芯片设计的发展紧密相连。该算法有望加速芯片设计过程,并产生新一代改....
发表于 2020-04-03 14:38 2次阅读
人工智能能不能加速芯片的发展

人工智能产业如何实现转型

人工智能是比较全面的一个行业,它更多依赖的是核心的计算技术。
发表于 2020-04-03 14:31 3次阅读
人工智能产业如何实现转型

人工智能技术预测有可能成为现实吗

人工智能方法可以同时考虑整个市场,从中选出更多的优质股票,分散投资风险,提供稳定的投资回报,并容纳更....
发表于 2020-04-03 14:23 6次阅读
人工智能技术预测有可能成为现实吗

研发识别警报声等外部噪音的AI系统,提高自动驾驶...

近年来,汽车行业都在帮助汽车“看见”,现代化高级驾驶辅助系统可以扫描车辆限速标记、行人和车道标记。事....
发表于 2020-04-03 14:22 26次阅读
研发识别警报声等外部噪音的AI系统,提高自动驾驶...

神经网络如何助力人工智能算法

深度神经网络(DNNs)是一种利用训练数据学习的机器学习形式,一旦数据接受训练,即可在获取新信息或输....
发表于 2020-04-03 14:18 2次阅读
神经网络如何助力人工智能算法

AI可以如何改变视频监控

处于物联网时代中,随着时间的推移,这类数据还将持续增长,未来会有越来越多的设备和传感器诞生。
发表于 2020-04-03 11:48 76次阅读
AI可以如何改变视频监控

AI如何在工业领域中落地

疫情前期,可谓一工难求,甚至加钱员工都不愿意上工。这也在悄然改变产业方对于工业智能的看法。 在....
发表于 2020-04-03 11:45 5次阅读
AI如何在工业领域中落地

高通第五代AI Engine性能多地有多强

智能手机的“智能”体现在何处?能同时流畅运行多个APP,解决社交、网购、拍照、影音等多方面需求,这相....
发表于 2020-04-03 11:39 9次阅读
高通第五代AI Engine性能多地有多强

视频监控发展得到什么机遇

人工智能(AI),阿尔法狗效应使“人工智能监控”替代了“传统监控”,成为安防领域企业品牌营销的热词(....
发表于 2020-04-03 11:38 29次阅读
视频监控发展得到什么机遇

机器学习的异常检测算法

吴恩达机器学习Coursera-week9
发表于 2020-04-03 11:34 8次阅读
机器学习的异常检测算法

智能监控会冲击防盗窗?

拆除防盗窗,安装运用高清智能视频监控、人脸识别系统等高科技为居民‘看家护院’,兴柴北苑社区走在城市智....
发表于 2020-04-03 11:22 8次阅读
智能监控会冲击防盗窗?

人工智能3D视觉技术在新冠疫情防控中的应用介绍

在抗击疫情期间,非接触式服务的加速升级就是一例。由于新型冠状病毒的传染性极强,所以只能通过强有力的阻....
发表于 2020-04-03 11:20 27次阅读
人工智能3D视觉技术在新冠疫情防控中的应用介绍

如何在工作场所为人工智能创造价值和道德

技术的飞速发展,尤其是人工智能的飞速发展,将有能力改变组织的各个主要方面并提供前所未有的新机遇。
发表于 2020-04-03 11:15 74次阅读
如何在工作场所为人工智能创造价值和道德

Envision将人工智能引入Google Gl...

Google Glass几年前刚问世时可能并没有给人留下最好的印象,但是具有小屏幕,摄像头和扬声器的....
发表于 2020-04-03 11:13 65次阅读
Envision将人工智能引入Google Gl...

使用人工智能实现自动化技术有什么好处

自动化是工作场所中的关键,特别是对于简化流程和提高效率而言。得益于人工智能,实现工作自动化的可能性越....
发表于 2020-04-03 11:10 58次阅读
使用人工智能实现自动化技术有什么好处

为什么说人工智能写作对文学是一种挑战

小冰在某种程度上似乎验证了结构/后结构主义理论:作者不过是一个现代神话,他/她只是一种功能性的存在。....
发表于 2020-04-03 11:02 11次阅读
为什么说人工智能写作对文学是一种挑战

基于人工智能技术的运维平台工业APP介绍

去年,我市新经济企业——四川金蜜信息技术有限公司旗下的制造业智能升级解决方案“金蜜智造”,在四川恒业....
发表于 2020-04-03 11:02 82次阅读
基于人工智能技术的运维平台工业APP介绍

新人工智能技术的大规模商业化应用将会如何影响全球...

新人工智能技术作为新一代信息技术,具有渗透性、替代性、协同性、创造性等技术—经济特征。这些特征使得新....
发表于 2020-04-03 10:56 28次阅读
新人工智能技术的大规模商业化应用将会如何影响全球...

视频监控系统如何借助AI技术来优化

随着我们监控解决方案能力的不断提高,从全球安装在数百万台智能城市,智能交通和其他监控应用的视频所获取....
发表于 2020-04-03 10:48 13次阅读
视频监控系统如何借助AI技术来优化

关于机器人智能抓取AI+Grasp的技术分析

抓取规划问题是指确定物体与手指间的一系列接触位置,使得手指能抵抗任意外力且灵活操作物体的能力。
发表于 2020-04-03 10:36 74次阅读
关于机器人智能抓取AI+Grasp的技术分析

美国联邦航空管理局将进行人工智能空中交通管制试验

中西部航空交通控制服务公司、Serco管理服务公司和Robinson航空公司(RVA)组成的财团共同....
发表于 2020-04-03 10:31 11次阅读
美国联邦航空管理局将进行人工智能空中交通管制试验

谷歌拟使用机器学习技术改善Duo通话服务的音质

外媒报道称,为保障 Duo 通话服务在不稳定连接状态下的音频质量,谷歌推出了一项名叫 WaveNet....
发表于 2020-04-03 10:29 7次阅读
谷歌拟使用机器学习技术改善Duo通话服务的音质

怎样提升视频监控系统的价值

尽管视频监控系统每天都会采集到大量的视频数据,但是只有不到10%的数据可能会利用到,甚至绝大部分数据....
发表于 2020-04-03 10:26 10次阅读
怎样提升视频监控系统的价值

云边融合是如何赋能AI视频监控

数字化背后的基础技术是云计算,随着物联网应用和智慧城市的发展,几乎所有数据都需要连接到云,安防视频监....
发表于 2020-04-03 10:20 11次阅读
云边融合是如何赋能AI视频监控

AI计算机视觉是如何应用在安防监控中的

全球城市道路监控建设都在快速发展,各国街道、十字路口随处可见各种摄影机监控设备,为城市公共安全及治安....
发表于 2020-04-03 10:00 8次阅读
AI计算机视觉是如何应用在安防监控中的

AI监控技术还会让越狱发生吗

运用脸部辨识、地面动作侦测与定位分析等先进AI技术,处理从安装在每个牢房的连网监视摄影机与隐藏式传感....
发表于 2020-04-03 09:54 8次阅读
AI监控技术还会让越狱发生吗

美国正在利用人工智能和超级计算机攻克新冠病毒

C3.ai DTI将专注于人工智能、机器学习、物联网、大数据分析、人为因素、组织行为、伦理和公共政策....
发表于 2020-04-03 09:51 25次阅读
美国正在利用人工智能和超级计算机攻克新冠病毒

搜狗ai录音笔强势来袭,AI黑科技下的全能选手

科技的进步,改变了人们的生活方式,也改变了各个企业的发展方向。许多公司都推出了,以黑科技为主打的智能....
发表于 2020-04-03 09:31 166次阅读
搜狗ai录音笔强势来袭,AI黑科技下的全能选手

商汤科技与LG CNS达成合作 携手推动AI技术...

根据合作协议,商汤科技的AI技术将与LG CNS的访问控制解决方案相结合,双方共同打造“人脸识别访问....
发表于 2020-04-03 09:30 92次阅读
商汤科技与LG CNS达成合作 携手推动AI技术...

AI和Wi-Fi 6将会对家庭Wi-Fi网络带来...

家庭Wi-Fi技术遵循可预测的升级周期,来支持新的无线技术和远程管理功能。但是,升级周期正在加快,因....
发表于 2020-04-03 09:27 23次阅读
AI和Wi-Fi 6将会对家庭Wi-Fi网络带来...

中国联通面向共场所推出了AI疫情防控巡检机器人

为进一步降低一线工作者的健康风险、提升疫情防控效率,中国联通近期开发了AI助防-疫情巡检机器人,面向....
发表于 2020-04-03 09:22 27次阅读
中国联通面向共场所推出了AI疫情防控巡检机器人

如何加快推动5G技术在快递业中的应用

意见提出,到2025年,快递业服务制造业范围持续拓展,深度融入汽车、消费品、电子信息、生物医药等制造....
发表于 2020-04-03 09:18 20次阅读
如何加快推动5G技术在快递业中的应用

互联网公司怎样玩转物联网技术

人工智能再次被推到大众面前,不管是涉及到人类未来生存危机的末日论,还是各个互联网公司对于人工智能的布....
发表于 2020-04-03 09:16 10次阅读
互联网公司怎样玩转物联网技术

东京大学和索尼共同研发出AI系统“Derma” ...

不出声,仅仅通过喉咙和下颚的皮肤震动就能知道你想说什么。这可不是读唇术,更不是在拍特工电影。
发表于 2020-04-03 09:08 9次阅读
东京大学和索尼共同研发出AI系统“Derma” ...

机器学习对于物联网来说意味着什么

机器学习不仅仅是由企业或创新者所使用,它也用于安全目的,目前已有机器学习算法正在应对网络威胁。
发表于 2020-04-03 08:58 26次阅读
机器学习对于物联网来说意味着什么

机器学习的决策树介绍

机器学习——决策树算法分析
发表于 2020-04-02 11:48 23次阅读
机器学习的决策树介绍

我是如何掌握CCD视觉检测系统项目的?

《双ccd+视觉通用框架-LabVIEW视觉必学高阶课程》报名链接:视觉软件工程师目前现状 自动化行业当前最热且高薪的...
发表于 2020-03-27 15:34 400次阅读
我是如何掌握CCD视觉检测系统项目的?

吴恩达机器学习clustering分类算法

吴恩达机器学习Coursera-week8
发表于 2020-03-27 07:34 36次阅读
吴恩达机器学习clustering分类算法

【战疫专题】第五期:智慧物流,疫情之中显担当

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活...
发表于 2020-03-18 11:00 2046次阅读
【战疫专题】第五期:智慧物流,疫情之中显担当

人工智能、数据挖掘、机器学习和深度学习的关系

人工智能、数据挖掘、机器学习和深度学习之间,主要有什么关系?...
发表于 2020-03-16 11:35 91次阅读
人工智能、数据挖掘、机器学习和深度学习的关系

人工智能侦查有哪些应用

【人工智能侦查的应用领域】
发表于 2020-03-16 11:28 76次阅读
人工智能侦查有哪些应用

Spark机器学习协同过滤推荐算法

十三 Spark机器学习ALS设计
发表于 2020-03-12 06:12 61次阅读
Spark机器学习协同过滤推荐算法

吴恩达机器学习实际训练模型过程

吴恩达机器学习Coursera-week6
发表于 2020-03-09 10:55 96次阅读
吴恩达机器学习实际训练模型过程