0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

贝叶斯网络之父Judea Pearl认为现在人工智能的发展进入的新的瓶颈期

mK5P_AItists 来源:未知 作者:李倩 2018-05-23 11:16 次阅读

2011年图灵奖得主,贝叶斯网络之父JudeaPearl认为现在人工智能的发展进入的新的瓶颈期,各种新的成果不过本质上不过是重复简单的“曲线拟合”工作。Pearl 认为人们应该更关注人工智能中的因果(Cause and Effect)推断,这可能是实现真正智能机器的必由之路。

如今人工智能的强大力量在很多方面要归功于贝叶斯网络之父Judea Pearl。早在二十世纪八十年代,他领导的研究就能使机器能根据概率推理工作。在他的最新著作“《The Book of Why: The New Science of Cause and Effect》”中,他认为:由于人们对智能的真正含义不完全理解,人工智能的发展正受到前所未有的新的阻碍。

三十年前,人工智能研究的主要挑战是将潜在原因与一系列人们所观察到的现象联系起来。 Pearl发现贝叶斯网络可以做到这一点。贝叶斯网络可以让机器很容易的推理出,一个从非洲回来的有发烧和身体酸痛症状的患者可能是得了疟疾。凭借这项工作,在2011年,Pearl赢得了计算机科学的最高荣誉图灵奖。

但是,正如Pearl所预见,人工智能领域陷入了概率关联的困境。如今,头条新闻每天都在不停的报道机器学习神经网络的最新突破,比如计算机可以在一些游戏中战胜人类,也可以驾驶汽车。面对这些看似喜人的成果,Pearl却高兴不起来,他认为今天人工智能领域的技术水平只不过是上一代机器已有功能的增强版,也就是在大量数据中发现隐藏的规律性。最近Pearl指出:“几乎所有的深度学习突破性成果本质上来说都只是些曲线拟合罢了”。

在他的新书中,现年81岁的Pearl详细阐述了智能机器如何真正思考的愿景。他认为,关键在于用因果推理来取代简单推理。机器不仅需要把发热和疟疾联系起来,而且需要能够推断疟疾为什么能引起发烧。一旦有了因果推理能力,机器就有可能查询某种干预而引起的因果关系如何改变 — Pearl将其视为科学思想的基石。 Pearl还提出了一种形式化的语言,这种语言使得以“全新的贝叶斯框架驱动机器能够以概率的方式思考”成为可能。

Pearl期望因果推理可以为机器提供人类智能。他解释说,他们可以更有效地与人类沟通,甚至可以实现具有自由意志和邪恶能力的道德实体的地位。Quanta杂志采访了他。这些对话的编辑和精简版本如下。

为什么你的新书叫做“The Book of Why”?

它是对过去25年来我一直在做的关于因果关系,它在一个人生活中的含义,它的应用以及我们如何提出对固有因果问题的答案的工作的总结。奇怪的是,这些问题已经被科学抛弃了。所以我在这里弥补了对科学的忽视。

这是一个戏剧性的事情,科学已经放弃了因果关系。这不正是科学的全部内容吗?

当然,但是在科学方程式中你看不到这种高尚的愿望。代数是对称的:如果X告诉我们有关Y的信息,那么Y就会告诉我们有关X的信息。但是,没有办法用数学写出一个简单的事实 - 例如,即将到来的暴风雨导致晴雨表下降,但反过来,晴雨表下降并不会导致暴风雨。

数学还没有开发出非对称语言来捕捉我们的理解,即如果X引起Y并不意味着Y引起X。

但是科学更宽容:在我们缺乏对不对称关系的的描述语言时,科学鼓励我们创造一个。这就是用上数学的地方。对于我来说,看到简单的因果演算解决了被认为是不明确或无法解决的问题,兴奋不已。

几十年前,你通过让机器用概率方法推理在AI界成名。解释当时人工智能发生了什么事。

20世纪80年代初出现的问题具有预测性或诊断性。医生会从患者身上看到一系列症状,并提出患者患有疟疾或其他疾病的可能性。我们希望自动系统和专家系统能够替代专业人员 - 无论是医生还是矿物探险家,还是其他类型的付费专家。所以在那时我提出用概率实现这个想法。

不幸的是,标准概率计算需要指数空间和时间。我想出了一个称为贝叶斯网络的方案,它只需多项式时间,并且非常透明。

然而,在你的新书中,你将自己描述为今天在AI社区中背道而驰。为什么?

只要我们的机器能够以不确定的方式推理,我就会去追求更具挑战性的任务:推理和因果关系。我的许多AI同事在不确定性做工作。有些研究圈子继续在诊断方面做工作,而忽略因果因素。他们想要的只是预测好,诊断良好。

我可以给你一个例子。我们今天看到的所有机器学习工作都是在诊断模式下进行的 - 比如说将对象标记为“猫”或“老虎”。他们不关心干预;他们只是想识别一个对象并预测它将如何及时发展。

当我开发出用于预测和诊断的强大工具时,已经知道这只是人类智慧的小小一角。如果我们想要机器推理干预(“如果我们禁止香烟怎么办?”)和内省(“如果我读完了高中怎么办?”),我们必须引用因果模型。关联关系是不够的 - 这是一个数学事实,而不是意见。

人们都对人工智能未来巨大的潜力异常兴奋,你有什么看法呢?

当我深入研究深度学习所做的事情时,我发现他们都被困在了简单连接的层次上。曲线拟合(Curve fitting)这个词听起来像是一种不和谐,也就是说,深度学习取得的所有巨大成就再某种程度上都不过是对数据的曲线拟合而已。从数学层次的角度来看,不管你如何巧妙地操作数据,以及你在操作数据时读取的内容,它仍然是一个曲线拟合的训练过程,尽管它看起来比较复杂。

你谈论曲线拟合的方式,听起来好像你对现在的机器学习并不太满意啊

不,我对机器学习非常满意,因为没想到这么多的问题可以用纯曲线拟合的方式就能解决。但我想问的是未来——下一步呢?你能让一个机器人科学家来规划一个实验,就能为悬而未决的科学问题找到新的答案吗?我们还希望与一个有意义的机器进行一些沟通,有意义表示能够匹配我们的直觉。如果你剥夺了机器人对因果等的直觉,你就永远无法有意义地进行交流。机器人不能说“我本应该做得更好”。因此,我们失去了一个重要的沟通渠道。

拥有和我们一样有因果判断直觉机器的前景是什么?

我们必须使机器具备环境模型。如果机器不具备现实模型,那么你不能指望它在现实环境中有智能行为。首先,人类编程的现实概念模型可能在 10 年内出现。

下一步是机器将假设此类模型属于它们自己,并基于实验验证和修改模型。这就是科学中一直发生的事情:例如人类最初认同地心说,后来发现了日心说。

机器人也是一样,它们将彼此沟通,将这个假设的世界转换成隐喻模型(metaphorical model)。

您是何时与当前研究 AI 的人们分享这些观点的?他们有什么反应?

AI 目前是分裂的。首先,一部分人陶醉于机器学习、深度学习和神经网络的成功之中。他们不理解我的观点,只想继续进行曲线拟合。但是和在统计学习范畴以外研究 AI 的人们谈论这些时,他们立刻可以理解。我读了一些近两个月关于机器学习局限性的论文。

您是说出现了一种抛弃机器学习的趋势吗?

不是趋势,而是一个严肃的内省过程,涉及这些问题:我们去向何处?下一步是什么?

这是我最不想问您的问题

我很高兴你没有问我关于自由意志的问题。

那么您怎么认为自由意志呢?

我们将开发出具备自由意志的机器人,绝对会。我们必须理解如何编程机器人,以及我们能从中得到什么。由于某种原因,就进化方面而言这种自由意志在计算层面也将是需要的。

以何种方式?

你具备自由意志,进化已经赋予我们这种感觉。很显然,它提供了一些计算功能。

机器人具备自由意志时会有明显的迹象吗?

我认为第一个迹象将是机器人开始反事实地彼此沟通,如「你应该做得更好」。如果一组踢足球的机器人开始用这种语言沟通,那么我们将知道它们具备了自由意志。「你应该传球给我,我刚才一直在等,但你没有把球传给我!」「你应该……」(You should have)意味着你本应该做什么,但是没做。因此第一个征兆是沟通,第二个是踢出更好的足球。

既然您提到了自由意志,我想我应该问您关于作恶能力的问题。我们通常认为作恶的能力是选择的能力。什么是恶呢?

人们认为恶是贪婪或不满取代了社会的所有规范。例如,某人具备一个类似会说「你饿了,因此你可以做一些事来满足自己的贪欲或发泄自己的不满。」的软件模块。但是你具备其他软件模块,可以指导自己遵循社会规范。其中一个叫做同理心(compassion)。当你抬高自己的贪欲,超过了社会通用规范,那么这就是邪恶。

那么我们如何知道 AI 何时掌握作恶能力?

当机器人一直忽略一些软件模块时,这对我们来说就是一个明显的迹象。还有当机器人遵循一部分软件模块的建议而不听另外模块的建议时,当机器人忽略那些维持行为规范的模块的建议时,当机器人停止遵循这些模块时。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1773

    文章

    43373

    浏览量

    230136
  • 贝叶斯网络
    +关注

    关注

    0

    文章

    24

    浏览量

    8251
  • 智能机器
    +关注

    关注

    0

    文章

    95

    浏览量

    20181

原文标题:贝叶斯网络之父Judea Pearl:要建立真正的人工智能,少不了因果推理

文章出处:【微信号:AItists,微信公众号:人工智能学家】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    嵌入式人工智能的就业方向有哪些?

    于工业、农业、医疗、城市建设、金融、航天军工等多个领域。在新时代发展背景下,嵌入式人工智能已是大势所趋,成为当前最热门的AI商业化途径之一。
    发表于 02-26 10:17

    ai人工智能机器人

    随着时间的推移,人工智能发展越来越成熟,智能时代也离人们越来越近,近几年人工智能越来越火爆,人工智能的应用已经开始渗透到各行各业,与生活交
    发表于 09-21 11:09

    《通用人工智能:初心与未来》-试读报告

    作者给出的结论。整体读下来,可以给我们关于通用人工智能全面的了解。作者也反复强调了通用人工智能与专用智能的区别。尤其是人们错误的认为一堆专用智能
    发表于 09-18 10:02

    如何将人工智能应用到效能评估系统软件中去解决

      如何将人工智能应用到效能评估系统软件中去解决   华盛恒辉效能评估系统是一种非常实用的管理工具,它可以帮助组织和企业掌握其运营状况,优化业务流程,提高效率和生产力。然而,随着人工智能的迅猛发展
    发表于 08-30 12:58

    人工智能之父是谁

    人工智能之父是谁 人工智能(AI)一词最早出现在1956年的一个会议上,但是人工智能发展历史可
    的头像 发表于 08-12 16:58 4951次阅读

    公式基础#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月19日 12:08:53

    公式(1)#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月19日 11:05:16

    网络简介(3)#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月18日 23:32:06

    网络简介(2)#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月18日 23:31:45

    网络简介(1)#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月18日 23:31:23

    网络的基本语义(2)#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月18日 23:29:40

    网络的基本语义(1)#人工智能

    人工智能
    未来加油dz
    发布于 :2023年07月18日 23:29:19

    AI 人工智能的未来在哪?

    人工智能、AI智能大模型已经孵化;繁衍过程将突飞猛进,ChatGPT已经上线。 世界首富马斯克认为AI对人类是一种威胁;谷歌前CEO施密特认为AI和机器学习对人类有很大益处。 每个国家
    发表于 06-27 10:48

    【书籍评测活动NO.16】 通用人工智能:初心与未来

    新的担忧,有些人认为人工智能将很快取代人类,人类的发展在不远的将来会面临极大挑战(机器人世界末日将会到来)。 《通用人工智能:初心与未来》 主要内容本书尝试给人们一个新的视角,即尽管
    发表于 06-21 14:41

    机器学习和人工智能有什么区别?

    人工智能程序。他们需要编程才能发挥作用。事实上,他们似乎不可避免地会从简单的 AI 程序开始,随着他们的理解和学习能力的发展,这些程序会创建新代码。 
    发表于 04-12 08:21