0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人类如何通过人工智能“赋能”,而不是被其“操纵”

DPVg_AI_era 来源:未知 作者:李倩 2018-10-08 10:29 次阅读

在新智元AI World 2018世界人工智能峰会上,MIT物理系终身教授、未来生命研究所创始人、《生命3.0》的作者Max Tegmark作了《人类如何通过人工智能“赋能”,而不是被其“操纵”》的研究,Tegmark认为,我们应该认真思考未来,思考如何引领技术发展的方向,让AI会增强人类,而非操纵人类。

9月20日,在新智元AI World 2018世界人工智能峰会上,MIT物理系终身教授、未来生命研究所创始人、《生命3.0》的作者Max Tegmark分享了他对“更远的未来”的想法。

Tegmark在他的畅销书《生命3.0》中设想了一个具有发展阶段的生命历程。生命1.0就是最原始的生命形式,如细胞,生命只是在不停复制。

到了生命2.0阶段,这是人类所在的地方:人类能够学习,适应不断变化的环境,并能有意地改变这些环境。但我们还不能改变我们的身体自身,不能改变我们的生物遗传。Tegmark 将这种对比比喻成软件和硬件之间的对比。

第三个阶段,即生命 3.0 阶段。在这个阶段,我们把人工智能用于所有任务,也就是所谓的AGI(通用人工智能)。人类不仅可以重新设计自身的软件,还可以重新设计自身的硬件。

Tegmark说,我们现在技术发展和AI发展的现状非常复杂,但是有一点可以确定,就是大多数的研究员在某种程度上已经能够建立AGI,AI在很多任务上已经能做得比人类更好。当然,这也是非常有争议的部分,可能会带来技术的爆炸。

Tegmark表示,如果考虑未来可能面临的挑战,这会是人类历史上犯下的一个巨大的错误。但是因为技术是如此的有力,我们在实现技术能力的道路上会犯下很多错误。我们应该如何引导技术的发展,为人类创造一个非常美好的未来,这是美国、中国以及所有国家都应该思考的问题。

以下是Max Tegmark在新智元AI World 2018世界人工智能峰会上的演讲实录,他的演讲主题是《人类如何通过人工智能“赋能”,而不是被其“操纵”》。

从生命1.0到生命3.0

Max Tegmark:非常高兴能够来到这里,前面几位嘉宾已经谈了很多最近AI的惊人发展,以及在不久的未来我们期望看到的AI的进一步发展。接下来我就和大家谈一谈更远的未来。

首先让我们回顾一下AI在宇宙透视图当中的位置,宇宙是从哪里来的呢?我们是怎么成为现在的自己呢?怎样从一个非常小的行星,形成了一个巨大的宇宙?我们用望远镜也可以看到,整个宇宙是非常巨大的,尽管是地球给了我们生命,但宇宙似乎仍旧不被我们所理解,宇宙实际上让我们敬畏。

我们正在研发的技术能够帮助我们去了解生命,不仅仅是几个世纪以前,甚至是几十亿年以前的生命。

我把最早的生命称作生命1.0(Life 1.0),因为它是最原始的生命形式,例如细胞,这一阶段的生命无法学习。

我把人类生命称作生命2.0(Life 2.0),我们已经可以学习了,而且可以 在我们的大脑中安装新的软件,比如语言、工作技能。所有这些使人类成为成为世界上最强大的物种。

在生命3.0(Life 3.0),我们不仅能够开发软件,而且能够开发硬件。当然,Life 3.0现在还不存在。不过或许技术已经发展到Life 2.1的阶段,创造出人工义肢、心脏起搏器等等增强我们身体的硬件。

那么,让我们看一下我们与技术的关系。

AI将在所有任务达到人类水平

我们的世界是非常神奇的,我们知道如何明智地使用技术去实现我们的梦想。例如发射火箭,我们知道如何给火箭的方向定位,如何达到那个目标,所以我们就需要动力、方向和目标。

但还有一段更鼓舞人心的旅程,它的动力比火箭的发动机更强大,它的乘客不仅是宇航员,而是整个人类。

我们要谈论的是人类整体去往AI的未来的旅程。对于发射火箭来说,光有动力还不行,我们要知道它的方向和目标。对于AI也是如此,接下来我们将谈论AI的动力、方向和目标。

什么是智能?智能就是去完成复杂目标的能力,目标越复杂我们就需要越多的智能。智能分为两种:生物智能和人工智能。

智能就是关于所有信息处理的能力,不管是用大脑细胞的碳原子来处理,还是用GPU的硅原子还处理,或者其它我们创造出来的技术。

AI的发展如此迅速,让人振奋。不久前我们还没造出会走路的机器人,现在机器人已经会做后空翻了;不久前我们还没有做出无人驾驶汽车,现在已经有自主的火箭了,它能够自己着陆。不久前还不能用AI进行人脸识别,现在AI不久能很好地实现人脸识别,还能模拟和创造假的人脸。

不久前AI还不能在围棋中胜过人类,但现在,正如你们知道的,AlphaGo已经打败了世界上最厉害的围棋手,那还是使用很多人类经验、经过很长时间训练的。后来的AlphaZero甚至完全不使用人类经验,仅仅自我训练了24小时,最终诞生出世界上最好的围棋AI。

所有的这些进步实际上会带来一些商业化的应用,比如关于医疗,利用AI去诊断前列腺癌、肺癌和眼部疾病方面,甚至做外科手术,AI可以帮助我们实现目的。

我们说了很多AI方面取得的进展,这就提出一个基本的问题:AI能够帮助我们做什么?AI会给中国带来哪些好处?当然,肯定是能够让中国的商业更加发达,也帮助中国的企业更加富有,比如如何通过AI改善教育、养老、医疗保健等等,可以让我们过得更加幸福。

但在更远的未来呢?这些技术能够持续到多远的未来?未来会发生什么?

对于“人工智能取代人类”的担忧,从来都不是没有来由的。我现在用人类能力地形图来说明这个问题。

图中的海拔高度代表了AI在执行这些任务时达到人类水平的难度,海平面则表示了当下AI所能达到的水平。海平面会随着AI的进步上升,所以在这张地形图上,会发现类似“全球变暖”的变化。我们显然要避免那些近海区的工作,这些工作迟早会被人工智能取代。

那么一个问题是:AI最终将上升到多高的地方?海面最终会将所有的陆地覆盖吗?像下面这张图这样,AI在几乎所有任务中都达到了人类水平?

这就是通用人工智能(AGI)的定义。可能有人会说:“还有很多事情是人类做得比机器好的!我们永远不会到达AGI!”

如果你认为AGI只是科幻故事,还有一种更疯狂的观点我们需要谈一下,就是超级智能(super intelligence)。因为如果我们成功制造了AGI,那么从定义上来说,AI在所有工作上都比人类做得更好,包括在AI设计的工作上。

当然,这也是一个非常有争议的部分,可能会带来技术的爆炸,因为我们一直去让AI提升,最终可能AI会比人类做得好很多。

AI领域专家对此有不同的观点。例如Rodney Brooks,他认为再过几个世纪也不会出现AGI。但Demis Hassabis的观点就更积极,认为AGI会实现,而且要更努力研究使其实现。

此外,最近的一项调查显示,大部分AI研究人员和Demis Hassabis的观点是一致的,认为AGI能实现,可能是在50年后。

虽然没有确定的答案,但思考这个问题是很重要的。如果机器能够做任何事情,那还要人干什么?这对人类意味着什么?所以我们面临着一种选择:要么就是非常满足于此,我们构建这些机器让它们来代替人类做所有事情,不用考虑后果如何。

但我认为我们应该更有野心一些。在令人鼓舞的高科技未来面前,我们应该试着掌舵它的方向。

掌舵AI发展的方向:一个全球性挑战

现在让我们来到火箭发射的“Steering”(方向)部分。我们已经让技术越来越强大,你们该如何引导技术,让技术帮助人类进步?

我和其他科学家一起成立了未来生命研究所。我们的目标很简单,就是让未来的生活更加激励人心、鼓舞人心。

我喜欢技术,我认为今天的世界比明朝的时候好,正是因为我们拥有技术。我很乐观地相信我们将建成一个非常高科技的未来,只要我们最终赢得这场竞赛。什么竞赛呢?就是越来越强大的科技和人类掌控这些技术的越来越强大的智慧之间的竞赛。

要赢得这场竞赛,人类需要改变策略。过去我们一直是从错误中学习。比如刚开始我们发明了火,经历了无数火灾之后,我们发明了灭火器。我们发明了汽车,出了几次车祸事故之后,我们又发明了红绿灯、安全气囊、安全带等等,以及一系列交通法规。

从错误中学习是好的,这让科技朝着造福人类社会的方向发展。

但随着技术变得越来越强大,最终会达到一个点,这是你不能再从错误中学习了。比如核武器,没有人会希望俄罗斯和美国爆发一场核战争,然后说让我们从这场错误中学习,以后要更加小心,云云。更好是主动前瞻,在一开始就做正确的事情。

在开发更强大的AI时,我们也应该有这种前瞻意识。这看起来是理所当然的想法,但有趣的是,有时候会有人跟我说:“马克,你不要说那样的话了,你那是在散布恐慌。”

这不是制造恐慌,在MIT,我们把这叫做“安全工程”(safety engineering)。

比如,在美国航天局部署阿波罗11号任务之前,在中国发射自己载人卫星之前,他们都会仔细地设 想所有可能出错的状况,毕竟是要把人类放进易燃易爆的太空舱里,再将他们发射上一个无人能助的境遇。这是在制造恐慌吗?不,那正是在做安全工程,以确保任务顺利进行,这正是处理通用人工智能或其他强有力的科技时应该采取的策略。

人工智能的方向其实是一个全球性的挑战,就像气候变化一样,这些问题让单个国家解决可能是非常难。我认为中国实际上以一个非常独特的地位在引领AI的发展,不仅是让AI更加强大,也让AI带来好处。为什么这样说呢?因为中国是全球AI技术的引领者,中国在这个领域的研究不仅关注让AI更加强大,而且保证AI是安全和有益于人类的。

此外,我认为中国的文化也有利于AI。因为中国是人类最古老的文明,有着非常强大的长期思考和长 期规划的能力。我是西方人,大多数西方国家的人在别人谈论到长远计划或者未来的事情都会大笑,认为要真正到了那个时候才应该计划下一步的事情。但我们是要去考虑未来的,我们需要有中国人的智慧,把很多事情放到全球的议事日程上来,知道未来我们发展的方向。

我们组织了阿西洛马人工智能原则会议。

其中的一个原则就是我们应该避免致命自主武器的出现和军备竞赛,应该帮助人类而不是危害人类,比如开发新的药品和材料,而不是去伤害人们。我们也应该保证AI能够给我们带来新的解决方案,而不是给人类带来灾难。

我们在西方做了一次调查,问他们要什么样的未来。很多人的回答是希望实现超级智能,但有些人会有些担心,有的人有一点保留。有的人担心最终机器会控制这个世界。

我认为“AI最终会变得邪恶”、“AI会拥有意识”,这些是不必要的担心,实际应该担心的是日益强大的AI与我们的目标不一致。我想说的最后一个原则就是,如果我们要构建超级智能,它只能是为了全人类的好处而构建,而不是为了某个国家、某个公司或某个组织的益处。

AI增强人类,而非操纵人类

那么我们的目标是什么?我们究竟要走向何方?

总的来说,我们与技术和未来AI的关系是非常复杂的,但大方向上很简单,就是大部分研究人员希望在某种程度上已经建立AGI,或者在50年后能够实现AGI。如果考虑未来可能面临的挑战,这会是人类历史上犯下的一个巨大的错误,但让我们面对它。因为AI技术是如此的强大,我们在实现它的道路上肯定会犯下很多错误。

另一方面,如果我们好好思考我们想要达到的目标是什么,找到如何引导技术方向的方法,我们就将创造出一个非常美好的未来。

这就是我们面临的选择。我们可以满足于现状,也可以更有雄心一些,思考如何引领技术发展的方向,思考我们要去往怎样的未来,创造一个真正让人兴奋的未来。我认为未来我们不是被AI控制,而是AI会增强我们。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26129

    浏览量

    263709
  • 人工智能
    +关注

    关注

    1773

    文章

    43356

    浏览量

    230123

原文标题:《生命3.0》作者泰格马克:人类和AI,谁是终极操纵者?

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    人工智能是什么?

    ` 人工智能是什么?什么是人工智能人工智能是未来发展的必然趋势吗?以后人工智能技术真的达到电影里机器人的
    发表于 09-16 15:40

    在这五件事情上 人工智能人类更出色

    导读:虽然人工智能已经征服了很多人类凭借自身智力所筑起的“高城”,但由于缺乏人类的普遍推理能力,因此依然有着自身的局限性。 在很多方面我们已经看到了这样的变化,即便是在一些和我们
    发表于 01-15 12:09

    人工智能的前世今生 引爆人工智能大时代

    成为占支配地位的方法。”“人工智能”VS“智能增强”但是,人工智能的簇拥者们并不认同这种观点。在他们看来,智能增强只是技术发展的中期阶段,只有在人类
    发表于 03-03 11:05

    人工智能--失业将是人类面临的最大挑战

    ?是不是像科幻小说中那样,机器人会有意识,它能够保护自己,因此就会伤害人类。李开复觉得这只是一个假设,可能发生,也可能不发生。我们今天还没有足够的科学理论来做一个客观的、确定的判断。  在他看来,今天的人工智能
    发表于 06-27 11:06

    人工智能:革命还是伤害?

    人工智能人类来说是革命还是伤害呢?会给人类带来很大的便利,但有一部分人却担心过于智能会威胁到人类
    发表于 10-10 14:21

    人工智能发展的好与坏

    它拥有了人类的智慧甚至超过人类,那么这个世界将会面临危险。这个画面也曾在不少影视剧中出现,人工智能机器人在慢慢地拥有自己的主导意识和情感之后,开始反抗人类,以至于带来的后果
    发表于 06-24 14:47

    人类人工智能机器人合作的前景

    `  人类工作者如果把人工智能机器人当做合作伙伴,将能获得很大福利。人类不用过于担心人工智能会“砸”了我们的“饭碗”。因为在人与机器的竞争中,人是有智慧的,
    发表于 04-16 17:42

    机器超越真正的人类吗?人工智能未来发展如何?

    无关紧要   您觉得AI这个概念是否滥用了?   Michael Jordan:很多不同的东西都在用AI这个概念,经典的定义是认为,人工智能是尝试让计算机成为像我们这样的人类。我们还没有实现这个目标
    发表于 10-03 09:26

    解读人工智能的未来

    交通路线等等。目前让人们感到恐慌的实际上是另一种人工智能,它叫做AGI或人工通用智能,它是一种像人类一样聪明灵活的
    发表于 11-14 10:43

    初学AI人工智能需要哪些技术?这几本书为你解答

    带来的科技产品,将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。人工智能不是人的智能,但能像人那样思考、也可能超过人
    发表于 01-21 14:26

    人工智能医生未来或上线,人工智能医疗市场规模持续增长

    上岗?   “读图”识别影像,还能“认字”读懂病历,甚至像医生一样“思考”,出具诊断报告,给出治疗建议……这不是科幻,人工智能医疗正从前沿技术转变为现实应用,“人工智能医生”离患者
    发表于 02-24 09:29

    人工智能:超越炒作

    信息处理的各个方面。换句话说:人工智能希望重新设计人脑的结构和功能,使机器能够以人类的方式解决问题 - 更好。与科学努力相比,今天的行业对人工智能的方法更加务实。当前的AI开发不是试图
    发表于 05-29 10:46

    人工智能能否取代人类

    不断刷新的媒体头条,好像AI取代人类是完全可能而且理所应当的事情。手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+开发板)详情链接:http://url.elecfans.com/u/c422a4bd15
    发表于 09-11 11:52

    什么是人工智能、机器学习、深度学习和自然语言处理?

    ,如学习、推理和解决问题。从计算机理论的角度来看,人工智能的目的是让计算机自己决定程序,不是按照用户自定义的程序运行。在这里,自我设计的程序可以通过人类独特的智力和识别能力做任何事情
    发表于 03-22 11:19

    《通用人工智能:初心与未来》-试读报告

    取代人类了吗? 很多人都担心这个问题,其实这个就是有点杞人忧天了。人工智能是服务人类不是取代人类
    发表于 09-18 10:02