人工智能距离「自我觉醒」还有多远?

在 2019 年 5 月 20 日由IBM 中国联合主办的「HBRC 年度对话 X IBM 思想之夜」上，来自不同领域的五位大咖就「人工智能是否会改写商业规则」展开了精彩论辩。

其中就人工智能，特别是由 IBM Project Debater 在与人类选手论辩过程中是否存在「动机」的表现引发了持久的思考。

动机，是许多科幻小说与电影中人类与人工智能间矛盾的爆发点。在影片《流浪地球》中，吴京所扮演的航天员刘培强一度认为领航者号空间站的核心人工智能主机「MOSS」叛逃，控制空间站并抛弃地球。

但在决定地球生死关头的时刻，MOSS 被证明并没有叛逃而是在遵循联合政府的决议，刘培强依然坚持并说服了联合政府的官员，拒绝了 MOSS 所给出的建议，并舍身取义协助地球上的救援部队一起点燃了木星从而拯救了人类的命运。

当人工智能有了所谓的「动机」后，通常会作为从初级迈向高级阶段的标志。

而在今天的现实世界中，人工智能是否仍处于我们认知上的初级阶段？

1956 年，以麦卡赛、明斯基、罗切斯特和申农等为代表的科学家共同讨论了「如何用机器模拟人的智能」。

在首次提出人工智能的概念后，其在随后的 60 多年间一直被全球各界通过各种方式扩展着认知程度。而在科技界，早在 1962 年的西雅图世界博览会上，IBM 就已经发明了世界第一套人工语音识别系统「鞋盒子」（ShoeBox），其能识别 16 个单词。

而到了 1997 年，IBM 深蓝（DeepBlue）系统在与国际象棋世界冠军卡斯帕罗夫的第二次对决中扭转了前一年的结果，第一次击败了人类顶尖国际象棋选手；

2011 年，IBM 沃森（Watson）系统则在综艺节目《危险边缘》中击败了该节目最高奖金得主布拉德·鲁特尔和连胜纪录保持者肯·詹宁斯两位顶尖人类选手；

2016 年至 2017 年，谷歌阿尔法围棋（AlphaGo）则先后击败了围棋世界冠军李世石与柯洁。

这些事件表明，在既定规则下，哪怕是围棋这类最为复杂的智力竞赛，人工智能与人类相比已经占据了上风。人类不禁再次认真思考，我们是否能从人工智能身上获得进一步的提升与帮助？

IBM 在 2012 年开始着手进行 Project Debater 的研发工作，其初衷是为了通过中立的辩论帮助人们拓展思路，协助人们做出更好的决策。

与有着固定规则的比赛不同，辩论赛有着广泛的议题，其通常具有很大的开放性与复杂度，并没有相应的规则去区分正确错误与否。这点与现实世界非常相似，现实世界之所以复杂，正是因为大多数问题不是简单的非黑即白。

IBM 认为相比起有着明确规则的游戏与棋类比赛，AI 辩手项目是让人工智能进一步学习认知人类世界的适合方式。

自然语言作为人类区别于其他生命体最重要的特征之一，一直以来都是人工智能领域的突破难题。而如何让人真正意义上与AI进行深入互动，势必要找到人跟机器的沟通方法。

而通过 Project Debater 与人类辩手的数次交锋，Project Debater 证明实现了人工智能领域的三大突破：

数据驱动的演讲稿的撰写和表达：其能够通过一个有争议主题的简短描述，撰写出结构良好的演讲内容，并清晰且有针对性地表达出来，甚至还会适时地展现幽默风趣。

听力理解：能够识别一长段连续人类自然语言中的重要概念和观点。

模拟人类困境：通过独特的知识表达方式来模拟人类争议和困境，使系统能够根据需要提出有原则的论点。

IBM 以色列海法研究院 AI 科学家 Aya Soffer 博士则解读了辩论在算法方面所面临的重大挑战：

人类辩手在长达四分钟的论述中，其语速与情感都存在着不同的变化，同时还带有道德性以及伦理性的陈述，Project Debater 在听力理解过程中要能够提炼其话题主旨。

这与我们通常所熟知的个人语音识别完全不同，其不仅要能实现对关键词的理解，更要理解相关关键词所构成的语意主旨。

在 Project Debater 与人类辩手的第一次交锋中，现场观众普遍认为人类辩手的表达更好，而 Debater 传递的信息量则优于人类。

而在辩论中 Project Debater 有句话则让人为之侧目：

I can't say it makes my blood boil, because I have no blood. But it seems some people naturally suspect technology because it's new.

如果我有血液，它将让我的血液沸腾。有些人似乎对于新技术有着与生俱来的怀疑，只是因为它是新的。

这句话让人不禁联想到当天辩论环节中所提到的「动机」，AI 是否也会在论辩过程中产生情绪波动？用更主动的方式去寻求改变与突破？

而联系到 Aya Soffer 博士对于 Project debater 技术突破的介绍，我们可以确认，这只是 Project Debater 以人类方式思考问题而做出的话术辩论。

人工智能机器目前远没有达到可以自我编程、自主行事的高级阶段。我们需要在其发展过程中，不断为其输送符合人类伦理道德的数据内容；设置相应的规则与监管对于人工智能技术发展非常必要。

论辩引发的思考

我们一直以来都讲求用科技来为科技保驾护航，也就是说我们需要考虑用科技的手段来保证人工智能和其它更高级的技术向善的方向去发展，不会破坏我们道德的美好家园。

我们相信，人工智能在未来将成为人类更快升级自身认知的手段，帮助人们找到更好的社会位置，去为整个社会贡献更多的力量。

IBM 认为，我们需要把人工智能发展到更高的阶段，让人工智能理解更复杂的世界，才能让人工智能帮助我们做更多的事情。

所谓的人工智能更高阶段，既让机器以更接近人类的思维模式去主动理解挖掘和推理，以更多模态的方式去认知我们的世界。

就像以前学飞行器一样，人类的梦想是像鸟一样在天上飞，实际上真正飞机发明出来跟鸟完全不同，应用极大广泛，甚至在此基础上空间技术帮助人类走出了地球，想象空间足够之大。

另外一个纬度是要小心求证，不断用小步快走的方式，不积跬步，何以之千里。

回到人工智能本身，哲学家康德老先生有一句名言：「世界上有两样东西，让我想得越多、越久、越深感敬畏，一是头顶上的璀璨星空，二是我们心中的道德准则。」

这一场关于《人工智能是否会改写商业规则》的辩论并没有分出高下，但是在长达一个多小时的辩论过程中，我们都学习并去试图理解论辩人之间不同的观点。

辩论本身不是源于冲突或是竞争，而是源于更有建设性的讨论。它丰富了决策制定的过程，帮助人们权衡新想法、新理念的利弊。

辩论不只是为了说服他人，也是为了理解和学习彼此的观点，做出更加无偏见的决策。

莱德兄弟早在 1903 年 12 月 27 日所放飞的那架飞机，也不过飞行了 59 秒 260 米，但是今天所有的飞机，哪一架不是它的子孙。

1962 年 IBM 展示的鞋盒子系统在今天看来就如同婴儿玩具，但却开启了自然语言识别这一人工智能大门的缝隙。我们需要对人工智能多一点耐心，让它有更多的时间来了解认知我们的世界。