贾斯汀·卡塞尔：人工智能的未来，我们决定

日前，助推上海全球科创中心建设的品牌活动——2019第四季漕河泾科创嘉年华成功举行。活动中最引人瞩目的演讲者来自卡耐基梅隆大学计算机学院副院长贾斯汀·卡塞尔教授，她对未来的畅想点燃了现场观众的情绪。

在演讲结束后的独家专访中，面对人工智能安全性等一系列问题，被誉为“人工智能女王”的卡塞尔教授以对未来负责的态度，展现了前沿科学家的思考与担当。

还没有找到教会人工智能常识的方法

解放周末：很高兴专访您。为了采访您，我事先在翻译软件的帮助下准备了一份提纲，这就是人工智能技术给我们人类带来的便利之一。而且，就我的使用体验来说，翻译软件的翻译质量一直在提高。伴随着5G的发展，包括自动翻译等在内的人工智能技术是否会迎来重大的突破？

贾斯汀·卡塞尔：如你所说，从翻译软件到城市交通管理、环境污染治理、政府工作效率提升等，人工智能正在方方面面改变着我们的生活。虽然人工智能技术发展之路并非坦途，但幸运的是，我们当前所缺失的恰是5G所能提供给我们的，那就是网速和带宽的大幅提升，这将大大提高业务效率和数据收集。5G为人工智能创造了快速发展的新环境，人工智能技术在很多领域的应用将发生新的变化。

解放周末：会有哪些新变化？

贾斯汀·卡塞尔：比如机器学习，它是当今人工智能领域应用中最重要的工具。就像教孩子一样，我们向机器展示一张猫的图片，告诉它“这是一只猫”，然后再向它展示一张狗的图片，告诉它“这不是一只猫”。上百万遍的重复，机器就习得猫的共性并将其识别出。

学习效果好坏有赖于数据集，当数据集太小或不好的时候，算法就会发生偏差。如果我们没有输入足够多的猫的图片，机器就无法正确识别猫。图像识别相对简单，处理一个自然语言，需要整整5天。量子计算可能会在某一天为机器学习带来更快的速度，但这需要5G这样的高速通信技术作基础。

机器学习能力提高是内在的，对人们来说，可期待、可见的变化是，5G时代，人工智能所能带来的各项前景，包括制造、无人驾驶、教育等，都将比以往任何时候获得更快的发展。未来可能出现这样的生活场景：你在购物网站上刚下单，产品就在离你住处一公里处被3D打印机打印出来，迅速送到你手中；残障人士可以与工程师、艺术家一起设计自己想要的假肢；教育可以更好地满足不同学习能力的学生；越来越多的企业在不同城市或国家拥有员工，通过人工智能中枢来实现远程协作；快到几乎没有延迟的5G速度，有助于整座城市实现无人驾驶——当然，前提是城市所有的交叉路口配有传感器和自适应的交通信号灯，智能基础设施是发展无人驾驶技术的关键。

解放周末：是否可以说人工智能发展的障碍已被扫除？

贾斯汀·卡塞尔：远远没到障碍被扫除的这一天，事实上正相反。人工智能虽然在一些领域比人类聪明很多，比如众所周知的阿尔法狗，但在更多领域，人工智能的智商只相当于两三岁的孩子，我们还没有找到教会人工智能常识的方法。比如此刻，如果我让机器人把那边装着水的玻璃杯拿给我，它不是把水洒了，就是把杯子捏碎了。它非常有力，却不懂得如何温柔地用力。

不存在机器人统治地球的可能

解放周末：有力却不懂得如何温柔用力，这无法不让人联想起人工智能的安全问题。

贾斯汀·卡塞尔：很多人都在说机器人将统治地球，包括一些有影响力的人。但其中有些人可能只是喜欢因此而出现在新闻里；而另外有些人虽然在其他学术领域做出了超凡贡献，但他本人并不是计算机科学家。计算机科学家们不认为存在机器人统治地球的可能。

有个笑话说：如果有一天机器人造反，我们只需等待45分钟，它们的电池就没电了。

解放周末：但如果将来的机器人不装电池，只需通过互联网就能给自己充电了呢？

贾斯汀·卡塞尔：但它们不会知道自己没电、需要充电了。哲学上有一个“缺陷意识”的概念，人无法知道自己不知道什么，机器人不知道自己需要充电，而电池是会没电的。

在我看来，真正聪明的人工智能，不是下棋赢了人类冠军，而是会在各种信息中建立起联系，懂得推理，拥有常识。而目前的研究进展离这一天还非常非常远。

解放周末：无论多远，我们依然需要弄清楚前行的方向，毕竟我们正身处一列高速前行的列车上。

贾斯汀·卡塞尔：我非常同意你的观点，所以我在很多场合，包括今天的演讲中也提到，5G带来发展机遇的同时，安全问题依然隐藏其中。我曾经说过，也会一直坚持说，我不会接受任何我不信任的研发资金，不会开发不与人类合作的人工智能。

解放周末：但您不能保证其他人也不这么做。事实上，包括美国在内，已经有一些国家或机构在悄悄研发战争机器人。

贾斯汀·卡塞尔：（拿起眼前的笔）这是一支笔，我可以用它来书写真理，也可以戳伤你。人们害怕人工智能，是因为它们可以变成杀人的武器。按此逻辑，我们身边几乎所有的东西都应该被拿走，因为它们在坏人手里都可以变成武器。

重要的是教育。我们必须改善我们的教育体系，在孩子们还很小的时候就要教育他们成为善良的人。此外，在大学里，心理学专业教学生要尊重生命，哲学专业也教学生要尊重生命，可是，计算机专业不教。但是现在，我们已经意识到了这点，计算机科学家和计算机专业的学生，都开始学习伦理学，学习尊重生命。这一点非常重要，需要我们时刻铭记在心。

解放周末：您怎么评价这种教育的效果？

贾斯汀·卡塞尔：重要的是持之以恒。我从2001年开始研究人工智能的伦理问题，当时并没有很多人关注，但现在，这已成为全社会一个普遍的观念，这就是教育的结果。我会继续不断地教育我的学生，我的学生也会教育他们的学生。还有我的论文，人们可以从网上读到我的论文。这样的教育工作不是我一个人在做，其他许多计算机科学家都在做。

我们不能因为未来存在往坏的方向发展的可能，就放弃往好的方向创造未来的努力。和那些害怕人工智能的未来、试图阻止其发展的人不同，我会对未来负责。我可以，也要让一个美好的未来发生，这是我作为科学研究者的责任。

对未来负责肯定要难于阻止未来，但我希望大家记住：人工智能的未来掌握在我们手中。我们决定怎么使用它，我们决定未来是光明的还是黑暗的。

如果找错问题，就不可能找对解决方法

解放周末：人工智能带来的问题，还包括失业风险。随着人工智能的发展，人类失去的工作岗位已经不限于一些重复性或危险的劳动。

贾斯汀·卡塞尔：机器人真的会全面取代我们吗？《经济学人》杂志的最新研究表明，一些重复的、不太需要很高技能的、无聊的工作正在消失；同时，一些新的工作岗位正在被创造出来。这些新岗位需要从业者具有人类特性的技巧，也就是与他人协作的能力、社交的能力。需要社交能力的岗位的增幅是最大的，聊天、喝咖啡这些人类特有的行为可以在伙伴间、团队中建立起良好的情感连接。

不要消极看待就业领域的变化。我们并非被迫选择如此，实际上这是主动选择的结果。相比一天工作十多个小时和一天工作三五个、甚至两三个小时，你会怎么选？我们需要做的是，当我们把大部分工作交给机器人后，重新思考人类的定义、生活的意义。

解放周末：您曾在一次采访中提到，让机器人代替人类父母为宝宝换尿布，这样父母可以有更多时间陪伴孩子，但亲手换尿布难道不正是陪伴的一部分吗？

贾斯汀·卡塞尔：不仅是小婴儿，即便我们成年人，也需要身体的接触，当你拥抱着你的爱人时，你是在告诉他（她），你在这里，你爱他（她）。换尿布时父母可以抚摸孩子，孩子可以感受到父母的爱意。但现代社会往往需要父母在孩子还很小的时候就出去工作，当他们和孩子相处时，是把时间花在给孩子换尿布上，还是把孩子抱在怀里轻轻摇他、亲他，或者陪他玩呢？我不了解中国的情况，在美国，生完孩子两周后，母亲就需要回到工作中。

解放周末：未来人类会不会像电影《她》里那样，爱上人工智能？事实上，今天的我们每天花在智能手机上的时间往往多于陪伴家人的时间。

贾斯汀·卡塞尔：我看过这部电影，非常喜欢，但我不认为它如表面上的那样，是在讲述人类和人工智能的爱情故事。恰恰相反，它反映了现代人与人之间的隔阂。我待在中国的时间里，有时会骑车或坐地铁，常常看到车厢里、马路上年轻人低着头看手机，相互之间没有眼神的交流。这非常糟糕。

问题不在人工智能，而在我们的选择。如果找错问题，就不可能找对解决方法。

解放周末：您在人工智能领域最为人知晓的成就是主持研发了有社交意识的机器人助理SARA，您觉得这项研究的意义是什么？

贾斯汀·卡塞尔：SARA是第一个能与人类建立社交关系的机器人。在她之前，人工智能对人类来说是工具，但她是人类的伙伴。

我们一直在通过研究人类的智力行为来发展人工智能，却没有对人类的社会行为进行研究。人类的社会行为非常复杂，包括表情、身体、声音等。我想通过建造类人的方式去理解人类，这会是研究人工智能的一个很好的方向——如果我们先去研究真人，再去发展人工智能，就能更快更好地发展人工智能。

另外，随着人类在电子设备上花费越来越多的时间，科技需要回归到古老但依旧重要的原则：以和人们建立关系的方式管理机器和人的长期交互关系，并让其不断发展。

解放周末：SARA和人类的伙伴关系是如何建立起来的？

贾斯汀·卡塞尔：SARA能自动理解人的感受，推导人际关系纽带，且理解程度能不断巩固和加深。她会根据人的情绪做出相应的反应，用自己的行为对交互关系做出合理、适宜的回应。

解放周末：如果人类隐藏真实的情绪呢？

贾斯汀·卡塞尔：人类其实并不善于说谎。比如笑，我们脸上会出现许多种不同的笑，但只有一种笑意味着我们是快乐的，其他笑容都不是真的。我把这种微笑叫作“独生的微笑”。SARA捕捉的是和她面对面的那个人的情绪，因为两个人的关系是双边的，因而容易确认。

解放周末：这样的社交人工智能会不会减少人们对真实社交生活的需求？

贾斯汀·卡塞尔：我认为恰恰相反，因为人类关注的是真实的人，而社交人工智能可以训练我们的心灵和其他人建立关系，也会提醒我们和其他人的协作多么重要，和世界上其他人互相依赖多么重要。比如社交人工智能可以帮助那些自闭症患者与周围建立联系。

努力改变计算机科学的“男性”形象

解放周末：您知道自己被叫作“人工智能女王”吗？在一个通常被认为由男性主导的领域做“女王”的感觉如何？

贾斯汀·卡塞尔：（笑）我不太清楚人们怎么叫我，但我确实为女性在计算机领域所取得的成就感到自豪。目前，在全世界的计算机学院里，18岁到22岁的学生中有50%是女生。这太神奇了。

情况不是一开始就是这样的。以前，通常父母更倾向于鼓励男孩、而不是鼓励女孩去学习计算机科学。那些10岁以前喜欢计算机、喜欢数学的女孩，长到十一二岁的时候，相比自己的想法，她们变得更在意别人对自己的看法，希望自己讨人喜欢、受人欢迎。这时，如果其他孩子或她们的父母对她们说，计算机科学是为男孩准备的，你为什么要学？她们往往会选择退出。

曾有女孩向我讲述她的困惑。她说，朋友们都说她网球打得好，为什么不好好打网球，而去学计算机？她们不认为她能成为一名计算机科学家。她说：“我喜欢网球队的队友们，也许她们是对的，我应该退出计算机的学习。”我告诉她，你必须把她们的说法从你的脑子里“推”出去，你被接纳在这里学习计算机科学，说明你很擅长，而你在这里学习计算机科学这件事本身，就在改变计算机科学的“男性”形象，如果你退出了，计算机科学的“男性”形象就得不到改变。

解放周末：转变是如何发生的？

贾斯汀·卡塞尔：为改善女性学习计算机科学的环境，我们做了很多工作。比如改变教授计算机科学的方法。以前几乎每所教授计算机科学的大学，本科最初两年都只教方程、算法、数学等，根本不涉及计算机。但我们了解到，很多女性对计算机科学感兴趣是因为对应用程序好奇，通过应用程序看到计算机能让世界变得更美好。于是我们就从应用程序教起，事实证明，这样的教法让计算机科学更有吸引力。

如果计算机领域只有年轻男性参与，那么，创新产品可能只考虑了年轻男性的需求。创新成果要有多样性，需要参与者也是多样的：要有青年人，也要有年纪大的人；要有男人，也要有女人；要有各种肤色、来自各种文化的人。

解放周末：回到30年前，当您还是达特茅斯学院一名学习比较文学的本科生时，女性进入计算机领域的机会更少，您是怎么改变专业的？

贾斯汀·卡塞尔：其实我的兴趣没有变过，我喜欢“讲故事”。我年轻时，以为“讲故事”就是文学，碰巧我又喜欢文学、喜欢阅读，所以就选择了比较文学专业。但是，我不仅想研究名作家，更想了解普通人的故事。但老师说：不行，你要读名著，普通人的故事很无聊，没有价值。我的本科论文写的是著名作家塞缪尔·贝克特的英文文本和法文文本的对比分析。老师说，这很有趣，但这不是比较文学。于是我转而去英国读语言学硕士，研究苏格兰孩子讲故事时的身体语言。英国老师说，这很有趣，但这不是语言学。我和他争论什么是语言学，但最终我回到美国，攻读心理学博士，研究人类行为。

30岁时我成为一名年轻的教授，我发现计算机是我分析语言的非常好用的工具，它可以把人们的语言“切”成一片一片。一年后，校长说，你的精力太分散了，你要选定一个领域，不然工作满7年后就不续聘。这时正好有朋友邀请我去旁听他们的计算机课，我就去了，那一年的学习让我对计算机本身产生了兴趣，因为我找到了一种我喜欢的做事情的方法——建造东西、讲故事、研究声音。后来，我收到了来自美国最好的大学之一的麻省理工学院的邀请，我欣然接受，去“考验”计算机是否就是我的“真爱”。

这是一个很长的故事，直到35岁，我才选择留在计算机领域。但我决定要给这个领域带去一些不同以往的东西，把我在比较文学、语言学、人类行为学等方面学到的知识融入其中。我喜欢改变。

解放周末：走过的路虽然长，但也许正是这种跨学科背景，成就了您在机器语言、人机交互等方面的创新贡献。

贾斯汀·卡塞尔：我想是的，跨学科对创新特别重要。

解放周末：在计算机专家的身份之外，您还是卡耐基梅隆大学计算机学院的副院长，作为一位教育者，您是如何教学生的？因为人工智能领域的知识更新非常迅速，很可能您今天在课堂上教他们的东西，明天就被淘汰了。

贾斯汀·卡塞尔：我尽力教学生一些永远不会过时的东西，而不是教他们编程。我教他们如何理解人类的行为——如何研究它、分析它，以及如何将研究、分析的成果作为人工智能系统的基础而加以应用。这种思考问题的方式，使他们区别于其他一般的计算机软件开发者，他们懂得任何人工智能系统都必须以人为本，为人所用，与人互动。

解放周末：最后，就上海建设全球科创中心，您有什么建议？

贾斯汀·卡塞尔：四条建议。首先是公平竞争，当很多企业试图解决同一个问题的时候，他们会激烈竞争，从而推进创新发展的速度；其次是鼓励合作，一个人需要多元知识结构，一个团队更需要不同学科背景的成员；第三是强化多样性，很多科学研究已经表明，创新者的多样性越丰富，创新成果的多样性就越丰富；最后是保持开放性，硅谷很棒，但硅谷的创新活力正在向其他城市转移，因为硅谷总是认为自己是最聪明的，开始不与硅谷之外的世界交流。上海要保持和世界的连接，上海会更厉害。