机器能否追忆逝水年华？

计算机的思考能力即将追上人类，而且我们很快就会见证这样的未来。日益强大的机器学习算法，让人类备感压力。在接下来的几十年内，机器就会拥有与人类旗鼓相当的智能，它们可以说话和推理，并且会对经济和政治贡献良多，无可避免也会涉及军事战略。人工智能（AI）的诞生将会深刻影响人类的未来，甚至包括人类究竟有没有未来。

以下摘录的文字，就是很好的例子：

“From the time the last great artificial intelligence breakthroughwas reached in the late 1940s, scientists around the world have looked for waysof harnessing this ‘artificial intelligence’ to improve technology beyond whateven the most sophisticated of today’s artificialintelligence programs can achieve.”（「自1940年代晚期人工智能发展的最后一次大突破之后，世界各地的科学家开始寻找方法来操控所谓的『人工智能』，以改善科技来达成目前最先进的人工智能所做不到的事。」）

“Even now, research is ongoing to better understand what the new AIprograms will be able to do, while remaining within the bounds of today’sintelligence. Most AI programs currently programmed have been limited primarilyto making simple decisions or performing simple operations on relatively smallamounts of data.”（「即使是现在，科学研究仍在我们有限的智能范围内，试图进一步理解新型态人工智能的能力。目前大多数人工智能计划只局限在使用相对少量的数据来提出简单的决策或执行简易的动作。」）

上述两段文字是2019年夏天我测试语言机器人GTP-2时，由它撰写出来的。GTP-2由美国圣地亚哥的机构OpenAI所研发，该机构致力推广对社会有益的人工智能。GTP-2采用机器学习去计算一个看似呆板的作业：当它接收到某个随意的起始句子时，必须预测下一个字是什么。GTP-2没有被教导以人类的方式「理解」文字，相反地，它在训练时只是不断改变仿真网络中的内部链接，以预测出下一个最可能出现的字（以及再下一个字等后续文字）。经过来自800万个网页上的文字训练后，GTP-2总共产生了超过10亿个类似突触（连结神经细胞的接触点）的连结。当我输入上述两段文字开头的几句话之后，GTP-2就输出了这些内容，看起来有点像大学部新生试图回想，自己心不在焉修习机器学习基础课程时给出的简述。这些内容的用字遣词都正确，的确相当不错！而且当我再次输入相同的起始语句，GTP-2还会产生不一样的内容。

未来新一代的这类机器人将会产生许多「深度造假」（deep fake）的产品评论和新闻故事，让因特网的信息更加混乱。于是，机器人除了能操控实时战略游戏星海争霸、进行翻译、为个人推荐书和电影，以及在照片和影片中辨识人们的身分，现在又有一项我们原本以为只有人类才有的能力，机器人也具备了。

虽然机器学习仍需更加精进才能写出像普鲁斯特（Marcel Proust）《追忆逝水年华》（In Search of Lost Time）那样细腻连贯的巨作，但一切指日可待。还记得以前的计算机操控电玩、进行翻译和计算机语音都非常笨拙且遭人鄙视，因为它们明显缺乏技巧且功能粗糙。但是深度神经网络（deep neural network）的发明以及科技业大规模的计算基础设施支持，让计算机无止尽快速进步，人类再也笑不出来。在围棋、西洋棋和扑克牌，我们已看到这些算法击败人类，而当下我们原本的讪笑转变成惊愕。我们是否就像歌德（Goethe）笔下的魔法师学徒，已召唤出无法掌控的强大精灵？

人工意识诞生？

虽然专家对于智慧（无论是自然或人工）的定义尚有争论，但是大多数人都认为计算机迟早会具备所谓的通用人工智能（artificial general intelligence，和人类能力相当的人工智能）。关于机器智慧（machine intelligence）的研究让我们对一些问题充满好奇：具有通用人工智能的机器人会不会有任何感受？可程序化的计算机究竟有没有意识？

这里说的「意识」，我指的是任何一个经验中的内在质感，例如巧克力榛果酱的可口味道、蛀牙时的尖锐刺痛、无聊时的缓慢时间感或是竞赛开始前的冲劲与焦躁。根据哲学家纳格尔（Thomas Nagel）的说法，如果某个系统（事物）会有某种感受，那该系统（事物）就有意识。

比方说，当你在社交场合失礼而觉得不好意思时，原本想要讲笑话却变成羞辱对方时，计算机能否经验到这种不安的情绪？当你在电话一端等了好几分钟，然后听到了「抱歉让您久等」的合成语音时，那个产生语音的软件是否真的因为对你服务不周而感到愧疚？

一般认为人类的智慧与经验是大脑自然的运作结果，而不是什么超自然现象。这个假设在过去几世纪来，对人类探索世界并推动科学进展大有帮助。重约1.4公斤、看似豆腐的人类大脑是目前已知宇宙中最复杂的生物组织，尽管如此，人类大脑仍然必须遵循物理定律，就像狗、树和恒星等事物一样，没有任何事物是例外。目前仍不清楚大脑的因果力（causal power）从何而来，但是我们每天都会经验到这些大脑活动：当你看见颜色，大脑皮质中会有一群神经细胞活化，当你感到快乐，另一脑区的神经细胞会激发。当神经外科医生在这些神经细胞植入电极并给予刺激，受试者就会看见颜色或发出笑声。相反地，当大脑因麻醉而关机时，这些经验就会消失。

那么根据这些广为接受的基本假设，真实的人工智能在演化之后，究竟是否会出现人工意识（artificial consciousness）？

思考这个问题之后，我们必然面临一个岔路，分别通向两个在本质上迥异的终点。从《银翼杀手》、「云端情人」和「人造意识」等科幻小说和电影中，我们可以看到这个时代的精神体现：真实的智慧机器将坚决往具有意识的方向迈进，它们能说话、推理、自我监控并内省，也因此它们将有意识。

「全脑工作平台」（global neuronal workspace theory, GNW）是直接表明未来世界将通往此方向的最佳代表理论，也是目前受欢迎的意识科学理论之一。这个理论以大脑为出发点，主张脑中的某些特定结构特征就是产生意识的基础。

此理论可追溯至1970年代计算机科学中的「黑板架构」（blackboard architecture）：有专门的程序会撷取「黑板」或「中央工作平台」（一种共享信息库）中的讯息。心理学家认为，这种讯息处理方式也存在人脑中，而且是人类认知的关键核心，它的容量很小，因此每个时刻只能容纳单一知觉、思想或记忆，新讯息会和旧讯息竞争并取而代之。

法国法兰西公学院认知神经科学家狄昂（Stanislas Dehaene）和分子生物学家尚则（Jean-Pierre Changeux）认为，GNW的神经基础可能就存在于大脑皮质结构中，也就是灰质最外层。大脑皮质是两片被挤压在头颅中受到保护的高度皱褶组织，左右脑各有一片，体积和厚度就和14吋披萨差不多。狄昂和尚则主张，中央工作平台是由一群锥体神经元（pyramidal neuron）所形成的神经网络和远程的皮质区相连而成，特别是前额叶、顶颞叶以及位于中线的扣带联合皮质区。

有许多局部的大脑活动并不经由中央工作平台，因此不会被意识察觉到，例如控制凝视方向的模块（我们几乎不会注意这项活动），或是调控身体姿势的模块。但是当一个或多个脑区中的活动超过了门坎，例如当我们看到一罐巧克力榛果酱的照片时，就会启动神经反应，然后一连串的神经活动会传递至中央工作平台并传遍整个大脑中的相关脑区。这样的讯息处理结果会让许多相关的认知历程（包括语言、计划、报偿回馈、长期记忆提取以及短期记忆缓冲储存）也能撷取其中的信息。这种全脑广播的方式就是讯息进入意识状态的关键。巧克力榛果酱让我们产生独特意识经验的历程，就是讯息先由锥体神经元传向动作计划脑区，接着促使我们去拿汤匙挖取，同时其他的脑区模块则送出讯息让我们开始期待报偿，因为我们即将吃下巧克力榛果酱的高脂肪和高糖份而产生大量的多巴胺。

意识经验就是工作平台算法在处理相关感官输入、动作输出，以及各种与记忆、动机和预期有关的内在变因时产生的。全脑讯息处理就是产生意识的关键。GNW敞开双手拥抱几近无止尽运算能力的当代神话：只需在计算时加入某些巧妙设计，意识就会浮现。

遵循物理定律的内在因果力

另一条路则是「整合讯息理论」（integrated information theory, IIT），透过一种较为基础的方式来解释意识。

美国威斯康辛大学麦迪逊分校的精神科医师兼神经科学家托诺尼（Giulio Tononi）是IIT的主要创建者，我和其他人也有一些贡献。此理论从意识经验出发，进一步探讨突触回路的活动如何决定一个意识经验的「感受」。整合讯息是一种数学计算结果，可用来量化某一机制拥有多少「内在因果力」。例如神经细胞透过动作电位来影响经由突触所连结的下游神经细胞，这就是一种型式的机制；由晶体管、电容、电阻和电线所构成的电子回路也是。

内在因果力并非虚无缥缈的事物，任何一个系统的内在因果力都可被精确计算出来。一个系统当下状态涉及越多因（输入）与果（输出）时，因果力就越高。

IIT主张，任何拥有内在因果力（其状态会受过去影响并可改变未来）的机制都有意识；而一个系统的整合讯息量越大，该系统的意识程度就越高。整合讯息量用希腊字母Φ来表示（念做fi，可以是零或正值），如果某个系统没有内在因果力，其Φ值就是零，就不会有任何感受。

由于大脑皮质中的神经细胞彼此差异大，而且输入和输出的链接高密度重合，因此整合讯息量很大。IIT已经让研究人员产生了「意识测量仪」的想法，并正在临床上加以测试，这个方法将可用来判定植物人、处于最小意识状态的病人、麻醉下的受试者或闭锁（locked-in）症候群的病人是否有意识但只是无法沟通，或只「剩下躯壳」。当我们分析可程序化数字计算机的因果力时，发现其硬件部件（晶体管、电线和二极管等用来计算的物理组件）的内在因果力和Φ值很低。此外，计算机的Φ值与处理器上正在执行的软件无关，不论是在计算税金还是模拟大脑都没有差别。

确实有证据支持IIT：就算两个网络拥有同样的输入和输出，但只要两个网络的结构不同，Φ值就会不同；其中一个网络可能Φ值为零，另一个却可能具有很高的Φ值，虽然表面看来两个网络的反应都一样，但是一个网络有感觉，另一个却像殭尸一样没有任何感觉，差别其实是隐藏在台面下的，也就是存在于网络的内在链接中。简言之，意识和存在（being）的本质有关，而与你做了什么（doing）无关。

这两个理论的差异在于，GNW强调以人脑的功能来解释意识，IIT则认为大脑的内在因果力才是真正的关键。

透过大脑中的神经连结组（connectome），也就是整个神经系统中确切的突触连结方式，我们就可以进一步发现两个理论的预测差异。解剖学家已绘制了一些蠕虫的神经连结组，现正绘制果蝇的神经连结组，未来10年内将挑战小鼠。或许未来将有机会，在一个人死后以极精细的方式扫描其脑中约千亿个神经细胞和千兆个突触，然后利用量子机器等先进计算机进行仿真。如果模拟的真确度够高，我们将看到它醒来，而且行为就像已故之人的数字活动模型：它能说话、提取记忆、有欲望、恐惧以及其他各种特质。

GNW主张，仿真大脑的功能就足以产生意识，若真如此，上述的模拟人类就有意识，等于是在计算机中重新转生。在许多科幻题材中，我们都可以看到这种把神经连结组上传到云端，好让人类能透过数字型式来延续生命。

IIT则对此情境提出了全然不同的诠释：上述数字活动模型的内在感受，其实和花俏日式马桶上的软件程序差不多，两者都不会有任何感受经验。它的行动和人类很像，但不会有任何内在感受，它就是一个殭尸（但不会想吃人）。这是一种极致的深度造假。

若要产生意识，就需要有内在因果力。这些因果力无法模拟，只能存在于物理系统的部件与机制中。

如果想知道为什么模拟仍不足以产生意识，你可以思考一下，为什么仿真暴雨天气的计算机系统中不会下雨？或是为什么天文物理学家可以模拟强大的黑洞重力，却不用担心计算机周围会出现时空扭曲并吞噬一切？答案就在于：模拟并不具有因果力，所以不会产生降雨，也不会造成时空扭曲。不过原则上来说，我们应该可以超越仿真，并根据神经系统的真实结构来建造类神经的硬件以产生意识。

关于上述的模拟争论，两个理论还有一些差异。对于大脑皮质中究竟哪些区域会产生特定意识（例如意识的核心位置应该在皮质前方还是后方），两个理论有不同预测。来自美国、欧洲和中国的六个实验室获得邓普顿世界慈善基金会500万美元的资助，科学家将透过大型合作计划来测试这些不同的理论预测。

机器究竟能否产生意识，将衍生重要的道德议题。如果计算机可以透过自己的感官来经验世界和生命，那它们就不再只是人类眼中的实用工具。它们本身的存在就有意义。

GNW认为，这些仿真机器人将从物体转变成主体，每个主体都将以拥有自我观点的「我」的方式存在。在电视影集「黑镜」和「西方极乐园」中，我们看到了发人省思的两难情境：当计算机的认知能力追上人类时，就会产生强大动机去争取法律和政治权利，包括数据不被删除、记忆不被抹灭，以及不受苦和不受屈辱。相较之下IIT则认为，计算机将只是极度精致的机器，宛如游荡的空壳，永远不会拥有我们最重视的事物：对于生命的感受经验。

审核编辑 ：李倩