霍金临终担忧：人工智能或与人类相冲突的意志

英国已故科学家斯蒂芬·霍金的遗作《对大问题的简明回答》于10月16日发售。在书中，霍金暗示，不久的未来，富人可以选择编辑他们自己和孩子的DNA，让自己和孩子变成拥有更强记忆力、抗病力、智力和更长寿命的“超人”。

霍金遗著封面

富人将有能力选择变成“超级物种”

霍金写道：“我敢肯定，本世纪之内，人们将找到修改智力和天资的办法，比如攻击性。”“可能会制定禁止人类基因工程的法律。但是，有人肯定抵制不了改进人类特征的诱惑，比如记忆力、疾病抵抗力和寿命。”

他还表示，这将对未修改基因的人造成严重后果，导致他们没有竞争力。这位教授甚至警告说这可能导致人类走向灭绝。“他们可能会绝种，或沦为可有可无。”霍金谈到了普通人。未来1000年的某个时刻，核战争或环境灾难将“严重破坏地球”。可是，到那时，“我们的天才种族将已经发现了摆脱地球粗暴束缚的办法，因此能够战胜灾难”。

不过，地球上的其他物种可能做不到。

书中还提到，成功逃离地球的人很可能是新的“超人”，他们利用诸如“规律成簇间隔短回文重复系统（CRISPR）”这样的基因编辑技术超过其他人。霍金说，他们会不顾禁止基因工程的法律约束，提高自己的记忆力、疾病抵抗力和预期寿命。

“已经没有时间留给达尔文的进化论来提高我们的智力、改善我们的天性了。”

这位《时间简史》作者还提到了相关基因编辑方法，比如“规律成簇间隔短回文重复系统（CRISPR）”，科学家可以借此修复有害基因并加入其他基因。报道称，尽管这类方法可能促进医学发展，但是一些批评者担心它也可能导致优生学式的运动，弱势者将被社会淘汰。

人工智能：别让人类陷入“蚂蚁窘境”

报道称，霍金对规范管理人工智能的重要性提出了严重警告，指出“未来人工智能可能形成自己的意志，与我们人类相冲突的意志”。

他在书中写道，应当制止可能出现的自动武器军备竞赛，提出如果发生类似于2010年股市闪电崩盘那样的武器崩盘，其后果将会如何的疑问。他接着写道：“总之，对人类来说，超级智慧的人工智能的出现不是福就是祸，二者必居其一。人工智能的真正危险并非在于恶意，而在于能力。超级智慧的人工智能将极其擅长实现目标。如果这些目标与我们不一致，那我们就麻烦了。你可能不是出于恶意而踩死蚂蚁的那种邪恶的仇恨蚂蚁的人，但是如果你负责一项水力环保能源项目，而洪水淹没地区有一个蚁丘，那么蚂蚁就惨了。别让人类陷入蚂蚁的境况。”

地球面临的最大威胁

未来，地球面临的头号威胁就是小行星碰撞，类似那种导致恐龙灭绝的碰撞。霍金写道：“我们（对此）无法防御。”

更直接的威胁是气候变化。“海洋温度上升将融化掉冰冠，释放出大量二氧化碳。双重效应可能导致我们的气候类似于金星，气温达到250摄氏度。”

这些年来，霍金做过的预言

除了以上几点，霍金在世时还做过这些预言，值得深思。

“外星人”在看着你

在2015年伦敦皇家科学学会寻找外星生命迹象的启动仪式上，霍金就说过：“在无限的茫茫宇宙中，一定存在着其它形式的生命。”

他说：“或许外星生命会正盯着我们看呢。”“不管最终地外智慧生命到底存在、还是不存在，现在该是有人正式投入进来。这个问题，我们必须要弄个明白。”

据介绍，目前已有相关项目，该项目将动用部分目前世界上最大的望远镜，更远地深入宇宙中去捕捉任何无线电波和激光信号。

地球将变成一个“熊熊燃烧的火球”

霍金预言称，称人类可能在2600年前就会灭绝。霍金认为，随着地球人口增长，能源消耗将会增加，地球将变成一个“熊熊燃烧的火球”。

霍金表示相信我们可以避免这样的世界末日，而最好的方法就是移民到太空，探索人类在其他星球上生活的可能。就如同1492年的欧洲，探索新大陆对旧世界带来了深远的影响。人类向太空的拓展，甚至将会产生更深远的影响，这将彻底改变人类的未来，甚至会决定我们是否还有未来。

千年内人类须移民外星否则“灭绝”

霍金在美国洛杉矶发表演讲时称，他认为，未来1000年内，基本可以确定的是地球会因某场大灾难而毁灭，如核战争或者温室效应。因此，他强调人类必须移居其它星球。美国航空航天局局长格里芬也表示，单独一颗行星上的物种，是不可能永久生存下来的。

在太阳系中，火星是除地球之外可供人类居住的最佳选择。但火星载人探测要几十年之后才能实施，探测一次往返要450天。

霍金表示：“人类灭绝是可能发生的，但却不是不可避免的，我是个乐观主义者，我相信科学技术的发展和进步最终可以带人类冲出太阳系，到达宇宙中更遥远的地方。”

智能机器是真正人类“终结者”

如上面所说，“超级智慧的人工智能的出现不是福就是祸，二者必居其一。”霍金曾多次表示，“彻底开发人工智能可能导致人类灭亡”。

按照霍金的说法，人工智能科技在初级发展阶段的确为人类生活带来便利，但是，机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度，无法与其竞争，最终被超越。科学界把这种人工智能超越人类智慧的转折点命名为“奇点”。

事实上，美国Space X首席执行官埃隆·马斯克，微软创始人兼慈善家比尔·盖茨，也都警告过要注意人工智能的“危害”。麻省理工学院教授、科学家、谷歌、IBM和微软等企业员工及与人工智能领域有关的投资者，也联名发出公开信，表达同样的忧虑。

这是我们星球最危险的时刻

英国《卫报》网站2016年12月1日刊载霍金的文章《这是我们星球最危险的时刻》。文章指出，英国脱欧公投和特朗普当选总统，都代表了那些自认为被领导人抛弃的民众的怒吼。这些被遗忘的民众拒绝了所有专家和精英的建议和指导。西方精英须以谦逊之心看待民粹，切实弥补贫富差距。

“选票背后暗藏着人们对全球化与技术加速革新所造成的经济后果的担忧，而这种心理完全可以理解。自动化工厂已经裁减了大批传统制造业岗位，人工智能的崛起很可能使就业遭破坏的情况蔓延到中产阶级，只有最需要护理能力、创造力或者管理能力的岗位才能保留下来。”

“我们应不应该反过来把投票结果看成是在宣泄粗鲁的民粹主义，认定民粹主义无法认清现实，并企图规避或者限制选票所代表的选择结果？我认为如果这样做将是大错特错的。”

“世界各国领导人必须承认，他们从过去到现在都在辜负大众的期望。随着资源日益集中到少数人手中，我们必须变得比现在更懂得如何分享。当消失的不只是岗位，还包括整个行业时，我们必须帮助人们接受再教育，迎接新的世界，必须在他们接受再教育的过程中提供经济支持。”

“我非常看好我们人类。但这需要所有精英，从伦敦到哈佛，从剑桥到好莱坞，都吸取教训。而且首先要学会保持一定程度的谦逊态度。”