科学技术在21世纪提出了哪些伦理问题？

导读

10月28日，第30次上海市市长国际企业家咨询会议在世博中心举行，今年咨询会议的主题是“新时代、新起点、新作为——新形势下上海高水平对外开放”。除了34位来自世界各地的重量级企业家外，大会还邀请了《人类简史》的作者尤瓦尔·赫拉利（Yuval Noah Harari）发表主旨演讲。

赫拉利1976年出生于以色列海法，2002年获牛津大学博士学位，现任职耶路撒冷希伯来大学历史系讲师，是畅销书《人类简史》、《未来简史》和《今日简史：人类命运大议题》的作者。

赫拉利最初专攻世界史、中世纪史和军事史。目前的研究方向为宏观历史问题，比如，历史与生物学的关系是什么？现代人与其他动物的根本差异是什么？随着历史的发展人们是否越来越幸福？科学技术在21世纪提出了哪些伦理问题？

而在大会的演讲中，赫拉利也分享了对这些问题的思考，并提到了上海在全球未来中扮演的潜在角色。

最强大的国家也无法独立应对气候变暖

赫拉利指出，21世纪人类面临着三个主要挑战，核战争、生态崩溃、技术颠覆。即使人们能够预防核战争，阻止气候变化、人工智能和生物工程肯定会完全颠覆就业市场和全球的秩序，甚至是人们的身体和思想，而身体、思想和大脑很可能成为21世纪经济的主要产品。

在过去几千几万年里，人类学会了操纵身边的世界，但并没有真正理解生态系统的复杂性，所以经常会错误的使用自身的力量，给生态系统带来了不平衡，这也导致生态面临崩溃的危险。在21世纪，人们不仅要学习操纵外部的世界，还要学会控制内部的世界。要学习重新设计自己的身体以及利用情绪、思想和感觉，这是史无前例的。

也正因为人类还没有很好地理解自身内部体系的复杂性，因此人们可能再一次错误地使用自己的力量。如何明智地使用新的力量是所有人类的巨大挑战。核战争、生态崩溃、技术颠覆，都是全球性的挑战。没有一个国家可以单独地阻止核战争或者气候变化，没有一个国家可以单独地监管人工智能或者生物工程。但另一方面，也很少国家会愿意限制自己技术的发展，因为每个国家都知道其他国家不会这么做。

“你不能建一个墙来防止核战争或者全球变暖，也没有政府可以命令所有科学家或者世界上所有的工程师去做什么或者不做什么。”赫拉利表示。

在21世纪一方面需要考虑这三个主要的全球挑战，这就迫切需要全球的合作，在国家制定政策的层面，上海制定政策时都要考虑这些问题。比如人们面临着生态挑战，上海要成为卓越全球城市，可以开发部署新的生态友好技术，这是非常有必要的。上海不可避免会受到全球变暖的影响，如果不采取行动，50年之后上海的生态环境可能会受到很大的破坏。

赫拉利认为，上海可以去探索一些创新解决方案来解决这些问题，应对气候变化最好的办法之一就是把几千万的人聚集在巨大智能城市里面。上海不仅要成为世界上生态最友好的城市，也一定要推动全球的合作，并且要确保其他城市、其他国家也能和上海做得一样好，否则仍然不能避免会受到气候变化的破坏。

从气候变化的角度来说，即使最强大的国家也并不是可以独立应对的。独立的国家从生态角度来说，是不存在的，即使像中国和美国这么强大的国家也要依赖于其他的国家。

“上海的未来不仅取决于这里的人会做什么，也取决于纽约、孟买、圣保罗的人会做什么。”赫拉利表示。

颠覆性技术也是如此。举例来说，上海可以在新的交通体系方面引领世界，可以很好地发展自动驾驶汽车，但是上海或者中国不可能仅靠自己监管人工智能。怎么确保自动驾驶汽车没有被黑客利用变成武器，或者用来了解别人的隐私呢？如果中国禁止这些危险技术的开发，并没有很大的用处，因为别的国家可能会允许这么做。 这就是冷战时期军备竞赛的博弈思路。

目前人工智能军备竞赛已经出现了一点苗头。这样的AI武器竞赛对于人类来说是非常危险的，不管谁获胜，一旦人工智能的武器出现，人类最终会受到伤害。如果想享用人工智能带来的益处，而不是成为AI的受害者，就需要有很好的全球合作。而全球合作指的远远不仅是签一份国际协议来禁止杀人机器人。各个国家一定要互相信任并了解自己是人类共同体的一部分，需要全球合作。

此外，人工智能革命所带来的影响还会对就业市场带来极大的影响。这种自动化的革命会颠覆整个就业市场。它对不同国家或者地区的影响可能不一样，在高科技中心和枢纽很有可能会造成巨大的新的财富，会给当地当来越来越多的就业机会；但对于发展中国家，人民可能必须面对工作岗位的减少。

人类共同体，让解决这些问题有了可能

尽管有那么多值得担忧的问题，但赫拉利表示，回顾历史，世界各地的人们史无前例地紧密联系在了一起，而“人类共同体”的理念，或许能成为这些问题的解决之道。

赫拉利表示，从长远角度来说，人类的确比历史上任何一个时候更加团结，更加合作。一万年之前，人类分成了成千上万个小的部落，这些部落之间是没有任何相互联系的，但是现在所有的人类其实都属于一个单一的全球文明，所有人类的社会采用相同或相近的重要的制度、结构安排。当然各个国家在政治体制上可能有所差别，但是大家有了共同的贸易规则和经济理论和货币。

人类在对科学和自然的世界的认知方面，是最容易取得统一共识的。如果一个人生病了，几千年之前，他住在什么地方和他所获得的治疗会有很大的不同。因为那时候，世界不同的地区使用的是不一样的医药理论，他们对于身体的理解，对于疾病产生以及如何治疗想法不同。但现在，如果你生病了，你住在哪里就没有那么重要了。在上海、新德里或者伦敦都能够去差不多的医院，遇到差不多的医生，获得差不多的治疗。

“今年在俄罗斯举行了世界杯，1000年前这是绝对不可能的，”赫拉利表示，“1000年前没有一个体育是人类能一起去玩的。”赫拉利表示。

而如今大家都同意遵循同一套规则，所以现在有了世界杯、奥运会。这些国际赛事展示了人类的统一，人类的和谐。当然，这并不意味着在21世纪民族主义就不需要了。和谐，并不是说大家要完全一致，和谐意味着有不同的声音，但各种声音之间可以互相平衡和充实。平衡是非常重要的，为了人类能够继续生存下去，21世纪保持繁荣需要找到一种解决方案使全球达致和谐。

作为一个国际性特大型城市，上海扮演的角色非常关键。城市是全球文明的枢纽，来自四面八方的人到这里来贡献他们的智慧和技术。城市当中的人也会更好地知道他们自己的成功取决于和住在其他的地方人进行合作。因此像上海这样的特大城市，能够在21世纪扮演领导性角色，首先需要创新，其次还需要合作。