如何面对人工智能时代数据安全和伦理问题

人工智能技术的飞速发展，将有机会重新定义未来人类工作的意义以及财富的创造方式，带来前所未有的经济重塑，甚至改变全球的权力格局。正因如此，全球各地的经济体都在致力于制定相应的战略计划，以期在人工智能赛道的竞争占据优势。

当地时间 1 月 24 日晚，美国《连线》（Wired）杂志总编 Nicolas Thompson 在达沃斯世界经济论期间主持了一场围绕「为人工智能竞赛制定规则」的主题探讨，创新工场董事长兼 CEO 李开复、印度国家发展改革研究院（NITI Aayog）CEO Amitabh Kant、纽约大学斯特恩商学院助理教授 Amy Webb、西门子主席监事会主席 Jim Hagemann Snabe以及对冲基金 Tow Sigma 联合创始人 David Siegel五位来自产学界前沿人士参与了这场激烈的讨论，分享了各自关于如何为人工智能制定规则、如何看待人工智能时代数据安全等问题的观点。

▌如何为人工智能制定规则？

李开复：当技术的出现带来一些问题时，我们需要制定相应的规则。

眼下人工智能技术曾经发生的一些问题基本属于意外或是某些公司的失误。人们在很大程度上对人工智能拥有误解，存在偏执和炒作现象，我们应该去看看人工智能的实际价值。

当我们在谈论人工智能时，其实谈论的是机器学习、深度学习，它本质上只是一个帮助人类的工具，出现问题的根源往往来是人为的错误。

在某种意义上，规则已经存在了——人工智能技术应用于银行，就有了新的银行规则；人工智能技术应用于车辆，就有了新的交通规则。在这里，数据规则是其中的核心。

在是否需要制定规则、制定什么样的规则问题上，不同的国家和文化对此有不同的看法。我希望世界经济论坛与 AI 委员会能够帮助大家分享想法，让更多的公司和国家直接进行沟通与对话，减少对彼此的误解。

创新工场董事长兼 CEO 李开复

Amy Webb:目前，全世界有 9 家公司正在掌控人工智能的未来，其中 6 家来自美国，即 GMAFIA，也就是谷歌、微软、亚马逊、Facebook、IBM、苹果，3 家来自中国，分别为百度、腾讯、阿里巴巴。我们应该关注这些巨型企业的动向，因为他们不仅仅编写软件，也在构建框架，甚至是消费者行为等方面都拥有话语权。

这里的挑战其实在于，能够代表我们去制定人工智能未来规则的人只是少数，其实我们都将受到人工智能影响力的辐射，几乎每一个消费者都会在某一个时间点接触到上面提到的几家公司。

纽约大学斯特恩商学院助理教授 Amy Webb

David Siegel：今天，人工智能只是在计算机中运行的一行行代码，我们其实很难区分人工智能软件和常规软件的区别。制定规则的重点在于，如何处理软件和大数据的交叉部分。在我看来，最重要的问题其实都集中在数据上面。

对冲基金 Tow Sigma 联合创始人 David Siegel

Jim Hagemann Snabe：人工智能是最具影响力的技术之一，我们必须给予其足够程度的关注。但我认为，现在我们在人工智能的应用上并不是很聪明，现在是时候利用这项技术来解决一些更为重要的问题了。

对我来说，制定规则的重点在于对数据的访问以及如何以开放的方式利用平台。如果我们不允许人们平等地访问数据和平台，那么未来将面临很严峻的问题。

西门子主席监事会主席 Jim Hagemann Snabe

Amitabh Kant：在印度，人工智能技术和数据都是政府公有的，在我看来，印度所面临的挑战与西方世界截然不同。

我们相信人工智能会改变人类的生活，我们的关注的重点是，如何通过人工智能技术最大程度挖掘数据的价值，以科学的方式来改变公民的生活，例如向医生提供更好的图像数据，帮助学生提高学习效果、在农业卫生等领域发挥作用等。

印度国家发展改革研究院（NITI Aayog）CEO Amitabh Kant

▌如何面对人工智能时代数据安全和伦理问题？

Amy Webb:现在用来训练算法的数据通常都来自几个相同的数据集，这些系统会对我们的生活做出决策。大多数人是不知道他们的数据是如何被系统收集并商业化的。我们所迈向的未来里，可能会有一到两个组织持有我们的个人数据。

人们对人工智能的探讨将是一场长达数年的旅程，挑战在于我们无法推迟这件事的发生。我们现在能做的，就是把自己掌握的信息反馈给各自的组织机构，并努力推进自己对这些问题的思考。

David Siegel：可以先看看我们正在使用的旧规则。在谈到人工智能的工作方式时，人们可能会对计算机自动做出决策而感到不舒服。但事实上，计算机已经在很长一段时间里在做这样的事情了，例如，飞机在大部分时间里都是由机器接管的。

人工智能的发展进程要比大多数人想象的要慢，这不意味着我们不会取得进展，但我认为我们不可能在有生之年进入机器完全接管的恐怖状态。

Hagemann Snabe：我很担心人们对于人工智能技术的想法过于天真。在使用人工智能技术并将其用于某些极端情况时，访问个人数据和保护隐私安全之间的界限在哪里？在构建平台的同时避免垄断，如何实现？算法开始自主学习，相应地人类就要失去控制权，如何平衡？

我们需要了解数据的使用方式以及被用在哪里。消费者必须拥有对他们的个人数据处理、选择的权利，这是一个基本原则。在这样的原则之下，我们才会更好地使用这项技术，用人工智能帮助人类提升能力，而非取代人类。

人工智能可以解决世界上的许多问题，西门子愿意共享数据以避免形成垄断，例如分享西门子在医疗领域数据以改善治疗水平。我们没有理由去做数据垄断，这会扼杀所有的小型公司。

Amitabh Kant：我们需要规范，但是引入太多的规则会扼杀创新。我们的目标是利用人工智能技术给人们带来利好且不会带来威胁，那么建立一个全球联盟就非常重要，类似于欧洲核子研究组织（CERN）对粒子物理学的存在。通过联盟从实践中学习、从彼此身上学习，从而让人工智能技术变得更好。

数据就像一条公路，你要向公路公开所有的数据。我们相信，所有的数据都应由公共政府持有，这些数据都应被公开，最终的受益者会是消费者。

李开复：人工智能只是一项能够改善我们生活的工具。之前亚马逊的人工智能招聘工具曾经曝出性别歧视的情况，其实这些问题是可以通过大型数据集来解决的。可能有人会怀疑人工智能说它存在偏见，但我保证，如果在简单系统上使用正确的数据集，它的偏见会比人类要小。

在不侵犯个人数据隐私的前提下，共享数据是一件很好的事情，收集到更多的数据将有助于促进人工智能技术的研究与发展。我曾是一名癌症患者，我愿意将自己的相关数据贡献给研究人员，相信大多数癌症幸存者也都是一样的。

我们需要让人们知道人工智能可以做什么、不能做什么、在哪里能创造规则，在哪里不能。而不是盲目的对人工智能抱以恐惧或管制的态度。试图要找到一个普适性的方法并不是、也不可能是最终解决方案，关键在于分享彼此的实践经验。我很希望一年内，我们将有人愿意分享自己的实践成果，展开更多具有实质价值和指导方向的对话。