周涛：四个方面来谈大数据和人工智能可能带来的挑战

2019年1月8日，湛庐成功举办了“CHEERS2019·湛庐年度大会”。本文是电子科技大学教授、“数据少帅”周涛老师的演讲内容，他的分享以中立性、时效性、导向性、边界性等4个大维度展开，由此叩问了4个亟待思考的大问题。在技术乐观派和悲观派都无所适从的当下，他对于技术的警觉且乐观充满了敏锐的洞察力，发人深省。

（以下内容据周涛现场演讲记录整理，速记及图片来自湛庐阅读）

我们现在处在信息爆炸的时代，全世界存储的信息总量大概有16ZB，也就是1600万PB，再过十年这个数字还会翻十倍以上，超过200ZB。

来源：现场PPT

拥有这么多数据并不代表我们能驾驭它，我们穷其一生都不可能把这些题目读一遍。所以很大程度上我们依赖于各种各样的信息中介，搜索得到的广告推荐无一不是从这些平台而来。所以，与其说我们是数据的驾驭者，不如说我们就像一个婴儿，因为我们接受的是信息中介喂的一勺勺“食物”，我们不知道里面有多少营养，又有多少有害物质。

人类花了几百万年的时间才适应从树上跳跃到用双脚在大地上行走，但是人类从一个信息极度匮乏的时代，到现在信息高度富余的时代只经历了20年。我本人就是在2000年发出自己的第一封邮件。所以一个很重要的问题是：我们这个社会是否真正为所谓的大数据时代做好了准备。

今天我将从四个方面来谈大数据和人工智能可能带来的挑战：

1.中立性

很多人认为技术总体来说是中立的，它理性、客观、中立，没有偏差，没有歧视。但是实际并非如此。

举个例子，60多年前，罗伯特·摩西斯在纽约做了中央花园的建设，在他的设计中，通向中央花园的长长的走廊的前边有一个低矮的桥头。那时美国大部分穷人和有色人种的出行方式都是公交车，但是公交车很高，没有办法从桥下开过去。这个看起来中立的设计，其实就使得纽约的中央花园基本变成了富人和白人的乐园。在当时看来这种歧视是无处不在的，但现在我们来看这是不可容忍的歧视。所以一个设计即便是嵌入到城市中，它依然有可能带来我们不容易发现的一种歧视。

来源：现场PPT

2018年初，有一篇文章讲述了一个很有趣的故事，有人设计了一套推荐系统，这个系统专门给求职的人推荐一些高端的职位，但这个设计对女性来说是不公平的。在中国，薪水前1%的人群里面，每9个男人才有1个女人，而在美国这个数字是7：1，在日本这个数字是33：1。

这条系统最初的目的很简单，就是尽可能让推荐的职位和求职者互相匹配，最终实现一次成功的招聘。但是它很聪明，它超出了我们很多伦理和道德的约束，因为它自动认识到了性别这个特征非常重要，于是它自己知道，我要尽可能地向男性推荐这些高端职位，少向女性推荐。

在这个系统运行一年多后，开发者发现女性获得高端职位的信息量比以前少了，这时他们才反省到，一个看起来越来越精确的系统，客观上有可能让女性获得高端职位的可能性进一步降低。原来他们在获得同等信息暴露的情况下，男女比例是7：1，如果聪明的计算机接管了这个推荐系统，未来比例可能在北美就不是7：1，而是10：1，15：1，20：1，所以一个善良的计算机的程序依然有可能导致不公正的结果。

来源：现场PPT

我从2007年开始就做推荐系统，在所有的广告推荐中，一个很自然的维度就是要考虑用户的价格敏感度——看他购买的东西在整个三级品类中的价格排名如何。如果你买了一支八千块钱的万宝龙的笔，那你肯定是富人；如果你买了一辆八千块钱的二手奥拓汽车，那你肯定是穷人。

可以想象，随着时间的推移，我们对信息中介的依赖越来越强，当我们到了新城市，可能需要计算机推荐一条一日游的路线；当我们要看慕课，计算机就会推荐课程，而这个时候，聪明的计算机会根据每个人的家庭出身和原有的学习情况等，做出不一样的推荐。也就是说，富人和穷人有可能会抵达城市中不同的角落，学习不同的课程，在很小的时候就规划不同的人生。

那么，数字化、信息化，甚至说大数据、人工智能发展五年、十年、二十年后呢，它们到底是会减弱不同阶级间的鸿沟，还是在某些时候，某些场景，会加剧这种鸿沟？这是我希望大家去思考的第一个问题。

2.时效性

2013年我翻译了《大数据时代》，书里面有一个故事，它讲未来有可能很可怕，我们可能会为还未发出的罪行而付出代价，因为计算机提前预测你会犯罪，提前逮捕了你。

比如，美国国土安全局会根据一个人的面部长相、姓名、宗教信仰，以及过往的资金流，交通出行的轨迹、通话人的记录，等等，来判断一个人疑似恐怖分子的可能性有多大。可汗就是一个非常典型的受害者，他实际上是一个无辜的人，但因为被视为高度恐怖分子，每次他到机场都需要提前五个小时登机，因为他经常会被安检四个小时。

来源：现场PPT

如果说恐怖主义距离我们很远，那大家可以想象一下酒驾。酒驾入刑在中国已经有十年了，这意味着喝酒驾车就是犯罪，这个犯罪背后的法理是很必要的，就好像危害公共安全法是一样的道理。酒驾并不是在全世界处处皆准，比如在瑞士，大家喝完啤酒开车很正常，这是一种生活方式。禁止酒驾某种意义上讲给了我们更多的安全，但是牺牲了一种生活方式。

如果我们再往前走一点，假设二十年后，那时无人驾驶成为一种主流交通方式，我们完全相信，绝大部分交通事故，尤其是恶性交通事故应该是由真人驾驶造成的。我想问大家，如果在座的各位接受了酒驾入刑，那么在二十年以后有没有可能接受把真人驾车视为一种违法行为呢？这是我希望大家考虑的第二个问题——有多少安全舒适，多少对未来的焦虑，都要和我们当前的生活模式做一个平衡。

上边讲的是为某种未来可能性付出代价，那么，反过来讲，可能中学的时候我们因为一次冲动打架留下了不良的记录；可能大学的时候我们为了整容，为了买部苹果手机，借了校园贷却没有及时还款，那么，这些记录就有可能在五年、十年后影响你申请购房贷款，影响你买车，甚至影响你的融资。

来源：现场PPT

中国有句古话说“浪子回头金不换”，这是因为你的父母、亲人和朋友能够努力忘掉你的过去，相信有一个全新的你出现。人类之所以如此睿智就是因为懂得遗忘，甚至某些时候我们努力遗忘，但是计算机恰恰相反，它的特别能力就是永不遗忘，它能在五年、十年、五十年、一百年都保留着你过去的信息。

希望大家在时效性这个方向思考的问题是，如果我们有可能会为还没有到来的未来提前付出代价，又有可能因为过去而影响我们的现在，那我们应该做什么选择？我们是不是只能够战战兢兢，亦步亦趋地沿着所谓的主流价值观前进？

大家应该知道，中国最可怕的一件事情就是主流价值观驾驭了一代又一代的人，我们的小孩从小就要读重点小学、重点中学，然后是读重点大学，去一流企业，考公务员，读研究生，要活得像其他人眼中成功的样子。这样的主流价值观已经束缚了我这一代人，未来人工智能、大数据的发展是会像大家想象的一样给我们带来多样性的世界，还是与之相反，会给我们更大的束缚？

3.导向性

为什么讲这个？因为社会往前发展要有一个总的社会福利增加方向，但是计算机不一定这样想问题。举个简单的例子，以前我们看新闻都是按点击付费，所以会有很多标题党，希望大家尽快点进去。大家看这张黄黄的图片，是2017年某知名搜索网站图片搜索第一名，题目叫做“黄色图片”，但是我相信大家点开看到这张图片恐怕是失望的。

来源：现场PPT

这种事情好解决，我们可以想办法改变函数，使得计算机的目标，或者人工智能的目标，与人类的正常福利目标一致。比如说，不仅仅是点开率，还有点开新闻之后用户在页面停留的时间，这个页面在第一窗口停留的时间，或者是微信转发数、点赞数等等，这样的话似乎矛盾就消失了。

但有时候这种矛盾是长期且不可能消失的。2014年，我们团队有一位副教授到明尼苏达大学做了一个联合项目，是一款网络游戏。一个问题是，当资源有限时我们要如何分配这些资源，比如说，每天拿出价值十万美元的装备免费发给所有的玩家，那这些装备给谁呢？这是一个典型的优化问题，大规模机器学习的问题。

事实上，我们确实成功使得玩家们在游戏中花费的时间比之前增加了20%，现在国内知名短视频平台也把用户连续使用APP的时间，从原来的十几分钟提高到了三十多分钟。

这些技术可以用在好的地方，比如在进行网络课程学习的时候，计算机可以通过大家的行为分辨学习难点，找到学习重点，从而帮助大家更好的学习。当这种技术被用在游戏和短视频中，则使得用户更沉迷其中，从商业角度来说是成功的，因为让用户更多的玩游戏，从用户的角度来讲也是成功的。当我们硬币的两面都是成功的时候，就没有任何力量站起来破坏这种成功。

所以，这是我希望大家思考的第三个问题，人工智能和大数据前进的方向可能会做到面面俱到，让每一方都满意，但是它不一定会给社会带来福利。

4.边界性

有些东西人工智能可以做，但是我们要思考要不要让它做。

我们可以通过计算机识别人的表情，通过微表情和姿态，从而判断你心中真实的想法。以前我们测谎要用脑电波、电极，再加上测试你的心跳、心率、脉搏、体表电解质、导电水平，现在有一个技术叫做不接触测谎，只用摄像头看你，不需要用任何物理接触，就能精确判断你是不是在说谎。也就是说，人工智能实际上有一种能力，它比较容易判断大家有没有在说真话，它能够判断你是不是真喜欢他，相亲对象对你有没有好感，等等。

也许未来你只需要一个十块钱的APP，再加上一个摄像头，就能知道那个说喜欢你的男生是不是真的喜欢你。

来源：现场PPT

现在就回到一个问题，我们经常说人类社会的基石是真相，我们需要真相。但从某种意义上讲，我认为人类社会的基石不仅有真相，还要有谎言，没有真相的社会不能想象，但没有谎言的社会一定也是苦不堪言，相信各位应该都已经意识到谎言有多么重要。

如果人工智能让我们没有办法说谎，那社会真的会繁荣，人们真的会幸福吗？这是我希望大家考虑的第四个问题，我们到底要把能够让人工智能发挥作用的边界画在哪里？什么时候？哪些地方？

不管你来自哪个行业，一个以大数据为原材料，以智能算法为引擎的新科技时代呼之欲出，而且正在到来，希望大家充分拥抱这样一个新时代。任何希望用传统的资源去阻挡或者延迟新时代到来的人，都只可能成为旧时代的关门人和关灯者。

什么样的好方法帮助大家尽快的进入新时代？就是湛庐文化韩焱刚才讲的——做一个学习者，看那些走在世界最前沿的科学家、创业者，他们的理念和思考。

我个人非常欣赏一句话，“胜利总是青睐有准备的头脑”。今天这个25分钟的演讲虽然不长，但希望能帮各位为即将到来的新时代做更早、更好、更充分的准备，从而成为新时代的胜利者！