自动驾驶的疑点印证了科技的非理性繁荣

特斯拉 CEO 马斯克对全自动驾驶的短期实现，有着近乎疯狂的执念。最近，他又在第四季度财报的电话会议上表示，特斯拉汽车在今年年底前能实现全自动驾驶，无需人类干预。

马斯克还表示，特斯拉在高速公路上已经可以实现全自动驾驶。然而，早在 2015 年，马斯克曾吹牛特斯拉有望在未来两年拥有完全自动驾驶技术。

数据科学和机器学习的进展让不少创业公司「相信」（背后动机各异）所谓的通用人工智能距离我们并不遥远，成功案例都被不当夸大，由此衍生出很多不负责任的言论甚至不顾惜大众利益（隐私、安全甚至生命）的举措，比如自动驾驶公司先推出软件，却没有验证。

在这篇文章写于去年 8 月的文章中，作者 Vijay Kumar 以非常简练而又不失洞见的文字刻画出当前有关 AI 种种「非理性繁荣」，并分析出导致这些现象的主要原因。

作者在文章最后指出，当我们赋予物理系统智能，当涉及社会大众的信息和数据时，真正的核心问题到底是什么。

Vijay Kumar 是谁？他是美国宾夕法尼亚大学工程学院的 Nemirovsky Family 院长，同时也任职于机械工程与应用机械学系、计算机与信息科学系以及电子与系统工程系。

作为机器人与无人机领域的权威学者，Kumar 也是美国机械工程师学会会士、美国电气和电子工程师协会会士、国家工程院会士。

我相信许多人还记得 1995 年的 Netscape IPO，以及四个月内股价涨了五倍的情景。人们对技术及其影响的期望仍然很高。

而时任美联储主席的格林斯潘在美国企业研究所发表演讲时，对市场和科技中的「非理性繁荣」提出了质疑。

我相信，今天的科技领域也出现了类似的「非理性繁荣」。

用于癌症筛查的革命性技术——仅刺破手指抽取千分之一的正常血量——真的可行吗？

当然，Theranos 让每个人都相信这种革命性的进步的可能性，不是因为化学领域的新技术，而是因为他们开发了新的软件和自动化技术！

我们真的能用马斯克 Boring 公司挖的地下通道取代洛杉矶的 800 万辆汽车吗？

这种「自动化」能让我们以远低于正常的成本实现这种高速吊舱，其时速将达到 150 英里/小时，运行费用每次仅 1 美元——这就是 Boring 公司向洛杉矶市出售产品的广告语。

数据科学和机器学习的最新进展，真的意味着通用人工智能即将到来吗？这是今天许多创业公司所坚信的。

实际上，统计机器学习已经取得显著进步，尤其是在计算机视觉和语音识别等领域，因为基础神经网络可以通过足够大、有代表性的数据集进行训练。

「足够大」意味着什么？我们还不知道。我们也不知道何为有代表性的数据集，很多有趣的案例证明了深度学习「有效」。

但是，这些成功案例都被夸大了。

在我自己的机器人技术领域，自动化十分具有挑战性，特别是在操作和感知-动作循环的任务中。然而，尽管说的天花乱坠，但现在最好的机器人都不如一个三岁孩子灵活。

在无人驾驶领域，这种非理性繁荣无处不在。

没有多少人知道，无人驾驶汽车的首次演示是在 20 世纪 80 年代后期，在慕尼黑联邦国防军大学和卡内基梅隆大学进行的。毫无疑问，无人驾驶会产生巨大的社会、经济和环境影响。

在过去 30 年里，这一事实以及实现这一愿景的技术挑战吸引了一群顶尖的科学和工程人才。然而，有一个历史问题我们都忽略了，因为三十年都未能解决的问题不太可能吸引到大量的私人投资。

根据最近的预测，全自动驾驶汽车即将问市。奥迪和特斯拉几年前承诺说到 2018 年可实现完全自主。

优步甚至承诺，2023 年能推出由清洁能源驱动的汽车，尽管电池技术背后的基本物理和化学知识告诉我们事实并非如此。

当工程师提出这类想法时，令人担忧；当企业家利用这些想法筹集巨额资金时，更令人担忧。

然而，最大的问题是在如何将自动化软件嵌入安全系统当中。

测试与日志数据、以及保证不会产生不必要和不安全行为的软件验证之间，存在差异。我们能否只因为底层软件已经通过十亿英里的数据测试，就宣称无人驾驶车辆安全呢？

美国国家安全委员会的统计数据显示，人类平均驾驶十亿英里会导致 12.5 人死亡。十亿英里的数据集不可能被视为「足够大」，或「有代表性」，被用来训练软件以防止人员死亡。

Uber-Waymo 的案件披露了一系列文件。

这些文件揭示了一种现象，它优先发布了软件，而没有经过测试和验证。对于可以后续修正的手机系统，这样可以接受，但对于汽车软件来说，这完全不能接受。

这种非理性繁荣，可能源于五十年前摩尔预测的计算和存储技术的指数增长。

十多年前，智能手机、云计算和共享汽车似乎是科幻小说的情景，3D 打印和 DNA 测序等技术也难于登天。而如今，这些正在成为事实。

指数增长的事实滋生出一种外推（extrapolation）文化。

比如，最近 Alpha Go 和 Alpha Zero 在国际象棋等棋盘游戏中取得的进步令人难以置信。

但不幸的是，我们由此外推出这样的结论：征服这类通用智能，只是一个时间问题。

至少有一个观点认为，尽管摩尔定律带来了计算力指数增长，事实上，我们在智能理解方面，并没有取得重大进展。

虽然计算机在国际象棋中取得了惊人的表现，但在过去 30 年里，国际象棋程序的 Elo 评级只是呈线性增长而已。

如果我们能够充分利用摩尔定律，那么，国际象棋程序的表现应该比 30 年前好十亿倍，而不是仅仅好 30 倍。

这表明，技术的指数增长可能不适用于人工智能领域，更不用说能源存储、生物技术、自动化和制造业了。

不幸的是，科技上的非理性繁荣还导致了一个更大的问题——学术与产品欺诈，这是每个工程师和计算机科学家都要警惕的。

作为专业人士，我们有责任揭露这种学术不端的行为。

当赋予物理系统智能时，验证、安全性和责任必须是核心问题。

事实上，对于社会中的数据和信息，公平、问责、透明度和道德问题（fairness、accountability、transparency、ethics，FATE）也需要被解决。

好在这些好风气在业界和学术界中正在逐渐形成。

作为教师，我们肩负着更大的责任，因为技术不再仅限于计算机科学家或工程师。

事实上，技术现在已成为一门新兴学科。但这门学科的关键是要阐明技术的边界，并警惕外推带来的真实危险。

对于每个具有创造性的大学生，无论是物理方面还是软件工具，都必须对问责制，透明度和道德责任的基本问题保持高度警惕。

重要的是，我们要解决技术中的 FATE，不仅要在数据科学的背景下，更要通过技术实践的设计、综合和简化。