波音737事故反思:自动驾驶系统是否真的值得被信任?

2018年10月29日，一架载有189名乘客和机组人员的印尼狮航波音737 MAX 8客机，在起飞13分钟后失联，随后被确认在西爪哇附近海域坠毁，机上人员全部遇难。截止到目前，事故调查工作仍在进行。

133天之后，2019年3月10日，埃塞俄比亚航空一架波音737Max 8航班从亚的斯亚贝巴起飞，6分钟后坠毁。

机上载有149名乘客和8名机组人员，其中包含8名中国乘客，全部不幸遇难。

据报道，此次失事的是一架全新的波音飞机，四个月前才交付给该航空公司。初期调查结果表明，飞机的传感器可能存在问题，飞行控制计算机出现“数据错误”。

而当飞行员意识到这一数据错误后，飞机没有将控制权交回人类，”人机“周旋许久，最终酿成了这一事故。

一起来看看事件经过。

传感器错误数据酿成悲剧

一切要从波音公司最新推出的一套自动防失速系统相关，该系统改变了波音737此前的设计，强调“数据搜集”和“自动化”，简单来说就是，波音公司在飞机探测迎角安装了一系列传感器。

高攻角传感器(AOA) 可以在飞行时计算机翼在空中切割时产生的升力量。如果迎角太陡，升力会开始减小，最终产生空气动力学失速，飞机无法继续高空飞行。

波音公司为了应付这一情况设计了一套自动化“应对措施”，一旦高公角传感器收到“太陡”的迎角数据，安全系统会自动给出“下压力”，降低机头，同时，作为警告，共轭控制器会剧烈震动发出声响。

一旦监测到如果迎角探测器出了故障，MCAS就会在飞机正常飞行时候强行把飞机机头往下压，最后形成空难。

这是调查给出的印尼狮航坠海的原因。

很多人可能会困惑，那飞行员在做什么？飞机发生一系列不寻常信号后，飞行员为何没有迅速采取补救措施呢？

据海外媒体WIRED报道，即便飞行员有补救，也无济于事。

Flightradar24数据显示（一个显示飞行数据的应用），狮行失事飞机起飞后曾经有过突然下降的迹象，随后又有拉升，之后消失在追踪画面中。也就是说，飞行员在事故后曾进行过手动调节，但并没有解除自动控制系统的操控，机组与控制系统周旋许久，事故最终仍然没有避免。

并且，不管是航空公司的管理层还是飞行员都不知道飞机上居然还装了这样一套系统。因此，飞行员基本没有为应对可能出现的风险做好准备。没有经过严格训练的飞行员，在最关键的几分钟里处理不当，最终很容易造成飞机坠毁。

但狮行事故后，波音仍然坚持737-MAX 8安全，仅向飞行员发布安全提醒，未有安排全线客机停飞维修。波音原定1月为有关自动驾驶系统软件进行更新，但却宣布因技术问题等而推迟至4月。

狮航空难后，波音公司曾在推特发声明称将对所有737机型进行详细盘查，网友评论“打脸”。

尽管最终调查结果还没有出现，但是基于目前的数据，本次埃航失事飞机很有可能发生了和狮航一样或者类似的问题，因为临山或者靠海复杂多变的气候带来对机载系统的严峻考验。

而此次出事的客机机型，在系统上很可能仍然存在相同问题。

昨天下午，中国民航局发出通知，为确保中国民航飞行安全，要求国内运输航空公司于2019年3月11日18时前暂停波音737-8飞机的商业运行。

路透社报道截图

这意味着，国内航空公司所有的波音737-8必须全部停飞，此前由波音737-8执飞的航班改换其他飞机，波音737-8何时恢复商业运行有待民航局进一步通知。

从飞机到飞行员，自动化和人工操控如何平衡？

一年前，波音公司还是传统企业数字化转型的优秀代表，其转型进展得到业界一致认可。但短短半年时间，同是737 MAX 8客机却遭遇两次空难，并且，第一次的失事原因已明确为软件设计缺陷。

737 MAX是波音历史上销售最快的机型，已经累计获得来自全世界92家客户的4300多架订单。737 MAX是在737的基础上升级了发动机和分离翼尖以实现更好的空气动力学性能。

波音于2017年5月开始交付737 MAX，它的大客户包括西南航空，美国航空，加拿大航空，印尼狮航和几家中国航空公司。印尼狮航事故机型是787 MAX8，波音公司没有表明其他787 MAX机型是否可能存在类似的安全问题。

之前，波音公司发出的公告并未要求检查或更换传感器或飞行控制计算机。更确切地说，波音公司现在正在做的是告诉飞行员如果碰到这样的情况应该如何操作。正如它的公告所说它在“指导航空公司如何培训机组人员在现有的条件下处理高攻角传感器(AOA)数据错误的情况。”

波音的回应内容基本上可以总结为：“回去重新学习！时刻告诉自己该做什么！”

但是这就意味着飞行员要无视仪器显示的数据和机内警报。Embry-Riddle航空大学航空科学教授Westbrooks告诉媒体：“最终的答案是设定一个确定的俯仰角和发动机功率。”

这就需要飞行员花费大量时间去辨别哪些数据是真实的，哪些是错误的。

坠机事故调查正在进行中，除了传感器故障外，还可能存在其他问题。 但事故还反应出过度依赖自动化系统的问题。

教授Westbrooks称：“我们多年来一直在谈论飞行员手持飞行技术的退化问题。”由于常年依赖自动化飞行系统，飞行机组人员在处理危急情况方面的培训不够，更不用说紧急情况。

数据和传感器能给人类更安全的世界吗？

科幻片和各种自动驾驶愿景都在为我们描绘一个更安全的世界：再也不会有注意力不集中、不遵守交通规则的人类驾驶员，世界将再无“车祸”、“空难”。

但是，事实似乎并非如此。

另一个例子发生在2009年，法航447航班从里约热内卢飞往巴黎的过程中飞机空速传感器结冰，导致自动驾驶仪断开连接，机组人员试图手持飞行，但最终失败了，飞机撞向大西洋，造成228人死亡。

结合全球首例无人车致行人死亡事件，人类如果对AI等自动化设备过于信赖，在汽车等具有“智能化”的设备运行的过程中会降低警惕性，而事故往往会发生在降低警惕性的一瞬间。

虽然现代汽车的自动驾驶系统仍然处在很初级的阶段，但在航空领域，自动驾驶系统早已大行其道，飞机的自动驾驶系统，会根据预先设定好的航路，全程驾驶飞机，甚至完成降落，飞行员反而成为了辅助存在。

当前的自动化功设备都具有自动纠错，这原来是人类操作的不完美的补充。但是，这种补充也许会演变成一种掩盖。人类如果长期不去做一些事情，在某些方面会因为疏于练习发生“退化”。

或许自动化设备失灵很少发生，但是一旦发生却比一些自然灾害更加来的致命。正如事后一些的猜测：飞行员技能熟练度无法判定哪些数据是真实的，哪些是错误的；又或许飞行员在处理危急情况方面的培训不够等等。这说明一切人造设备出现问题，原因总是在人的身上。

我们一直在讨论的是如何促进人工智能发展，甚至做到无人值守，但是，现在我们有必要严肃的讨论一下他的负面影响了。

我们接下来该以怎样的态度面对AI以及自动化，以及如何把握好人机结合的这个度。这一切都是智能世界到来前，我们需要面对的难题。