0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

特殊情况下自动驾驶汽车的事故伦理算法

ml8z_IV_Technol 来源:YXQ 2019-05-16 15:37 次阅读

智能驾驶、自动驾驶艰难的发展历程中,要解决的远不止芯片传感器、车联网等技术性问题,还有更多涉及法律和道德伦理的选择问题。自动驾驶全面普及,理性层面的设计与感性层面的选择,缺一不可。

去年3月,一辆Uber自动驾驶汽车在亚利桑那州坦佩市的公共道路上与一名行人相撞,该行人在送往医院后不治身亡。这是世界上首起被曝光的自动驾驶车辆在公共道路上撞击行人并致死的事件。据悉,这次Uber事故中车辆装配了64线激光雷达、多个摄像头和雷达,该车辆的自动驾驶系统当时识别到了行人,但机器大脑“决定”不减速。有人猜测称,该“决定”可能是因为系统算法认为如果减速可能会给驾驶员造成严重伤害。由此可以看出,即便自动驾驶汽车能够解决目前面临的所有技术难题,即便自动驾驶技术不会在运行过程出现纰漏,一旦自动驾驶汽车上路也必然会面临一些无法完美解决的伦理难题——囚徒困境与电车难题——发生事故是必然的。对此,人工智能的“大脑”设计可能会陷入无尽的矛盾中。

在智能驾驶、自动驾驶艰难的发展历程中,要解决的远不止芯片、传感器、车联网等技术性问题,还有更多涉及法律和道德伦理的选择问题。自动驾驶全面普及,理性层面的设计与感性层面的选择,缺一不可。

那么,“机器驾驶员”面临未知的事故状况如何权衡不同对象的生存几率和生存价值?紧急状况下优先保护乘客还是路人?老人和年轻人的生命如何选择?在设定机器事故算法时,依据和原则是什么?由谁来决定算法原则和依据?不同的决策有什么不同的后果?这些都属于自动驾驶汽车事故算法的问题范畴。对此,汽车工程师、伦理学家以及各方学者众说纷纭,借助经典的思想实验如电车难题、囚徒困境等呈现自动驾驶汽车可能遭遇的事故类型,分析其中涉及的伦理争议,探析诸算法之间的优劣对比。

决策者:自由模式还是强制模式

对于事故算法的决策者,讨论的焦点是:从个人角度还是集体角度决定自动驾驶算法的选择。前者认为每一位司机或乘客都有权对自己所乘坐的汽车进行伦理设定;后者主张由全社会集体来强制决定事故算法的伦理设定。

康提萨、拉吉亚诺和萨尔托尔旗帜鲜明地为个人自由选择模式辩护。他们认为,当遭遇不可避免的事故时,自动驾驶汽车进行何种伦理选择应该由使用者或乘客做出,使用者或乘客作为事故的直接主体,有权做出结果导向性选择。但紧急事故发生时,人类无法在短时间内做出理智抉择,只能依靠本能反应,因此实际来说,自由模式的事故算法决策权可操作性不强。

哥格尔和缪勒认为个人自由选择事故算法会带来囚徒困境,最终造成交通事故不降反升的后果,只有政府介入进行强制性的伦理设定,以集体利益为导向,大部分群体利益最大化后才有利于大众完全接受自动驾驶。他们指出,政府应该给自动驾驶汽车生产商引入新的行业标准,即最大化安全、最小化伤害——功利主义式的自动驾驶汽车。不管是乘客还是车主都没有决策权,因为在汽车出厂前就已内设事故算法。从维护社会利益最大化角度,由最能代表大多数人利益的群体来决定自动驾驶的事故算法。

然而,无论是个人化还是强制性的集体伦理设定都面临相当多且颇具挑战性的异议。

算法依据:优先保护

在具体的算法依据问题上,讨论主要围绕以下几个方面进行:乘客优先,还是行人或其他利益相关者优先?弱势群体(老人、小孩、妇女/乞丐)优先,还是优势群体(壮年男性/社会精英)优先?多数人优先还是少数人优先?笔者认为以上不同的社会群体,可以依据场景角色来划分:一种是按照事故中角色进行优先选择,另一种是根据社会角色的差异进行优先选择。按照事故中角色进行优先选择的事故算法又可分为功利主义的事故算法和自保主义的事故算法,大多数人认为功利主义的事故算法更为道德,但市场调查却显示消费者更愿意购买置入了自保算法而非功利主义算法的自动驾驶汽车。而按照社会角色的不同进行优先选择的事故算法则面临了要将人划分为三六九等以及如何划分的质疑与困惑。

2016年,麻省理工学院媒体实验室的研究人员启动了一项实验。他们建立了一个网站,了解人们希望无人驾驶汽车有怎样的行动模式,在网站中任何人都可以体验到多种不同的无人驾驶汽车场景。两年后,研究人员发表在《自然》杂志上的一项研究表明,政治、经济、文化、历史等差异都会影响人们对机器伦理选择的看法。但该研究还发现,世界各地的人趋向于在三个方面达成一致:优先保护人类而非动物、优先保护年轻人而非老人、保护尽可能多的人。这些见解可以为机器伦理的国际准则提供基础——研究人员写道,当这些“危及生命的两难困境出现时”,必须要有相关的国际准则,那些讨论不应该局限于工程师和政策制定者,毕竟那些问题会影响到每一个人。

2018年,德国为自动驾驶汽车制定了首个伦理规则。该规则提到,相比对动物或财产造成的伤害,系统必须最优先考虑人类安全;如果事故不可避免,禁止任何基于年龄、性别、种族、身体特征或其它区别的歧视;对于道德上模糊的事件,人类必须重新获得控制权。

面对那些虚构的关于自动驾驶汽车事故的思想实验,每个道德健全的理性人都会自发地就“我们该怎么做”形成信念。然而某些调查数据显示,我们的这种直觉是如此地不统一也不唯一:人们普遍认为拥有功利主义式事故算法的自动驾驶汽车最具道德性,但却鲜有人想购买置入了此种算法汽车。这种矛盾的心理和做法使得研究者们更倾向于理想的道德选择来设置事故算法。而所谓理想的道德选择又有其不能普遍化的理论假设、依赖某些成定势的伦理直觉。在虚拟的思想实验中,可以用理想化的道德选择做指导,但现实的驾驶过程会面临许多不能被解决的冲突和困境,在这种困境中,不论作不作为、哪种作为,都无法出现“最优决策”。现有的不同道德原则间的冲突、道德决策的复杂性以及人类道德判断的情境化导致并非所有的道德和法律规则都适用于具体的事故情况,具体到乘客个人也会有不同的选择,笔者认为我们应该综合考虑多种因素,利用多种能力,分析各种不同状况,尊重利益的主体相关者——乘客的自我选择,即道德约束式事前尊重、法律限制式事后惩罚。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 人工智能
    +关注

    关注

    1773

    文章

    43371

    浏览量

    230134
  • 自动驾驶
    +关注

    关注

    773

    文章

    12894

    浏览量

    162929

原文标题:囚徒困境与电车难题——特殊情况下自动驾驶汽车的事故伦理算法

文章出处:【微信号:IV_Technology,微信公众号:智车科技】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    边缘计算与自动驾驶系统如何结合

    当前自动驾驶中,大规模的人工智能算法模型和大规模数据集中化分析均放在云端进行。因为,云端拥有大量的计算资源,可以在极短的时间内完成数据的处理,但是仅依靠云端为自动驾驶汽车提供服务在很多
    发表于 03-25 09:26 54次阅读
    边缘计算与<b class='flag-5'>自动驾驶</b>系统如何结合

    英特尔旗下自动驾驶公司发布DXP操作系统

    英特尔旗下自动驾驶技术公司Mobileye Global在CES 2024上推出了一款名为DXP的操作系统,旨在帮助汽车制造商开发特定的自动驾驶系统。这款新系统的推出,引发了Mobileye股价的上涨,盘中涨幅约3%。
    的头像 发表于 01-10 14:47 248次阅读

    LabVIEW开发自动驾驶的双目测距系统

    LabVIEW开发自动驾驶的双目测距系统 随着车辆驾驶技术的不断发展,自动驾驶技术正日益成为现实。从L2级别的辅助驾驶技术到L3级别的受条件约束的
    发表于 12-19 18:02

    自动驾驶出事故,到底该谁担责?

    于工信部网站 这当中,不可避免要涉及到L3、L4级自动驾驶状态下出事故情况。 《通知》的附件部分对此有精妙设计,智能网联汽车的试点使用主体应当为车辆上路通行购买机动车交通
    的头像 发表于 11-30 11:55 932次阅读
    <b class='flag-5'>自动驾驶出事故</b>,到底该谁担责?

    关于自动驾驶的等级划分

    自动驾驶汽车减少事故和拥堵,作为安全舒适的移动手段熟悉我们的生活。好像马上就能到达那个时代了。现在,许多汽车已经开始安装 各种技术来实现其自动驾驶
    发表于 06-06 14:51 0次下载
    关于<b class='flag-5'>自动驾驶</b>的等级划分

    用于自动驾驶汽车的传感器融合

    自动驾驶汽车是热门研究课题之一,它将彻底改变地面车辆的未来。自动驾驶汽车正在取代普通车辆,因为它可以做出决定并执行自己的驾驶任务。每年有13
    发表于 06-06 14:47 0次下载
    用于<b class='flag-5'>自动驾驶</b><b class='flag-5'>汽车</b>的传感器融合

    数据驱动的自动驾驶

    作者在与自动驾驶同行们讨论时,发现目前大家普遍都认同“普通场景下的自动驾驶已经比较完善了,目前主要的难点在于一 些cornercases”。在技术不出现质变的情况下,如何处理cornercases
    发表于 06-06 14:41 1次下载
    数据驱动的<b class='flag-5'>自动驾驶</b>

    自动驾驶汽车如何工作 有什么好处

    如今,自动驾驶汽车已成为一个热门话题,理由很充分:无人驾驶汽车可能会带来自工业革命以来最大的社会革命,而且似乎 每个人都在参与其中。 从有关 Apple
    发表于 06-06 14:18 0次下载
    <b class='flag-5'>自动驾驶</b><b class='flag-5'>汽车</b>如何工作 有什么好处

    自动驾驶技术的工作原理、机会与挑战

    自动驾驶技术是近年来快速发展的一项前沿科技,其基本原理是通过搭载在车身上的感知、决策和控制系统,使汽车可以在不 需要人类驾驶情况下自主完成车辆的控制和操作。
    发表于 06-06 14:15 0次下载
    <b class='flag-5'>自动驾驶</b>技术的工作原理、机会与挑战

    自动驾驶汽车有哪些功能 无人驾驶的前景和优势

    无人驾驶是指车辆在没有人类干预的情况下自主行驶,能够充分利用各种传感器、控制技术和智能算法来识别和响应交通环境。
    的头像 发表于 06-02 18:22 7628次阅读

    自动驾驶如何落地 自动驾驶的商业模式与挑战

    依据于自动驾驶系统对汽车的控制程度,SAE将自动驾驶划分成6个等级: L0:无自动驾驶(非自动化),
    发表于 06-02 15:23 0次下载
    <b class='flag-5'>自动驾驶</b>如何落地 <b class='flag-5'>自动驾驶</b>的商业模式与挑战

    自动驾驶技术概述

    ,可释放人出行驾驶时间,把汽车变成除家、办公室外的人的第三空间,在出行过程中办公和娱乐等。 车辆要实现自动驾驶,需要解决车辆在哪、往哪儿去、怎么去这三个基本问题。解决这些问题,涉及硬件平台、软件
    发表于 06-01 14:50 0次下载
    <b class='flag-5'>自动驾驶</b>技术概述

    自动驾驶算法软件架构介绍

    自动驾驶技术是一个庞大的工程体系,软件架构、功能算法、控制规划、感知识别、建图定位、电气架构、车载控制器、验证 体系等等,有太多的角度可以去切入。对于自动驾驶功能与算法开发,
    发表于 06-01 14:41 1次下载
    <b class='flag-5'>自动驾驶</b><b class='flag-5'>算法</b>软件架构介绍

    汽车自动驾驶等级

    汽车工程师协会)制定的划分方法,按照分级标准,自动驾驶从L0至L5总共被分为 6个级别,L0代表没有自动驾驶的传统人类驾驶,L1至L5则随自动驾驶
    发表于 06-01 14:32 0次下载
    <b class='flag-5'>汽车</b><b class='flag-5'>自动驾驶</b>等级

    感知硬件,自动驾驶汽车“看”路奥秘

    随着人工智能技术的发展与高级辅助驾驶系统的普及,自动驾驶汽车雏形已经初现,自动驾驶汽车得以实现离不开感知系统、决策系统和控制系统,三大系统让
    的头像 发表于 04-10 08:44 893次阅读
    感知硬件,<b class='flag-5'>自动驾驶</b><b class='flag-5'>汽车</b>“看”路奥秘