反乌托邦的未来和自治武器的辩论:“杀手机器人”该不该存在

IEEE电气电子工程师学会 2017-12-11 15:43 次阅读

 

近日,在日内瓦联合国举行了常规武器公约关于致命自主武器系统的政府专家小组第一次会议。像“停止杀手机器人运动”这样的组织正在鼓励联合国推进自主武器的国际监管,这很好,因为谈论这些问题将如何影响机器人和社会的未来是一件非常重要的事情。

然而近日看到了一个视频,让我觉得这是一场令人不安的自主武器辩论。在Elon Musk的“未来生活研究所”的支持下制作的这部名为“屠宰机器人”的视频将图像暴力与技术合理性相结合,想象一个非常暗淡的场景:一个虚构的不久的将来,自主携带爆炸物的微型无人机在世界各地正在杀死数千人。

我们不会在这里嵌入视频,因为它包含了一些暴力场景,包括教室里的恐怖袭击(!)。

让我感到非常失望的是机器人和人工智能研究人员,我本来是很尊重的,他们会支持这种耸人听闻的说法,这似乎是为了让人们感到震惊和恐慌,而不是传递任何有用的信息,来了解实际的问题是什么。这里的信息似乎是,如果你有兴趣讨论这些问题,或者你认为可能有其他可能更有效的方法来塑造未来的自主武器,除了呼吁禁止,那么你就和恐怖分子站在一边。这是一种非常熟悉的修辞形式,它被证明是有效的,因为它的目的不是要传达事实,而是利用情绪和恐惧。另一个问题是,像这样的视频,由学者创建和推广,可能会让公众更加不信任和害怕机器人,这是机器人界长期以来一直反对的事情。

就个人而言,我不是“杀手机器人”,也不是“有意义的人类控制之外的自主武器”。在这一点上,我觉得很难支持彻底的禁止,因为我认为这样做对于一个尚未完全表征的复杂问题是一个潜在的无效的解决办法。人工智能和武器控制专家们仍然在讨论什么,特别是应该受到管制或禁止,以及如何执行。说“我们有机会阻止你刚才看到的未来”,正如加州大学伯克利分校教授斯图尔特·拉塞尔(Russell,“屠宰机器人”的创造者之一)在录像结束时所做的那样,是一种过于简单化,在我看来,自主武器不会阻碍无人机的小型化,不会阻碍面部识别技术的进步,也不会妨碍二者的融合,这就是“屠宰机器人”呈现的方案。

当被问及这部电影是否依赖恐怖主义时,罗素的一位同事,新南威尔士大学的一位AI教授托比·沃尔什(Toby Walsh)也不同意。他说:“这不是恐惧。“俄罗斯驻联合国大使刚才对联合国常设委员会会议说,我们不用担心致命的自主武器,因为它们太遥远了,不必担心。相反,这部电影的目的是要证明我们离自主武器有多近。它显示了如果把一些现有的技术和这种技术的滥用放在一起,会发生什么事情。

两年前,我回应了第一封公开信,呼吁禁止攻击性自主武器,提出另一种观点,即为什么自主武器也可能是有益的。拉塞尔和沃尔什以及麻省理工学院教授马克斯·泰格马克(Max Tegmark)在IEEE《科技纵览》出版的一篇文章中做了回应,该文章从以下几点开始:

“我们欢迎埃文·阿克曼(Evan Ackerman)为拟议禁止攻击性自主武器的讨论做出贡献。这是一个复杂的问题,双方都有需要仔细权衡的有趣论据。“

我完全同意。现在进行这个讨论是为了更加和平的未来而努力的最好的方式,但是为了做到这一点,我们必须进行讨论,而不是制造吓人的视频来诋毁我们不同意的人,同时加强不切实际和日益消极的看法,人们已经有了机器人技术。

 

IEEE电气电子工程师学会 技术专区

原文标题:有关致命的微型无人机,反乌托邦的未来和自治武器的辩论

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师学会】欢迎添加关注!文章转载请注明出处。

关注电子发烧友微信

有趣有料的资讯及技术干货

下载发烧友APP

打造属于您的人脉电子圈

关注发烧友课堂

锁定最新课程活动及技术直播
收藏 人收藏
分享:

评论

相关推荐

机器人技术应用于不锈钢抛光打磨的优势分析

传统的抛光设备各有各的优缺点,却都不能完全替代手工抛光打磨,传统的抛光设备不能满足小批量、工艺要求复....

的头像 机器人博览 发表于 01-16 11:27 次阅读 0条评论
机器人技术应用于不锈钢抛光打磨的优势分析

人工智能是解决教育危机这个问题的有效方案

教育危机在全世界都是一个大问题,人工智能也许是解决这个问题的有效方案。英国一位教育专家Anthony....

的头像 两个质子 发表于 01-16 10:50 次阅读 0条评论
人工智能是解决教育危机这个问题的有效方案

有效的资料管理是数码医疗成功的关键

要实现数码医疗承诺,医疗技术的未来焦点将放在监控、方便的照护,以及更有效的数据管理。随著非侵入式传感....

发表于 01-16 10:40 次阅读 0条评论
有效的资料管理是数码医疗成功的关键

对2018年中国服务机器人行业现状分析与家庭化发展前景的详细解析

2017年12月,工信部发布的《促进新一代人工智能产业发展三年行动计划(2018-2020年)》指出....

的头像 国联视讯工业机器人信息服务 发表于 01-16 10:35 次阅读 0条评论
对2018年中国服务机器人行业现状分析与家庭化发展前景的详细解析

台大团队推itrack追踪技术 成侦测无人机新利器

空拍无人机广受许多消费者喜爱,虽然此类装置可让使用者拍摄到与过往不同景色的角度与广度,但是无人机飞入....

发表于 01-16 09:24 次阅读 0条评论
台大团队推itrack追踪技术 成侦测无人机新利器

工业4.0改变我们工作方式的详细解析

随着机器人和物联网等技术的应用,制造业工厂的运作方式发生了改变。今天,工厂的效率在提高,生产线变得更....

的头像 OFweek工控 发表于 01-16 08:42 次阅读 0条评论
工业4.0改变我们工作方式的详细解析

赫瑞瓦特大学研发了一种可以教会自闭症的人读懂他人情绪的机器人

苏格兰的赫瑞瓦特大学研究团队想帮助这类人融入职场,所以研发了一种可以教会自闭症的人读懂他人情绪的机器....

的头像 中科院长春光机所 发表于 01-15 16:48 次阅读 0条评论
赫瑞瓦特大学研发了一种可以教会自闭症的人读懂他人情绪的机器人

利用51单片机制作廉价盒仔机器人的步骤过程解析

BOXZ,昵称盒仔,是一款开源的互动娱乐平台!百度一下,有很多盒仔的制作教程,基本都是用arduin....

的头像 玩转单片机 发表于 01-15 16:18 次阅读 0条评论
利用51单片机制作廉价盒仔机器人的步骤过程解析

nixie微型无人机的功能介绍_nixie微型无人机多少钱

本文主要介绍了nixie微型无人机的功能、nixie微型无人机的售价、nixie微型无人机产品特色和....

发表于 01-15 15:29 次阅读 0条评论
nixie微型无人机的功能介绍_nixie微型无人机多少钱

微型无人机发展前景_无人机发展趋势

本文对无人机发展的本质和小型无人机发展的必要性,其次对小型无人机发展现状进行了分析,最后对微型无人机....

发表于 01-15 14:55 次阅读 0条评论
微型无人机发展前景_无人机发展趋势

ADI与香港科技大学签署校企合作协议,机器人研究助力创新发展潜力

中国,北京 – Analog Devices, Inc. (ADI) 公司今天宣布,与香港科技大学机....

发表于 01-15 14:59 次阅读 0条评论
ADI与香港科技大学签署校企合作协议,机器人研究助力创新发展潜力

大疆做不做军用无人机

本文主要介绍了大疆无人机的发展战略、用实例说明大疆无人机不同系列之间的区别,最后详细的说明了大疆不做....

发表于 01-15 14:42 次阅读 0条评论
大疆做不做军用无人机

人机交互概念股龙头有哪些_人机交互概念股龙头一览

本文主要介绍了人机交互概念股龙头有哪些_人机交互概念股龙头一览。对5只人机交互概念股龙头价值进行了解....

发表于 01-15 12:12 次阅读 0条评论
人机交互概念股龙头有哪些_人机交互概念股龙头一览

Aflac与Sproutel合作推出社交鸭子机器人 旨在帮助孩子们面对癌症

Duck具有响应触摸的传感器,适应不同环境的麦克风和光线传感器,并能调整鸭子的行为。这款鸭子能跳舞,....

的头像 MEMS 发表于 01-15 11:49 次阅读 0条评论
Aflac与Sproutel合作推出社交鸭子机器人 旨在帮助孩子们面对癌症

机甲赛车机器人将在内华达州上演首秀 重3.5 吨时速32千米

据报道,在本届的CES上一款高4.2米,重达 3.5 吨的机甲机器人格外的引人注目,据可靠消息,这款....

发表于 01-15 09:47 次阅读 0条评论
机甲赛车机器人将在内华达州上演首秀 重3.5 吨时速32千米

大疆无人机如何在禁飞区起飞

本文介绍了什么是无人机,其次详细的介绍了无人机的技术特点与无人机工作流程,最后介绍了大疆无人机是如何....

发表于 01-15 09:39 次阅读 0条评论
大疆无人机如何在禁飞区起飞

改善无人机影像追踪痛点 台大CES团队推无线电波追随功能

在无人机的领域中,必定听过大疆(DJI)的Active track智能追随功能,其透过影像识别和机器....

发表于 01-15 09:42 次阅读 0条评论
改善无人机影像追踪痛点 台大CES团队推无线电波追随功能

水下无人机品牌有哪些

有媒体报道称,到 2020 年,中国无人潜器的市场规模将达到 800 亿元人民币级别,其中军用无人潜....

发表于 01-15 09:12 次阅读 0条评论
水下无人机品牌有哪些

powerray水下无人机简单介绍

跟市面上“换汤不换药”的空中无人机大不一样,水下无人机绝对算的上无人机市场的一股清流。除了水下摄影之....

发表于 01-15 08:43 次阅读 0条评论
powerray水下无人机简单介绍

夏普强打对话机器人 推广智能管家愿景

物联网(IoT)是贯串整个CEATEC 2017的主轴,从针对B2B商业应用开发的大型系统,到一般消....

发表于 01-15 05:09 次阅读 0条评论
夏普强打对话机器人 推广智能管家愿景