反乌托邦的未来和自治武器的辩论:“杀手机器人”该不该存在

IEEE电气电子工程师学会 2017-12-11 15:43 次阅读

 

近日,在日内瓦联合国举行了常规武器公约关于致命自主武器系统的政府专家小组第一次会议。像“停止杀手机器人运动”这样的组织正在鼓励联合国推进自主武器的国际监管,这很好,因为谈论这些问题将如何影响机器人和社会的未来是一件非常重要的事情。

然而近日看到了一个视频,让我觉得这是一场令人不安的自主武器辩论。在Elon Musk的“未来生活研究所”的支持下制作的这部名为“屠宰机器人”的视频将图像暴力与技术合理性相结合,想象一个非常暗淡的场景:一个虚构的不久的将来,自主携带爆炸物的微型无人机在世界各地正在杀死数千人。

我们不会在这里嵌入视频,因为它包含了一些暴力场景,包括教室里的恐怖袭击(!)。

让我感到非常失望的是机器人和人工智能研究人员,我本来是很尊重的,他们会支持这种耸人听闻的说法,这似乎是为了让人们感到震惊和恐慌,而不是传递任何有用的信息,来了解实际的问题是什么。这里的信息似乎是,如果你有兴趣讨论这些问题,或者你认为可能有其他可能更有效的方法来塑造未来的自主武器,除了呼吁禁止,那么你就和恐怖分子站在一边。这是一种非常熟悉的修辞形式,它被证明是有效的,因为它的目的不是要传达事实,而是利用情绪和恐惧。另一个问题是,像这样的视频,由学者创建和推广,可能会让公众更加不信任和害怕机器人,这是机器人界长期以来一直反对的事情。

就个人而言,我不是“杀手机器人”,也不是“有意义的人类控制之外的自主武器”。在这一点上,我觉得很难支持彻底的禁止,因为我认为这样做对于一个尚未完全表征的复杂问题是一个潜在的无效的解决办法。人工智能和武器控制专家们仍然在讨论什么,特别是应该受到管制或禁止,以及如何执行。说“我们有机会阻止你刚才看到的未来”,正如加州大学伯克利分校教授斯图尔特·拉塞尔(Russell,“屠宰机器人”的创造者之一)在录像结束时所做的那样,是一种过于简单化,在我看来,自主武器不会阻碍无人机的小型化,不会阻碍面部识别技术的进步,也不会妨碍二者的融合,这就是“屠宰机器人”呈现的方案。

当被问及这部电影是否依赖恐怖主义时,罗素的一位同事,新南威尔士大学的一位AI教授托比·沃尔什(Toby Walsh)也不同意。他说:“这不是恐惧。“俄罗斯驻联合国大使刚才对联合国常设委员会会议说,我们不用担心致命的自主武器,因为它们太遥远了,不必担心。相反,这部电影的目的是要证明我们离自主武器有多近。它显示了如果把一些现有的技术和这种技术的滥用放在一起,会发生什么事情。

两年前,我回应了第一封公开信,呼吁禁止攻击性自主武器,提出另一种观点,即为什么自主武器也可能是有益的。拉塞尔和沃尔什以及麻省理工学院教授马克斯·泰格马克(Max Tegmark)在IEEE《科技纵览》出版的一篇文章中做了回应,该文章从以下几点开始:

“我们欢迎埃文·阿克曼(Evan Ackerman)为拟议禁止攻击性自主武器的讨论做出贡献。这是一个复杂的问题,双方都有需要仔细权衡的有趣论据。“

我完全同意。现在进行这个讨论是为了更加和平的未来而努力的最好的方式,但是为了做到这一点,我们必须进行讨论,而不是制造吓人的视频来诋毁我们不同意的人,同时加强不切实际和日益消极的看法,人们已经有了机器人技术。

 

热门推荐

原文标题:有关致命的微型无人机,反乌托邦的未来和自治武器的辩论

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师学会】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

一飞提前布局无人机能源领域 直击电池续航痛点

 在工业级“蓝海”时代,“电池续航”成了当前发展的一个致命短板,放眼通航领域,都在期待一场电池革命,....

的头像 无人机网 发表于 12-17 17:14 469次 阅读
一飞提前布局无人机能源领域 直击电池续航痛点

类生命机器人使能领域取得最新成果

近日,国际学术期刊Small 以封面刊载的形式,邀请刊载了中国科学院沈阳自动化研究所机器人学研究室微....

的头像 天津机器人 发表于 12-17 16:47 92次 阅读
类生命机器人使能领域取得最新成果

水手3+防水无人机如何兼顾优秀防水和航拍效果的?

众所周知,电子产品最怕的就是水,像无人机这样产品甚至遇水就报废。但最近看到一款新的防水无人机面世,看相关介绍,这款无人机...

发表于 12-17 16:36 56次 阅读
水手3+防水无人机如何兼顾优秀防水和航拍效果的?

机器人和人工智能的进步 带动世界快速变化

2018年不乏新闻,人工智能和机器人技术的快速变化世界也不例外。

发表于 12-17 16:04 392次 阅读
机器人和人工智能的进步 带动世界快速变化

隧道机器人设计是否被选中 还有待观察

美国国家航空航天局伽利略号宇宙飞船多次飞越木星的卫星木卫二(1995年至2003年间)。从对月球的观....

发表于 12-17 16:01 27次 阅读
隧道机器人设计是否被选中 还有待观察

利用阵风和热量飞行的新型无人机

无人机的设计可以从鸟类的身上汲取灵感。皇家墨尔本理工学院(RMIT)与ISAE-Supaéro合作进....

的头像 无人机网 发表于 12-17 15:32 97次 阅读
利用阵风和热量飞行的新型无人机

以色列为何斥巨资批量采购无人机

Globes(以色列当地媒体)的一项调查表明,从以色列国防军最近几个月的训练动向来看,军队采取的总体....

的头像 无人机网 发表于 12-17 15:26 126次 阅读
以色列为何斥巨资批量采购无人机

一起来领略一下折纸机器人的风采

折纸最突出的特点之一,便是变形。简单的纸张能够在人们的手中变换不同的形状。之前NASA便研发出一种体....

的头像 机器人大讲堂 发表于 12-17 15:20 111次 阅读
一起来领略一下折纸机器人的风采

千亿级市场催生多种玩家 AI陪练只能“远观”不可“细究”

作为一个琴童的家长,督促孩子练琴是件头疼的事情。请老师陪练,除了需要额外支出一笔课时费外,家与琴行之....

发表于 12-17 15:01 246次 阅读
千亿级市场催生多种玩家 AI陪练只能“远观”不可“细究”

韩国研发全球手速最快的仿人机器人

韩国KoreaTech开发的一款基于肌腱驱动技术的双臂机器人名字叫做LIMS2-AMBIDEX,在今....

的头像 TechSugar 发表于 12-17 14:51 95次 阅读
韩国研发全球手速最快的仿人机器人

机器人控制系统概念!机器人控制系统的基本要求

机器人控制系统是指由控制主体、控制客体和控制媒体组成的具有自身目标和功能的管理系统。控制系统意味着通....

的头像 传感器技术 发表于 12-17 14:28 138次 阅读
机器人控制系统概念!机器人控制系统的基本要求

在网上如何区别机器人和真人

目前基本还是要靠验证码,目前已经用了近20年,但这招以后可能不管用了!中英两国研究人员联合开发了一套....

的头像 通信信号处理研究所 发表于 12-17 13:52 148次 阅读
在网上如何区别机器人和真人

自动化会毁灭还是创造更多的工作岗位?

大型零售商们表示,自动化技术可以帮助他们更快速地向客户提供货物,完成客户的订单。 比如亚马逊就表示,....

的头像 1号机器人网 发表于 12-17 13:41 115次 阅读
自动化会毁灭还是创造更多的工作岗位?

随着技术的成熟 机器人市场正遍地开花

简而言之,人工智能机器人主要是指运用信息技术,使机器人具备人的智慧,让机器人学会学习知识并掌握先进技....

发表于 12-17 13:31 40次 阅读
随着技术的成熟 机器人市场正遍地开花

工程师开发出一种可折叠的无人机,它可以缩小自身以穿过小孔

但如果没有新型的无人机控制系统,那么所有的折叠都没有用。当四旋翼臂向不同的方向折叠时,无人机的重心会....

的头像 无人机网 发表于 12-17 11:40 323次 阅读
工程师开发出一种可折叠的无人机,它可以缩小自身以穿过小孔

预计到2023年中国人工智能机器人市场规模将达到331亿元

因此,美国科幻作家阿西莫夫提出了人工智能机器人的三大守则。首先,人工智能机器人不能危害人类的安全,也....

发表于 12-17 11:37 64次 阅读
预计到2023年中国人工智能机器人市场规模将达到331亿元

极飞正式发布P系列2019款植保无人机:P20 2019款、P30 2019款

搭载了极飞最新的 SUPERX®3 Pro RTK 飞控系统,精准导航,不差毫厘;四向雷达与天目视觉....

的头像 无人机网 发表于 12-17 11:36 223次 阅读
极飞正式发布P系列2019款植保无人机:P20 2019款、P30 2019款

Wandelbots获600万欧元融资 助力解决机器人的编程复杂和成本高等问题

到2020年,工业机器人技术市场规模有望达到200亿美元。尽管这一领域与其他尖端科技之间存在共通之处....

发表于 12-17 11:28 35次 阅读
Wandelbots获600万欧元融资 助力解决机器人的编程复杂和成本高等问题

人工智能与机器人的发展不仅可以科技强国 还可以拉动经济增长

前段时间,中国电子学会发布了《机器人十大新兴应用领域(2018-2019年)》的研究成果。

发表于 12-17 10:50 50次 阅读
人工智能与机器人的发展不仅可以科技强国 还可以拉动经济增长

国产机器人的软肋日趋凸显 造成的同质化严重

国产机器人的软肋日趋凸显,经过两年多的迅猛发展,机器人行业的无序发展,造成的同质化严重,各家出货量受....

发表于 12-17 10:45 33次 阅读
国产机器人的软肋日趋凸显 造成的同质化严重

你还没见过的人工智能机器人大盘点

播音机器人:可以模仿真人的声音,把你的声音合成音频,通过大量录制你生活、工作的声音,智能合成你在喜怒....

发表于 12-17 10:37 58次 阅读
你还没见过的人工智能机器人大盘点

家乐福正式宣布与顺丰合作的无人机诞生

在电商物流难以到达的偏远的小村庄,家乐福将携手顺丰,通过无人机将货品配送到家。

的头像 无人机网 发表于 12-17 09:01 227次 阅读
家乐福正式宣布与顺丰合作的无人机诞生

英国用无人机来保护皇家空军阿克罗蒂里基地

英国皇家空军霍宁顿部队防护中心的人员最近进行了一次作战能力演示,使用一架Aeryon SkyRang....

的头像 无人机网 发表于 12-17 08:54 141次 阅读
英国用无人机来保护皇家空军阿克罗蒂里基地

外骨骼机器人利用传感器读取人体运动意图 助力残疾人正常行走

中国科学院深圳先进技术研究院智能仿生研究中心执行主任吴新宇告诉记者,外骨骼机器人是集机械、电子、计算....

发表于 12-17 08:49 29次 阅读
外骨骼机器人利用传感器读取人体运动意图 助力残疾人正常行走

基于5G网联无人机联合创新实验室揭牌

5G时代的超高带宽、低时延、高可靠、广覆盖大连接特性,将为网联无人机赋予实时超高清图传、远程低时延控....

的头像 无人机网 发表于 12-17 08:42 180次 阅读
基于5G网联无人机联合创新实验室揭牌

三院民用小型多用途长航时无人机完成首飞

近日,302所HW-350小型多用途长航时无人机圆满完成首飞,自主起飞降落平稳,全自主飞行过程中姿态....

的头像 无人机网 发表于 12-17 08:39 184次 阅读
三院民用小型多用途长航时无人机完成首飞

空客在西澳大利亚州开设全球首个HAPS飞行基地

空中客车防务与航天公司宣布开通世界上第一个高空伪卫星(HAPS)飞行基地,作为西澳大利亚州温德姆的Z....

的头像 无人机网 发表于 12-17 08:35 148次 阅读
空客在西澳大利亚州开设全球首个HAPS飞行基地

六种无感无刷电机驱动制作方案的详细资料说明

 无刷电机很多地方都有,如四轴无人机电机、高速涵道风扇、硬盘电机等: 它们有三根线引出,若是有霍尔....

发表于 12-17 08:00 17次 阅读
六种无感无刷电机驱动制作方案的详细资料说明

机器人Rt800示教器的操作用户手册资料免费下载

本文档的主要内容详细介绍的是机器人Rt800示教器的操作用户手册资料免费下载。

发表于 12-17 08:00 8次 阅读
机器人Rt800示教器的操作用户手册资料免费下载

如何进行智能陪跑机器人的详细设计方案资料说明

随着科技的发展,越来越多的机器人走进我们的生活,它们也逐渐涉及各个领域。现如今,人们越来越注重健康的....

发表于 12-17 08:00 14次 阅读
如何进行智能陪跑机器人的详细设计方案资料说明

极飞科技发布无人机新产品

极飞科技举办年度大会,并在年度大会上举办新品牌和全球新产品系列发布。

发表于 12-16 10:57 120次 阅读
极飞科技发布无人机新产品

Net Guard无人机帮助摩天大楼高层救援

来自广东工业大学的设计团队研发了一种基于无人机的高层救援装置,如果摩天大楼遭遇或在,能够帮助那些在高....

发表于 12-16 10:19 101次 阅读
Net Guard无人机帮助摩天大楼高层救援

墨西哥波音737客机与无人机撞上

墨西哥航空公司正在调查旗下一架波音737客机是否在靠近墨美边境的墨西哥西北部城市蒂华纳罗德里格兹国际....

发表于 12-16 10:09 420次 阅读
墨西哥波音737客机与无人机撞上

2018年上半年国产工业机器人市场销售保持平稳

中国机器人产业联盟(简称CRIA)在2018中国机器人产业发展大会上发布2018年上半年中国市场国产....

发表于 12-16 09:36 123次 阅读
2018年上半年国产工业机器人市场销售保持平稳

机器人化的自动化作用是什么?

工作场所中人与机器人的竞争话题已经长时间成为人们关注的焦点。谷歌推出了可以打电话给餐馆和沙龙进行预约....

发表于 12-16 09:24 79次 阅读
机器人化的自动化作用是什么?

日本研发机器人代替人类播报新闻工作

大阪大学机器人教授石黑浩研究的机器人艾丽卡将替代一部分人类新闻播报的工作,具体就职哪家电视台,现在还....

发表于 12-16 09:17 88次 阅读
日本研发机器人代替人类播报新闻工作

2018年你不得本了解的全球十大机器人新品介绍

随着科技的进步,制造行业已不再是人力为王的时代,为满足自动化生产的需求,越来越多的工厂企业引进机器人....

的头像 工业机器人 发表于 12-15 11:46 415次 阅读
2018年你不得本了解的全球十大机器人新品介绍

我国的机器人产业的这些扶持政策你了解吗快来了解吧

我国同发达国家相比,我们的机器人产业存在自主创新能力不强、产品以中低端为主、企业规模偏小、产品质量参....

的头像 国联视讯工业机器人信息服务 发表于 12-15 11:41 709次 阅读
我国的机器人产业的这些扶持政策你了解吗快来了解吧

发那科机器人的正确操作方法及步骤

1、通电 1)将操作者面板上的断路器置于ON 2)接通电源前,检查工作区域包括机器人、控....

发表于 12-15 10:33 74次 阅读
发那科机器人的正确操作方法及步骤

我国包装机器人发展要想走向成熟还需企业政府行业三方面共同努力

如今,在食品、化工、医药、粮食、饲料、建材和物流等包装生产线中,一排排整齐划一、穿戴整齐的机械臂进行....

发表于 12-15 10:20 79次 阅读
我国包装机器人发展要想走向成熟还需企业政府行业三方面共同努力

业绩盘点:新三板激光设备企业排名

在营收增幅方面,增幅最大的是帝尔激光,与去年上半年相比增长122.59%,其次是邦德激光92.59%....

的头像 OFweek工控 发表于 12-14 16:52 761次 阅读
业绩盘点:新三板激光设备企业排名

2018年机器人领域十大最前沿技术盘点

2018年是机器人行业蓬勃发展的一年,人工智能的快速发展辐射到人们生活、生产制造的方方面面,尤其是A....

发表于 12-14 16:11 299次 阅读
2018年机器人领域十大最前沿技术盘点

崔恒斌:《金融智能——对话机器人新形态》的精彩演讲

经过2017年一年的努力,我们把蚂蚁金服的语音机器人做成业界标杆。业务上,创造性地在语音端引入未问先....

的头像 中国人工智能学会 发表于 12-14 15:49 615次 阅读
崔恒斌:《金融智能——对话机器人新形态》的精彩演讲

国产机器人迎来资本寒冬该何去何从

当大量资本坐江观望之时,刚刚迈入成长期的国产机器人又该何去何从?

的头像 工控头条 发表于 12-14 15:25 591次 阅读
国产机器人迎来资本寒冬该何去何从

服务机器人区别于工业机器人的关键技术是可以自主行动

随着人工智能技术的发展和社会需求的变化,服务机器人市场需求强劲,将超越工业机器人的增速,成为机器人行....

发表于 12-14 14:23 185次 阅读
服务机器人区别于工业机器人的关键技术是可以自主行动

Postmates推出一款造型可爱的送货机器人 能够携带50磅的货物

在美国 550 个城市运营食品杂货递送服务的 Postmates,刚刚推出了一款造型可爱的送货机器人....

发表于 12-14 14:20 33次 阅读
Postmates推出一款造型可爱的送货机器人 能够携带50磅的货物

Endevor Robotics公司公布了Scorpion机器人的设计明细及图片

Endevor Robotics公司在最后一轮竞标中脱颖而出(二选一),负责为美国军方提供新款多任务....

的头像 天津机器人 发表于 12-14 14:02 124次 阅读
Endevor Robotics公司公布了Scorpion机器人的设计明细及图片

国产医疗机器人开始频繁刷起“存在感”

当我们把目光放长到100年后,也许,医疗机器人的终极目标是100%替代人,搭建出一个全器械化的医疗世....

的头像 天津机器人 发表于 12-14 14:00 374次 阅读
国产医疗机器人开始频繁刷起“存在感”

抓起细嫩的豆腐一款柔性机器人手爪来说,是一件很简单的事情

12月11日,中国科大机器人实验室主任、计算机学院教授陈小平介绍,机器人末端夹持器(俗称机器人手爪)....

的头像 天津机器人 发表于 12-14 13:52 345次 阅读
抓起细嫩的豆腐一款柔性机器人手爪来说,是一件很简单的事情

以“新时代 新作为 新篇章”为主题的《中国机器人发展报告》发布会

此次发布的《中国机器人产业发展报告》,透彻的剖析了我国机器人产业发展的优势和不足,面临的机遇和前景,....

的头像 天津机器人 发表于 12-14 13:49 230次 阅读
以“新时代 新作为 新篇章”为主题的《中国机器人发展报告》发布会

大幕开启——专家学者观点纷呈2018中国机器人产业发展大会

在接下来的主旨报告环节,原工业和信息化部装备工业司司长、中国机器人产业联盟专家委员会委员张相木先生以....

的头像 天津机器人 发表于 12-14 11:45 462次 阅读
大幕开启——专家学者观点纷呈2018中国机器人产业发展大会

这些机器人视觉系统些关键技术,你必须要知道

机器人视觉系统是指用计算机来实现人的视觉功能,也就是用计算机来实现对客观的三维世界的识别。人类接收的信息70%以上来自视觉,...

发表于 12-13 21:23 50次 阅读
这些机器人视觉系统些关键技术,你必须要知道

招聘 全职 嵌入式硬件工程师 北京五道口机器人公司

一、职位描述 一、职位要求 1)负责项目从立项到样机再到量产,完成全部的电子电器及控制的设计、选型、调试、测试、完善电子...

发表于 12-13 16:40 234次 阅读
招聘 全职 嵌入式硬件工程师  北京五道口机器人公司

机器人行业,我从哪里入手

各位大神们好,我是刚毕业的大学生。我想进入机器人行业,但不知道从什么地方入手。你们能不能给我指点一下...

发表于 12-12 18:12 179次 阅读
机器人行业,我从哪里入手

机器人DIY教程:PVCBOT叠行者·尺蠖小车制作教程阻容1号

发表于 12-12 17:26 87次 阅读
机器人DIY教程:PVCBOT叠行者·尺蠖小车制作教程阻容1号

解读机器人的几大避障技术

随着机器人在工厂、仓库、酒店、商场、餐厅等环境中的使用,人们对机器人的移动能力越为重视,以至于避障成为一个极为关键且...

发表于 12-12 16:04 767次 阅读
解读机器人的几大避障技术

家用扫地机器人哪个牌子好?90后青年必备良品推荐

​ 对于每天奔波在职场中的年轻人来说,每天早出晚归,几乎没有太多的私人时间,如果还要让清洁卫生占据所剩不多的休息时...

发表于 12-11 11:50 444次 阅读
家用扫地机器人哪个牌子好?90后青年必备良品推荐

除了机器人行业,激光雷达还能应用于哪些领域?

历经40余年的发展,激光雷达技术已从最初的激光测距技术,逐步发展了激光跟踪、激光测速、激光扫描成像、激光多普勒成像等技术,...

发表于 12-10 14:55 153次 阅读
除了机器人行业,激光雷达还能应用于哪些领域?

DONI家用智能扫地机优势介绍

  当下中国社会飞速变化,人民生活水平不断提升,时代的进步在不断地推动家用电器的更新换代,以往我们热衷于购买手持吸尘器...

发表于 12-07 11:08 767次 阅读
DONI家用智能扫地机优势介绍

五招教你如何正确选择工业机器人力矩传感器

力/力矩传感器被广泛的应用与各个工业领域,如产品测试,机器人装配,打磨和抛光等。在研究领域传感器被用于外科手术机器人,仿生...

发表于 12-07 10:43 168次 阅读
五招教你如何正确选择工业机器人力矩传感器