反乌托邦的未来和自治武器的辩论:“杀手机器人”该不该存在

IEEE电气电子工程师学会 2017-12-11 15:43 次阅读

 

近日,在日内瓦联合国举行了常规武器公约关于致命自主武器系统的政府专家小组第一次会议。像“停止杀手机器人运动”这样的组织正在鼓励联合国推进自主武器的国际监管,这很好,因为谈论这些问题将如何影响机器人和社会的未来是一件非常重要的事情。

然而近日看到了一个视频,让我觉得这是一场令人不安的自主武器辩论。在Elon Musk的“未来生活研究所”的支持下制作的这部名为“屠宰机器人”的视频将图像暴力与技术合理性相结合,想象一个非常暗淡的场景:一个虚构的不久的将来,自主携带爆炸物的微型无人机在世界各地正在杀死数千人。

我们不会在这里嵌入视频,因为它包含了一些暴力场景,包括教室里的恐怖袭击(!)。

让我感到非常失望的是机器人和人工智能研究人员,我本来是很尊重的,他们会支持这种耸人听闻的说法,这似乎是为了让人们感到震惊和恐慌,而不是传递任何有用的信息,来了解实际的问题是什么。这里的信息似乎是,如果你有兴趣讨论这些问题,或者你认为可能有其他可能更有效的方法来塑造未来的自主武器,除了呼吁禁止,那么你就和恐怖分子站在一边。这是一种非常熟悉的修辞形式,它被证明是有效的,因为它的目的不是要传达事实,而是利用情绪和恐惧。另一个问题是,像这样的视频,由学者创建和推广,可能会让公众更加不信任和害怕机器人,这是机器人界长期以来一直反对的事情。

就个人而言,我不是“杀手机器人”,也不是“有意义的人类控制之外的自主武器”。在这一点上,我觉得很难支持彻底的禁止,因为我认为这样做对于一个尚未完全表征的复杂问题是一个潜在的无效的解决办法。人工智能和武器控制专家们仍然在讨论什么,特别是应该受到管制或禁止,以及如何执行。说“我们有机会阻止你刚才看到的未来”,正如加州大学伯克利分校教授斯图尔特·拉塞尔(Russell,“屠宰机器人”的创造者之一)在录像结束时所做的那样,是一种过于简单化,在我看来,自主武器不会阻碍无人机的小型化,不会阻碍面部识别技术的进步,也不会妨碍二者的融合,这就是“屠宰机器人”呈现的方案。

当被问及这部电影是否依赖恐怖主义时,罗素的一位同事,新南威尔士大学的一位AI教授托比·沃尔什(Toby Walsh)也不同意。他说:“这不是恐惧。“俄罗斯驻联合国大使刚才对联合国常设委员会会议说,我们不用担心致命的自主武器,因为它们太遥远了,不必担心。相反,这部电影的目的是要证明我们离自主武器有多近。它显示了如果把一些现有的技术和这种技术的滥用放在一起,会发生什么事情。

两年前,我回应了第一封公开信,呼吁禁止攻击性自主武器,提出另一种观点,即为什么自主武器也可能是有益的。拉塞尔和沃尔什以及麻省理工学院教授马克斯·泰格马克(Max Tegmark)在IEEE《科技纵览》出版的一篇文章中做了回应,该文章从以下几点开始:

“我们欢迎埃文·阿克曼(Evan Ackerman)为拟议禁止攻击性自主武器的讨论做出贡献。这是一个复杂的问题,双方都有需要仔细权衡的有趣论据。“

我完全同意。现在进行这个讨论是为了更加和平的未来而努力的最好的方式,但是为了做到这一点,我们必须进行讨论,而不是制造吓人的视频来诋毁我们不同意的人,同时加强不切实际和日益消极的看法,人们已经有了机器人技术。

 

热门推荐

原文标题:有关致命的微型无人机,反乌托邦的未来和自治武器的辩论

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师学会】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

对于模型和数据的可视化及可解释性的研究方法进行回顾

另一个有趣的tutorial是:Computer Vision for Robotics and D....

的头像 将门创投 发表于 06-21 18:09 123次 阅读
对于模型和数据的可视化及可解释性的研究方法进行回顾

国产机器人不用国产RV减速器的原因是什么?

全球工业机器人用的精密减速器基本为日本所垄断,最近几年,虽然国内也有量产的RV减速器,但却鲜有国产机....

的头像 工控帮 发表于 06-21 17:03 137次 阅读
国产机器人不用国产RV减速器的原因是什么?

扫地机器人最受欢迎的五大品牌

近些年扫地机器人俨然已经成为我们生活里最受欢迎的产品。这几年,随着“懒人经济”的兴起,大家慢慢把目光....

发表于 06-21 15:55 27次 阅读
扫地机器人最受欢迎的五大品牌

LDS R2扫地机器人,让你告别卫生烦恼

,LDS R2扫地机器人的其他部件也采用的是行业内最好的零件,例如电池上采用的是原装进口的锂电池,拥....

发表于 06-21 15:55 13次 阅读
LDS R2扫地机器人,让你告别卫生烦恼

配送机器人给你送快递会是什么感受?

想象一下,你收完快递后不用说谢谢?交警在指挥交通时,会不会有点小尴尬呢?

的头像 物联网技术 发表于 06-21 15:42 90次 阅读
配送机器人给你送快递会是什么感受?

家里卫生我全包,ILIFE智意X787智能规划扫地机器人,值得信赖

ILIFE智意X787的功能方面可以说是非常全面,它集智能路径规划和高效二合一扫拖系统于一身,拥有大....

发表于 06-21 15:40 21次 阅读
家里卫生我全包,ILIFE智意X787智能规划扫地机器人,值得信赖

市场渗透率低下,困扰着国内和全球扫地机器人产业的发展

当前,随着国民经济水平的不断提高,和城市化进程的加快,人均收入和住房面积都在不断增加,而在智能化、自....

发表于 06-21 15:40 26次 阅读
市场渗透率低下,困扰着国内和全球扫地机器人产业的发展

斐纳TOMEFON-TF-880S智能扫地机器人,家庭好保姆

斐纳TOMEFON TF-880S智能扫地机器人采用当前最先进的无线载波定位导航系统和专用智能芯片,....

发表于 06-21 15:40 14次 阅读
斐纳TOMEFON-TF-880S智能扫地机器人,家庭好保姆

小丹机器人,家庭的保姆,孩子的伙伴

童年是人生中最美好的一段时光,记得以前,那时还没有高楼大厦,没有手机和电脑,在巷子口和一群小伙伴一起....

发表于 06-21 15:40 20次 阅读
小丹机器人,家庭的保姆,孩子的伙伴

俄罗斯利用机器人实战,发现缺陷重重

从公开的资料来看,俄罗斯战斗机器人在叙利亚作战时只能对两公里内的距离进行侦察和确定目标。此外,光学望....

发表于 06-21 15:40 18次 阅读
俄罗斯利用机器人实战,发现缺陷重重

激光切割作为金属加工的重要方法,得到了大量的使用

专为Cutting Tool而开发的图形生成软件,能够根据参数设定自动生成多种常见形状的定位孔切割....

的头像 工业机器人应用方案 发表于 06-21 15:33 157次 阅读
激光切割作为金属加工的重要方法,得到了大量的使用

医院使用机器人“优优”,为患者指导就医流程及康复建议

呼叫患者姓名后,“优优”通过人脸识别,确认患者,引导患者去注射室、休息室,为患者提供引导、宣教,并进....

发表于 06-21 14:55 14次 阅读
医院使用机器人“优优”,为患者指导就医流程及康复建议

未来机器人是否会代替我们的工作夺走我们的一切,你怎么看

随着《中国制造2025》规划落地,我国的机器人产业进入高速追赶期。在山东,在青岛,有很多行业已经由机....

发表于 06-21 14:55 64次 阅读
未来机器人是否会代替我们的工作夺走我们的一切,你怎么看

听听专家们说说我国机器人教育还存在哪些问题

能够看出中国机器人教育存在的问题还是非常多的,希望所有的投身机器人事业的人一定要多努力,争取缩小与西....

发表于 06-21 14:55 29次 阅读
听听专家们说说我国机器人教育还存在哪些问题

如何在健康人体中获得神经元的电活动

所以,我们就发明了替代方法。最受欢迎的可能是功能性核磁共振成像(fMRI),它可以制作这些漂亮的图片....

的头像 人工智能学家 发表于 06-21 14:47 128次 阅读
如何在健康人体中获得神经元的电活动

惊呆了!“读心”机器人,真有那么神奇吗

近日,麻省理工(MIT)的研究人员们就展示了一套这样的人机交互装置。其结合了“脑电 + 手势”的方案....

发表于 06-21 14:40 28次 阅读
惊呆了!“读心”机器人,真有那么神奇吗

机器人可以通过操作人员的脑电波,思维命令执行任务

网易科技讯 6月21日消息,据VentureBeat报道,用思维控制机器人并不像听起来那么遥不可及。....

发表于 06-21 14:40 13次 阅读
机器人可以通过操作人员的脑电波,思维命令执行任务

一种可以作为人造肌肉用于微仿生机器人的新材料

香港大学的一个机械工程师团队引入了一种革命性的驱动材料——氢氧化镍-氢氧化物。

的头像 机器人在线订阅号 发表于 06-21 14:10 145次 阅读
一种可以作为人造肌肉用于微仿生机器人的新材料

弘扬“雷克”精神,拥抱智能时代

今年的雷克大会选在了大力发展人工智能产业的天津市。本届雷克大会主题为“智能先行,雷克引领”,不仅有一....

的头像 天津机器人 发表于 06-21 11:34 268次 阅读
弘扬“雷克”精神,拥抱智能时代

擎朗机器人正改变餐桌文化

上海擎朗智能科技有限公司(以下简称:擎朗)正在加快实现机器人送餐的落地,从厨房到餐桌的距离由机器人来....

的头像 1号机器人网 发表于 06-21 11:26 199次 阅读
擎朗机器人正改变餐桌文化

麻省理工设计微型芯片,让无人机像指甲盖一样小

近日,麻省理工学院宣布设计出只有20平方毫米的微型计算机芯片,可处理惯性和相机图像,并且让无人机像指....

发表于 06-21 10:15 36次 阅读
麻省理工设计微型芯片,让无人机像指甲盖一样小

多家互联网巨头加入无人配送的“大战役”

4月18日,菜鸟打造的专门用于物流末端配送的无人车在杭州进行首次公开路测。

的头像 高工智能汽车 发表于 06-21 10:15 206次 阅读
多家互联网巨头加入无人配送的“大战役”

大疆售后体系大升级:增添“随心换”和“随心续享”服务

对于一家消费电子企业来说,售后服务可谓一条生命线。大疆创新(下称“大疆”)正在把越来越多的资源投入到....

的头像 无人机网 发表于 06-21 10:00 226次 阅读
大疆售后体系大升级:增添“随心换”和“随心续享”服务

即使没有GPS网络覆蓋 无人机也可以精准落地

无人机物联网开发商Flytbase成功利用「电脑视觉技术」(Computer Vision Tech....

的头像 无人机网 发表于 06-21 09:47 243次 阅读
即使没有GPS网络覆蓋 无人机也可以精准落地

京东自主研发的第一架重型无人机正式下线

“说句心里话:今年618最让我高兴的是我们第一架重型无人机正式下线!”19日,京东集团董事局主席兼首....

的头像 无人机网 发表于 06-21 09:44 273次 阅读
京东自主研发的第一架重型无人机正式下线

鸭蛋植保无人机 根据使用场景而设计

它根据使用场景而设计,转场,加药,换电池,组装,维护,维修,方便且简单易学。

的头像 无人机网 发表于 06-21 09:41 407次 阅读
鸭蛋植保无人机 根据使用场景而设计

根据数据看出各国之间的制造业机器人密度情况

国际机器人联合会主席Junji Tsuda说:“机器人密度是一个很好的比较标准,方便比较各国制造业自....

发表于 06-21 09:40 32次 阅读
根据数据看出各国之间的制造业机器人密度情况

Sensefly大中华区负责人来访无人机网

6月19日下午,隶属于法国Parrot旗下的瑞士Sensefly公司大中华区负责人刘艳红女士来访无人....

的头像 无人机网 发表于 06-21 09:37 233次 阅读
Sensefly大中华区负责人来访无人机网

蛇机器人的控制与设计

发表于 06-20 18:53 102次 阅读
蛇机器人的控制与设计

机器蛇

发表于 06-20 18:49 108次 阅读
机器蛇

无人机送生鲜 享受分钟级服务

最近,一家新零售“网红”店在广州开业,在三公里半径内使用无人机配送,15-20分钟就可送达。这是广州....

的头像 机器人前沿 发表于 06-20 15:17 248次 阅读
无人机送生鲜 享受分钟级服务

无人机四大系统的作用和发展趋势

飞控子系统是无人机完成起飞、空中飞行、执行任务和返场回收等整个飞行过程的核心系统,飞控对于无人机相当....

的头像 Imagination Tech 发表于 06-20 15:12 320次 阅读
无人机四大系统的作用和发展趋势

AICRobo仓储拣运机器人助力智慧仓储普及化发展

今年618京东进一步完善智慧物流体系的建设,仓储机器人军团将迎来新成员AICRobo仓储拣运机器人。

的头像 机器人在线订阅号 发表于 06-20 15:09 202次 阅读
AICRobo仓储拣运机器人助力智慧仓储普及化发展

配送机器人厂商普渡科技获5000万元A轮融资

普渡已将配送机器人核心技术形成了平台化能力,可以基于同一套技术平台结合不同垂直行业开发相应的机器人解....

的头像 机器人创新生态 发表于 06-20 15:01 408次 阅读
配送机器人厂商普渡科技获5000万元A轮融资

京东配送机器人 会主动避人还能自己过红绿灯!

“送完快递自主离开,见了行人自动避让,遇到红绿灯还能自己通过。”近日有北京的居民发现,几辆印着京东标....

的头像 天津机器人 发表于 06-20 14:57 391次 阅读
京东配送机器人 会主动避人还能自己过红绿灯!

AI的暴力检测是什么?还存在什么问题?

“暴力检测”成为了当下的一个热门。在人群中实时检测“暴力行为”成为了现实,如果你想打架,最好先看看A....

的头像 天津机器人 发表于 06-20 14:47 327次 阅读
AI的暴力检测是什么?还存在什么问题?

关于无人机飞行控制系统的全面解析

在四轴飞行器的飞控主板上,需要用到的芯片并不多。目前的玩具级飞行器还只是简单地在空中飞行或停留,只....

发表于 06-20 14:45 72次 阅读
关于无人机飞行控制系统的全面解析

关于无人机遥感技术的全面介绍

无人机遥感(UnmannedAerialVehicleRemoteSensing),既是利用先进的....

发表于 06-20 14:42 68次 阅读
关于无人机遥感技术的全面介绍

机器人或取代人类当厨师?

一家名为Spyce的初创企业,并未致力于将技术应用于其他食品业务,而是在波士顿开办了一个使用机器人操....

的头像 天津机器人 发表于 06-20 14:40 413次 阅读
机器人或取代人类当厨师?

中国战斗机器人现身中东战场 配合无人机收割狙击手

近期,伊拉克研发了一种战斗机器人,并且还投入到了近期在伊拉克北部的城市巷战当中。这种战斗机器人也可以....

的头像 天津机器人 发表于 06-20 14:35 230次 阅读
中国战斗机器人现身中东战场 配合无人机收割狙击手

零度智控携ZT-3V全面布局警用安防领域

6月14日,在天津港保税区临港区域无人机产业园,多架固定翼无人机自动编队、拉烟、超低空通场、锁定追车....

的头像 无人机网 发表于 06-20 14:08 249次 阅读
零度智控携ZT-3V全面布局警用安防领域

DJI Matrice无人机换路灯年底投入服务

为进一步提高维修效率,瑞典电灯生产商 Strihl研发 LumenAIR 自动飞行路灯保养系统,利用....

的头像 无人机网 发表于 06-20 14:05 183次 阅读
DJI Matrice无人机换路灯年底投入服务

NASA无人机Ikhana创造无人机领域的里程碑

据外媒CNET报道,美国宇航局(NASA)的Ikhana飞机看起来像一架全尺寸的飞机,但机上并没有飞....

的头像 无人机网 发表于 06-20 14:02 204次 阅读
NASA无人机Ikhana创造无人机领域的里程碑

西南首个“无人系统(无人机)智能装备产业园”项目正式签约

西南首个“无人系统(无人机)智能装备产业园” 项目签约活动在潼南区行政中心隆重举行。无人机网西南运营....

的头像 无人机网 发表于 06-20 13:53 293次 阅读
西南首个“无人系统(无人机)智能装备产业园”项目正式签约

工业5.0:人机协作不只是未来

如果企业无法保持自身的竞争力,工人将面临极大的就业威胁。而采用自动化的企业可以提升产品质量、提高产量....

的头像 机器人在线订阅号 发表于 06-20 11:33 314次 阅读
工业5.0:人机协作不只是未来

柯马机器人在工业4.0战略方向上的发展进程

镨罗机械董事长李世明则表示:“镨罗机械作为柯马机器人及自动化产品事业部在中国台湾的独家代理,拥有多年....

的头像 机器人在线订阅号 发表于 06-20 11:31 373次 阅读
柯马机器人在工业4.0战略方向上的发展进程

大疆开启全球飞行影像新时代,展现出改造世界的无限可能

如今,12年弹指而过,大疆已经从起初的3人创业团队,发展到现在全球员工人数超过12000人,客户遍布....

的头像 机器人前沿 发表于 06-20 11:26 488次 阅读
大疆开启全球飞行影像新时代,展现出改造世界的无限可能

零度重回无人机市场 打造复合翼无人机

再来看看今天的新品零度智控的ZT-3V,垂直起降的固定翼无人机又称复合翼无人机,早已不是什么新鲜事物....

的头像 无人机网 发表于 06-20 11:17 382次 阅读
零度重回无人机市场 打造复合翼无人机

如何推动水环境持续改善?治水“神器”

“利用无人机巡河,不但可以对河道漂浮物、河岸保洁情况进行全方位的拍摄记录,而且可以更高效地收集河流水....

的头像 机器人创新生态 发表于 06-20 11:15 358次 阅读
如何推动水环境持续改善?治水“神器”

京东无人科技规模化应用在全面布局

在送货过程中,京东配送机器人自主停靠配送点,由雷达+传感器进行360度环境监测,自动规避道路障碍与往....

的头像 机器人创新生态 发表于 06-20 11:13 305次 阅读
京东无人科技规模化应用在全面布局

无人机中基于stm 32的电机拉力测试系统怎么编程呀?

发表于 06-15 11:26 225次 阅读
无人机中基于stm 32的电机拉力测试系统怎么编程呀?

ai智能外呼机器人引领时代浪潮

发表于 06-15 10:34 46次 阅读
ai智能外呼机器人引领时代浪潮

用航模锂电池给一台机器人供电,但是每次换电池都需要把电源断开,可否将两块电池并联在电源处?

发表于 05-29 09:14 504次 阅读
用航模锂电池给一台机器人供电,但是每次换电池都需要把电源断开,可否将两块电池并联在电源处?

再战南京!RM2018中部分区赛群雄逐鹿,一战方休!

发表于 05-15 21:12 452次 阅读
再战南京!RM2018中部分区赛群雄逐鹿,一战方休!

AMEYA360设计方案丨无人机遥控手柄

发表于 05-11 17:20 456次 阅读
AMEYA360设计方案丨无人机遥控手柄

走直线很难吗?陀螺仪表示,少了它机器人连直线都走不了

发表于 05-11 11:52 287次 阅读
走直线很难吗?陀螺仪表示,少了它机器人连直线都走不了

走到哪都不会迷路,全自动机器人是怎么导航的?

发表于 05-11 11:51 344次 阅读
走到哪都不会迷路,全自动机器人是怎么导航的?

机器人也能感知?一篇文章告诉你传感器的秘密

发表于 05-11 11:34 315次 阅读
机器人也能感知?一篇文章告诉你传感器的秘密