反乌托邦的未来和自治武器的辩论:“杀手机器人”该不该存在

IEEE电气电子工程师学会 2017-12-11 15:43 次阅读

 

近日,在日内瓦联合国举行了常规武器公约关于致命自主武器系统的政府专家小组第一次会议。像“停止杀手机器人运动”这样的组织正在鼓励联合国推进自主武器的国际监管,这很好,因为谈论这些问题将如何影响机器人和社会的未来是一件非常重要的事情。

然而近日看到了一个视频,让我觉得这是一场令人不安的自主武器辩论。在Elon Musk的“未来生活研究所”的支持下制作的这部名为“屠宰机器人”的视频将图像暴力与技术合理性相结合,想象一个非常暗淡的场景:一个虚构的不久的将来,自主携带爆炸物的微型无人机在世界各地正在杀死数千人。

我们不会在这里嵌入视频,因为它包含了一些暴力场景,包括教室里的恐怖袭击(!)。

让我感到非常失望的是机器人和人工智能研究人员,我本来是很尊重的,他们会支持这种耸人听闻的说法,这似乎是为了让人们感到震惊和恐慌,而不是传递任何有用的信息,来了解实际的问题是什么。这里的信息似乎是,如果你有兴趣讨论这些问题,或者你认为可能有其他可能更有效的方法来塑造未来的自主武器,除了呼吁禁止,那么你就和恐怖分子站在一边。这是一种非常熟悉的修辞形式,它被证明是有效的,因为它的目的不是要传达事实,而是利用情绪和恐惧。另一个问题是,像这样的视频,由学者创建和推广,可能会让公众更加不信任和害怕机器人,这是机器人界长期以来一直反对的事情。

就个人而言,我不是“杀手机器人”,也不是“有意义的人类控制之外的自主武器”。在这一点上,我觉得很难支持彻底的禁止,因为我认为这样做对于一个尚未完全表征的复杂问题是一个潜在的无效的解决办法。人工智能和武器控制专家们仍然在讨论什么,特别是应该受到管制或禁止,以及如何执行。说“我们有机会阻止你刚才看到的未来”,正如加州大学伯克利分校教授斯图尔特·拉塞尔(Russell,“屠宰机器人”的创造者之一)在录像结束时所做的那样,是一种过于简单化,在我看来,自主武器不会阻碍无人机的小型化,不会阻碍面部识别技术的进步,也不会妨碍二者的融合,这就是“屠宰机器人”呈现的方案。

当被问及这部电影是否依赖恐怖主义时,罗素的一位同事,新南威尔士大学的一位AI教授托比·沃尔什(Toby Walsh)也不同意。他说:“这不是恐惧。“俄罗斯驻联合国大使刚才对联合国常设委员会会议说,我们不用担心致命的自主武器,因为它们太遥远了,不必担心。相反,这部电影的目的是要证明我们离自主武器有多近。它显示了如果把一些现有的技术和这种技术的滥用放在一起,会发生什么事情。

两年前,我回应了第一封公开信,呼吁禁止攻击性自主武器,提出另一种观点,即为什么自主武器也可能是有益的。拉塞尔和沃尔什以及麻省理工学院教授马克斯·泰格马克(Max Tegmark)在IEEE《科技纵览》出版的一篇文章中做了回应,该文章从以下几点开始:

“我们欢迎埃文·阿克曼(Evan Ackerman)为拟议禁止攻击性自主武器的讨论做出贡献。这是一个复杂的问题,双方都有需要仔细权衡的有趣论据。“

我完全同意。现在进行这个讨论是为了更加和平的未来而努力的最好的方式,但是为了做到这一点,我们必须进行讨论,而不是制造吓人的视频来诋毁我们不同意的人,同时加强不切实际和日益消极的看法,人们已经有了机器人技术。

 

原文标题:有关致命的微型无人机,反乌托邦的未来和自治武器的辩论

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师学会】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

阿里巴巴机器人亮相云栖大会 语音交互自动下单

2018年云栖大会在9月19至22日在杭州云栖小镇举行,阿里巴巴展示了几款智能机器人,这些机器人比真....

的头像 电子发烧友网工程师 发表于 09-21 18:06 694次 阅读
阿里巴巴机器人亮相云栖大会 语音交互自动下单

耶鲁大学研究人员开发出的“机器皮肤”有望打造成可穿戴设备用于市场

为了让机器人更能适应环境,耶鲁大学的研究人员开发出了一种“机器皮肤”,它可以被安装到日常生活的各种用....

发表于 09-21 17:01 142次 阅读
耶鲁大学研究人员开发出的“机器皮肤”有望打造成可穿戴设备用于市场

中国机器人市场将超万亿元,国产机器人需向高端突破

据了解,机器人应用最广泛的是在汽车制造业。国际机器人联合会主席阿图罗·巴荣塞利认为,未来汽车制造业对....

的头像 机器人前沿 发表于 09-21 15:37 791次 阅读
中国机器人市场将超万亿元,国产机器人需向高端突破

物流企业引入机器人工作是必然的发展趋势

现在国内鼓吹机器人换人,确实在物流行业需要有机器人来缓解企业用工荒等问题,天猫、京东、苏宁等都已经逐....

的头像 1号机器人网 发表于 09-21 15:29 623次 阅读
物流企业引入机器人工作是必然的发展趋势

智能语音机器人在未来将无处不在

随着人工智能进入了2018年,在技术方面不断的创新改革,一些以语音交互的机器人逐渐的进入了大众的视野....

发表于 09-21 14:58 83次 阅读
智能语音机器人在未来将无处不在

铽罗机器人自主研发产品介绍

小铽T1AGV 外观尺寸1:L×W×H(mm) 800×600×270 本机车种:潜伏牵引;背负;后牵引 行进方向:直线往复运动...

发表于 09-21 14:51 188次 阅读
铽罗机器人自主研发产品介绍

注重交互将是企业服务机器人未来大趋势

如何去判断一个人的情绪,然后根据他的情绪进行之后的问答操作?

发表于 09-21 14:51 149次 阅读
注重交互将是企业服务机器人未来大趋势

重庆百应销售机器人系统取代繁重低效的人工电销

这是一段平时最正常的对话了,我们每个人都经历过这样的场景。可你能想象和你一直对话的是机器人吗?

发表于 09-21 14:49 44次 阅读
重庆百应销售机器人系统取代繁重低效的人工电销

国外医院出现社交智能机器人 一款会微笑的机器人

Moxi是一款医院机器人,它具有非凡的社交智能,这款机器人在9月19日上午,在美国德克萨斯州医院中亮....

发表于 09-21 14:47 28次 阅读
国外医院出现社交智能机器人 一款会微笑的机器人

工博会:自动化机器人的交流盛会

李群自动化基于深度学习的缺陷检测系统属于深度学习技术的应用场景,有别于传统的模板匹配,李群自动化平台....

发表于 09-21 14:45 129次 阅读
工博会:自动化机器人的交流盛会

人工智能机器人其实离你很近 只要你用心留意

2018年,人工智能正在带来一场新的革命,全球也将因此迎来新一轮生产率增长浪潮,上海作为国际化金融大....

发表于 09-21 14:43 290次 阅读
人工智能机器人其实离你很近 只要你用心留意

安防机器人未来可期 企业资本纷纷进入市场

海康威视以移动机器人为载体,依托“阡陌”成熟的核心技术,推出了智能泊车机器人。

发表于 09-21 14:40 79次 阅读
安防机器人未来可期 企业资本纷纷进入市场

哈工大机器人集团华中总部落户武汉

9月17日下午,武汉开发区与哈工大机器人集团股份有限公司签署全面合作协议,集团拟投资90亿元在武汉开....

发表于 09-21 14:39 202次 阅读
哈工大机器人集团华中总部落户武汉

与机器人合作才是区块链的未来

多种技术的结合可以解决多个领域的问题。例如,一个AI驱动的区块链,可以通过从多个渠道(包括零售,制造....

发表于 09-21 14:38 45次 阅读
与机器人合作才是区块链的未来

知智能“探意”机器人发布 机器人产业智能化的先行者

“这是人工智能的黄金时代,更是语义理解的黄金时代。”赵洲博士表示,AI语音呼叫机器人,是智能人机对话....

发表于 09-21 14:36 77次 阅读
知智能“探意”机器人发布 机器人产业智能化的先行者

一家做无人机软件开发的公司——3DR

最近,3DR宣布与Autodesk合作。3DR的产品Site Scan数据将可以在Autodesk工....

的头像 无人机网 发表于 09-21 14:34 584次 阅读
一家做无人机软件开发的公司——3DR

MINI LOVE AI小i智能机器人正式上市 着力于儿童机器人市场

在产品功能设计上,小i智能机器人顶部采用智能触碰设计,轻触即可实现对话,让孩子与小i的交流充满趣味;....

发表于 09-21 14:34 87次 阅读
MINI LOVE AI小i智能机器人正式上市 着力于儿童机器人市场

人工智能及人形机器人企业优必选上中国AI50强榜单

月19日,在天津举行的达沃斯世界经济论坛上,现场发布了中国AI 50强榜单及相关研究。

发表于 09-21 14:32 24次 阅读
人工智能及人形机器人企业优必选上中国AI50强榜单

哈工智能携工业机器人工博会

当前,中国生产制造智能化改造升级需求日益凸显,而工业机器人是智能制造业的关键支撑装备。

发表于 09-21 14:31 55次 阅读
哈工智能携工业机器人工博会

服务机器人 阿里智慧城市梦的承载者

在昨天进行的2018云栖大会的机器革命·人工智能峰会上,阿里巴巴人工智能实验室发布了太空蛋和太空梭两....

发表于 09-21 14:29 18次 阅读
服务机器人 阿里智慧城市梦的承载者

智能技术为安防机器人发展注入强劲动力

对于小企业来说,做小、做轻,才能更好地聚焦能量,打造长远竞争力,积攒力气才能走得更远。“专业化、合作....

的头像 电子发烧友网工程师 发表于 09-21 14:02 329次 阅读
智能技术为安防机器人发展注入强劲动力

长虹高调进军机器人,看来这次是要玩真的!

民以食为天,高效、健康、安全的供餐体系一直是全球餐饮业孜孜以求的目标。9月5日,长虹在四川绵阳隆重推....

的头像 机器人前沿 发表于 09-21 11:04 249次 阅读
长虹高调进军机器人,看来这次是要玩真的!

盘点机器人传感器的类型及其作用

“ 随着智能化的程度提高,机器人传感器应用越来越多。智能机器人主要有交互机器人、传感机器人和自主机器....

的头像 机器人前沿 发表于 09-21 10:56 172次 阅读
盘点机器人传感器的类型及其作用

无人机光流定位系列的实践

      在本系列blog中的文章中,已经对光流定位的原理进行了详细的分析,详细介绍了著名的lucas-kanade光流...

发表于 09-21 10:50 176次 阅读
无人机光流定位系列的实践

如何将机器人产业打造成“上海制造”新名片?

第20届中国国际工业博览会9月19日开幕,第一财经记者在现场注意到,工业新元素正纷纷在中国市场找寻最....

的头像 天津机器人 发表于 09-21 10:44 186次 阅读
如何将机器人产业打造成“上海制造”新名片?

基于Micro rover的Qualcomm骁龙处理器机器人导航开发

前言: 本文将引导你基于Micro rover项目,开发Qualcomm骁龙处理器的机器人导航,它基于驱动micro rover双摇杆的Android...

发表于 09-21 10:38 45次 阅读
基于Micro rover的Qualcomm骁龙处理器机器人导航开发

迅蚁发布“机器人运力网络”,无人化末端配送服务成为可能

以“人工智能赋能新时代”为主题的2018世界人工智能大会于9月17日至9月19日在上海召开。会上,迅....

的头像 无人机网 发表于 09-21 10:12 370次 阅读
迅蚁发布“机器人运力网络”,无人化末端配送服务成为可能

瑞士部署国家无人机空管系统

在无人机方面,瑞士远远领先于世界上其它国家。该国已使用无人机在医院之间运送实验室样本,并为无人机在人....

的头像 无人机网 发表于 09-21 10:03 171次 阅读
瑞士部署国家无人机空管系统

DARPA脑机接口技术赋予飞行员同时操控多架无人机

  9月20日消息,美国军方正试图让士兵们更容易地远距离作战。随着无人机战争的不断涌现,飞行员已经首....

的头像 无人机网 发表于 09-21 09:50 137次 阅读
DARPA脑机接口技术赋予飞行员同时操控多架无人机

潜行创新发布全新的五驱微型水下无人机

9月19日,无人机网受邀来到了美丽的杭州云栖小镇,一年一度的杭州云栖大会便在这个美丽的小镇再次举行了....

的头像 无人机网 发表于 09-21 09:45 217次 阅读
潜行创新发布全新的五驱微型水下无人机

军用无人系统挑战赛有何亮点?

四年举办了三届的“跨越险阻”陆上无人系统挑战赛又开始,今年比赛有何亮点?

的头像 智车科技 发表于 09-21 09:27 335次 阅读
军用无人系统挑战赛有何亮点?

盘点阿里AI Labs的5大野心

今天,阿里AI Labs在云栖大会上宣布了5件大事:大脑升级、造机器人、造无人车、修路,以及开酒店。

的头像 电子发烧友网工程师 发表于 09-21 08:49 373次 阅读
盘点阿里AI Labs的5大野心

人工智能技术迅猛发展,安全领域挑战不容小觑

人工智能技术和应用飞速发展,推动经济社会创新发展的同时,也在重塑人类安全的未来。

的头像 机器人博览 发表于 09-20 16:47 254次 阅读
人工智能技术迅猛发展,安全领域挑战不容小觑

机器人VS人:替代还是协作?

机器人VS人:替代还是协作? 机器人取代人无外乎三种:人做不了的事,如特种机器人从事的一些高危行业;人做不好的事,如活跃...

发表于 09-20 16:07 135次 阅读
机器人VS人:替代还是协作?

机器人的出现和应用,极大地拓展了人们应对自然灾害的手段

这些次生灾害出现时,抢险救灾工作便刻不容缓!但如何将受灾人员从洪水泛滥中救助出来?如何在山体废墟和泥....

的头像 机器人前沿 发表于 09-20 14:58 80次 阅读
机器人的出现和应用,极大地拓展了人们应对自然灾害的手段

腾讯将打造“可进化的机器人”

在通用人工智能方面,腾讯将打造“可进化的机器人”。首次对外公开亮相的腾讯Robotics X实验室主....

的头像 天津机器人 发表于 09-20 14:53 810次 阅读
腾讯将打造“可进化的机器人”

节卡机器人:用原创的科技力量连连突围,冲破国际巨头技术壁垒

人口红利逐步消失、人工成本不断上升,年轻群体“逃离”制造业工厂……这些都让包括中国制造业开始面临严峻....

发表于 09-20 14:45 77次 阅读
节卡机器人:用原创的科技力量连连突围,冲破国际巨头技术壁垒

如何用双目视觉赋能AI移动新需求

现在,AI越来越融入我们的生活之中,而AI时代下,移动感知已经渐渐成为了整个行业的共性。不论是无人设....

的头像 机器人创新生态 发表于 09-20 14:44 654次 阅读
如何用双目视觉赋能AI移动新需求

新松机器人发布了一款外形独特的蛇型臂机器人

科技的进步不断推动社会向前,在中国制造业转型升级的浪潮下,机器人产业取得了篷勃的发展。7月4-7日,....

发表于 09-20 14:27 78次 阅读
新松机器人发布了一款外形独特的蛇型臂机器人

宏远谐波机器人集成执行模块预计将在今年10月份实现量产

近几年,协作机器人的崛起在表明了机器人智能化升级诉求的同时,也印证了一个趋势:在未来的绝大多数机器人....

发表于 09-20 14:22 28次 阅读
宏远谐波机器人集成执行模块预计将在今年10月份实现量产

ABB推出的IRB 910INV机器人适用于快速精准的小件装配

ABB推出IRB 910INV机器人,进一步扩展其丰富的小型机器人产品系列。该系列机器人适用于快速精....

发表于 09-20 14:13 49次 阅读
ABB推出的IRB 910INV机器人适用于快速精准的小件装配

ABB推出了IRB 1100机器人,其迄今最紧凑、最轻量的六轴机器人

在上海举行的2018年中国国际工业博览会上,ABB推出了IRB 1100机器人,这是ABB迄今最紧凑....

发表于 09-20 14:05 75次 阅读
ABB推出了IRB 1100机器人,其迄今最紧凑、最轻量的六轴机器人

无人车是怎么送快递的?京东开始在茶园用无人机送快递

而作为物联网技术代表,配送快递的京东无人机和无人车作为展示项目,也现身茶园江南新城。据介绍,京东无人....

的头像 无人机网 发表于 09-20 11:48 259次 阅读
无人车是怎么送快递的?京东开始在茶园用无人机送快递

路萌机器人在京东商城正式现货限量发售

拥有一部属于自己的手机,与万千世界互联,早已不再是梦想。带着一个机器人,在万千世界穿行,将成为下一个....

的头像 赛格威机器人 发表于 09-20 10:35 323次 阅读
路萌机器人在京东商城正式现货限量发售

最别致、最令人赞叹和最昂贵的扫地机器人Roomba i7 +

iRobot最新的扫地机器人可以清洁你想要清洁的房间,并自动把集尘盒里的垃圾卸载到一个特殊的基座上然....

的头像 IEEE电气电子工程师学会 发表于 09-20 10:07 256次 阅读
最别致、最令人赞叹和最昂贵的扫地机器人Roomba i7 +

如何提高无人机飞行感知模块测量精度的方法

无人机的飞行感知技术主要用作两个用途,其一是提供给飞行控制系统,由于飞行控制系统的主要功能是控制飞机....

的头像 玩转单片机 发表于 09-20 10:01 671次 阅读
如何提高无人机飞行感知模块测量精度的方法

随着AI法律机器人的成熟化发展,未来它是否真的会代替律师呢?

9月17日,备受瞩目的2018世界人工智能大会在上海正式召开。这次大会集结了不少科技巨头的大佬,马云....

发表于 09-20 09:53 195次 阅读
随着AI法律机器人的成熟化发展,未来它是否真的会代替律师呢?

星逻智能携最新无人机系统亮相人工智能大会

9月17日,主题为“人工智能赋能新时代”的2018世界人工智能大会在上海西岸成功开幕。

的头像 无人机网 发表于 09-20 09:44 255次 阅读
星逻智能携最新无人机系统亮相人工智能大会

小萌智能教育机器人将正式揭开面纱,直面市场

2017年国务院《新一代人工智能发展规划》的出台,将人工智能上升至国家战略高度,未来2年,人工智能将....

发表于 09-20 09:36 55次 阅读
小萌智能教育机器人将正式揭开面纱,直面市场

日本计划制造一款名叫“阿凡达”的机器人,远程展开危险的太空任务

此前,日本也流露出了要投入更多的精力去参与到探索太空上,所以在这项危险性极高的任务上,他们也想要发挥....

发表于 09-20 09:33 43次 阅读
日本计划制造一款名叫“阿凡达”的机器人,远程展开危险的太空任务

走进鑫信腾聆听3C电子测试智能装备行业头部企业的规划蓝图

鑫信腾凝聚了一批追求卓越、勇于探索的专业技术人员,以千人学者、博士生导师、博士生为核心组成的技术团队....

的头像 深圳市机器人协会 发表于 09-19 17:44 612次 阅读
走进鑫信腾聆听3C电子测试智能装备行业头部企业的规划蓝图

智能快讯:以色列现全自主类蝙蝠机器人、微软展示融合了AR与VR的Remixed Reality技术

以色列特拉维夫大学日前表示,受蝙蝠启发,研究人员开发了一种完全自主的地形机器人,它能像蝙蝠一样发出声....

的头像 机器人大讲堂 发表于 09-19 16:38 243次 阅读
智能快讯:以色列现全自主类蝙蝠机器人、微软展示融合了AR与VR的Remixed Reality技术

DIY机器人舵机的五种类型分享

舵机构成主要由舵盘、减速齿轮组、位置反馈电位计5k、直流电机、控制电路板等部件组成。 1.工作原理: 控制电路板接受来自信...

发表于 09-19 16:18 94次 阅读
DIY机器人舵机的五种类型分享

首个空气净化机器人AIRBOT亮相,将给人类的生活带来巨大改变

品质生活不能有一丝苟且。我们离不开的电子产品,和快速的工业发展,让赖以生存的这个地球空气越来越恶劣。....

发表于 09-19 15:48 53次 阅读
首个空气净化机器人AIRBOT亮相,将给人类的生活带来巨大改变

集成型电池平衡的2S1P电池管理解决方案包括BOM及层图

描述             TIDA-00982 参考设计是一款用于 2S1P 电池管理解决方案 (B...

发表于 09-19 08:40 153次 阅读
集成型电池平衡的2S1P电池管理解决方案包括BOM及层图

《机器人学》—运动控制与动力学

机器人学:运动学、动力学与控制 -宋伟刚 全书共分10章。 第1章介绍了机器人技术的发展及其种类、工作原理,机器人设计、控制与...

发表于 09-18 17:25 286次 阅读
《机器人学》—运动控制与动力学

简化100V降压宽输入电压电源转换DC-DC应用分析

简化 100V降压 宽输入电压电源转换DC-DC应用分析 简化 100V 宽输入电压电源转换 当需要执行降压电源转换时,开关稳压器是...

发表于 09-18 14:59 152次 阅读
简化100V降压宽输入电压电源转换DC-DC应用分析

减速机在工业机器人的应用

减速机作为现代化建设中必不可少的传动设备,被广泛应用于国民经济的各个领域。对机器人产业而言,减速机是产业链中至关重要的应...

发表于 09-18 10:03 50次 阅读
减速机在工业机器人的应用

2018“创客中国”全国创新创业大赛,普宙勇夺桂冠!

9月13日,2018年“创客中国”军民融合创新创业大赛全国总决赛在青岛高新区盘谷创客空间圆满落幕。经过激烈角逐,GDU普宙无人...

发表于 09-18 09:22 147次 阅读
2018“创客中国”全国创新创业大赛,普宙勇夺桂冠!