电子发烧友网 > 人工智能 > 正文

军用AI技术会把人类毁灭吗

2019年10月17日 15:19 次阅读

科技云报道原创。

传说地球上本没有火种,那时人类的生活非常困苦,没有火烧烤食物,也没有火来照明。普罗米修斯造福给人类,冒着生命危险,从太阳神阿波罗那里偷走了一个火种,给人类带来了光明。但他殊不知,火种带给人类的不只是光明,还有更多的麻烦。

最近一段时间,军用AI和主动攻击型武器的问题闹得沸沸扬扬,很多AI研究者联名反对这项技术的军事化。Google近4000名员工签署请愿书,要求公司中止Maven项目,以及一切与战争有关的业务,因为这已经和Google的价值观相去甚远。

当AI技术扩散至其他领域,被用来提升医学、交通、金融、军事等领域的效率时,跟围棋一样,人类败下阵来的消息只会越来越多。

特别是在军用技术上,如果人类跟不上军用机器人的节奏,那它就不仅仅是批评或者抗议人类了,它向拖自己的后腿的人类开火也不是完全不可能。

或将引发新一轮军备升级

AI引领军事形态全面进化

美军去年公开的JADE项目,就计划打造这样一个自动化武器系统:它通过分析社交媒体来进行作战决策,其中包括致命性武器的自动使用,以最小化作战行动中的人为干预。

这就向人类提出了一个疑问:军用AI技术将开启人类走向毁灭的第一步?AI与军事真的不能共存吗?

目前在武器装备和指挥控制方面,AI主要集中在陆地、海洋、太空等各类作战机器人的研发应用和各类智能炸弹的研发领域。

随着数据挖掘技术、大规模并行算法及AI技术的不断完善并广泛应用在军事上,情报、决策与作战一体化将取得快速进展。实际上,能在无人控制的情况下搜索并消除目标的自主武器就是典型应用,也是当前AI军事化的最主要应用。

能够自主运作的军用机器人被归为致命性自主武器系统(LAWS),目前各国发展的无人飞行器、无人地面车辆、无人水面艇等能够自主运作的武器系统在某种程度上都属于LAWS的范畴。这些武器装备体现出了较高的应用价值。

比如研发于2005年的BigDog,由DARPA出资,目的是造出一种能够负重的机械骡,伴随士兵一起在传统机械车辆无法行驶的粗糙地形上作战。

军用AI技术会把人类毁灭吗

2013年亮相的Atlas是一个类人形机器人,同样是由DARPA出资,设计目的是专门针对各种搜索营救任务。

2016年公布的新版Atlas,可以在户外和建筑物内部操作,能自行开门、抱箱子自动平衡,被推倒也能自己站稳,在雪地上行走毫无压力。

但真正投入实战的,却是声名远播的「掠食者」无人机,其MQ-9 型号是第一种专门设计作为猎杀用途的无人机,其飞行控制与武器使用均需从美军的地面控制中心来操作。

避免滑向“失控”边缘

如何防止技术异化对人类的威胁?

在2017年人工智能国际会议上,Tesla首席执行官马斯克、Apple联合创始人沃兹、研发AlphaGo的DeepMind公司哈萨比斯等人签署公开信,呼吁联合国应像禁止生化武器一样,禁止在战争中使用致命的自主武器和“杀手机器人”。

霍金也曾指出,脱离人类控制之下的机器很难被阻止住。

由于人工智能技术的发展局限,机器人可能将在环境或执行程序复杂的情况中出现失控现象,比如在单独执行作战任务或人机深度交流时。

比如2007年10月,美军第三机步师一部带着3台“利剑”机器人进攻一个反美武装盘踞的据点时,由于没有及时更换软件,其中一台“利剑”竟把枪口瞄准美军操作者,而且无论操作员如何发出“行动取消”的指令,失控的“利剑”就是停不下来,直至用火箭筒把它炸翻才化险为夷。

随着越来越多的国家投入到军用机器人的研究与开发中去,世界已在不知不觉中滑进了一场机器人军备竞赛。毋庸置疑,军事机器人相比于士兵,主要在功能、体能、效能方面具有优势。

军事机器人可以同时承担多项复杂任务,作战可以更加持久,在程序设定完备后能够高效精准达成目标,失误率较低。

如果想要尽可能降低AI的负面影响,首先要坚持人机结合、以人为主的原则,人类应当保证对军事机器人的控制权,制定应对意外事件的应急机制,建立防范机器人失控的后台程序。

另外,应当加强人工智能的技术预测与评估,在充分试验与分析的基础上逐步推进人工智能技术的军事应用。

目前来看,AI在军事领域的应用潮流势不可挡,在可预见的时期内,AI将在情报侦察、后勤保障、无人作战系统等领域发挥重要作用,但如何防止技术异化对人类构成新的威胁则是AI军事化必须要解决的问题。

来源:科技云报道

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11587次阅读
四轴机器人编程与应用

机器人也可以帮抢门票吗

近三年机器人流量行为占比是在逐渐减少的,意味着人类对于恶意机器人从技术、防范等方面都有了一定进步。
发表于 2019-10-17 15:27 0次阅读
机器人也可以帮抢门票吗

人工智能的市场将会是怎样的发展

目前随着人工智能AI的迅猛发展,今后几年触摸一体机一定会和人工智能更好的融入,更好的提升人机交互的体....
发表于 2019-10-17 15:02 6次阅读
人工智能的市场将会是怎样的发展

AI怎样帮助居住服务更加的智能化

人工智能在居住金融领域里可以做出更多的改善,贝壳金服借助AI可以为用户设计更具个性化的金融服务方案,....
发表于 2019-10-17 14:51 9次阅读
AI怎样帮助居住服务更加的智能化

传统教育在AI时代还重要吗

大数据、互联网、人工智能等高新技术大大拓展了学习空间,给以课堂为中心的学习带来挑战。
发表于 2019-10-17 14:46 24次阅读
传统教育在AI时代还重要吗

人工智能的伦理问题如何解决

社会必须信任人工智能技术能够给人带来的利益大于伤害,才有可能支持继续发展人工智能。
发表于 2019-10-17 14:24 30次阅读
人工智能的伦理问题如何解决

爱奇艺:AI与5G技术的到来,视频轻应用化已成为...

科技的创新如何赋能视频平台?一直是视频行业玩家关注的重点。有接近运营商的通信专家表示,10月份5G开....
发表于 2019-10-17 14:24 44次阅读
爱奇艺:AI与5G技术的到来,视频轻应用化已成为...

人工智能发展最大的瓶颈是什么

深度学习的算法在全世界科技行业非常有意思,它符合一个规律——代码共享,代码公开。
发表于 2019-10-17 14:18 25次阅读
人工智能发展最大的瓶颈是什么

人工智能有哪些“偏门”的科技应用

AI的应用还有包括智能眼镜、智能口红、智能粉底液等等。作为能干大事的人工智能,或许很多人猜想不到AI....
发表于 2019-10-17 14:05 16次阅读
人工智能有哪些“偏门”的科技应用

人工智能+商务服务可以打造怎样的新经济

商务管家机构((Business Steward,简称“商管”)是指人工智能和传统商务管家事务结合的....
发表于 2019-10-17 11:54 48次阅读
人工智能+商务服务可以打造怎样的新经济

智能电话机器人对市场有什么影响

微服网络智能机器人凭借自身的优势和特点,可以提高效率,降低企业的各种运营成本。
发表于 2019-10-17 11:49 20次阅读
智能电话机器人对市场有什么影响

智能客服的机器人具备怎样的优势

近年来人工智能已渗入工作生活中,由于AI智能技术越来越成熟,智能客服机器人已经成为客服系统发展的一种....
发表于 2019-10-17 11:45 9次阅读
智能客服的机器人具备怎样的优势

AI技术下的医疗客服有了怎样的新趋势

医疗信息化往往是一个长期的、循序渐进的过程。微服网络帮助医院有效的改善服务质量、优化服务流程,降低运....
发表于 2019-10-17 11:41 35次阅读
AI技术下的医疗客服有了怎样的新趋势

AI技术目前很发达了吗

人工智能的快速发展,给企业带来更多的新机遇,将给人类社会发展进步带来强大新动能,实现创新式发展,AI....
发表于 2019-10-17 11:29 84次阅读
AI技术目前很发达了吗

人工智能带来的改革你能想象得到吗

在这期间,搜索引擎、社交网络、移动互联网和移动支付等技术一次又一次改变了人们的生活,互联网也成就了一....
发表于 2019-10-17 11:09 14次阅读
人工智能带来的改革你能想象得到吗

人工智能对于核科技有什么帮助

人工智能在核领域的一个新技术方向,是基础物理现象建模。
发表于 2019-10-17 11:04 25次阅读
人工智能对于核科技有什么帮助

人工智能军备竞赛现在成为新的趋势吗

军用人工智能的未来发展面临两个“瓶颈”:一个是技术发展的障碍,解决这一问题唯有循序渐进;另一个是对人....
发表于 2019-10-17 10:59 10次阅读
人工智能军备竞赛现在成为新的趋势吗

开源开放会是以后人工智能的主要发展方向吗

深度学习是新一代人工智能的核心支撑。
发表于 2019-10-17 10:54 37次阅读
开源开放会是以后人工智能的主要发展方向吗

数字双胞胎和物联网之间的关系是什么

数字双胞胎是物理对象的精确复制品,在物理世界和数字世界之间建立联系。Gartner将其定义为“现实世....
发表于 2019-10-17 10:51 19次阅读
数字双胞胎和物联网之间的关系是什么

人工智能社会实验的意义是什么

人工智能是当代科技的最新前沿,是未来科技发展的战略制高点。
发表于 2019-10-17 10:51 56次阅读
人工智能社会实验的意义是什么

人工智能会给我们带来新的工作吗

只有充分发挥人工智能等技术带来的新兴产业兴起、高端岗位增加等积极因素,从引导劳动力向新产业分流和推动....
发表于 2019-10-17 10:47 54次阅读
人工智能会给我们带来新的工作吗

2020年半导体市场展望:全球稳步复苏,中国成长...

展望2020年全球半导体市场,我们认为主要半导体需求的驱动力将是以智能型手机相关、5G基础建设、AI....
发表于 2019-10-17 10:42 433次阅读
2020年半导体市场展望:全球稳步复苏,中国成长...

人工智能应用的范围到底有多广

人工智能牙刷、珠宝、衣服、粉底、马桶盖……但让苦于在B端掘金的AI公司们没想到的是,在行业内难以破局....
发表于 2019-10-17 10:27 84次阅读
人工智能应用的范围到底有多广

人工智能如何协助企业来减少资源的浪费

据国外媒体报道,日本企业正利用人工智能和大数据减少食品生产环节的浪费问题。
发表于 2019-10-17 10:23 56次阅读
人工智能如何协助企业来减少资源的浪费

新型材料将驱动人工智能时代的进步

我们正处于最大规模的计算潮流的风口浪尖——那就是由大数据驱动的AI (人工智能) 时代。要想成为这个....
发表于 2019-10-17 10:15 19次阅读
新型材料将驱动人工智能时代的进步

人工智能在智慧社区里面有哪一些应用的地方

物联网、云计算、大数据、人工智能正逐步从概念走向应用。越来越多的传统产业也开始探索和创新,积极拥抱互....
发表于 2019-10-17 10:12 17次阅读
人工智能在智慧社区里面有哪一些应用的地方

人工智能交互应用的发展将进入爆发期

随着人工智能的不断普及,其应用也越来越为广泛。从最初的人脸识别到语音助手,从智能服务提升工作效率到多....
发表于 2019-10-17 09:58 92次阅读
人工智能交互应用的发展将进入爆发期

OpenAI的AI机器人可用单手就能还原魔方

人工智能(AI)研究组织OpenAI在制造具有通用性、能够自我学习的机器人方面取得了新的里程碑。该组....
发表于 2019-10-17 09:45 48次阅读
OpenAI的AI机器人可用单手就能还原魔方

人工智能技术将是未来医疗行业的发展方向

“未来诊室”即人工智能辅助诊断技术,在一些疾病的诊疗中具有突破性的贡献,能大大降低疾病筛查的成本和时....
发表于 2019-10-17 09:19 46次阅读
人工智能技术将是未来医疗行业的发展方向

机器视觉火了,三大问题如何解决?

机器视觉是人工智能的一个分支,简单来说,就是用机器代替人眼来做测试和判断,在实际应用中,机器视觉还存....
发表于 2019-10-16 23:01 736次阅读
机器视觉火了,三大问题如何解决?

数据安全问题将是AI实际应用落地的一大挑战

人工智能真正要实际应用仍有不少挑战,主流的深度学习深深依赖大量的数据,而目前数据隐私问题并没有得到解....
发表于 2019-10-16 17:43 32次阅读
数据安全问题将是AI实际应用落地的一大挑战

邱勇院士:将深入开展人工智能社会影响综合性研究

“人工智能在新时代中国科技与产业发展战略中占有重要地位,处理好人工智能与人的关系、人工智能与社会的关....
发表于 2019-10-16 17:11 403次阅读
邱勇院士:将深入开展人工智能社会影响综合性研究

智慧城市的发展现状和趋势

智慧城市是人工智能、大数据等信息技术的深度拓展和集成应用,是新一代信息技术孕育突破的重要方向之一,也....
发表于 2019-10-16 16:32 31次阅读
智慧城市的发展现状和趋势

5G+AI赋能下 超高清视频将为安防行业带来巨变

“抓住科技机遇,找准发展方向”是经济发展的重要课题,也是安防行业“进化”的途径。在大力推行5G和人工....
发表于 2019-10-16 16:08 87次阅读
5G+AI赋能下 超高清视频将为安防行业带来巨变

智能交互应用落地多领域逐步替代人工或成趋势

作为最热门话题的人工智能几乎每届互联网大会都会被业界大佬提及,过去其应用场景更多体现在人脸识别的简单....
发表于 2019-10-16 15:39 55次阅读
智能交互应用落地多领域逐步替代人工或成趋势

人工智能将推动世界从互联信息时代进入智能信息时代

新一代人工智能正在全球范围蓬勃发展,推动世界从互联信息时代进入智能信息时代,给人们的生产生活方式带来....
发表于 2019-10-16 15:35 68次阅读
人工智能将推动世界从互联信息时代进入智能信息时代

人工智能的发展目标不是无人工厂而是效率

联想集团高级副总裁贺志强说,从2016年开始,联想将数据智能、产业互联网的理念服务推广到所有行业中,....
发表于 2019-10-16 15:33 239次阅读
人工智能的发展目标不是无人工厂而是效率

5G技术将正面推动医疗事业的转型

5G技术将在多个面向改变健康医疗事业,将协助医生更加快速、个人化和有效地为患者提供医疗服务。
发表于 2019-10-16 14:57 63次阅读
5G技术将正面推动医疗事业的转型

物联网装置有哪些安全问题值得关注

IDC预估到了2025年全球将有416亿个连网装置,产生的数据量高达79.4ZB(zettabyte....
发表于 2019-10-16 10:50 80次阅读
物联网装置有哪些安全问题值得关注

智慧办公怎样可以变得更加的完善

未来,机器学习、人工智能、云计算等数字化技术在智慧办公领域的应用比例将会进一步提高,由此带来的更加强....
发表于 2019-10-16 10:33 64次阅读
智慧办公怎样可以变得更加的完善

AI和5G对于机器人有什么作用

机器视觉相机的目的是将通过镜头投影到传感器的图像传送到能够储存、分析和(或者)显示的机器设备上。
发表于 2019-10-16 10:29 45次阅读
AI和5G对于机器人有什么作用

物联网平台我们该怎样选择

物联网平台是一个跨功能、完全集成、全堆栈、无服务器、硬件不可知,以及为用户提供无限基础设施的人工智能....
发表于 2019-10-16 10:08 67次阅读
物联网平台我们该怎样选择

将来的人工智能AI是否会拥有自我意识

将来的人工智能,是否具有意识?科幻作家会说,既然世界上并没有“灵魂”这种东西,人类纯粹是由原子组成的....
发表于 2019-10-16 09:58 69次阅读
将来的人工智能AI是否会拥有自我意识

人工智能增强将成为最有价值的AI应用程序

当我们考虑未来时,通常是一个二选一的情况;机器人会赢或者人类会赢。但Gartner提供的最新研究表明....
发表于 2019-10-16 09:55 108次阅读
人工智能增强将成为最有价值的AI应用程序

未来人工智能的智慧程度会超越人类大脑吗

许多人工智能(AI)爱好者预测,在不久的将来,机器终将超越人类,甚至取代人类。在某些情况下,当任务可....
发表于 2019-10-16 09:53 47次阅读
未来人工智能的智慧程度会超越人类大脑吗

人工智能存在怎样偏见

智能手机,智能家居和智能城市正在影响我们的生活和工作,人工智能(AI)正在以引人注目的方式重新配置人....
发表于 2019-10-16 09:10 41次阅读
人工智能存在怎样偏见

云数据的得失可以反映AI什么问题

随着人们对人工智能的依赖程度越来越高,对人工智能的需求也越来越大,数据的质量和准确性自然也越来越高。
发表于 2019-10-16 08:56 30次阅读
云数据的得失可以反映AI什么问题

极睿科技获红杉领投亿元级A轮融资 用人工智能改变...

10月16日消息,人工智能企业极睿科技已于近日完成亿元级A轮融资,由红杉资本中国基金领投,图灵资本跟....
发表于 2019-10-16 08:50 488次阅读
极睿科技获红杉领投亿元级A轮融资 用人工智能改变...

人工智能与记者之间的竞争情况是怎样的

在这个处处是人工智能的时代,它的确为我们带来不少的便捷。但与此同时,它也是一把双刃剑,但是所有的事皆....
发表于 2019-10-16 08:49 41次阅读
人工智能与记者之间的竞争情况是怎样的

为什么说AI的前景广阔

尽管人工智能前景广阔,但在业内人士看来,人工智能尚处于萌芽阶段,有待算法、算力、基础设施(如超级计算....
发表于 2019-10-16 08:33 55次阅读
为什么说AI的前景广阔

扫地机器人未来的趋势是怎样的

随着行业的变革和迭代,扫地机器人也呈现出越来越细分化的趋势。
发表于 2019-10-15 18:00 153次阅读
扫地机器人未来的趋势是怎样的

人工智能是怎样在百度里面深入发展的

凭借着在语音技术、图像技术、视频技术、深度学习等人工智能领域的核心底层技术实力,百度倾力打造了阿波罗....
发表于 2019-10-15 17:56 314次阅读
人工智能是怎样在百度里面深入发展的

AI怎样去平衡社会利益与个人隐私

尽管西方国家越来越关注监控以及可能违反个人隐私的可能性,而中国一直在全力推进人工智能的应用。
发表于 2019-10-15 17:30 193次阅读
AI怎样去平衡社会利益与个人隐私

数据中心想要更有效的运行得怎样借助AI的力量

数据中心可以包含数万台服务器,这些服务器不断地从开发人员和用户运行数据处理任务。
发表于 2019-10-15 17:20 43次阅读
数据中心想要更有效的运行得怎样借助AI的力量

使用AI更多的是什么问题

可见人们越来越关注的是在数据隐私和数据保护方面,特别是现在这种技术如此普遍。
发表于 2019-10-15 17:16 52次阅读
使用AI更多的是什么问题

AI是怎样进入美学领域的

人工智能(Artificial Intelligence)的运用领域远超于人类原本的既定,持续不断得....
发表于 2019-10-15 17:12 49次阅读
AI是怎样进入美学领域的

金融AI为什么要开始转型

从更宏观角度而言,金融AI对于数据监控亦是更加安全有效的。
发表于 2019-10-15 17:04 37次阅读
金融AI为什么要开始转型

麦当劳也开始搞AI了吗

跨境企业就需要格外着重配置基础设施的问题,境外服务器互联网连接或者是私人专线连接的选择和考量,目标群....
发表于 2019-10-15 16:53 324次阅读
麦当劳也开始搞AI了吗

AI语音 对于我们生活有什么影响

AI语音技术在许多领域皆能够缩短发出与接收数据信息的时间,其方式也较传统形式来得有趣得多,还能积极帮....
发表于 2019-10-15 16:50 47次阅读
AI语音 对于我们生活有什么影响

过分相信机器人会有怎样的后果

把握人工智能朝着正确的可控制的方向走,才可能对人类有利。
发表于 2019-10-15 16:47 81次阅读
过分相信机器人会有怎样的后果

华为是怎样一步步成为AI公司的

AI芯片是人工智能的核心,未来各巨头在人工智能领域的争夺,也就是AI芯片的争夺。
发表于 2019-10-15 16:41 265次阅读
华为是怎样一步步成为AI公司的

什么是Cortex-A75?

时光飞逝,好像在昨天我们才刚发布ARM Cortex-A73这款最节能的高效能Cortex应用处理器,转眼之间我们就看到Cor...
发表于 2019-10-15 08:28 38次阅读
什么是Cortex-A75?

为什么说FPGA是机器深度学习的未来?

  最近几年数据量和可访问性的迅速增长,使得人工智能的算法设计理念发生了转变。人工建立算法的做法被计算机从大量...
发表于 2019-10-10 06:45 74次阅读
为什么说FPGA是机器深度学习的未来?

郑交会人工智能科技展

2019年,“智能+”作为一个概念,首次出现在政府工作报告中,人工智能也已连续三年被写入政府工作报告。在国务院印发...
发表于 2019-09-16 18:24 180次阅读
郑交会人工智能科技展

Ubuntu下试玩visionseed工具的数据可视化

日前购得一套AI视觉模组visionseed,我准备先在Ubuntu下试玩visionseed工具来了解这套视觉模组。当然前期准备工作...
发表于 2019-09-16 11:29 568次阅读
Ubuntu下试玩visionseed工具的数据可视化

大话人工智能成功进入测试阶段

大话人工智能成功进入测试阶段 人工智能英文简称为AI,英文全写Artificial Intelligence,中文直译就是人工智能...
发表于 2019-09-15 12:40 304次阅读
大话人工智能成功进入测试阶段

国内外人工智能十大芯片怎么样?

2019年属于人工智能爆发的一年,特别是芯片领域,华为一家就推出来四个芯片,芯片可不像软件一样简单复制,也不像普通...
发表于 2019-09-11 11:52 291次阅读
国内外人工智能十大芯片怎么样?

人工智能能否取代人类?

为什么大家对这类问题如此感兴趣?这可能要追溯到2016年,AI真正进入到大众视野并引爆媒体的标志性事件,也就是Alp...
发表于 2019-09-11 11:52 565次阅读
人工智能能否取代人类?

神经处理单元IP VIP9000怎么样?

芯片设计平台即服务(SiPaaS®)公司芯原(VeriSilicon)今日宣布推出VIP9000,这是一款高度可扩展、可编程的计算...
发表于 2019-09-11 11:52 215次阅读
神经处理单元IP VIP9000怎么样?

通用型AI语音识别芯片音旋风611如何?

近日,国产原生芯片品牌探境科技宣布全球首款通用型AI语音识别芯片——音旋风611(英文名称:Voitist611)目前正式进...
发表于 2019-09-11 11:52 212次阅读
通用型AI语音识别芯片音旋风611如何?

人工智能语音芯片行业的发展趋势如何?

人工智能是近三年来最受关注的核心基础技术,将深刻的改造各个传统行业。人工智能在图像识别、语音识别领域的应用自20...
发表于 2019-09-11 11:52 277次阅读
人工智能语音芯片行业的发展趋势如何?