电子发烧友网 > 人工智能 > 正文

美国首次对军事人工智能应用所导致伦理问题进行回应

2019年11月13日 17:41 次阅读

随着人工智能技术的巨大成功并开始在军事领域广泛应用,人们担心它会导致“机器杀人”的惨剧出现。著名天体物理学家斯蒂芬·霍金对人工智能充满期待,同时也对它的开发应用满怀担忧:“有益的人工智能可以扩大人类的能力和可能性,但失控的人工智能很难被阻止。所以,在开发人工智能时必须保证符合道德伦理与安全措施的要求。”10月31日,美国国防创新委员会率先推出《人工智能原则:国防部人工智能应用伦理的若干建议》,这是对军事人工智能应用所导致伦理问题的首次回应。

美国首次对军事人工智能应用所导致伦理问题进行回应

美国国防创新委员会的这份报告为美国国防部在战斗和非战斗场景中设计、开发和应用人工智能技术,提出了“负责、公平、可追踪、可靠、可控”五大原则。

“负责”原则的主要含义是,人工智能是人的产物,人是能动的、具有个人价值观和情感好恶的责任主体。人工智能技术的决策者和开发专家,必然要体现人的主体作用,他们理所当然应该为自己的决定和行为造成的结果负责。在军事应用中,因为造成的后果可能具有毁灭性,所以,“负责”成为第一原则。

“公平”原则是指,对人而言,不同领域、不同职级的所有人在人工智能面前是平等的,不应有区别对待。人工智能系统应无差别地向人机界面提供它的处理结果,依据结果作出判断、采取行动,机会也是公平的。

“可追踪”原则的含义是,不管是纯技术过程还是人机交互过程,人工智能系统都必须是可追溯和可审计的。人工智能系统要如实记录生成决定的整个过程和系统所作的决定,包括数据收集、数据标记以及所用算法等,不仅要确保其数据和系统的透明度,而且要确保其数学模型的透明度。

“可靠”原则指的是,人工智能系统在使用过程中对使用者而言是安全、可靠和不作恶的。

“可控”原则要求,不管人工智能系统的功能如何强大、技术如何发展,它的作用和能力应该永远置于人的控制之下。美军在伊拉克战场上使用的智能机器人就有失控向己方开火的先例。落实“可控”原则,就要严格限定对人工智能的授权,同时要加强对技术失误的警惕、督查和检验

为了贯彻以上军用人工智能伦理原则,美国国防创新委员会提出了若干条建议,可以归纳为以下4个方面的举措。

一是通过国防部官方渠道将这些原则正式化。《人工智能原则:国防部人工智能应用伦理的若干建议》是全球第一个完整描述军事人工智能伦理原则的文件。美国国防创新委员会是一个独立的联邦顾问委员会,成员包括来自谷歌、脸书、微软等科技企业的高管和专家。这一组织虽然在形式上是一个民间组织,但其功能是为国防部高层领导提供建议。其提出的军用人工智能原则,虽然并不自动成为美国国防部的原则,但成为美国国防部认可标准的概率是很大的。

二是建立一个为国防部服务的人工智能指导委员会。美军之前开展的“利用受监管的自主能力开展城市侦察”项目,需要收集复杂城市作战环境中的人员信息,使自主系统能够在监视和操控下探测敌人,帮助作战人员甄别真正的威胁,防止向友军发射火力以及造成平民伤亡。为此,美军在进行技术研发之始,就成立了相关的伦理咨询委员会。目前,美国国防创新委员会是一个功能涵盖较宽的组织,在其中成立专门的人工智能指导委员会有其必要性。

三是确保人工智能伦理原则的正确执行。为达成这一目标,需要相关各方在原则条款和内涵理解上都达成共识。与此同时,必须在军用人工智能开发应用的各个领域,制定明确的、可操作的执行细则和标准规范,这是人工智能伦理原则得到正确执行的基础。

四是召开有关人工智能安全的年度会议。由于人们对人工智能伦理问题的认识还处于初级阶段,已经制定的原则是否合理有效也有待检验。因此,召开人工智能安全年会必不可少,这样可以对伦理原则执行情况进行督查,并根据效果分析不断改进。

新美国安全中心的“技术和国家安全计划”主任保罗·斯查瑞是“利用受监管的自主能力开展城市侦察”项目伦理咨询委员会的成员。他认为,制定人工智能伦理原则,可使各方面专家在智能系统研发之初就法律、道德和伦理问题进行早期沟通,对于推动技术发展和结果可靠具有关键意义。

如果不受限制地将人工智能应用于军事领域,后果可能是人类难以承受的。美国率先制定军用人工智能伦理原则,客观上成为这一问题的权威发言者,有利于其占据道德制高点并掌控相关话语权,这也方便美国在大力发展人工智能军事应用的同时,以伦理道德为借口,遏制其他国家军队在相关领域的发展。

由于军事人工智能所展示的现实能力和巨大潜力,人们普遍认为人工智能技术将重塑未来战争形态。在此重要关头,美国率先推出军用人工智能伦理原则,无疑同样具有争夺智能化战争定义权的用意。达成这样的目标,将使美国在军用人工智能发展上获得主导权和领先优势。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11587次阅读
四轴机器人编程与应用

人工智能与物联网息息相关 智能化成为当下热门新战...

随着智能设备的普及以及硬件成本的下降,物联网(IoT)领域已成为当下热门的“新战场”。据IDC研究表....
发表于 2019-11-14 10:32 0次阅读
人工智能与物联网息息相关 智能化成为当下热门新战...

迎接未来新挑战,深挖人工智能的全部潜力

“制造业4.0”正在进行的工作是迈向未来的重要一步。将来,一切都将实现数字化互联,人们能够基于人工智....
发表于 2019-11-14 10:28 0次阅读
迎接未来新挑战,深挖人工智能的全部潜力

电子商务可以借助区块链做出改变吗

自从区块链技术在不同的商业领域实施以来,电子商务市场经历了许多变化。
发表于 2019-11-14 09:58 5次阅读
电子商务可以借助区块链做出改变吗

谷歌否认将医疗数据用于人工智能研究

据彭博社报道,面对媒体报道以及随之而来的政客攻击,谷歌健康业务和云业务的高管们表示,公司并未滥用来自....
发表于 2019-11-14 09:46 30次阅读
谷歌否认将医疗数据用于人工智能研究

企业移动性怎样利用AI来改变

人工智能的崛起,让应用程序,设备管理和用户体验都将受到影响,但最大的发展可能是在安全领域。
发表于 2019-11-13 17:32 38次阅读
企业移动性怎样利用AI来改变

使用架构可以怎样来解决人工智能问题

人工智能技术虽然令人兴奋,但也并不成熟。冒着听起来亵渎神明的风险,但孤立的人工智能技术是没有用的。
发表于 2019-11-13 17:28 21次阅读
使用架构可以怎样来解决人工智能问题

随着5G的到来 人工智能和物联网将迎来新的机遇

在2019 SITRI DAY上,紫光展锐执行副总裁王泷表示,人工智能和物联网是最主要也是备受关注的....
发表于 2019-11-13 17:25 130次阅读
随着5G的到来 人工智能和物联网将迎来新的机遇

人工智能还有待发展 以弥补自身的缺陷

人类能否把控人工智能的快速发展,又是否将与人工智能一起携手进化向善?
发表于 2019-11-13 17:21 54次阅读
人工智能还有待发展 以弥补自身的缺陷

物联网的隐私、网络安全和责任分别是怎样的

监管者越来越支持新技术,并认识到它们对社会的整体利益。
发表于 2019-11-13 16:35 38次阅读
物联网的隐私、网络安全和责任分别是怎样的

英特尔推出 AI 新品,性能是竞品 6 倍!

电子发烧友网报道,北京时间11月13日凌晨2点,英特尔在旧金山举行2019人工智能峰会,推出代号为K....
发表于 2019-11-13 16:12 142次阅读
英特尔推出 AI 新品,性能是竞品 6 倍!

在网络级别保护物联网设备是怎样的地位

物联网已经丰富了我们的生活,增加了便利性和效率,但从组织的角度来看,它变得难以管理。不仅如此,各种各....
发表于 2019-11-13 15:33 38次阅读
在网络级别保护物联网设备是怎样的地位

英特尔Movidius VPU发布,预计明年上半...

新一代英特尔Movidius Myriad代号Keem Bay,可用于边缘媒体、计算机视觉和推理应用....
发表于 2019-11-13 14:58 166次阅读
英特尔Movidius VPU发布,预计明年上半...

英特尔的新人工智能产品线有什么特点

随着专用于人工智能的硬件产品组合的丰富,以及相关工具包的发布,英特尔声称其将从云端到边缘提供完整的人....
发表于 2019-11-13 14:54 38次阅读
英特尔的新人工智能产品线有什么特点

百度与浪潮如何在AI领域合作双赢

将联合推进人工智能、云计算、大数据以及物联网等前沿在医疗健康、智能城市等领域的应用落地,为进一步加快....
发表于 2019-11-13 14:51 118次阅读
百度与浪潮如何在AI领域合作双赢

各路大牛探讨人工智能未来的好与坏 普京强调人工智...

AI的未来,会如何影响人类的未来? 本文是对人工智能未来好与坏的探讨,内容综合选自《AI的25种可能....
发表于 2019-11-13 13:29 233次阅读
各路大牛探讨人工智能未来的好与坏 普京强调人工智...

人工智能怎样赋能中医领域

自从人工智能技术问世以来,医疗领域一直被业界认定为最有应用空间的领域,也获得了政策的大力支持。
发表于 2019-11-13 11:23 34次阅读
人工智能怎样赋能中医领域

人工智能治理的全球图景与技术是怎样的

对于可持续发展来说,人工智能是未来的一个非常重要的途径和工具。人工智能不仅仅能够提升经济,虽然很多目....
发表于 2019-11-13 11:18 37次阅读
人工智能治理的全球图景与技术是怎样的

社群商业生态有了人工智能以后有怎样的改变

与独到科技CEO张文浩演讲的主题一样,独到科技一直致力于用人工智能赋能社群商业生态,目前独到科技已经....
发表于 2019-11-13 11:15 30次阅读
社群商业生态有了人工智能以后有怎样的改变

从云端到边缘的全新AI 硬件是什么样子的

推进深度学习推理和应用需要极其复杂的数据、模型和技术,因此在架构选择上需要有不同的考量。
发表于 2019-11-13 11:11 39次阅读
从云端到边缘的全新AI 硬件是什么样子的

AI可以检测宫颈癌了吗

人工智能可以在健康发生问题之前或者当潜在的疾病变得更加严重之前可以对医生进行提醒。
发表于 2019-11-13 11:07 27次阅读
AI可以检测宫颈癌了吗

Nvidia的人工智能技术可以让人像Jagger...

Nvidia的研究团队刚刚开发了一种新的AI,可以使用现有的视频和一个图像来使图像中的人模仿视频中的....
发表于 2019-11-13 10:31 143次阅读
Nvidia的人工智能技术可以让人像Jagger...

人工智能的兴起会影响人类的工作岗位吗

自动驾驶卡车可能曾经看起来像是一种未来主义的愿景。但是近年来,他们开始走上了道路,对劳动力市场,特别....
发表于 2019-11-13 10:20 213次阅读
人工智能的兴起会影响人类的工作岗位吗

人工智能和机器学习助力下 工厂的生产率也得到了极...

机器人和其他自动化技术极大地提高了当今工厂的生产率。但是,它们仍然有一个主要限制:它们要求人们告诉他....
发表于 2019-11-13 10:14 65次阅读
人工智能和机器学习助力下 工厂的生产率也得到了极...

我国时机已经到来 或将走在世界人工智能技术的前列

现正处于物联网IOT初步阶段,万物互联,信息爆炸。在这个万物互联的时候,我们正在快速进入人工智能时代....
发表于 2019-11-13 10:13 54次阅读
我国时机已经到来 或将走在世界人工智能技术的前列

敏捷项目管理使用人工智能的好处

人工智能在改善和加快软件开发并提高项目质量方面具有巨大潜力,尤其在提高软件开发效率方面。
发表于 2019-11-13 10:13 302次阅读
敏捷项目管理使用人工智能的好处

人工智能助力下 大国与小国实力差距将越来越大

随着人工智能应用于军事,今天的战争本质不再是局限于以前的夺取领土、夺取资源,传统战争的形式已经过时。
发表于 2019-11-13 10:05 49次阅读
人工智能助力下 大国与小国实力差距将越来越大

想实现大规模的产业化 人工智能就必须先打破瓶颈

一个技术、一个新领域进入暖春,标志性事件就是能不能实现大规模的产业化。那么,人工智能如何打破大规模产....
发表于 2019-11-13 09:56 29次阅读
想实现大规模的产业化 人工智能就必须先打破瓶颈

人工智能助力下 上海开始打造“智能+”产业高地

日前,工业和信息化部批复创建上海(浦东新区)人工智能创新应用先导区,助力加快推动人工智能创新发展与成....
发表于 2019-11-13 09:42 52次阅读
人工智能助力下 上海开始打造“智能+”产业高地

各地的区块链产业现在发展的怎样

未来在区块链应用领域,政务民生类应用项目数量将显著增多,司法存证、税务、电子票据、产品溯源等其他领域....
发表于 2019-11-13 09:35 113次阅读
各地的区块链产业现在发展的怎样

人工智能给教育带来优势的同时 也会存在相应的挑战

当人们谈论人工智能以怎样的新形态出现在面前时,教育界却正在发生一轮新的变革。在新一轮变革推动下,人工....
发表于 2019-11-13 09:30 49次阅读
人工智能给教育带来优势的同时 也会存在相应的挑战

明年双11将应用阿里自研芯片

达摩院研发的AI技术已应用于天猫双11的各个场景。未来,这些人工智能应用将会越来越多跑在阿里自研的芯....
发表于 2019-11-13 09:16 103次阅读
明年双11将应用阿里自研芯片

人工智能发展要经历多个阶段 困难跟挑战重重

对于什么是“人工智能公司”,目前还没有明确的分类。对一些人来说,人工智能只是一个流行词,被添加到营销....
发表于 2019-11-13 09:16 53次阅读
人工智能发展要经历多个阶段 困难跟挑战重重

人工智能的迅速发展 正在全方位深刻改变人们的生产...

在无人便利店购物,从进店、选购到支付,人脸识别技术全程支撑着实现便捷的服务;机场成百上千家零售门店,....
发表于 2019-11-13 09:07 145次阅读
人工智能的迅速发展 正在全方位深刻改变人们的生产...

人工智能的发展会打击移动互联网的发展吗

移动互联网的红利期已经基本结束,下一幕是人工智能。
发表于 2019-11-12 16:53 46次阅读
人工智能的发展会打击移动互联网的发展吗

人工智能保护消费者的重要作用

在过去的几年中,信息安全一直都是基于防病毒方案、隔离技术和加密技术的组合。政府机构和信息安全公司愿意....
发表于 2019-11-12 16:45 345次阅读
人工智能保护消费者的重要作用

物流行业怎样开启全面的机器人时代

在这样的行业大背景下,我们以智能物流作为一个切入点其实遇到了一个很不错的时间窗口。
发表于 2019-11-12 16:11 32次阅读
物流行业怎样开启全面的机器人时代

AI在自动移动机器人领域有什么创新

随着人工智能、物联网和大数据技术的发展,机器设备和智能新技术的融合带来了全新的高效模式。
发表于 2019-11-12 16:07 28次阅读
AI在自动移动机器人领域有什么创新

人工智能融合行业应用 推进新型商业模式的发展

昨日,第11个“双11购物狂欢节”在消费者的狂欢中成功落下帷幕,从2009年开始每一届的“双十一”都....
发表于 2019-11-12 16:02 60次阅读
人工智能融合行业应用 推进新型商业模式的发展

机器人的下一个模式什么样的

机器人用户真正需要的是机器人为他们带来价值服务,而不是产品的本身,那么机器人厂商可能转变为提供服务而....
发表于 2019-11-12 15:57 40次阅读
机器人的下一个模式什么样的

人工智能备受投资追捧 开始进入商业化阶段

随着人工智能结合产业创新发展,其市场前景得到投资者认可。资本市场上,人工智能概念股也表现优异。据Wi....
发表于 2019-11-12 15:57 44次阅读
人工智能备受投资追捧 开始进入商业化阶段

人工智能和增强现实对于我们的工作方式有什么影响

科技是人类社会发展的重要驱动力,它促进了生产力的不断提升,推动社会在向前进步,并创造出前所示有的机遇....
发表于 2019-11-12 15:54 51次阅读
人工智能和增强现实对于我们的工作方式有什么影响

移动机器人的机遇什么时候到来

随着物联网和人工智能技术的进步,无人商店等新零售模式开始流行,并带来巨大的商业机遇。
发表于 2019-11-12 15:51 100次阅读
移动机器人的机遇什么时候到来

扫地机器人行业如何占领高地

扫地机器人等新技术所带来的变革,满足了消费者对于解放双手的追求,帮助他们摆脱繁琐的家务工作从而释放出....
发表于 2019-11-12 15:46 49次阅读
扫地机器人行业如何占领高地

AI智能客服机器人全面上线会带来怎样的体验

全面上线了申通AI智能客服机器人,助力双11,用技术革新客服服务,为客户提供不一样的客服体验。
发表于 2019-11-12 15:40 73次阅读
AI智能客服机器人全面上线会带来怎样的体验

AI机器人的用武之地在哪里

这篇文章的作者们计划开始对他们提出的解决方案进行试验,但机器人拆解电池的装配线仍需要数年时间,目前还....
发表于 2019-11-12 15:36 44次阅读
AI机器人的用武之地在哪里

电力巡检机器人现在的行业标准是怎样的

智能运检是电网运维检修未来发展的新方向,其作为电网企业核心业务单元之一,在保障电网设备安全健康、支撑....
发表于 2019-11-12 15:31 24次阅读
电力巡检机器人现在的行业标准是怎样的

语音机器人会把人工给替换掉吗

智能机器人在回复客户问题的时候还具备了分析功能,依照特定的算法,分析客户的意图,从而给予回答。
发表于 2019-11-12 15:25 25次阅读
语音机器人会把人工给替换掉吗

智能语音机器人具备哪一些优点

电销机器人可以在使用中,应用业务数据进行自学习,越用越聪明,外呼效果在不久的将来可以达到甚至超过人工....
发表于 2019-11-12 15:23 35次阅读
智能语音机器人具备哪一些优点

机器人的未来发展是怎样的路程

WHILL 也在做无人驾驶方面的设计和开发,但针对的是商务市场,面向大众消费市场的产品还没有那么快推....
发表于 2019-11-12 15:19 31次阅读
机器人的未来发展是怎样的路程

AI可以相当于生产力吗

AI(人工智能)就是新旧动能转换的发动机,是我们经济转型的加速器,会使我们传统产业插上起飞的翅膀。
发表于 2019-11-12 15:11 66次阅读
AI可以相当于生产力吗

AI技术行进的方向应该是怎样的

这些投入也被外界称为“为未来买单”,facebook扔进大海的石子并没有沉没了事儿,也是激起了几多浪....
发表于 2019-11-12 15:05 31次阅读
AI技术行进的方向应该是怎样的

人工智能算法可以不可以解“三体问题”

基于牛顿力学的“三体问题”讲述了在一个由三个天体构成的天体系统中,如何预测天体的运动趋势。
发表于 2019-11-12 15:02 27次阅读
人工智能算法可以不可以解“三体问题”

可信可用的人工智能是怎样的

人工智能(AI)不是一种单一的技术,而是多种方法和工具的集合,它有很多子领域,可被应用于丰富的场景。
发表于 2019-11-12 14:54 24次阅读
可信可用的人工智能是怎样的

俄罗斯普京强调人工智能的重要性,应积极推动相关应...

AI,即人工智能,被誉为第四次工业革命的催化剂,已经被越来越多的国家所重视。在最近举行的莫斯科国际人....
发表于 2019-11-12 14:53 373次阅读
俄罗斯普京强调人工智能的重要性,应积极推动相关应...

人工智能在发展的路上怎样避免陷阱

为了更好的推动其发展,人工智能的落地与应用必然会是一个循序渐进的过程。
发表于 2019-11-12 14:31 31次阅读
人工智能在发展的路上怎样避免陷阱

郭为:新技术相互融合促进,场景创新引领数字技术智...

“技术奇点将引爆数字服务经济,当5G、大数据、人工智能、区块链、云计算成为这个时代的主题,各行各业都....
发表于 2019-11-12 14:31 576次阅读
郭为:新技术相互融合促进,场景创新引领数字技术智...

普适计算愿景怎样利用人工智能来打造

该算法可处理来自传感器的数据,提取周围环境的3D几何信息,并将其整合、上传到云平台,创建出基于这些相....
发表于 2019-11-12 14:25 24次阅读
普适计算愿景怎样利用人工智能来打造

人工智能如何解决企业营销的痛点

智能云手册运用AI算法,能够自动为用户画像,并智能预测用户成交概率。通过自动抓取用户行为轨迹与频次,....
发表于 2019-11-12 14:20 52次阅读
人工智能如何解决企业营销的痛点

人工智能技术与出行如何结合

开源是互联网产业的发展基石,没有任何一家互联网公司可以不使用开源软件,开源软件可以看作是全人类智慧共....
发表于 2019-11-12 14:16 23次阅读
人工智能技术与出行如何结合

人工智能融得的效果怎样

在智能制造、智能家居、智慧城市管理等场景中,人工智能技术应用越来越广泛。
发表于 2019-11-12 14:08 25次阅读
人工智能融得的效果怎样

【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

       人工智能已成为各行各业离不开的主题,电子发烧友论坛和瑞芯微电子联合推出的RK1808试用...
发表于 2019-10-25 13:05 146次阅读
【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

基于ARM9内核的智能灭火机器人怎么设计?

人工智能也称机器智能,是一门研究人类智能机理和如何用计算机模拟人类智能活动的学科。经过50多年的发展,人工智能已...
发表于 2019-10-21 06:39 180次阅读
基于ARM9内核的智能灭火机器人怎么设计?

AI的核心是什么?

AI概念笼统,范围广大,到底什么才是AI的核心? ...
发表于 2019-10-18 06:39 151次阅读
AI的核心是什么?

什么是Cortex-A75?

时光飞逝,好像在昨天我们才刚发布ARM Cortex-A73这款最节能的高效能Cortex应用处理器,转眼之间我们就看到Cor...
发表于 2019-10-15 08:28 151次阅读
什么是Cortex-A75?

为什么说FPGA是机器深度学习的未来?

  最近几年数据量和可访问性的迅速增长,使得人工智能的算法设计理念发生了转变。人工建立算法的做法被计算机从大量...
发表于 2019-10-10 06:45 157次阅读
为什么说FPGA是机器深度学习的未来?

郑交会人工智能科技展

2019年,“智能+”作为一个概念,首次出现在政府工作报告中,人工智能也已连续三年被写入政府工作报告。在国务院印发...
发表于 2019-09-16 18:24 232次阅读
郑交会人工智能科技展

Ubuntu下试玩visionseed工具的数据可视化

日前购得一套AI视觉模组visionseed,我准备先在Ubuntu下试玩visionseed工具来了解这套视觉模组。当然前期准备工作...
发表于 2019-09-16 11:29 719次阅读
Ubuntu下试玩visionseed工具的数据可视化

大话人工智能成功进入测试阶段

大话人工智能成功进入测试阶段 人工智能英文简称为AI,英文全写Artificial Intelligence,中文直译就是人工智能...
发表于 2019-09-15 12:40 369次阅读
大话人工智能成功进入测试阶段

国内外人工智能十大芯片怎么样?

2019年属于人工智能爆发的一年,特别是芯片领域,华为一家就推出来四个芯片,芯片可不像软件一样简单复制,也不像普通...
发表于 2019-09-11 11:52 398次阅读
国内外人工智能十大芯片怎么样?

人工智能能否取代人类?

为什么大家对这类问题如此感兴趣?这可能要追溯到2016年,AI真正进入到大众视野并引爆媒体的标志性事件,也就是Alp...
发表于 2019-09-11 11:52 875次阅读
人工智能能否取代人类?