电子发烧友网 > 人工智能 > 正文

新的安全观将更好地理解人工智能所带来的安全挑战

2019年10月11日 16:47 次阅读

(文章来源:环球网)

近日,美国国防部联合人工智能中心主任沙纳汉声称,2020将是美军在人工智能领域实现突破的一年。明年中心的人员将增加60个编制,预算增长3倍,并将在一系列项目上快速取得突破。沙纳汉认为,要应对大国在人工智能领域的竞争,美国必须要加大、加快在人工智能军事应用领域的投入。

美军大举在人工智能领域布局,反映了人工智能的武器化、实战化正在逐步成为现实。从人类历史上看,军事是推动科技进步的重要力量,包括核武器、互联网等很多重大科技领域的突破都是源自军事目的。国家出于军事目的发展具有战略意义的高科技在当代也非常普遍,越来越多的国家开始加速布局人工智能在军事领域的应用。

值得警惕的是,当代国际关系领域一个显著的“安全困境”就是大国为谋取战略竞争优势而发展高科技武器,引起众多国家效仿,反而恶化了整体的安全环境。人工智能已成为引发“安全困境”的新领域,人工智能军事化发展的安全困境将会伴随大国不断加大投入而提前到来。

新的安全观将更好地理解人工智能所带来的安全挑战

因此,国际社会应当建立一种新的安全观来看待人工智能的安全问题,包括从技术安全、应用安全和体系安全三个层面来应对人工智能的安全困境。

一是要关注人工智能自身的技术安全问题。算法黑箱、自主决策、数据安全都有可能带来人工智能武器的失控,并由此带来严重的安全后果。因此,如何在确保安全的前提下开展人工智能军事应用至关重要。

二是人工智能应用中的安全。不负责任地使用人工智能武器或是随意扩散,都有可能给国际社会造成严重的安全、经济和社会层面伤害。比如滥用人工智能武器造成无辜平民的伤亡,恐怖分子获取人工智能武器将会实施的重大恐怖袭击。

三是必须关注人工智能在军事领域的应用对国际安全体系造成的颠覆。随着人工智能的发展,战争的形态将被彻底改变。军人、战场和战争模式会发生颠覆性的变化。程序员将成为军人中的重要组成部分,更加精确的杀伤将会使得战场范围更加广阔,传统的战争决策模式也难以适应人工智能快速反应的决策。如此巨大的变化将会使传统的国际安全架构难以适应新挑战,现有的冲突降级、危机管控、建立信任措施等维护国际安全的手段无法解决大国在人工智能军事领域的冲突,危及国际安全体系稳定。

新的安全观有助于更好地理解人工智能军事化应用所带来的安全挑战,但要应对挑战,还需要建立新的治理机制。

首先,要建立以技术治理为主体的人工智能全球治理体系,改变国家的安全观念,更加积极地促进知识和经验的分享来维护体系安全,而不是通过垄断技术来获取竞争优势。其次,人工智能的全球治理应当处理好政府与其他利益攸关方的关系。人工智能具有军民两用性,技术在军事领域的应用会对民用产生负面影响。如谷歌和亚马逊都因为与军方开展人工智能合作而遭到了员工和客户的反对。最后,应有约束大国发展和使用军事人工智能的国际机制,形成大国审慎考虑自身行为带来安全困境的舆论氛围。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11587次阅读
四轴机器人编程与应用

为什么需要人工智能 它能帮助我们什么

当公司将数字化转型原则应用于其业务时,物联网和人工智能的结合会在其行业内造成破坏。无论企业是使用物联....
发表于 2019-10-11 16:54 0次阅读
为什么需要人工智能 它能帮助我们什么

苗圩:新一轮科技革命和产业变革实现推动传统产业转...

2019年10月11日,工业和信息化部与河北省人民政府共同主办的2019中国国际数字经济博览会在河北....
发表于 2019-10-11 16:48 0次阅读
苗圩:新一轮科技革命和产业变革实现推动传统产业转...

百度和沧州签署战略合作协议,获首批30张自动驾驶...

10月11日消息,在2019中国国际数字经济博览会期间,百度和沧州签署战略合作协议,并获颁沧州发布的....
发表于 2019-10-11 16:42 10次阅读
百度和沧州签署战略合作协议,获首批30张自动驾驶...

人工智能将如何改变我们的生活

随着我国经济的快速发展,科技水平不断提高,互联网的迅速发展,人工智能慢慢地融入我们的生活,人工智能是....
发表于 2019-10-11 16:39 5次阅读
人工智能将如何改变我们的生活

5G网络应用上AI后会有什么改变

5G网络需要支持超大带宽、超低延时及海量连接场景,可服务于自动驾驶、工业控制、智能电网、大视频、AR....
发表于 2019-10-11 16:31 0次阅读
5G网络应用上AI后会有什么改变

荣耀20青春版入网工信部,支持20W快充技术

近日,关于荣耀20青春版的消息层出不穷,先是荣耀总裁赵明在论坛上与花粉互动,后又曝光多张荣耀20青春....
发表于 2019-10-11 15:50 40次阅读
荣耀20青春版入网工信部,支持20W快充技术

网络安全与人工智能的相遇是火花还是火坑

随着万物互联时代的来临,互联网以“开放”“包容”的姿态接纳各类型设备的接入,在带来更加便捷生活的同时....
发表于 2019-10-11 14:35 9次阅读
网络安全与人工智能的相遇是火花还是火坑

协作机器人在医疗领域的潜力怎样

人机协作是未来的趋势,也是机器人行业发展的下一个重点方向。
发表于 2019-10-11 14:21 11次阅读
协作机器人在医疗领域的潜力怎样

工业机器人对于我们而言是机遇还是挑战

近几年随着人工智能的飞速发展,劳动成本提升倒逼生产企业不得不进行转型升级,实现自动化。
发表于 2019-10-11 14:18 17次阅读
工业机器人对于我们而言是机遇还是挑战

物流机器人应该选择怎样的商业模式

所谓设备代运营,是指物流机器人企业为客户免费提供设备或为其打造以物流机器人为核心的物流系统,再通过仓....
发表于 2019-10-11 14:15 44次阅读
物流机器人应该选择怎样的商业模式

人工智能会加速什么消费级应用新品的出现

未来人工智能产业规模将持续扩大,随着众多垂直领域公司的成长,更多消费级应用产品会不断涌现。
发表于 2019-10-11 14:01 7次阅读
人工智能会加速什么消费级应用新品的出现

依托智能技术储备,“松霖整装”开辟“全屋智能”新...

对于“松霖整装”而言,“全屋智能”并非是智能硬件与家装的简单结合,其核心是通过物联网,使不同空间的智....
发表于 2019-10-11 11:23 170次阅读
依托智能技术储备,“松霖整装”开辟“全屋智能”新...

机器人送快递背后的科技是什么

为实现市区到偏远地区的物流快速配送,顺丰打造了“三段式空运网”,由末端派送无人机、货机、大型干支线无....
发表于 2019-10-11 10:59 269次阅读
机器人送快递背后的科技是什么

5G如何成为人工智能产品的小工具

未来的人工智能时代,就像曾经经历过的几次工业革命一样,为人类社会创造更多的财富,为更多人提供机会,让....
发表于 2019-10-11 10:53 88次阅读
5G如何成为人工智能产品的小工具

5G时代,让智能家居走进你的生活

智能家居时代已经到来,我觉得家居操作系统的意义在于让所有的家居能够互通互联,并通过与硬件的结合赋予家....
发表于 2019-10-11 10:47 164次阅读
5G时代,让智能家居走进你的生活

中国智能家居产品与人工智能、物联网等新兴技术结合

 记者看到,除了美的、格兰仕、海尔等众多中国家电巨头,苏宁、阿里巴巴等多家零售巨头也纷纷亮相。德国国....
发表于 2019-10-11 10:45 124次阅读
中国智能家居产品与人工智能、物联网等新兴技术结合

安防领域如何完美的融入5G和AI还有4K技术

4K显示,AI加持,引领安防再度升级;政策推动、5G赋能,加速产业规模应用。
发表于 2019-10-11 10:16 116次阅读
安防领域如何完美的融入5G和AI还有4K技术

人脸识别进入社会之后要注意什么

随着AI和脸部辨识技术不断发展,这一技术绝对会变成功能强大且有用的工具,但是立法者如何权衡这一点,并....
发表于 2019-10-11 10:13 29次阅读
人脸识别进入社会之后要注意什么

人工智能的发展对人们是否会存在威胁

提起人工智能的形象,美国电影《钢铁侠》系列中无处不在的“贾维斯”应该是现如今大部分网友认知最清晰的人....
发表于 2019-10-11 10:01 146次阅读
人工智能的发展对人们是否会存在威胁

人工智能技术将会使人们的生活越来越好

人工智能被提出之后,经历了几次的繁荣期。当下人工智能的火爆,离不开人机大战的噱头。当AlphaGo在....
发表于 2019-10-11 09:57 42次阅读
人工智能技术将会使人们的生活越来越好

人工智能针对物联网的数据洪流而强化生态系统

第五波计算技术的融合——人工智能(AI)、5G与物联网(IoT)——正持续加速令人惊讶的变化,并驱动....
发表于 2019-10-11 09:52 28次阅读
人工智能针对物联网的数据洪流而强化生态系统

中国联通在5G巨大蛋糕面前将如何脱颖而出

中国联通网络技术研究院/中讯邮电咨询设计院副总经理朱常波此前在接受C114采访时曾经表示,,“技术不....
发表于 2019-10-11 09:37 37次阅读
中国联通在5G巨大蛋糕面前将如何脱颖而出

Trendforce:2020十大科技趋势揭晓 ...

全球市场研究机构集邦咨询针对2020年科技产业发展,整理十大科技趋势,其中亮点有AI、5G、车用“三....
发表于 2019-10-11 09:18 585次阅读
Trendforce:2020十大科技趋势揭晓 ...

中兴通讯在Linux基金会的首个开源社区正式成立

Adlik是LF AI中首个聚焦深度学习模型推理阶段的项目,其宗旨是使深度学习模型能够高效地运行在多....
发表于 2019-10-11 09:15 15次阅读
中兴通讯在Linux基金会的首个开源社区正式成立

我国5G技术研发试验3个阶段的测试成果即将发布

本届PT展以“5G融合,共建万物互联的智能世界”为主题,届时将连续发布我国5G技术研发试验3个阶段的....
发表于 2019-10-11 08:52 61次阅读
我国5G技术研发试验3个阶段的测试成果即将发布

关于智能家电行业发展的前景预测

当前,智能家居难以进入普通住宅最重要的塬因还是价格太高,目前家居智能化一般在10万元以上,大众是较难....
发表于 2019-10-10 17:00 81次阅读
关于智能家电行业发展的前景预测

AI语音合成还需要怎样发展

随着新一代科技革命和产业变革的到来,人工智能技术愈发受到了越来越多国家和企业的青睐。
发表于 2019-10-10 16:55 69次阅读
AI语音合成还需要怎样发展

人工智能在未来真的能够取代人类进行工作吗

随着人类数百年前走进科技发展的道路之后,人类文明也迎来了飞速的发展。在科技的带领下,人类文明的变化一....
发表于 2019-10-10 16:39 90次阅读
人工智能在未来真的能够取代人类进行工作吗

人工智能技术将会成为未来社会发展的核心

我们现在的生活中基本上都会配备至少一部手机,大家现在都非常依赖智能手机带来的便利,如果我们没有智能手....
发表于 2019-10-10 16:34 80次阅读
人工智能技术将会成为未来社会发展的核心

人工智能时代背景下该如何重新定义教育

教育是信息同步和内化的过程,让学生去理解和消化某个知识点,就是教学过程的一个缩影。好的老师会先了解学....
发表于 2019-10-10 16:34 40次阅读
人工智能时代背景下该如何重新定义教育

云从科技AI+安防再创佳绩

全国民族运动会既是全国少数民族通过传统体育项目展示自身风采舞台,是各民族交流和融合平台,这也是全国民....
发表于 2019-10-10 16:25 176次阅读
云从科技AI+安防再创佳绩

生物识别中是怎样加入了AI技术的

人脸识别:人脸识别又称面部识别,是基于人的脸部特征信息进行身份识别的一种生物识别技术。
发表于 2019-10-10 16:22 52次阅读
生物识别中是怎样加入了AI技术的

人工智能在智能理赔领域的创新

图像识别可以通过人脸识别、证件识别(还包括不属于图像的声纹识别)等方式进行身份认证。更重要的,图像识....
发表于 2019-10-10 16:20 187次阅读
人工智能在智能理赔领域的创新

OPPO在日本推出专为日本市场设计的OPPO R...

OPPO Reno A配备骁龙710移动平台、3600mAh电池,并搭载具有AI智能美颜功能的前置2....
发表于 2019-10-10 16:01 1084次阅读
OPPO在日本推出专为日本市场设计的OPPO R...

安防AI已进入“后人脸”时代,场景化应用才是根本

“从行业应用落地来说,一个标称多高多高的硬件是远远不够的,如果方案方无法快速高效地将自己的算法和方案....
发表于 2019-10-10 15:57 190次阅读
安防AI已进入“后人脸”时代,场景化应用才是根本

京东数科与普天轨道交通签署战略合作协议

京东数字科技作为京东集团三大子集团之一,是京东技术战略的重要承载者,以数据技术、AI、IoT、区块链....
发表于 2019-10-10 15:48 215次阅读
京东数科与普天轨道交通签署战略合作协议

AI技术在医疗领域能起到什么样的作用

对常人而言,所谓看病,最重要的就是医生诊疗的过程,临床诊断、对症下药,最后药到病除。其实人工智能在上....
发表于 2019-10-10 15:41 145次阅读
AI技术在医疗领域能起到什么样的作用

东方网力助力“平安校园”建设

在预警功能上,校园安全预警平台根据学校周边的实际治安情况开发设计出三大感知预警业务模型,包括重点人员....
发表于 2019-10-10 15:16 157次阅读
东方网力助力“平安校园”建设

人工智能将为石油和天然气带来新能源

Amii总裁兼首席执行官John Shillington表示:“Imperial是我们Amii创新项....
发表于 2019-10-10 14:58 133次阅读
人工智能将为石油和天然气带来新能源

一个AI创业者看《投资人逃离人工智能》

这篇文章无论是从叙事、举证、事实分析还是结论启发都句句有声、层层推进,确实能够给朋友们带来冲击。作为....
发表于 2019-10-10 14:52 220次阅读
一个AI创业者看《投资人逃离人工智能》

如何全面提高地方立法质量?人工智能可以助一臂之力

人工智能技术在法律领域的深度应用,需要既懂技术又精通法律的一大批复合型人才。当前,国内研发法律智能产....
发表于 2019-10-10 14:49 123次阅读
如何全面提高地方立法质量?人工智能可以助一臂之力

人工智能如何助力4S店解决卖车难?

渐进式改良路线已不能满足负增长时代下的营销需求,结合了知识图谱、语义理解、深度学习等技术的智慧外呼服....
发表于 2019-10-10 14:46 177次阅读
人工智能如何助力4S店解决卖车难?

2019年The AI Summit旧金山站正式...

在今年的The AI Summit展区上,联想精心呈现了一系列针对不同用户和使用场景的创新技术与人工....
发表于 2019-10-10 14:41 134次阅读
2019年The AI Summit旧金山站正式...

首届湖南省人工智能产业创新与应用大赛举行

据悉,本次活动由湖南省工信厅、长沙市工信局指导,长沙经开区管委会产业环保局、长沙经开区管委会创业服务....
发表于 2019-10-10 14:32 128次阅读
首届湖南省人工智能产业创新与应用大赛举行

邓中翰:我认为人工智能最终会造福于全人类

邓中翰谈到,统一的规则和标准将帮助技术更好地提升效率、释放规模效应并惠及大众。“我们需要建立起技术适....
发表于 2019-10-10 14:29 245次阅读
邓中翰:我认为人工智能最终会造福于全人类

樊麾再次负于AlphaGo,以0:5完败于人工智...

而后,不断自学的AlphaGo轻松战胜李世石,世界等级分第一的柯洁和世界冠军团队亦无法阻挡人工智能的....
发表于 2019-10-10 14:26 159次阅读
樊麾再次负于AlphaGo,以0:5完败于人工智...

工业和信息化部官网公布“2019年工业和信息化部...

前述暂行办法规定,重点实验室是工业和信息化领域技术创新体系的重要组成部分,是开展高水平研发活动、聚集....
发表于 2019-10-10 14:17 1062次阅读
工业和信息化部官网公布“2019年工业和信息化部...

韩国KT公司在台城洞全面铺设5G基础设施,在小学...

台城洞自由村位于“三八线”韩国一侧,是韩国境内紧邻“三八线”的唯一村庄,生产生活相对封闭。韩国在实现....
发表于 2019-10-10 14:07 216次阅读
韩国KT公司在台城洞全面铺设5G基础设施,在小学...

AI算命的背后是怎样的现实现象

披着“大数据、人工智能”外衣的网络迷信,因其打着科学的旗号、宣扬技术的加持,往往更具有欺骗性、迷惑性....
发表于 2019-10-10 11:52 65次阅读
AI算命的背后是怎样的现实现象

人工智能芯片怎样挖掘安防市场

作为AI产业发展的基石,AI芯片近年发展势头迅猛,作为人工智能落地首站的安防领域,开始成为众多企业发....
发表于 2019-10-10 11:49 46次阅读
人工智能芯片怎样挖掘安防市场

去哪借:人工智能是金融科技未来风口所在

据了解,云知声作为中关村重点打造前沿产业和未来产业的“独角兽”企业之一,去年生产出全球首款面向物联网....
发表于 2019-10-10 11:45 289次阅读
去哪借:人工智能是金融科技未来风口所在

人工智能课,在中学里教些什么?

丰富的课程和领域离不开师资力量的支撑。13位专职教师,其中7位是博士,多数毕业于计算机、自动控制、机....
发表于 2019-10-10 11:41 198次阅读
人工智能课,在中学里教些什么?

人工智能的下一件大事,定义人工智能

人们对人工智能的应用正处于兴奋的阶段。在某些方面,由于处理能力的最新发展,人工智能被吹捧为最终走向现....
发表于 2019-10-10 11:36 237次阅读
人工智能的下一件大事,定义人工智能

多家公司对美国商务部将其纳入实体清单的行为表示强...

10月8日,多家公司午间对外发布其被美国商务部纳入实体清单的公告,并对美国的此行径表示强烈反对。其中....
发表于 2019-10-10 11:33 185次阅读
多家公司对美国商务部将其纳入实体清单的行为表示强...

全球人工智能软件市场的概述

还包括有助于新兴市场参与者保持竞争优势的建议和战略计划。全球人工智能软件市场报告中包含的其他几个要点....
发表于 2019-10-10 11:31 162次阅读
全球人工智能软件市场的概述

安全市场中的人工智能服务“”报告是基于全球市场进...

该报告还提到了对安全市场中人工智能服务的当前规则,法规和政策以及产业链的深入分析。除此之外,本报告还....
发表于 2019-10-10 11:27 144次阅读
安全市场中的人工智能服务“”报告是基于全球市场进...

李彦宏给人工智能支招儿:不能只重“颜值”不重“内...

对于国内人工智能的发展,李彦宏坦言:“中国论文发表数很多,专利申请量很多,但是人工智能的深度学习的框....
发表于 2019-10-10 11:25 123次阅读
李彦宏给人工智能支招儿:不能只重“颜值”不重“内...

人工智能助力垃圾分类会是一个好的投资机会吗

投资者应关注所有垃圾背后的数字,因为技术进步,监管调整和气候变化可能会促使初创企业大幅度扩展业务。
发表于 2019-10-10 11:24 295次阅读
人工智能助力垃圾分类会是一个好的投资机会吗

量子计算时代开启了吗

量子计算机依据一套完全不同于经典计算机的量子力学法则运行。
发表于 2019-10-10 11:22 86次阅读
量子计算时代开启了吗

同盾科技以AI技术赋能“颠覆与蜕变”,打造金融科...

国内金融服务业的智能化转型速度,在全球范围内可谓名列前茅。从目前来看,金融机构对于智能风控系统的需求....
发表于 2019-10-10 11:18 659次阅读
同盾科技以AI技术赋能“颠覆与蜕变”,打造金融科...

为什么说FPGA是机器深度学习的未来?

  最近几年数据量和可访问性的迅速增长,使得人工智能的算法设计理念发生了转变。人工建立算法的做法被计算机从大量...
发表于 2019-10-10 06:45 24次阅读
为什么说FPGA是机器深度学习的未来?

郑交会人工智能科技展

2019年,“智能+”作为一个概念,首次出现在政府工作报告中,人工智能也已连续三年被写入政府工作报告。在国务院印发...
发表于 2019-09-16 18:24 164次阅读
郑交会人工智能科技展

Ubuntu下试玩visionseed工具的数据可视化

日前购得一套AI视觉模组visionseed,我准备先在Ubuntu下试玩visionseed工具来了解这套视觉模组。当然前期准备工作...
发表于 2019-09-16 11:29 533次阅读
Ubuntu下试玩visionseed工具的数据可视化

大话人工智能成功进入测试阶段

大话人工智能成功进入测试阶段 人工智能英文简称为AI,英文全写Artificial Intelligence,中文直译就是人工智能...
发表于 2019-09-15 12:40 284次阅读
大话人工智能成功进入测试阶段

国内外人工智能十大芯片怎么样?

2019年属于人工智能爆发的一年,特别是芯片领域,华为一家就推出来四个芯片,芯片可不像软件一样简单复制,也不像普通...
发表于 2019-09-11 11:52 267次阅读
国内外人工智能十大芯片怎么样?

人工智能能否取代人类?

为什么大家对这类问题如此感兴趣?这可能要追溯到2016年,AI真正进入到大众视野并引爆媒体的标志性事件,也就是Alp...
发表于 2019-09-11 11:52 514次阅读
人工智能能否取代人类?

神经处理单元IP VIP9000怎么样?

芯片设计平台即服务(SiPaaS®)公司芯原(VeriSilicon)今日宣布推出VIP9000,这是一款高度可扩展、可编程的计算...
发表于 2019-09-11 11:52 201次阅读
神经处理单元IP VIP9000怎么样?

通用型AI语音识别芯片音旋风611如何?

近日,国产原生芯片品牌探境科技宣布全球首款通用型AI语音识别芯片——音旋风611(英文名称:Voitist611)目前正式进...
发表于 2019-09-11 11:52 197次阅读
通用型AI语音识别芯片音旋风611如何?

人工智能语音芯片行业的发展趋势如何?

人工智能是近三年来最受关注的核心基础技术,将深刻的改造各个传统行业。人工智能在图像识别、语音识别领域的应用自20...
发表于 2019-09-11 11:52 261次阅读
人工智能语音芯片行业的发展趋势如何?

什么是艾芯智能人脸识别门锁解决方案?

随着人工智能(AI)在家庭场景中应用与普及,智能锁逐渐成为智能家居不可或缺的“门面担当”,安全防盗、便利生活成...
发表于 2019-09-11 11:52 272次阅读
什么是艾芯智能人脸识别门锁解决方案?