侵权投诉

“人工智能与国际安全:挑战与机遇”分论坛

CISTP科技政策中心 2021-01-21 09:36 次阅读

2020年12月18日晚九点,在首届清华大学人工智能合作与治理国际论坛上举行了“人工智能与国际安全:挑战与机遇”分论坛,由清华大学战略与安全研究中心(以下简称中心)承办。此次分论坛重点公布和通报了中心与布鲁金斯学会联合研究项目“人工智能与国际安全”的初步成果,这个项目得到博古睿研究院和明德路基金会的共同支持。

e1df278e-452e-11eb-8b86-12bb97331649.png

论坛现场

清华大学战略与安全研究中心主任、人工智能国际治理研究院名誉院长傅莹和布鲁金斯学会主席约翰·艾伦(JohnAllen)围绕会议主题做主旨发言。清华大学战略与安全研究中心高级研究员、国际关系学系教授李彬对联合研究的情况和中方专家关于智能武器风险和治理的思路做了详细介绍。中国电科发展战略研究中心高级工程师郝英好、中国军控与裁军协会副会长兼秘书长李驰江、博古睿研究院项目副总裁尼尔斯·吉尔曼(NilsGilman)、布鲁金斯学会研究员克里斯·梅塞罗(ChrisMeserole)、布鲁金斯学会访问研究员汤姆·斯蒂芬尼克(TomStefanick)等项目成员,就人工智能的攻击禁区、数据安全风险、对国际法的挑战以及中美在全球治理上的合作等问题分别发表观点。分论坛由清华大学战略与安全研究中心副主任肖茜主持。

约翰·艾伦在主旨发言中提到,中美在人工智能等新兴技术领域的战略竞争日益明显,围绕着“人工智能军备竞赛”的说法不绝于耳。为了避免不可控的军备竞赛,他希望“人工智能与国际安全”项目中所讨论的安全关切,能够在政府层面对话和非官方论坛中得到进一步探讨,特别是针对人工智能所构成的国家安全风险,以降低这些风险发生的可能性。他认为现在正是规范技术发展和应用的关键期,呼吁美中两国的政府和专家团体能够抓住当下的机遇,围绕降低人工智能可能构成的国家安全风险的实际步骤达成共识。

傅莹在主旨发言中重点介绍了中国关于人工智能治理国际合作的主张,她说,今年11月中国国家主席习近平在二十国集团(G20)峰会上强调,中方支持围绕人工智能加强对话,倡议适时召开专题会议,推动落实G20人工智能原则,引领全球人工智能的健康发展。今年9月,中国国务委员兼外长王毅提出《全球数据安全倡议》,表示希望国际社会在普遍参与的基础上就人工智能的安全问题达成国际协议,支持通过双边或多边协议的形式确认倡议中的承诺。他提出有效应对数据安全风险应遵循的三项原则,包括秉持多边主义、兼顾安全发展和坚守公平正义等。

她说,中美关于人工智能安全治理的联合研究项目是一个成功的案例,双方都从中受益良多,研究结果也有很好的参考价值。既然人工智能武器化不可避免,我们需要寻找合适的治理路径。人类必须汲取历史教训,例如对核武器的治理共识就发生的太晚,导致人类曾经面临巨大威胁,互联网的治理也没有能够在早期实现。大家希望这次对人工智能,尤其是智能武器的治理,人类能走在技术变革的前面,充分认识其风险,早些达成治理共识。在讨论人工智能国际治理时,人们经常引用在核武器治理方面享有声誉的Pugwash机构(帕格沃什科学和世界事务会议),这一机构在核军控领域起到了积极作用。在推动人工智能的国际治理方面,也可以参考这样的方式,成立一个由科研人员、政府和政策专业人士组成的“人工智能国际治理委员会”。

e29f7fac-452e-11eb-8b86-12bb97331649.png

傅莹发言

中方团队牵头人李彬在总结中方团队研究的进展和发现时说,国际法的基本准则应该被纳入到人工智能武器的设计和部署之中,从而确保使用智能武器进行武力攻击时符合国际法律规范。他谈到武力法和武装冲突法的运用,主张用国际法的基本原则指导人工智能军用技术的开发,同时还应该在人工智能程序员和军事操作人员中开展教育,让他们更好地理解和在实践中贯彻使用武力法中的相称性原则和武装冲突法中的比例原则。

e33ab3c8-452e-11eb-8b86-12bb97331649.png

李彬发言

在座谈环节,专家就中美如何在人工智能治理领域合作展开深入讨论并表示,中美两国是人工智能大国,都有防范军用人工智能技术风险和完善治理的需求。人工智能技术的滥用或者偏差有可能冲击战略稳定、改变交战规则,抬高军事风险。中美都有较强的风险管控需求和共同利益。因此,中美在人工智能国际治理中有很大的合作空间。有专家指出,人工智能在数据收集、算法训练和战场应用中,必须遵守国际法中的比例原则和区分原则,不能攻击平民或民用设施,造成过多的伤害。中方专家提出采用数据收集的“红绿灯”规则,禁止人工智能武器攻击民用目标,只能对完全确认的军用目标发动进攻。这个措施可以使人工智能更好地遵守国际法。

最后,专家们表示,包括中美在内的世界各国可以通过政策交流、互换文件、学者探讨等多种方式,增信释疑,实现在人工智能安全问题上形成国际治理共识。

责任编辑:lq

原文标题:分论坛三|人工智能与国际安全:挑战与机遇

文章出处:【微信号:cistp2016,微信公众号:CISTP科技政策中心】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

未来生活中的人工智能的新进展与方向

在过去的十年里,技术创新的步伐急剧加快。此外,在信息技术领域,特别是在人工智能(AI)和机器学习(M....
的头像 beanxyy 发表于 03-04 18:12 190次 阅读
未来生活中的人工智能的新进展与方向

全球十大引领人工智能热潮的国家名单及发展

当前人工智能的惊人发展趋势正在不同国家的所有行业中大行其道。人工智能有能力识别人脸、运行自动驾驶汽车....
的头像 beanxyy 发表于 03-04 17:48 90次 阅读
全球十大引领人工智能热潮的国家名单及发展

论Deepfake科技是怎样工作与优缺点

如果某人能在其曾祖母的一张旧照片上看到她眨眼微笑,会有什么感觉?毫无疑问,这会让你感到害怕,但也会让....
的头像 beanxyy 发表于 03-04 17:36 117次 阅读
论Deepfake科技是怎样工作与优缺点

关于AIOP在现实中的五种应用方法与结论

值得注意的是,AIOPs作为一种站点可靠性工程工具更为有效,因为应用程序和基础设施正在迅速发展。当有....
发表于 03-04 17:15 40次 阅读
关于AIOP在现实中的五种应用方法与结论

基于能源打造全球领先的智能物联操作系统

如今,远景智能正为全球超300家一流企业提供低碳与数字解决方案,帮助新加坡“智慧国度”打造“数字底座....
的头像 你好张江 发表于 03-04 17:08 94次 阅读
基于能源打造全球领先的智能物联操作系统

对于人工智能系统制造虚假文件,从而隐藏有价值的信息的分析

WE-FORGE是达特茅斯大学计算机科学系设计的一种新的数据保护系统,它使用人工智能在金丝雀陷阱概念....
的头像 beanxyy 发表于 03-04 16:58 57次 阅读
对于人工智能系统制造虚假文件,从而隐藏有价值的信息的分析

美国人工智能国安委员会建议遏制中国半导体发展

相关机构极力渲染美国在科技领域对抗中国的“紧迫性”。 美国当地时间3月1日,美国人工智能国家安全委员....
的头像 璟琰乀 发表于 03-04 16:26 54次 阅读
美国人工智能国安委员会建议遏制中国半导体发展

论机器学习能否帮助和管理好糖尿病患者的生活,及其效应与模式

机器学习在医疗保健中有多种用途,可以在生成和利用数据的任何地方使用,例如在临床试验,诊断甚至在管理慢....
发表于 03-04 16:21 44次 阅读
论机器学习能否帮助和管理好糖尿病患者的生活,及其效应与模式

浪潮发布云熠5G云网融合一体机

生产光刻机的一项技术难点,是如何提供波长短、功率大的EUV光源。尽管SSMB有望解决自主研发光刻机中....
的头像 lhl545545 发表于 03-04 16:09 105次 阅读
浪潮发布云熠5G云网融合一体机

谷歌在中国台湾建立硬件研发基地

工信部今日印发《基础电子元器件产业发展行动计划(2021-2023年)》。行动计划提出,到2023年....
的头像 lhl545545 发表于 03-04 15:50 176次 阅读
谷歌在中国台湾建立硬件研发基地

C3AI改革出无码人工智能,无需代码的情况下开发、扩展和生成基于AI的见解       

所有行业和业务中的分析师、操作员和现场专业人员越来越多地需要从大量不同的数据集中获得预测和规定的见解....
发表于 03-04 15:40 115次 阅读
C3AI改革出无码人工智能,无需代码的情况下开发、扩展和生成基于AI的见解         

机器人可协助外科手术提高医疗效率

人们见证了人工智能的蓬勃发展及其在各个行业的应用案例。医疗保健是人工智能、自动化和机器人技术的重要贡....
的头像 如意 发表于 03-04 15:38 103次 阅读
机器人可协助外科手术提高医疗效率

谈5G与AI的结合,对未来生活的影响与结果

随着5G通信技术的出现及其与AI的集成,我们正在展望一个新时代,在这个新时代中,人、机器、物体和设备....
发表于 03-04 15:34 52次 阅读
谈5G与AI的结合,对未来生活的影响与结果

物联网、边缘计算和人工智能如何带来收益?

Bill Holmes是加州Corona工厂的设施经理,该工厂生产着标志性的Fender Strat....
的头像 如意 发表于 03-04 15:25 69次 阅读
物联网、边缘计算和人工智能如何带来收益?

消除人工智能模型偏见的方法

自动化决策工具在组织的应用中正变得越来越普遍。然而,其背后的一些机器学习(ML)模型(从面部识别系统....
的头像 如意 发表于 03-04 15:20 124次 阅读
消除人工智能模型偏见的方法

浪潮信息联合国际权威机构IDC发布《2020全球计算力指数评估报告》

开放计算是完整的数据中心产业生态,代表了数据中心领先的技术创新。互联网企业和IT厂商积极参与开放计算....
的头像 物联网前沿 发表于 03-04 15:07 159次 阅读
浪潮信息联合国际权威机构IDC发布《2020全球计算力指数评估报告》

人工智能是否能让人们认识到其自身的巨大价值与优势?

人工智能(AI)将改变事物,这几乎是整个商业世界普遍接受的观点。普华永道的一项调查也证实了这一点,8....
的头像 beanxyy 发表于 03-04 15:03 289次 阅读
人工智能是否能让人们认识到其自身的巨大价值与优势?

FDA发布其首个关于人工智能机器学习的行动计划,其作为医疗设备

美国食品药品监督管理局(FDA)发布其首个基于人工智能/机器学习(AI / ML)的软件,该软件作为....
的头像 beanxyy 发表于 03-04 14:51 157次 阅读
FDA发布其首个关于人工智能机器学习的行动计划,其作为医疗设备

伙伴算法如何才能在Linux内核中实现应用及其改进

伙伴算法是内存管理的比较常用的算法之一。以Linux内存管理为基础,阐述了Linux内核中关于伙伴算....
发表于 03-04 14:37 14次 阅读
伙伴算法如何才能在Linux内核中实现应用及其改进

一种将AI与智能平台相结合的技术,为保险行一种新的选择  

1月28日,Mitchell宣布将Tractable的AI技术添加到Mitchell智能开放平台(M....
的头像 beanxyy 发表于 03-04 14:34 140次 阅读
一种将AI与智能平台相结合的技术,为保险行一种新的选择   

物联网究竟往何处发展才是正确?

把时间拉长,并不是物联网整体路线错误,而是在早期条件下,物联网在技术水平、商业模式、市场教育、产业标....
的头像 物联网技术 发表于 03-04 14:22 182次 阅读
物联网究竟往何处发展才是正确?

贸泽电子与Maxim Integrated联手发布新电子书 共同探索医疗可穿戴设备的未来发展

在越来越多的患者难以获得传统面对面医疗服务的时代,可穿戴医疗设备提供了一种重要的监护解决方案。
发表于 03-04 14:21 79次 阅读
贸泽电子与Maxim Integrated联手发布新电子书  共同探索医疗可穿戴设备的未来发展

论人工智能与自动化对劳动力的影响

在冠状病毒大流行期间,人工智能和自动化正在进步,在短期内创造新的混合劳动力,而不会直接影响正常工作。
的头像 beanxyy 发表于 03-04 14:10 163次 阅读
论人工智能与自动化对劳动力的影响

日立为何要卖影像诊断?

一类是大型医疗设备综合工业巨头:比如奥林巴斯医疗、佳能医疗、富士胶片、岛津制作所等,相当于全球医疗器....
的头像 IoT科技评论 发表于 03-04 13:58 124次 阅读
日立为何要卖影像诊断?

人工神经网络的发展和分类详细说明

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称....
发表于 03-04 13:56 8次 阅读
人工神经网络的发展和分类详细说明

中国又一款隐身机研发成功,最大起飞重量为3吨

在现代战争中,智能无人体系作战越来越重要。无人机作为无人体系作战中的一环,是打赢未来战争不可或缺的制....
发表于 03-04 13:34 37次 阅读
中国又一款隐身机研发成功,最大起飞重量为3吨

雷军建议:运用智能技术帮助老年人更好融入数字生活

3月4日,雷军围绕推动数字经济和科技创新的大方向,发布了《我的2021两会建议》:关于进一步推动我国....
的头像 我快闭嘴 发表于 03-04 13:29 201次 阅读
雷军建议:运用智能技术帮助老年人更好融入数字生活

Gartner发布的2021年十大数据和分析趋势

Gartner杰出研究副总裁RitaSallam表示:“这些数据和分析趋势可以帮助企业机构和社会应对....
的头像 工业IoT 发表于 03-04 11:44 113次 阅读
Gartner发布的2021年十大数据和分析趋势

特斯拉计划凭借FSD方案实现完全自动驾驶

3月3日下午消息,据报道,马斯克在此前回答网友提问时称,特斯拉将在未来3-4个月内推出其全自动驾驶(....
的头像 lhl545545 发表于 03-04 11:43 101次 阅读
特斯拉计划凭借FSD方案实现完全自动驾驶

浅谈人工智能如何通过AI变得灵活,且新技术的方向

人工智能(AI)仍然是制造业在内的许多行业的热门话题,涵盖新AI功能和趋势的媒体在实现生产数字化方面....
发表于 03-04 11:28 212次 阅读
浅谈人工智能如何通过AI变得灵活,且新技术的方向

疫情下的人工智能到底能给我们带来多大的便利

医学图像庞大且相对规范的数据库,智能图像识别算法的不断进步,为人工智能医学在该领域的应用提供了坚实的....
发表于 03-04 10:30 208次 阅读
疫情下的人工智能到底能给我们带来多大的便利

算法工程师须知的十个炼丹trick

针对类别不平衡问题,用预测概率对不同类别的loss进行加权。Focal loss对CE loss增加....
的头像 新机器视觉 发表于 03-04 09:46 77次 阅读
算法工程师须知的十个炼丹trick

SkyGrid推出全球首款人工智能无人机安保系统

波音公司与人工智能平台sparkcognition共同成立的合资公司SkyGrid,于最近推出了全球....
的头像 电子魔法师 发表于 03-04 09:43 221次 阅读
SkyGrid推出全球首款人工智能无人机安保系统

GlobalData整理了世界各个公司在AI领域发表专利的情况

佳能在人工智能领域的主要发展不仅局限于简单的相机,他们最大的发展方向是「医学成像」。Covid-20....
的头像 新机器视觉 发表于 03-04 09:38 175次 阅读
GlobalData整理了世界各个公司在AI领域发表专利的情况

为什么机器视觉不稳定,bug不断

这条规则不仅仅适用于机器视觉软件、其他软件开发也同样适用于非软件的其他工程项目开发。我在菜鸟季经常犯....
的头像 新机器视觉 发表于 03-04 09:26 76次 阅读
为什么机器视觉不稳定,bug不断

2021年人工智能和机器学习的五大趋势

人工智能和机器学习如今一直在改变着我们的世界,2020年发生的冠状病毒疫情为这两种技术带来了新的机会....
发表于 03-04 06:35 112次 阅读
2021年人工智能和机器学习的五大趋势

爱立信提出“AI By Design”原生AI理念

2月25日,在2021世界移动大会·上海(暨2021MWC Shanghai)期间举办的“人工智能峰....
的头像 爱立信中国 发表于 03-03 17:37 794次 阅读
爱立信提出“AI By Design”原生AI理念

确保人工智能保持合规性和安全性的三种技术

企业在实施人工智能策略之前,需要考虑采用一些新技术以帮助保护隐私,并确保符合安全标准。
发表于 03-03 17:34 432次 阅读
确保人工智能保持合规性和安全性的三种技术

如何构建Infratech生态系统?

以技术为基础的基础架构(或InfraTech)的承诺令人垂涎。更聪明、更绿色的城市,接的运输系统,高....
发表于 03-03 16:36 269次 阅读
如何构建Infratech生态系统?

人工智能的应用以及发展前景

当今时代,人工智能已经是主要发展领域之一。
发表于 03-03 16:04 406次 阅读
人工智能的应用以及发展前景

CORD IC算法如何才能在FPGA中实现

CORD IC算法是在许多角度计算方面有着广泛应用的经典算法,通过考虑FPGA 的结构、精度局限和速....
发表于 03-03 15:55 12次 阅读
CORD IC算法如何才能在FPGA中实现

Bosch Sensortec发布搭载人工智能的四合一气体传感器

无论是在家中、办公室还是户外,用户都希望能确保周围的空气是干净且可以安全呼吸的——新冠疫情就已充分证....
的头像 博世资讯小助手 发表于 03-03 15:50 243次 阅读
Bosch Sensortec发布搭载人工智能的四合一气体传感器

大华股份未来发展前景如何?

赛迪顾问数据显示,今年国内智能安防市场规模将达到4000亿。而且,得益于人工智能以及物联网等新技术的....
的头像 我快闭嘴 发表于 03-03 15:41 639次 阅读
大华股份未来发展前景如何?

百度李彦宏两会五份提案,涉及自动驾驶和智能交通等

全国政协委员、百度董事长兼首席执行官李彦宏提交5份提案,涉及自动驾驶和智能交通、智慧养老进社区、互联....
的头像 我快闭嘴 发表于 03-03 15:05 272次 阅读
百度李彦宏两会五份提案,涉及自动驾驶和智能交通等

工业物联网有什么用,它需要新建设施吗

走出误区:工业物联网需要新建设施吗? 一些企业领导者认为,老旧的设施会阻碍数字化转型,因此必须更换。....
发表于 03-03 15:04 19次 阅读
工业物联网有什么用,它需要新建设施吗

麻省理工科技评论2021年“十大突破性技术”发布会成功举办

  2 月 24 日,《麻省理工科技评论》2021 年 “十大突破性技术” 发布会在杭州余杭区未来科....
的头像 DeepTech深科技 发表于 03-03 14:11 151次 阅读
麻省理工科技评论2021年“十大突破性技术”发布会成功举办

诺丁汉大学用深度学习复原魔方

  回想在校期间,很多同学会在课间休息时从书桌里掏出魔方或娴熟或略显笨拙地转动起来,甚至上课时有些同....
的头像 DeepTech深科技 发表于 03-03 13:58 93次 阅读
诺丁汉大学用深度学习复原魔方

未来人工智能领域GPT-4会是什么样子?

如今,人工智能技术已经广泛应用于在工作、学习、生活中,可以说它的身影无处不在。 “越来越聪明”:能写....
的头像 DeepTech深科技 发表于 03-03 13:56 103次 阅读
未来人工智能领域GPT-4会是什么样子?

安全可靠,用AI为供应链赋能

提起供应链,大家的第一印象通常是物流配送,还有那些风里来雨里去的快递员。 其实供应链涵盖的范围远不止....
的头像 DeepTech深科技 发表于 03-03 11:50 427次 阅读
安全可靠,用AI为供应链赋能

人工智能的发展前景如何

人工智能产业链可以分为基础层、技术构架层、平台层和应用层。
的头像 电子魔法师 发表于 03-03 11:27 381次 阅读
人工智能的发展前景如何

如何构建人工智能的未来?

创建Kynisys平台:我们如何构建人工智能(AI)的未来?...
发表于 03-03 07:06 0次 阅读
如何构建人工智能的未来?

自动驾驶车辆中AI面临的挑战

自动驾驶车辆中采用的AI算法 自动驾驶车辆中AI面临的挑战 ...
发表于 02-22 06:39 0次 阅读
自动驾驶车辆中AI面临的挑战

2021年的人工智能产业预测

2020年是充满动荡的一年,组织面临着众多挑战。进入2021年,人工智能行业将会快速发展。为了对2021年的重要新趋势有所了解,行业...
发表于 02-19 07:40 0次 阅读
2021年的人工智能产业预测

2021第四届人工智能大会

发表于 02-01 10:32 101次 阅读
2021第四届人工智能大会

2021第五届人工智能技术与应用论坛

发表于 02-01 10:12 202次 阅读
2021第五届人工智能技术与应用论坛

如何提高人工智能应用开发的生产效率

让AI无处不在,Arm中国“周易”人工智能平台有何绝招...
发表于 02-01 07:10 101次 阅读
如何提高人工智能应用开发的生产效率

最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

最近瑞昱RTL8189芯片缺货,导致Ipcamera、机顶盒及一些商显、广告机厂商生产跟不上,我们的成本也直线上升。有没有哪位伙伴知...
发表于 01-29 17:58 2838次 阅读
最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

【SPWM仿真模型】根据理论搭建的MATLAB仿真模型,可用于算法验证,大家可以看看!

文末附上仿真模型,大家可以下载看看,可以随时交流!...
发表于 01-28 13:21 237次 阅读
【SPWM仿真模型】根据理论搭建的MATLAB仿真模型,可用于算法验证,大家可以看看!

机器学习与软件平台的融合

本文将探讨机器学习与软件平台的融合。
发表于 01-28 06:36 101次 阅读
机器学习与软件平台的融合

人工智能和机器学习技术在2021年的五个发展趋势

人工智能和机器学习如今一直在改变着我们的世界,2020年发生的冠状病毒疫情为这两种技术带来了新的机会和紧迫性,预计在2021年将...
发表于 01-27 06:10 101次 阅读
人工智能和机器学习技术在2021年的五个发展趋势