侵权投诉

“人工智能与数据安全”分论坛

CISTP科技政策中心 2021-01-21 09:30 次阅读

2020年12月19日上午,首届清华大学人工智能合作与治理国际论坛举行了“人工智能与数据安全”分论坛,由北京智源人工智能研究院承办。在分论坛上,来自学届与产业届的专家聚焦讨论了数据与人工智能的近期与远期风险、安全挑战及对策。

在主旨演讲环节,剑桥大学智能未来研究中心研究员丹尼特·加尔(DanitGal)重点总结了人工智能安全相关的内部风险与外部防御的近期挑战,并对各国数据规制应当形成全球协作提出建议。荷兰埃因霍温科技大学教授文森特·穆勒(VincentMuller)指出通用人工智能和超级智能的长远风险具有极大不确定性。美国路易斯维尔大学教授罗曼·扬波尔斯基(RomanYampolskiy)谈及人工智能、安全和防御的未来,并表达了对于人工智能的担忧。

在专题讨论环节,奇虎360人工智能研究院院长邓亚峰、数据科学家麻丹彤、腾讯研究院高级研究员曹建峰、北京师范大学网络法治国际中心执行主任吴沈括也分别就人工智能与数据安全面临的机遇、挑战和发展趋势等发表了一系列前瞻洞见。与会专家一致表示,全球应当深度协作应对数据与人工智能的近期与长远风险。分论坛由北京智源人工智能研究院人工智能伦理与可持续发展中心主任、中科院自动化所中英人工智能伦理与治理中心主任曾毅主持。

f3810656-452e-11eb-8b86-12bb97331649.png

丹尼特·加尔发言

丹尼特·加尔在主旨演讲中区分了人工智能安全的两大重要概念(Safety和Security)的概念。Safety更偏向内部,针对的是一些无意伤害的预防措施,从系统中保护环境。Security更倾向于对外部攻击的防御,聚焦在那些有意对个人、组织和财产施加伤害的行为,从环境中保护系统。她认为,科技影响着我们所有人,它的安全和保障也是如此。然而,我们应对这些影响的能力远远落后于开发和使用。人工智能和数据流进一步复杂化了这一动态,引入并连接了新的机会和新的漏洞。丹尼特·加尔建议,应加强交流、推动合作,以减少脆弱性,在全球范围内倡导并激励数据安全治理工作。

f40723c6-452e-11eb-8b86-12bb97331649.png

文森特·穆勒发言

文森特·穆勒在主旨演讲中,分成两步介绍了超级智能和通用人工智能的长期风险,即从超级智能到技术奇点,再从技术奇点到生存风险。超级智能指的是在许多非常普遍的认知领域远远超过当今人类最佳智力的人工智能。从超级智能到技术奇点,他强调了三个前提假设,分别是我们拥有更快的速度和更多的数据,不需要认知科学,以及十分紧急。从技术奇点到生存风险,他强调了两点前提假设,理性主体决策理论适用于人工智能,以及智能和最终目标的正交性。

f4391ac0-452e-11eb-8b86-12bb97331649.png

罗曼·扬波尔斯基发言

罗曼·扬波尔斯基在主旨演讲中,分享了关于人工智能、安全和防御的未来的看法。当前超级智能正在来临,超级智能意味着超级聪明、超级复杂、超级快速、超级控制、超级病毒。他谈到关于人工智能的担心,重点介绍了最近的几项研究工作,包括通往危险的人工智能的路径分类学、人工智能安全不可能的结果、缓解负面影响、人工智能的限制问题等。他认为,人工智能失败的时间轴呈指数趋势,人工智能失败的频率和严重程度都会增加,这与人工智能的能力成比例。

f48ca244-452e-11eb-8b86-12bb97331649.png

专家对话

曹建峰分享了对算法偏差和深度合成(deepsynthesis)的看法,并提出了解决问题的建议。当前人工智能系统必须使用大量数据训练算法。如果训练数据是有偏见的或不完整的,人工智能系统将会显示有偏见的行为。因此,人工智能开发应该对数据质量有合理的控制。但数据并不是偏见的唯一来源,解决算法偏见还需要AI从业人员秉持伦理价值。此外,人工智能开发与隐私保护直接存在紧张关系;在影视制作、社交、娱乐、教育、电商等领域具有很大正向应用潜能的深度合成也可能被滥用来进行违法活动。为解决这些问题,曹建峰给出了四点建议,人工智能与数据产品开发需要遵循“通过设计的伦理”(ethicsbydesign)理念,将公平、安全等伦理价值融入产品设计全周期,并有防止滥用的保障措施;二是在企业、国家乃至国际层面建立负责任的人工智能开发和数据使用的道德准则;三是在国际社会分享最佳实践经验;四是业界需要探索开发隐私保护型的AI技术方法,如联邦学习等,来在隐私保护与数据利用之间实现更好平衡。

吴沈括认为国际社会需要面对新技术环境下数据违法行为带来的新挑战和法律漏洞。首先,由于不同地区、国家法律法规的缺失和差异,普遍导致对新型数据违法行为司法规制不足。其次,各国现行法律制度框架尚不能充分保障跨境证据收集与交换的快速高效。最后,在网络匿名的背景下,一些国家的监测、预警和应急机制越来越难以有效应对脆弱性问题的快速增长。因此,在全球化深入发展的新时代,数据违法行为的跨国衍变要求更高水平的国际合作治理,建立信任世界。

邓亚峰总结了人工智能在数据安全方面存在的潜在威胁。首先,由于人工智能是快速出现的新应用,人工智能应用生产和部署的各个环节都暴露出了一系列的安全风险。其次,人工智能和大数据应用往往与大量隐私数据关联,这些数据往往需要被送到云端进行分析和计算,造成了比原来更严重的数据泄露和安全风险。第三,虽然从技术角度看,人工智能体很长一段时间都无法拥有真正的自我意识,但是,我们无法排除一些不法分子会对人工智能加以利用,而这会带来大量的社会伦理问题。最后,由于人工智能在短期内会造成一部分从事简单重复性工作的人类失业,这会引起一定的恐慌和排斥。此外,人工智能也因为技术的不成熟,会被认为在识别结果上存在一定的歧视。他认为,人工智能和数据安全是全世界都统一面临的问题,需要全世界的组织和个人联合起来一起行动。

最后,专家们表示,人工智能和数据安全的治理需要世界各国和组织联合起来,制定更加明晰有效的法律法规,构建统一的人工智能模型与系统的安全评估准则和标准,在全球范围内用更加开放协同的方式进行科学研究和技术交流,推动人工智能技术在安全的基础上更快速的落地,构建更安全、更美好的世界。

责任编辑:lq

原文标题:分论坛五|人工智能与数据安全

文章出处:【微信号:cistp2016,微信公众号:CISTP科技政策中心】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
分享:

评论

相关推荐

未来生活中的人工智能的新进展与方向

在过去的十年里,技术创新的步伐急剧加快。此外,在信息技术领域,特别是在人工智能(AI)和机器学习(M....
的头像 beanxyy 发表于 03-04 18:12 192次 阅读
未来生活中的人工智能的新进展与方向

全球十大引领人工智能热潮的国家名单及发展

当前人工智能的惊人发展趋势正在不同国家的所有行业中大行其道。人工智能有能力识别人脸、运行自动驾驶汽车....
的头像 beanxyy 发表于 03-04 17:48 92次 阅读
全球十大引领人工智能热潮的国家名单及发展

论Deepfake科技是怎样工作与优缺点

如果某人能在其曾祖母的一张旧照片上看到她眨眼微笑,会有什么感觉?毫无疑问,这会让你感到害怕,但也会让....
的头像 beanxyy 发表于 03-04 17:36 119次 阅读
论Deepfake科技是怎样工作与优缺点

关于AIOP在现实中的五种应用方法与结论

值得注意的是,AIOPs作为一种站点可靠性工程工具更为有效,因为应用程序和基础设施正在迅速发展。当有....
发表于 03-04 17:15 42次 阅读
关于AIOP在现实中的五种应用方法与结论

基于能源打造全球领先的智能物联操作系统

如今,远景智能正为全球超300家一流企业提供低碳与数字解决方案,帮助新加坡“智慧国度”打造“数字底座....
的头像 你好张江 发表于 03-04 17:08 94次 阅读
基于能源打造全球领先的智能物联操作系统

对于人工智能系统制造虚假文件,从而隐藏有价值的信息的分析

WE-FORGE是达特茅斯大学计算机科学系设计的一种新的数据保护系统,它使用人工智能在金丝雀陷阱概念....
的头像 beanxyy 发表于 03-04 16:58 57次 阅读
对于人工智能系统制造虚假文件,从而隐藏有价值的信息的分析

美国人工智能国安委员会建议遏制中国半导体发展

相关机构极力渲染美国在科技领域对抗中国的“紧迫性”。 美国当地时间3月1日,美国人工智能国家安全委员....
的头像 璟琰乀 发表于 03-04 16:26 56次 阅读
美国人工智能国安委员会建议遏制中国半导体发展

论机器学习能否帮助和管理好糖尿病患者的生活,及其效应与模式

机器学习在医疗保健中有多种用途,可以在生成和利用数据的任何地方使用,例如在临床试验,诊断甚至在管理慢....
发表于 03-04 16:21 46次 阅读
论机器学习能否帮助和管理好糖尿病患者的生活,及其效应与模式

浪潮发布云熠5G云网融合一体机

生产光刻机的一项技术难点,是如何提供波长短、功率大的EUV光源。尽管SSMB有望解决自主研发光刻机中....
的头像 lhl545545 发表于 03-04 16:09 108次 阅读
浪潮发布云熠5G云网融合一体机

谷歌在中国台湾建立硬件研发基地

工信部今日印发《基础电子元器件产业发展行动计划(2021-2023年)》。行动计划提出,到2023年....
的头像 lhl545545 发表于 03-04 15:50 181次 阅读
谷歌在中国台湾建立硬件研发基地

两会期间互联网大佬的提案备受关注

中国人民政治协商会议第十三届全国委员会第四次会议于 2021 年 3 月 4 日在北京召开。会议前夕....
的头像 如意 发表于 03-04 15:42 85次 阅读
两会期间互联网大佬的提案备受关注

C3AI改革出无码人工智能,无需代码的情况下开发、扩展和生成基于AI的见解       

所有行业和业务中的分析师、操作员和现场专业人员越来越多地需要从大量不同的数据集中获得预测和规定的见解....
发表于 03-04 15:40 118次 阅读
C3AI改革出无码人工智能,无需代码的情况下开发、扩展和生成基于AI的见解         

机器人可协助外科手术提高医疗效率

人们见证了人工智能的蓬勃发展及其在各个行业的应用案例。医疗保健是人工智能、自动化和机器人技术的重要贡....
的头像 如意 发表于 03-04 15:38 103次 阅读
机器人可协助外科手术提高医疗效率

谈5G与AI的结合,对未来生活的影响与结果

随着5G通信技术的出现及其与AI的集成,我们正在展望一个新时代,在这个新时代中,人、机器、物体和设备....
发表于 03-04 15:34 52次 阅读
谈5G与AI的结合,对未来生活的影响与结果

物联网、边缘计算和人工智能如何带来收益?

Bill Holmes是加州Corona工厂的设施经理,该工厂生产着标志性的Fender Strat....
的头像 如意 发表于 03-04 15:25 69次 阅读
物联网、边缘计算和人工智能如何带来收益?

消除人工智能模型偏见的方法

自动化决策工具在组织的应用中正变得越来越普遍。然而,其背后的一些机器学习(ML)模型(从面部识别系统....
的头像 如意 发表于 03-04 15:20 124次 阅读
消除人工智能模型偏见的方法

浪潮信息联合国际权威机构IDC发布《2020全球计算力指数评估报告》

开放计算是完整的数据中心产业生态,代表了数据中心领先的技术创新。互联网企业和IT厂商积极参与开放计算....
的头像 物联网前沿 发表于 03-04 15:07 163次 阅读
浪潮信息联合国际权威机构IDC发布《2020全球计算力指数评估报告》

人工智能是否能让人们认识到其自身的巨大价值与优势?

人工智能(AI)将改变事物,这几乎是整个商业世界普遍接受的观点。普华永道的一项调查也证实了这一点,8....
的头像 beanxyy 发表于 03-04 15:03 289次 阅读
人工智能是否能让人们认识到其自身的巨大价值与优势?

FDA发布其首个关于人工智能机器学习的行动计划,其作为医疗设备

美国食品药品监督管理局(FDA)发布其首个基于人工智能/机器学习(AI / ML)的软件,该软件作为....
的头像 beanxyy 发表于 03-04 14:51 157次 阅读
FDA发布其首个关于人工智能机器学习的行动计划,其作为医疗设备

2021年中国数字经济发展趋势

展望2021年,越来越多的大数据交易中心将通过政府建机制、企业搭平台的方式,率先在公共领域以及金融、....
的头像 厦门市物联网行业协会 发表于 03-04 14:45 225次 阅读
2021年中国数字经济发展趋势

一种将AI与智能平台相结合的技术,为保险行一种新的选择  

1月28日,Mitchell宣布将Tractable的AI技术添加到Mitchell智能开放平台(M....
的头像 beanxyy 发表于 03-04 14:34 142次 阅读
一种将AI与智能平台相结合的技术,为保险行一种新的选择   

物联网究竟往何处发展才是正确?

把时间拉长,并不是物联网整体路线错误,而是在早期条件下,物联网在技术水平、商业模式、市场教育、产业标....
的头像 物联网技术 发表于 03-04 14:22 182次 阅读
物联网究竟往何处发展才是正确?

贸泽电子与Maxim Integrated联手发布新电子书 共同探索医疗可穿戴设备的未来发展

在越来越多的患者难以获得传统面对面医疗服务的时代,可穿戴医疗设备提供了一种重要的监护解决方案。
发表于 03-04 14:21 79次 阅读
贸泽电子与Maxim Integrated联手发布新电子书  共同探索医疗可穿戴设备的未来发展

论人工智能与自动化对劳动力的影响

在冠状病毒大流行期间,人工智能和自动化正在进步,在短期内创造新的混合劳动力,而不会直接影响正常工作。
的头像 beanxyy 发表于 03-04 14:10 163次 阅读
论人工智能与自动化对劳动力的影响

日立为何要卖影像诊断?

一类是大型医疗设备综合工业巨头:比如奥林巴斯医疗、佳能医疗、富士胶片、岛津制作所等,相当于全球医疗器....
的头像 IoT科技评论 发表于 03-04 13:58 124次 阅读
日立为何要卖影像诊断?

人工神经网络的发展和分类详细说明

人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称....
发表于 03-04 13:56 8次 阅读
人工神经网络的发展和分类详细说明

大数据试题及答案免费下载

本文档的主要内容详细介绍的是大数据试题及答案免费下载。
发表于 03-04 13:51 6次 阅读
大数据试题及答案免费下载

中国又一款隐身机研发成功,最大起飞重量为3吨

在现代战争中,智能无人体系作战越来越重要。无人机作为无人体系作战中的一环,是打赢未来战争不可或缺的制....
发表于 03-04 13:34 37次 阅读
中国又一款隐身机研发成功,最大起飞重量为3吨

雷军建议:运用智能技术帮助老年人更好融入数字生活

3月4日,雷军围绕推动数字经济和科技创新的大方向,发布了《我的2021两会建议》:关于进一步推动我国....
的头像 我快闭嘴 发表于 03-04 13:29 201次 阅读
雷军建议:运用智能技术帮助老年人更好融入数字生活

Gartner发布的2021年十大数据和分析趋势

Gartner杰出研究副总裁RitaSallam表示:“这些数据和分析趋势可以帮助企业机构和社会应对....
的头像 工业IoT 发表于 03-04 11:44 113次 阅读
Gartner发布的2021年十大数据和分析趋势

特斯拉计划凭借FSD方案实现完全自动驾驶

3月3日下午消息,据报道,马斯克在此前回答网友提问时称,特斯拉将在未来3-4个月内推出其全自动驾驶(....
的头像 lhl545545 发表于 03-04 11:43 101次 阅读
特斯拉计划凭借FSD方案实现完全自动驾驶

企业数字化转型再度成为焦点,数据中台如何有效发力?

数字化转型是企业高质量发展的重要引擎、是构建创新驱动发展格局的有力抓手,近日随着国务院国资委正式印发....
的头像 璟琰乀 发表于 03-04 11:37 133次 阅读
企业数字化转型再度成为焦点,数据中台如何有效发力?

浅谈人工智能如何通过AI变得灵活,且新技术的方向

人工智能(AI)仍然是制造业在内的许多行业的热门话题,涵盖新AI功能和趋势的媒体在实现生产数字化方面....
发表于 03-04 11:28 212次 阅读
浅谈人工智能如何通过AI变得灵活,且新技术的方向

疫情下的人工智能到底能给我们带来多大的便利

医学图像庞大且相对规范的数据库,智能图像识别算法的不断进步,为人工智能医学在该领域的应用提供了坚实的....
发表于 03-04 10:30 210次 阅读
疫情下的人工智能到底能给我们带来多大的便利

关于智能互联网的核心价值

智能互联网终端除了智能手机、PC之外,大量的智能终端加入进来,社会生活中大量普通设备将被添加通信功能....
的头像 讯维官方公众号 发表于 03-04 10:06 166次 阅读
关于智能互联网的核心价值

我国智慧医疗行业规模已突破千亿元大关,开启巨大市场空间

在《“健康中国2030”规划纲要》《关于促进“互联网+医疗健康”发展的意见》及《医疗装备产业发展规划....
的头像 牵手一起梦 发表于 03-04 09:47 163次 阅读
我国智慧医疗行业规模已突破千亿元大关,开启巨大市场空间

SkyGrid推出全球首款人工智能无人机安保系统

波音公司与人工智能平台sparkcognition共同成立的合资公司SkyGrid,于最近推出了全球....
的头像 电子魔法师 发表于 03-04 09:43 221次 阅读
SkyGrid推出全球首款人工智能无人机安保系统

GlobalData整理了世界各个公司在AI领域发表专利的情况

佳能在人工智能领域的主要发展不仅局限于简单的相机,他们最大的发展方向是「医学成像」。Covid-20....
的头像 新机器视觉 发表于 03-04 09:38 177次 阅读
GlobalData整理了世界各个公司在AI领域发表专利的情况

2021年人工智能和机器学习的五大趋势

人工智能和机器学习如今一直在改变着我们的世界,2020年发生的冠状病毒疫情为这两种技术带来了新的机会....
发表于 03-04 06:35 112次 阅读
2021年人工智能和机器学习的五大趋势

爱立信提出“AI By Design”原生AI理念

2月25日,在2021世界移动大会·上海(暨2021MWC Shanghai)期间举办的“人工智能峰....
的头像 爱立信中国 发表于 03-03 17:37 796次 阅读
爱立信提出“AI By Design”原生AI理念

确保人工智能保持合规性和安全性的三种技术

企业在实施人工智能策略之前,需要考虑采用一些新技术以帮助保护隐私,并确保符合安全标准。
发表于 03-03 17:34 434次 阅读
确保人工智能保持合规性和安全性的三种技术

海康威视全彩黑光球型摄像机的性能特点及应用评测

在摄像机领域,由于全天候的监控需求, 我们对于特殊的光线环境都会进行功能性的设定,比如宽动态、强光抑....
发表于 03-03 16:54 338次 阅读
海康威视全彩黑光球型摄像机的性能特点及应用评测

2020年度中国科学十大进展

在药物和临床救治方面,揭示了新冠临床特征,在没有特效药的情况下,实行中西医结合,先后推出八版全国新冠....
的头像 知社学术圈 发表于 03-03 16:48 192次 阅读
2020年度中国科学十大进展

如何构建Infratech生态系统?

以技术为基础的基础架构(或InfraTech)的承诺令人垂涎。更聪明、更绿色的城市,接的运输系统,高....
发表于 03-03 16:36 269次 阅读
如何构建Infratech生态系统?

人工智能的应用以及发展前景

当今时代,人工智能已经是主要发展领域之一。
发表于 03-03 16:04 408次 阅读
人工智能的应用以及发展前景

Bosch Sensortec发布搭载人工智能的四合一气体传感器

无论是在家中、办公室还是户外,用户都希望能确保周围的空气是干净且可以安全呼吸的——新冠疫情就已充分证....
的头像 博世资讯小助手 发表于 03-03 15:50 243次 阅读
Bosch Sensortec发布搭载人工智能的四合一气体传感器

大华股份未来发展前景如何?

赛迪顾问数据显示,今年国内智能安防市场规模将达到4000亿。而且,得益于人工智能以及物联网等新技术的....
的头像 我快闭嘴 发表于 03-03 15:41 641次 阅读
大华股份未来发展前景如何?

百度李彦宏两会五份提案,涉及自动驾驶和智能交通等

全国政协委员、百度董事长兼首席执行官李彦宏提交5份提案,涉及自动驾驶和智能交通、智慧养老进社区、互联....
的头像 我快闭嘴 发表于 03-03 15:05 274次 阅读
百度李彦宏两会五份提案,涉及自动驾驶和智能交通等

工业物联网有什么用,它需要新建设施吗

走出误区:工业物联网需要新建设施吗? 一些企业领导者认为,老旧的设施会阻碍数字化转型,因此必须更换。....
发表于 03-03 15:04 19次 阅读
工业物联网有什么用,它需要新建设施吗

如何构建人工智能的未来?

创建Kynisys平台:我们如何构建人工智能(AI)的未来?...
发表于 03-03 07:06 0次 阅读
如何构建人工智能的未来?

大数据与万物互联如何定义未来?

大数据与万物互联重新定义未来
发表于 02-23 06:20 0次 阅读
大数据与万物互联如何定义未来?

自动驾驶车辆中AI面临的挑战

自动驾驶车辆中采用的AI算法 自动驾驶车辆中AI面临的挑战 ...
发表于 02-22 06:39 0次 阅读
自动驾驶车辆中AI面临的挑战

2021年的人工智能产业预测

2020年是充满动荡的一年,组织面临着众多挑战。进入2021年,人工智能行业将会快速发展。为了对2021年的重要新趋势有所了解,行业...
发表于 02-19 07:40 0次 阅读
2021年的人工智能产业预测

2021第四届人工智能大会

发表于 02-01 10:32 101次 阅读
2021第四届人工智能大会

2021第五届人工智能技术与应用论坛

发表于 02-01 10:12 202次 阅读
2021第五届人工智能技术与应用论坛

如何提高人工智能应用开发的生产效率

让AI无处不在,Arm中国“周易”人工智能平台有何绝招...
发表于 02-01 07:10 101次 阅读
如何提高人工智能应用开发的生产效率

最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

最近瑞昱RTL8189芯片缺货,导致Ipcamera、机顶盒及一些商显、广告机厂商生产跟不上,我们的成本也直线上升。有没有哪位伙伴知...
发表于 01-29 17:58 2838次 阅读
最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

机器学习与软件平台的融合

本文将探讨机器学习与软件平台的融合。
发表于 01-28 06:36 101次 阅读
机器学习与软件平台的融合

人工智能和机器学习技术在2021年的五个发展趋势

人工智能和机器学习如今一直在改变着我们的世界,2020年发生的冠状病毒疫情为这两种技术带来了新的机会和紧迫性,预计在2021年将...
发表于 01-27 06:10 101次 阅读
人工智能和机器学习技术在2021年的五个发展趋势