电子发烧友网 > 人工智能 > 正文

数据投毒对于AI造成了什么影响

2019年09月10日 10:28 次阅读

近日,信通院发布《人工智能数据安全白皮书(2019)》,其中提到“数据投毒”,这是人工智能自身数据安全风险,即通过在训练数据里加入伪装数据、恶意样本等行为可破坏数据的完整性,进而导致训练的算法模型决策出现偏差。

数据投毒对于AI造成了什么影响

随着人工智能技术的不断发展,尤其是各类人工智能应用在各行各业落地,人工智能的安全风险问题也开始受到全社会的关注。人工智能究竟会带来哪些安全风险?中国信息通信研究院近日发布了《人工智能数据安全白皮书(2019)》(以下简称“白皮书”),指出了人工智能面临的几大数据安全风险。

“数据投毒”不容忽视

白皮书认为,人工智能训练数据污染可导致人工智能决策错误。“数据投毒”通过在训练数据里加入伪装数据、恶意样本等行为可破坏数据的完整性,进而导致训练的算法模型决策出现偏差。

“数据投毒”主要有两种攻击方式:

一种是采用模型偏斜方式,主要攻击目标是训练数据样本,通过污染训练数据达到改变分类器分类边界的目的;

另一种则是采用反馈误导方式,主要攻击目标是人工智能的学习模型本身,利用模型的用户反馈机制发起攻击,直接向模型“注入”伪装的数据或信息,误导人工智能做出错误判断。

“数据投毒”危害巨大。在自动驾驶领域,“数据投毒”可导致车辆违反交通规则甚至造成交通事故;在军事领域,通过信息伪装的方式可诱导自主性武器启动或攻击,从而带来毁灭性风险。

运行阶段的数据异常可导致智能系统运行错误。

指出,运行阶段的数据异常可导致智能系统运行错误,同时,模型窃取攻击可对算法模型的数据进行逆向还原。此外,开源学习框架存在安全风险,也可导致人工智能系统数据泄露。

AI应用催生新风险

在分析了人工智能自身数据安全风险之后,白皮书对于人工智能应用导致的数据安全风险也进行了解读。

白皮书指出,人工智能应用可导致个人数据过度采集,加剧隐私泄露风险。随着各类智能设备(如智能手环、智能音箱)和智能系统(如生物特征识别系统、智能医疗系统)的应用普及,人工智能设备和系统对个人信息采集更加直接与全面。相较于互联网对用户上网习惯、消费记录等信息采集,人工智能应用可采集用户人脸、指纹、声纹、虹膜、心跳、基因等具有强个人属性的生物特征信息。这些信息具有唯一性和不变性,一旦被泄露或者滥用会对公民权益将造成严重影响。

虽然人工智能的普及,给人们带来了更多的便利;但是白皮书认为,人工智能放大数据偏见歧视影响,威胁社会公平正义,人工智能技术的数据深度挖掘分析也将加剧数据资源滥用现象的发生,将加大社会治理和国家安全挑战。具体而言,一是在社会消费领域,可带来差异化定价;二是在信息传播领域,可引发“信息茧房”效应。

与此同时,人工智能技术也能够提升网络攻击的智能化水平,进而进行数据智能窃取。白皮书认为,一是人工智能可用来自动定目标,进行数据勒索攻击。人工智能技术可通过对特征库学习自动查找系统漏洞和识别关键目标,提高攻击效率。二是人工智能可自动生成大量虚假威胁情报,对分析系统实施攻击。人工智能通过使用机器学习、数据挖掘和自然语言处理等技术处理安全大数据,能自动生产威胁性情报,攻击者也可利用相关技术生成大量错误情报以混淆判断。三是人工智能可自动识别图像验证码,能够窃取系统数据。图像验证码是一种防止机器人账户滥用网站或服务的常用验证措施,通过解决视觉难题来验证人类用户,以有效区分拦截恶意程序,保护系统数据安全。

数据治理挑战加剧

白皮书指出,人工智能提升了数据资源价值,使得数据权属问题更为突出。从个人层面上看,数据权属体现为公民的数据权利,个人隐私保护面临挑战。用户个人隐私信息含金量高,是人工智能技术与产业发展的重要驱动,然而相关机构在利用用户数据时往往忽视用户个人隐私权益。从行业层面上看,数据权属体现为企业的数据产权,数据垄断损害行业整体发展。人工智能技术使数据经济价值越发凸显,数据已成为企业的核心资产,相关企业积极储备数据资源,并阻止竞争对手获得数据,力图垄断数据资源来使企业利益最大化。

白皮书认为,数据产权之争将加剧数据垄断。一方面,科技巨头依托网络覆盖和用户规模,加强数据汇聚;另一方面,人工智能中小企业获取数据的渠道受限,数据资源匮乏。企业在数据产权没有被广泛认可、以及数据流动环节存在安全风险的前提下,无论是从维护自身利益角度还是从遵守法律法规角度出发,都不愿将自身数据进行共享,这将导致初创企业和研究机构在算法设计和优化过程中无数据可用,损害我国人工智能行业整体发展。

当前,随着人工智能在科技竞争中的战略地位日渐凸显,数据的违规跨境将直接影响国家安全。白皮书显示,目前,世界主要国家都制定了人工智能发展战略,对数据的依赖度快速提升,数据作为国家基础性战略资源的地位更加突出。为快速积累数据,科技企业通过向消费者提供特定领域免费应用、使用政府公开数据以及进行产业上下游数据协同等方式获取尽可能多的数据。以Facebook、谷歌为代表的美国科技巨头,依托其庞大用户规模和强大数据抓取工具,在全球范围内进行数据收集,强化数据资源优势,推进自身人工智能发展,这无疑将加剧数据违规跨境流动风险。

来源:人民邮电报

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服

发烧友学院 发表于 2018-10-30 00:00 11587次阅读
四轴机器人编程与应用

人工智能背后的数据是怎样一回事

目前人工智能落地场景不断丰富,智能化应用正改变着我们的生活。

发表于 2019-09-10 11:37 0次阅读
人工智能背后的数据是怎样一回事

如何在AI时代寻找就业机会

人工智能可以大大加速新药研发的过程——这或许意味着,在不久的将来,不仅体力劳动者面临转型,科研工作也...

发表于 2019-09-10 11:32 5次阅读
如何在AI时代寻找就业机会

智能理财机器人的背后AI力量有多大

智能理财不应是一个简单的工具或功能,而是一个完整的服务体系

发表于 2019-09-10 11:28 2次阅读
智能理财机器人的背后AI力量有多大

智慧法院使用过哪一些科技

虽然我国的智慧法院实践经验只有两年左右,前沿的黑科技可没少使用。

发表于 2019-09-10 11:12 6次阅读
智慧法院使用过哪一些科技

用物联网驱动引领创新,本土化高效对接国际市场

习近平总书记在给第三届世界智能大会贺信中指出,中国高度重视创新发展,把新一代人工智能作为推动科技跨越...

发表于 2019-09-10 11:06 21次阅读
用物联网驱动引领创新,本土化高效对接国际市场

AI除了当客服,电商还在用它做些啥?

人工智能技术已经逐步渗入到电商行业当中。随着深度学习技术和语音识别技术的成熟,智能客服和智能商品推荐...

发表于 2019-09-10 10:48 79次阅读
AI除了当客服,电商还在用它做些啥?

人工智能和物联网之间如何协同合作

随着人工智能和物联网的应用越来越广泛,有必要了解这两种技术如何协同工作,以使企业和普通人受益。

发表于 2019-09-10 10:40 9次阅读
人工智能和物联网之间如何协同合作

智能制造是怎样加速智慧农业的到位的

大数据和人工智能的应用,为传统农业带来了的数字化的升级。

发表于 2019-09-10 10:25 8次阅读
智能制造是怎样加速智慧农业的到位的

教育里的AI现在我国的发展怎样

人工智能在日常生活中的落地场景有很多,制造、农业、金融、医疗、交通、城市管理。。.。。.这些无一不是...

发表于 2019-09-10 10:10 27次阅读
教育里的AI现在我国的发展怎样

人工智能技术应用于医疗领域

英国牛津大学4日发布新研究成果显示,研究人员基于人工智能技术开发出一种新工具,可在心脏病发作前至少5...

发表于 2019-09-10 10:09 70次阅读
人工智能技术应用于医疗领域

5G和AI时代的到来运营商必须从传统模式走向互联...

蒋志祥表示,世界上有两种运营商:一是传统运营商,二是互联网化运营商,分享通信属于后者——互联网化运营...

发表于 2019-09-10 09:56 20次阅读
5G和AI时代的到来运营商必须从传统模式走向互联...

未来的养老可以靠着AI来支撑吗

对于现在的技术发展来说,控制应用成本将是推动“AI防老”的首要前提。

发表于 2019-09-10 09:46 10次阅读
未来的养老可以靠着AI来支撑吗

怎么解码这个波形?

发表于 2019-09-09 23:24 4次阅读
怎么解码这个波形?

AI对于智能家居的市场有没有什么影响

随着人们生活水平和科技水平的快速发展,人工智能技术也得到了很大的发展。

发表于 2019-09-09 16:53 42次阅读
AI对于智能家居的市场有没有什么影响

哪里的智慧城市建设比较强

随着人工智能、云计算、大数据等新一代高新技术的快速发展,我国的智慧城市建设也得到了很大的发展。

发表于 2019-09-09 16:21 42次阅读
哪里的智慧城市建设比较强

新型智慧城市标杆应该是怎样的一个城市

在产业智慧化提升行动方面,实施发展产业智能服务平台、智能制造、智慧农业、智慧旅游、智慧物流5个重点专...

发表于 2019-09-09 16:19 91次阅读
新型智慧城市标杆应该是怎样的一个城市

运营商与互联网、大数据、物联网、人工智能的相互关...

蒋志祥把互联网总结为3个十年。第一个互联网十年,是由运营商主导的十年。以当年做的“声讯系统“举例,“...

发表于 2019-09-09 16:00 134次阅读
运营商与互联网、大数据、物联网、人工智能的相互关...

海尔率先开启了物联网时代的生态品牌建设

目前,海尔已在全球设立25个工业园和122个制造中心,用户全流程参与的大规模定制模式已在海尔12个互...

发表于 2019-09-09 15:56 129次阅读
海尔率先开启了物联网时代的生态品牌建设

2019世界物联网博览会在江苏无锡开幕

9月7日至10日物博会期间,京东云携手南京市麒麟高新区参加展会,展示双方在物联网、人工智能产业发展等...

发表于 2019-09-09 15:46 228次阅读
2019世界物联网博览会在江苏无锡开幕

AI助力语音识别技术获得突飞猛进的发展

随着人工智能技术的不断突破,AI也更多的应用于人类生活。在谈人工智能的时候,一定不能不谈语音识别,在...

发表于 2019-09-09 15:44 11次阅读
AI助力语音识别技术获得突飞猛进的发展

众多金融科技公司纷纷秀起了肌肉,成为人工智能大会...

早在今年5月份,腾讯就提出了“科技向善”的新愿景和使命。在当天的会上,腾讯董事会主席兼首席执行官马化...

发表于 2019-09-09 15:38 195次阅读
众多金融科技公司纷纷秀起了肌肉,成为人工智能大会...

海洋经济领域的人工智能应用待开发重视

在乔治·斯穆特看来,海洋对人类的重要毋庸置疑,但人类的视线却大多停留在陆地上,“我认为海洋经济领域的...

发表于 2019-09-09 15:35 119次阅读
海洋经济领域的人工智能应用待开发重视

人工智能时代下传统企业该如何破局

人工智能是对人的思维信息过程的模拟,目前已经融入到多个行业,重构着各行业的发展模式,也已经渗透到人们...

发表于 2019-09-09 15:35 183次阅读
人工智能时代下传统企业该如何破局

2019衢州市新一代人工智能暨数字经济发展专题研...

浙江省经信厅数字经济处处长魏振华从数字经济概念、背景、意义、发展设想和重点工作等角度,为学员们展开讲...

发表于 2019-09-09 15:31 136次阅读
2019衢州市新一代人工智能暨数字经济发展专题研...

人工智能教育下产生的新型学习方式

时下的人工智能教育是社会的一个热点、甚至是一个风口。那人工智能教育到底是什么呢?

发表于 2019-09-09 15:30 18次阅读
人工智能教育下产生的新型学习方式

人工智能成为金融行业的“必争之地”

与AI本身就有不解之缘的金融科技,两者的组合能让你联想到什么?人们可能会率先想到的是反欺诈在金融领域...

发表于 2019-09-09 15:27 402次阅读
人工智能成为金融行业的“必争之地”

人工智能发展之快超出了人们的预期

人工智能正在以前所未有的速度发展,大大超出了人们的预期,目前全球活跃人工智能企业达到了5000家左右...

发表于 2019-09-09 15:26 16次阅读
人工智能发展之快超出了人们的预期

人工智能监督课堂,到底哪些该做哪些不该做?

比如,上海中医药大学附属闵行蔷薇小学也被爆出正在构建智能课堂行为分析系统,运用如姿态评估、表情识别、...

发表于 2019-09-09 15:23 183次阅读
人工智能监督课堂,到底哪些该做哪些不该做?

网络智能协同与控制怎样利用AI和5g改进

“5G+AI”将有助于驱动实现分布式群智网络的智能协同与控制,高效解决现实难题。

发表于 2019-09-09 15:21 47次阅读
网络智能协同与控制怎样利用AI和5g改进

中国的人工智能实验教材将推向全球

人工智能是新一轮科技革命和产业变革的重要驱动力量,具有溢出带动性很强的“头雁”效应。加快发展新一代人...

发表于 2019-09-09 15:19 144次阅读
中国的人工智能实验教材将推向全球

人工智能企业圈落户科学城有什么意义

智能产业快速发展,对经济发展、社会进步、全球治理等方面产生重大而深远影响。

发表于 2019-09-09 15:17 13次阅读
人工智能企业圈落户科学城有什么意义

“人工智能+”国际论坛在南京江宁区启幕

南京江宁经济开发区管委会主任张传宏表示,江宁正在大力推进绿色智能汽车、新一代信息技术、智能电网等千亿...

发表于 2019-09-09 15:16 239次阅读
“人工智能+”国际论坛在南京江宁区启幕

人工智能怎样让城市用电更加智能

通过5G通信技术、神经网络计算、大数据分析、边缘计算等人工智能技术,实现用户闲散资源分类聚合及优化分...

发表于 2019-09-09 15:15 58次阅读
人工智能怎样让城市用电更加智能

上海交通大学迎来万名新生报到,76名首届人工智能...

 韩韬告诉记者,在招生阶段,招生组老师就与有意向的学生进行了沟通,让他们对其学术前景和就业方向有了解...

发表于 2019-09-09 15:10 224次阅读
上海交通大学迎来万名新生报到,76名首届人工智能...

打造经济发展新引擎,人工智能国家战略不断强化

中国声谷产品线上线下公共展示营销平台不断拓展,依托京东、天猫等搭建官方旗舰店,在省内外建设线下体验销...

发表于 2019-09-09 15:06 140次阅读
打造经济发展新引擎,人工智能国家战略不断强化

人工智能代表了未来整个科学技术?

第一,人工智能目前的状态为初级状态,在基础理论上需要一个质的变革。济南大学人工智能研究院成立后,将对...

发表于 2019-09-09 15:03 300次阅读
人工智能代表了未来整个科学技术?

工业机器人的发展前景将是一片光明

随着“中国制造2025”的提出,工业机器人行业大热,工业机器人被称为“制造业黄光的明珠”,在汽车制造...

发表于 2019-09-09 14:59 27次阅读
工业机器人的发展前景将是一片光明

轨道交通和无人驾驶与人工智能逐渐相匹配融合

人工智能运用,可以实现对站内流量的预估,可以根据高峰时段进行可变化闸机开放模式,以达到效率高的控客模...

发表于 2019-09-09 14:58 172次阅读
轨道交通和无人驾驶与人工智能逐渐相匹配融合

高通人工智能芯片和5G基带加持iQOO Pro

根据鲁大师对外公布了2019上半年手机人工智能芯片排行榜显示,位列榜单第一位的是高通骁龙855移动平...

发表于 2019-09-09 14:54 220次阅读
高通人工智能芯片和5G基带加持iQOO Pro

共话新时代下,智适应教育如何让AI技术赋能教育产...

本次论坛上,国外顶尖学者从不同视角,分析了人工智能技术在学术上的最新研究进展以及对世界各国经济和社会...

发表于 2019-09-09 14:50 223次阅读
共话新时代下,智适应教育如何让AI技术赋能教育产...

AI在发展的同时有什么副作用

AI技术爆发带来的问题,是人们始料未及的,人类没有做好准备。

发表于 2019-09-09 14:48 12次阅读
AI在发展的同时有什么副作用

张钹院士:人工智能领域的最新思考与洞见

1978 年之际,在清华大学「专业归队」的号召下,刚经历原自动控制系转型为计算机系的张钹院士等一批教...

发表于 2019-09-09 14:47 211次阅读
张钹院士:人工智能领域的最新思考与洞见

AI时代的隐私和歧视是否加重了问题

在这个数据即生产力的时代,与互联网时刻链接的我们正在数据AI的时代中不停地“裸奔”。

发表于 2019-09-09 14:45 39次阅读
AI时代的隐私和歧视是否加重了问题

第一财经全力构建媒体发展新生态,新科技惊艳首发

第一财经秉承专业创造价值的品牌理念,在认真总结参与2018世界人工智能大会的经验基础上,更深入渗透到...

发表于 2019-09-09 14:43 262次阅读
第一财经全力构建媒体发展新生态,新科技惊艳首发

科大讯飞翻译机3.0的全新上市,新一波的智能语音...

在目前的人工智能技术开发上面,科大讯飞已经掌握了比较核心的关键技术,它可以在自有开发的专利技术上面缔...

发表于 2019-09-09 14:41 541次阅读
科大讯飞翻译机3.0的全新上市,新一波的智能语音...

小蚁科技在张江人工智能岛9号楼举行5周年员工答谢...

2014年9月,小蚁科技成立于上海浦东。5年内,小蚁科技迅速成长为张江本地独角兽企业,2019年7月...

发表于 2019-09-09 14:38 229次阅读
小蚁科技在张江人工智能岛9号楼举行5周年员工答谢...

AI如何真正赋能到落地场景中,带来实际价值

人工智能的突破点除了应用创新,还给企业带来的一些质变。波士顿咨询公司大中华区主席廖天舒表示,对所有的...

发表于 2019-09-09 14:35 95次阅读
AI如何真正赋能到落地场景中,带来实际价值

物联网时代会有哪一些新的挑战和机遇

物联网(IoT)与云,边缘计算,人工智能(AI)和混合现实等一系列催化技术一起,为企业创造了数十亿个...

发表于 2019-09-09 14:32 41次阅读
物联网时代会有哪一些新的挑战和机遇

两江新区42所中小学及公办幼儿园配置了65间人工...

目前两江新区已为辖区内的42所中小学及公办幼儿园配置了65间人工智能机器人教室、215个优必选CRU...

发表于 2019-09-09 14:31 116次阅读
两江新区42所中小学及公办幼儿园配置了65间人工...

人工智能产业的发展再次迎来政策“红利期”

近年来,数据在物流行业的价值正在变得越来越大,通过“大数据+人工智能”优化物流运输效率早已不是新闻。...

发表于 2019-09-09 14:27 435次阅读
人工智能产业的发展再次迎来政策“红利期”

人工智能创新发展试验区,大湾区几城能拿“入场券”...

结合两个月科技部发布的两个重要文件可以了解到国家发展人工智能产业的重要信号:国家发展人工智能将以城市...

发表于 2019-09-09 14:13 207次阅读
人工智能创新发展试验区,大湾区几城能拿“入场券”...

张建伟:机器人和人工智能产业进入理性沉淀期

在技术演进的过程中,人工智能和机器人一直是相伴相生的。在张建伟看来,二者的结合是真正解决信息物理系统...

发表于 2019-09-09 14:08 185次阅读
张建伟:机器人和人工智能产业进入理性沉淀期

近几年模拟芯片的市场增长迅速

模拟芯片作为电子产品的重要组成部分,其需求随着各类电子产品的快速发展而不断扩大。模拟产品生命周期可长...

发表于 2019-09-09 11:52 32次阅读
近几年模拟芯片的市场增长迅速

第18届世界商业领袖圆桌会议举行

新加坡国立大学终身教授、IEEE Fellow、快商通首席科学家李海洲,阿里巴巴CEO助理、集团副总...

发表于 2019-09-09 11:20 412次阅读
第18届世界商业领袖圆桌会议举行

国家新一代人工智能创新发展试验区将在哪些地方先行...

国家新一代人工智能创新发展试验区(以下简称试验区)将在哪些地方先行先试?如何充分发挥地方主体作用,促...

发表于 2019-09-09 11:12 244次阅读
国家新一代人工智能创新发展试验区将在哪些地方先行...

TCL通讯自研之局,落子屏幕、AI和5G

9月6日,2019年柏林国际消费电子展(IFA 2019)正式拉开帷幕,TCL通讯于IFA前夕首次在...

发表于 2019-09-09 11:11 222次阅读
TCL通讯自研之局,落子屏幕、AI和5G

AI模型将被部署到嵌入式硬件平台中

福州瑞芯微电子又为全球AI开发者带来一波福利,瑞芯微宣布旗下AI平台重大升级,正式面向全球AI开发者...

发表于 2019-09-09 11:11 34次阅读
AI模型将被部署到嵌入式硬件平台中

AI如何真正赋能到落地场景中,带来实际价值?

美光科技全球运营执行副总裁马尼什。巴蒂亚指出,以健康领域为例,通过大数据的运用与分析,使得药品的研发...

发表于 2019-09-09 11:05 147次阅读
AI如何真正赋能到落地场景中,带来实际价值?

一堂有趣又有料的人工智能知识普及课

略显深奥的人工智能技术,成年人尚不能轻易的理解,如何让孩子们对人工智能有更具象的认知?度小满金融在课...

发表于 2019-09-09 11:01 153次阅读
一堂有趣又有料的人工智能知识普及课

人工智能专业本科生入学,专业培养瞄向“大师级”

教育部明确,到2020年建设100个“人工智能+X”复合特色专业,编写50本具有国际一流水平的本科生...

发表于 2019-09-09 10:54 153次阅读
人工智能专业本科生入学,专业培养瞄向“大师级”

高效的设备到数据物联网怎样来解决

物联网(IoT)的真正价值蕴藏在部署于全球网络中的数十亿台物联网设备之中——即这些设备内部尚未开发(...

发表于 2019-09-09 10:51 122次阅读
高效的设备到数据物联网怎样来解决

为什么进行A/D转换时测得的数据跳变很大?

发表于 2019-09-09 05:55 15次阅读
为什么进行A/D转换时测得的数据跳变很大?

【VIP福利六】300G人工智能资料,让你入门进阶AI技术!

发表于 2019-09-06 14:39 707次阅读
【VIP福利六】300G人工智能资料,让你入门进阶AI技术!

ZC702网络在大数据传输时出现故障该怎么办?

发表于 2019-09-06 10:18 64次阅读
ZC702网络在大数据传输时出现故障该怎么办?

为什么单片机串口通讯存储复位后就不能用了?

发表于 2019-09-06 01:17 22次阅读
为什么单片机串口通讯存储复位后就不能用了?

一网打尽,2019年ST MCU研讨会(人工智能、物联网、工业安全)资料分享

发表于 2019-09-05 16:47 832次阅读
一网打尽,2019年ST MCU研讨会(人工智能、物联网、工业安全)资料分享

机器学习(深度学习)实战资料

发表于 2019-09-05 11:57 273次阅读
机器学习(深度学习)实战资料

人工智能计算棒为什么 可以加速运算

发表于 2019-09-03 13:43 319次阅读
人工智能计算棒为什么 可以加速运算

请问我是否可以使用数据路径作为“闩锁”?

发表于 2019-09-03 08:16 85次阅读
请问我是否可以使用数据路径作为“闩锁”?

透过墙壁看人可以实现吗?

发表于 2019-09-03 08:01 74次阅读
透过墙壁看人可以实现吗?