电子发烧友网>人工智能> > 正文

安富利:AI时代,网络更需要“安全阀”

2021年01月22日 11:27 次阅读

作者:安富利公司

前不久,一个客户带着头盔去买房的新闻上了热搜。经过媒体的深扒发现,这一夸张之举背后的原因倒不是客户怕露富或者有其他什么难言之隐,而是因为精明的开发商会在不知不觉中通过人工智能(AI)采集客户人脸数据,并以此为依据判定佣金在各个销售渠道中的归属;同时此举也彻底封死了客户希望在不同销售渠道中货比三家的想法——因为只要是你之前“露过脸”,系统就会得知此前其他渠道商给你的报价,这时你再想砍一分钱都没有可能。为了避免自己的“脸”被开发商“偷走”并用来对付自己,客户才不得以用这种最原始的方法来对抗AI。

这个案例唤醒了人们对于使用日趋广泛的人脸识别等AI应用的担心,由此也开始在心中盘算,当我们在享受AI带来的新体验的同时,可能付出的安全代价。

AI的安全问题

实际上,上面这个案例只是AI安全一个层面上的问题,如果仔细划分,会发现今天的AI至少面临三个层面的挑战:

第一个层面,是AI技术本身内在的安全风险。要知道,AI所依赖的机器学习实际上是将传统上我们所依赖的正常的逻辑变成“黑箱操作”,我们只知道决策输出的结果,而对于神经网络内在工作的逻辑并不是完全掌握,这是AI与传统上的“自动控制”最大的区别。如果在这个过程中,机器学习的数据被污染,就会影响样本和判断的准确性;机器学习模型自身存在的缺陷,会带来更加隐蔽的安全问题。也就是说,比起传统的信息安全问题,AI内在的安全问题更难于发现和及时应对。

第二个层面,是AI技术被恶意使用的问题。历史的经验告诉我们,黑客总是会跟随最新技术,甚至有时候还会引领最新技术。AI的出现,无疑给黑客提供了新的进攻武器,他们可以使用机器学习进行海量数据分析,对于攻击目标的安全策略和方法进行揣摩,并找到突破口。要知道,安全领域的困境就在于:防御者必须预测并阻断进攻者可能使用的一万种攻击手段,而进攻者只需要利用防御者的一个漏洞就可以完成入侵,达到目的。因此在全球数字化转型快速推进之时,随着AI技术的发展,信息安全风险比以往任何时候都要高。

第三个层面,是AI应用中存在的隐私泄露、数据滥用等问题。文章开头所提到的例子,就属于这个范畴。而且在AI与物联网叠加催生出“人工智能物联网(AIoT)”之后,这种风险性传播的速度会更快,影响的范围会更广,防范难度自然也会更大。

应对AI安全挑战

如此看来,AI的安全问题着实难解。不过再难,也需要拧紧“安全阀”,这是一个必须要解决的问题。

缺少工具可能是在求解AI难题时,最大的困惑。全球知名的白帽黑客KevinMitnick就曾经表示,现在还没有真正符合AI核心技术的工具或产品出现,他自己对于AI产品进行安全分析评估的经验也是不足的。

不过,就像AI可以被黑客用来作为攻击的手段一样,AI强大的能力,本身也可以作为一种安全工具被加以利用。今天的网络安全厂商正在引入AI技术,去解决传统防御方案解决不了的新威胁,提高原有检测方案的检测精度,进行更高效自动化数据分类,实现更快的威胁响应处置。也就是说,AI不仅可以被用于对抗已有的攻击,也可去感知和预测未来可能发生的安全威胁,这就使得安全防御变得更加积极。

根据中国信通院发布的《中国网络安全产业白皮书(2019年)》,在网络安全领域,AI技术正在发力的地方包括(但不限于)以下这些方面:

·在异常流量检测方面,AI为加密流量分析提供新方案。

·在恶意软件防御方面,针对特定场景的AI应用取得积极进展。

·在异常行为分析方面,AI可成为模式识别的有效补充。

·在敏感数据保护方面,AI助力数据识别和保护能力提升。

·在安全运营管理方面,基于AI的安全编排与自动化响应(SORA)逐渐兴起。

有了AI作为安全防御的利器,人们的下一步就是要去探索一个体系化的安全解决方案。比如,为了应对AI模型各个环节可能存在的安全风险,并给出相应的防御建议,腾讯就发布了一个“AI安全攻击矩阵”。

这个AI安全攻防矩阵的意义在于:它可以覆盖从AI模型开发前的环境搭建,到模型的训练部署,以及后期的使用维护的整个AI产品生命周期,尽可能列举出在这个过程中可能遇到的所有安全问题,并给出相应的应对策略。这样一来,对照这个“矩阵”,开发者就可以根据AI部署运营的基本情况,排查可能存在的安全问题,并根据推荐的防御建议布防,降低已知的安全风险。虽然这样的探索,目前来看只是一个起步,但也算是一个不错的开端。

技术之外的努力

当然,由于AI对于人类社会的触动是多方面、深层次的,所以AI安全策略也不能仅仅停留在技术层面。具体来讲,在技术之外,我们至少在两个方面必须有所行动:

·一是从法律角度构筑安全防线,通过立法明确AI安全的“红线”,让黑客及AI滥用者付出应有的代价;

·二是建立行业公认的行为准则,通过行业自律等方式,覆盖那些由于法律滞后于技术发展可能出现的灰色地带,给用户安全以最大化的保障,这也是为AI长足发展营造一个更健康的生态。

在文章的最后,分享一组数据:根据IDC的研究数据,2019年全球网络安全支出较2018增长了近9.4%,达到1066.3亿美元;然而与此同时,有机构预测同期网络犯罪的总成本可能超过2万亿美元,也就是说网络犯罪活动的成本是安全支出的20倍左右。

这就是人们所面临的安全环境,而且AI的出现会让这种环境更为复杂。而在安全的问题上,决不能妥协,因为关键之处一旦失守,可不是丢一张“脸”的数据那么简单了。这种让人细思极恐的压力,也正是业界进步的动力所在。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发烧友学院发表于 2019-05-24 00:00 5352次阅读
【5月12】不懂编程没关系,邀请您来学AI

网信办出台新规整治微信公众号

目前,网上信息内容低俗庸俗、恶意炒作、情绪宣泄、恶意攻击、抄袭剽窃等问题突出,严重影响网络生态、破坏....
发表于 2021-01-25 10:26 0次阅读
网信办出台新规整治微信公众号

百度有望在AI和量子计算之间架起桥梁

1月20日消息,随着技术的不断进步和发展,中国的量子科技在全球正迎来高光时刻。作为中国头部量子计算企....
发表于 2021-01-25 10:24 10次阅读
百度有望在AI和量子计算之间架起桥梁

AI四大人工智能企业的业务重心是什么

《科创板日报》(上海,记者 戚夜云)讯,在技术和商业“双轮驱动”下,AI企业从青铜、白银时代,走向了....
发表于 2021-01-25 10:05 71次阅读
AI四大人工智能企业的业务重心是什么

AI技术助力智慧养老

你是否想过,衰老意味着什么?每个人都有老去的一天,你希望自己老去的生活是什么样的呢?不管怎样,我们一....
发表于 2021-01-25 10:03 89次阅读
AI技术助力智慧养老

智能人脸识别测温一体机在企业园区的应用

 对于工业/企业园区来说,疫情防控难度更大。一方面需要保证企业正常办公生产,为经济复苏、发展护航;另....
发表于 2021-01-25 09:55 23次阅读
智能人脸识别测温一体机在企业园区的应用

小米Pocophone F1一直是人们猜测的对象

根据推文,Pocophone F1将提供两种内存版本:6GB + 64GB和6GB + 128GB。....
发表于 2021-01-25 09:55 35次阅读
小米Pocophone F1一直是人们猜测的对象

AI研究中的热门主题有哪些

如果您正在阅读本文,那么您已经被人工智能(AI)技术所包围,这也超出了您的想象。通常,当人们听说AI....
发表于 2021-01-25 09:36 25次阅读
AI研究中的热门主题有哪些

到2025年,人工智能软件市场规模将激增至370...

2023年后,人工智能软件收入将不到整个应用程序市场的3%。商业应用程序中的AI将成为常态,这将促使....
发表于 2021-01-25 09:26 115次阅读
到2025年,人工智能软件市场规模将激增至370...

人脸识别门禁系统与活体检测

目前市面上大多数的认证系统,都具备这一定的安全隐患。一旦有新的安全系统推出,一些不法分子必然会对其进....
发表于 2021-01-25 09:25 55次阅读
人脸识别门禁系统与活体检测

人类或许早已受到AI的控制

不是杞人忧天,人类也许早已受到AI的“控制”。1月7日,“钢铁侠”马斯克旗下的公司特斯拉市值暴涨至7....
发表于 2021-01-25 09:04 180次阅读
人类或许早已受到AI的控制

人脸识别和指纹验证哪个更安全

“人脸识别”和“指纹验证”哪个更安全?80%的人可能都搞错了!
发表于 2021-01-25 09:04 16次阅读
人脸识别和指纹验证哪个更安全

2020年手机芯片AI性能排行榜公布

日前,鲁大师对2020年做了总结,并公布了一系列排行榜。根据2020年手机芯片AI性能排行榜,202....
发表于 2021-01-24 11:15 927次阅读
2020年手机芯片AI性能排行榜公布

NASA训练AI检测发现火星陨石坑

据外媒报道,在过去15年里,NASA的火星勘测轨道器始终在绕着这颗红色星球运转,并传回大量有关陨石坑....
发表于 2021-01-24 10:44 452次阅读
NASA训练AI检测发现火星陨石坑

高德地图发布第三代车载导航

1月22日,数字地图、导航和位置服务提供商高德地图在北京发布了第三代车载导航。
发表于 2021-01-24 09:50 653次阅读
高德地图发布第三代车载导航

Buffer加载AI模型的步骤

我们在进行CNN模型推理的时候,需要预先从DDR或者ROM中加载AI模型。
发表于 2021-01-23 09:36 366次阅读
Buffer加载AI模型的步骤

谷歌的AI伦理科学家认为自己受到了不公正对待

2020年12月,谷歌的AI伦理科学家Timnit Gepu由于一篇未经谷歌官方审核就发表的学术论文....
发表于 2021-01-23 09:34 614次阅读
谷歌的AI伦理科学家认为自己受到了不公正对待

微信AI团队推出多场景智能助理解决方案

1月19日,在微信公开课PRO版企业智能服务分论坛上,微信AI团队再次亮相。基于在对话理解与智能语音....
发表于 2021-01-23 09:26 901次阅读
微信AI团队推出多场景智能助理解决方案

鸿海与AI创业公司展开合作,布局人工智能和电动汽...

为进一步强化人工智能(AI)和电动汽车布局,鸿海与AI创业公司企业展开了紧密合作。耐能表示将加入由鸿....
发表于 2021-01-23 09:12 816次阅读
鸿海与AI创业公司展开合作,布局人工智能和电动汽...

人工智能深至科技宣布完成B轮亿元级融资

投资界1月22日消息,人工智能深至科技宣布完成B轮亿元级融资,本轮融资由GGV纪源资本领投。 创立于....
发表于 2021-01-22 17:12 533次阅读
人工智能深至科技宣布完成B轮亿元级融资

AI企业第四范式宣布完成D轮融资 培养AI尖端产...

第四范式于近日宣布完成7亿美元D轮融资,本轮融资由博裕资本、春华资本、厚朴投资领投,并引入国家制造业....
发表于 2021-01-22 14:58 834次阅读
AI企业第四范式宣布完成D轮融资 培养AI尖端产...

RK3288人工智能主板在智能安防系统中的应用分...

为顺应市场发展,快包电子近期上线了一款RK3288人工智能主板,它采用瑞芯微RK3288 Corte....
发表于 2021-01-22 14:50 628次阅读
RK3288人工智能主板在智能安防系统中的应用分...

荣耀V40详细规格参数配置一览

北京时间1月22日上午10点,荣耀V40发布会正式举办,大家期待已久的荣耀V40终于来了。这是荣耀在....
发表于 2021-01-22 14:35 2671次阅读
荣耀V40详细规格参数配置一览

如何借助大数据和人工智能来提供金融服务

伴随着金融科技的快速发展,金融机构的服务模式和服务场景日趋多样化,在给客户带来便捷的同时,面临着更加....
发表于 2021-01-22 14:18 810次阅读
如何借助大数据和人工智能来提供金融服务

2021MVSZ华南国际机器视觉展 中国华南市场...

到2025年,人工智能基础理论实现重大突破,部分技术与应用达到世界领先水平,人工智能成为我国产业升级....
发表于 2021-01-22 14:12 483次阅读
2021MVSZ华南国际机器视觉展 中国华南市场...

青岛工业互联网青年创新创业平台上线

鸿海集团推出无监督学习AI算法,节省产线检测人力 鸿海集团宣布推出无监督学习人工智能(AI)算法FO....
发表于 2021-01-22 13:58 739次阅读
青岛工业互联网青年创新创业平台上线

支付宝推撒贝宁AI语音防骗叫醒热线

1月22日,中国警察网联合支付宝的“叫醒计划”服务升级,推出了以撒贝宁的声音生成的AI语音“叫醒热线....
发表于 2021-01-22 13:44 1065次阅读
支付宝推撒贝宁AI语音防骗叫醒热线

时代变局呼唤智能IP网络,华为打造“万物智联”大...

一边是新冠疫情、国际环境等诸多不确定因素扎堆,全世界都在探索一条确定性增长之路;一边是新技术、新应用....
发表于 2021-01-22 13:33 515次阅读
时代变局呼唤智能IP网络,华为打造“万物智联”大...

大华基于AI的场景流估计算法和光流估计算法刷新全...

近年来,在算法商业化落地方面,大华积极应用主导个性化AI方案敏捷交付,构建人工智能端到端研发的全链路....
发表于 2021-01-22 11:57 144次阅读
大华基于AI的场景流估计算法和光流估计算法刷新全...

华北工控的智能门禁系统方案的应用分析

华北工控认为,加快智能门禁系统的推广是完善智慧社区治理体系建设的有力举措。而在不断完善门禁系统功能的....
发表于 2021-01-22 11:53 708次阅读
华北工控的智能门禁系统方案的应用分析

智能化,存储发展的又一风向标

如果将工业设备与一台闪存阵列放在一起,会发生什么?你可能想象不到,日久天长,闪存控制器中的线路板可能....
发表于 2021-01-22 11:38 435次阅读
智能化,存储发展的又一风向标

面部识别是什么_面部识别的应用

世界上充斥着大数据集。但是,照片和视频方面的大量应用场景使面部识别技术发挥了作用。面部识别系统会分析....
发表于 2021-01-22 11:38 60次阅读
面部识别是什么_面部识别的应用

机器之心AI年度奖项出炉,深兰科技脱颖而出

近日,在人工智能行业规模最大、评选最权威、向来有「人工智能产业风向标」之称的机器之心「Synced ....
发表于 2021-01-22 11:37 396次阅读
机器之心AI年度奖项出炉,深兰科技脱颖而出

焦点|VisionChina(上海)2021,迎...

作为每年机器视觉行业的新品发布平台之一,VisionChina(上海)2021展位预定火爆,已有20....
发表于 2021-01-22 11:30 293次阅读
焦点|VisionChina(上海)2021,迎...

小豚当家AI全彩摄像头新升级2K版本上架华为商城...

1月21日,华为智慧生活官方宣布,华为智选生态产品——小豚当家AI全彩摄像头全新升级2K版本!但升级....
发表于 2021-01-22 11:30 391次阅读
小豚当家AI全彩摄像头新升级2K版本上架华为商城...

未来机器人推出智能机器人,可胜任AI助理工作

全球汽车快讯 据外媒报道,未来机器人科技公司的山中俊治(Shunji Yamanaka)与Takay....
发表于 2021-01-22 11:14 340次阅读
未来机器人推出智能机器人,可胜任AI助理工作

商汤科技再摘一项权威标准认证:隐私信息保护建设获...

商汤作为人工智能行业的领跑者,在给客户提供人工智能相关产品或服务的同时,保护客户和商汤的数据资产不被....
发表于 2021-01-22 11:11 224次阅读
商汤科技再摘一项权威标准认证:隐私信息保护建设获...

EIMS深圳电子智能制造展拍了拍你,同期论坛惊艳...

2021展会同期将举办多场高端会议论坛,围绕5G、芯片、AI和电子应用、5G物联和电子智造等话题,邀....
发表于 2021-01-22 11:01 500次阅读
EIMS深圳电子智能制造展拍了拍你,同期论坛惊艳...

工业网络安全市场迎来高速发展期,未来可期

工信部指出,2021年至2023年是我国工业互联网的快速成长期。专家对此表示,当前工业智能化风潮正当....
发表于 2021-01-22 10:16 333次阅读
工业网络安全市场迎来高速发展期,未来可期

vivo X60系列超大杯X60 Pro+京东正...

1月21日消息,vivo X60 Pro+新品发布会如期举行,正式推出vivo X60系列超大杯X6....
发表于 2021-01-22 09:58 559次阅读
vivo X60系列超大杯X60 Pro+京东正...

vivo 文档正式发布:支持 AI 识图转文档,...

1月21日消息 vivo 召开新品发布会,发布了超大杯新机 vivo X60 Pro+。除发布新机外....
发表于 2021-01-22 09:49 154次阅读
vivo 文档正式发布:支持 AI 识图转文档,...

人脸识别健康码测温通行一体机,让公共安全疫情防控...

临近春节到来,各地将掀起一波春运返乡的热潮,鉴于近期国内多地报告本土散发病例和聚集性疫情,春运期间的....
发表于 2021-01-21 17:49 655次阅读
人脸识别健康码测温通行一体机,让公共安全疫情防控...

富士康无监督学习AI算法上线 能够降低50%以上...

据台媒经济日报报道,鸿海集团今日宣布推出无监督学习(Unsupervised Learning)人工....
发表于 2021-01-21 16:06 536次阅读
富士康无监督学习AI算法上线 能够降低50%以上...

基于AI和机器人技术的InMotionTM技术

在过去的二十年中,研究人员一直在开发InMotionTM技术来辅助创伤治疗。许多研究表明,如何利用大....
发表于 2021-01-21 16:06 218次阅读
基于AI和机器人技术的InMotionTM技术

谷歌希望其科学家在AI研究中“打出积极基调&am...

研究人员的其中一页说:“技术的进步和我们外部环境日益复杂的情况日益导致看似无礼的项目引发了道德,声誉....
发表于 2021-01-21 16:02 472次阅读
谷歌希望其科学家在AI研究中“打出积极基调&am...

一篇题为《2020 AI,DL和ML的预测》的文...

这是我去年的第一个预测,这很合适,因为在过去的12个月中,我们已经看到大公司进行大笔交易,创造了AI....
发表于 2021-01-21 15:59 362次阅读
一篇题为《2020 AI,DL和ML的预测》的文...

算法名为“您的Spotify有多糟糕?”

AI培训中使用的信息是从美国平台Pitchfork和记者,音乐评论家以及YouTuber Antho....
发表于 2021-01-21 15:47 170次阅读
算法名为“您的Spotify有多糟糕?”

加速AI采用需要哪些技术技能?

本系列中的每个博客都探讨了一组技能,或者深入探讨了其中一个技能领域。我得出的结论是,要释放人工智能价....
发表于 2021-01-21 15:44 206次阅读
加速AI采用需要哪些技术技能?

智能终端如何具备在线发行流媒体能力?

“科技的发展就像雨点汇入山谷的过程,我们无法获知一滴雨点流入山谷的实际路径,但我们可以知道它的大体方....
发表于 2021-01-21 15:42 465次阅读
智能终端如何具备在线发行流媒体能力?

学术专家已经开发了一种基于AI的仿真模型

此外,团队已将模型转换为在线应用程序。他们的希望是,该工具将帮助大规模疫苗接种计划人员快速比较不同类....
发表于 2021-01-21 15:19 184次阅读
学术专家已经开发了一种基于AI的仿真模型

将7种不同算法的性能与经验丰富的眼科医生进行了比...

这些患者是超过23,000名退伍军人,他们在华盛顿州和乔治亚州的VA中心接受了糖尿病视网膜病变的筛查....
发表于 2021-01-21 15:15 315次阅读
将7种不同算法的性能与经验丰富的眼科医生进行了比...

选择合适的工具——轻松玩转AI

人工智能(AI)历史悠久,自1955年便被公认为一门学科。人工智能是计算机模仿人类智能、从经验中学习....
发表于 2021-01-21 15:10 203次阅读
选择合适的工具——轻松玩转AI

人脸识别技术的优缺点

  面部识别技术具有许多有利而不利的应用,今天带大家了解面部识别的优缺点。人脸识别技术一直是虚构世界中的一种概...
发表于 2020-12-24 16:34 505次阅读
人脸识别技术的优缺点

X2000人脸识别开发套件,编译完怎么安装进设备中?

X2000人脸识别开发套件,编译完怎么安装进设备中? ...
发表于 2020-12-17 15:17 102次阅读
X2000人脸识别开发套件,编译完怎么安装进设备中?

在x2000人脸识别开发套件上,要使用板载的芯片和环境,应该用什么方式登陆系统?

在x2000人脸识别开发套件上,要使用板载的芯片和环境,应该用什么方式登陆系统? ...
发表于 2020-12-17 15:15 101次阅读
在x2000人脸识别开发套件上,要使用板载的芯片和环境,应该用什么方式登陆系统?

君正x2000人脸识别开发板上的BOOT能做中断按键用吗?

开发板上的BOOT能做中断按键用吗?
发表于 2020-12-17 15:10 7次阅读
君正x2000人脸识别开发板上的BOOT能做中断按键用吗?

人脸识别系统的安装

  1、接线   当你购买厂家岀售的人脸识别门禁设备回来的时候,首先要做的就是接线,让设备可以控制开关门。   ...
发表于 2020-12-02 15:34 101次阅读
人脸识别系统的安装

labview调用百度人脸识别SDK

labview实现人脸识别有多种途径,我这里调用的百度的人脸识别SDK(C#版本),实现离线人脸识别。过程中踩了很多坑...
发表于 2020-11-27 19:40 1681次阅读
labview调用百度人脸识别SDK

S32V视觉处理平台怎么实现人脸识别的应用?

汽车行业ADAS功能需求日益增长,防疲劳驾驶是一个热门方向,对于驾驶员状态的检测,人脸识别是基础,只有快速准确...
发表于 2020-11-26 06:36 101次阅读
S32V视觉处理平台怎么实现人脸识别的应用?

图像的深浅特征应用于人脸识别

本文将HOG特征和PCANet网络提取的特征进行融合,不仅包含数据的浅层局部和数据分布信息,还包含深度判别性信息...
发表于 2020-11-25 06:17 101次阅读
图像的深浅特征应用于人脸识别

【HarmonyOS HiSpark IPC DIY Camera试用 】门禁人脸识别

项目名称:门禁人脸识别试用计划:调试,智能家居和安防项目,项目名称海视达商显...
发表于 2020-11-23 11:21 101次阅读
【HarmonyOS HiSpark IPC DIY Camera试用 】门禁人脸识别

基于Movidius Myriad 2的人脸识别摄像头解决方案

2019年9月10日,致力于亚太地区市场的领先半导体元器件分销商---大联大控股宣布,其旗下世平推出基于英特尔(Intel)...
发表于 2020-11-23 06:33 101次阅读
基于Movidius Myriad 2的人脸识别摄像头解决方案