电子发烧友网 > 人工智能 > 正文

人工智能可能的风险怎样减少

2019年11月27日 16:51 次阅读

为了在新时代蓬勃发展,企业安全需要减少人工智能带来的风险,并充分利用它提供的机会。

人工智能(AI)正在创造信息安全的新领域。能够独立学习、推理和行动的系统将越来越多地复制人类的行为。就像人类一样,他们也会有缺陷,但也有能力取得伟大的成就。

人工智能可能的风险怎样减少

人工智能带来了新的信息风险,并使一些现有风险更加危险。但是,它也可以永久使用,并且应该成为每个组织防御性武器库中的关键部分。业务和信息安全领导者都必须在接受即将成为日常业务中至关重要的技术之前,先了解风险和机遇。

人工智能已经在许多主流业务用例中找到了自己的方式。组织使用AI的变体来支持客户服务,人力资源和银行欺诈检测等领域的流程。但是,这种炒作可能导致人们对AI的真正含义及其对业务和安全的真正含义感到困惑和怀疑。很难将一厢情愿的想法与现实分开。

人工智能带来的信息风险是什么?

随着组织采用AI系统,它们对于日常业务运营将变得越来越重要。一些组织已经拥有或将拥有完全依赖AI技术的业务模型。无论组织使用了AI的哪些功能,这样的系统和支持AI的信息都会存在固有的漏洞,并且受到意外和对抗性风险的威胁。受损的AI系统将做出错误的决策并产生意外的结果。

同时,组织开始面临复杂的基于AI的攻击,这些攻击有可能以前所未有的速度和规模破坏信息并造成严重的业务影响。采取措施保护内部AI系统并防御外部AI威胁,对于降低信息风险至关重要。

尽管组织采用的AI系统提供了诱人的目标,但对抗性攻击者也开始将AI用于自己的攻击。AI是一种功能强大的工具,可用来增强攻击技术,甚至创建全新的攻击技术。组织必须准备好调整防御措施,以应对基于AI的网络攻击的规模和复杂性。

人工智能提供的防御性机会

安全从业者总是在努力跟上攻击者使用的方法,而AI系统至少可以通过显著增强各种防御机制来提供短期的能力提升。AI可以将大量任务自动化,帮助人手不足的安全部门填补专业技能缺口,提高从业人员的效率。

为了保护自己免受现有威胁,AI可以让防御者领先一步。然而,对手并不是静止不动的——随着支持AI的威胁变得越来越复杂,安全从业者将需要使用AI支持的防御来跟上形势。

在应对威胁方面,AI的好处在于,它可以独立行动,在不需要人类监督的情况下采取相应措施,而且速度比人类快得多。考虑到恶意软件的存在几乎可以在瞬间危害整个系统,这是一个非常有价值的能力。

人工智能可以显著增强防御机制的方式有很多,这为我们提供了乐观的理由,但与任何一种新技术一样,人工智能也不是灵丹妙药。安全从业人员应该意识到部署防御性AI所涉及的实际挑战。

在部署防御性AI系统之前,需要考虑的问题和考虑的范围很窄,而且是为了完成一种任务而设计的。他们需要足够的数据和输入来完成这项任务。一个单一的防御性AI系统将不能增强之前概述的所有防御机制——一个组织可能采用多个系统。在购买和部署防御性AI系统之前,安全领导应该考虑是否需要一个AI系统来解决问题,或者更传统的选择是否会起到类似或更好的作用。

要问的问题包括:

●问题有局限吗?(例如,它是否可以用一个数据集或一种输入类型来处理,或者它是否需要高度理解上下文,通常哪些人更擅长提供?)

●组织是否有运行和优化AI系统所需的数据?

安全领导者还需要考虑围绕防御AI的治理问题,比如:

●防御性AI系统如何适应组织的安全治理架构?

●组织如何为防御AI系统提供安全保障?

●如何维护、备份、测试修补防御性AI系统?

●组织是否有足够的技术人员来为防御AI系统提供监督?

人工智能不会用技术专长和对风险的直觉来取代对熟练安全从业人员的需求。这些安全从业人员需要在人工监视的需要和允许人工智能支持的控制自动有效地工作的信心之间取得平衡。这种信心需要时间来培养,尤其是在人工智能被证明不可靠、或做出糟糕或意外决定的故事不断涌现的情况下。

人工智能系统会犯错误,人类监督的一个有益方面是,当事情出错时,从业人员可以提供反馈,并将其纳入人工智能的决策过程。当然,人类也会犯错,采用防御性AI的组织需要投入时间、培训和支持来帮助安全从业人员学习如何使用智能系统。

如果有时间一起发展和学习,人类和AI的结合应该成为组织网络防御的一个有价值的组成部分。

现在开始准备:

能够独立学习、推理和行动的计算机系统预示着一个充满风险和机遇的新技术时代的到来。已经出现的进展只是冰山一角,未来还将出现更多的进展。AI系统“思考”的速度和规模将随着大数据访问的增加、计算能力的增强和编程技术的不断改进而提高。这种力量这种权力将有可能创造和摧毁一家企业。

可用于防御的AI工具和技术也可用于犯罪分子、黑客活动分子和政府支持的组织等恶意行为者。这些对手很快就会发现使用AI来创建诸如智能恶意软件之类的全新威胁的方法,比如智能恶意软件。使用传统控件的安全从业人员将无法应对攻击的速度、数量和复杂性。

为了在新时代蓬勃发展,组织需要减少AI带来的风险,并充分利用AI提供的机会。这意味着要保护自己的智能系统并部署自己的智能防御。人工智能不再是对遥远未来的憧憬:现在是开始准备的时候了!

责任编辑:ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11587次阅读
四轴机器人编程与应用

人工智能如何推进媒体融合

尽管压缩效率非常重要,但并不是所有人都在使用压缩效率最高的编解码格式,因为不同的应用场景对视频编解码....
发表于 2019-11-27 16:55 0次阅读
人工智能如何推进媒体融合

无人机是如何为石化智能升级的

人工智能、机器人、无人机等新装备与新技术不断被广泛应用于石化转型之中,成为推动生产方式、开采技术、行....
发表于 2019-11-27 16:37 3次阅读
无人机是如何为石化智能升级的

人工智能给石化领域带来什么好处

国内对于人工智能技术在石化领域的应用,以及石化产业的智能化、信息化升级都在快速推进。
发表于 2019-11-27 16:27 8次阅读
人工智能给石化领域带来什么好处

当RPA成为企业管理 哪里的流程不能用AI方案解...

9月初, Blue Prism宣布收购Thetonomy,这以后可将RPA(机器人流程自动化)引入云....
发表于 2019-11-27 16:22 9次阅读
当RPA成为企业管理 哪里的流程不能用AI方案解...

人工智能如何和人类更加接近

通过自主研发的AI算法对患者的大脑活动进行记录及分析,并生成高分辨率图像,为患者进行个性化电磁治疗。
发表于 2019-11-27 16:22 5次阅读
人工智能如何和人类更加接近

你敢让AI成为你的面试官吗

AI给面试带来的影响,总体来看优势与弊端都十分突出。人们初次见面时,往往十分注重第一印象,而这种印象....
发表于 2019-11-27 16:17 6次阅读
你敢让AI成为你的面试官吗

无人驾驶农机取得了怎样的成绩

无人驾驶汽车、无人驾驶卡车等词汇,想必人们都耳熟能详。
发表于 2019-11-27 16:06 26次阅读
无人驾驶农机取得了怎样的成绩

怎样为机器人装上眼睛

机器人正在各行各业替代人力,焊接领域也不例外。
发表于 2019-11-27 15:17 10次阅读
怎样为机器人装上眼睛

如何让机器人给我们做政务服务

乌鲁木齐通过推进“最多跑一次”改革,推动政府职能转变,撬动全面深化改革。引进机器人是正在建设的全市“....
发表于 2019-11-27 15:10 8次阅读
如何让机器人给我们做政务服务

人工智能时代的数据分析有什么作用

智能手机、智能家电、智能工业仪表等嵌有传感芯片的机器无处不在,人类的一切活动有了永远无法抹去的数字痕....
发表于 2019-11-27 14:55 11次阅读
人工智能时代的数据分析有什么作用

人工智能给无线网络的发展带来了什么积极意义

对于5G面对的低时延、高可靠需求,越贴近用户做出决策越好,这就引入了移动边缘计算。
发表于 2019-11-27 14:52 12次阅读
人工智能给无线网络的发展带来了什么积极意义

如何避免人工智能机器人产生自我意识

快速发展的可能出现自我意识的机器人的前景,让人联想到终结者机器人或黑镜反乌托邦。
发表于 2019-11-27 14:45 20次阅读
如何避免人工智能机器人产生自我意识

智能化控制是怎样成为趋势的

随着消费升级的加快、人工智能等新技术的崛起,绿色、低碳、节能以及智能化控制已成为未来采暖行业发展的大....
发表于 2019-11-27 14:42 10次阅读
智能化控制是怎样成为趋势的

AI智能客服系统如何打开未来的大门

随着以AI人工智能技术为主的新一代快速商业化信息时代的到来,我国的数字经济也随之突飞猛进。
发表于 2019-11-27 14:39 10次阅读
AI智能客服系统如何打开未来的大门

人工智能是实现自动驾驶汽车的关键所在 是推动自动...

在近期举办的第二届全球智能驾驶峰会上,苏州智加科技有限公司总裁郑皓指出,自动驾驶产业正迎来三大利好:....
发表于 2019-11-27 14:37 24次阅读
人工智能是实现自动驾驶汽车的关键所在 是推动自动...

机器人会自我复制算不算好事情

伴随着科技的进步,人工智能的不断前进,未来社会更加令人无法想象。
发表于 2019-11-27 14:33 37次阅读
机器人会自我复制算不算好事情

机器人战士走上战场后会怎样

人工智能的研发应用,已经变成现实。科技发展的速度和进步真是让人措手不及,很多看似不可能的东西,都在时....
发表于 2019-11-27 14:30 29次阅读
机器人战士走上战场后会怎样

你们干的过财务机器人吗

人工智能像一阵大风似的,刮过我们生活的各个角落。
发表于 2019-11-27 14:25 16次阅读
你们干的过财务机器人吗

产业互联网能否实现智能化

数字经济已成为驱动全球经济增长的关键引擎,随着人工智能、自动化、物联网以及5G等技术兴起,数字化、网....
发表于 2019-11-27 14:23 50次阅读
产业互联网能否实现智能化

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 34次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

什么是嵌入式人工智能,它的实际作用如何

地平线机器人CEO说他们做的事情是一个听起来比较非主流、反主流的事情,尽管反主流,但是他们还是致力于....
发表于 2019-11-27 11:26 25次阅读
什么是嵌入式人工智能,它的实际作用如何

人工智能改变零售业面貌 代表了现代商业的未来

世界正迈向数字化时代,传统零售商如亚马逊和沃尔玛都面临着生存危机。如今购买者可以通过多种渠道采购,为....
发表于 2019-11-27 11:04 50次阅读
人工智能改变零售业面貌 代表了现代商业的未来

物联网和AI技术怎样实现相互学习

虽然物联网设备运用广泛、价值重大,这些设备都有自己应用的范围,设备的性能决定了它们的使用地点、环境和....
发表于 2019-11-27 11:03 25次阅读
物联网和AI技术怎样实现相互学习

华为在智能安防领域有着怎样的野心

智能视频云则是华为AI+云的能力集成者。依托于华为鲲鹏+昇腾,智能视频云实现了大算力和AI的普惠。
发表于 2019-11-27 10:37 40次阅读
华为在智能安防领域有着怎样的野心

5G遇上智能安防能有效的预防贼吗

5G和AI作为能够改变时代的颠覆性技术,5G大宽带、高速率、低时延的特点,为AI应用场景的落地提供了....
发表于 2019-11-27 10:32 33次阅读
5G遇上智能安防能有效的预防贼吗

阿尔法蛋2019三款新品发布 重新定义了AI学习...

阿尔法蛋2019新品媒体沟通会在北京中华航天博物馆召开,此次媒体沟通会以“上星啦!阿尔法蛋”为主题,....
发表于 2019-11-27 10:27 53次阅读
阿尔法蛋2019三款新品发布 重新定义了AI学习...

AI助力下 IBM推出了新一代软件定义存储

近几年,存储领域最火的软件定义存储、智能存储等概念背后,都有一个关键词——智能化。原因就在于,越来越....
发表于 2019-11-27 10:19 30次阅读
AI助力下 IBM推出了新一代软件定义存储

人工智能是将处于黄金时代还是即将到来的新冬天

斯坦福大学最近呼吁美国政府在未来10年内对该国的AI生态系统进行1200亿美元的投资,法国的报告显示....
发表于 2019-11-27 10:11 127次阅读
人工智能是将处于黄金时代还是即将到来的新冬天

人工智能发展要警惕“跟风式虚火” 扎扎实实发展才...

从1956年几位科学家提出人工智能概念,到2016年人工智能“阿尔法狗”战胜世界围棋冠军;从正在相继....
发表于 2019-11-27 10:09 41次阅读
人工智能发展要警惕“跟风式虚火” 扎扎实实发展才...

为什么Google在AI方面的突破比较缓慢

Google通过创建先进的新技术并将其向所有人开放来实现了自己的目标。大型企业和个人都可以使用公司的....
发表于 2019-11-27 10:08 35次阅读
为什么Google在AI方面的突破比较缓慢

IBM充分发挥云计算与人工智能的潜力 围绕五大原...

众所周知,数据在今天的企业中拥有至关重要的战略地位。如何更好地管理数据并进一步释放数据价值,推动数字....
发表于 2019-11-27 10:05 36次阅读
IBM充分发挥云计算与人工智能的潜力 围绕五大原...

人工智能和机器学习在海上油气行业的应用越发广泛

据麦肯锡公司和现代先进的分析程序可以帮助大石油公司发现价值的额外$ 10亿。
发表于 2019-11-27 10:05 73次阅读
人工智能和机器学习在海上油气行业的应用越发广泛

家暴问题在全球范围内普遍存在 安防往家庭领域发展...

随着社会发展和时代进步,家暴作为全球性问题日益受到世界各国人民的关注。前天(2019年11月25日)....
发表于 2019-11-27 09:30 36次阅读
家暴问题在全球范围内普遍存在 安防往家庭领域发展...

脸部识别不再局限于人脸 动物也开始流行起刷脸来

脸部识别在人类世界的应用正风生水起,从安防扩展到零售、营销和金融等行业。而识别技术也向着多样化发展,....
发表于 2019-11-26 17:23 89次阅读
脸部识别不再局限于人脸 动物也开始流行起刷脸来

图书馆AI机器人给我们带来了什么便利

“智图”机器人集机器人导航、地图构建、射频定位、计算机视觉、人工智能等多项高精尖技术于一身,能够实现....
发表于 2019-11-26 17:19 31次阅读
图书馆AI机器人给我们带来了什么便利

人工智能学习人类知识 但同时也能吸收人类的偏见

人们最初确实天真地以为,算法能比人类更能避免偏见。人工智能学习人类知识,同时也吸收人类偏见。这种担忧....
发表于 2019-11-26 17:19 60次阅读
人工智能学习人类知识 但同时也能吸收人类的偏见

机器人革命将会带来什么

随着中国人口红利下降,劳动力价格上升,机器人不仅在制造业正在替代工人,还将在军事、侦察、服务、娱乐等....
发表于 2019-11-26 17:16 56次阅读
机器人革命将会带来什么

为什么大多数不喜欢聊天机器人

略高于一半的机构表示将AI用于分销;接受调查的组织中,有一半认为自己已经做好了使用AI的准备。
发表于 2019-11-26 17:12 45次阅读
为什么大多数不喜欢聊天机器人

深度学习是实施机器学习的众多方法之一 拥有很大的...

深度学习是实施机器学习的众多方法之一,通常使用神经网络(NN)完成学习阶段,来自动决定最相关的数据部....
发表于 2019-11-26 17:11 72次阅读
深度学习是实施机器学习的众多方法之一 拥有很大的...

哪一些人群受人工智能的影响最大

能看到人工智能做出妥协的一个地方是Nsure,这是一家帮助客户购买合适的房屋和汽车险的数字化保险机构....
发表于 2019-11-26 17:08 31次阅读
哪一些人群受人工智能的影响最大

如何赋予机器人自学的能力

机器人学习如何结合利用模拟、强化和协作学习来完成这些任务。
发表于 2019-11-26 17:06 45次阅读
如何赋予机器人自学的能力

怎样做才可以造就人工智能未来的趋势

在人工智能领域里,浪潮的人工智能服务器市场占有率已经有了相当不错的成绩。
发表于 2019-11-26 17:01 67次阅读
怎样做才可以造就人工智能未来的趋势

你懂不懂什么是神经网络

有监督学习 有监督学习的前提条件是你具有一个存在已知结果的数据集。神经网络从给定的训练数据集中学习出....
发表于 2019-11-26 16:57 27次阅读
你懂不懂什么是神经网络

云智能带来的是什么改变

数据中心基础设施作为承载云的幕后功臣,它的智能化正悄然加速着这场云变革的进行。
发表于 2019-11-26 16:52 30次阅读
云智能带来的是什么改变

人工智能该怎样去弯道超车

人工智能创新生态包括纵向的数据平台、开源算法、计算芯片、基础软件、图形处理器等技术生态系统和横向的智....
发表于 2019-11-26 16:46 45次阅读
人工智能该怎样去弯道超车

人工智能能否让英特尔重现辉煌

随着信息科技向物联网转变,迎来是科技史上最大机遇,物联网具有互联网几十倍的市场规模。
发表于 2019-11-26 16:33 28次阅读
人工智能能否让英特尔重现辉煌

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 2941次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

传感器和人工智能的关系

  谁来阐述一下传感器和人工智能的关系? ...
发表于 2019-11-25 15:51 130次阅读
传感器和人工智能的关系

5G与人工智能的关系

  谁来阐述一下5G与人工智能的关系?
发表于 2019-11-22 17:08 195次阅读
5G与人工智能的关系

大彩智能屏在美容行业的应用.pdf

大彩智能屏在美容行业的应用:随着用户对显示效果的要求越来越高,传统的数码管已经不能满足客户的要求,智能彩屏显示...
发表于 2019-11-22 16:07 117次阅读
大彩智能屏在美容行业的应用.pdf

【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

       人工智能已成为各行各业离不开的主题,电子发烧友论坛和瑞芯微电子联合推出的RK1808试用...
发表于 2019-10-25 13:05 203次阅读
【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

基于ARM9内核的智能灭火机器人怎么设计?

人工智能也称机器智能,是一门研究人类智能机理和如何用计算机模拟人类智能活动的学科。经过50多年的发展,人工智能已...
发表于 2019-10-21 06:39 220次阅读
基于ARM9内核的智能灭火机器人怎么设计?

AI的核心是什么?

AI概念笼统,范围广大,到底什么才是AI的核心? ...
发表于 2019-10-18 06:39 194次阅读
AI的核心是什么?

什么是Cortex-A75?

时光飞逝,好像在昨天我们才刚发布ARM Cortex-A73这款最节能的高效能Cortex应用处理器,转眼之间我们就看到Cor...
发表于 2019-10-15 08:28 200次阅读
什么是Cortex-A75?

为什么说FPGA是机器深度学习的未来?

  最近几年数据量和可访问性的迅速增长,使得人工智能的算法设计理念发生了转变。人工建立算法的做法被计算机从大量...
发表于 2019-10-10 06:45 197次阅读
为什么说FPGA是机器深度学习的未来?