电子发烧友网 > 人工智能 > 正文

人工智能风险评估有多重要

2019年12月04日 13:48 次阅读

随着新科技革命的纵深发展、智能算法的优化升级,人工智能技术可能带来新的挑战与治理困境。因此,积极做好人工智能的政策引导与合理规制,推进智能技术安全风险评估预警研究,对实现人工智能健康持续发展显得尤为重要。

人工智能技术应用存在风险

人工智能技术对于智慧社会建设意义非凡。人工智能技术的繁荣,也离不开人类社会的场景应用。然而我们在大力推进人工智能与实际生活接轨时,必须高度警惕人工智能在技术应用、法律道德以及社会关系等领域的潜在风险。

第一,人工智能技术的场景应用风险。目前,人工智能技术应用涉及智慧医疗、智慧交通、智慧司法及智能教育等方方面面。在智慧交通方面,无人驾驶技术不仅提升了驾驶员的安全性,还为其节省出更多的自由时间,经算法分配可缓解交通拥堵状态。但无人驾驶网络系统一旦受到黑客或者市场竞争对手的恶意攻击,极有可能使人类生命财产安全受到巨大威胁。在智慧医疗方面,人工智能技术在诸如医疗辅助机器、智能药物研发、智能医学影响、个人智能健康管理等智能诊疗方面发挥巨大作用。然而当前人工智能还处在初级阶段,系统本身存在漏洞,若大面积临床应用易引发医疗事故;智慧医疗一旦发生医患纠纷,就会存在责任主体无法明确的问题。在智慧司法领域,人工智能技术已得到初步推广,最高人民法院与最高人民检察院分别提出“智慧法院”和“智慧检务”。《法治蓝皮书·中国法院信息化发展报告(2019)》也指出,智慧法院在“信息化助理司法为民”“信息化辅助审判执行和司法管理”和“信息化服务国家社会”三大方面全面推进。但是人工智能技术并不能完全取代司法工作者,它消解司法的本质和法官的主体性。另外,人工智能技术的算法存在“黑箱”缺乏有效监督,无法保证审判结果的公正、客观,难以使人信服,甚至出现人工智能技术下的冤假错案。

第二,人工智能技术背后的法律道德风险。“科学技术本身是中性的,无所谓善恶,科技对人类及环境的负责作用完全是人类自身的责任。”人工智能技术在法律道德方面同样面临风险。首先,人工智能领域的立法相对滞后。技术壁垒、现实不对称以及法律的权威性等原因,造成了人工智能领域的立法滞后。在民法、知识产权法、交通法以及刑法等诸多领域,不仅缺乏有效的法律供给,而且相关技术还与现行法律秩序相冲突。其次,个人隐私和信息安全受到威胁。人工智能技术的应用与发展,离不开对数据的采集与利用,数据不断更新与扩张则会引发信息泄露、侵犯隐私的风险。最后,人工智能法律伦理方面存在困境。人工智能技术经过算法的不断升级换代,或许可完全绕过人脑固有的思维方式,形成“新智能思维”强制模拟人类思维,从而使人类陷入思维无法触及的地带,达到新兴技术生命周期的“峡谷”。

第三,由人工智能所引发的社会关系风险。在人工智能时代,我们需要更加重视两对关系,即人与人关系、人与机器的关系。在人与人关系方面,随着人工智能与实业相结合,部分职业被机器所取代,传统行业面临重组,从而造成结构性失业。在人与机器关系方面,学界一直存在争论。随着深度学习为智能系统不断优化升级,智能机器将会在某些领域达到甚至超越人类的水平,人工智能一旦在自主意识和情感领域取得新进展,那么人与机器之间的关系会变得复杂。此外,对于绝大多数的用户而言,他们不会试图研究甚至难以了解算法的内在逻辑,同时维护人员也很难全面掌握、解释智能技术在深入学习后的选择机制,从而形成算法的“黑箱”,严重情况下会演进为算法歧视。

人工智能风险评估有多重要

人工智能安全风险评估优化路径

为确保人工智能技术平稳安全落地,我们不能被动地在发生危险后紧急处理相关问题,而要在第一时间掌握技术的最新动态,积极做好人工智能安全风险评估和预警工作。

第一,完善人工智能安全应用的法律覆盖和兜底。当前,我国在人工智能技术安全运用领域还存在大量法律空白。对此,立法者应制定相关法规,为智能技术的应用安全提供法律保障,防控人工智能技术带来的潜在风险。一方面,立法者要全面审视现有法律体系,并使其不断适应社会需求,同时注重立法加强用户信息和隐私的保护、个人数据合法使用、人工算法的普适公平,以及智能技术失效后的救济管理,明确人工智能法律主体以及相关权利、义务和责任,构建实现新技术的法律基础。另一方面,设立人工智能发展规划和前沿技术领域的负面清单,从法律底线构建“安全防火墙”。在国家层面立法实现对人工智能的算法设计、产品开发、数据采集和产品应用的全流程规制,在可能引发人工智能不可预知性和不确定性的技术领域,立法设立红区或研发限制规范,推进人工智能技术健康发展与应用。

第二,健全人工智能安全等级和风险预估机制。由于人工智能的发展存在很多的不确定性,亟须加强人工智能潜在风险的评估,促使人工智能安全可控发展。首先,政府应联合相关高校、智库和科技公司等对人工智能技术的应用进行安全等级评估,不同安全等级运用不同层次的智能安防技术,确保人工智能技术应用的安全性、有序性。其次,针对人工智能技术应用进行风险预估,预防人工智能在场景应用中存在的潜在风险,防止技术手段在实际运用中可能出现的故障、失效、被入侵等隐患。如通过人工智能技术建立对抗性学习算法研究,利用“技术制约技术”的理念,优化智能技术开发架构,降低人工智能带来的隐患。最后,政府安全部门应联合相关执法机构,完善对人工智能技术应用主体的监控机制,建立伦理与风险审查机制,降低人工智能技术受到人为因素影响的概率。

第三,做好人工智能风险防控领域前瞻性研究。面对智能技术的安全威胁,人们应采取积极应对的态度,秉持“早发现、早治疗、早升级”的理念促进人工智能的良序发展。一是成立具有国家战略高度的人工智能风险防控系统与实体研究机构,切实加强各类人工智能安全应用平台建设和人工智能学科专业建设与人才培养;形成以政府为主导、企业为主体、市场为导向的产学研相结合的模式,鼓励开发相关人工智能技术,拓宽人工智能技术的安全应用领域。二是贯彻人类命运共同体理念,积极开展多边国际智能安全技术合作。中国应积极参与人工智能全球治理,主动搭建人工智能伦理规范、制度建设和国际规制等全球合作平台,在智能技术安全风险管控、国家安全治理等重大国际议题上,贡献中国智慧与力量,共同应对全球性挑战。

总而言之,我们需要从实际出发,因地制宜、因时制宜,从顶层设计层面加强对人工智能新技术融入经济社会的规划和引导,准确把握技术和产业发展趋势,不断规范不同领域人工智能安全应用,进而避免盲目追求人工智能技术的应用,而忽视了智能技术造福于人的本质目标。

责任编辑:Ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11716次阅读
四轴机器人编程与应用

人工智能伦理问题是怎样的

人工智能正处于蓬勃发展的大好机遇期,人类社会吁求高阶科学技术力量的伦理支撑。
发表于 2019-12-04 13:52 0次阅读
人工智能伦理问题是怎样的

华存科技加速数据读写的专利

随着人工智能(AI)、物联网(IoT)、大数据、5G等新兴产业的迅速发展,海量数据的产生为存储器产业....
发表于 2019-12-04 13:49 0次阅读
华存科技加速数据读写的专利

XDF一线报道:Xilinx“数据中心优先战略”...

2019 年赛灵思开发者大会( XDF )亚洲站今日于北京盛大揭幕。
发表于 2019-12-04 13:45 4次阅读
XDF一线报道:Xilinx“数据中心优先战略”...

Xilinx人工智能推断开发软件平台Vitis ...

2019年12月2日,中国,北京(2019 年赛灵思中国开发者论坛) —— 自适应和智能计算的全球领....
发表于 2019-12-04 13:43 4次阅读
Xilinx人工智能推断开发软件平台Vitis ...

XDF 重磅:Xilinx宣布Vitis™ AI...

赛灵思开发者大会(XDF)亚洲站终于在北京拉开帷幕了,与往届 XDF 一样,每次大会我们都会为全球开....
发表于 2019-12-04 13:38 19次阅读
XDF 重磅:Xilinx宣布Vitis™ AI...

如何利用物联网等技术智能预警检测系统

率先在梁滩河支流双凤溪布置了10台小型水质自动检测站,以物联网、云计算、大数据、人工智能等技术为支撑....
发表于 2019-12-04 13:34 4次阅读
如何利用物联网等技术智能预警检测系统

AI机器人如何为客服提供一套智能方案

从识别、交互到操作,AI会在优化智能问答体验的过程中越来越多地覆盖场景,以“智能协同”模式,推进新技....
发表于 2019-12-04 11:51 24次阅读
AI机器人如何为客服提供一套智能方案

人工智能和实体经济怎样完美的融合

人工智能在给人们生活带来便利的同时,也提出了前所未有的挑战。
发表于 2019-12-04 11:48 21次阅读
人工智能和实体经济怎样完美的融合

赛灵思5G/AI扮演要角 三大战略不容轻忽

初雪的北京迎来热情似火的开发者。12月3日-4日,北京国家会议中心,赛灵思开发者大会现正如火如荼地进....
发表于 2019-12-04 11:46 208次阅读
赛灵思5G/AI扮演要角 三大战略不容轻忽

怎样传递人工智能的共识

从工业时代到人工智能时代,从训练人配合机器到把机器变成人,从模仿到创新。
发表于 2019-12-04 11:46 12次阅读
怎样传递人工智能的共识

大数据对人工智能的影响有多大

以深度学习为代表的人工智能技术已经应用到各个行业。驱动人工智能技术蓬勃发展的是各行各业积累的大数据。
发表于 2019-12-04 11:41 9次阅读
大数据对人工智能的影响有多大

人工智能如何让路测停车进入新的景象

颠覆了城市路侧停车管理方式,让静态交通秩序井然、安全高效、疏解了交通拥堵,对全国推行智慧停车具有借鉴....
发表于 2019-12-04 11:39 10次阅读
人工智能如何让路测停车进入新的景象

人工智能才是大产业,才是华为发展的战略要地

任正非在讲话中说,要把“人才灯塔”亮起来,吸收更多的“丙种球蛋白”进入华为的人才系统和组织平台,五年....
发表于 2019-12-04 11:25 85次阅读
人工智能才是大产业,才是华为发展的战略要地

语音机器人应用越来越广 已进入“商业落地”兑现期...

从追风口的AI崇拜到接地气的AI落地,AI语音机器人作为最早商业应用的场景之一,已进入“商业落地”兑....
发表于 2019-12-04 11:23 21次阅读
语音机器人应用越来越广 已进入“商业落地”兑现期...

VoIP的下一步发展是什么?

VoIP承诺简化通信流程和更方便的交互。作为降低日常对话成本和提高关键讨论可靠性的一种方式,VoIP....
发表于 2019-12-04 11:20 65次阅读
VoIP的下一步发展是什么?

机器人考大学 人工智能与行业结合的种类越来越多

2019年11月19日,中新网转载了日本共同社的一则新闻,据报道,日本国家信息研究所的人工智能挑战了....
发表于 2019-12-04 11:08 34次阅读
机器人考大学 人工智能与行业结合的种类越来越多

医疗领域人工智能技术的发展即将超越人类

人工智能有潜力为太空,教育,体育,金融,建筑,医疗保健等各个领域做出宝贵贡献。
发表于 2019-12-04 11:01 56次阅读
医疗领域人工智能技术的发展即将超越人类

智能识别技术对医疗方面有什么影响

伦敦癌症研究所(ICR)的一个团队领导的科学家已经使用人工智能(AI)和机器学习(ML)来发现五种新....
发表于 2019-12-04 10:56 12次阅读
智能识别技术对医疗方面有什么影响

人工智能技术将可以帮助解决USPTO的专利质量问...

大约一个月前,史蒂夫·布拉希曼(Steve Brachmann)撰写了一篇文章,内容涉及弗雷克斯(F....
发表于 2019-12-04 10:50 34次阅读
人工智能技术将可以帮助解决USPTO的专利质量问...

AI先生李彦宏不断推动教育公平 帮助大山孩子近距...

骤降的冰点温度下,北京用今年的第一场雪,迎接即将到来的2020年。2020这个年份,曾是很多人眼中科....
发表于 2019-12-04 10:45 36次阅读
AI先生李彦宏不断推动教育公平 帮助大山孩子近距...

合成生物学能否激发下一波人工智能的发展

赖特兄弟(Wright Brothers)在20世纪初制造了世界上第一架飞机时,从鸟类的“有见识”运....
发表于 2019-12-04 10:41 32次阅读
合成生物学能否激发下一波人工智能的发展

腾讯云正式推出了助力视障开发者计划

基于这样的背景,腾讯不断思考如何通过自身的科技能力,为视障人群带来更好的产品和服务,并最终与信息无障....
发表于 2019-12-04 10:28 70次阅读
腾讯云正式推出了助力视障开发者计划

中国电信运用5G和人工智能技术打造出了天翼无人机...

目前我国现有无人机企业超300家,产品超1200种。预计到2025年,民用无人机产值达到1800亿元....
发表于 2019-12-04 10:23 51次阅读
中国电信运用5G和人工智能技术打造出了天翼无人机...

美的引入AI技术 洗衣机荣获人工智能奖项

“第九届吴文俊人工智能科学技术奖颁奖典礼暨2019中国人工智能产业年会”11月29日-12月1日在苏....
发表于 2019-12-04 10:14 26次阅读
美的引入AI技术 洗衣机荣获人工智能奖项

智能识别技术或将有助于医疗技术的发展

伦敦癌症研究所(ICR)的一个团队领导的科学家已经使用人工智能(AI)和机器学习(ML)来发现五种新....
发表于 2019-12-04 10:08 27次阅读
智能识别技术或将有助于医疗技术的发展

中国云计算行业的市场份额数据分析

首先,该季度这个市场的规模达到 29 亿美元,同比增长 60.8%,占全球云计算支出的 10.4%。....
发表于 2019-12-04 10:05 88次阅读
中国云计算行业的市场份额数据分析

人工智能机器人经历寒冬 投资人要谨慎出手等待场景...

创投圈的资本寒冬还在漫延,根据相关机构得到的数据:2019 年 5 月 VC/PE 目标募资总规模同....
发表于 2019-12-04 09:10 36次阅读
人工智能机器人经历寒冬 投资人要谨慎出手等待场景...

要减少AI系统的偏见 我们本身就得减少一些偏见用...

AI正以相当显眼得方式重塑着我们的世界,数据驱动着全球数字生态系统,AI技术则揭示了数据中的模式。智....
发表于 2019-12-04 09:03 22次阅读
要减少AI系统的偏见 我们本身就得减少一些偏见用...

人工智能产业发展如火如荼 建立行业标准和规范准则...

当下,人工智能产业发展如火如荼,标准化是规范市场经济客体的“规则”,亦是走向国际市场的“通行证”,建....
发表于 2019-12-04 09:03 26次阅读
人工智能产业发展如火如荼 建立行业标准和规范准则...

千元以下的王者,华米科技可穿戴设备发货突破一亿台

2019年12月3日,华米科技召开2019年度战略媒体沟通会,分享了一年以来华米在可穿戴领域取得的成....
发表于 2019-12-04 09:02 115次阅读
千元以下的王者,华米科技可穿戴设备发货突破一亿台

应该怎样来鼓励区块链的发展

为规范引导新技术应用,人工智能、区块链、大数据、云计算等17项金融行业标准已经立项,正在加紧研究制定....
发表于 2019-12-04 08:48 18次阅读
应该怎样来鼓励区块链的发展

深度学习入门

发表于 2019-12-03 18:11 114次阅读
深度学习入门

IT服务管理可能受到人工智能的影响吗

人工智能或者机器智能将很快会创造出一种前所未有的现象。
发表于 2019-12-03 17:24 37次阅读
IT服务管理可能受到人工智能的影响吗

AI+交通可以加强哪一方面

人工智能运用,可以实现对站内流量的预估,可以根据高峰时段进行可变化闸机开放模式,以达到效率高的控客模....
发表于 2019-12-03 17:21 39次阅读
AI+交通可以加强哪一方面

人工智能背后的人工力量是什么

AI数据标注员被称作“人工智能背后的人工”。“数据是人工智能的血液。
发表于 2019-12-03 17:17 297次阅读
人工智能背后的人工力量是什么

人工智能如何变得有良知

人工智能可以选择求职面试的应聘者,并决定谁有资格获得工作职位,并且可以为患者进行诊断。
发表于 2019-12-03 17:14 29次阅读
人工智能如何变得有良知

人工智能和大数据有怎样的隐患

有了足够的数据,将会发现计算能力和统计算法的模式。但并不是所有的模式都有意义,因为虚假模式的数量很容....
发表于 2019-12-03 17:11 47次阅读
人工智能和大数据有怎样的隐患

人工智能怎样加快社会治理的现代化

人工智能是科学技术进步的产物,也是人类社会生产力提高的具体表现。人工智能是人类创造的机器智能,是人类....
发表于 2019-12-03 17:06 36次阅读
人工智能怎样加快社会治理的现代化

人工智能通过什么方式加强人类能力

至少在可预见的未来,企业使用人工智能来提高和增强现有能力的价值将远远超过人类开展工作的价值。
发表于 2019-12-03 17:03 35次阅读
人工智能通过什么方式加强人类能力

AI 人工智能落地离不开什么问题

在人工智能等新技术催化下,信息泄密正在围绕“数据”展开,这些数据涉及各类事、物、人、企业、政府部门等....
发表于 2019-12-03 16:59 331次阅读
AI 人工智能落地离不开什么问题

人工智能数据存储需要注意哪一些问题

人工智能和机器学习将成为帮助企业利用其核心数字资产创造竞争优势的两个最重要的工具。
发表于 2019-12-03 16:55 27次阅读
人工智能数据存储需要注意哪一些问题

人工智能怎样做可以更加的智能

近年来保险公司积极运用大数据、云计算、物联网、人工智能和区块链等技术在理赔服务端开展尝试,图像识别技....
发表于 2019-12-03 16:50 34次阅读
人工智能怎样做可以更加的智能

【转载】如何从零入门人工智能(AI)具体学习步骤和方法

上次我们讲到人工智能的一些应用,对于计算机专业的小白,我们如果对人工智能感兴趣,我们该如何入手呢?本文主要参考...
发表于 2019-11-28 16:20 110次阅读
【转载】如何从零入门人工智能(AI)具体学习步骤和方法

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 243次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 5762次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

传感器和人工智能的关系

  谁来阐述一下传感器和人工智能的关系? ...
发表于 2019-11-25 15:51 178次阅读
传感器和人工智能的关系

5G与人工智能的关系

  谁来阐述一下5G与人工智能的关系?
发表于 2019-11-22 17:08 234次阅读
5G与人工智能的关系

大彩智能屏在美容行业的应用.pdf

大彩智能屏在美容行业的应用:随着用户对显示效果的要求越来越高,传统的数码管已经不能满足客户的要求,智能彩屏显示...
发表于 2019-11-22 16:07 146次阅读
大彩智能屏在美容行业的应用.pdf

【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

       人工智能已成为各行各业离不开的主题,电子发烧友论坛和瑞芯微电子联合推出的RK1808试用...
发表于 2019-10-25 13:05 241次阅读
【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

如何设计基于FPGA的通用CNN加速?

随着互联网用户的快速增长,数据体量的急剧膨胀,数据中心对计算的需求也在迅猛上涨。同时,人工智能、高性能数据分析...
发表于 2019-10-23 07:17 105次阅读
如何设计基于FPGA的通用CNN加速?

基于ARM9内核的智能灭火机器人怎么设计?

人工智能也称机器智能,是一门研究人类智能机理和如何用计算机模拟人类智能活动的学科。经过50多年的发展,人工智能已...
发表于 2019-10-21 06:39 256次阅读
基于ARM9内核的智能灭火机器人怎么设计?