电子发烧友网 > 人工智能 > 正文

管控措施相继发布 人工智能技术大规模应用带来的负面效果需要考虑

2020年02月27日 11:24 次阅读

科技是把双刃剑,当人工智能技术大规模应用于社会时,我们必须考虑它所带来的负面效果。

身处文明社会当中,大众除了道德限制还有法律对自身行为进行约束,但开发者进行应用开发时,是否考虑到“喂”给机器的数据是否符合“法规”,特别是近年来人机交互的数量急剧增加,从而使得AI监管问题的讨论变得更为热烈。

管控措施相继发布 人工智能技术大规模应用带来的负面效果需要考虑

感官的欺骗

视觉与听觉是我们对外界感知的重要窗口,大众的观念中普遍认为“人的第一印象很重要”“眼见为实,耳听为虚”。

但面对信息错综复杂的世界,如今眼见也不一定为实,听到的则可能更为虚假。曾经被议论的Deepfake换脸技术就属于罪魁祸首之一,其利用了AI深度学习功能,通过数以亿计的自我学习、神经网络训练,AI能够识别出画面中那些和周围场景格格不入的部分,同时将其移走和生成缺失的像素,最后重绘出部分像素进行画面填补。

谷歌公司也曾推出WaveNet软件,可以利用其神经网络系统对原始音频波形进行建模,生成带有不同语气音节和情感表达的人类自然语言的音频。

外媒曾报道过一例案件,不法分子就利用了类似的AI技术,成功模仿了英国某能源公司CEO的声音,诈骗了220,000欧元,执法当局认为此种类案件的调查取证更为困难。

AI道德准则

2019年,我国首次将AI造假音视频列入法规,国家网信办出台《网络音视频信息服务管理规定》。

对于利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的网络音视频:,应当以显著方式予以标识,不得利用其制作、发布、传播虚假新闻信息;网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术,应当建立健全辟谣机制。

日前,欧盟也相继出台《人工智能白皮书》,对人工智能领域的投资监管路径设立双重目标,旨在推动道德和可信赖人工智能的发展。并通过建设“卓越生态系统”和“信任生态系统”双重系统,构建一个卓越的、可信赖的人工智能体系框架。

近日,面对人工智能的伦理 “红线”,博世在“博世互联世界大会”上发布人工智能技术的指导方针《AI道德准则》,博世认为人工智能是服务于人类的工具,任何可能对人造成影响的人工智能决策都需要人类的监管。

准则中包含了三种机制,它们遵守着一个共同的原则,即博世开发的人工智能产品中,人类必须保留对人工智能所做决策的最终控制权。

第一种机制为人工控制(human-in-command),它适用于人工智能只作为支持工具出现的情况。例如,在决策支持系统中,人工智能帮助人们对物体或生物进行分类。

第二种机制为使用阶段的人为干预(human-in-the-loop),适用于人工智能系统可以自主决策,但人类可以随时干预的情况。例如,驾驶辅助系统,驶员可以直接介入停车辅助系统的决策等。

第三种机制为设计阶段的人为干预(human-on-the-loop),适用于紧急制动系统等应用。开发此类智能产品时,专家将定义参数作为人工智能决策的基础,而人类不参与决策,由人工智能进行。

但是工程师可以随时追溯检查机器是否遵守所设定的参数进行决策,必要情况下可以修改参数。

面临的困难

人工智能在应用层面有逐渐完善的法律法规进行约束,但在实际的技术开发中仍面临着许多难以确定的细则。

数据标定没有统一标准:在机器学习中训练数据前都会对数据进行清洗和标定。有时为了满足业务进度的要求,不会进行全量全分类的处理。

准确的说,无法对数据进行严格而准确的分类。这也是有监督学习类算法的缺点,就是针对特殊业务往往要进行专门的数据标定,同时算法设计者自身存在价值偏见也会导致人工智能系统无法正常运行。

数据分析难全面:在准备训练数据时应容扩各类发生的情况,AI在数据错误的情况势必会造成BUG,除了掌握各类情况,仍要调整好处理各种情况的参数或系数,包括算法模型存在的技术性缺陷可能导致人工智能系统无法正常运行。

模型成长环境差异:AI算法模型的训练环境对算法结果有重大影响,假设机器训练环境变得没有边界,各类数据都被机器学习,这将很难保证机器会往着人类预想的方向发展,以及因为算法日趋“黑箱化”可能导致技术失控等问题。

无论在技术或应用方向,都应该通过政策和法律引导,开展人工智能算法安全的评估检测;推动技术伦理的算法导入,要求人工智能开发者设计高可解释性的智能系统;同时,加强智能算法的透明监督,人工智能企业、行业应建立相应的算法监管体制,保持与政府监管的协同。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【现场直播】第五届IoT大会之人工智能分论坛

直播主题:● AI知名企业大佬现场分享观点,解读行业趋势● 中国AI产品制造商和系统集成商的产品、技术和市场战略● AI
发烧友学院发表于 2018-12-18 00:00 1079次阅读
【现场直播】第五届IoT大会之人工智能分论坛

人工智能大规模的落地需要避过哪一些坑

人工智能具备不断自我学习的能力,也可以产生开箱即用的想法。
发表于 2020-02-27 11:22 0次阅读
人工智能大规模的落地需要避过哪一些坑

人工智能怎样在制造业发挥自己的长处

在我国经济和制造业向高质量发展、向价值链中上游迈进,向效率要红利的过程中,更深层次的自动化、数字化,....
发表于 2020-02-27 11:19 7次阅读
人工智能怎样在制造业发挥自己的长处

制造流程智能化是如何体现人工智能的

自动化系统的结构,其实就是人与信息物理系统融合的系统,也就是人参与的信息物理系统——信息系统得到的信....
发表于 2020-02-27 11:15 3次阅读
制造流程智能化是如何体现人工智能的

CT+AI AI影像市场逐渐成熟

在CT被列入第五版新冠肺炎诊疗方案后,在准确性还不够完美的核酸检测之外又增加了一项诊断手段。CT阅片....
发表于 2020-02-27 11:14 9次阅读
CT+AI AI影像市场逐渐成熟

人工智能可能实现无人配送吗

疫情的防控催生了“无接触配送”“无人经济”消费场景的需求。在疫情期间,无论是在环境复杂的疫区还是其他....
发表于 2020-02-27 11:12 4次阅读
人工智能可能实现无人配送吗

在人工智能的帮助下 旅游业将发生巨大的改变

旅游业正在慢慢地将人工智能融入到行业当中,并为游客提供个性化定制体验。在人工智能的帮助下,旅游业的业....
发表于 2020-02-27 10:56 6次阅读
在人工智能的帮助下 旅游业将发生巨大的改变

前瞻布局,老牌科技企业以人工智能引领行业发展

2019年9月底闭幕的国际语音盛会Interspeech2019上,联想人工智能实验室语音团队和昆山....
发表于 2020-02-27 10:51 22次阅读
前瞻布局,老牌科技企业以人工智能引领行业发展

法国利用人工智能税务稽查信息工具追缴逃税7.8亿...

2018年法国经济部门引入了人工智能算法追缴逃税,2019年又花费了2000万欧元来改进税务稽查信息....
发表于 2020-02-27 10:46 23次阅读
法国利用人工智能税务稽查信息工具追缴逃税7.8亿...

人工智能抗疫 AI技术实现了筛查的时间窗口前移

人工智能(AI)在本次新冠肺炎疫情的防控中得到了实际应用,涵盖了辅助诊断、影像分析、药物研发、体温检....
发表于 2020-02-27 10:42 4次阅读
人工智能抗疫 AI技术实现了筛查的时间窗口前移

国务院加强湖北防疫工作,推进远程医疗、人工智能服...

当前疫情防控工作正处在最吃劲的关键阶段,湖北省特别是武汉市依然面临新冠肺炎患者集中、医疗卫生资源紧张....
发表于 2020-02-27 10:39 75次阅读
国务院加强湖北防疫工作,推进远程医疗、人工智能服...

美利用人工智能发现新型抗生素 可以杀灭多种致病细...

美国科研团队最近利用人工智能技术发现一种新型抗生素,它可以杀灭多种致病细菌,包括一些对所有已知抗生素....
发表于 2020-02-27 10:32 6次阅读
美利用人工智能发现新型抗生素 可以杀灭多种致病细...

人工智能增强对医疗成像的影响力

随着人工智能(AI)医疗成像技术持续发展,原本放射科医生担心被取代的恐惧,也逐渐转变成乐观的期待。
发表于 2020-02-27 10:26 9次阅读
人工智能增强对医疗成像的影响力

随着技术的快速发展 人工智能在司法领域的应用前景...

最近,马来西亚一个地方法庭宣布,将在一宗刑事案裁决中采用人工智能技术。使用该技术的应用程序,能够协助....
发表于 2020-02-27 10:26 10次阅读
随着技术的快速发展 人工智能在司法领域的应用前景...

人工智能将如何制造完美的Deepfake视频

伪造者创建伪造品,然而采用检测器进行检测,从而向伪造者提供有关检测到的信息。伪造者然后调整他们的方法....
发表于 2020-02-27 10:16 68次阅读
人工智能将如何制造完美的Deepfake视频

人工智能将是发现新零售的增长推动力

在这个消费升级的时代,人类需要利用数字化的技术手段,去孵化一个具有更新更好体验的商业业态。
发表于 2020-02-27 10:11 142次阅读
人工智能将是发现新零售的增长推动力

我国人工智能突飞猛进 在全球位列前茅

随着科学技术的进步,人工智能是在 2016年3月,中国工程院首次提出人工智能2.0的说法,它是企图了....
发表于 2020-02-27 09:45 13次阅读
我国人工智能突飞猛进 在全球位列前茅

人工智能一线“抗疫” AI影像成为疫情防控的关键...

伴随第六版新冠肺炎诊疗方案的发布,CT影像成为重要决策依据,由此带来的CT阅片压力也在急剧上升。作为....
发表于 2020-02-27 09:39 68次阅读
人工智能一线“抗疫” AI影像成为疫情防控的关键...

人工智能全自动地震监测系统可在1-2秒时间报出所...

记者26日从中国科学技术大学获悉,经过六年的努力,该校多个课题组与中国地震局地震预测研究所赵翠萍研究....
发表于 2020-02-27 09:36 12次阅读
人工智能全自动地震监测系统可在1-2秒时间报出所...

人工智能真正赋能制造业 将成为制造业转型升级的核...

去年年末,新华社中国经济信息社发布《中国制造业高质量发展报告(2019)》(白皮书)。该报告对国内外....
发表于 2020-02-27 09:36 11次阅读
人工智能真正赋能制造业 将成为制造业转型升级的核...

人工智能带来爆发契机 中国机器视觉市场将迎来快速...

从智能手机的面部识别、人脸支付到工业机器人的精准避障、精确抓取……近年来,随着图像识别、智能传感器等....
发表于 2020-02-27 09:27 98次阅读
人工智能带来爆发契机 中国机器视觉市场将迎来快速...

区块链怎样打造接地气的服务平台

数字经济驱动电商转型升级,区块链新技术推动电商的嬗变,作为新型电商的一股新生力军,“区块链电商”已悄....
发表于 2020-02-27 08:58 11次阅读
区块链怎样打造接地气的服务平台

物联网安全策略你懂得几个

物联网安全性与IT安全性有所不同,行业专家就如何将物联网相关网络风险降到最低提出了建议。
发表于 2020-02-26 16:04 139次阅读
物联网安全策略你懂得几个

物联网和人工智能如何做可以加速获取价值

人工智能驱动的互联智能设备和环境从更大的数据源网络(包括彼此)中学习,并为集体智慧做出了贡献。
发表于 2020-02-26 15:28 34次阅读
物联网和人工智能如何做可以加速获取价值

德勤《2020科技、传媒和电信行业预测》报告三大...

为何这种交联趋势会在2020年爆发增长?我们可以想象一片森林。生长初期,幼树彼此相距数米,独立成长。....
发表于 2020-02-26 13:59 187次阅读
德勤《2020科技、传媒和电信行业预测》报告三大...

中国手术机器人能否迎来突破

而手术机器人作为临床医学诊疗工具的皇冠明珠,现正以前所未有的速度和规模引领全球医疗行业变革。
发表于 2020-02-26 11:51 31次阅读
中国手术机器人能否迎来突破

服务机器人要迎来自己的春天了吗

有了国家方面的支持,越来越多的人工智能力量诸如服务机器人,加入到了抗“疫”的队伍中去。
发表于 2020-02-26 11:43 51次阅读
服务机器人要迎来自己的春天了吗

人工智能手提箱有什么作用

利用人工智能技术可以帮助视力受损的人更顺畅的在城镇周边甚至世界各地独立地旅行。
发表于 2020-02-26 11:40 45次阅读
人工智能手提箱有什么作用

对于人工智能的投资如何变得更加的明智

在基础人工智能的创新和发现方面,美国仍然是领导者,而中国则相对落后。
发表于 2020-02-26 11:24 32次阅读
对于人工智能的投资如何变得更加的明智

人工智能要开始反攻?

随着人工智能技术的不断成熟,人工智能已经是时代发展的必然趋势。
发表于 2020-02-26 11:21 31次阅读
人工智能要开始反攻?

怎样的空间才算是智能空间

智能空间即是自动化的空间,比如需要工作环境时, 一键启动;需要客厅时,亦可一键按钮腾出空间。一个小小....
发表于 2020-02-26 11:17 26次阅读
怎样的空间才算是智能空间

Gartner:2020年 AI平台魔力象限:意...

Gartner最近发布了数据科学和机器学习(DSML)平台魔力象限报告。数据科学、机器学习和AI的市....
发表于 2020-02-26 11:12 266次阅读
Gartner:2020年 AI平台魔力象限:意...

利用物联网等先进技术打造的“生物安全可信管理平台...

“因此,安全、高效、精准地管理和使用生物资源,包括康复者捐献的血浆等,是打赢防疫反击阶段战役的关键举....
发表于 2020-02-26 10:43 98次阅读
利用物联网等先进技术打造的“生物安全可信管理平台...

AI科技企业如何在疫情当中自救

无论是科技企业还是服务企业等,在日常运营中,都应该提高对危机的认知力,夯实自身基础实力,增强战胜危机....
发表于 2020-02-26 09:57 169次阅读
AI科技企业如何在疫情当中自救

新加坡制定人工智能自我评估指南

新加坡资讯通信媒体发展局和世界经济论坛第四次工业革命中心(C4IR)共同制定了一套人工智能自我评估指....
发表于 2020-02-25 17:20 180次阅读
新加坡制定人工智能自我评估指南

人工智能在情报界有什么作为

人工智能系统还帮助国家地理空间情报局为船员提供全球范围内最新威胁信息,如海盗动向和可能改变海图的最新....
发表于 2020-02-25 16:59 148次阅读
人工智能在情报界有什么作为

为何英媒说人工智能是对付疫情的最大希望

即使利用人工智能发现了一种能对抗与新冠肺炎类似的疫情的抗生素,也需要开展可能耗费数月时间的严格临床试....
发表于 2020-02-25 16:56 102次阅读
为何英媒说人工智能是对付疫情的最大希望

人工智能芯片的潜力怎样

伴随着大数据的发展,计算能力的提升,人工智能近两年迎来了新一轮的爆发。
发表于 2020-02-25 16:52 68次阅读
人工智能芯片的潜力怎样

中国的人工智能达到了怎样的高度

中国的人工智能已经进入规模化应用阶段,高科技公司和金融机构已经从“竞争”走向“共赢”。
发表于 2020-02-25 16:49 59次阅读
中国的人工智能达到了怎样的高度

怎样借助人工智能的力量提高抗疫效率

通知还提出,支持运用互联网、大数据、云计算、人工智能等新技术服务疫情监测分析、病毒溯源、患者追踪、人....
发表于 2020-02-25 16:42 267次阅读
怎样借助人工智能的力量提高抗疫效率

人工智能如何走向卓越与信任的欧洲

鉴于人工智能 的飞速发展,欧洲可以将技术、产业优势和基于基本价值观的监管框架相结合,打造一整套人工智....
发表于 2020-02-25 16:39 33次阅读
人工智能如何走向卓越与信任的欧洲

人工智能存在性别歧视?

谷歌人工智能工具用于标记图像中的内容,将不再给人们贴性别标签。
发表于 2020-02-25 16:35 72次阅读
人工智能存在性别歧视?

人工智能是如何协助监测冠心病的

对患者的CTA影像(无创检测)进行处理,用人工智能读取CTA影像来计算出检测结果。
发表于 2020-02-25 16:31 41次阅读
人工智能是如何协助监测冠心病的

博世制定的AI规范怎么样

人工智能是全球经济发展和增长的驱动力。
发表于 2020-02-25 16:25 31次阅读
博世制定的AI规范怎么样

Ar眼镜可以取代手机吗

脸书也正在开发人工智能语音助理,作为眼镜的输入接口,更尝试了一种环形智能装置Agios,允许用户通过....
发表于 2020-02-25 16:19 47次阅读
Ar眼镜可以取代手机吗

人工智能和物联网是如何对网络有影响的

人工智能(AI)、机器学习和物联网(IOT)引领全球新兴技术对话。
发表于 2020-02-25 16:15 55次阅读
人工智能和物联网是如何对网络有影响的

德国博世集团首次发布其企业人工智能守则

这套守则提出,博世人工智能产品要兼顾追求创新和社会责任,人工智能应是人类的工具,因此任何基于人工智能....
发表于 2020-02-25 16:14 194次阅读
德国博世集团首次发布其企业人工智能守则

人工智能助力数字农业新变革

 具体到数字农业发展而言,物联网系统的部署以及农业无人机的应用,对于促进数字农业的进一步发展,以及提....
发表于 2020-02-25 16:12 262次阅读
人工智能助力数字农业新变革

导入人工智能前得做好什么准备

有人说数据是新时代的原油,而人工智能则是新时代的电力。
发表于 2020-02-25 15:53 31次阅读
导入人工智能前得做好什么准备

麻省理工学院利用人工智能发现了一种新抗生素

在对模型进行训练后,研究人员在一个包含约6000种化合物的库中进行了测试,这些化合物被称为布罗德研究....
发表于 2020-02-25 15:50 155次阅读
麻省理工学院利用人工智能发现了一种新抗生素

石油天然气行业中如何应用上人工智能技术

石油天然气工业巨头利用人工智能进行精密钻井。通过在油气作业中利用人工智能,公司可以设计算法来指导陆地....
发表于 2020-02-25 15:48 47次阅读
石油天然气行业中如何应用上人工智能技术

人脸识别进入汽车领域会有什么意义

脸部辨识技术的进步意味着机器不仅可以辨识人们之间的差异,甚至还可以辨识人们脸部所显示的感受。这意味着....
发表于 2020-02-25 15:40 116次阅读
人脸识别进入汽车领域会有什么意义

人工智能留下的碳足迹有多少

一套市面上的人工智能(AI)口语软件,经过训练了解人类的语言,成为可用的商品,在训练期间,计算机运转....
发表于 2020-02-25 15:33 26次阅读
人工智能留下的碳足迹有多少

人工智能是如何指明物联网的进化之路的

人工智能照亮物联网进化之路, AIoT 来自于人性
发表于 2020-02-25 15:27 455次阅读
人工智能是如何指明物联网的进化之路的

金发女孩原则角度的人工智能是怎样的

不论是人工智能、物联网、5G,或是公有云、区块链、AR/VR 甚至是未来的量子运算等等,都必然不能将....
发表于 2020-02-25 15:21 28次阅读
金发女孩原则角度的人工智能是怎样的

人工智能如何检测出歧视

尤其人工智能系统的广泛运用在警务、消费金融、高等教育和商业领域上的决策自动化,也进一步提升了挑战的难....
发表于 2020-02-25 15:18 21次阅读
人工智能如何检测出歧视

AI有可能取代医师的位置吗

在处理医疗不确定性与避免疏失,利用AI发展的医疗决策辅助系统将医师诊断的流程标准化,借助逐一病患检验....
发表于 2020-02-25 15:12 14次阅读
AI有可能取代医师的位置吗

人工智能为何是创投的最爱

由于人工智能新(AI)科技复杂且定义松散,因此非专业人员很难辨别到底该AI技术是真是假。
发表于 2020-02-25 15:08 36次阅读
人工智能为何是创投的最爱

人工智能时代对于经济体有什么影响

对人工智能的进步如何影响就业的担忧并不新鲜。特斯拉和SpaceX执行官马斯克于上个月就表示,AI可以....
发表于 2020-02-25 15:04 13次阅读
人工智能时代对于经济体有什么影响

人工智能技术是如何走进平常的生活的

IoT物联网大幅改变人类的工作方式,在没有物联网的时代,工厂产线都是透过人工来做品管纪录,手抄的纪录....
发表于 2020-02-25 15:01 24次阅读
人工智能技术是如何走进平常的生活的

【战疫专题】第二期:硬核战“疫”,机器人大有可为

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活...
发表于 2020-02-25 14:24 568次阅读
【战疫专题】第二期:硬核战“疫”,机器人大有可为

【瑞芯微RK1808计算棒试用体验】机械臂视觉快速识别

折腾了一个新年,总算勉强有点效果了,这个任务真是大坑啊,关键的识别部分没多大难度,但上位机、下位机、机械结构接...
发表于 2020-02-08 18:13 398次阅读
【瑞芯微RK1808计算棒试用体验】机械臂视觉快速识别

2020艾睿电子解决方案展示会

活动简介 艾睿电子解决方案展示会是艾睿电子自主主办的展会,也是每年一度的 ACT (Arrow Centralized Training...
发表于 2020-01-15 09:40 38737次阅读
2020艾睿电子解决方案展示会

内置NPU的Orange Pi 4B,你怎么看

提起单板电脑,树莓派基金会发布的树莓派系列开发板或许是最广为人知的,该公司坚持使用博通的SOC芯片,以实现不断...
发表于 2019-12-23 21:07 727次阅读
内置NPU的Orange Pi 4B,你怎么看

串口屏应用案例-自助点餐系统

串口屏应用案例-自助点餐系统 自助点餐系统应景而生,彻底打破了传统,能够有效的减少排队使用的时间。在自助点餐机器...
发表于 2019-12-23 13:15 395次阅读
串口屏应用案例-自助点餐系统

【征文福利帖】真香!AliOS派送订制开发板,你不来看一下吗?

AIoT领域技术栈跨度大,工程化过程中碎片场景多,整个产业亟需大量优秀的开发者和专业人员,产业的思考、技术的实践...
发表于 2019-12-20 09:28 1694次阅读
【征文福利帖】真香!AliOS派送订制开发板,你不来看一下吗?

一文读懂WMS的进阶史

双十一高效配送的背后离不开各类物流系统的支持,WMS系统作为仓配中心的“智慧大脑”在其中发挥着重要作用。让我...
发表于 2019-12-06 11:44 518次阅读
一文读懂WMS的进阶史

【转载】如何从零入门人工智能(AI)具体学习步骤和方法

手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+开发板)详情链接: 上次我们讲到人工智能的...
发表于 2019-11-28 16:20 526次阅读
【转载】如何从零入门人工智能(AI)具体学习步骤和方法

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 1002次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 10672次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限