电子发烧友网 > 人工智能 > 正文

AI偏见广泛存在 人类需要推动科技向善

2019年11月14日 14:37 次阅读

你对AI有什么印象,没有感情、不会犯错,还是公正客观?但总之,AI是不食人间烟火的,既不会闪耀人性的光辉,也不存在“七宗罪”。实际上,AI并非那么没有人性,不过这并非一件好事。AI获得智能的同时,也学会了人类的“歧视”与“偏见”。

AI偏见广泛存在 人类需要推动科技向善

AI偏见广泛存在

麻省理工学院媒体实验室的Joy Buolamwini曾研究过各个领先科技公司的面部识别系统,研究发现,所有的系统在识别男性面孔和浅色皮肤的面孔上拥有较高的准确率,其中,浅色皮肤男性的错误率不超过1%,而深色皮肤女性的平均识别错误率则高达35%。

提及对整个安防行业产生深刻影响的AI技术,人脸识别肯定榜上有名,但AI人脸识别的这类偏见,也已经渗入了安防领域。安防领域中,带有偏见的AI可能会让清白无辜者蒙冤,受到无理审查,这并非杞人忧天。

在英国,曾有一名黑人男性因人脸识别技术失误而被误认为嫌犯,在公众场合遭到搜身检查。Big Brother Watch UK报告也显示,伦敦警察厅使用的面部识别技术有超过90%的性别识别错误率。

AI为何会产生偏见?

当前人工智能还处于弱人工智能阶段,其“偏见”显然取决于背后训练算法训练的数据。如上所述,如果AI训练数据库中,白人、男性比黑人、女性更多,且肤色较深的人多与违法相关的场景同时出现,就会导致AI产生偏见,这是训练集和测试机特征分布不一致导致的,在技术领域被称为“过拟合”。

目前针对算法“过拟合”,已经有权值衰减、交叉验证、添加正则项等方法。而关于如何解决算法歧视问题,科技界则众说纷纭。曾有人提出开发公正透明的算法,让公众进行监督,但这一方法壁垒较高,需受过专业训练才能够进行监督。不过,现在已经有不少的科学家在努力开发出一套“公平公正”的算法系统。

科技向善 AI应服务于人类

无论哪种方法,都不可能立竿见影地纠正AI偏见,因此,科技公司以及组织应当避免将“带有明显歧视性质的算法”在不经测试之下应用到现实情景中。AI并无善恶之分,但人类需要推动科技向善。

在安防领域,公安部门应用AI技术关爱孤寡老人,以往民警需要每天上门查看孤寡老人状态,现在可以通过人脸、人体及轨迹技术确认孤寡老人活动是否有异常;AI跨年龄人脸识别则可以凭借一张泛黄照片找回被拐十年的儿童。

通过一张3岁的泛黄照片,腾讯优图利用AI技术突破“跨年龄人脸识别”,助力警方寻回被拐十年儿童。腾讯董事会主席马化腾也多次在公开演讲中阐释“科技向善”的愿景与使命。

而在未来的算法开发过程中,应该对算法开发者进行适当的“算法伦理”教育,并且确定一些算法的“基本准则”,如同“机器人永不能伤害人类”一样。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发烧友学院发表于 2019-05-24 00:00 0次阅读
【5月12】不懂编程没关系,邀请您来学AI

AI公司是否为人工智能的可持续发展做好准备

人工智能和计算机视觉是市场中为数不多的风口。
发表于 2019-11-14 14:43 0次阅读
AI公司是否为人工智能的可持续发展做好准备

寒武纪推出边缘AI系列产品 将为客服提供卓越的人...

11月14日,寒武纪在第21届高交会正式发布边缘AI系列产品思元220(MLU220)芯片及M.2加....
发表于 2019-11-14 14:31 7次阅读
寒武纪推出边缘AI系列产品 将为客服提供卓越的人...

捷报频传!启英泰伦获新一轮数千万融资

AI 芯片企业启英泰伦继今年 9 月发布旗下二代语音 AI 芯片后,捷报频传,据悉近日已完成新一轮数....
发表于 2019-11-14 13:56 324次阅读
捷报频传!启英泰伦获新一轮数千万融资

以人工智能技术为导向的嵌入式应用发展状况如何

随着许多嵌入式系开始变得智能且自主,El-Ouazzane预计以AI为导向的嵌入式系统即将爆发。但是....
发表于 2019-11-14 11:49 52次阅读
以人工智能技术为导向的嵌入式应用发展状况如何

怎样利用人工智能让双11变得更加高效

为了将货物更好更快地送达客户手中,各大快递公司也火力全开保证高品质物流体验。
发表于 2019-11-14 11:42 14次阅读
怎样利用人工智能让双11变得更加高效

人工智能如何为大家订制虚拟化身

世界将因为人工智能技术变得更近更平。我们正在尝试实现每个人都能拥有个人专属的智能虚拟形象,仿佛在平行....
发表于 2019-11-14 11:37 25次阅读
人工智能如何为大家订制虚拟化身

人工智能对于天体研究有什么帮助

传统的神经网络通过大量数据集的训练学习识别物体,例如图像或声音。研究人员发现一般特征——例如“四条腿....
发表于 2019-11-14 11:30 10次阅读
人工智能对于天体研究有什么帮助

智能网联领域的人才瓶颈怎样破

针对智能网联人才紧缺的现状,国内不少高校正在“试水”学科创新,培养更适合智能网联行业的未来人才。
发表于 2019-11-14 11:20 8次阅读
智能网联领域的人才瓶颈怎样破

为什么人工智能教育开始变得如此火热

虽然人工智能教育的概念越发火热,人工智能技术与产品也陆续走入了校园,但是人工智能与教育的融合发展依然....
发表于 2019-11-14 11:06 14次阅读
为什么人工智能教育开始变得如此火热

日本手机app记录儿童患者癫痫发作状况

据IT media网报道, 由日本IT企业及儿童癫痫患者家庭协会共同开发的手机app“nanacar....
发表于 2019-11-14 11:04 64次阅读
日本手机app记录儿童患者癫痫发作状况

“AI+教育”将势必成为未来教育市场的发展趋势

AI可以收集学生在日常学习中产生的各项数据加以分析,精确地向老师反映每个学生对知识点的掌握程度。通过....
发表于 2019-11-14 10:37 74次阅读
“AI+教育”将势必成为未来教育市场的发展趋势

可以用人工智能技术来实现市场动态定价

随着人工智能的发展,我们是否会迈进新的未来,即在顾客首次购买时,系统就自动考虑供需动态关系?
发表于 2019-11-14 10:34 24次阅读
可以用人工智能技术来实现市场动态定价

电视产业发展遇到瓶颈 AI让电视产业迎来新的曙光

你家里的电视已经有多久没打开看过了?在电脑、手机、平板等随手可及的当下,想来也是很久了吧!作为曾记录....
发表于 2019-11-14 10:05 29次阅读
电视产业发展遇到瓶颈 AI让电视产业迎来新的曙光

人工智能将会让医疗技术服务更加的精准化

人工智能、机器人、虚拟现实、大数据等先进技术将充分运用在医疗健康领域,帮助提升诊断效率和准确度,制定....
发表于 2019-11-14 09:55 62次阅读
人工智能将会让医疗技术服务更加的精准化

目前智能技术在医疗领域的五大应用现状

AI与医学领域的结合点非常多,通过AI在医疗领域的应用情况进行总结分析,目前主要应用于五大领域,分别....
发表于 2019-11-14 09:45 23次阅读
目前智能技术在医疗领域的五大应用现状

我国腹腔机器人的产品研发获得了技术性的突破

近日,我国自主研发的图迈TM腔镜手术机器人在上海完成了机器人辅助腹腔镜下前列腺癌根治术(简称“RAL....
发表于 2019-11-14 08:36 10次阅读
我国腹腔机器人的产品研发获得了技术性的突破

AI热潮不减 BAT开始打响海外抢人大战

10月19日,小米集团宣布,AI语音识别大牛Daniel Povey正式加入小米。而在9月份,世界级....
发表于 2019-11-13 17:37 86次阅读
AI热潮不减 BAT开始打响海外抢人大战

企业移动性怎样利用AI来改变

人工智能的崛起,让应用程序,设备管理和用户体验都将受到影响,但最大的发展可能是在安全领域。
发表于 2019-11-13 17:32 40次阅读
企业移动性怎样利用AI来改变

使用架构可以怎样来解决人工智能问题

人工智能技术虽然令人兴奋,但也并不成熟。冒着听起来亵渎神明的风险,但孤立的人工智能技术是没有用的。
发表于 2019-11-13 17:28 31次阅读
使用架构可以怎样来解决人工智能问题

英特尔推出 AI 新品,性能是竞品 6 倍!

电子发烧友网报道,北京时间11月13日凌晨2点,英特尔在旧金山举行2019人工智能峰会,推出代号为K....
发表于 2019-11-13 16:12 183次阅读
英特尔推出 AI 新品,性能是竞品 6 倍!

英特尔的新人工智能产品线有什么特点

随着专用于人工智能的硬件产品组合的丰富,以及相关工具包的发布,英特尔声称其将从云端到边缘提供完整的人....
发表于 2019-11-13 14:54 47次阅读
英特尔的新人工智能产品线有什么特点

百度与浪潮如何在AI领域合作双赢

将联合推进人工智能、云计算、大数据以及物联网等前沿在医疗健康、智能城市等领域的应用落地,为进一步加快....
发表于 2019-11-13 14:51 142次阅读
百度与浪潮如何在AI领域合作双赢

人工智能怎样赋能中医领域

自从人工智能技术问世以来,医疗领域一直被业界认定为最有应用空间的领域,也获得了政策的大力支持。
发表于 2019-11-13 11:23 43次阅读
人工智能怎样赋能中医领域

人工智能治理的全球图景与技术是怎样的

对于可持续发展来说,人工智能是未来的一个非常重要的途径和工具。人工智能不仅仅能够提升经济,虽然很多目....
发表于 2019-11-13 11:18 42次阅读
人工智能治理的全球图景与技术是怎样的

社群商业生态有了人工智能以后有怎样的改变

与独到科技CEO张文浩演讲的主题一样,独到科技一直致力于用人工智能赋能社群商业生态,目前独到科技已经....
发表于 2019-11-13 11:15 37次阅读
社群商业生态有了人工智能以后有怎样的改变

人工智能在医疗领域的发展史与五大应用现状分析

AI与医学领域的结合点非常多,通过AI在医疗领域的应用情况进行总结分析,目前主要应用于五大领域,分别....
发表于 2019-11-13 11:14 412次阅读
人工智能在医疗领域的发展史与五大应用现状分析

从云端到边缘的全新AI 硬件是什么样子的

推进深度学习推理和应用需要极其复杂的数据、模型和技术,因此在架构选择上需要有不同的考量。
发表于 2019-11-13 11:11 47次阅读
从云端到边缘的全新AI 硬件是什么样子的

AI可以检测宫颈癌了吗

人工智能可以在健康发生问题之前或者当潜在的疾病变得更加严重之前可以对医生进行提醒。
发表于 2019-11-13 11:07 27次阅读
AI可以检测宫颈癌了吗

华为将于11月14日正式发布麒麟A1处理器

这款处理器最早在IFA 2019上发布,同时它还同时获得了蓝牙5.1和蓝牙低功率5.1标准认证,实现....
发表于 2019-11-13 11:06 338次阅读
华为将于11月14日正式发布麒麟A1处理器

NVIDIA的AI技术可以帮助USPS更快地处理...

美国邮政总局(USPS)每年估计发送1,460亿封邮件,包括60亿个包裹。为了更有效地处理打包数据,....
发表于 2019-11-13 10:25 48次阅读
NVIDIA的AI技术可以帮助USPS更快地处理...

谷歌与Ascension将在云计算领域开展合作

据了解,多年来,谷歌一直在开发可以分析MRI扫描图及其它病人数据的AI工具,谷歌希望工具能诊断疾病、....
发表于 2019-11-13 10:11 203次阅读
谷歌与Ascension将在云计算领域开展合作

硝烟再起!高端FPGA最终拼什么?

Intel正式宣布全球容量最大的Stratix 10 GX 10M FPGA量产,它拥有1020 万....
发表于 2019-11-13 08:49 1337次阅读
硝烟再起!高端FPGA最终拼什么?

全场景AI电视亮相 改变了消费者对智能电视的认知

近几年电视的智能化发展突飞猛进。支持安装第三方APP、能语音交互等功能早不是什么新鲜事,连AI人工智....
发表于 2019-11-13 08:46 46次阅读
全场景AI电视亮相 改变了消费者对智能电视的认知

区块链在智慧城市领域中的探索和应用

智慧城市(Smarter Cities)的概念涵盖硬件、软件、管理、计算、数据分析等业务在城市领域中....
发表于 2019-11-12 16:30 392次阅读
区块链在智慧城市领域中的探索和应用

人工智能和增强现实对于我们的工作方式有什么影响

科技是人类社会发展的重要驱动力,它促进了生产力的不断提升,推动社会在向前进步,并创造出前所示有的机遇....
发表于 2019-11-12 15:54 53次阅读
人工智能和增强现实对于我们的工作方式有什么影响

移动机器人的机遇什么时候到来

随着物联网和人工智能技术的进步,无人商店等新零售模式开始流行,并带来巨大的商业机遇。
发表于 2019-11-12 15:51 108次阅读
移动机器人的机遇什么时候到来

AI智能客服机器人全面上线会带来怎样的体验

全面上线了申通AI智能客服机器人,助力双11,用技术革新客服服务,为客户提供不一样的客服体验。
发表于 2019-11-12 15:40 76次阅读
AI智能客服机器人全面上线会带来怎样的体验

AI机器人的用武之地在哪里

这篇文章的作者们计划开始对他们提出的解决方案进行试验,但机器人拆解电池的装配线仍需要数年时间,目前还....
发表于 2019-11-12 15:36 47次阅读
AI机器人的用武之地在哪里

双模5G AI芯片Exynos 980发布,vi...

近日vivo联合三星共同发布了双模5G AI芯片联合研发成果——Exynos 980。会后,三星半导....
发表于 2019-11-12 15:26 379次阅读
双模5G AI芯片Exynos 980发布,vi...

语音机器人会把人工给替换掉吗

智能机器人在回复客户问题的时候还具备了分析功能,依照特定的算法,分析客户的意图,从而给予回答。
发表于 2019-11-12 15:25 29次阅读
语音机器人会把人工给替换掉吗

智能语音机器人具备哪一些优点

电销机器人可以在使用中,应用业务数据进行自学习,越用越聪明,外呼效果在不久的将来可以达到甚至超过人工....
发表于 2019-11-12 15:23 41次阅读
智能语音机器人具备哪一些优点

AI可以相当于生产力吗

AI(人工智能)就是新旧动能转换的发动机,是我们经济转型的加速器,会使我们传统产业插上起飞的翅膀。
发表于 2019-11-12 15:11 72次阅读
AI可以相当于生产力吗

AI技术行进的方向应该是怎样的

这些投入也被外界称为“为未来买单”,facebook扔进大海的石子并没有沉没了事儿,也是激起了几多浪....
发表于 2019-11-12 15:05 31次阅读
AI技术行进的方向应该是怎样的

可信可用的人工智能是怎样的

人工智能(AI)不是一种单一的技术,而是多种方法和工具的集合,它有很多子领域,可被应用于丰富的场景。
发表于 2019-11-12 14:54 24次阅读
可信可用的人工智能是怎样的

人工智能在发展的路上怎样避免陷阱

为了更好的推动其发展,人工智能的落地与应用必然会是一个循序渐进的过程。
发表于 2019-11-12 14:31 31次阅读
人工智能在发展的路上怎样避免陷阱

普适计算愿景怎样利用人工智能来打造

该算法可处理来自传感器的数据,提取周围环境的3D几何信息,并将其整合、上传到云平台,创建出基于这些相....
发表于 2019-11-12 14:25 24次阅读
普适计算愿景怎样利用人工智能来打造

MediaTek ASIC服务推出硅验证的7nm...

MediaTek今日宣布,其ASIC服务将扩展至112G远程(LR)SerDes IP芯片。Medi....
发表于 2019-11-12 14:22 70次阅读
MediaTek ASIC服务推出硅验证的7nm...

人工智能如何解决企业营销的痛点

智能云手册运用AI算法,能够自动为用户画像,并智能预测用户成交概率。通过自动抓取用户行为轨迹与频次,....
发表于 2019-11-12 14:20 54次阅读
人工智能如何解决企业营销的痛点

人工智能融得的效果怎样

在智能制造、智能家居、智慧城市管理等场景中,人工智能技术应用越来越广泛。
发表于 2019-11-12 14:08 28次阅读
人工智能融得的效果怎样

未来的AI怎样赋能生产力

人工智能技术也处于前所未有的发展浪潮中,与首届中国国际进口博览会相比,本届进博会更是被形容为全球人工....
发表于 2019-11-12 11:49 38次阅读
未来的AI怎样赋能生产力

AI人工智能和摩尔定律的后指数时代是怎样的

与摩尔定律的指数级增长的减少几乎同时发生了训练人工智能的计算能力需求的指数级增长。
发表于 2019-11-12 11:39 40次阅读
AI人工智能和摩尔定律的后指数时代是怎样的

人工智能在医疗领域的超前应用是怎样的

智能化是必然趋势,数据收集的工作未来可能只有政府能做,利用区块链技术来保证政府收集到的数据的安全性。
发表于 2019-11-12 11:27 133次阅读
人工智能在医疗领域的超前应用是怎样的

人工智能对于生活会是什么形式的影响

虽然人工智能在许多行业发挥着越来越重要的作用,覆盖从文本翻译、为工业无人机提供动力到患者诊疗等多个领....
发表于 2019-11-12 11:17 39次阅读
人工智能对于生活会是什么形式的影响

人工智能技术现在在各国是怎样的地位

人工智能具有极大潜力,谁能掌握它,谁就会脱颖而出,向前发展,进而获得巨大竞争优势,因此人工智能关系到....
发表于 2019-11-12 11:12 58次阅读
人工智能技术现在在各国是怎样的地位

AI助战物流 缓解双十一物流压力

双十一在今年已是第11个年头了,但其销售额依然极其亮眼。据星图数据统计,截止至11日上午10点,全网....
发表于 2019-11-12 11:06 109次阅读
AI助战物流 缓解双十一物流压力

大脑神经网络助力下 AI和ML新算法有了新的方向

人们曾经认为眼睛是一个“哑的”传感器,通过视觉神经将数据发送到大脑,大脑包含了所有的视觉“处理”能力....
发表于 2019-11-12 11:05 59次阅读
大脑神经网络助力下 AI和ML新算法有了新的方向

智能家电行业的市场发展前景将有着无限的可能

事实上,AI技术在家电产业的应用已经落地,并为之赋能。一方面,主流家电厂商对AI技术的应用已经覆盖全....
发表于 2019-11-12 10:45 266次阅读
智能家电行业的市场发展前景将有着无限的可能

如何训练出不会对环境造成影响的人工智能

近年来,在测量机器学习的偏见方面存在一个估计。我们现在知道,这些“无偏见”的自动化工具实际上并非没有....
发表于 2019-11-12 10:37 265次阅读
如何训练出不会对环境造成影响的人工智能

各国都力争抢占AI领域制高点 意图成为该领域的领...

近日,在莫斯科举行的国际人工智能会议(AI Journey)上,俄罗斯总统普京出席会议并发表了自己的....
发表于 2019-11-12 09:17 67次阅读
各国都力争抢占AI领域制高点 意图成为该领域的领...

5G时代下云技术和人工智能将会无处不在

在当前的中国产业智能化浪潮中,一个很大的特点就是智能和信息化同时发生,在各行各业拥抱智能化的速度和意....
发表于 2019-11-11 23:40 421次阅读
5G时代下云技术和人工智能将会无处不在