电子发烧友网 > 人工智能 > 正文

要减少AI系统的偏见 我们本身就得减少一些偏见用词

2019年12月04日 09:03 次阅读

AI正以相当显眼得方式重塑着我们的世界,数据驱动着全球数字生态系统,AI技术则揭示了数据中的模式。智能手机,智能家居以及智慧城市在影响着我们生活和交互方式,AI系统越来越多用于公司招聘、医疗诊断和司法裁决。这是一个乌托邦时代还是反乌托邦时代,全看你怎么看。

要减少AI系统的偏见 我们本身就得减少一些偏见用词

AI的潜在威胁早已被人说烂了,杀人机器人以及大规模失业,甚至还有人担心人类灭绝。而乐观主义者预测AI到2030年将会为全球经济带来15万亿美元的价值。

我们当然需要考虑AI对我们社会所带来的影响。其中一个引人注目的点是,AI系统加剧了现有的社会歧视。先进的机器翻译系统会产生性别歧视的输出,图像识别系统把黑人归分为大猩猩。

之所以会出现这些问题是因为,AI系统会采用类似于神经网络的数字模型来识别训练时候的数据。如果数据本身就是歪曲的,那么它固有的偏见就会自然地被训练过的AI系统学习和复制。这种带有偏见的自主技术是有问题的,因为他们会边缘化女性、少数民族以及老年人,从而加剧社会失衡。

如经典电影X战警,X战警在英文里是X MEN,用的是男性的单词,还有黑衣人Man in Black,同样也是用的男性的单词。尽管电影方已经开始意识到性别歧视问题,在电影中新增女性角色,或直接由女性演员接替成为主角,如Iron Man钢铁侠,虽然漫威宣布下一任钢铁侠是一位女性,但其名字仍然为Man而不是Woman。

要减少AI系统的偏见,我们本身就得减少这些偏见用词,虽然很不幸,我们不能完全消灭这些偏见,但我们必须要朝着这个方向前进,就像电影方一样。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发烧友学院发表于 2019-05-24 00:00 1089次阅读
【5月12】不懂编程没关系,邀请您来学AI

AI先生李彦宏不断推动教育公平 帮助大山孩子近距...

骤降的冰点温度下,北京用今年的第一场雪,迎接即将到来的2020年。2020这个年份,曾是很多人眼中科....
发表于 2019-12-04 10:45 0次阅读
AI先生李彦宏不断推动教育公平 帮助大山孩子近距...

腾讯云正式推出了助力视障开发者计划

基于这样的背景,腾讯不断思考如何通过自身的科技能力,为视障人群带来更好的产品和服务,并最终与信息无障....
发表于 2019-12-04 10:28 8次阅读
腾讯云正式推出了助力视障开发者计划

美的引入AI技术 洗衣机荣获人工智能奖项

“第九届吴文俊人工智能科学技术奖颁奖典礼暨2019中国人工智能产业年会”11月29日-12月1日在苏....
发表于 2019-12-04 10:14 12次阅读
美的引入AI技术 洗衣机荣获人工智能奖项

智能识别技术或将有助于医疗技术的发展

伦敦癌症研究所(ICR)的一个团队领导的科学家已经使用人工智能(AI)和机器学习(ML)来发现五种新....
发表于 2019-12-04 10:08 8次阅读
智能识别技术或将有助于医疗技术的发展

千元以下的王者,华米科技可穿戴设备发货突破一亿台

2019年12月3日,华米科技召开2019年度战略媒体沟通会,分享了一年以来华米在可穿戴领域取得的成....
发表于 2019-12-04 09:02 80次阅读
千元以下的王者,华米科技可穿戴设备发货突破一亿台

AI+交通可以加强哪一方面

人工智能运用,可以实现对站内流量的预估,可以根据高峰时段进行可变化闸机开放模式,以达到效率高的控客模....
发表于 2019-12-03 17:21 39次阅读
AI+交通可以加强哪一方面

人工智能背后的人工力量是什么

AI数据标注员被称作“人工智能背后的人工”。“数据是人工智能的血液。
发表于 2019-12-03 17:17 257次阅读
人工智能背后的人工力量是什么

人工智能如何变得有良知

人工智能可以选择求职面试的应聘者,并决定谁有资格获得工作职位,并且可以为患者进行诊断。
发表于 2019-12-03 17:14 27次阅读
人工智能如何变得有良知

人工智能和大数据有怎样的隐患

有了足够的数据,将会发现计算能力和统计算法的模式。但并不是所有的模式都有意义,因为虚假模式的数量很容....
发表于 2019-12-03 17:11 47次阅读
人工智能和大数据有怎样的隐患

人工智能怎样加快社会治理的现代化

人工智能是科学技术进步的产物,也是人类社会生产力提高的具体表现。人工智能是人类创造的机器智能,是人类....
发表于 2019-12-03 17:06 32次阅读
人工智能怎样加快社会治理的现代化

人工智能通过什么方式加强人类能力

至少在可预见的未来,企业使用人工智能来提高和增强现有能力的价值将远远超过人类开展工作的价值。
发表于 2019-12-03 17:03 33次阅读
人工智能通过什么方式加强人类能力

AI 人工智能落地离不开什么问题

在人工智能等新技术催化下,信息泄密正在围绕“数据”展开,这些数据涉及各类事、物、人、企业、政府部门等....
发表于 2019-12-03 16:59 314次阅读
AI 人工智能落地离不开什么问题

人工智能怎样做可以更加的智能

近年来保险公司积极运用大数据、云计算、物联网、人工智能和区块链等技术在理赔服务端开展尝试,图像识别技....
发表于 2019-12-03 16:50 28次阅读
人工智能怎样做可以更加的智能

AI落地的关键钥匙是哪一把

发展数字经济可产生的潜在价值巨大,但在实现数据价值的深度挖掘与应用之前, 需要解决开源与使能的问题,....
发表于 2019-12-03 16:43 31次阅读
AI落地的关键钥匙是哪一把

亚马逊AWS推出AI音乐键盘,帮助程序员简单入门

如何让程序员爱上音乐?亚马逊给出的最新答案是 AI 音乐键盘。
发表于 2019-12-03 16:33 147次阅读
亚马逊AWS推出AI音乐键盘,帮助程序员简单入门

人工智能进入企业后有了怎样改变

人工智能并不是洒落在遗留流程和遗留技术上的神奇精灵,而是对如何做生意的一种根本性的反思。
发表于 2019-12-03 16:30 23次阅读
人工智能进入企业后有了怎样改变

人工智能领域的增速放缓 主要体现在AI应用程序的...

人工智能领域的增速放缓,主要体现在AI应用程序的部署增长方面。原计划23%的数据将在2019年被应用....
发表于 2019-12-03 16:25 53次阅读
人工智能领域的增速放缓 主要体现在AI应用程序的...

华为云底气十足 属于中国AI的黄金时代正在到来

为期两天的 AICon 全球人工智能与机器学习技术大会已落下帷幕,作为一场面向各行业 AI 中高层技....
发表于 2019-12-03 15:46 135次阅读
华为云底气十足 属于中国AI的黄金时代正在到来

在客服行业使用人工智能的好处有哪一些

客户服务机器人是一种可实时提供客户问题交互式答案的技术。组织为机器人提供预先写好的指令,以回答客户通....
发表于 2019-12-03 15:22 47次阅读
在客服行业使用人工智能的好处有哪一些

随着5G以及AIoT的大量应用兴起 宜鼎国际也推...

2019年12月3日消息,闪存市场的工业领域,明年将随着5G以及AIoT的大量应用兴起,陆续推出高规....
发表于 2019-12-03 14:45 48次阅读
随着5G以及AIoT的大量应用兴起 宜鼎国际也推...

人工智能的这三年发生了什么?

据Gartner发布的2017年《技术成熟度报告》显示,其中出现了8项新增技术成果,其中包括5G、人....
发表于 2019-12-03 14:32 335次阅读
人工智能的这三年发生了什么?

人工智能是如何被称为第四次工业革命的催化剂的

人工智能,机器学习,物联网,区块链—随着这些技术的问世,当今人类正在经历一场继互联网之后的重大科技变....
发表于 2019-12-03 14:28 47次阅读
人工智能是如何被称为第四次工业革命的催化剂的

AI三年的情况是怎样的

围棋所包含的巨大的搜索空间(其状态数远远超过整个宇宙中的原子数)一直是机器学习未能攻克的难题,甚至一....
发表于 2019-12-03 13:38 152次阅读
AI三年的情况是怎样的

随着安全需求与经济条件的日益提高 视频监控领域五...

随着人们安全需求与经济条件的日益提高,我国监控摄像头个数逐年增加,在计算机视觉、大数据、云存储等技术....
发表于 2019-12-03 11:32 34次阅读
随着安全需求与经济条件的日益提高 视频监控领域五...

IDC和Forrester对2020年的顶级人工...

IDC和Forrester最近发布了他们对2020年及以后的人工智能(AI)的预测。Forreste....
发表于 2019-12-03 10:28 74次阅读
IDC和Forrester对2020年的顶级人工...

玖富数科集团推出小易机器人,采用最新“端+云”技...

神经网络和深度学习技术的快速发展加速了图像识别、语音识别、自然语言理解等技术的实用化突破,显著提升了....
发表于 2019-12-03 10:05 198次阅读
玖富数科集团推出小易机器人,采用最新“端+云”技...

基于AI的衰老和寿命医疗预测器正在快速兴起

虽然年代和生物年龄的预测因子是在几年前出现的,但最近使用深度学习方法开发的预测因子在研究衰老机理的研....
发表于 2019-12-03 09:54 84次阅读
基于AI的衰老和寿命医疗预测器正在快速兴起

人工智能的渗透相对较浅 推出零基础算法开发非常重...

人工智能作为当代很具代表性的使能技术,理应受到各行各业的欢迎,但现阶段,纵观人工智能应用成熟和广泛的....
发表于 2019-12-03 09:23 210次阅读
人工智能的渗透相对较浅 推出零基础算法开发非常重...

人工智能正从AI产业化向产业AI化发展 发展之前...

“AI 产业化如果带来市场的产业容量是 1 的话,那么产业 AI 化可能会是 1000 倍的需求和量....
发表于 2019-12-03 09:03 51次阅读
人工智能正从AI产业化向产业AI化发展 发展之前...

预计2020年小米进入日本市场 在AI自主研发上...

今日,小米在日本官方平台发文宣布,将于12月9日进军日本市场,并在当日举行发布会。据媒体消息,此次发....
发表于 2019-12-03 09:03 78次阅读
预计2020年小米进入日本市场 在AI自主研发上...

日产雷诺三菱联手 推动AI尖端技术的深入研究

据外媒报道,日产、三菱和雷诺三家国际巨头车企将组成技术联盟,为了在掌握推出下一代汽车之关键的尖端技术....
发表于 2019-12-02 16:53 60次阅读
日产雷诺三菱联手 推动AI尖端技术的深入研究

企业人工智能增长速度越来越快 北美地区将保持其主...

美国联合市场研究机构发表了一份报告,题为“2019-2026年, 企业人工智能(AI)市场的部署类型....
发表于 2019-12-02 16:44 59次阅读
企业人工智能增长速度越来越快 北美地区将保持其主...

中国AI云服务市场厂商百度阿里腾讯位居前列

近日,调研机构 IDC发布了《IDC MarketScape:2019中国AI云服务市场厂商评估》,....
发表于 2019-12-02 16:23 337次阅读
中国AI云服务市场厂商百度阿里腾讯位居前列

区块链与人工智能技术将助力推动智造产业的升级

区块链与人工智能技术发展与产业应用,就是其中最为重要、也最引人关注的主题。
发表于 2019-12-02 15:18 244次阅读
区块链与人工智能技术将助力推动智造产业的升级

鲲鹏昇腾 华为与鹏城实验室共建鹏城云脑Ⅱ 开启千...

华为与鹏城实验室在深圳共同发布鹏城云脑Ⅱ一期,正式开启千P级AI集群应用,这是鲲鹏计算产业在科研领域....
发表于 2019-12-02 14:05 81次阅读
鲲鹏昇腾 华为与鹏城实验室共建鹏城云脑Ⅱ 开启千...

国家之间的人工智能之争激烈 把握住时机非常关键

今年来,国内人工智能产业迅速发展,人工智能也已上升至国家战略,《新一代人工智能发展规划》中指出,到2....
发表于 2019-12-02 13:57 220次阅读
国家之间的人工智能之争激烈 把握住时机非常关键

KT商用化酒店投入AI配送机器人 努力提高酒店服...

韩国第2大公信商KT于2日表示,将AI(人工智能)酒店机器人N bot商用化,提供AI客房服务、配送....
发表于 2019-12-02 13:57 119次阅读
KT商用化酒店投入AI配送机器人 努力提高酒店服...

人工智能是如何识别公司财务造假的

通过人工智能技术,可以获得更丰富精准的信息采集来源,更个性化、定向化的风险定价模型,更科学严谨的投资....
发表于 2019-12-02 13:34 69次阅读
人工智能是如何识别公司财务造假的

人工智能发展迅速,智能语音市场的需求不断上升

当前,我们正处在人工智能不断发展的时代。人工智能与各行各业的融合发展成为目前人工智能领域创业者的主要....
发表于 2019-12-02 11:15 175次阅读
人工智能发展迅速,智能语音市场的需求不断上升

AI+智慧城市哪里的建设比较好

并认为智慧城市是“一切凭大数据说话、一切靠大数据决策”。
发表于 2019-12-02 11:11 41次阅读
AI+智慧城市哪里的建设比较好

人工智能在商业智能未来中的作用是什么

工厂部署AI来自动化需要适应性和敏捷性的复杂物理任务。营销人员使用AI生成个性化的建议和自动执行订单....
发表于 2019-12-02 10:55 156次阅读
人工智能在商业智能未来中的作用是什么

智慧城市新的落地点在哪里

在数字化领域,各家基础设施产品生产和建设商虽然不需要主动亲近政府,但本质上其高速发展得益于政府对IC....
发表于 2019-12-02 10:51 109次阅读
智慧城市新的落地点在哪里

从2020年开始,中国将对AI或VR制作的“伪视...

2019年11月29日,我国监管机构宣布了在线管理视频和音频内容的新规定,包括禁止发布和分发使用人工....
发表于 2019-12-02 10:15 652次阅读
从2020年开始,中国将对AI或VR制作的“伪视...

Viz.ai最新推出了一系列医学人工智能技术

Viz.ai在美国亚特兰大(2019年11月20日至23日)的血管和介入神经病学会(SVIN)年度会....
发表于 2019-12-02 10:14 226次阅读
Viz.ai最新推出了一系列医学人工智能技术

码垛机器人已经成为了产业升级的重要推力

随着人工智能政策的推进和科学技术的突飞猛进,带有人工智能的工业机器人在工业码垛、搬运、喷涂等领域有着....
发表于 2019-12-02 10:12 72次阅读
码垛机器人已经成为了产业升级的重要推力

智能识别技术或将有助于个性化医疗的诊断

伦敦癌症研究所(ICR)的一个团队领导的科学家已经使用人工智能(AI)和机器学习(ML)来发现五种新....
发表于 2019-12-02 10:00 55次阅读
智能识别技术或将有助于个性化医疗的诊断

智慧医疗的发展伴随着什么问题的困扰

医疗人工智能领域人命关天,影响到每一个人、每一个家庭,如果研发得当,就能造福社会。
发表于 2019-12-02 09:56 44次阅读
智慧医疗的发展伴随着什么问题的困扰

研究人员使用AI技术深入研究预测RNA结构的方法

格里菲斯大学(Griffith University)的研究人员在世界上首屈一指,已使用人工智能方法....
发表于 2019-12-02 09:50 123次阅读
研究人员使用AI技术深入研究预测RNA结构的方法

医疗如何利用好人工智能技术

该机器人采用全双工语音交互技术并内置丰富的医疗知识库,可精准定位声源,实现语音智能交互。
发表于 2019-12-02 09:45 61次阅读
医疗如何利用好人工智能技术

Sony AI韬光养晦 但想再续辉煌需破釜沉舟

整体来看,AI过去一年的产业化步伐称得上扎实饱满。在这个县镇老头都能跟家里的智能助手聊上两句的时候,....
发表于 2019-12-02 09:00 93次阅读
Sony AI韬光养晦 但想再续辉煌需破釜沉舟

云+AI把握住时机 让百度云处理领先地位

或许是因为云计算越来越成为互联网的主角,下半年以来,权威机构们对云计算的研究远比过去密集,涉及的维度....
发表于 2019-12-02 08:53 451次阅读
云+AI把握住时机 让百度云处理领先地位

平安智慧医疗急需突破瓶颈 满足用户的多样化需求

从1959年计算机辅助诊断雏形诞生,到20世纪80年代,医学专家系统(Medical Expert ....
发表于 2019-12-02 08:49 1401次阅读
平安智慧医疗急需突破瓶颈 满足用户的多样化需求

百度联手东软教育 着眼培养AI复合型人才

百度与东软教育科技集团签署战略合作协议,并为合作设立的“东软百度人工智能学院”举行成立及授牌仪式。
发表于 2019-12-02 08:39 42次阅读
百度联手东软教育 着眼培养AI复合型人才

谷歌发布的新AI工具可以帮助克服机器学习的难点

虽然大多数人每天都会接触某种算法,但没有多少人可以自信地说他们实际上了解人工智能(AI)的工作原理。
发表于 2019-11-30 11:09 234次阅读
谷歌发布的新AI工具可以帮助克服机器学习的难点

全球人工智能发展迅速,但我们还尚未接近真正的智能

每当有人要求智能冰箱提醒他们捡牛奶时,他们都在为预计将成为千亿美元的全球变化行业奠定基础。
发表于 2019-11-30 11:04 220次阅读
全球人工智能发展迅速,但我们还尚未接近真正的智能

心理学家认为AI机器人应该上日托班

据外媒报道,一位发展心理学家认为,我们应该让AI机器人像人类婴儿一样在人类的监督下学习成长,所以我们....
发表于 2019-11-30 11:02 232次阅读
心理学家认为AI机器人应该上日托班

谷歌新的AI工具可以帮助解码决定一切智能算法

虽然大多数人每天都会遇到算法,但没有多少人可以声称他们真的了解AI的实际工作原理。但是,Google....
发表于 2019-11-30 10:51 230次阅读
谷歌新的AI工具可以帮助解码决定一切智能算法

解决AI开发三大痛点,五分钟完成开发的“神器”存...

「钛灵 AIX」是一款集计算机视觉与智能语音交互两大核心功能为一体的人工智能硬件,搭载 Intel ....
发表于 2019-11-29 20:42 1611次阅读
解决AI开发三大痛点,五分钟完成开发的“神器”存...