侵权投诉

人工智能可以被偏见吗

2020-11-05 14:59 次阅读

距离全球被乔治·弗洛伊德(GeorgeFloyd)被跪害惨案震惊仅仅过了三个月。在美国的集体记忆中,白人警官跪在黑人公民身上8分钟46秒的画面仍然历历在目。

这并不是美国首例种族歧视的警察暴行。不幸的是,它也不是最后一个。

种族主义在这个国家有很深的渊源。这是一种溃烂的伤口,要么被忽略,要么用感染性药物治疗。美国的制度种族主义没有尽头,而且更糟的是,这种疾病正在寻找新的传播途径。

甚至被认为是现代历史上最大的技术突破之一的人工智能,也继承了一些在社会上普遍存在的偏见。

AI可以被偏见吗?

如果是在早些年,说计算机程序存在偏见似乎听起来荒谬的。毕竟,为什么任何软件都会关心某人的种族、性别和肤色?但是那是在机器学习大数据授权计算机做出自己的决定之前。

人工智能可以被偏见吗

现在,算法正在增强客户支持,重塑当代时尚,并为从法律和秩序到城市管理的所有流程都可以自动化的未来铺平道路。

Namobot网站的迈克尔·雷诺兹(MichaelReynolds)解释说:“我们面临着一个非常现实的机会,即AI反乌托邦。”该网站通过大数据和算法来生成博客名称。“包含人类解释和认知评估的错误数据集会使机器学习模型将人类偏见转化为算法。”

这不是遥不可及的事,但已经在发生。

算法偏差的不幸示例

风险评估工具通常用于刑事司法系统中,以预测重罪犯再次犯罪的可能性。从理论上讲,这种少数派报告类型的技术用于威慑未来的犯罪。但是,批评家认为这些程序会伤害少数群体。

ProPublica在2016年对其进行了测试,当时它检查了7000多人的风险评分。该非营利组织分析了在佛罗里达州布劳沃德县被捕了两年以上的囚犯的数据,以了解在接下来的几年中谁被指控犯有新罪行。

结果表明许多人已经过于担心了。根据该算法,黑人被告犯罪的可能性是白人的两倍。但事实证明,只有20%的人预计会从事犯罪活动。

同样,警察使用的面部识别软件最终会严重影响非裔美国人。根据美国联邦调查局(FBI)合着的一项研究,在西雅图等城市使用的面部识别对黑人的准确性可能较低,从而导致身份识别错误和误捕。

算法偏差不仅限于司法系统。黑人通常被剥夺了为改善患有复杂疾病的患者提供医疗服务的程序。同样,在相同疾病下,与白人患者相比,这些程序不太可能将黑人患者转介给黑人患者。

简而言之,科技公司正在将自己的偏见注入系统。旨在做出基于数据的公平决策的确切系统。

那么,如何解决这种情况呢?

透明度是关键

算法偏差是一个复杂的问题,主要是因为很难观察到。程序员常常困惑于发现他们基于性别和肤色对人的歧视算法。去年,史蒂夫·沃兹尼亚克(SteveWozniak)透露,苹果给他的信用额度是他妻子的10倍,尽管她的信用评分更高。

消费者很少会发现这种差异。审查人工智能部分歧视的研究也需要大量时间和资源。因此,倡导者要求在整个系统的运行方式上提高透明度。

该问题值得在全行业范围内解决,但在此过程中仍存在障碍。即使发现算法存在偏差,企业也不允许其他人分析数据,并且调查不够彻底。苹果公司表示将调查沃兹尼亚克问题,但到目前为止没有任何进展。

提高透明度将要求企业向观察员透露他们的训练数据或接受第三方审核。程序员还可以选择主动进行测试,以确定将其系统应用到属于不同背景的个人时的方式。

为了确保一定程度的透明度,用于训练AI的数据和用于评估AI的数据应公开。在政府事务上,做到这一点应该更容易。但是,企业界会拒绝这种想法。

数据多元化

根据纽约大学研究中心发表的一篇论文,人工智能缺乏多样性已经到了“思考的时刻”。研究表明,由于这个原因,AI领域绝大多数是白人和男性,因此有重新确立权力失衡和历史偏见的风险。

该报告的作者凯特·克劳福德解释说:“AI行业必须承认局势的严重性,并承认其现有方法未能解决这些问题。”

由于Facebook和Microsoft都拥有4%的黑人劳动力-很明显,在AI领域中少数民族没有得到公平的代表。研究人员和程序员是一群具有一定特权的同质人群。

如果资源池多样化,那么数据将更能代表我们所居住的世界。算法将获得当前被忽略的观点,并且AI程序的偏见将大大减少。

总结

是否有可能创建一种完全没有偏见的算法?可能不会。

人工智能是由人类设计的,人们永远不会真正偏见。但是,由优势群体的个人创建的程序只会帮助使针对少数群体的不公正现象长期存在。

为确保算法不会成为针对黑人和西班牙裔社区的压迫工具,应推动公共和私人机构保持一定的透明度。

大型技术必须具有多样性,并能提升属于少数族裔的程序员,这也是当务之急。这样的举动可以拯救我们的社会,使其免于成为AI反乌托邦。
责任编辑:tzh

收藏 人收藏
分享:

评论

相关推荐

OPPO小布语音助手用户数量突破1亿

AI技术不断发展,“人工智障”终于慢慢成为了“人工智能”。在手机行业,华米ov分别推出了小艺、小爱同....
的头像 璟琰乀 发表于 03-02 17:19 92次 阅读
OPPO小布语音助手用户数量突破1亿

机器学习和深度学习的关键区别

“人工智能”、“机器学习”和“深度学习”这三个词经常交替出现,但如果你正在考虑从事人工智能的职业,了....
发表于 03-02 16:57 38次 阅读
机器学习和深度学习的关键区别

人工智能在医疗保健行业的现状、应用及挑战

人工智能将帮助人类更快、更好地与疾病作斗争,并过上更健康的生活,降低医疗费用。过去十年中的大量研究表....
的头像 如意 发表于 03-02 16:41 67次 阅读
人工智能在医疗保健行业的现状、应用及挑战

云计算、大数据与AI之间的相互关系

当今智能行业最为热门的话题无非就是云计算、大数据与人工智能。它们之间好像互相有关系,一般谈云计算的时....
的头像 如意 发表于 03-02 16:38 219次 阅读
云计算、大数据与AI之间的相互关系

智能化技术推动物理安防系统的互操作性发展

  由于新常态化及海外疫情发展的不确定性, 2021年全球安防行业将持续关注用于帮助降低新冠疫情风险....
发表于 03-02 16:22 130次 阅读
智能化技术推动物理安防系统的互操作性发展

百度造车公司注册完成,名称为集度汽车有限公司

3月2日消息,公开信息显示,百度造车公司已完成注册,名称为集度汽车有限公司,注册资本为20亿元,法定....
的头像 我快闭嘴 发表于 03-02 16:18 113次 阅读
百度造车公司注册完成,名称为集度汽车有限公司

比亚迪获认深圳市首批产教融合型企业

2020年,深圳市发展和改革委员会联合深圳市教育局联合发文,出台《深圳市发展和改革委员会 深圳市教育....
的头像 深圳市汽车电子行业协会 发表于 03-02 16:11 177次 阅读
比亚迪获认深圳市首批产教融合型企业

信息技术研究公司高德纳的十大战略技术发展趋势分析

    基于对未来战略技术高瞻远瞩的预测,选择对未来可能具有巨大社会经济影响的新兴技术和战略领域进行....
的头像 工业4俱乐部 发表于 03-02 15:48 88次 阅读
信息技术研究公司高德纳的十大战略技术发展趋势分析

商汤科技智慧空间运营AI赋能平台实现“智慧物业”核心

人们对社区环境和生活品质的追求越来越高,物业服务质量和效率也面临更多挑战。 近日,商汤科技与中国物业....
的头像 商汤科技 发表于 03-02 15:43 71次 阅读
商汤科技智慧空间运营AI赋能平台实现“智慧物业”核心

Imagination硬件光线追踪到底有何不同?

Imagination 公司技术产品管理高级总监 Kristof Beets 分享了对光线追踪技术的....
的头像 Imagination Tech 发表于 03-02 15:35 43次 阅读
Imagination硬件光线追踪到底有何不同?

神经网络的详细资料分析

先从回归(Regression) 问题说起。我在本吧已经看到不少人提到如果想实现强AI,就必须让机器....
发表于 03-02 15:33 9次 阅读
神经网络的详细资料分析

OPPO“小布助手”月度活跃用户数量突破1亿

如今,人工智能已经逐渐渗透至人们生活之中,最常见的便是手机上的语音助手。语音助手已成为许多人生活中的....
的头像 我快闭嘴 发表于 03-02 15:19 99次 阅读
OPPO“小布助手”月度活跃用户数量突破1亿

未来智能汽车的沉浸感,将从大屏开始

智能机何以成为智能机呢?当然是凭借一块可触控屏幕和其显示的软件中所承载的互联网世界。 智能机,其实是....
发表于 03-02 15:09 13次 阅读
未来智能汽车的沉浸感,将从大屏开始

人工智能赋能智慧城市 小小消防员带你感受

三代人的元宵团圆夜。小可的梦想,是成为像爷爷一样的消防员,为什么爸爸没有选择这个自己心目中最勇敢的职....
的头像 脑极体 发表于 03-02 14:55 72次 阅读
人工智能赋能智慧城市 小小消防员带你感受

美国网络和信息技术新趋势和领域

2021年1月,美国总统科学技术顾问委员会(PCAST)向美国总统和国会提交《网络和信息技术研发计划....
的头像 集成电路研发竞争情报 发表于 03-02 14:55 126次 阅读
美国网络和信息技术新趋势和领域

亚马逊云科技中国区域推出超过400项新服务和功能

3月1日消息,一直以来,亚马逊公司旗下的云业务Amazon Web Services在国内都被简写为....
的头像 lhl545545 发表于 03-02 14:32 75次 阅读
亚马逊云科技中国区域推出超过400项新服务和功能

2021年我国医疗人工智能的发展与应用领域

医疗人工智能产业上游主要是为行业提供基础技术支持的行业,如医疗数据挖掘、算法等,典型企业有碳云智能、....
发表于 03-02 14:30 133次 阅读
2021年我国医疗人工智能的发展与应用领域

我国生物识别技术发展概况及发展前景

中国生物识别市场虽然起步晚于西方发达国家,但在政府支持、智能终端设备以及移动互联网产业的快速发展下,....
发表于 03-02 14:17 84次 阅读
我国生物识别技术发展概况及发展前景

AI的画作与人类画作没有明显区别

随着人工智能技术(AI)的发展,画家这个职业似乎也将被机器取代。据近日发表在美国《艺术实证研究》上的....
的头像 电子魔法师 发表于 03-02 13:56 107次 阅读
AI的画作与人类画作没有明显区别

创通联达EB5率先落地四大场景,助力全球行业数字化升级

Thundercomm EB5边缘智能站融合了5G+ AI+IoT技术,是专为边缘计算应用场景设计和....
的头像 Thundersoft中科创达 发表于 03-02 13:53 123次 阅读
创通联达EB5率先落地四大场景,助力全球行业数字化升级

DSP在系统及芯片中有什么样的应用

数字信号处理( Digital Signal Processing ,简称DSP) 是一门涉及许多学....
发表于 03-02 13:52 10次 阅读
DSP在系统及芯片中有什么样的应用

20年后人工智能比较受欢迎的6个领域

人工智能已经统治世界多年了,使用人工智能解决不同领域重大问题的方式无疑值得一提。
发表于 03-02 11:15 98次 阅读
20年后人工智能比较受欢迎的6个领域

人工智能写诗 “技术乌托邦”不再遥远

在文学领域,计算机也会像“深蓝”超级电脑成为无敌国际象棋者一样战胜人类吗?这是文学领域未来需要探讨的....
发表于 03-02 11:00 111次 阅读
人工智能写诗 “技术乌托邦”不再遥远

航顺半导体产业的布局与规划

航顺芯片2014年成立于深圳,通用32位MCU软硬件全兼容进口航顺造,作为世界顶级MCU研发团队所打....
的头像 e星球 发表于 03-02 10:44 164次 阅读
航顺半导体产业的布局与规划

声纹识别到底是怎么回事呢?

人类语言的产生是人体语言中枢与发音器官之间一个复杂的生理物理过程,发声器官--舌、牙齿、喉头、肺、鼻....
的头像 电网智囊团 发表于 03-02 10:16 122次 阅读
声纹识别到底是怎么回事呢?

英伟达推出实时对话式AI模型工具

凭借听、读、译三大功能,对话式人工智能(AI)正逐渐深入人们的生活,成为解放双手和提高生产力的关键工....
的头像 我快闭嘴 发表于 03-02 10:06 197次 阅读
英伟达推出实时对话式AI模型工具

沙特加强与华为合作,加快5G网络服务发展

沙特阿拉伯,可以说是最早一批与华为5G合作的国家之一。据环球网2019年报道,在当年的MWC上,沙特....
的头像 电子魔法师 发表于 03-02 10:02 190次 阅读
沙特加强与华为合作,加快5G网络服务发展

第四届亚太区 HPC-AI竞赛报名开始啦

在SupercomputingAsia 2021大会上,国际高性能计算及人工智能咨询委员会(HPC-....
发表于 03-02 10:01 126次 阅读
第四届亚太区 HPC-AI竞赛报名开始啦

不同神经网络量子态的最新进展以及面临的挑战

摘要   神经网络量子态是由人工神经网络所表示的量子态。得益于机器学习,尤其是深度学习近年来取得的突....
的头像 中科院长春光机所 发表于 03-02 09:56 103次 阅读
不同神经网络量子态的最新进展以及面临的挑战

倪健中会长应邀出席2021世界移动通信大会

作为疫情以来GSMA MWC系列首次重磅回归的线下活动,2021年MWC上海展于2021年2月23日....
的头像 中国移动通信联合会 发表于 03-02 09:54 396次 阅读
倪健中会长应邀出席2021世界移动通信大会

三大运营商加速5G消息产业规模化发展,今年全面走向商用

喻炜介绍,全球运营商已经在GSMA达成共识:5G消息采用RCS UP作为基准,实现消息的多媒体化、轻....
的头像 牵手一起梦 发表于 03-02 09:43 128次 阅读
三大运营商加速5G消息产业规模化发展,今年全面走向商用

5G+AIoT助力数字化转型,“双平台+自研产品”实现引领

作为全球通信行业风向标,“2021 年世界移动通信大会上海展(MWC21)”于 2 月23 日至 2....
发表于 03-02 09:32 182次 阅读
5G+AIoT助力数字化转型,“双平台+自研产品”实现引领

利用人工智能技术实施智能化网络防御

利用人工智能技术实施智能化网络防御,自动化程度和响应效率高,可以大幅缩短从发现到响应的间隔并降低误报....
发表于 03-02 09:31 125次 阅读
利用人工智能技术实施智能化网络防御

未来5G将出现四大业务模式

3月1日 ,安永在京发布的《重塑5G传说:解锁商业模式创新》报告预计,到2025年中国5G产业链及各....
发表于 03-02 09:30 123次 阅读
未来5G将出现四大业务模式

AI芯片正酝酿什么样的变局?

早春二月,AI芯片投资回暖。2月25日,成立100天的GPU芯片公司摩尔线程宣布融资数十亿元,摩尔线....
的头像 我快闭嘴 发表于 03-02 09:15 219次 阅读
AI芯片正酝酿什么样的变局?

国内通用计算市场战火升级

刚刚,国内GPGPU云端计算芯片创企上海天数智芯宣布完成12亿元人民币C轮融资。
的头像 我快闭嘴 发表于 03-02 08:56 186次 阅读
国内通用计算市场战火升级

最值得学习的机器学习编程语言

如果你对人工智能和机器学习感兴趣,而且正在积极地规划着自己的程序员职业生涯,那么你肯定面临着一个问题:你应该学习哪些编程...
发表于 03-02 06:22 0次 阅读
最值得学习的机器学习编程语言

小鹏汽车深圳成立新科技公司

企查查APP显示,2月24日,深圳小鹏汽车科技有限公司成立,法定代表人为小鹏汽车创始人夏珩,注册资本....
的头像 璟琰乀 发表于 03-01 18:00 1086次 阅读
小鹏汽车深圳成立新科技公司

汽车智能化将迎来红利期?

随着人工智能技术的发展,人工智能为产业升级提供了逐渐强大的动能,并在交通、金融、制造、自动驾驶等各个....
的头像 我快闭嘴 发表于 03-01 16:53 660次 阅读
汽车智能化将迎来红利期?

2021年十大科技前沿趋势

在新冠肺炎疫情的冲击下,AI技术加速发展,2021年将继续成为企业、政府、科研机构及资本和市场等各方....
的头像 深圳创新设计研究院 发表于 03-01 16:42 434次 阅读
2021年十大科技前沿趋势

我们应该如何阅读机器学习领域的论文?

谷歌 Robotics 研究科学家 Eric Jang 在博客上写了一篇名为“How to Und....
的头像 机器人大讲堂 发表于 03-01 16:27 88次 阅读
我们应该如何阅读机器学习领域的论文?

使用机器学习去实现袜子的自动搭配

「我决定做一件唯一合理的事,用机器学习来匹配袜子。我只给了自己10分钟的时间来完成项目,所以它不会比....
的头像 机器人大讲堂 发表于 03-01 16:17 133次 阅读
使用机器学习去实现袜子的自动搭配

国际机器视觉产业发展现状与趋势的详细资料说明

机器视觉的概念起始于20 世纪60 年代, 最先的应用来自“ 机器人”的研制。最早基于视觉的机器系统....
发表于 03-01 16:12 158次 阅读
国际机器视觉产业发展现状与趋势的详细资料说明

Melexis携手宝马深度剖析ToF技术赋能智能座舱

比利时微电子半导体解决方案全球供应商Melexis(迈来芯)在飞行时间(ToF)技术领域拥有丰富的经....
的头像 MEMS 发表于 03-01 15:58 220次 阅读
Melexis携手宝马深度剖析ToF技术赋能智能座舱

从五个方面详谈机器学习和深度学习的区别

继系列上一篇 所以,机器学习和深度学习的区别是什么?浅谈后,今天继续深入探讨两者的更多区别。
的头像 如意 发表于 03-01 15:44 652次 阅读
从五个方面详谈机器学习和深度学习的区别

五个新兴的人工智能物联网优秀案例

物联网的使用正在激增,预计到今年年底,将有多达500亿台连网设备。与人工智能相结合,这种新技术浪潮可....
的头像 如意 发表于 03-01 15:37 142次 阅读
五个新兴的人工智能物联网优秀案例

用于计算机视觉训练的图像数据集介绍

用于计算机视觉训练的图像数据集
发表于 02-26 07:35 0次 阅读
用于计算机视觉训练的图像数据集介绍

物联网防火墙与机器学习技术解析

物联网防火墙与机器学习技术
发表于 02-25 06:05 0次 阅读
物联网防火墙与机器学习技术解析

自动驾驶车辆中AI面临的挑战

自动驾驶车辆中采用的AI算法 自动驾驶车辆中AI面临的挑战 ...
发表于 02-22 06:39 0次 阅读
自动驾驶车辆中AI面临的挑战

深度学习框架只为GPU?

CPU优化深度学习框架和函数库 机器学习加速器 ...
发表于 02-22 06:01 0次 阅读
深度学习框架只为GPU?

2021年的人工智能产业预测

2020年是充满动荡的一年,组织面临着众多挑战。进入2021年,人工智能行业将会快速发展。为了对2021年的重要新趋势有所了解,行业...
发表于 02-19 07:40 0次 阅读
2021年的人工智能产业预测

2021第四届人工智能大会

发表于 02-01 10:32 101次 阅读
2021第四届人工智能大会

2021第五届人工智能技术与应用论坛

发表于 02-01 10:12 202次 阅读
2021第五届人工智能技术与应用论坛

如何提高人工智能应用开发的生产效率

让AI无处不在,Arm中国“周易”人工智能平台有何绝招...
发表于 02-01 07:10 0次 阅读
如何提高人工智能应用开发的生产效率

最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?

最近瑞昱RTL8189芯片缺货,导致Ipcamera、机顶盒及一些商显、广告机厂商生产跟不上,我们的成本也直线上升。有没有哪位伙伴知...
发表于 01-29 17:58 2838次 阅读
最近瑞昱RTL8189芯片缺货,有没有哪位伙伴知道有什么产品可以替代的?