电子发烧友网 > 人工智能 > 正文

人工智能如何检测出歧视

2020年02月25日 15:18 次阅读

防止种族、性别或对个人的不公平待遇一直是文明社会长期关注的问题。然而,检测由决策引起的这种歧视,无论对于人类决策者还是自动化人工智能系统都带来了挑战性。尤其人工智能系统的广泛运用在警务、消费金融、高等教育和商业领域上的决策自动化,也进一步提升了挑战的难度。

例如:如果一家公司在历史上从未雇佣过一名女性从事某一类工作,那么接受过该历史数据训练的人工智能系统就不会推荐女性从事新工作。机器学习算法本身没有任何问题,其只是根据某些理想的特征确定好的求职者。但由于它是根据历史的、有偏见的数据进行培训,因此有可能提出不公平的建议。

人工智能如何检测出歧视

因此宾州大学和哥伦比亚大学的研究人员创建了一种用于检测不公平歧视的新型人工智能工具,透过分析美国成人收入数据,发现了基于性别的工资歧视的证据,在每年工资超过5万美元的女性的机率仅为男性的三分之一。这表示雇主应该纠正工资中的性别偏见。此方法除了可防止性别歧视外,也可用于防止种族歧视。

随着数据驱动的人工智能系统越来越多地被企业应用于消费者定位广告、警察机关如何监控个人或团体的犯罪活动、银行如何决定谁获得贷款、雇主决定雇用谁、以及大学如何决定谁被录取或获得奖学金资助,皆需要确保这些系统不会成为歧视工具、平等障碍和对社会公义的威胁和不公平的来源。此项研究获得美国国家卫生研究院和国家科学基金会的支持。

责任编辑:ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

【现场直播】第五届IoT大会之人工智能分论坛

直播主题:● AI知名企业大佬现场分享观点,解读行业趋势● 中国AI产品制造商和系统集成商的产品、技术和市场战略● AI
发烧友学院发表于 2018-12-18 00:00 1030次阅读
【现场直播】第五届IoT大会之人工智能分论坛

金发女孩原则角度的人工智能是怎样的

不论是人工智能、物联网、5G,或是公有云、区块链、AR/VR 甚至是未来的量子运算等等,都必然不能将....
发表于 2020-02-25 15:21 0次阅读
金发女孩原则角度的人工智能是怎样的

AI有可能取代医师的位置吗

在处理医疗不确定性与避免疏失,利用AI发展的医疗决策辅助系统将医师诊断的流程标准化,借助逐一病患检验....
发表于 2020-02-25 15:12 0次阅读
AI有可能取代医师的位置吗

人工智能为何是创投的最爱

由于人工智能新(AI)科技复杂且定义松散,因此非专业人员很难辨别到底该AI技术是真是假。
发表于 2020-02-25 15:08 3次阅读
人工智能为何是创投的最爱

人工智能时代对于经济体有什么影响

对人工智能的进步如何影响就业的担忧并不新鲜。特斯拉和SpaceX执行官马斯克于上个月就表示,AI可以....
发表于 2020-02-25 15:04 5次阅读
人工智能时代对于经济体有什么影响

人工智能技术是如何走进平常的生活的

IoT物联网大幅改变人类的工作方式,在没有物联网的时代,工厂产线都是透过人工来做品管纪录,手抄的纪录....
发表于 2020-02-25 15:01 0次阅读
人工智能技术是如何走进平常的生活的

人工智能如何解决实际的社会问题

工厂生产需要非常多的资源,处理制造污染更是营运成本的负担,智能工厂的产在线布满传感器,纪录工厂操作的....
发表于 2020-02-25 14:58 3次阅读
人工智能如何解决实际的社会问题

2020年人工智能产业发展趋势预测

自2015年开始,中国人工智能市场规模逐年攀升。随着人工智能技术的逐渐成熟,科技、制造业等业界巨头不....
发表于 2020-02-25 14:57 19次阅读
2020年人工智能产业发展趋势预测

人工智能在取代工作的同时有什么益处

人工智能(AI)正在占领我们生活中的世界。当初创造AI就是希望被机器人能够模仿人类智能行为所产生之能....
发表于 2020-02-25 14:55 4次阅读
人工智能在取代工作的同时有什么益处

2019年底,亚马逊发明了一项手部识别支付的专利

手部识别技术如何识别用户身份?其实,原理和人脸识别差不多。在识别过程中,系统会将用户的手掌图像分割为....
发表于 2020-02-25 14:49 14次阅读
2019年底,亚马逊发明了一项手部识别支付的专利

人工智能在手机处理器当中扮演什么角色

以智能手机应用处理器的整体营收而言,高通的智能手机应用处理器占市场营收的40%遥遥领先,紧跟在其后的....
发表于 2020-02-25 14:46 4次阅读
人工智能在手机处理器当中扮演什么角色

哪一些机器学习用例值得去关注

机器学习是人工智能的一个应用,它使用算法和统计模型来教计算机系统如何在没有任何人工交互的情况下执行各....
发表于 2020-02-25 14:41 8次阅读
哪一些机器学习用例值得去关注

机器人士兵是如何上岗的

机器人士兵很快就会成为现实,并协助人类士兵执行战争行动,甚至为受伤士兵提供医疗援助。
发表于 2020-02-25 14:39 10次阅读
机器人士兵是如何上岗的

【战疫专题】第二期:硬核战“疫”,机器人大有可为

2020年,新型冠状病毒席卷了整个中国,同时也在促进着产业的变革与生活变化。 电子发烧友在此期间推出【战疫专题】活...
发表于 2020-02-25 14:24 33次阅读
【战疫专题】第二期:硬核战“疫”,机器人大有可为

2020年的物联网产业会是怎样的市场趋势

物联网概念加快与产业应用融合,成为智慧城市和信息化整体方案的主导性技术思维。
发表于 2020-02-25 09:30 52次阅读
2020年的物联网产业会是怎样的市场趋势

人工智能医护机器人可以带来什么服务

这台名叫“瑞金小白”的机器人配备了激光雷达、红外雷达,5G通信以及机器人集群控制技术,每台医护服务机....
发表于 2020-02-25 09:23 108次阅读
人工智能医护机器人可以带来什么服务

AI医疗如何来保障健康

人工智能具有模拟医生的诊治思维和推理过程的能力,并且在记忆力、运算速度和精度上都可以优于人类。
发表于 2020-02-25 08:28 22次阅读
AI医疗如何来保障健康

大规模AI Twitter探针绘制了企业家个性的...

该研究分析了来自美国1,772个县(占美国大陆人口的95%)的15亿条Twitter推文中企业家人格....
发表于 2020-02-24 16:47 161次阅读
大规模AI Twitter探针绘制了企业家个性的...

SpaceX推出AI机器人为车站工作人员提供浓咖...

用过的猎鹰火箭在天亮前炸毁,拖运了近6000磅(2700公斤)的货物,其中包括名为Cimon的球形A....
发表于 2020-02-24 16:35 149次阅读
SpaceX推出AI机器人为车站工作人员提供浓咖...

使用人工智能会有什么转变

大体量有很多优势。它使我们可以看得更长远,能坚持以用户为中心开展各种项目,哪怕它们的短期价值并不明显....
发表于 2020-02-24 16:34 22次阅读
使用人工智能会有什么转变

奇迹软件已成为UiPath的黄金合作伙伴

通过此次合作,Miracle和UiPath将交付用于机器人过程自动化的企业级计划。我们经过认证和承诺....
发表于 2020-02-24 16:33 195次阅读
奇迹软件已成为UiPath的黄金合作伙伴

人工智能正在前所未有地改变着医疗保健行业

传统的分析方法已得到改进,并且由于数据量以惊人的速度增长,因此临床决策技术也发生了变化。这使决策者在....
发表于 2020-02-24 16:31 185次阅读
人工智能正在前所未有地改变着医疗保健行业

人工智能如何在疫情期间尽显神通

人工智能的创新发展离不开智能时代新的人才诉求和培养,人才培养过程应紧密采用人工智能技术,使人才培养与....
发表于 2020-02-24 16:29 464次阅读
人工智能如何在疫情期间尽显神通

人工智能(AI),法律分析和数据驱动的实践

在活动中,LexisNexis将与ALM Intelligence合作进行第三次年度法律分析调查,以....
发表于 2020-02-24 16:29 160次阅读
人工智能(AI),法律分析和数据驱动的实践

AI如何上演一出“无间道”

既然技术可以成为造假者的帮凶,反过来也能在识别照片真假时发挥作用。
发表于 2020-02-24 16:26 68次阅读
AI如何上演一出“无间道”

人工智能的商机有多大

人工智能现在是科技领域的前沿技术,其主要是机器模拟人工学习,主要以深度学习作为核心。
发表于 2020-02-24 16:23 232次阅读
人工智能的商机有多大

百度的AI是如何进行的

疫情笼罩下的阴沉气氛里,人工智能领域终于传出了好消息。
发表于 2020-02-24 16:18 28次阅读
百度的AI是如何进行的

人工智能助力疫情防控的效果显著吗

下一步将加大对人工智能、大数据技术的研发投入,结合中医实现更多创新融合,用科技赋能助力打赢这场疫情防....
发表于 2020-02-24 16:15 46次阅读
人工智能助力疫情防控的效果显著吗

人工智能将会在什么领域得到重用

多数数据驱动的人工智能应用都是通过传感器技术创新实现的,这些技术可以通过优于简单运动探测及类似二进制....
发表于 2020-02-24 16:11 38次阅读
人工智能将会在什么领域得到重用

AI时代的摄影艺术还会存在吗

为了将所有照片文件编辑得完美,Movavi照片编辑器使用人工智能优化图像,并允许用户编辑照片的任何部....
发表于 2020-02-24 16:04 116次阅读
AI时代的摄影艺术还会存在吗

看到这些人工智能实例你有没有惊叹

人工智能能够收集、处理大量非结构化数据并从中获取模式,已有证据表明,该能力有助于解决很多环境问题。
发表于 2020-02-24 16:00 192次阅读
看到这些人工智能实例你有没有惊叹

人工智能应用为什么要广泛的开展

作为新一代的人工智能服务产品,扫地机器人早已普及市场,我国的一些机器人公司已经把产品投入到国外市场,....
发表于 2020-02-24 15:55 33次阅读
人工智能应用为什么要广泛的开展

人工智能技术在未来会带来怎样的变化

人工智能正在深入我们的日常生活,但这并不像许多人想象的那样可怕。借助人工智能,我们已经看到事情变得越....
发表于 2020-02-24 15:50 24次阅读
人工智能技术在未来会带来怎样的变化

人工智能在疫情期间如何使出“组合拳”

人工智能从此前被广泛提及到如今转变为更直观的认识,逐步释放应用价值,走进疫情防控,走进复产复工,走近....
发表于 2020-02-24 15:49 119次阅读
人工智能在疫情期间如何使出“组合拳”

AI的未来是由什么来决定的

AI被认为是最有可能的新工业革命引爆点,各国都在此方向积极投入参与竞争,中国当前的竞争位置还很不错,....
发表于 2020-02-24 15:45 26次阅读
AI的未来是由什么来决定的

GroupAssur聘请Element AI自动...

作为进步的总代理(MGA),GroupAssur意识到需要在承保流程中自动执行手动,耗时且效率低下的....
发表于 2020-02-24 15:45 84次阅读
GroupAssur聘请Element AI自动...

数据如何助力人工智能的到来

人工智能的关键要素包括算法、算力、数据。如华为、阿里等都在积极布局智能计算,芯片代表算力,智能框架代....
发表于 2020-02-24 15:41 16次阅读
数据如何助力人工智能的到来

人工智能怎样助力社区稳步恢复正常

AI移动菜场正在长宁多个社区展开运营工作,在防疫的同时满足大家的基本生活需求。
发表于 2020-02-24 15:34 79次阅读
人工智能怎样助力社区稳步恢复正常

人工智能指出有天体撞地球?

利用超级计算机,研究人员通过模拟太阳系行星一万年的轨道运动,快速前进。然后,研究小组将模拟过程倒放,....
发表于 2020-02-24 15:31 18次阅读
人工智能指出有天体撞地球?

想要用人工智能把汽车变成“人”?

对于人工智能技术的应用,马斯克不仅仅体现在让汽车实现说话上,在特斯拉的自动驾驶研发过程中,人工智能也....
发表于 2020-02-24 15:26 19次阅读
想要用人工智能把汽车变成“人”?

机器人可以解决企业没人生产的问题吗

一方面,由于我国区域经济协调发展的愈发加快,以及互联网行业、服务行业等高速增长,人们返乡就业的意愿愈....
发表于 2020-02-24 15:24 35次阅读
机器人可以解决企业没人生产的问题吗

AI医疗做到哪一些点将会更好

随着人工智能的高速发展,各传统行业纷纷迎来重要转型。
发表于 2020-02-24 15:16 61次阅读
AI医疗做到哪一些点将会更好

高等数学到底是不是不是人工智能的基础

变量值,是数值,在计算机里面是数据值,即储存在地址空间里面的值,但这个值是通过存储空间的地址检索读写....
发表于 2020-02-24 15:14 134次阅读
高等数学到底是不是不是人工智能的基础

AI怎样制止谣言的出现

人工智能加入辨谣工作,不仅大大丰富了人们发现谣言的办法和手段,同时也有效提升了分辨谣言的速度和准确性....
发表于 2020-02-24 14:59 100次阅读
AI怎样制止谣言的出现

高云半导体EDA开发工具增加了对Ubuntu的支...

高云半导体国际营销总监Grant Jennings表示:“在传统FPGA上开发边缘推理解决方案时,A....
发表于 2020-02-24 14:53 124次阅读
高云半导体EDA开发工具增加了对Ubuntu的支...

怎样借助人工智能来分类乐高积木

现在有人利用人工智能(AI)、Raspberry设计出可准确分类乐高积木的机器,以有效解决这个问题。
发表于 2020-02-24 14:52 25次阅读
怎样借助人工智能来分类乐高积木

5G、人工智能为疫情做出了什么贡献

实现了自动精准测温,如果有人进入被检测区域且体温超过告警温度阈值,设备将告警,同时可通过高速率、低时....
发表于 2020-02-24 14:45 53次阅读
5G、人工智能为疫情做出了什么贡献

人工智能领域真的需要租赁算力吗

人工智能的发展已经是不可忽视的,特别是经过这次疫情之后,人工智能技术在其中发挥的作用更是让人们惊叹!
发表于 2020-02-24 14:37 135次阅读
人工智能领域真的需要租赁算力吗

AI是如何帮助追缴税金

这套十分厉害的人工智能算法名为CFVR,意思就是锁定欺诈及评估申请。
发表于 2020-02-24 14:34 47次阅读
AI是如何帮助追缴税金

中国应强化人工智能应用 争取早日赶上其他发达国家

美媒称,一项新的研究发现,被普遍视为人工智能(AI)领域全球领导者的中国在相关战略的一个重要环节——....
发表于 2020-02-24 14:33 16次阅读
中国应强化人工智能应用 争取早日赶上其他发达国家

火神山医院送餐机器人是如何上班的

一批医疗服务机器人也已经驰援火神山。
发表于 2020-02-24 14:29 437次阅读
火神山医院送餐机器人是如何上班的

新冠肺炎AI自测机器人有什么帮助

当用户出现相关不适症状,陷入不就医怕耽搁病情,出门就医又担忧交叉感染的两难处境时,用AI自测机器人初....
发表于 2020-02-24 14:26 91次阅读
新冠肺炎AI自测机器人有什么帮助

旷视科技AI技术一同战疫 打造人工智能测温系统

日前,工业和信息化部办公厅发布了《关于运用新一代信息技术支撑服务疫情防控和复工复产工作的通知》(以下....
发表于 2020-02-24 14:26 145次阅读
旷视科技AI技术一同战疫 打造人工智能测温系统

人工智能助力抗击新疫情 带来了非常巨大的好处

人工智能常常被描述为一股对人类“有害”的力量。批评人士说,广泛使用人工智能和自动化技术最终将导致数以....
发表于 2020-02-24 14:18 73次阅读
人工智能助力抗击新疫情 带来了非常巨大的好处

人工智能怎样去促进金融可持续发展

近年来,金融科技创新发展突飞猛进,对传统金融行业从商业生态、业务模式,到技术能力都带来了革新。
发表于 2020-02-24 14:17 21次阅读
人工智能怎样去促进金融可持续发展

疫情对于人工智能有什么促进作用

与时间赛跑,与病毒较量,人工智能在疾病诊断、疫情防控等方面大显身手。
发表于 2020-02-24 14:00 181次阅读
疫情对于人工智能有什么促进作用

人工智能技术以什么身份参加疫情当中的

在武汉、上海、北京等地的医疗前线,人工智能检测技术帮助医生实现了病毒的高效检测,消毒机器人、送餐机器....
发表于 2020-02-24 13:57 35次阅读
人工智能技术以什么身份参加疫情当中的

AI怎样去推动信息战平台的发展

美国海军将陆续在舰队部署信息战平台,先期对象为“林肯”号航母和“巴丹”号两栖舰。人工智能(AI)、机....
发表于 2020-02-24 13:53 20次阅读
AI怎样去推动信息战平台的发展

人工智能如何打造出护城河

通过此次疫情,可以有效的检验目前人工智能的有效性和发现问题,然后在大数据,云计算和人工智能的协同,以....
发表于 2020-02-24 13:45 130次阅读
人工智能如何打造出护城河

AI混合加速器平台有统一的标准吗

为了提高不同AI加速模块和系统的互操作性,满足制造商提升人工智能系统能力的需求,OCP(Open C....
发表于 2020-02-24 12:00 27次阅读
AI混合加速器平台有统一的标准吗

智能家居实际上可以给我们带来什么

人工智能正逐渐渗透到各行各业,智能产品可谓是层出不穷。
发表于 2020-02-24 11:24 42次阅读
智能家居实际上可以给我们带来什么

【瑞芯微RK1808计算棒试用体验】机械臂视觉快速识别

折腾了一个新年,总算勉强有点效果了,这个任务真是大坑啊,关键的识别部分没多大难度,但上位机、下位机、机械结构接...
发表于 2020-02-08 18:13 377次阅读
【瑞芯微RK1808计算棒试用体验】机械臂视觉快速识别

2020艾睿电子解决方案展示会

活动简介 艾睿电子解决方案展示会是艾睿电子自主主办的展会,也是每年一度的 ACT (Arrow Centralized Training...
发表于 2020-01-15 09:40 38722次阅读
2020艾睿电子解决方案展示会

内置NPU的Orange Pi 4B,你怎么看

提起单板电脑,树莓派基金会发布的树莓派系列开发板或许是最广为人知的,该公司坚持使用博通的SOC芯片,以实现不断...
发表于 2019-12-23 21:07 714次阅读
内置NPU的Orange Pi 4B,你怎么看

串口屏应用案例-自助点餐系统

串口屏应用案例-自助点餐系统 自助点餐系统应景而生,彻底打破了传统,能够有效的减少排队使用的时间。在自助点餐机器...
发表于 2019-12-23 13:15 381次阅读
串口屏应用案例-自助点餐系统

【征文福利帖】真香!AliOS派送订制开发板,你不来看一下吗?

AIoT领域技术栈跨度大,工程化过程中碎片场景多,整个产业亟需大量优秀的开发者和专业人员,产业的思考、技术的实践...
发表于 2019-12-20 09:28 1683次阅读
【征文福利帖】真香!AliOS派送订制开发板,你不来看一下吗?

一文读懂WMS的进阶史

双十一高效配送的背后离不开各类物流系统的支持,WMS系统作为仓配中心的“智慧大脑”在其中发挥着重要作用。让我...
发表于 2019-12-06 11:44 513次阅读
一文读懂WMS的进阶史

【转载】如何从零入门人工智能(AI)具体学习步骤和方法

手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+开发板)详情链接: 上次我们讲到人工智能的...
发表于 2019-11-28 16:20 520次阅读
【转载】如何从零入门人工智能(AI)具体学习步骤和方法

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 993次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

动力电池如何实现自动化测试?——第一弹

那是一个晴朗的午后,我坐上了开往深圳的火车,去面对我人生中的第一份正式工作。刚毕业的我和许多年轻人一样,心中充...
发表于 2019-11-27 10:33 369次阅读
动力电池如何实现自动化测试?——第一弹