侵权投诉

人工智能是否永远保持着绝对理性和一定公平吗

2020-11-27 15:20 次阅读

人工智能已经遍布我们的日常生活。从YouTube的首页推荐到生产药物,它无所不在,它对我们生活的影响超出我们的想象。但人工智能一定公平吗?不,绝对不是。

人工智能是否永远保持着绝对理性和一定公平吗

人们很难定义什么是公平的人工智能。以下是我能想出的最好的定义:对于社会歧视影响下的特定任务,如果给定的人工智能模型能够输出独立于敏感性参数(例如性别、种族、性取向、宗教信仰、残疾等)的结果,那么这个人工智能模型就是公平的。

本文将讨论人工智能偏见,与之对应的真实例子,及其解决方法。

问题

人工智能偏见是由于训练模型的数据所固有的偏见造成的,这导致了社会歧视,进而导致平等机会的缺乏。

假设我的任务是创建一个以位置为参数计算个人信用评分的模型,某些种族群体会集中在某些地方,这将使创建的模型对那些种族群体产生偏见,会影响他们申请信用卡和银行贷款,存在偏见的人工智能模型加剧了当前的社会歧视。

人工智能偏见的真实例子

COMPAS(另类制裁法惩罚罪犯管理分析)是美国法院用来判定被告成为累犯(重犯先前所犯罪行的罪犯)可能性的软件。由于存在严重的数据偏差,该模型预测黑人罪犯累犯的假阳性率是白人罪犯的两倍。

2014年,亚马逊开发了一套人工智能招聘系统以简化招聘流程。研究发现该系统歧视女性,因为用于培训模型的数据来自过去10年。过去10年,由于科技行业中男性占主导地位,大多数被选中的申请人都是男性。亚马逊在2018年废除了这个系统。

美国医疗保健系统采用人工智能模型,认为黑人患同一疾病的风险比白人低。这是因为该模型对成本进行了优化,而且由于黑人被认为支付能力较低,因此该模型将他们的健康风险排在白人之后,导致黑人的医疗标准降低。

2019年,Facebook允许广告商根据种族、性别和宗教瞄准人群。这导致护士和秘书等工作以女性为目标,而像门警和出租车司机这样的工作则瞄准男性,特别是有色人种的男性。该模型还了解到,房地产广告向白人展示时,点击率较好,所以面向少数人群的房地产广告投放较少。

2020年9月,Twitter用户发现图像裁剪算法偏爱白人脸而非黑人脸。当在Twitter上发布一幅与预览窗口的宽高比不同的图像时,该算法会自动裁剪掉图像的一部分,只显示图像的某一部分作为预览。在黑白面孔同框时,该人工智能模型通常在预览窗口中显示白人。

这些例子只是沧海一粟。无论开发者是否知情,许多不公平的人工智能操作都真实存在着。

如何解决这个问题呢?

迈向公平人工智能的第一步是承认问题。人工智能是不完美的,数据是不完美的,我们的算法是不完善的,我们的技术也不够完善。如果我们对问题视而不见,那么是不可能找到解决办法的。

其次,问问自己这个解决方案是否需要人工智能。有一些问题不依赖于数据,比如寻找被告人再犯可能性这样的任务更多地依赖于情感而不是数据。

第三,遵循负责任的人工智能实践。在谷歌负责任的人工智能实践指南的基础上,我补充了几个要点。负责任的人工智能实践:

使用以人为中心的设计方法:设计模型时内置适当的信息披露,并在部署前纳入测试人员的反馈。

确定多个指标评估培训和监控:使用适合任务的不同指标,以了解不同错误和经验之间的权衡。这些指标可以来自消费者的反馈、假阳性率和假阴性率等。

如果可能的话,请检查原始数据:人工智能模型反映了用来训练模型的数据。如果数据有问题,模型也会有问题。因此,尽量保持数据平衡。

理解模型的局限性:一个被训练来检测相关性的模型对建立因果关系不一定有用。例如,一个模型可能会了解到,购买篮球鞋的人一般都比较高,但这并不意味着购买篮球鞋的用户会因此变得更高。

测试:进行严格的单元测试以确定模型中的故障。

部署后继续监控和更新模型:在部署模型后,关注用户反馈,并定期更新模型。

设计一个公平与包容兼具的模型:与伦理和社会研究领域的专家接洽,了解和解释各种观点,试着让模型尽可能公平。

使用具有代表性的数据集来训练和测试模型:尝试评估数据的公平性。也就是说,寻找特征与标签之间的偏见或歧视性关联。

检查不公平的偏差:从不同背景的测试人员那里获取单元测试输入,这有助于确定哪些人群可能会受到该模型的影响。

分析性能:考虑不同指标,一个指标的改进可能会损害另一个指标的性能。

开发公平人工智能的工具

AIFairness360:这是IBM提供的一个开源工具包,可帮助用户检查、报告和减轻机器学习模型中的歧视和偏见。

MLFairnessGym:这是谷歌提供的一个工具,用于探索机器学习系统对人工智能偏见的长期影响。

FATE:AI中的公平、责任、透明度和伦理(FATE),微软提供了评估可视化仪表盘和偏差缓解算法的工具。它主要用于公平与系统性能之间的权衡。

近来,公司和政府开始逐渐正视人工智能中的偏见。许多公司已经开发了评估人工智能公平性的工具,并且正在尽最大努力解决人工智能偏见。

虽然人工智能有着巨大的潜力,但我们现在比以往任何时候都更需牢记人工智能系统潜在的歧视性危险,我们也应帮助开发出公平的人工智能模型。
责编AJX

收藏 人收藏
分享:

评论

相关推荐

IBM将收购IT公司Taos Mountain

国际商业机器公司(International Business Machines Corp.)周四表....
的头像 电子魔法师 发表于 01-17 11:34 454次 阅读
IBM将收购IT公司Taos Mountain

一文知道人工智能的分支

人工智能是计算机识别,推理和行动的实践方法,完全赋予机器模拟人类行为的能力,尤其是认知能力。
的头像 陈翠 发表于 01-17 10:35 373次 阅读
一文知道人工智能的分支

5G给内存和存储带来了什么样的发展美光科技的解答

 内存和存储的区别越来越模糊,在2021年,将看到企业正在寻求新型解决方案,例如存储级内存和内存虚拟....
的头像 Wildesbeast 发表于 01-17 10:34 300次 阅读
5G给内存和存储带来了什么样的发展美光科技的解答

区块链打造新型网络货运平台解决方案

在传统的道路运输承运人和货代公司的基础上,产生了专门匹配货源和运力的第三方网络平台网络货运平台。
的头像 电子魔法师 发表于 01-17 10:08 395次 阅读
区块链打造新型网络货运平台解决方案

人工智能在数据中的全新意义

在变幻莫测的时代,数据能帮助我们拨开迷雾,而人工智能则能以超越人力极限的方式在数据中发现全新意义。
的头像 电子魔法师 发表于 01-17 10:08 265次 阅读
人工智能在数据中的全新意义

快讯:比亚迪成立电池研究新公司,注册资本1亿

1月4日,重庆弗迪电池研究院有限公司成立,该公司注册资本1亿,法定代表人为何龙。经营范围包括:电池制....
的头像 机器人大讲堂 发表于 01-17 09:50 217次 阅读
快讯:比亚迪成立电池研究新公司,注册资本1亿

科学家们探索如何控制人工智能

人工智能的最新进展引发了几个道德困境。也许其中最重要的是人类是否能够控制自主机器。
的头像 电子魔法师 发表于 01-17 09:48 151次 阅读
科学家们探索如何控制人工智能

2020年度吴文俊人工智能科学技术奖获奖名单正式揭晓

优必选科技的使命是让智能机器人走进千家万户,让人类的生活方式变得更加便捷化、智能化、人性化。公司持续....
的头像 机器人大讲堂 发表于 01-17 09:47 348次 阅读
2020年度吴文俊人工智能科学技术奖获奖名单正式揭晓

智能驾驶距离我们还有多远

从德国工程师卡尔本茨完成首台样车的搭建到第一台可供出售的汽车,奔驰用了两年;从单个生产到流水线大批量....
的头像 电子魔法师 发表于 01-17 09:42 237次 阅读
智能驾驶距离我们还有多远

算法定位成功率最高的胚胎

随着试管婴儿技术的发展,越来越多的不孕不育夫妇将其当作了最后的“救命稻草”。根据美国生殖医学学会20....
的头像 机器人大讲堂 发表于 01-17 09:38 173次 阅读
算法定位成功率最高的胚胎

人工智能公司Rokid发布新双目混合现实眼镜

1月15日消息,据国外媒体报道,今日,人工智能公司Rokid发布了最新的双目混合现实(MR)眼镜Ro....
的头像 电子魔法师 发表于 01-17 09:27 424次 阅读
人工智能公司Rokid发布新双目混合现实眼镜

拉特拉正在考虑的传感器是一种新型心率监测仪

以光学传感器为例。柯达工程师史蒂文·萨森(Steven Sasson)于1976年发明了第一台数码相....
的头像 机器人大讲堂 发表于 01-17 09:22 205次 阅读
拉特拉正在考虑的传感器是一种新型心率监测仪

IBM宣布收购以云计算为核心的MSP Taos

1月15日,据外媒ZDNet报道,IBM已经宣布达成一项协议,收购以云计算为核心的MSP Taos。....
的头像 lhl545545 发表于 01-16 10:42 771次 阅读
IBM宣布收购以云计算为核心的MSP Taos

小米笔记本将停止数据自由行业务变更、停开机服务

1月16日,小米笔记本官方发布“数据自由行”停服公告:由于业务调整,数据自由行功能将在2021年7月....
的头像 lhl545545 发表于 01-16 10:26 265次 阅读
小米笔记本将停止数据自由行业务变更、停开机服务

蚂蚁集团已成立整改工作组 工作进展将及时发布

1月16日消息,据央视新闻,中国人民银行副行长陈雨露15日下午表示,关于蚂蚁集团规范整改的问题,目前....
的头像 lhl545545 发表于 01-16 09:57 753次 阅读
蚂蚁集团已成立整改工作组 工作进展将及时发布

IEEE Fellow 2021入选名单4

近日,IEEE Fellow 2021 入选名单揭晓,这一奖项代表学术科技领域权威荣誉和重要职业成就....
的头像 IEEE电气电子工程师学会 发表于 01-16 09:12 302次 阅读
IEEE Fellow 2021入选名单4

2020年充电基础设施增量为46.2万台,月均新增公共充电桩约2.4万台

1月13日,中国电动充电基础设施促进联盟(下文简称:充电联盟)发布2020年12月充电桩运营数据。截....
的头像 牵手一起梦 发表于 01-15 17:47 347次 阅读
2020年充电基础设施增量为46.2万台,月均新增公共充电桩约2.4万台

“十四五”时期中国5G发展的重点是什么?

12月24日,工业和信息化部副部长王志军会同部规划司司长卢山,部新闻发言人、信息通信发展司司长闻库出....
的头像 工业互联网产业联盟 发表于 01-15 17:30 939次 阅读
“十四五”时期中国5G发展的重点是什么?

配电网未来技术发展趋势展望

责任编辑:xj 原文标题:配电网未来技术发展趋势 文章出处:【微信公众号:电网智囊团】欢迎添加关注!....
的头像 电网智囊团 发表于 01-15 17:15 163次 阅读
配电网未来技术发展趋势展望

工业机器人市场规模逐年扩大,预计未来还有更高上升空间

工业智能化及《中国制造2025》增加了工业机器人在工业制造领域的应用,2016-2020年我国工业机....
的头像 牵手一起梦 发表于 01-15 16:57 525次 阅读
工业机器人市场规模逐年扩大,预计未来还有更高上升空间

优必选智能物流机器人AMR及解决方案在全球首次亮相

从三星、LG、索尼再到联想,戴尔,各大科技巨头们纷纷上线秀“肌肉”,优必选科技作为全球领先的人工智能....
的头像 机器人大讲堂 发表于 01-15 16:56 511次 阅读
优必选智能物流机器人AMR及解决方案在全球首次亮相

2020年中国互联网营销市场总规模突破万亿大关

了解到,1月12日上午《2020中国互联网广告数据报告》发布。报告显示,2020年中国互联网营销市场....
的头像 牵手一起梦 发表于 01-15 16:50 420次 阅读
2020年中国互联网营销市场总规模突破万亿大关

淘宝网上索尼PS5售价明显下跌

公司人力资源部研判该员工上述言论严重违反员工手册,且有可能其极端情绪会对其他同事造成不可知威胁,决定....
的头像 lhl545545 发表于 01-15 16:42 1519次 阅读
淘宝网上索尼PS5售价明显下跌

微软的DeBERTa和谷歌的T5 + Meena——已经成为第一个超越人类基线的模型

利用常识进行阅读理解推理(ReCoRD),模型可以从CNN和每日邮报的文章选择列表中预测出隐藏的单词....
的头像 机器人大讲堂 发表于 01-15 16:36 145次 阅读
微软的DeBERTa和谷歌的T5 + Meena——已经成为第一个超越人类基线的模型

法国采购150架鹦鹉微型无人机,用于保护军事场所

1月12日消息,法国国防部为满足常规部队和特种部队这三种服务(陆,空,海)的作战需求,集中采购150....
发表于 01-15 16:23 85次 阅读
法国采购150架鹦鹉微型无人机,用于保护军事场所

石头科技推出两款石头扫地机器人T7Pro和P5

一场疫情让人们认识到了居家健康的重要性,更多家庭开始接受和使用智能家居产品,其中就包括扫地机器人。近....
的头像 lhl545545 发表于 01-15 15:32 351次 阅读
石头科技推出两款石头扫地机器人T7Pro和P5

基于纳米孔测序的病原微生物检测与进化分析平台

上海科技创新资源数据中心副总经理李敏介绍:“新一代纳米孔测序的病原微生物检测与分析流程从开始测序到获....
的头像 MEMS 发表于 01-15 14:43 168次 阅读
基于纳米孔测序的病原微生物检测与进化分析平台

关于12个人工智能不为人知的秘密

随着人工智能技术在各行业的应用越来越广泛,IT领导者需要了解如何采用人工智能技术收集商业见解的秘密。
的头像 电子魔法师 发表于 01-15 14:41 240次 阅读
关于12个人工智能不为人知的秘密

声学传感器和人工智能的结合,喂养控制智能系统

喂养控制智能系统由西班牙海洋技术中心的研究人员(CTN)开发,是一种自动喂养系统,它摒弃了摄像头,而....
的头像 MEMS 发表于 01-15 14:24 485次 阅读
声学传感器和人工智能的结合,喂养控制智能系统

三星在CES 2021上发布滚动个性化机器人

1月11日,全球最具影响力的科技盛会——2021年国际消费类电子产品展览会(CES)正式开幕。但由于....
的头像 MEMS 发表于 01-15 14:20 822次 阅读
三星在CES 2021上发布滚动个性化机器人

数字化转型和工业4.0的重要性

当前的全球新冠疫情清晰地表明了数字化转型和工业4.0的重要性。像Festo一样,成百上千家公司能够保....
发表于 01-15 14:14 255次 阅读
数字化转型和工业4.0的重要性

合合信息与腾讯云合作,助推产业加速数字化转型

1月15日消息,近日,人工智能及商业大数据企业合合信息与腾讯云共同宣布,双方达成战略合作,将发挥彼此....
的头像 电子魔法师 发表于 01-15 14:11 410次 阅读
合合信息与腾讯云合作,助推产业加速数字化转型

因为传感器,我们已经生活在了一个“超意识”的星球上

2014年,在芬兰的一个传染病实验室里,卫生研究员佩特里·拉特拉(Petteri Lahtela)发....
的头像 MEMS 发表于 01-15 14:11 341次 阅读
因为传感器,我们已经生活在了一个“超意识”的星球上

AI芯片企业燧原科技成融资 “专业户”,究竟有何魅力?

2021 年第二个工作日,总部位于上海的一家中国人工智能芯片企业发布了 C 轮 18 亿元融资喜讯。....
的头像 我快闭嘴 发表于 01-15 14:01 346次 阅读
AI芯片企业燧原科技成融资 “专业户”,究竟有何魅力?

哥伦比亚大学开发出有同情心的机器人

哥伦比亚大学的工程师们创造了一种机器人,它可以学会用视觉预测它的伙伴机器人的行为。工程师表示,该机器....
的头像 如意 发表于 01-15 11:34 311次 阅读
哥伦比亚大学开发出有同情心的机器人

我们是否有能力控制超级智能人工智能?

人工智能颠覆人类的想法已经讨论了几十年,科学家们刚刚就我们是否有能力控制一台高级计算机超级智能做出了....
的头像 电子魔法师 发表于 01-15 11:12 194次 阅读
我们是否有能力控制超级智能人工智能?

AI驱动的自动化平台的四大关键要素

COVID-19 带来的挑战倒逼全球几乎每一个行业都在加速其数字化转型,企业越来越需要直面混合云环境....
的头像 电子魔法师 发表于 01-15 10:58 188次 阅读
AI驱动的自动化平台的四大关键要素

山东省物联网协会推荐的两位同志成为正高级工程师

近日,经山东省物联网协会辅导和推荐,由山东省老科协组织专家评审认定,孙增荣、侯广尧两位同志取得正高级....
的头像 山东省物联网协会 发表于 01-15 10:40 306次 阅读
山东省物联网协会推荐的两位同志成为正高级工程师

上市公司光云科技拟以1.22亿元溢价收购深绘智能100%股权

美工机器人是深绘智能(DeepDraw)针对于上新量较少,无美工,美工短缺,但要求高品质多样化视觉效....
的头像 Les 发表于 01-15 10:40 361次 阅读
上市公司光云科技拟以1.22亿元溢价收购深绘智能100%股权

如何保障人工智能的安全性

人工智能算法,特别是深度神经网络的可解释性不佳,高维线性,大量依赖数据等固有特性,意味着人工智能系统....
的头像 电子魔法师 发表于 01-15 10:29 224次 阅读
如何保障人工智能的安全性

2020年关于人工智能的十大进展

进展1:OpenAI发布全球规模最大的预训练语言模型GPT-3 2020年5月,OpenAI发布了迄....
的头像 中山市物联网协会 发表于 01-15 10:15 564次 阅读
2020年关于人工智能的十大进展

FPGA中的时钟相关概念

一、时钟相关概念 理想的时钟模型是一个占空比为50%且周期固定的方波。Tclk为一个时钟周期,T1为....
的头像 FPGA之家 发表于 01-15 09:37 110次 阅读
FPGA中的时钟相关概念

人工智能解决方案需要考虑的问题汇总

人工智能解决方案需要考虑的问题主要包括:1.ai处理技术的选择2.ai数据处理的能力3.ai算法的准....
发表于 01-15 09:27 73次 阅读
人工智能解决方案需要考虑的问题汇总

2021年人工智能发展的四个趋势

最近,美国《福布斯》双周刊网站刊载了《2021年人工智能的四大趋势》的报道,根据当下形势,预测了疫情....
发表于 01-15 09:22 346次 阅读
2021年人工智能发展的四个趋势

AI制药迎来发展期

2020年12月,字节跳动向AI制药人才伸出了橄榄枝;9月,腾讯推出首个AI驱动药物研发平台“云深智....
的头像 电子魔法师 发表于 01-15 09:18 450次 阅读
AI制药迎来发展期

如何利用人工智能实现更为高效的下一代数据存储

充分利用人工智能,实现更为高效的下一代数据存储...
发表于 01-15 07:08 0次 阅读
如何利用人工智能实现更为高效的下一代数据存储

移动云获三项权威认证,将助力各行各业数字化进程

移动云深耕数字化领域多年,正在全面布局云上AI能力。目前,中移九天人工智能平台三款产品智能交互平台、....
发表于 01-14 18:29 381次 阅读
移动云获三项权威认证,将助力各行各业数字化进程

数商云SCM供应链管理平台方案布局,实现客户价值的概述

企业供应链管理在整个企业管理流程中起着非常重要的作用,如不能保证及时准确的入库、出库、物流和库存控制....
的头像 Les 发表于 01-14 17:42 161次 阅读
数商云SCM供应链管理平台方案布局,实现客户价值的概述

神经网络的基本概念学习课件免费下载

本文档的主要内容详细介绍的是神经网络的基本概念学习课件免费下载。
发表于 01-14 17:17 33次 阅读
神经网络的基本概念学习课件免费下载

如何使用人工智能神经网络的预测原理及MATLAB的实现

为了提高科研项目评估的客观性和公正性,选用BP网络为模型,利用逆向建模技术和MATLAB实现了“科研....
发表于 01-14 17:09 30次 阅读
如何使用人工智能神经网络的预测原理及MATLAB的实现

【HiSpark IPC DIY Camera试用连载 】第二篇 视频的人脸检测

实在的,ipc本身就带有这个功能,只要摄像头出现画面,本身就会检测人脸,而且从app上看,还有移动检测功能,已经非常强大了,但是自己...
发表于 01-14 00:08 101次 阅读
【HiSpark IPC DIY Camera试用连载 】第二篇 视频的人脸检测

PYNQ框架下如何快速完成3D数据重建

  3D视觉数据与我们的生活已经密不可分,在无人机测绘、实时摄影测量、AR/VR等领域有许多应用。视频的实时处理需要大量的...
发表于 01-07 17:25 101次 阅读
PYNQ框架下如何快速完成3D数据重建

如何培养《未来架构师》(1) :VR+AI潮流下的教育新方向

一、新方向:培养真正属于自己的想法和思考        从中华文化的发展中,《易经》最早观察到宇宙万物的生...
发表于 01-04 10:21 909次 阅读
如何培养《未来架构师》(1)  :VR+AI潮流下的教育新方向

先进的创新教育:AI 思维+设计思维

      2017/10/19,谷歌的DeepMind团队在Nature期刊上发表了一篇文章:“Mastering the game of Go wi...
发表于 01-04 10:16 808次 阅读
先进的创新教育:AI 思维+设计思维

几种ARM编译器及IDE开发环境

ARM应用软件的开发工具根据功能的不同,分别有编译软件、汇编软件、链接软件、调试软件、嵌入式实时操作系统、函数库、评估...
发表于 12-29 09:31 526次 阅读
几种ARM编译器及IDE开发环境

MS1793蓝牙芯片的特性

上海巨微MS1793单模超低功耗蓝牙芯片
发表于 12-29 07:50 0次 阅读
MS1793蓝牙芯片的特性

高焕堂老师AI学习:麦肯锡(MCKINSEY)方法的基本原則

麦肯锡(McKinsey)方法的MECE原則 – 基于MECE原则来拟定扎实的议题起始假定(Initial Hypothesis) – 然后展开探索...
发表于 12-28 09:54 101次 阅读
高焕堂老师AI学习:麦肯锡(MCKINSEY)方法的基本原則

如何培养<龍傳人>的科学创新思考技术

前言 我提出一项假设:科学创新能力式微的原因是:缺乏假设性思考习惯。 于是提出一项激发创新的策略:推广溯因推理(Abductiv...
发表于 12-28 09:45 1717次 阅读
如何培养<龍傳人>的科学创新思考技术

如何同时保存日期,时间与数据到数组?

背景: 硬件ADC,串口通信,发送特定字符串后进行应答 思路:使用循环+延时方式定时采集数据,字符串转成数值,保存到数组,...
发表于 12-26 15:20 1613次 阅读
如何同时保存日期,时间与数据到数组?