电子发烧友网 > 人工智能 > 正文

怎样让人工智能解释自己

2019年12月10日 14:05 次阅读

由于不久前的剑桥分析丑闻闹得人心惶惶,许多人希望GDPR将成为全球数据隐私新标准的典范。目前一些行业领导者正在呼吁Facebook将GDPR标准应用于其在非欧盟国家的业务。

但隐私只是围关于数据驱动系统之争的一个方面,实际上机器学习支持系统的日益普及引发了一系列相关问题,包括一个对社会产生很大影响且无法量化的问题:偏见。

在我们的生活中,许多重要决策都是由某种系统做出的,很多系统都存在明显的偏见,无论这系统是人、机器还是二者的组合。机器学习在决策制度中的作用越来越大,这为我们提供了一个建立更少偏见的系统的机会,当然也面临着加剧这一问题的风险。

我们通常认为计算机比人类更客观、更公正。然而过去的几年里,许多机器学习系统产生了带有偏见或歧视的结果,人们对此也有着很多争议。2016年时ProPublica曾报道,美国法院用来衡量被告再次犯罪可能性的机器学习算法,在对比背景相似的黑人与白人被告时会认为黑人的“风险更高”,即使系统没有提供有关被告种族的任何数据也依然如此。

雷锋网不久前一篇名为《关于模型可解释性的深入思考:从哪里来,到哪里去?》的文章中,曾详细介绍了学习出一个通用智能行动者的潜力和局限性,算法公平方面细微的以及可以被真正规范化的挑战。人们使用机器学习系统的目的是希望世界更公平、更有效率,而不是进一步放大人类的偏见。

这就是为什么GDPR允许用户可以要求解释机器任何“合法或类似重要”的决策,希望解释的权利能够使“算法歧视”的受害者诉诸人权,从而减轻这种偏见的影响。

但是生成这些类型的解释——即创造可解释的人工智能——是非常复杂的,而且即便系统对决策做出了解释,也有一些评论家认为“无法分辨它们是真的反对偏见,还是仅仅是掩饰偏见。”

怎样让人工智能解释自己

可解释的人工智能以及GDPR是否会使技术更公平?如果不是,随着机器学习的使用变得更加普遍,我们还有什么替代方法可以防范偏见?

机器学习中的偏见

关于偏见的讨论常常被过分简化为诸如“种族主义算法”这样的词语,但其实问题不在于算法本身,而是数据研究团队提供给机器的数据。

例如,收集以往的数据是数据科学项目的一个共同起点,但“历史数据往往偏向于我们不希望转移到未来的方式,”加州大学伯克利分校电子工程与计算机科学学院助理教授、加州大学伯克利分校崛起实验室的创始人之一Joey Gonzalez说。

假设某公司建立了一个筛选求职者的机器学习模型,并基于公司过去筛选类似职位求职者的数据集对模型进行培训。如果该公司的HR曾多次拒绝过那些试图重返职场的前全职父母,则培训的结果很有可能会让模型也将这些存在长期就业缺口的人排除在外。

如果更进一步,这将导致模型过多的拒绝女性求职者(全职父母多为女性)从而造成性别比例失调,即使性别并不是模型培训数据集中的特征。因此在这一领域中,使用机器学习将进一步放大人类的偏见。

而这就是可解释的人工智能的用武之地。如果操作人员能够检查“推理”算法,就有可能在算法产生严重偏差之前进行纠正。

让机器解释自己

由于机器学习系统的行为由它学到的数据所驱动,所以它的工作方式与人们编写的标准计算机程序有很大不同。人们可以测量一个机器学习系统的准确性,但是对于这种系统实际做出决策的可见性是有限的。

(雷锋网注:和人脑类似,人脑的思考是由特定区域内神经元的复杂放电而产生,但人们并不确切知道具体怎样的神经元活动会得出怎样的思考。所以当人们想验证决策正确性时并不会去扫描大脑,而是通过相关数据以及过往的经验判断。)

可解释的人工智能要求机器学习算法可以自己证明决策的正确性。华盛顿大学的研究人员在2016年构建了一种称为LIME的解释技术,并在由Google构建的图像分类神经网络Inception Network上进行了测试

LIME在做出图像分类决策时,不会考虑触发神经网络中的哪个神经元,而是在图像本身中搜索解释。它会将原始图像的不同部分变黑,并通过IncepTIon将产生的“扰动”图像反馈回来,以检查哪些扰动将算法抛离最远。

通过这种方法,LIME可以将初始网络分类决策归因于原始图片的特定特征。例如对于青蛙的图像,LIME发现抹除部分脸部会让初始网络很难识别图像,这表明最初的分类决策大多是基于青蛙的脸。

虽然像LIME这样的特征归属方法并不能完全解释算法的决策,并且在各种类型的机器学习模型上都不能工作的很好,但至少在图像分类方面,它朝着正确方向迈出了一步。

据雷锋网了解,美国的人脸识别系统对黑人的面部识别远不如对白人那般精确(训练算法时用的图像多为白人),这增加了黑人被监控摄像误认导致被逮捕的可能性,严重者甚至会产生误判。更好的解释这些算法决策并加以监督,显然将有助于避免此类不良结果。

人们还需要做什么

虽然可解释的人工智能和神经网络的特征归因很有发展前景,但消除人工智能的偏见最终会归结为一件事:数据。

如果算法的训练数据不能公平的覆盖开发者想要服务的人群,系统就很有可能出现偏差。如果训练数据隐含了历史上的不公平现象,该算法就会学习进而延续甚至放大这些问题。

虽然GDPR和类似的法规对组织如何使用数据进行了一些控制,但它们也无法阻止这些组织使用已经存在偏见的数据集。

算法的发展当然对克服偏见有所帮助,但归根结底责任并不在数学结构、软件或硬件,而是在于这些决策系统的设计者和操作者,人们有责任明智而公平地收集,存储和使用这些数据。

从某种意义上说,减少机器学习算法中的偏见不仅需要人工智能的进步,还需要我们对人类多样性理解的进步。

为了开发公平和负责任的人工智能,技术人员需要社会学家,心理学家,人类学家和其他专家的帮助,他们能够洞察偏见对人类生活的影响,并告诉人们如何避免让偏见影响机器学习系统。

技术本身并不能解决社会问题,但是通过不同学科间的合作,研究者和开发者可以创建有利于更公平社会的机器学习技术。

责任编辑:Ct

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11892次阅读
四轴机器人编程与应用

怎样来守护人工智能时代的隐私

人工智能、物联网、云计算等技术的发展,摄像头、传感器、可穿戴设备等技术的广泛应用,移动场景下的万物互....
发表于 2019-12-10 14:09 0次阅读
怎样来守护人工智能时代的隐私

概率计算对于人工智能有影响吗

英特尔等许多公司押注于概率计算,致力于使未来的系统能够理解和计算自然数据中固有的不确定性,制造出能够....
发表于 2019-12-10 14:01 3次阅读
概率计算对于人工智能有影响吗

大数据和人工智能你了解多少

人工智能和大数据是人们耳熟能详的流行术语,但也可能会有一些混淆。
发表于 2019-12-10 13:54 6次阅读
大数据和人工智能你了解多少

AI+医疗的触角伸向基层 其社会价值逐渐显现出来

12月8日,《麻省理工科技评论》(MIT Technology Review)发布报告《AI医疗:亚....
发表于 2019-12-10 13:53 9次阅读
AI+医疗的触角伸向基层 其社会价值逐渐显现出来

英伟达备战数据中心

现在每个人都热切渴望。这是因为新技术加速了新市场的发展。过去10年,英伟达的新一代特斯拉GPU加速器....
发表于 2019-12-10 13:52 11次阅读
英伟达备战数据中心

智能云存储技术将成平安城市最有力的武器

在摄像头满天飞的时代,视频大数据、安防大数据已不再受困于“数量”不够,而是“乱”。
发表于 2019-12-10 13:52 5次阅读
智能云存储技术将成平安城市最有力的武器

企业人工智能平台建设的最佳实践的方式是什么

人工智能已经成为企业实现许多目标的迫切需求的功能之一,从开发新产品和不同的产品,到提高现有产品和服务....
发表于 2019-12-10 13:50 6次阅读
企业人工智能平台建设的最佳实践的方式是什么

AI在医疗领域智能帮我们诊断吗

AI可以采用深度学习技术,来重建高精度的人体运动三维模型,从而准确获取关节点、关节角等信息,进而帮助....
发表于 2019-12-10 13:44 7次阅读
AI在医疗领域智能帮我们诊断吗

人工智能技术可以让人永葆青春?

随着医疗保健行业与数据采集技术的发展,AI技术与生物医疗产业的结合呈现出巨大潜力,不仅在制药领域中的....
发表于 2019-12-10 13:40 7次阅读
人工智能技术可以让人永葆青春?

智能照明在人工智能时代会怎样变

智能照明系统将具备自我学习的能力,能够根据大数据的分析和学习提升,更智能地“揣测”出用户的需求偏好,....
发表于 2019-12-10 13:33 9次阅读
智能照明在人工智能时代会怎样变

AI提供的落子胜率可以直接比较大小吗

胜率只是AI衡量落子点好坏的指标之一,而人类棋手能否从AI推荐的着法中取得收益,直接取决于对其后续变....
发表于 2019-12-10 11:55 15次阅读
AI提供的落子胜率可以直接比较大小吗

5G+云计算+AI三者融合创新在数字化转型过程中...

12月9日,中国信息通信研究院发布了《“5G+云+AI”:数字经济新时代的引擎》的白皮书(以下简称“....
发表于 2019-12-10 11:48 16次阅读
5G+云计算+AI三者融合创新在数字化转型过程中...

AI辅助人的视觉需要跨过多少坎

人造视网膜技术具有很强的综合性和复杂性,需要机器视觉、IC设计、半导体工艺、纳米技术、神经科学、生物....
发表于 2019-12-10 11:47 21次阅读
AI辅助人的视觉需要跨过多少坎

AI芯片行业未来的发展空间有多大

智能手机市场逐渐饱和的情况下,大数据、云计算、人工智能、物联网成为科技发展的新风口。
发表于 2019-12-10 11:43 15次阅读
AI芯片行业未来的发展空间有多大

人工智能与实体经济深度融合 需要持续培养复合型人...

智能安保、语音识别、智能客服……几年间,被视为新一轮产业变革核心驱动力的人工智能技术边界不断扩大,已....
发表于 2019-12-10 11:40 54次阅读
人工智能与实体经济深度融合 需要持续培养复合型人...

英特尔斥巨资买AI然后卖奔腾 却难以重回辉煌

出于众所周知的原因,英特尔前不久被传出准备以10-20亿美元收购以色列AI创业公司Habana La....
发表于 2019-12-10 11:39 40次阅读
英特尔斥巨资买AI然后卖奔腾 却难以重回辉煌

人工智能的安全API如何使用

企业的数字转型通常是基于API(应用程序编程接口)之上的,API可驱动新的运营模型,提供对业务逻辑应....
发表于 2019-12-10 11:39 14次阅读
人工智能的安全API如何使用

人工智能怎样去影响交通运输行业

人工智能在很长的一段时间里已经超越了其在研究中心的理论存在,在人们日常生活中已经无所不在。
发表于 2019-12-10 11:35 28次阅读
人工智能怎样去影响交通运输行业

AI卓越中心怎样进行转型

AI卓越中心应该有集中的功能报告(强硬的),但它也必须在产生最大价值的地方(业务内部)嵌入操作(柔性....
发表于 2019-12-10 11:30 14次阅读
AI卓越中心怎样进行转型

初创公司Cerebras展示世界上最快的人工智能...

人工智能芯片初创公司Cerebras Systems宣称,由于拥有40万个计算内核的大型晶圆级引擎处....
发表于 2019-12-10 11:23 32次阅读
初创公司Cerebras展示世界上最快的人工智能...

人工智能在零售旺季如何实现其应用价值

如今,零售体验比以往任何时候都更加复杂,而且结账线长,库存低以及商品价格过高通常会促使消费者远离购买....
发表于 2019-12-10 11:20 55次阅读
人工智能在零售旺季如何实现其应用价值

SaaS 企业怎样做才会有未来

中国的 SaaS 企业之间出现今天的纷乱跨界竞争局面,只是一个新领域初期的暂时现象。那些不理性的竞争....
发表于 2019-12-10 10:54 7次阅读
SaaS 企业怎样做才会有未来

AI的发展有没有什么迹象

AI(人工智能)发展得越来越快、也越来越多,对我们的影响也越来越深。
发表于 2019-12-10 10:51 14次阅读
AI的发展有没有什么迹象

AI赋能中国医疗 落地的同时伴随着新的商机

根据世界卫生组织的估计,2030年亚洲地区需要超过1200万名新的医疗保健专业人员,比当前增长70%....
发表于 2019-12-10 10:47 31次阅读
AI赋能中国医疗 落地的同时伴随着新的商机

中国已超过美国成为人工智能领域专利申请量最高的国...

人工智能在"大智慧"时代扮演着越来越重要的角色,其技术广泛渗透到交通、医疗、教育、物流、养老、文化、....
发表于 2019-12-10 10:45 67次阅读
中国已超过美国成为人工智能领域专利申请量最高的国...

英特尔受到了人工智能什么影响

神经网络将被用于各种应用的前景已经变得很清晰,从产品推荐算法到客服机器人的自然语言处理。
发表于 2019-12-10 10:43 47次阅读
英特尔受到了人工智能什么影响

云+AI怎样坐定格局

云+AI已经成为行业默认的规则,搭载AI已经成为云计算未来的标配。
发表于 2019-12-10 10:35 52次阅读
云+AI怎样坐定格局

数字孪生关键技术的前景怎么样

随着新一代信息技术与实体经济的加速融合,工业数字化、网络化、智能化演进趋势日益明显,催生了一批制造业....
发表于 2019-12-10 10:31 14次阅读
数字孪生关键技术的前景怎么样

Facebook AI在纸牌Hanabi项目取得...

近日,Facebook AI部门宣布,其AI程序在日式纸牌项目“Hanabi”(疑似日本花札)中取得....
发表于 2019-12-10 10:06 51次阅读
Facebook AI在纸牌Hanabi项目取得...

英伟达人工智能转型之路会怎么样?

最近,端测的AI推理芯片市场一片火热,英伟达和英特尔正面对垒,初创企业如履寒冰。而云上AI训练市场,....
发表于 2019-12-10 09:48 78次阅读
英伟达人工智能转型之路会怎么样?

人工智能的发展对天体物理学会有什么影响

一位以钝器评估而闻名的理论物理学家说,物理学家避免使用“人工智能”一词:不仅因为它有点夸大其词,而且....
发表于 2019-12-10 09:11 57次阅读
人工智能的发展对天体物理学会有什么影响

中国在区块链和AI领域的位置怎样

从金融科技的角度来说,区块链技术是其中一个方面。
发表于 2019-12-10 09:00 12次阅读
中国在区块链和AI领域的位置怎样

被字节跳动超越的百度,计划藉由三大战略提振业绩

百度曾经被认为是中国科技产业发展的保守派,因为它拥有中国最大的搜索引擎以及广泛的门户网站和应用程序。....
发表于 2019-12-09 19:39 851次阅读
被字节跳动超越的百度,计划藉由三大战略提振业绩

人工智能在网络安全中有哪一些作用

人工智能的功能是由一系列的技术支持的,比如机器学习、深度学习、计算机视觉和自然语言处理,以检测模式并....
发表于 2019-12-09 17:13 40次阅读
人工智能在网络安全中有哪一些作用

销售行业是怎样被人工智能改变的

人工智能和机器学习现在很容易采用,并且人们也知道可以使现在执行的许多重复性任务和过程实现自动化。
发表于 2019-12-09 17:06 46次阅读
销售行业是怎样被人工智能改变的

小米有品上架小白智能猫眼M1,采用小米人脸识别算...

12月8日消息,小米有品上架小白智能猫眼M1,具有AI人形人脸侦测功能,提供60天续航,众筹价格为3....
发表于 2019-12-09 15:57 635次阅读
小米有品上架小白智能猫眼M1,采用小米人脸识别算...

美国禁令对商汤的影响未知,商汤或自行开发AI芯片

商汤并未披露美国禁令对其供应链带来的影响,不过据知情人士透露,商汤的应急计划包括自行开发AI芯片。
发表于 2019-12-09 15:39 73次阅读
美国禁令对商汤的影响未知,商汤或自行开发AI芯片

AI时代的输入法 变聪明的同时也正想办法“变笨”

19世纪80年代前后,计算机引进中国,“如何输入汉字”还是一个待解决的实际问题。而今日,我们几乎每天....
发表于 2019-12-09 15:33 53次阅读
AI时代的输入法 变聪明的同时也正想办法“变笨”

AI安防技术多方面赋能金融 引领金融行业的智慧化...

自AI开始全面渗透安防行业后,安防的边界,也就变得愈加模糊。而摄像机的身份,犹如手机从通信器材升级为....
发表于 2019-12-09 15:33 63次阅读
AI安防技术多方面赋能金融 引领金融行业的智慧化...

Facebook推出新款AI打牌机器人 可打败专...

Facebook 新推出的 AI 打牌机器人,已经获得了多人协作性上的全面提升。外媒报道称,新机器人....
发表于 2019-12-09 15:10 58次阅读
Facebook推出新款AI打牌机器人 可打败专...

人工智能土壤监测系统可获取巨额利润 为农民节省数...

全世界的农民都可以使用伦敦布鲁内尔大学开发的人工智能土壤监测系统来获取巨额利润。
发表于 2019-12-09 11:51 58次阅读
人工智能土壤监测系统可获取巨额利润 为农民节省数...

AI+教育影响深远 未来行业格局或将变革

科技创新推动人类发展的进步,人工智能(Artificial Intelligence,简称AI)已逐....
发表于 2019-12-09 11:15 114次阅读
AI+教育影响深远 未来行业格局或将变革

一文读懂WMS的进阶史

双十一高效配送的背后离不开各类物流系统的支持,WMS系统作为仓配中心的“智慧大脑”在其中发挥着重要作用。让我...
发表于 2019-12-06 11:44 116次阅读
一文读懂WMS的进阶史

【转载】如何从零入门人工智能(AI)具体学习步骤和方法

手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+开发板)详情链接: 上次我们讲到人工智能的...
发表于 2019-11-28 16:20 167次阅读
【转载】如何从零入门人工智能(AI)具体学习步骤和方法

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 348次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 8252次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

传感器和人工智能的关系

  谁来阐述一下传感器和人工智能的关系? 手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+...
发表于 2019-11-25 15:51 234次阅读
传感器和人工智能的关系

5G与人工智能的关系

  谁来阐述一下5G与人工智能的关系? 手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现...
发表于 2019-11-22 17:08 272次阅读
5G与人工智能的关系

大彩智能屏在美容行业的应用.pdf

大彩智能屏在美容行业的应用:随着用户对显示效果的要求越来越高,传统的数码管已经不能满足客户的要求,智能彩屏显示...
发表于 2019-11-22 16:07 195次阅读
大彩智能屏在美容行业的应用.pdf

机器学习的回归任务

常见线性回归理论与算法实现
发表于 2019-10-29 11:09 93次阅读
机器学习的回归任务

【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

       人工智能已成为各行各业离不开的主题,电子发烧友论坛和瑞芯微电子联合推出的RK1808试用...
发表于 2019-10-25 13:05 272次阅读
【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808