侵权投诉

浅谈机器学习模型的可解释性和透明性

39度创意研究所 2021-01-05 14:02 次阅读

XAI 主要解决以下问题:对于使用者而言某些机器学习模型如同黑盒一般,给它一个输入,决策出一个结果。比如大部分深度学习的模型,没人能确切知道它决策的依据以及决策是否可靠。如图 1 的 output 所示,为一般网络给出的决策,缺乏可解释性的结果让使用者感到困惑,严重限制了其在现实任务中的广泛应用。

o4YBAF_0AJuAZRsxAAH_ezRJoDs981.png

图 1 如今的深度学习 [1]

所以为了提高机器学习模型的可解释性和透明性,使用户和决策模型之间建立信任关系,近年来学术界进行了广泛和深入的研究并提出了可解释的机器学习模型。如图 2,模型在决策的同时给出相应的解释,以获得用户的信任和理解。

pIYBAF_0AKiAItuOAAH7ey5CL0A419.png

图 2 可解释的机器学习 [1]

对于机器学习模型来说,我们常常会提到2个概念:模型准确性(accuracy)和模型复杂度(complexity)。模型的复杂度与准确性相关,又与模型的可解释性相对立。因此我们希望找到一种模型如图 3 所示,具有可解释性的同时尽可能保证模型的准确性和复杂度。
编辑:hfy

收藏 人收藏
分享:

评论

相关推荐

恩智浦半导体选择亚马逊云科技为首选云服务提供商,支持云上电子设计自动化

全球领先的专业半导体设计和制造商将利用亚马逊云科技完善的基础设施和业界领先的云服务组合来提高半导体设....
发表于 10-25 17:58 86次 阅读

AGM MCU+FPGA

AG10KSDE176(+ MCU)SDRAM器件 结合了64MBit 32位166MHz SDRA....
发表于 10-25 17:21 3次 阅读
AGM MCU+FPGA

NVIDIA加速虚拟人项目渲染与推理效率

腾讯AI LAB致力于打造产学研用一体的 AI 生态,主要的研究方向包括计算机视觉、语音识别、自然语....
的头像 NVIDIA英伟达企业解决方案 发表于 10-22 09:12 187次 阅读

华为开发者大会2021年时间及地点

2021年10月22日~24日,华为将在中国松山湖举行2021华为开发者大会,本次大会活动依旧精彩,....
的头像 ss 发表于 10-21 16:43 924次 阅读

华为开发者大会2021官网:华为开发者大会2021预告

华为开发者大会2021将于10月22日正式召开,HarmonyOS 3.0版本有望在本次开发者大会进....
的头像 lhl545545 发表于 10-21 16:09 1342次 阅读

深度学习部分监督的实例分割环境

实例分割的任务是将图像中的像素分组为单个事物的实例,并用类标签(可计数的对象,如人、动物、汽车等,并....
的头像 TensorFlow 发表于 10-21 14:05 193次 阅读

嵌入式培训班有必要吗?

对于很多想要从事嵌入式相关工作的人来说,自学还是参加嵌入式培训班一直都是个大难题,难度不亚于哈姆雷特....
发表于 10-21 13:21 13次 阅读
嵌入式培训班有必要吗?

嵌入式工程师“中年危机”应对策略上

嵌入式工程师”中年危机‘的问题(这是个普遍现象),当然,面向对象不只是程序猿。众所周知,“钱’是个好....
发表于 10-20 20:21 19次 阅读
嵌入式工程师“中年危机”应对策略上

深度学习在嵌入式设备上的应用

下面来探讨一下深度学习在嵌入式设备上的应用,具体如下:1、深度学习的概念源于人工神经网络的研究,包含....
发表于 10-20 17:51 8次 阅读
深度学习在嵌入式设备上的应用

SK海力士成功开发出业界第一款HBM3 DRAM 内存芯片

韩国SK海力士公司刚刚正式宣布已经成功开发出业界第一款HBM3 DRAM内存芯片,可以实现24GB的....
的头像 lhl545545 发表于 10-20 16:22 390次 阅读

SK海力士开发业界第一款HBM3 DRAM

SK海力士(或“公司”,www.skhynix.com) 宣布业界首次成功开发现有最佳规格的HBM3....
发表于 10-20 10:07 794次 阅读
SK海力士开发业界第一款HBM3 DRAM

嵌入式AI平台介绍

CSDN下载链接:目录1 技术方案 11.1 可选方案 11.1.1 ARM 11.1.2 CPU+....
发表于 10-19 18:33 12次 阅读
嵌入式AI平台介绍

VisionPro Deep Learning帮助软包锂电池实现外观检测自动化

VisionPro Deep Learning基于大量图片建立了高精度的神经网络模型,大大缩短了同类....
发表于 10-19 15:52 715次 阅读
VisionPro Deep Learning帮助软包锂电池实现外观检测自动化

Arm通过虚拟硬件与新的解决方案导向的产品 带动物联网经济转型

Arm今天发布Arm® 物联网全面解决方案(Arm Total Solutions for IoT)....
发表于 10-19 14:15 588次 阅读
Arm通过虚拟硬件与新的解决方案导向的产品 带动物联网经济转型

雷诺汽车使用深度学习网络估计 NOx 排放量

雷诺汽车构建并训练了一个长短期记忆 (LSTM) 网络,该网络预测 NOx 水平的准确率达到了 85....
的头像 MATLAB 发表于 10-19 10:12 266次 阅读

电子行业B2B数字化升级, 腾采通先行

以往,在数以亿计的电子元器件中快速找到想要的型号,如同大海捞针一般。直到一款B2B交易型SaaS(S....
发表于 10-15 15:49 1345次 阅读
电子行业B2B数字化升级, 腾采通先行

高性能的机器学习让边缘计算更给力

在科技日新月异的当今社会,人工智能 (AI) 的研究工作已取得惊人进展,计算机的用途也在不断拓宽。 机器在执行某些任务时比起...
发表于 10-15 13:58 505次 阅读

Microchip将举办人机交互解决方在线研讨会

Microchip将于10月26日(周二)举办题为《业内首款集图形、触摸和机器学习于一体的人机交互(....
的头像 Microchip微芯 发表于 10-15 10:51 263次 阅读

竹间智能公司好不好?AI商业落地,高效赋能众多企业差异化发展

2021世界人工智能大会的AI商业落地论坛,亿欧EqualOcean揭晓了“2021中国AI商业落地....
的头像 话说科技 发表于 10-14 09:28 247次 阅读
竹间智能公司好不好?AI商业落地,高效赋能众多企业差异化发展

Pure Storage推出创新服务及软件产品 迈向现代化数据体验新里程碑

Pure Storage通过实现将存储以类似云的自动化和交付方式,无缝连接基础设施运营与应用程序,为....
的头像 西西 发表于 10-13 15:49 1609次 阅读
Pure Storage推出创新服务及软件产品 迈向现代化数据体验新里程碑

大联大世平集团推出基于Intel与Orbit产品的车牌识别解决方案

大联大控股宣布,其旗下世平推出基于英特尔(Intel)Movidius与律碁(Orbit)AiCam....
发表于 10-13 09:55 892次 阅读
大联大世平集团推出基于Intel与Orbit产品的车牌识别解决方案

如何建设机器学习平台,该如何去做

00. 平台的业务 从平台这个概念本身来说,它提供的是支撑作用,通过整合、管理不同的基础设施、技术框....
的头像 茶棚小二的专栏 发表于 10-12 17:42 288次 阅读

Deep Edge AI使得算法的规模正不断缩小

机器学习和深度学习网络有可能通过提供更强大的全新方法来分析现场数据,从而极大地提高产品价值。Deep....
的头像 STM32单片机 发表于 10-12 17:36 251次 阅读

还在数据中台与传统大数据平台之间傻傻分不清?

作者:彭锋 宋文欣 孙浩峰 来源:大数据DT(ID:hzdashuju),本文经授权转载 导读:我们....
的头像 工业互联网前线 发表于 10-12 17:16 407次 阅读

10具有挑战性的Python项目创意

你知道 Python 是被称为 全能编程语言 的吗?是的,它确实是,虽然不应该在每个项目中都使用它。....
的头像 Android编程精选 发表于 10-12 10:43 336次 阅读

如何开发与自定义应用的音频分类模

在 Google I/O 大会上我们分享了一套教程,帮大家在音频方面使用机器学习。在这篇文章中,您可....
的头像 TensorFlow 发表于 10-11 10:08 836次 阅读

向量扩展将定稿 RISC-V机器学习的崛起

电子发烧友网报道(文/周凯扬)RISC-V作为一个与x86和Arm相比仍算年轻的架构,自然需要不少扩....
的头像 电子发烧友网 发表于 10-08 09:29 317次 阅读
向量扩展将定稿 RISC-V机器学习的崛起

Python的矩阵传播机制

一、Python的矩阵传播机制(Broadcasting) 我们知道在深度学习中经常要操作各种矩阵(....
的头像 Linux爱好者 发表于 09-30 16:53 346次 阅读

依托战略性的端到端供应链策略提升产品价值

全球半导体市场关注的焦点莫过于“芯片荒”问题。严重的缺货已经打破了正常的生产节奏,持续困扰着各行各业....
的头像 西西 发表于 09-30 16:24 2238次 阅读
依托战略性的端到端供应链策略提升产品价值

如何使用检测模型进行唤醒词检测模型的部署

随着机器学习的发展,TinyML(微型机器学习)已在你的家里、车里、甚至口袋里工作了。什么是 Tin....
的头像 TensorFlow 发表于 09-30 11:22 472次 阅读

用于检测异常的胸部X光图像的深度学习系统

在医学成像中应用机器学习 (ML),为改善胸部 X 光 (CXR) 图像解读的可用性、延迟时间、准确....
的头像 TensorFlow 发表于 09-30 11:16 424次 阅读

贝壳/皮革大理石深度学习检测案例

通过系统使用人工智能技术,通过深度学习算法、数据训练不断优化,提高识别效果,结合工业相机,控制技术实....
发表于 09-29 18:05 36次 阅读

数据挖掘的定义及算法

数据挖掘通常与计算机科学有关,并通过统计、在线分析处理、情报检索、机器学习、专家系统(依靠过去的经验....
发表于 09-29 14:34 39次 阅读

借助深度学习算法实现5秒内克隆你的声音

大家应该都知道声音克隆技术,通俗的来说就是借助深度学习算法,可以完全模拟某个人的声音,而且由机器合成....
的头像 Android编程精选 发表于 09-29 11:45 368次 阅读

MathWorks发布MATLAB和Simulink版本 2021b

MathWorks 于今日发布 MATLAB 和 Simulink 产品系列版本 2021b。版本 ....
发表于 09-28 11:23 1223次 阅读
MathWorks发布MATLAB和Simulink版本 2021b

安谋科技再获世界互联网大会领先科技成果奖

世界互联网领先科技成果发布活动”自2016年起已成功举办了五届, 成为了全球互联网领域的科技盛宴。
发表于 09-28 09:51 1023次 阅读
安谋科技再获世界互联网大会领先科技成果奖

模型量化会带来哪些好处?

量化算法具有什么特点? 模型量化会带来哪些好处? ...
发表于 09-28 06:32 0次 阅读

请问STM32cubummx生成工程的流程是怎样的?

STM32cubummx生成工程的流程是怎样的?
发表于 09-27 07:41 0次 阅读

分析一个不错的机器学习项目简历收集册

分析一个不错的机器学习项目简历收集册
发表于 09-26 06:03 0次 阅读

数据编排支持人工智能(AI)的下一步发展

深度学习的快速发展给大规模实现该技术所需的硬件架构带来了巨大压力。尽管由于意识到性能是一个绝对要求,....
发表于 09-24 16:14 3407次 阅读
数据编排支持人工智能(AI)的下一步发展

如何利用AI核心来开发极低功耗的AI应用

人工智能应用的市场份额稳步增长。为此,意法半导体提供广泛的产品组合,轻松实现多级别的人工智能应用。在....
的头像 意法半导体中国 发表于 09-24 09:56 303次 阅读

高性能的机器学习让边缘计算更给力-iMX8M Plus为边缘计算赋能

在科技日新月异的当今社会,人工智能 (AI) 的研究工作已取得惊人进展,计算机的用途也在不断拓宽。 机器在执行某些任务时比起...
发表于 09-24 09:09 303次 阅读

解读数据挖掘在智慧医疗领域的应用

本项目是通过学习机器学习与人工智能、数据挖掘的理论知识,将理论运用于智慧医疗等应用探索中,从而产出高....
的头像 深度学习自然语言处理 发表于 09-23 16:34 2420次 阅读

探究SoundStream神经音频编解码器

发布人:Google Research 研究员 Neil Zeghidour 和 Marco Tag....
的头像 TensorFlow 发表于 09-23 09:49 317次 阅读
探究SoundStream神经音频编解码器

BigDL有何功能

BigDL是什么?BigDL有何功能?
发表于 09-23 07:17 101次 阅读

瑞萨电子加速面向ADAS和自动驾驶应用的深度学习开发

全新R-Car SDK为车规级计算机视觉和AI功能而打造,且经过优化,可与瑞萨前沿R-Car V3H....
发表于 09-22 11:16 1066次 阅读
瑞萨电子加速面向ADAS和自动驾驶应用的深度学习开发

基于i.MX 8M Plus的康佳特模块使Qseven的设计在未来获得巨大的性能提升

功能强大的新型Qseven模块基于i.MX 8M Plus应用处理器,具有1.8 GHz ARM C....
发表于 09-15 11:35 2450次 阅读
基于i.MX 8M Plus的康佳特模块使Qseven的设计在未来获得巨大的性能提升

iphone13起售价为5999元,A15的机器学习能力提升了50%

苹果在发布会上自豪的表示“采用A15仿生芯片,进一步拉开与业界的差距”。强大的机器学习能力贯穿在芯片....
的头像 倩倩 发表于 09-15 09:34 543次 阅读

苹果发布会:十三真的香,你心动了没有

iPhone 13系列外观设计几乎没有什么变化,最大的变化就是摄像头的部分排布以及摄像头的模组的尺寸....
的头像 倩倩 发表于 09-15 09:10 1452次 阅读

新思科技PrimeSim可靠性分析解决方案加速任务关键型IC设计超收敛

经晶圆厂认证的全生命周期可靠性签核有助于预防汽车、医疗和5G芯片设计中的过度设计和昂贵的后期ECO(....
发表于 09-14 10:22 2229次 阅读

人工智能和机器学习带来新一代物联网解决方案

自动化应用、前沿、视频监控、智慧城市、医疗、汽车及交易活跃的市场。 人工智能和机器学习将为各行各业带....
的头像 易络盟电子 发表于 09-14 10:04 1579次 阅读

符合IEPE标准的CbM机器学习赋能平台

CbM需要捕获全带宽数据,以确保时域和频域中的所有谐波、混叠及其他机械相互作用都得到考虑。这种数据收....
发表于 09-13 12:45 3933次 阅读
符合IEPE标准的CbM机器学习赋能平台

怎样去设计一种基于51单片机的温度报警系统

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言        一、pa...
发表于 09-10 06:54 101次 阅读

高性能的机器学习让边缘计算更给力-iMX8M Plus为边缘计算赋能

在科技日新月异的当今社会,人工智能 (AI) 的研究工作已取得惊人进展,计算机的用途也在不断拓宽。 机器在执行某些任务时比起...
发表于 09-07 13:55 202次 阅读

人工智能基本概念机器学习算法

目录人工智能基本概念机器学习算法1. 决策树2. KNN3. KMEANS4. SVM5. 线性回归深度学习算法1. BP2. GANs3. CN...
发表于 09-06 08:21 101次 阅读

NLP实操手册: 基于Transformer的深度学习架构的应用指南(综述) 精选资料分享

点上方人工智能算法与Python大数据获取更多干货在右上方···设为星标★,第一时间获取资源仅做学术分享,如有侵权,联系删除转...
发表于 09-02 07:39 101次 阅读