浅谈机器学习模型的可解释性和透明性
XAI 主要解决以下问题：对于使用者而言某些机器学习模型如同黑盒一般，给它一个输入，决策出一个结果。比如大部分深度学习的模型，没人能确切知道它决策的依据以及决策是否可靠。如图 1 的 output 所示，为一般网络给出的决策，缺乏可解释性的结果让使用者感到困惑，严重限制了其在现实任务中的广泛应用。
图 1 如今的深度学习 [1]
所以为了提高机器学习模型的可解释性和透明性，使用户和决策模型之间建立信任关系，近年来学术界进行了广泛和深入的研究并提出了可解释的机器学习模型。如图 2，模型在决策的同时给出相应的解释，以获得用户的信任和理解。
图 2 可解释的机器学习 [1]
对于机器学习模型来说，我们常常会提到２个概念：模型准确性（accuracy）和模型复杂度（complexity）。模型的复杂度与准确性相关，又与模型的可解释性相对立。因此我们希望找到一种模型如图 3 所示，具有可解释性的同时尽可能保证模型的准确性和复杂度。
编辑：hfy
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
机器学习
+关注
关注
66文章
8126浏览量
130570 -
深度学习
+关注
关注
73文章
5239浏览量
119910
发布评论请先 登录
相关推荐
机器学习模型可解释性的结果分析
模型的可解释性是机器学习领域的一个重要分支，随着 AI 应用范围的不断扩大，人们越来越不满足于模型的黑盒特性，与此同时，金融、自动驾驶等领域
发表于 09-28 10:17
•511次阅读
什么是“可解释的”? 可解释性AI不能解释什么
通过建立既可解释又准确的模型来改良这种错误的二分法。关键是将神经网络与决策树相结合，在使用神经网络进行低级决策时保留高级的可解释性。
发表于 05-31 10:51
•8043次阅读
机器学习模型的“可解释性”的概念及其重要意义
如果考察某些类型的“事后可解释性”（post-hoc interpretable），深度神经网络具有明显的优势。深度神经网络能够学习丰富的表示，这些表示能够可视化、用语言表达或用于聚类。如果考虑对可解释性的需求，似乎线性
Explainable AI旨在提高机器学习模型的可解释性
Google Cloud AI战略总监Tracy Frey在 今天的博客中解释说，Explainable AI旨在提高机器学习模型的可解释性
机器学习模型可解释性的介绍
模型可解释性方面的研究，在近两年的科研会议上成为关注热点，因为大家不仅仅满足于模型的效果，更对模型效果的原因产生更多的思考，这...
人工智能的透明度和可解释性义务
SHAP 聚类提供了机器学习模型的局部、全局和组级决策的解释。这里提供的扩展允许对解释进行进一步分析。这允许从业者为基于
人工智能可解释性规制面临的问题分析
在实践中，人工智能的规模化应用推广，在很大程度上依赖于用户能否充分理解、合理信任并且有效管理人工智能这一新型伙伴。为此，确保人工智能产品、服务和系统具有透明性（Transparency）与可解释性（Explainability）是至关重要的。
工商网监
评论