深兰科技XAI正形成闭环 人类或将读懂AI推理

10月13日，为期两天的中国国际半导体高管峰会（China International Semiconductor Executive Summit）在上海成功举行，并邀请到了清华大学魏少军教授（IEEE Fellow， CIE Fellow）等演讲嘉宾。

作为全球规模最大的半导体制造产业高管的年度盛会，今年的大会结合人工智能技术应用探讨了半导体行业的发展趋势。深兰科技首席数据科学家、战略委员会战略技术专家、深兰科学院智能社会研究院院长沙文灏受邀参加，作为国内人工智能企业率先公开发表了《深兰科技可解释人工智能（XAI）技术》并作主题演讲。

未来2-3年内，约50%以上的信息系统直接或间接地与机器学习相关，在企业数字化转型（DX）与人工智能的主要应用（自然语言处理、自动驾驶与智能工厂等）中起到了决定性的作用。可解释人工智能（XAI）技术应用正在形成闭环，也是实现安全可信人工智能重要的基础。

XAI架起数据特征和人类概念（语义）空间的桥梁

中国的基础研究在全球占有一定的优势，提出决策帮助推进业务是人工智能的首要任务。传统人工智能的核心是通过机器学习尽可能地把观测样本（训练数据）映射到特征空间中， 而后在特征空间进行分析， 并发现样本在特征空间不同区域内的规律， 从而达到算法要实现的任务目标（如聚类、解析等）。但是人类的分析和决策是利用自身的背景知识，在概念（语义）空间（非定理性）当中完成的。

数据特征空间和人类概念（语义）空间（非定理性）在内涵（结构）与外延（影响）上存在显著的区别，而可解释人工智能就是要填补这二者之间的鸿沟（GAP）。

人工智能模型越来越多地被用于辅助与代替人类决策，这些情况下，企业更需要了解这些模型是如何做出决策的。为了与用户及权益方建立信任，人工智能的应用必须让所有的模型变得更加透明与更易理解。

XAI正形成闭环 人类或将读懂AI推理

人工智能推动企业加速创新，它已经从执行简单任务的自动化操作升级成为与人类互动的强大协作工具。企业已不再将人工智能视为简单的技术工具，而是成为整个组织的变革引擎。未来，企业需要以人机协作为核心，有效地运用工具和改进方法，帮助人与机器更好地相互理解及互动。

自然语言处理技术提高了机器理解书面和口头文字的能力；扩展现实和计算机视觉的进步，可帮助机器准确识别人们周边的实体环境；而可解释人工智能（XAI）正在形成闭环，使人们明确系统做出决策的推理。在人机协作模式下，从部门架构、产品设计、一直到员工的雇用和培训，企业将对业务进行彻底的重构。

使用“提示决策依据的人工智能”，以实现决策的可视化、高度化：

可理解：基于提出预测结果的依据取得业务人员的理解，促进AI的使用；

可确认：可以确认AI正确学习了业务知识，提高业务人员使用AI的愿意；

可改善：在与PoC有较大差别时能迅速确定原因，使AI的预测得到改善。

XAI作为核心的数字化架构

在基于IoT、API管理、网络安全、DevOps、云计算、RPA、容器化的数字化能力的基础上，使用可解释人工智能（XA）作为核心的数字化架构为工业4.0、生态整合、个性化营销、供应链、生产管理等提供人工智能技术的赋能。

比如：当XAI使得AI内部工作透明化时，将有助于建立企业和其他行业监管的信心；当XAI将通过自然语言（语音或文本）来解释它的决定，而不是通过复杂的模型时，使用者会更容易理解，也将推动自然语言解释与XAI的结合使用；当与XAI将建立起信任的桥梁，人们就能够在方方面面中适应并习惯与智能机器一起工作与生活，从而真正享受人工智能技术带来的社会进步。

XAI领域有很好的发展前景，可以帮助企业解决传统AI的不足，在可理解的基础上，全方位推动企业成长与社会发展。

责任编辑：gt