大数据时代还需要数据治理吗？如何面向用户开展大数据治理？-电子发烧友网

前段时间写作了一篇独家 | 以数据价值视角，构建工业互联网全景认知“数据线”，获得了业界行业人士的关注和好评。近期也在围绕数据条线深挖，渐次发现了很多专业领域，比如“数据空间”、“数据治理”、“数据中台”等等。

实际上，这些领域的研究和应用在大数据崛起时已经得到挖掘，但在制造业的工业大数据领域，相对谈的较少。而这俨然又是一个新的天地。

在大数据和工业互联网显得热闹的今天，同时带来了“概念泛化”的困扰。在“大数据”面前加上“工业”二字，但并不足以代表“工业大数据”的真实意思，在“互联网”面前加上“工业”二字，当然也不能代表“工业互联网”的内涵和边界；

尽管如此，“数据”价值的挖掘和释放，大数据和互联网时期的关于“数据”领域的方法和策略，也许对于制造领域的工业大数据和工业互联网有所借鉴，不妨先看为敬。

本文目录：

一、大数据时代还需要数据治理吗？

二、如何面向用户开展大数据治理？

三、面向用户的自服务大数据治理架构

四、总结

一、大数据时代还需要数据治理吗？

数据平台发展过程中随处可见的数据问题

大数据不是凭空而来，1981年第一个数据仓库诞生，到现在已经有了近40年的历史，相对数据仓库来说我还是个年轻人。而国内企业数据平台的建设大概从90年代末就开始了，从第一代架构出现到现在已经经历了近20年的时间。

在这20年的时间里，国内数据平台实施者可以说是受尽折磨，数据项目一直不受待见，是出了名的脏活累活。

可以说，忽视数据治理给数据平台建设带来了不少问题。随处可见的数据不统一，难以提升的数据质量，难以完成的数据模型梳理等源源不断的基础性数据问题，限制了数据平台发展，导致数据应用不能在商业上快速展示效果。

举一个典型商业智能应用的例子，管理驾驶舱可能很多朋友都听说过，很多企业建设了管理驾驶舱，但是建设完之后往往成为摆设，只有当领导需要看的时候，大家才去拼命改数据。

为什么数据平台的建设遇到这么多“坎”，而且难以真正发挥其商业价值？其实核心问题还是数据本身不统一，数据内容准确度不高。

数据治理逐渐受到各行业认识

我国最早意识到数据治理重要性的行业银行是金融行业。由于对数据的强依赖，金融业一直非常重视数据平台的建设，经过几代数据平台的验证，发现数据治理是平台建设的主要限制因素，而且随着投资和建设的投入增加，对数据治理的重要性的认识也越来越深刻。

人民银行与银监会也非常重视数据治理，从08年开始，在全国银行业推行统一的数据标准，控制行业的数据质量。工行、建行、国开等大型银行，对数据治理都非常重视。08年前，我们与国开一起开始了数据治理的建设，下图展示的就是国开银行针对数据全生命周期的数据管控。

如今各行业都开始了大数据平台的建设，希望利用大数据的能力，来实现数字化转型。大数据平台的建设本质上还是数据的建设，传统数据平台碰到的所有问题大数据平台都有可能碰到，由于数据量级的变化，大数据平台必然还会产生新的问题。

大数据时代下需要新一代的数据治理能力

目前大数据平台的突出问题主要体现在以下四方面：

数据不可知：用户不知道大数据平台中有哪些数据，也不知道这些数据和业务的关系是什么，虽然意识到了大数据的重要性，但平台中有没有能解决自己所面临业务问题的关键数据？该到哪里寻找这些数据？

数据不可控：数据不可控是从传统数据平台开始就一直存在的问题，在大数据时代表现得更为明显。没有统一的数据标准导致数据难以集成和统一，没有质量控制导致海量数据因质量过低而难以被利用，没有能有效管理整个大数据平台的管理流程。

数据不可取：用户即使知道自己业务所需要的是哪些数据，也不能便捷自助地拿到数据，相反，获取数据需要很长的开发过程，导致业务分析的需求难以被快速满足，而在大数据时代，业务追求的是针对某个业务问题的快速分析，这样漫长的需求响应时间是难以满足业务需求的。

数据不可联：大数据时代，企业拥有着海量数据，但企业数据知识之间的关联还比较弱，没有把数据和知识体系关联起来，企业员工难以做到数据与知识之间的快速转换，不能对数据进行自助的的探索和挖掘，数据的深层价值难以体现。

通过分析以上四类问题，我们发现传统数据平台面临的问题，在大数据时代不仅没有消失，还不断涌现出新的问题，传统的数据治理需要提升能力，来解决大数据平台建设过程中的这些问题。

在传统数据平台阶段，数据治理的目标主要是做管控，为数据部门建立一个的治理工作环境，包括标准、质量等。在大数据平台阶段，用户对数据的需求持续增长，用户范围从数据部门扩展到全企业，数据治理不能再只是面向数据部门了，需要成为面向全企业用户的工作环境，需要以全企业用户为中心，从给用户提供服务的角度，管理好数据的同时为用户提供自助获得大数据的能力，帮助企业完成数字化转型。

二、如何面向用户开展大数据治理？

面向用户的大数据治理实践案例

很多企业经过一段时间的摸索，已经看到了用户对大数据治理的这种需求，大数据治理也持续在各行业的大数据平台建设中得到关注。

在我参与过的项目中给大家举个例子。最近普元主导了某电力公司的新一代数据治理平台建设，我们融合该电力公司现有的数据管理工具建设成果，以元数据为基础，实现了贯穿数据设计、产生、存储、迁移、使用、归档等环节的数据全生命周期管理，以及数据从源端到数据中心，再到应用端的全过程的管理，做到了以用户为中心，通过大数据治理，为用户提供了更便捷、更灵活、更准确地获得企业大数据资产的能力。

该电力公司的大数据治理的起点是先以元数据为基础，构建数据资产管理体系。从用户的视角说明白企业数据有哪些，哪些用户能够使用。在该电力公司的数据资产定义过程中，我们选择了贴近业务用户的数据分类方案，梳理和识别企业运营数据资源。

我们又基于第一步形成的数据分类管理体系框架，梳理、整合各级各类数据资源，建立了数据资产树，按照不同数据细类制定相应的工作模板，对指标数据和明细数据进行梳理和归并。

所有资产梳理和控制的最终目标都是为了用户能够使用数据，我们通过L0–L1–L2三个层次的定义，以业务驱动为导向提高数据查询的实用性。

L0：按照电网业务域–业务主题–业务活动的结构化方法，对查询进行分类导航。

L1：依据业务和数据源中数据资源情况，按业务主题对数据进行预处理和定义。

L2：将数据库表字段等技术元数据转换为业务人员可以理解的业务元数据。

我们通过梳理数据、管理数据、提供数据、关联业务，形成了一整套以用户为中心的大数据治理能力，最终为用户直接使用数据提供了帮助，从而使数据治理完成了从以管控为中心到以业务为中心的转变。由于受限于篇幅这里不过多描述。

面向用户的大数据治理的四个阶段

面向用户的大数据治理该如何做，我们总结了四个阶段。

（1）第一阶段：全面梳理企业信息，自动化构建企业的数据资产库

在第一阶段，主要是对企业大数据的梳理，从而全面掌握企业大数据的情况，主要有以下三个方面。

梳理全企业数据架构，对企业的数据模型、数据关系、数据处理有清晰化的认识。

对数据资产形成统一的自动化管理，形成企业的元数据库。

对企业数据资产形成多种视图，使数据资产能够让不同用户，有不同视角的展示。

（2）第二阶段：建立管理流程，落地数据标准，提升数据质量

在第二阶段，需要建立大数据管控能力，包括从业务的角度梳理企业数据质量问题，形成质量控制能力，形成核心数据标准，并抓标准落地。针对关键问题，建立数据的管理流程，少而精，控制核心问题。

在这个阶段主要是为数据部门形成一套管理大数据的能力，同时为数据部门形成数据管理的工作环境。

（3）第三阶段：直接为用户提供价值，向用户提供数据微服务

通过前两个阶段，企业能够建立基本的数据治理的能力，在此基础上，还需要以用户为中心，为用户提供直接获取数据的能力。第三阶段依赖于前两个阶段能力的建设，在这个阶段的目标是向用户提供自助化的数据服务，使用户能够自助地获取和使用数据，并且在用户的使用过程中再反过去进一步落地标准、控制质量。

（4）第四阶段：智能化企业知识图谱，为全企业提供数据价值

最后一个阶段是将数据沉淀成为知识，形成企业的知识图谱，提供从“关系”的角度去分析问题的能力。

人进行数据搜索是通过业务术语（知识）来搜索的，而知识之间是有相互联系的，例如水果和西红柿是上下位关系（后者是前者的具体体现），好的搜索除了要列出直接结果，还需要显示与之关联的知识，这就要建立知识图谱。

简单说知识图谱就是概念、属性以及概念之间的关联关系，这个关系可以手工建立，也能通过自然语言处理等方法，对政策、法规、需求、数据库comments、界面等多种来源进行分析，自动化建立起企业知识图谱。从而使数据治理成为整个企业的数据工作环境，强化企业数据与知识体系之间的关联，加快企业员工数据与知识之间的转换效率，让数据的深层价值得以体现。