数据治理技术篇：(一)数据梳理

目录

1.定义

2.用途作用

3.实施方法

3.1自上而下

3.1.1数据域梳理

3.1.2数据主题梳理

3.1.3 数据实体梳理

3.1.4设计数据模型

3.1.5优点

3.1.5缺点

3.2自下而上

 3.2.1需求分析

3.2.2展现

3.2.3分析逻辑

 3.2.4数据建模

 3.2.5优点

  3.2.6缺点

---

1.定义

         “数据梳理”即对企业数据资产的梳理。

2.用途作用

        在通过对数据的过程中，可知晓企业当中到底有哪些儿数据，这些数据存储在哪些地方，数据质量如何。数据梳理能够帮助我们对企业数据资产进行摸底，为数仓建设-建模提供有力地支撑。

3.实施方法

3.1自上而下

        自上而下的数据梳理指从企业业务视角中出发，通过业务流程进行全面分析，逐层分解。

由数据域→数据主题→数据实体→数据模型→，一步步细化、抽象、设计出来的实体数据模型的过程。

3.1.1数据域梳理

        在业务调研后，可以进行数据域的划分。划分主题域，需要分析各个业务模块中有哪些业务活动。通常都按业务系统划分，比如：“人力资源管理系统”对应“人力资源数据域”，“财务管理系统”对应“财务数据域”，“供应链管理系统”对应“供应链数据域”.....等等。

3.1.2数据主题梳理

        数据主题梳理是指，按照部门职能、业务流程来梳理数据域的二级主题。

        例如：

                人力资源数据域下包含的二级主题有：招聘管理、培训管理、人事管理、薪酬福利管理、绩效考核管理...等。

                供应链数据域下包含的二级主题有：供应商、销售、商品物料、仓库....等。

3.1.3 数据实体梳理

        数据实体梳理是指数据主题所涉及的各类业务单据、用户视图进行数据收集和分析，细化出业务主题所包含的数据实体和数据实体涉及的数据元素。

        例如：

                人事管理主题包含的实体有：组织机构、岗位、人员等

3.1.4设计数据模型

        逻辑模型设计：对实体进行抽象，描述实体之间的继承或关联关系，明确数据结构的属性构成等。

        物理模型设计：描述的物理数据存储结构和数据关系。

3.1.5优点

        全面系统的梳理，通过数据域 -》 数据主题 -》 数据实体 -》数据模型的逐层分解，使企业清晰地了解企业数据的来龙去脉，有助于企业把握各类数据的源头，确保数据的有效性、完整性和一致性，有效消除信息孤岛。

3.1.5缺点

        需要较大的成本和较长的时间周期来进行数据梳理

3.2自下而上

        自下而上的数据梳理特点是比较有针对性，直击目标和需求。该方法以目标和需求为驱动，一步步梳理出实现需求所需要的数据，并确定数据的来源、数据结构及数据实体之间的关系。

 3.2.1需求分析

        数据治理是一个复杂的过程，项目的开发涉及多方面的问题和风险，如技术风险、数据质量问题、项目管理问题，但项目中最隐蔽、最容易忽略、最难控制的一环就是需求的调研和分析。需求分析应从IT现状、业务部门、高层希望等方面展开，明确项目的目标和范围。

3.2.2展现

        虽然有了明确的需求，但客户跟关注的是数据的展现形式和效果，因此将不同的数据分析结果推送给不同的客户是该阶段的重点。采用原型的方式可以帮助和引导客户的需求。

3.2.3分析逻辑

        分析逻辑是指分析实现需求的业务逻辑，其输出结果是数据仓库的逻辑模型。逻辑模型用来表达实际业务中的具体业务关系和分析逻辑。

 3.2.4数据建模

        将逻辑模型转化为给数据库存储的物理模型。

 3.2.5优点

        目的性强，从既定的需求触发到具体的数据结构设计，越到底层变化的可能性越小。从整体出发的大规模调研规划相比，这种方式的周期更短、见效更快（主要满足于需求目标），有了明确的项目目标和需求的情况下采用方式最佳。

  3.2.6缺点

        局部梳理，缺乏全面性和系统性，无法支持企业顶层的数据架构设计。