数据治理的四字箴言:理、采、存、用

数据治理,贯穿了前端业务系统,后端数据库系统以及业务终端的数据分析,从源头到终端然后再返回源头,形成的一个闭环负反馈系统。

  数据治理主要包括数据规划、数据采集、数据储存管理、数据应用四个方面,需要一套标准化的规范来指导。根据每一个方面的特点,我们可以将数据治理总结为四个字,即“理”、“采”、“存”、“用”。

01理:梳理业务流程,规划数据资源

  对于企业来说,每天的实时数据都会超过数据存储字节,哪些用户数据需要采集,这么多的数据放在哪里,如何放,以什么样的方式放?这些问题都是需要事先进行规划的,需要有一套从无序变为有序的流程,这个过程需要跨部门的协作,包括了前端、后端、数据工程师、数据分析师、项目经理等角色的参与。

02采:ETL采集、去重、脱敏、转换、关联、去除异常值

  前后端将采集到的数据给到数据部门,数据部门通过ETL工具将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程,目的是将散落和零乱的数据集中存储起来。

03存:大数据高性能存储及管理

  这么多的业务数据存在哪里?这需要有一高性能的大数据存储系统,在这套系统里面将数据进行分门别类放到其对应的库里面,为后续的管理及使用提供最大的便利。

04用:即时查询、报表监控、智能分析、模型预测

数据治理的最终目的就是辅助业务进行决策,前面的三个方面都是为最终的查询、分析、监控做铺垫。这个阶段就是数据分析师的主场,分析师们运用这些标准化的数据可以进行即时的查询、指标体系和报表体系的建立、业务问题的分析,甚至是模型的预测。

总结:

数据治理是指将零散的用户数据通过采集、传输、储存等一系列标准化的流程变成格式规范、结构统一的数据,并有严格和规范的综合数据管控;对这些标准化的数据进行进一步加工分析成为具有指导意义的业务监控报表、业务监控模型以帮助业务进行辅助决策。

扩展阅读:

DAMA国际组织经过多年的数据管理的研究、实践及相关知识体系的建设,在数据管理领域累积了极为深厚的知识沉淀和丰富经验,先后出版了“DAMA 数据管理字典”和“DAMA数据管理的知识体系和指南”(DAMA-DMBOK),并为广大数据治理学习者提供了相关认证。

你可能感兴趣的:(数据治理,大数据,人工智能,算法)