数仓分层架构

1 分层实现

数据仓库一般分为三层,自上而下分别为数据贴源层(ODS,Operation Data Store)、数据公共层(CDM,Common Data Model)和数据应用层(ADS,Application Data Service)。

1.1 ODS层(数据贴源层)

贴源层,与业务库保持一致,不做任何处理

1.2 CDM层(数据公共层)

数据公共层CDM(Common Data Model,又称通用数据模型层),包括DIM维度表、DWD,DWS和DWT,由ODS层数据加工而成。主要完成数据加工与整合,建立一致性的维度,构建可复用的面向分析和统计的明细事实表,以及汇总公共粒度的指标
(1)公共维度层(DIM):基于维度建模理念思想,建立企业一致性维度。降低数据计算口径和算法不统一风险。
公共维度层的表通常也被称为逻辑维度表,维度和维度逻辑表通常一一对应。
(2)明细粒度事实层(DWD):对数据进行规范化编码转换,清洗,统一格式,脱敏等,不做横向整合
(3)服务数据层(DWS):以DWD为基础,按天进行轻度汇总。
(4)数据主题层(DWT):按主题进行汇总
公共汇总粒度事实层的表通常也被称为汇总逻辑表,用于存放派生指标数据。

1.3 ADS层

数据应用层ADS(Application Data Service):面向业务需求定制开发,存放数据产品个性化的统计指标数据。

2 逻辑分层架构

	ADC			应用层,面向业务需求定制开发,为各种统计报表提供数据
	DWT			数据主题层:按主题进行汇总
	DWS			服务数据层:按天进行轻度汇总,宽表汇总
	DWD   		维度建模 | 明细数据层,对数据进行规范化(编码转换,清洗,统一格式,脱敏等),不做横向整合 
	ODS   				贴源层

3 分层的好处

  1. 清晰数据结构:每一个数据分层都有它的作用域,这样我们在使用表的时候能更方便地定位和理解。
  2. 数据血缘追踪:简单来讲可以这样理解,我们最终给业务呈现的是一张能直接使用的张业务表,但是它的来源有很多,如果有一张来源表出问题了,我们希望能够快速准确地定位到问题,并清楚它的危害范围。
  3. 减少重复开发:规范数据分层,开发一些通用的中间层数据,能够减少极大的重复计算。
    把复杂问题简单化:将一个复杂的任务分解成多个步骤来完成,每一层只处理单一的步骤,比较简单
  4. 容易理解。而且便于维护数据的准确性,当数据出现问题之后,可以不用修复所有的数据,只需要从有问题的步骤开始修复。

你可能感兴趣的:(数仓,数据仓库)