离线数仓和实时数仓架构对比

一、数仓的实时需求与离线需求的比较

1【离线数仓需求】

就是在计算开始前已知所有输入数据,输入数据不会产生变化,一般计算量级较大,计算时间也较长。例如今天早上一点,把昨天累积的日志,计算出所需结果。最经典的就是Hadoop 的 MapReduce 方式;一般是根据前一日的数据生成报表,虽然统计指标、报表繁多,但是对时效性不敏感。

2【实时数仓需求】

输入数据是可以以序列化的方式一个个输入并进行处理的,也就是说在开始的时候并不需要知道所有的输入数据。与离线计算相比,运行时间短,计算量级相对较小。强调计算过程的时间要短,即所查当下给出结果。主要侧重于对当日数据的实时监控,通常业务逻辑相对离线需求简单一下,统计指标也少一些,但是更注重数据的时效性,以及用户的交互性。

二、离线数仓和实时数仓架构对比

1【离线数仓的架构】
离线数仓和实时数仓架构对比_第1张图片

2【实时数仓的架构】
离线数仓和实时数仓架构对比_第2张图片

你可能感兴趣的:(大数据,大数据,hadoop,分布式)