面试题——数仓项目技术如何选型?

面试题——数仓项目技术如何选型?_第1张图片

技术选型:

要提供两套方案,红色的一套,黑色的一套,提供对比

选择的依据:

优先选择红色的那一套,因为比较通用,而且熟悉

Flume解决日志的采集,Kafka解决消息的分发和消峰,Sqoop用于HDFS和关系型数据库进行数据的传递

MySql主要用于查询,它用于存储与前端进程交互比较频繁的数据,因为查询要速度比较块,HDFS主要用于存储,用于存储计算和分析的数据量大的数据

Hive是底层是基于MR,速度慢,Tez基于内存,数据在计算过程中不落盘,都存储在内存中,速度快,Spark同理

Presto和Impala是同类型同级别的框架,Druid在处理实时即席查询比Kylin强一些

你可能感兴趣的:(数据仓库)