apache kylin和kafka的初识（一）

1、kylin的介绍

• 1、简介：Apache Kylin是一个开源的分布式分析引擎，提供Hadoop/Spark之上的SQL查询接口及多维分析（OLAP）能力以支持超大规模数据，它能在亚秒内查询巨大的Hive表。

• 2、特点：

• 可扩展超快OLAP引擎:Kylin是为减少在Hadoop/Spark上百亿规模数据查询延迟而设计

• Hadoop ANSI SQL 接口: Kylin为Hadoop提供标准SQL支持大部分查询功能

• 拥有交互式查询能力: 通过Kylin，用户可以与Hadoop数据进行亚秒级交互，在同样的数据集上提供比Hive更好的性能

• 多维立方体（MOLAP Cube）: 用户能够在Kylin里为百亿以上数据集定义数据模型并构建立方体

• 与BI工具无缝整合:Kylin提供与BI工具的整合能力，如Tableau，PowerBI/Excel，MSTR，QlikSense，Hue和SuperSet

• 3、集成restful API

• query查询

• cube的建立

• 建立job

• 得到metedata
  元数据都在hive里面存着

• wipe cahce

• streaming
  通过kylin streaming来构建cube

• 使用API来实现cube

2、kafka的介绍

• 分布式流平台，是用于构建实时数据管道和流媒体应用。它是水平可伸缩的、容错的、非常快的，并在数千家公司的生产中运行。
• 面向流有五个重要的点：
• 发布和订阅记录流，类似于消息队列或企业消息传递系统。
• 以容错的持久方式存储记录流。
• 处理发生的记录流。
• 构建实时流数据管道，可靠地获取系统或应用程序之间的数据
• 构建转换或响应数据流的实时流应用程序
• 重要概念
• Kafka作为集群运行在一个或多个服务器上，这些服务器可以跨多个数据中心。
• Kafka集群将记录流存储在称为主题的类别中。
• 每个记录由一个键、一个值和一个时间戳组成。
  
  在Kafka中，客户机和服务器之间的通信是通过TCP协议完成的，tcp协议是一个简单的、高性能的、与语言无关的。此协议经过版本控制，并与旧版本保持向后兼容性。我们为Kafka提供了一个Java客户机，但是客户机可以使用多种语言。
  主要介绍了kylin和kafka的一些基本概念。