Kafka之一：Kafka简述
Kafka之一：Kafka简述
文章目录
- Kafka之一：Kafka简述
- 一、消息队列
- 1. 消息队列简述
- 2. 消息队列的特点
- 二、Kafka简述
- 1. 什么是Kafka
- 2. Kafka的基本概念
- 3. Kafka的partitions设计目的
- 4. Kafka的Message
- 5. Kafka设计原理实现
- 6. Kafka的存储策略
- 三、Kafka架构
- 1. Kafka系统架构
- 2. Kafka部署架构
- 3. Kafka集群架构
- 四、Kafka数据持久化
Kafka之二：Kafka集群的安装
Kafka之三：Kafka集群工作流程
Kafka之四：Kafka与Streaming集成
一、消息队列
1. 消息队列简述
(1) 点对点模式（一对一，消费者主动拉取数据，消息收到后消息清除）
点对点模型通常是一个基于拉取或者轮询的消息传送模型，这种模型从队列中请求信息，而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理，即使有多个消息监听者也是如此。
(2) 发布/订阅模式（一对多，数据生产后，推送给所有订阅者）
发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多种不同的订阅者，临时订阅者只在主动监听主题时才接收消息，而持久订阅者则监听主题的所有消息，即使当前订阅者不可用，处于离线状态。
2. 消息队列的特点
(1) 解耦
允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。
(2) 冗余
消息队列把数据进行持久化直到它们已经被完全处理，通过这一方式规避了数据丢失风险。许多消息队列所采用的“插入-获取-删除”范式中，在把一个消息从对列中删除之前，需要你的处理系统明确的指出该消息已经被处理完毕，从而确保你的数据被安全直到你使用完毕。
(3) 扩展性
因为消息队列解耦了你的处理过程，所以增大消息入队和处理的频率是很容易的，只要另外增加处理过程即可。
(4) 灵活性&峰值处理能力
在访问量剧增的情况下，应用仍然需要继续发挥作用，但是这样的突发流量并不常见。如果以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力，而不会因为突发的超负荷的请求而完全崩溃。
(5) 可恢复性
系统的一部分组件失效时，不会影响到整个系统。消息队列降低了进程间的耦合度，所以即使一个处理消息的进程挂掉，加入队列中的消息仍然可以在系统恢复后被处理。
(6) 顺序保证
在大多使用场景下，数据处理的顺序都很重要。大部分消息队列本来就是排序的，并且能保证数据会按照特定的顺序来处理。（Kafka保证一个partition内消息的有序性）
(7) 缓冲
有助于控制和优化数据流经过系统的速度，解决生产消息和消费消息的处理速度不一致的情况。
(8) 异步通信
很多时候，用户也不想也不需要立即处理消息。消息队列提供了异步处理机制，允许用户把一个消息放入队列，但并不立即处理它。想向队列中放入多少消息就放多少，然后在需要的时候再去处理它们。
二、Kafka简述
1. 什么是Kafka
在流式计算中，Kafka一般用来缓存数据，sparkStreaming通过消费Kafka的数据进行计算。
（1) Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。
（2) Kafka最初是由LinkedIn公司开发，并于2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。
（3) Kafka是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类，发送消息者称为Producer，消息接受者称为Consumer，此外kafka集群有多个kafka实例组成，每个实例(server)称为broker。
（4) 无论是kafka集群，还是consumer都依赖于zookeeper集群保存一些meta信息，来保证系统可用性。
Kafka用于构建实时数据管道和流式应用程序。它具有横向扩展性，容错性，速度快，并且可以在数千家公司的生产环境中运行。
2. Kafka的基本概念
3. Kafka的partitions设计目的
· Kafka基于文件存储。通过分区，可以将日志内容分散到多个server上，来避免文件尺寸达到单机磁盘的上限，每个partition都会被当前server（kafka实例）保存。
· 可以将一个topic切分任意多个partitions，来消息保存/消费的效率。
· 越多的partitions意味着可以容纳更多的consumer，有效提升并发消费的能力。
4. Kafka的Message
Kafka中的Message是以topic为基本单位组成的，不同的topic之间是相互独立的。每个topic分成几个不同的partition，每个partition存储一部分Message。
partition中的每条Message包含三个属性：
○ offset（long）
○ MessageSize（int32）
○ data（Message的具体内容）
5. Kafka设计原理实现
a. 直接使用Linux文件系统的cache，来高效缓存数据。
b. 显式分布式，即所有的producer、broker和consumer都会有多个，均为分布式的。Producer和broker之间没有负载均衡机制，broker和consumer之间利用zookeeper进行负载均衡。所以的broker和consumer都会在zookeeper中进行注册，且zookeeper会保存他们的一些元数据信息。如果某个broker和consumer发生了变化，所有其他的broker和consumer都会得到通知。
6. Kafka的存储策略
(1) Kafka以topic来进行消息管理，每个topic包含多个partition，每个partition对应一个逻辑log，有多个segment组成。
(2) 每个segment中存储多条消息，消息id由其逻辑位置决定，即从消息id可直接定位到消息的存储位置，避免id到位置的额外映射。
(3) broker收到发布消息往对应partition的最后一个segment上添加改消息。
(4) 每个partition在内存中对应一个index，记录每个segment中的第一条消息偏移。
(5) 发布者发到某个topic的消息会被均匀的分布到多个partition上，broker收到发布消息往对应partition的最后一个segment上添加该消息，当某个segment上的消息条数达到配置值或消息发布时间超过阈值时，segment上的消息会被flush到磁盘，只要flush到磁盘上的消息订阅者才能订阅到，segment达到一定的大小后将不会再往该segment写数据，broker会创建新的segment。
三、Kafka架构
1. Kafka系统架构
a. Producer ：消息生产者，就是向kafka broker发消息的客户端；
b. Consumer ：消息消费者，向kafka broker取消息的客户端；
c. Topic ：可以理解为一个队列；topic被分成多partition，每个partition在存储层面是append log文件。发送到此patition的消息都被直接追加到log文件的尾部，每条消息在文件中的位置称为offset（偏移量）
Logs文件根据broker中的配置要求，保留一定时间后删除来释放磁盘空间。
d. Consumer Group （CG）：这是kafka用来实现一个topic消息的广播（发给所有的consumer）和单播（发给任意一个consumer）的手段。一个topic可以有多个CG。topic的消息会复制（不是真的复制，是概念上的）到所有的CG，但每个partion只会把消息发给该CG中的一个consumer。如果需要实现广播，只要每个consumer有一个独立的CG就可以了。要实现单播只要所有的consumer在同一个CG。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic；
e. Broker ：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic；
f. Partition：为了实现扩展性，一个非常大的topic可以分布到多个broker（即服务器）上，一个topic可以分为多个partition，每个partition是一个有序的队列。partition中的每条消息都会被分配一个有序的id（offset）。kafka只保证按一个partition中的顺序将消息发给consumer，不保证一个topic的整体（多个partition间）的顺序；
g. Offset：kafka的存储文件都是按照offset.kafka来命名，用offset做名字的好处是方便查找。例如你想找位于2049的位置，只要找到2048.kafka的文件即可。当然the first offset就是00000000000.kafka。
2. Kafka部署架构
3. Kafka集群架构
四、Kafka数据持久化
• 数据持久化
· 发现线性的访问磁盘，很多时候比随机的内存访问要快得多
· 传统的使用内存作为磁盘的缓存
· Kafka直接将数据写入日志文件中
• 日志数据持久化特性
· 写操作：通过将数据追加到文件中实现
· 写操作：读的时候从文件中读
• 对比JVM特性
· Java对象占用空间是非常大的，差不多是要存储的数据的两倍甚至更高
· 随着堆中数据量的增加。垃圾回收会变得越来越困难
• 优势：读操作不会阻塞写操作和其他操作，数据大小不对性能产生影响；
没有容量限制（相对内存来说）的硬盘空间建立消息系统；
线性访问磁盘，速度快，可以保存任意一段时间。