Kafka概述 （3.x/2023）

一.Kafka定义

1.kafka传统定义：
kafka是一个分布式的基于发布/订阅模式的消息队列（Message Queue），主要应用于大数据实时处理领域
发布/订阅：消息的发布者不会将消息直接发给指定的订阅者，而是将发布的消息分为不同的类别，订阅者只接收感兴趣的消息。

2.Kafka 最新定义：
Kafka 是一个开源的分布式事件流平台（Event Streaming Platform），被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。

二.消息队列

目前企业中比较常见的消息队列产品主要有 Kafka、ActiveMQ、RabbitMQ、RocketMQ等

在大数据场景主要采用Kafka 作为消息队列，在JaveEE 开发主要采用AvtiveMQ、RabbitMQ、RocketMQ。

传统消息队列的应用场景
传统消息队列的应用场景：缓冲/削峰、解耦和异步通信
缓冲、削峰：有助于控制和优化数据流经过系统的速度，解决生产消息和消费消息不一致的情况

解耦：
允许你独立的扩展或修改两边的处理过程，只要确保他们遵守同样的接口约束

异步通信：
允许用户把一个消息放入队列，但并不立即处理它，然后在需要的时候再去处理他们

三、消息队列的两种模式

1.点对点模式
消费者主动拉取数据，消息收到后清除消息

2.发布/订阅模式(主流)
可以有多个topic主题（浏览、点赞、收藏、评论等）
消费者消费数据之后，不删除数据
每个消费者相互独立，都可以消费到数据

四.基础架构

1.一个topic分为多个分区；
2.一个分区的数据，在消费者组内只能由一个消费者消费；
3.每个分区多个副本；
4.在zk中指定leader，2.8.0后可以不用zk（kraft模式），未来的趋势是kafka逐渐抛弃zookeeper，因为zookeeper已成为瓶颈；
消费者只能从leader中消费数据，当leader挂了后，follower有条件成为新leader；

视频来源：

https://www.bilibili.com/video/BV1vr4y1677k?p=2&vd_source=adbe4dade12efbb9aa6895c308f74a54