谈一谈kafka的rebalance机制

1. rebalance的定义

再平衡:Reblance是一种协议,规定了一个Consumer Group下所有Consumer如何达成一致,来分配订阅Topic的每个分区,尽量让每个消费者分配到相对均匀的分区,使Consumer的资源都能得到充分利用,防止有的Consumer比较忙,有的Consumer比较闲。

2.Reblance触发的时机

当kafka感知到存在让分区和消费者分配不均匀的事情发生时,就会触发Reblance

  1. 消费者组消费的分区个数发生变化。
  2. 消费者组消费的主题个数发生变化。
  3. 消费者组内的消费者个数发生变化。

3.分区分配的策略

1.Range分配策略是指按照分区号的范围进行分区分配。kafka 默认使用 RangeAssignor。

2.RoundRobin分配策略是指轮询每个分区,将分区逐个分配给消费者

3.StickyAssignor分区策略,又称为粘性分配,所谓的有粘性,是指每次 Rebalance 时,该策略会尽可能地保留之前的分配方案,尽量实现分区分配的最小变动,消费者连接这些分区所在 Broker 的 TCP 连接就可以继续使用。

协调者(Coordinator)是broker进程中的一个组件,每一个broker都会有一个Coordinator,协调者的职责在于:服务ConsumerGroup,完成整个Reblance的过程,提供Consumer Group位移的管理,以及组内成员的管理。
消费者会定时向协调者发送心跳,当协调者发现某个消费者长时间没有发送心跳,那么协调者就会认为这个消费者挂了,把这个消费者从消费者组中剔除出去,然后在其他Consumer的心跳请求中回复 reblance_need,让每个消费者停止消息消费,并开启Reblance。当各个消费者收到reblance_need响应后,都会停止消息消费,并向协调者发送 SyncGroup请求,来询问分配给自己的分区信息

4.Reblance产生的影响

1.影响消费效率
因为发生Reblance时,所有消费者都会停止消费,比较影响消息消费效率

2.可能会产生消息重复消费

5.减少Reblance

1.session.timeout.ms(检查整个消费者死亡超时时间,默认10s)
session.timeout.ms >= 3 * heartbeat.interval.ms(心跳检查超时时间)

2.max.poll.interval.ms(消费者每次去kafka拉取数据最大间隔)
在业务中,该参数可以设置的长一些,默认5分钟。

你可能感兴趣的:(kafka后端)