kafka消费组数据积压导致节点挂掉解决办法

前提

        Kafka 运行一段时间后,容易出现节点挂掉的情况。排查原因是:存在多个由zookeeper命令创建的消费组,里面消息没有进行消费,导致数据积压,从而导致kafka 节点挂掉。

导致原因

        ./kafka-console-consumer.sh --zookeeper localhost:2181 -topic WEBSOCKET.Q  这个命令 会自动创建消费者组即:console-consumer-xxxxx

        执行完上面 命令后,ctrl+C 退出掉,那么该消费组不会存在。如果直接关掉连接工具,会导致消费组一直存在。

kafka消费组数据积压导致节点挂掉解决办法_第1张图片

        如果 用命令检查:先到 kafka 的安装目录下,cd  /opt/kafka/kafka_2.12-0.10.2.1/bin

        执行命令:./kafka-consumer-groups.sh --list --zookeeper IP:2181

        即可以看到 console-consumer-xxxxx

解决办法

        删除 消费组  console-consumer-xxxxx。

        到zookeeper 的安装 bin 目录:  cd  /opt/zookeeper/zookeeper-3.4.9/bin/

        执行命令: ./zkCli.sh

        rmr /consumers/console-consumer-xxxx

你可能感兴趣的:(kafka,kafka)