系统运维系列 之Kafka查询不到正在消费的的消费组信息

1 问题背景
【怪怪怪】
目前消费者组正常消费,但是通过kafka manager监测不到consumer组的消费信息;前期出现的问题是一台Kafka的服务器down掉,连接不上集群,是不是和这个现象有关系呢?

2 排查思路
【期待解决】
2.1 详细解析 kafka manager 的使用
在添加Clusters时需要注意几个参数问题:
Enable JMX Polling:
是否开启 JMX 轮训,该部分直接影响部分 kafka broker 和 topic 监控指标指标的获取,例如每秒流入的消息数,每秒流入的字节数等。
Poll consumer information:
是否开启获取消费信息,直接影响能够在消费者页面和 topic 页面查看消费信息。
Enable Active OffsetCache:
是否开启 offset 缓存,决定 kafka-manager 是否缓存住 topic 的相关偏移量。

2.2 kafka 从zookeeper查询不到要的消费组信息原因解答
查看消费组信息使用如下命令:

./kafka-consumer-groups.sh --zookeeper ip:2181 --list

问题:查询不到消费组的信息;原因分析:从kafka-0.9版本及以后,kafka的消费者组和offset信息就不存zookeeper了,而是存到broker服务器上。
使用下面的命令查询消费组的信息:

/bin/kafka-consumer-groups.sh --bootstrap-server ip:9092 --list

参考资料:
https://www.cnblogs.com/kebibuluan/p/13857895.html 详细解析 kafka manager 的使用
https://blog.csdn.net/yuzuyi2006/article/details/80819104?utm_medium=distribute.pc_relevant.none-task-blog-2defaultbaidujs_baidulandingword~default-0.essearch_pc_relevant&spm=1001.2101.3001.4242.1 kafka 从zookeeper查询不到要的消费组信息原因解答

你可能感兴趣的:(基础运维,mysql,数据库,运维)