Kafka异常处理(客户端和消费者都找不到topic)

问题

生产问题,OffsetMonitor 监控发现运行了一个月的kafka突然间消费有lag.

kafka重启成功
用命令行创建topic成功.

./bin/kafka-topics.sh --create --zookeeper ** --replication-factor 2 --partitions 28 --topic newiot003

用命令查看topic也存在,

 ./bin/kafka-topics.sh --zookeeper **    --list

Kafka异常处理(客户端和消费者都找不到topic)_第1张图片
但是product和customer发送和消费时都报错。

这里写图片描述

分析

查看kafka日志文件/home/kafka/kafka_2.11-0.10.1.1/logs。
Kafka异常处理(客户端和消费者都找不到topic)_第2张图片

发现server.log里:
Kafka异常处理(客户端和消费者都找不到topic)_第3张图片

解决

停止zookeeper.删除对应的数据目录下的文件

/opt/zookeeper-3.4.6/datadir
/opt/zookeeper-3.4.6/logs

只保留:

 /opt/zookeeper-3.4.6/datadir/myid

启动kafka问题解决。
意外发现之前存在标志为已删除,没有物理删除的mark for deletion 的 topic也删除了。
Kafka异常处理(客户端和消费者都找不到topic)_第4张图片

Kafka异常处理(客户端和消费者都找不到topic)_第5张图片

你可能感兴趣的:(大数据之kafka-java,异常处理)