Kafka的命令行操作
一、topic命令
下面Windows命令需要把cmd路径切换到bin/windows下。
而Linux命令只需要在控制台切换到bin目录下即可。
下面都以Windows下的操作为例，在Linux下也是一样的。
1.1 查看主题命令的参数
kafka-topics.bat # Windows
kafka-topics.sh # Linux
输入以上命令就可以看到主题命令可以附加哪些参数来执行，参数有很多，这里归纳几个常用的：
| 参数 | 说明 |
|---|---|
| –bootstrap-server | 连接的 Kafka Broker 主机名称和端口号。 |
| –topic | 操作的 topic 名称。 |
| –create | 创建主题。 |
| –delete | 删除主题。 |
| –alter | 修改主题。 |
| –list | 查看所有主题。 |
| –describe | 查看主题详细描述。 |
| –partitions |
设置分区数。 |
| –replication-factor |
设置分区副本。 |
| –config |
更新系统默认的配置。 |
1.2 查看当前服务器中的所有 topic
kafka-topics.bat --bootstrap-server localhost:9092 --list
Kafka默认在9092端口上运行
1.3 创建名为test的topic
kafka-topics.bat --bootstrap-server localhost:9092 --create --partitions 1 --replication-factor 1 --topic test
-
--partitions：指定分区数，参数要根据broker数和数据量决定，有几个broker则可以指定几个分区 -
--replication-factor： 指定副本数，也有根据有几个broker来决定 -
--topic：指定topic名字
1.4 查看 test主题的详情
kafka-topics.bat --bootstrap-server localhost:9092 --describe --topic test
这里主要注意后面第二排参数的意义即可。
Topic:test：主体的名称是test。
Partition：分区编号是0，代表只有一个分区，编号从0开始
Leader：每个分区多个副本的主节点编号，这个在集群中才会是其它值，这里是单机模式，值等于唯一副本编号
Replicas：副本编号，也是从0开始。
1.5 修改分区数
kafka-topics.bat --bootstrap-server localhost:9092 --alter --topic test --partitions 2
注意：分区数只能增加，不能减少
1.6 再次查看 test主题的详情
kafka-topics.bat --bootstrap-server localhost:9092 --describe --topic test
1.7 删除 topic
kafka-topics.bat --bootstrap-server localhost:9092 --delete --topic test
二、生产者命令
下面Windows命令需要把cmd路径切换到bin/windows下。
2.1 查看生产者命令的参数
kafka-console-producer.bat
常用参数：
| 参数 | 说明 |
|---|---|
| –bootstrap-server | 连接的 Kafka Broker 主机名称和端口号。 |
| –topic | 操作的 topic 名称。 |
2.2 发送消息
主要就是要说明要连接哪个Kafka服务器或者集群。
kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test
此时光标处就可以输入数据，输入的数据会放入本机kafka 服务器test这个主题当中。
三、消费者命令
3.1 查看消费者命令的参数
kafka-console-consuer.bat
常用参数：
| 参数 | 说明 |
|---|---|
| –bootstrap-server | 连接的 Kafka Broker 主机名称和端口号。 |
| –topic | 操作的 topic 名称。 |
3.2 消费消息
1）消费 first 主题中的数据。
kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test
2）把主题中所有的数据都读取出来（包括历史数据）
kafka-console-consumer.bat --bootstrap-server localhost:9092 --from-beginning --topic test
四、使用示例
这些示例都基于上面的主题test来进行操作。
4.1 生产者生产一条数据
kafka-console-producer.bat --bootstrap-server localhost:9092 --topic test
此时输入一个hello数据然后回车，队列中就加入了一条数据。
4.2 创建一个消费者
kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test
发现此时并没有消费到刚才的数据。
4.3 生产者再生产一个数据
就是在刚才的光标下继续输入一个数据，再回车即可。
此时再看消费者，发现消费者已经消费到了Kafka这条数据。
这时候就发现了一个问题，消费者只能消费消费者出现之后的数据，之前的历史数据则不能直接被消费。
4.4 把主题中所有的数据都读取出来
如果想要读取历史数据，可以选择把主题中的数据全部读取出来。
kafka-console-consumer.bat --bootstrap-server localhost:9092 --from-beginning --topic test
执行此命令后，再来新的数据，也会被继续消费，就和普通的消费者一样。