从0开始搭建kafka客户端

上一节，我们实现了搭建kafka集群。本节我们将从0开始，使用Java，搭建kafka客户端生产消费模型。

1.创建maven项目

   首先我们使用idea创建项目。

  这里我们使用maven来管理jar包，所以创建的是一个maven项目。

  然后输入GroupId和ArtifactId即可，这两个id在maven中相当于“坐标”,其中ArtifactId是你的项目名。

  这时候，一个maven项目就创建完成了。但是maven还需要配置，我们在idea中找到Preferences(mac系统快捷键：command + ,)，搜索maven，接着配置 maven home directory（maven安装路径）, User settings file(maven 配置文件所在位置 settings.xml), Local repository(本地仓库位置，在setting.xml中配置)，配置完成后，点击APPLY即可。到此，一个maven项目就配置完成了。
  最后，我们需要在pom.xml中配置kafka依赖的坐标

 

1 <dependencies>
2    <dependency>
3        <groupId>org.apache.kafkagroupId>
4        <artifactId>kafka-clientsartifactId>
5        <version>0.11.0.3version>
6    dependency>
7dependencies>

2.kafka producer

  接下来，我们要对kafka中的生产者进行开发。在开发之前，要保证我们kafka服务处于可用的状态。
  生产者程序如下：

 1public class Producer {
 2    public static void main(String[] args) {
 3        Properties props = new Properties();
 4        props.put("bootstrap.servers", "localhost:9092,localhost:9093");
 5        props.put("key.serializer",
 6                "org.apache.kafka.common.serialization.StringSerializer");
 7        props.put("value.serializer",
 8                "org.apache.kafka.common.serialization.StringSerializer");
 9        props.put("acks", "-1");
10        props.put("retries", 3);
11        props.put("batch.size", 232840);
12        props.put("linger.ms", 10);
13        props.put("buffer.memory", 33554432);
14        props.put("max.block.ms", 3000);
15        KafkaProducer producer = new KafkaProducer(props);
16        for (int i = 0; i < 100; i++) {
17            producer.send(new ProducerRecord(
18                    "my-topic", Integer.toString(i), Integer.toString(i)), new Callback() {
19                public void onCompletion(RecordMetadata recordMetadata, Exception e) {
20                    if (e == null) {
21                        System.out.println("消息发送成功");
22                    } else {
23                        System.out.println(String.format("消息发送失败: %s", e.getMessage()));
24                    }
25                }
26            });
27        }
28        producer.close();
29    }
30}

3.kafka consumer

  接下来是kafka中的消费者代码。

 1public class Consumer {
 2    public static void main(String[] args) {
 3        String topicName = "my-topic";
 4        String groupId = "test-group";
 5
 6        Properties props = new Properties();
 7        props.put("bootstrap.servers", "localhost:9092,localhost:9093");
 8        props.put("group.id", groupId);
 9        props.put("enable.auto.commit", "true");
10        props.put("auto.commit.interval.ms", "1000");
11        props.put("auto.offset.reset", "earliest");
12        props.put("key.deserializer",
13                "org.apache.kafka.common.serialization.StringDeserializer");
14        props.put("value.deserializer",
15                "org.apache.kafka.common.serialization.StringDeserializer");
16        KafkaConsumer consumer = new KafkaConsumer(props);
17        // 订阅主题
18        consumer.subscribe(Collections.singletonList(topicName));
19        try {
20            while (true) {
21                ConsumerRecords records = consumer.poll(1000);
22                for (ConsumerRecord record : records) {
23                    System.out.printf("offset = %d, key = %s, value = %s%n", record.offset(), record.key(), record.value());
24                }
25            }
26        } finally {
27            consumer.close();
28        }
29    }
30}

4.结果

  最后是对代码进行测试。依次启动生产者、消费者实例，观察控制台输出接口。

生产者：

1消息发送成功
2...
3消息发送成功

消费者：

1offset = 0, key = 0, value = 0
2...
3offset = 99, key = 99, value = 99

可能遇到的坑：

  如果你的程序出错，请首先检查代码props是否正确，其次应该确认你的kafka client和kafka server 版本相同，最后bootstrap.servers这个参数的配置值，要与kafka中server.properties中一致，否则将会出现获取不到元数据信息的异常。(消息发送失败: Failed to update metadata after 3000 ms.)

最后：

  上述代码，只是实现了一个最小的生产消费模型，写法上并不规范（比如配置应该写在配置文件中、对于异常应该有处理方法，不能只是输出日志），不能直接使用在生产环境中。只能用于kafka入门学习。

  最后，期待您的订阅和点赞，专栏每周都会更新，希望可以和您一起进步，同时也期待您的批评与指正！