目录
写在前面
一、创建maven项目
二、引入依赖
2.1、maven项目创建完成后,需要引入以下依赖
2.2、创建工程目录
三、创建生产者
3.1、创建生产者,同步发送消息
3.2、创建生产者,异步发送消息
四、同步发送消息和异步发送消息的区别
五、报错处理思路
该文章通过spring只实现消息的简单发送,不实现消息的监听。
创建maven过程不再赘述。
// kafka 依赖
org.apache.kafka
kafka-clients
3.4.0
// json依赖,demo中可能会用到该依赖,与kafka依赖无关
com.alibaba
fastjson
2.0.10
3.1.1、在MyProducer中实现如下代码
package com.demo.lxb.kafka;
import com.alibaba.fastjson.JSON;
import com.demo.lxb.entiry.Order;
import org.apache.kafka.clients.producer.*;
import org.apache.kafka.common.serialization.StringSerializer;
import java.util.Properties;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.ExecutionException;
/**
* @Description:
* @Author: lvxiaobu
* @Date: 2023-10-23 17:06
**/
public class MyProducer {
private final static String TOPIC_NAME = "topic0921";
public static void main(String[] args) throws ExecutionException, InterruptedException {
Properties props = new Properties();
// 一、设置参数
// 配置kafka地址
//props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG,"192.168.151.28:9092"); // 单机配置
props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG,
"192.168.151.28:9092,192.168.151.28:9092,192.168.151.28:9092"); // 集群配置
// 配置消息 键值的序列化规则
props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG,StringSerializer.class.getName());
// 二、声明消息对象
// 未指定发送分区,具体撒送分区的计算公式: hash(key)%PartitionNum
// 创建发送的消息: producerRecord
// 参数1: 要发送的主题
// 参数2: 消息的key值,可有可无,如果存在的话,该字段用来带入分区的计算公式
// 参数3: value,具体的消息的内容,json格式的字符串
ProducerRecord producerRecord = new ProducerRecord
(TOPIC_NAME,
"mykey",
"hello-kafka");
// 三、声明消息发送者
Producer producer = new KafkaProducer(props);
// 开发发送,并返回结果和元数据
RecordMetadata recordMetadata = producer.send(producerRecord).get();
System.out.println("发送消息结果: " + "topic-" + recordMetadata.topic() + " | partition-"
+ recordMetadata.partition() + " | offset-" + recordMetadata.offset());
}
}
执行main方法,结果如下:
如果多次执行main方法,会发现offset偏移量的数字会发生变化。
3.2.1、在MyProducer2中实现如下代码
package com.demo.lxb.kafka;
import org.apache.kafka.clients.producer.*;
import org.apache.kafka.common.serialization.StringSerializer;
import java.util.Properties;
import java.util.concurrent.ExecutionException;
/**
* @Description: kafka 异步发送消息
* @Author: lvxiaobu
* @Date: 2023-10-23 17:06
**/
public class MyProducer2 {
private final static String TOPIC_NAME = "topic0921";
public static void main(String[] args) throws ExecutionException, InterruptedException {
Properties props = new Properties();
// 一、设置参数
// 配置kafka地址
// props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG,
// "192.168.151.28:9092"); // 单机配置
props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG,
"192.168.154.128:9092,192.168.154.128:9093,192.168.154.128:9094"); // 集群配置
// 配置消息 键值的序列化规则
props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName());
props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG,StringSerializer.class.getName());
// 二、声明消息对象
// 未指定发送分区,具体撒送分区的计算公式: hash(key)%PartitionNum
// 创建发送的消息: producerRecord
// 参数1: 要发送的主题
// 参数2: 消息的key值,可有可无,如果存在的话,该字段用来带入分区的计算公式
// 参数3: value,具体的消息的内容,json格式的字符串
ProducerRecord producerRecord = new ProducerRecord
(TOPIC_NAME,
"mykey",
"hello-kafka2");
// 三、声明消息发送者
Producer producer = new KafkaProducer(props);
// 异步发送消息,通过callback回调函数获取发送结果
producer.send(producerRecord, new Callback() {
public void onCompletion(RecordMetadata recordMetadata, Exception e) {
if(e != null){
System.out.println("消息发送失败:" + e);
}
if(recordMetadata != null){
System.out.println("发送消息结果: " + "topic-" + recordMetadata.topic() + " | partition-"
+ recordMetadata.partition() + " | offset-" + recordMetadata.offset());
}
}
});
Thread.sleep(50000L);
}
}
执行 Main方法,会产生和同步发送消息一样的结果。
说明:Thread.sleep(50000L)是让主线程休眠50s,否则主线程在异步发送了消息以后就直接结束了,不会再输出callback中的输出语句
消息的同步发送
如果生产者发送的消息没有收到kafka的ack通知,生产者会产生阻塞,如果阻塞了3s仍然没有收到消息反馈,会进行消息发送的重试操作,重试的次数是3次。如果三次以后还不行,代码将抛出异常
消息的异步发送
生产者发送消息后,会提供一个callback的回调方法,callback会获取消息是否发送成功的结果。但是需要注意,异步发送消息会出现消息的丢失。
3.2.1、检查Props配置Kafka地址是否正确
3.2.2、检查Linux是否关闭防火墙