在生产环境中由于一些不明原因,导致 rabbitmq 重启,在 RabbitMQ 重启期间生产者消息投递失败, 导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢? 特别是在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢
1、队列和交换机
@Configuration
public class ConfirmConfig {
public static final String CONFIRM_EXCHANGE = "confirm.exchange";
public static final String CONFIRM_QUEUE = "confirm.queue";
// 声明队列并创建队列
@Bean
public Queue confirmQueue(){
return QueueBuilder.durable(CONFIRM_QUEUE).build();
}
// 声明并创建交换机
@Bean
public DirectExchange confirmExchange(){
return new DirectExchange(CONFIRM_EXCHANGE);
}
@Bean
public Binding queueBindingExchange(Queue confirmQueue,DirectExchange confirmExchange){
return BindingBuilder.bind(confirmQueue).to(confirmExchange).with("key1");
}
}
2、生产者和等待触发的回调函数
@RequestMapping("/confirm")
public class ProducerController {
public static final String CONFIRM_EXCHANGE = "confirm.exchange";
/**
* 发送信息的 template
*/
@Autowired
private RabbitTemplate rabbitTemplate;
/**
* 确定消息的回调函数,有broker发送消息调用
*/
@Autowired
private RabbitTemplate.ConfirmCallback confirmCallback;
/**
* 设置确认回调函数(告诉rabbitMQ回调函数)
*/
@PostConstructc
public void init(){
c
rabbitTemplate.setConfirmCallback(confirmCallback);
}
@GetMapping("/sendMessage/{message}")
public void sendMessage(@PathVariable String message){
//指定消息id 为 1
CorrelationData correlationData = new CorrelationData("1");
rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE,"key1",message,correlationData);
log.info("消息内容:{}, 发送完毕, 对应id {}",message,correlationData.getId());
//指定消息id 为 2
CorrelationData correlationData2 = new CorrelationData("2");
rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE,"key2",message,correlationData2);
log.info("消息内容:{}, 发送完毕, 对应id {}",message,correlationData2.getId());
}
}
/**
* 自定以实现rabbitMQ 回调接口
*/
@Slf4j
@Component
public class ConfirmCallback implements RabbitTemplate.ConfirmCallback {
/**
* 交换机是否接收到消息,都会发送信息,调用回调接口
* correlationData: 消息相关数据
* ack: 交换机是否接收到消息
*/
@Override
public void confirm(CorrelationData correlationData, boolean ack, String cause) {
if(ack){
log.info("交换机已经接收到id为:{} 的消息",correlationData.getId());
}else{
log.info("交换机没有接收到对应 id 的消息");
}
}
}
3、确认队列的消费者
@Slf4j
@Component
public class ConfirmConsumer {
public static final String CONFIRM_QUEUE = "confirm.queue";
/**
* 监听指定的队列,接收消息,并消费
*/
@RabbitListener(queues = {
CONFIRM_QUEUE})
public void receive(Message message, Channel channel){
log.info("消费者,收到确认队列的消息 {} ",new String(message.getBody()));
}
}
4、测试结果
发送两条消息,交换机接收到之后,异步会触发生产者回调函数,并指明消息 ,交换机接收到没有。交换机接收到的消息会发送给指定的队列通过routingKey
在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 mandatory 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。
Mandatory 参数: 当消息要被路由到指定queue时,由于没有该队列等原因。消息无法被路由到指定的queue,要求将无法路由的消息返回给生产者
returnCallback:处理返回消息的回调函数
1、修改上面的 生产者,新增 处理返回消息的回调函数
@Slf4j
@RestController
@RequestMapping("/confirm")
public class ProducerController {
public static final String CONFIRM_EXCHANGE = "confirm.exchange";
/**
* 发送信息的 template
*/
@Autowired
private RabbitTemplate rabbitTemplate;
/**
* 确定消息的回调函数,有broker发送消息调用
*/
@Autowired
private RabbitTemplate.ConfirmCallback confirmCallback;
/**
*
*/
@Autowired
private RabbitTemplate.ReturnsCallback returnsCallback;
@PostConstruct
public void init(){
// 设置确认回调函数(告诉rabbitMQ回调函数)
rabbitTemplate.setConfirmCallback(confirmCallback);
/**
*true: 交换机无法路由消息时,将消息通过返回回调函数,返回给生产者
* false: 交换机无法路由消息时,将消息丢弃
*/
rabbitTemplate.setMandatory(true);
// 将返回的消息,交由回调函数处理
rabbitTemplate.setReturnsCallback(returnsCallback);
}
@GetMapping("/sendMessage/{message}")
public void sendMessage(@PathVariable String message){
//指定消息id 为 1
CorrelationData correlationData = new CorrelationData("1");
rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE,"key1",message,correlationData);
log.info("消息内容:{}, 发送完毕, 对应id {}",message,correlationData.getId());
//指定消息id 为 2
CorrelationData correlationData2 = new CorrelationData("2");
rabbitTemplate.convertAndSend(CONFIRM_EXCHANGE,"key2",message,correlationData2);
log.info("消息内容:{}, 发送完毕, 对应id {}",message,correlationData2.getId());
}
}
/**
* 消息无法到达指定的路由,返回消息的回调函数
*/
@Slf4j
@Component
public class ReturnCallback implements RabbitTemplate.ReturnsCallback {
@Override
public void returnedMessage(ReturnedMessage returned) {
String exchange = returned.getExchange();
String routingKey = returned.getRoutingKey();
Message message = returned.getMessage();
String replyText = returned.getReplyText();
log.info("消息 {} ,被 {} 交换机退回,原因:{} 。消息的routingKey: {}",
new String(message.getBody()),exchange,replyText,routingKey);
}
}
2、测试结果
有了 mandatory 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 mandatory 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?
前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。
在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时, 就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。
1、修改创建队列,和交换机的的配置文件
普通交换机要绑定备份交换机
@Configuration
public class ConfirmConfig {
public static final String CONFIRM_EXCHANGE = "confirm.exchange";
public static final String CONFIRM_QUEUE = "confirm.queue";
public static final String BACKUP_EXCHANGE = "backup.exchange";
public static final String BACKUP_QUEUE = "backup.queue";
public static final String WARNING_QUEUE = "warning.queue";
// 声明并创建确认队列
@Bean
public Queue confirmQueue(){
return QueueBuilder.durable(CONFIRM_QUEUE).build();
}
// 声明并创建确认交换机 , 并为当前交换机绑定备份交换机
@Bean
public DirectExchange confirmExchange(){
ExchangeBuilder exchangeBuilder = ExchangeBuilder.directExchange(CONFIRM_EXCHANGE)
.durable(true).withArgument("alternate-exchange", BACKUP_EXCHANGE);
return (DirectExchange) exchangeBuilder.build();
}
// 关系绑定
@Bean
public Binding queueBindingExchange(Queue confirmQueue,DirectExchange confirmExchange){
return BindingBuilder.bind(confirmQueue).to(confirmExchange).with("key1");
}
// 声明备份交换机
@Bean
public FanoutExchange backupExchange(){
return new FanoutExchange(BACKUP_EXCHANGE);
}
// 声明备份队列
@Bean
public Queue backupQueue(){
return QueueBuilder.durable(BACKUP_QUEUE).build();
}
// 声明警告队列
@Bean
public Queue warningQueue(){
return new Queue(WARNING_QUEUE);
}
// 关系绑定
@Bean
public Binding backupQueueBindingExchange(Queue backupQueue,FanoutExchange backupExchange){
return BindingBuilder.bind(backupQueue).to(backupExchange);
}
@Bean
public Binding warningQueueBindingExchange(Queue warningQueue,FanoutExchange backupExchange){
return BindingBuilder.bind(warningQueue).to(backupExchange);
}
}
2、配置 两个备份队列,警告队列消费者**
@Slf4j
@Component
public class BackupConsumer {
public static final String BACKUP_QUEUE = "backup.queue";
@RabbitListener(queues = {
BACKUP_QUEUE})
public void receive(Message message,Channel channel){
String msg = new String(message.getBody());
log.error("备份队列消费真正在处理不可路由消息:{}", msg);
}
}
@Slf4j
@Component
public class WarningConsumer {
public static final String WARNING_QUEUE = "warning.queue";
@RabbitListener(queues = {
WARNING_QUEUE})
public void receive(Message message, Channel channel){
String msg = new String(message.getBody());
log.error("报警发现不可路由消息:{}", msg);
}
}
3、测试结果
尽管消费者,配置了mandatory参数,和returnCallback处理无法路由的消息,但是由于我们备份了交换机,交换机优先级更高,导致returnCallback无法被触发
个人博客:https://www.xiaoxuya.top/