RabbitMQ 即一个消息队列,主要是用来实现应用程序的异步和解耦,同时也能起到消息缓冲,消息分发的作用。
RabbitMQ是实现AMQP(高级消息队列协议)的消息中间件的一种,AMQP,即Advanced Message Queuing Protocol, 高级消息队列协议,是一个面向消息中间件的开放式标准应用层协,议为面向消息的中间件设计,AMQP定义了这些特性:
在项目中,将一些无需即时返回且耗时的操作提取出来,进行了异步处理,而这种异步处理的方式大大的节省了服务器的请求响应时间, 提高了系统的吞吐量。
本篇将详细介绍RabbitMQ以及如何在SpringBoot中使用。
##简单概念
关于消息中间件RabbitMQ的详细介绍可以参考博客系列教程:RabbitMQ简易教程
这里我只对一些最核心的概念拿出来讲一下,不理解这些就根本无法理解下面的代码。
几个名词术语:
一般消息队列都是生产者将消息发送到队列,消费者监听队列进行消费。rabbitmq中一个虚拟主机(默认 /)持有一个或者多个交换机(Exchange)。 用户只能在虚拟主机的粒度进行权限控制,交换机根据一定的策略(RoutingKey)绑定(Binding)到队列(Queue)上, 这样生产者和队列就没有直接联系,而是将消息发送的交换机,交换机再把消息转发到对应绑定的队列上。
上面说了交换机(Exchange)作为rabbitmq的一个独特的重要的概念,单独拿出来讲一下。我们用到的最常见的是4中类型:
Direct: 先匹配, 再投送。即在交换机绑定队列时设定一个routing_key, 消息的routing_key匹配时, 才会被交换机投送到绑定的队列中去. 交换机跟队列必须是精确的对应关系,这种最为简单。
Fanout : 消息广播模式,不管路由键或者是路由模式,会把消息发给绑定给它的全部队列,如果配置了routingkey会被忽略
Topic: 路由消息主要是根据路由键的通配符。在这种交换机下,队列和交换机的绑定会定义一种路由模式,那么,通配符就要在这种路由模式和路由键之间匹配后交换机才能转发消息,交换机根据绑定队列的routing key的值进行通配符匹配。
理解交换机如何投送消息的原理后,后面的就比较简单了。
在RabbitMQ的消息队列编程中,有个非常重要的概率叫消息确认机制,也就是Ack机制,这里我需要单独讲一下。
每个Consumer可能需要一段时间才能处理完收到的数据。如果在这个过程中,Consumer出错了或者异常退出了,而数据还没有处理完成,那么非常不幸,这段数据就丢失了。
因为我们采用no-ack的方式进行确认,也就是说,每次Consumer接到数据后,而不管是否处理完成,RabbitMQ Server会立即把这个Message标记为完成,然后从queue中删除了。 如果一个Consumer异常退出了,它处理的数据能够被另外的Consumer处理,这样数据在这种情况下就不会丢失了(注意是这种情况下)。
为了保证数据不被丢失,RabbitMQ支持消息确认机制,即acknowledgments。为了保证数据能被正确处理而不仅仅是被Consumer收到,那么我们不能采用no-ack。而应该是在处理完数据后发送ack。 在处理数据后发送的ack,就是告诉RabbitMQ数据已经被接收,处理完成,RabbitMQ可以去安全的删除它了。
如果Consumer退出了但是没有发送ack,那么RabbitMQ就会把这个Message发送到下一个Consumer。这样就保证了在Consumer异常退出的情况下数据也不会丢失。
这里并没有用到超时机制。RabbitMQ仅仅通过Consumer的连接中断来确认该Message并没有被正确处理。也就是说,RabbitMQ给了Consumer足够长的时间来做数据处理。 这样即使你通过Ctr-C中断了Recieve.cs,那么Message也不会丢失了,它会被分发到下一个Consumer。
如果忘记了ack,那么后果很严重。当Consumer退出时,Message会重新分发。然后RabbitMQ会占用越来越多的内存,由于RabbitMQ会长时间运行,因此这个“内存泄漏”是致命的。
下面的例子中我会使用手动Ack模式。
RabbitMQ需要安装erlang和RabbitMQ Server, 安装教程请参考:RabbitMQ安装
接下来正式开始讲解如何在SpringBoot中集成了。
##maven依赖
第一版当然是先添加maven依赖了,有官方现成的starter依赖,如下:
org.springframework.boot
spring-boot-starter-amqp
org.springframework.boot
spring-boot-starter-test
com.vaadin.external.google
android-json
最核心的类就是RabbitMQ的配置类,在里面定制模版类、声明交换机、队列、绑定交换机到队列。
这里我声明了一个Direct类型的交换机,并通过路由键绑定到一个队列中来测试Direct模式, 声明了Fanout类型的交换机,并绑定到2个队列来测试Fanout模式,以及声明了Topic类型的交换机,并通过路由键通配符的形式绑定到两个队列来测试Topic模式。
@Configuration
public class RabbitConfig {
@Resource
private RabbitTemplate rabbitTemplate;
/**
* Direct
*/
public static final String DIRECT_EXCHANGE = "DIRECT_EXCHANGE";
public static final String DIRECT_QUEUE = "DIRECT_QUEUE";
public static final String DIRECT_ROUTING_KEY = "DIRECT_ROUTING_KEY";
/**
* Fanout
*/
public static final String FANOUT_EXCHANGE = "FANOUT_EXCHANGE";
public static final String FANOUT_QUEUE_A = "FANOUT_QUEUE_A";
public static final String FANOUT_QUEUE_B = "FANOUT_QUEUE_B";
/**
* Topic
*/
public static final String TOPIC_EXCHANGE = "TOPIC_EXCHANGE";
public static final String TOPIC_QUEUE_A = "TOPIC_QUEUE_A";
public static final String TOPIC_QUEUE_B = "TOPIC_QUEUE_B";
public static final String TOPIC_ROUTING_KEY_A = "TOPIC.#";
public static final String TOPIC_ROUTING_KEY_B = "TOPIC.B";
/**
* 定制化amqp模版 可根据需要定制多个
*
*
* 此处为模版类定义 Jackson消息转换器
* ConfirmCallback接口用于实现消息发送到RabbitMQ交换器后接收ack回调 即消息发送到exchange ack
* ReturnCallback接口用于实现消息发送到RabbitMQ 交换器,但无相应队列与交换器绑定时的回调 即消息发送不到任何一个队列中 ack
*
* @return the amqp template
*/
// @Primary
@Bean
public AmqpTemplate amqpTemplate() {
Logger log = LoggerFactory.getLogger(RabbitTemplate.class);
// 使用jackson 消息转换器
//rabbitTemplate.setMessageConverter(new Jackson2JsonMessageConverter());
rabbitTemplate.setEncoding("UTF-8");
// 消息发送失败返回到队列中,yml需要配置 publisher-returns: true
rabbitTemplate.setMandatory(true);
rabbitTemplate.setReturnCallback((message, replyCode, replyText, exchange, routingKey) -> {
String correlationId = message.getMessageProperties().getCorrelationIdString();
log.debug("消息:{} 发送失败, 应答码:{} 原因:{} 交换机: {} 路由键: {}", correlationId, replyCode, replyText, exchange, routingKey);
});
// 消息确认,yml需要配置 publisher-confirms: true
rabbitTemplate.setConfirmCallback((correlationData, ack, cause) -> {
if (ack) {
log.debug("消息发送到exchange成功,id: {}", correlationData.getId());
} else {
log.debug("消息发送到exchange失败,原因: {}", cause);
}
});
return rabbitTemplate;
}
/* ----------------------------------------------------------------------------Direct exchange test--------------------------------------------------------------------------- */
/**
* 声明Direct交换机 支持持久化.
*
* @return the exchange
*/
@Bean("directExchange")
public Exchange directExchange() {
return ExchangeBuilder.directExchange(DIRECT_EXCHANGE).durable(true).build();
}
/**
* 声明一个队列 支持持久化.
* @return the queue
*/
@Bean("directQueue")
public Queue directQueue() {
return QueueBuilder.durable(DIRECT_QUEUE).build();
}
/**
* 通过绑定键 将指定队列绑定到一个指定的交换机 .
*
* @param queue the queue
* @param exchange the exchange
* @return the binding
*/
@Bean
public Binding directBinding(@Qualifier("directQueue") Queue queue,
@Qualifier("directExchange") Exchange exchange) {
return BindingBuilder.bind(queue).to(exchange).with(DIRECT_ROUTING_KEY).noargs();
}
/* ----------------------------------------------------------------------------Fanout exchange test--------------------------------------------------------------------------- */
/**
* 声明 fanout 交换机.
*
* @return the exchange
*/
@Bean("fanoutExchange")
public FanoutExchange fanoutExchange() {
return (FanoutExchange) ExchangeBuilder.fanoutExchange(FANOUT_EXCHANGE).durable(true).build();
}
/**
* Fanout queue A.
*
* @return the queue
*/
@Bean("fanoutQueueA")
public Queue fanoutQueueA() {
return QueueBuilder.durable(FANOUT_QUEUE_A).build();
}
/**
* Fanout queue B .
*
* @return the queue
*/
@Bean("fanoutQueueB")
public Queue fanoutQueueB() {
return QueueBuilder.durable(FANOUT_QUEUE_B).build();
}
/**
* 绑定队列A 到Fanout 交换机.
*
* @param queue the queue
* @param fanoutExchange the fanout exchange
* @return the binding
*/
@Bean
public Binding bindingA(@Qualifier("fanoutQueueA") Queue queue,
@Qualifier("fanoutExchange") FanoutExchange fanoutExchange) {
return BindingBuilder.bind(queue).to(fanoutExchange);
}
/**
* 绑定队列B 到Fanout 交换机.
*
* @param queue the queue
* @param fanoutExchange the fanout exchange
* @return the binding
*/
@Bean
public Binding bindingB(@Qualifier("fanoutQueueB") Queue queue,
@Qualifier("fanoutExchange") FanoutExchange fanoutExchange) {
return BindingBuilder.bind(queue).to(fanoutExchange);
}
/* ----------------------------------------------------------------------------Topic exchange test--------------------------------------------------------------------------- */
/**
* 声明 topic 交换机.
* @return the exchange
*/
@Bean
public TopicExchange topicExchange(){
return (TopicExchange) ExchangeBuilder.topicExchange(TOPIC_EXCHANGE).durable(true).build();
}
/**
* Topic queue A.
* @return the queue
*/
@Bean
public Queue topicQueueA(){
return QueueBuilder.durable(TOPIC_QUEUE_A).build();
}
/**
* Topic queue A.
* @return the queue
*/
@Bean
public Queue topicQueueB(){
return QueueBuilder.durable(TOPIC_QUEUE_B).build();
}
/**
* 绑定队列A到Tpoic交换机.
* @param topicQueueA the queue
* @param topicExchange the fanout exchange
* @return the binding
*/
@Bean
public Binding topicBindingA(Queue topicQueueA,TopicExchange topicExchange){
return BindingBuilder.bind(topicQueueA).to(topicExchange).with(TOPIC_ROUTING_KEY_A);
}
/**
* 绑定队列B到Tpoic交换机.
* @param topicQueueB the queue
* @param topicExchange the fanout exchange
* @return the binding
*/
@Bean
public Binding topicBindingB(Queue topicQueueB,TopicExchange topicExchange){
return BindingBuilder.bind(topicQueueB).to(topicExchange).with(TOPIC_ROUTING_KEY_B);
}
}
接下来编写消息队列的监听器类,监听队列消息并做相应的处理,并通过Ack机制确认处理完成:
@Component
public class Receiver {
private static final Logger log = LoggerFactory.getLogger(Receiver.class);
/**
* FANOUT广播队列监听一.
*
* @param message the message
* @param channel the channel
* @throws IOException the io exception 这里异常需要处理
*/
@RabbitListener(queues = {"FANOUT_QUEUE_A"})
public void on(Message message, Channel channel) throws IOException {
log.debug("FANOUT_QUEUE_A " + new String(message.getBody()));
System.out.println(message.getBody().toString());
channel.basicAck(message.getMessageProperties().getDeliveryTag(), true);
}
/**
* FANOUT广播队列监听二.
*
* @param message the message
* @param channel the channel
* @throws IOException the io exception 这里异常需要处理
*/
@RabbitListener(queues = {"FANOUT_QUEUE_B"})
public void t(Message message, Channel channel) throws IOException {
log.debug("FANOUT_QUEUE_B " + new String(message.getBody()));
System.out.println(message.getBody().toString());
channel.basicAck(message.getMessageProperties().getDeliveryTag(), true);
}
/**
* DIRECT模式.
*
* @param message the message
* @param channel the channel
* @throws IOException the io exception 这里异常需要处理
*/
@RabbitListener(queues = {"DIRECT_QUEUE"})
public void message(Message message, Channel channel) throws IOException {
log.debug("DIRECT " + new String(message.getBody()));
System.out.println(message.getBody().toString());
channel.basicAck(message.getMessageProperties().getDeliveryTag(), true);
}
/**
* TOPIC模式
*/
//@RabbitListener(queues = {"TOPIC_QUEUE_A"})
//public void topicReceiver1(User user, Channel channel) throws IOException {
// System.out.println("【User 】"+user);
// //System.out.println("【Message 】"+new String(message.getBody()));
// //channel.basicAck(message.getMessageProperties().getDeliveryTag(), true);
//}
@RabbitListener(queues = {"TOPIC_QUEUE_A"})
public void topicReceiver1(Message message, Channel channel) throws IOException {
System.out.println("【Receiver1 Message 】" + new String(message.getBody()));
channel.basicAck(message.getMessageProperties().getDeliveryTag(), true);
}
@RabbitListener(queues = {"TOPIC_QUEUE_B"})
public void topicReceiver2(Message message, Channel channel) throws IOException {
System.out.println("【Receiver2 Message 】" + new String(message.getBody()));
channel.basicAck(message.getMessageProperties().getDeliveryTag(), true);
}
}
再写一个消息发送服务,用来向交换机发送消息:
@Service
public class SenderService {
private Logger logger = LoggerFactory.getLogger(this.getClass());
@Resource
private RabbitTemplate rabbitTemplate;
/**
* 测试广播模式.
* @param p the p
* @return the response entity
*/
public void broadcast(String p) {
CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
rabbitTemplate.convertAndSend("FANOUT_EXCHANGE", "", p, correlationData);
}
/**
* 测试Direct模式.
* @param p the p
* @return the response entity
*/
public void direct(String p) {
CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
rabbitTemplate.convertAndSend("DIRECT_EXCHANGE", "DIRECT_ROUTING_KEY", p, correlationData);
}
/**
* 测试topic模式
*/
private static User user = new User("zhangsan", "123456");
public void topicSend1() {
System.out.println("【topicSend1 sender】" + user);
CorrelationData correlation = new CorrelationData(UUID.randomUUID().toString());
rabbitTemplate.convertAndSend("TOPIC_EXCHANGE","TOPIC.USER",user,correlation);
}
public void topicSend2() {
System.out.println("【topicSend2 sender】" + user);
CorrelationData correlation = new CorrelationData(UUID.randomUUID().toString());
rabbitTemplate.convertAndSend("TOPIC_EXCHANGE","TOPIC.B", user,correlation);
}
}
代码写完后当然要写个测试用例测一下嘛。
@RunWith(SpringRunner.class)
@SpringBootTest(classes = Application.class)
public class SenderServiceTest {
@Autowired
private SenderService senderService;
@Test
public void testCache() {
// 测试广播(Fanout)模式
senderService.broadcast("同学们集合啦!");
// 测试定点(Direct)模式
senderService.direct("定点消息");
//测试主题(Topic)模式
senderService.topicSend1();
senderService.topicSend2();
}
}
运行结果:
2018-05-18 11:21:27.876 DEBUG 8289 — [cTaskExecutor-1] com.tinckay.pos.mq.Receiver : FANOUT_QUEUE_A 同学们集合啦!
2018-05-18 11:21:27.875 DEBUG 8289 — [cTaskExecutor-1] com.tinckay.pos.mq.Receiver : FANOUT_QUEUE_B 同学们集合啦!
2018-05-18 11:21:27.876 DEBUG 8289 — [cTaskExecutor-1] com.tinckay.pos.mq.Receiver : DIRECT 定点消息
【topicSend1 sender】User{username=‘zhangsan’, password=‘123456’}
【topicSend2 sender】User{username=‘zhangsan’, password=‘123456’}
可以看到,广播消息被两个队列收到了,Direct消息只有一个收到。完美!