消息队列-Rabbitmq处理消息及在Spring中的应用

消息队列-Rabbitmq

  • 1. 什么是消息队列
  • 2. AMQP和JMS
  • 3. 常见MQ产品
  • 4. RabbitMQ
    • 4.1 五种消息模型
      • 4.1.1 基本消息模型
      • 4.1.2 work消息模型
      • 4.1.3 订阅模型分类
        • 4.1.3.1 订阅模型-Fanout
        • 4.1.3.2 订阅模型-Direct
        • 4.1.3.3 订阅模型-Topic
  • 5. 处理消息丢失的几种方法
    • 5.1 消费者的ACK机制
    • 5.2 持久化
    • 5.3 生产者确认机制
  • 6. Spring AMQP
    • 6.1 简介
    • 6.2 依赖和配置
    • 6.3 监听者
    • 6.4 AmqpTemplate
    • 6.5 测试代码

1. 什么是消息队列

消息队列,即MQ,Message Queue。
消息队列-Rabbitmq处理消息及在Spring中的应用_第1张图片
消息队列是典型的:生产者、消费者模型。生产者不断向消息队列中生产消息,消费者不断的从队列中获取消息。因为消息的生产和消费都是异步的,而且只关心消息的发送和接收,没有业务逻辑的侵入,这样就实现了生产者和消费者的解耦。

消息队列的主要特点是异步处理,主要目的是减少请求响应时间和解耦。

2. AMQP和JMS

MQ是消息通信的模型,并发具体实现。现在实现MQ的有两种主流方式:AMQP、JMS。
消息队列-Rabbitmq处理消息及在Spring中的应用_第2张图片
两者间的区别和联系:

  • JMS是定义了统一的接口,来对消息操作进行统一;AMQP是通过规定协议来统一数据交互的格式
  • JMS限定了必须使用Java语言;AMQP只是协议,不规定实现方式,因此是跨语言的。
  • JMS规定了两种消息模型;而AMQP的消息模型更加丰富

3. 常见MQ产品

消息队列-Rabbitmq处理消息及在Spring中的应用_第3张图片

  • ActiveMQ:基于JMS
  • RabbitMQ:基于AMQP协议,erlang语言开发,稳定性好
  • RocketMQ:基于JMS,阿里巴巴产品,目前交由Apache基金会
  • Kafka:分布式消息系统,高吞吐量(可靠性不高)

SpringCloud默认支持的两款消息队列:RabbitMQ 和 Kafka

4. RabbitMQ

RabbitMQ是基于AMQP的一款消息管理系统

官网: http://www.rabbitmq.com/

官方教程:http://www.rabbitmq.com/getstarted.html
消息队列-Rabbitmq处理消息及在Spring中的应用_第4张图片
RabbitMQ基于Erlang语言(面向并发的编程语言)开发:

4.1 五种消息模型

消息队列-Rabbitmq处理消息及在Spring中的应用_第5张图片
RabbitMQ提供了6种消息模型,但是第6种其实是RPC,并不是MQ,因此不予学习。那么也就剩下5种。

但是其实3、4、5这三种都属于订阅模型,只不过进行路由的方式不同
消息队列-Rabbitmq处理消息及在Spring中的应用_第6张图片

4.1.1 基本消息模型

一个生产者,一个消费者

消息队列-Rabbitmq处理消息及在Spring中的应用_第7张图片
消费者的消息确认机制(Acknowlage) — 避免消息丢失的一种方案

通过刚才的案例可以看出,消息一旦被消费者接收,队列中的消息就会被删除。

那么问题来了:RabbitMQ怎么知道消息被接收了呢?

这就要通过消息确认机制(Acknowlege)来实现了。当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种情况:

  • 自动ACK:消息一旦被接收,消费者自动发送ACK
  • 手动ACK:消息接收后,不会发送ACK,需要手动调用

哪种更好呢?

这需要看消息的重要性:

  • 如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便
  • 如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。

4.1.2 work消息模型

多个消费者绑定同一个队列,解决消息堆积 —【短信服务】消息队列-Rabbitmq处理消息及在Spring中的应用_第8张图片
不足:把任务平均分配,正确的做法应该是消费越快的人,消费的越多。

怎么实现呢?

我们可以修改设置,让消费者同一时间只接收一条消息,这样处理完成之前,就不会接收更多消息,就可以让处理快的人,接收更多消息 ,即能者多劳

4.1.3 订阅模型分类

订阅模型示意图:
消息队列-Rabbitmq处理消息及在Spring中的应用_第9张图片
前面2个案例中,只有3个角色:

  • P:生产者,也就是要发送消息的程序
  • C:消费者:消息的接受者,会一直等待消息到来。
  • queue:消息队列,图中红色部分。类似一个邮箱,可以缓存消息;生产者向其中投递消息,消费者从其中取出消息。

而在订阅模型中,多了一个exchange角色,而且过程略有变化:

  • P:生产者,也就是要发送消息的程序,但是不再发送到队列中,而是发给X(交换机)
  • C:消费者,消息的接受者,会一直等待消息到来。
  • Queue:消息队列,接收消息、缓存消息。
  • Exchange:交换机,图中的X。一方面,接收生产者发送的消息。另一方面,知道如何处理消息,例如递交给某个特别队列、递交给所有队列、或是将消息丢弃。到底如何操作,取决于Exchange的类型。Exchange有以下3种类型:
    • Fanout:广播,将消息交给所有绑定到交换机的队列
    • Direct:定向,把消息交给符合指定routing key 的队列
    • Topic:通配符,把消息交给符合routing pattern(路由模式) 的队列

Exchange(交换机)只负责转发消息,不具备存储消息的能力,因此如果没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失!

4.1.3.1 订阅模型-Fanout

Fanout,也称为广播。

流程图:
消息队列-Rabbitmq处理消息及在Spring中的应用_第10张图片
如果没有任何消息队列和交换机绑定,那么发到交换机的这条消息就会丢失,因为交换机只是起一个转发的作用,它本身没有储存消息的能力。(队列有)

可用做:商品服务增删改查,page静态页和搜索服务

4.1.3.2 订阅模型-Direct

在Fanout模式中,一条消息,会被所有订阅的队列都消费。但是,在某些场景下,我们希望不同的消息被不同的队列消费。这时就要用到Direct类型的Exchange。

在Direct模型下:

  • 队列与交换机的绑定,不能是任意绑定了,而是要指定至少一个RoutingKey(路由key)
  • 消息的发送方在 向 Exchange发送消息时,也必须指定消息的 RoutingKey。
  • Exchange不再把消息交给每一个绑定的队列,而是根据消息的Routing Key进行判断,只有队列的Routingkey与消息的 Routing key完全一致,才会接收到消息

消息队列-Rabbitmq处理消息及在Spring中的应用_第11张图片

4.1.3.3 订阅模型-Topic

说明

Topic类型的Exchange与Direct相比,都是可以根据RoutingKey把消息路由到不同的队列。只不过Topic类型Exchange可以让队列在绑定Routing key 的时候使用通配符!

Routingkey 一般都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert

通配符规则:

     #:匹配一个或多个词

     *:匹配不多不少恰好1个词

举例:

     audit.#:能够匹配audit.irs.corporate 或者 audit.irs

     audit.*:只能匹配audit.irs

图示:

消息队列-Rabbitmq处理消息及在Spring中的应用_第12张图片

5. 处理消息丢失的几种方法

如何避免消息丢失?

5.1 消费者的ACK机制

消费者的ACK机制可以防止消费者丢失消息。
  当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种情况:

  • 自动ACK:消息一旦被接收,消费者自动发送ACK
  • 手动ACK:消息接收后,不会发送ACK,需要手动调用

选择哪种需要看消息的重要性:

  • 如果消息不太重要,丢失也没有影响,那么自动ACK会比较方便
  • 如果消息非常重要,不容丢失。那么最好在消费完成后手动ACK,否则接收消息后就自动ACK,RabbitMQ就会把消息从队列中删除。如果此时消费者宕机,那么消息就丢失了。

5.2 持久化

但是,如果在消费者消费之前,MQ就宕机了,消息就没了。是否可以将消息进行持久化呢?(避免rabbitmq把消息弄丢失)

要将消息持久化前提是:Exchange、队列和消息都持久化
消息队列-Rabbitmq处理消息及在Spring中的应用_第13张图片

5.3 生产者确认机制

仅仅靠前两个能解决大部分问题,但是因为网络波动的原因,导致生产者消息发出了,却没有成功的传递到mq当中,消息也会丢失,这时采用生产者确认机制

消费者确认:消费者需要向rabbitmq发送一个确认,告诉它消息拿到了;
生产者确认:rabbitmq向生产方发,生产方发了一个消息到mq,mq收到消息会向生产方发送一条成功回执。

总结:
解决消息丢失

  • ack(消费者确认)
  • 持久化
  • 发送消息前,将消息持久化到数据库,并记录消息状态(可靠消息服务)-不一定是rabbitmq
  • 生产者确认

6. Spring AMQP

6.1 简介

Sprin有很多不同的项目,其中就有对AMQP的支持:
消息队列-Rabbitmq处理消息及在Spring中的应用_第14张图片
Spring AMQP的页面:http://projects.spring.io/spring-amqp/
消息队列-Rabbitmq处理消息及在Spring中的应用_第15张图片
注意这里一段描述:
消息队列-Rabbitmq处理消息及在Spring中的应用_第16张图片
Spring-amqp是对AMQP协议的抽象实现,而spring-rabbit 是对协议的具体实现,也是目前的唯一实现。底层使用的就是RabbitMQ。

6.2 依赖和配置

添加AMQP的启动器:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-amqp</artifactId>
</dependency>

在项目的application.yml中添加RabbitMQ地址:

spring:
  rabbitmq:
    host: 192.168.56.101 #主机地址
    username: leyou #用户名和密码
    password: leyou
    virtual-host: /leyou

6.3 监听者

在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要通过简单的注解,就可以成为一个消费者。

@Component
public class Listener {
     

    @RabbitListener(bindings = @QueueBinding(
            value = @Queue(value = "spring.test.queue", durable = "true"),
            exchange = @Exchange(
                    value = "spring.test.exchange",
                    ignoreDeclarationExceptions = "true",
                    type = ExchangeTypes.TOPIC
            ),
            key = {
     "#.#"}))
    public void listen(String msg){
     
        System.out.println("接收到消息:" + msg);
    }
}
  • @Componet:类上的注解,注册到Spring容器
  • @RabbitListener:方法上的注解,声明这个方法是一个消费者方法,需要指定下面的属性:
    • bindings:指定绑定关系,可以有多个。值是@QueueBinding的数组。@QueueBinding包含下面属性:
      • value:这个消费者关联的队列。值是@Queue,代表一个队列
      • exchange:队列所绑定的交换机,值是@Exchange类型
      • key:队列和交换机绑定的RoutingKey

类似listen这样的方法在一个类中可以写多个,就代表多个消费者。

6.4 AmqpTemplate

Spring最擅长的事情就是封装,把他人的框架进行封装和整合。

Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,非常方便的发送消息,其发送方法:
消息队列-Rabbitmq处理消息及在Spring中的应用_第17张图片
红框圈起来的是比较常用的3个方法,分别是:

  • 指定交换机、RoutingKey和消息体
  • 指定消息
  • 指定RoutingKey和消息,会向默认的交换机发送消息

6.5 测试代码

@RunWith(SpringRunner.class)
@SpringBootTest(classes = Application.class)
public class MqDemo {
     

    @Autowired
    private AmqpTemplate amqpTemplate;

    @Test
    public void testSend() throws InterruptedException {
     
        String msg = "hello, Spring boot amqp";
        this.amqpTemplate.convertAndSend("spring.test.exchange","a.b", msg);
        // 等待10秒后再结束
        Thread.sleep(10000);
    }
}

运行后查看日志:
在这里插入图片描述

你可能感兴趣的:(消息队列,Rabbit,消息队列,SpringAMQP)