三、RabbitMQ 扩展

一、RabbitMQ 介绍
二、RabbitMQ 核心
三、RabbitMQ 扩展
四、RabbitMQ 集群


RabbitMQ 扩展


一、幂等性

  • 用户对于同一操作发起的 一次请求 或者 多次请求 的结果是一致的,不会因为多次点击而产生了副作用。

  • 举个最简单的例子,那就是支付,用户购买商品后支付,支付扣款成功,但是返回结果的时候网络异常,此时钱已经扣了,用户再次点击按钮,此时会进行第二次扣款,返回结果成功,用户查询余额发现多扣钱了,流水记录也变成了两条。
  • 在以前的单应用系统中,我们只需要把数据操作放入事务中即可,发生错误立即回滚,但是在响应客户端的时候也有可能出现网络中断或者异常等等。

1. 消息重复消费

  • 消费者在消费 MQ 中的消息时,MQ 已把消息发送给消费者,消费者在给 MQ 返回 ACK 时网络中断,故 MQ 未收到确认信息,该条消息会重新发给其他的消费者,或者在网络重连后再次发送给该消费者,但实际上该消费者已成功消费了该条消息,造成消费者消费了重复的消息。

2. 解决思路

  • MQ 消费者的幂等性解决一般使用全局 ID 或者写个唯一标识。
  • 比如:时间戳、UUID 或者 订单消费者消费 MQ 中的消息 ID 来判断,或者可按自己的规则生成一个全局唯一 ID,每次消费消息时用该 ID 先判断该消息是否已消费过。

3. 消费端的 幂等性保障

  • 在海量订单生成的业务高峰期,生产端有可能会重复发送了消息,这时候消费端就要实现幂等性,这就意味着我们的消息永远不会被消费多次,即使我们收到了一样的消息。
  • 业界主流的幂等性有两种操作:
  1. 唯一ID + 指纹码机制,利用数据库主键去重。
  2. 利用 Redis 的原子性去实现。

4. 唯一ID + 指纹码机制

  • 指纹码:我们的一些规则 或者 时间戳 加别的服务给到的唯一信息码,它并不一定是我们系统生成的,基本都是由我们的业务规则拼接而来,但是一定要保证唯一性,然后就利用查询语句进行判断这个 ID 是否存在数据库中。
  1. 优势就是实现简单就一个拼接,然后查询判断是否重复。
  2. 劣势就是在高并发时,如果是单个数据库就会有写入性能瓶颈,当然也可以采用分库分表提升性能,但也不是我们最推荐的方式。

5. Redis 原子性

  • 利用 Redis 执行 setnx 命令,天然具有幂等性。
  • 从而实现不重复消费。

二、优先级队列


1. 使用场景

  • 在我们系统中有一个订单催付的场景,我们的客户在天猫下的订单,淘宝会及时将订单推送给我们,如果在用户设定的时间内未付款那么就会给用户推送一条短信提醒,很简单的一个功能对吧!
  • 但是,商家对我们来说,肯定是要分 大客户 和 小客户 的对吧!
  • 比如像 苹果、小米 这样大商家一年起码能给我们创造很大的利润,所以理应当然,他们的订单必须得到优先处理,而曾经我们的后端系统是使用 Redis 来存放的定时轮询,大家都知道 Redis 只能用 List 做一个简简单单的消息队列,并不能实现一个优先级的场景。
  • 所以订单量大了后采用 RabbitMQ 进行改造和优化,如果发现是大客户的订单给一个相对比较高的优先级,否则就是默认优先级。

2. 添加优先级队列(Features = Pri

三、RabbitMQ 扩展_第1张图片


3. 实战

  • 注意事项:要让队列实现优先级需要做如下事情。
  1. 队列需要设置为优先级队列,消息需要设置消息的优先级。
  2. 消费者需要等待消息已经全部发送到队列中再去消费,因为,这样才有机会对消息进行排序。
/**
 * @author: wy
 * describe: 生产者
 * 优先级队列
 */
public class Producer {

    // 队列名称
    private static final String QUEUE_NAME = "hello";

    public static void main(String[] args) throws IOException, TimeoutException {
        // 获取信道
        Channel channel = RabbitMQUtil.getChannel();
        Map<String, Object> arguments = new HashMap<>();
        // 优先级最大限制为10(默认优先级范围0-255,255最大,建议不要设置过大,浪费CPU与内存)
        arguments.put("x-max-priority", 10);
        channel.queueDeclare(QUEUE_NAME, false, false, false, arguments);
        for (int i = 0; i < 10; i++) {
            // 发消息
            String message = "info" + i;
            if (i == 5) {
                // info5,优先级设置为5
                AMQP.BasicProperties props = new AMQP.BasicProperties().builder().priority(5).build();
                channel.basicPublish("", QUEUE_NAME, props, message.getBytes());
            } else if (i == 6) {
                // info6,优先级设置为6
                AMQP.BasicProperties props = new AMQP.BasicProperties().builder().priority(6).build();
                channel.basicPublish("", QUEUE_NAME, props, message.getBytes());
            } else {
                channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
            }
        }
        System.out.println("消息发送完毕");
    }
}

3. 测试结果

Consumer, 等待接收消息...
接收到消息: info6
接收到消息: info5
接收到消息: info0
接收到消息: info1
接收到消息: info2
接收到消息: info3
接收到消息: info4
接收到消息: info7
接收到消息: info8
接收到消息: info9

三、惰性队列


1. 使用场景

  • RabbitMQ 从 3.6.0 版本开始引入了惰性队列的概念。
  • 惰性队列会 尽可能的将消息存入磁盘中,而在消费者消费到相应的消息时才会被加载到内存中,它的一个重要的设计目标是能够支持更长的队列,即支持更多的消息存储。
  • 当消费者由于各种各样的原因(比如 消费者下线、宕机 亦或者是 由于维护而关闭 等)而致使长时间内不能消费消息造成堆积时,惰性队列就很有必要了。

  • 默认情况下,当生产者将消息发送到 RabbitMQ 的时候,队列中的消息会尽可能的存储在内存之中,这样可以更加快速的将消息发送给消费者。
  • 即使是持久化的消息,在被写入磁盘的同时也会在内存中驻留一份备份。
  • 当 RabbitMQ 需要释放内存的时候,会将内存中的消息换页至磁盘中,这个操作会耗费较长的时间,也会阻塞队列的操作,进而无法接收新的消息。
  • 虽然 RabbitMQ 的开发者们一直在升级相关的算法,但是效果始终不太理想,尤其是在消息量特别大的时候。

2. 两种模式

  • 队列具备两种模式:defaultlazy(默认的为 default 模式),在 3.6.0 之前的版本无需做任何变更。
  • lazy 模式 即为惰性队列的模式,可以通过调用 channel.queueDeclare 方法的时候在参数中设置,也可以通过 Policy 的方式设置,如果一个队列同时使用这两种方式设置的话,那么 Policy 的方式具备更高的优先级。
  • 如果要通过声明的方式改变已有队列的模式的话,那么只能先删除队列,然后再重新声明一个新的。

  • 在队列声明的时候可以通过 x-queue-mode 参数来设置队列的模式,取值为 defaultlazy
  • 下面示例中演示了一个惰性队列的声明细节:
/**
 * @author: wy
 * describe: 惰性队列
 */
public class Producer {

    // 队列名称
    private static final String QUEUE_NAME = "lazyQueue";
    
    public static void main(String[] args) throws IOException, TimeoutException {
        // 获取信道
        Channel channel = RabbitMQUtil.getChannel();
        Map<String, Object> arguments = new HashMap<>();
        // 设置为惰性队列
        arguments.put("x-queue-mode", "lazy");
        channel.queueDeclare(QUEUE_NAME, false, false, false, arguments);
        String message = "惰性队列,消息持久化到磁盘";
        channel.basicPublish("", QUEUE_NAME, null, message.getBytes());
        System.out.println("消息发送完毕");
    }
}

3. 内存开销对比

  • 在发送 1 百万条消息,每条消息大概占 1KB 的情况下,普通队列占用内存是 1.2GB,而惰性队列仅仅占用 1.5MB。
    三、RabbitMQ 扩展_第2张图片

你可能感兴趣的:(RabbitMQ,rabbitmq)