【初始RabbitMQ】发布订阅的实现

发布确认原理

生产者将信道设置成 confirm 模式,一旦信道进入 confirm 模式,所有在该信道上面发布的消息都将会被指派一个唯一的 ID(从 1 开始),一旦消息被投递到所有匹配的队列之后,broker 就会发送一个确认给生产者(包含消息的唯一 ID),这就使得生产者知道消息已经正确到达目的队 列了,如果消息和队列是可持久化的,那么确认消息会在将消息写入磁盘之后发出,broker 回传 给生产者的确认消息中 delivery-tag 域包含了确认消息的序列号,此外 broker 也可以设置 basic.ack 的 multiple 域,表示到这个序列号之前的所有消息都已经得到了处理

confirm 模式最大的好处在于他是异步的,一旦发布一条消息,生产者应用程序就可以在等信 道返回确认的同时继续发送下一条消息,当消息最终得到确认之后,生产者应用便可以通过回调 方法来处理该确认消息,如果 RabbitMQ 因为自身内部错误导致消息丢失,就会发送一条 nack 消 息,生产者应用程序同样可以在回调方法中处理该 nack 消息

简单的来说发布确认的作用就是防止数据丢失

【初始RabbitMQ】发布订阅的实现_第1张图片

发布确认的策略 

开启发布确认的方法

发布确认默认是没有开启的,如果要开启需要调用方法confirmSelect,每当你要想使用发布确认,都需要在channel上调用该方法

单个确认发布

这是一种简单的确认方式,它是一种同步确认发布的方式,也就是发布一个消息之后只有它被确认发布,后续的消息才能够继续发布,waitForConfirmsOrDie(long) 这个方法发只有在消息被确认的时候才能够返回,如果在指定时间范围内这个消息没有被确认就会抛出异常

这种确认方式有一个最大的缺点就是:发布速度特别的慢,因为如果没有确认发布的消息就会 阻塞所有后续消息的发布,这种方式最多提供每秒不超过数百条发布消息的吞吐量。当然对于某 些应用程序来说这可能已经足够了

public static void publicMessageIndividually() throws IOException, InterruptedException {
        Channel channel = RabbitMqUtils.getChannel();
        String queueName = UUID.randomUUID().toString();
        /*
         *生成一个队列
         * 1.队列名称
         * 2.队列里面的信息是否持久化(磁盘)默认情况时在内存
         * 3.该队列是否只供一个消费者进行消费 是否消费共享 true是允许
         * 4.是否自动删除 最后一个消费者断开连接之后 该队列是否自动删除 true自动删除 false不自动删除
         * 5.其他参数 延迟消息等
         */
        channel.queueDeclare(queueName,false,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        long begin = System.currentTimeMillis();
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = i + "";
            channel.basicPublish("",queueName,null,message.getBytes(StandardCharsets.UTF_8));
            //服务器返回false或超时内未返回,生产者可以消息重新发送
            boolean flag = channel.waitForConfirms();
            if(flag){
                System.out.println("消息发布成功!");
            }
        }
        long end = System.currentTimeMillis();
        System.out.println("发布" + MESSAGE_COUNT + "个单独确认消息,耗时" + (end - begin) + "ms");
    }

批量确认发布

上面的方式发布时是很慢的,与单个等待确认相比,先发布一批消息让然后一起确认可以极大地提高吞吐量。缺点就是:当发生故障导致发布出现问题时,不知道是哪个消息出现 问题了,我们必须将整个批处理保存在内存中,以记录重要的信息而后重新发布消息。当然这种 方案仍然是同步的,也一样阻塞消息的发布

    public static void publishMessageBatch() throws IOException, InterruptedException {
        Channel channel = RabbitMqUtils.getChannel();
        String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName,false,false,false,null);
        //开启发布确认
        channel.confirmSelect();
        //批量确认消息大小
        int batchSize = 100;
        //未确定消息
        int outstandingMessageCount = 0;
        long begin = System.currentTimeMillis();
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = i+"";
            channel.basicPublish("",queueName,null,message.getBytes(StandardCharsets.UTF_8));
            outstandingMessageCount++;
            if(outstandingMessageCount==batchSize){
                channel.waitForConfirms();
                outstandingMessageCount=0;
            }
        }
        if(outstandingMessageCount>0){
            channel.waitForConfirms();
        }
        long end = System.currentTimeMillis();
        System.out.println("发布" + MESSAGE_COUNT + "个批量确认消息,耗时" + (end - begin) + "ms");
    }

异步确认发布

异步确认发布通常指的是在消息发布过程中,消息的生产者(或发送方)在发送消息后,不需要等待消息被消费者(或接收方)确认接收,而是可以继续进行其他操作。这种异步确认的机制可以提高系统的并发性和效率

在具体实现上,异步确认发布通常涉及到以下几个步骤:

  1. 消息生产者将消息发送到消息队列或中间件中
  2. 消息队列或中间件在接收到消息后,会为每条消息分配一个唯一的序列号或ID
  3. 消息队列或中间件将消息投递到相应的消费者队列中
  4. 消费者从自己的消费者队列中拉取消息并进行处理
  5. 消费者在处理完消息后,会向消息队列或中间件发送一个确认消息,表示该消息已经被成功处理
  6. 消息队列或中间件在接收到消费者的确认消息后,会将该确认消息与原始消息的序列号或ID进行匹配,确认该消息已经被成功处理
  7. 消息队列或中间件会向消息生产者发送一个异步确认消息,通知消息生产者该消息已经被成功处理

【初始RabbitMQ】发布订阅的实现_第2张图片

 

public static void publishMessageAsync() throws IOException {
        Channel channel = RabbitMqUtils.getChannel();
        String queueName = UUID.randomUUID().toString();
        channel.queueDeclare(queueName,false,false,false,null);
        //开启发布确定
        channel.confirmSelect();
        /**
         * 线程安全有序的一个哈希表,适合用于高并发情况
         * 1、轻松将序号和消息进行关联
         * 2、轻松批量删除条目 只需要给到序列号
         * 3、支持高并发访问
         */
        ConcurrentSkipListMap outstandingConfirms = new ConcurrentSkipListMap<>();
        //开始时间
        long begin = System.currentTimeMillis();
        ConfirmCallback ackCallback = (deliveryTag,multiple)->{
            //是否是批量处理
            if(multiple){
                //返回的是小于等于(如果是小于等于需要在参数中加true)当前序列号的未确认消息 是一个 map
                ConcurrentNavigableMap confirmed = outstandingConfirms.headMap(deliveryTag,true);
                confirmed.clear();
            }else{
                //只清除当前序列号的消息
                outstandingConfirms.remove(deliveryTag);
            }
            System.out.println("确认消息"+deliveryTag);
        };
        ConfirmCallback nackCallback = (deliveryTag,multiple)->{
            String message = outstandingConfirms.get(deliveryTag);
            System.out.println("发布的消息"+message+"未被确认,序列号"+deliveryTag);
           // System.out.println("未确认消息"+deliveryTag);
        };
        //准备消息的监听器 监听哪些消息成功 哪些消息失效
        channel.addConfirmListener(ackCallback,nackCallback);
        //批量发送消息
        for (int i = 0; i < MESSAGE_COUNT; i++) {
            String message = "消息"+i;
            /**
             * channel.getNextPublishSeqNo()获取下一个消息的序列号
             * 通过序列号与消息体进行一个关联
             * 全部都是未确认的消息体
             */
            outstandingConfirms.put(channel.getNextPublishSeqNo(),message);
            channel.basicPublish("",queueName,null,message.getBytes(StandardCharsets.UTF_8));
        }
        long end = System.currentTimeMillis();
        System.out.println("发布" + MESSAGE_COUNT + "个批量确认消息,耗时" + (end - begin) + "ms");
    }

以上 3 种发布确认速度对比

单独发布消息:同步等待确认,简单,但吞吐量非常有限

批量发布消息:批量同步等待确认,简单,合理的吞吐量,一旦出现问题但很难推断出是那条 消息出现了问题

异步处理: 最佳性能和资源使用,在出现错误的情况下可以很好地控制,但是实现起来稍微难些

花费时间对比

    public static void main(String[] args) throws IOException, InterruptedException {
        //单个确认发布
        ConfirmMessage.publicMessageIndividually();//发布1000个单独确认消息,耗时47298ms
        //批量确认发布
        ConfirmMessage.publishMessageBatch();//发布1000个批量确认消息,耗时866ms
        //异步确认发布
        ConfirmMessage.publishMessageAsync();//发布1000个批量确认消息,耗时104ms
    }

你可能感兴趣的:(消息队列,java,消息队列,分布式)