消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题
实现高性能,高可用,可伸缩和最终一致性架构。最全面的Java面试网站
使用较多的消息队列有 RocketMQ,RabbitMQ,Kafka,ZeroMQ,MetaMQ
以下介绍消息队列在实际应用中常用的使用场景。
异步处理,应用解耦,流量削锋、日志处理和消息通讯五个场景。
场景说明:用户注册后,需要发注册邮件和注册短信。传统的做法有两种 1.串行的方式;2.并行方式
本文已经收录到Github仓库,该仓库包含计算机基础、Java基础、多线程、JVM、数据库、Redis、Spring、Mybatis、SpringMVC、SpringBoot、分布式、微服务、设计模式、架构、校招社招分享等核心知识点,欢迎star~
Github地址
如果访问不了Github,可以访问gitee地址。
gitee地址
(1)串行方式:将注册信息写入数据库成功后,发送注册邮件,再发送注册短信。以上三个任务全部完成后,返回给客户端
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-i992Okcj-1681632859093)(http://img.topjavaer.cn/img/mq使用场景1.png)]
(2)并行方式:将注册信息写入数据库成功后,发送注册邮件的同时,发送注册短信。以上三个任务完成后,返回给客户端。与串行的差别是,并行的方式可以提高处理的时间
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-gp6kvSRM-1681632859098)(http://img.topjavaer.cn/img/mq使用场景2.png)]
假设三个业务节点每个使用 50 毫秒钟,不考虑网络等其他开销,则串行方式的时间是 150 毫秒,并行的时间可能是 100 毫秒。
因为 CPU 在单位时间内处理的请求数是一定的,假设 CPU1 秒内吞吐量是 100 次。则串行方式 1 秒内 CPU 可处理的请求量是 7 次(1000/150)。并行方式处理的请求量是 10 次(1000/100)
小结:如以上案例描述,传统的方式系统的性能(并发量,吞吐量,响应时间)会有瓶颈。如何解决这个问题呢?
引入消息队列,将不是必须的业务逻辑,异步处理。改造后的架构如下:
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9HtSUIMS-1681632859099)(http://img.topjavaer.cn/img/mq使用场景3.png)]
按照以上约定,用户的响应时间相当于是注册信息写入数据库的时间,也就是 50 毫秒。注册邮件,发送短信写入消息队列后,直接返回,因此写入消息队列的速度很快,基本可以忽略,因此用户的响应时间可能是 50 毫秒。因此架构改变后,系统的吞吐量提高到每秒 20 QPS。比串行提高了 3 倍,比并行提高了两倍
场景说明:用户下单后,订单系统需要通知库存系统。传统的做法是,订单系统调用库存系统的接口。如下图
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-huhDH75D-1681632859101)(http://img.topjavaer.cn/img/mq使用场景4.png)]
传统模式的缺点:
如何解决以上问题呢?引入应用消息队列后的方案,如下图:
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-RfeLiXlb-1681632859102)(http://img.topjavaer.cn/img/mq使用场景5.png)]
流量削锋也是消息队列中的常用场景,一般在秒杀或团抢活动中使用广泛
应用场景:秒杀活动,一般会因为流量过大,导致流量暴增,应用挂掉。为解决这个问题,一般需要在应用前端加入消息队列。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9RrFc6B3-1681632859102)(http://img.topjavaer.cn/img/mq使用场景6.png)]
日志处理是指将消息队列用在日志处理中,比如 Kafka 的应用,解决大量日志传输的问题。架构简化如下
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-0UBVp3dC-1681632859103)(http://img.topjavaer.cn/img/mq使用场景7.png)]
以下是新浪 kafka 日志处理应用案例
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-iLi0a03O-1681632859104)(http://img.topjavaer.cn/img/mq使用场景8.png)]
(1)、Kafka:接收用户日志的消息队列
(2)、Logstash:做日志解析,统一成 JSON 输出给 Elasticsearch
(3)、Elasticsearch:实时日志分析服务的核心技术,一个 schemaless,实时的数据存储服务,通过 index 组织数据,兼具强大的搜索和统计功能
(4)、Kibana:基于 Elasticsearch 的数据可视化组件,超强的数据可视化能力是众多公司选择 ELK stack 的重要原因
消息通讯是指,消息队列一般都内置了高效的通信机制,因此也可以用在纯的消息通讯。比如实现点对点消息队列,或者聊天室等
点对点通讯:
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-zkwlz0Ti-1681632859104)(http://img.topjavaer.cn/img/mq使用场景9.png)]
客户端 A 和客户端 B 使用同一队列,进行消息通讯。
聊天室通讯:
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eVJggmMI-1681632859107)(http://img.topjavaer.cn/img/mq使用场景10.png)]
客户端 A,客户端 B,客户端 N 订阅同一主题,进行消息发布和接收。实现类似聊天室效果。
以上实际是消息队列的两种消息模式,点对点或发布订阅模式。模型为示意图,供参考。
最后给大家分享一个Github仓库,上面有大彬整理的300多本经典的计算机书籍PDF,包括C语言、C++、Java、Python、前端、数据库、操作系统、计算机网络、数据结构和算法、机器学习、编程人生等,可以star一下,下次找书直接在上面搜索,仓库持续更新中~
Github地址