1 极速了解MQ

  介绍Rabbitmg用于解决分布式事务必须掌握的5个核心概念

  一款分布式消息中间件,基于erlang语言开发, 具备语言级别的高并发处理能力。和Spring框架是同一家公司。

  支持持久化、高可用

  核心5个概念:

  Queue: 真正存储数据的地方

  Exchange: 接收请求,转存数据

  Bind: 收到请求后存储到哪里

  消息生产者:发送数据的应用

  消息消费者: 取出数据处理的应用

  

MQ分布式消息中间件实战_第1张图片


  2、分布式事务问题

  分布式事务是一个业务问题,不能脱离具体的场景。

  2.1 分布式事务的几种解决方案

  ● 基于数据库XA/ JTA协议的方式

  需要数据库厂商支持; JAVA组件有atomikos等

  ● 异步校对数据的方式

  支付宝、微信支付主动查询支付状态、对账单的形式;

  ● 基于可靠消息(MQ)的解决方案

  异步场景;通用性较强;拓展性较高

  ● TCC编程式解决方案

  严选、阿里、蚂蚁金服自己封装的DTX

  本文目标:针对所有人群,学会基于可靠消息来解决分布式事务问题。

  分布式事务的解决方案,业务针对性很强,重要的是思路,而不是照搬

  美团点评系统架构

  

MQ分布式消息中间件实战_第2张图片


  2.2 多系统间的分布式事务问题

  

MQ分布式消息中间件实战_第3张图片


  用户下单生成订单

  

MQ分布式消息中间件实战_第4张图片


  需要传递订单数据,由此产生两个事务一致性问题

  

MQ分布式消息中间件实战_第5张图片


  错误的案例

  

MQ分布式消息中间件实战_第6张图片


  当接口调用失败时,订单系统事务回滚,提示用户操作失败

  误以为这样的接口调用写法,就不会有分布式事务问题

  接口调用成功或者失败,都会产生分布式事务问题:

  接口调用成功,订单系统数据库事务提交失败,运单系统没有回滚,产生数据

  接口调用超时,订单系统数据库事务回滚,运单系统接口继续执行,产生数据

  上述两种情况,都会导致数据不一致的问题

  3、实现分布式事务 - 五步法

  通过MQ解决分布式事务的5个步骤, 以及分布式事务处理中要注意的地方

  之前都是订单系统发送HTTP请求运单系统的接口,出问题了!

MQ分布式消息中间件实战_第7张图片


  因此我们考虑发消息给MQ, 异步暂存!

  

MQ分布式消息中间件实战_第8张图片


  3.1 整体设计思路

  

MQ分布式消息中间件实战_第9张图片


  外卖下订单后,可以慢慢等待运单中心数据生成,并非强制要求同时性

  可靠生产:保证消息一定要发送到Rabitmq服务

  可靠消费:保证消息取出来一定正确消费掉

  最终使多方数据达到一致。

  3.2 步骤1 - 可靠的消息生产记录消息发送

  

MQ分布式消息中间件实战_第10张图片


  存在隐患 - 可能消息发送失败呀!

  

MQ分布式消息中间件实战_第11张图片


  ➢ 为了确保数据一定成功发送到MQ。

  ➢ 在同一事务中,增加一个记录表的操作, 记录每一条发往MQ的数据以及它的发送状态

  于是我们在订单系统中增加一个本地信息表

MQ分布式消息中间件实战_第12张图片


  于是在代码实践中,不再通过HTTP接口调用运单系统接口,而是使用MQ

  生成订单时,也保存本地信息表

  

MQ分布式消息中间件实战_第13张图片


  

MQ分布式消息中间件实战_第14张图片


  

MQ分布式消息中间件实战_第15张图片


  3.3 步骤2 - 可靠消息生产(修改消息发送状态)

  利用RabbitMQ事务发布确认机制(confirm)

  开启后,MQ准确受理消息会返回执

  

MQ分布式消息中间件实战_第16张图片


  然后就能知道如何更新本地信息表了

  

MQ分布式消息中间件实战_第17张图片


  -确保在SB中开启Confirm机制

  

MQ分布式消息中间件实战_第18张图片


  

MQ分布式消息中间件实战_第19张图片


  

MQ分布式消息中间件实战_第20张图片


  如果出现回执没收到、消息状态修改失败等特殊情况

  兜底方案:定时检查消息表,超时没发送成功,再次重发

  3.4 步骤3 - 可靠消息处理(正常处理)

  运单系统收到消息数据后,突然宕机,或者访问运单DB时,DB突然宕机,消息数据不就丢了吗!!!

  

MQ分布式消息中间件实战_第21张图片


  于是需要以下特性:

  ➢ 幂等性

  防止重复消息数据的处理,一次用户操作,只对应一次数据处理

  

MQ分布式消息中间件实战_第22张图片


  ➢ 开启手动ACK模式

  由消费者控制消息的重发/清除/丢弃

  


  3.5 步骤4 - 可靠消息处理(消息重发)

  

MQ分布式消息中间件实战_第23张图片


  消费者处理失败,需要MQ再次重发给消费者。

  出现异常一般会重试几次,由消费者自身记录重试次数,并进行次数控制(不会永远重试!)

  3.6 步骤五 - 可靠消息处理(消息丢弃)

  消费者处理失败,直接丢弃或者转移到死信队列(DLQ)

  重试次数过多、消息内容格式错误等情况,通过线上预警机制通知运维人员

  

MQ分布式消息中间件实战_第24张图片


  4 总结及扩展

  4.1 MQ方案的优点和缺点

  口优点

  通用性强

  拓展性强

  方案成熟

  口缺点

  4. 基于消息中间件,只适合异步场景

  5. 消息处理会有延迟,需要业务上能够容忍

  尽量避免分布式事务;

  尽量将非核心事务做成异步;

  4.2 拓展

  分布式事务解决方案的理论依据

  CAP理论

  BASE理论

  2PC协议

  3PC协议

  Paxos算法.

  Raft一致性协议