Spring cloud ribbon实现灰度发布

1. 1. 灰度发布

灰度发布是在多版本控制的基础上进一步扩展实现出来的项目 -> fm-cloud-graybunny，抽象出灰度服务、灰度服务实例、灰度策略、灰度决策等。      

灰度策略可以从request ip, request patameter, request header等方面进行去创建，也可以根据bamboo的LoadBalanceRequestTrigger结合graybuanny的接口去扩展灰度策略和灰度决策。

1. 1. 场景

有两个服务，共四个服务实例，分别是ServiceA-1, ServiceA-2, ServiceB-1。其中ServiceA-2是灰度实例。

• 场景1
  所有请求头usertype:old，ip:10.217..的请求或者请求头usertype:test, url 参数action:create的请求，都会被转发到的灰度服务ServiceA-2 。
• 场景2
  ServiceA-2通过一段时间的观察，判定运行稳定，开始ServiceA-2删除灰度标记，开始和ServiceA-1一样会加入正常的负载均衡规则当中。
• 场景3
  服务ServiceB发布新版本，ServiceB-2需要灰度注册，注册成功后所有的请求不能转发到ServiceB-2, 在为ServiceB-2设置灰度策略后，符合策略的请求才会被转发到ServiceB-2上。
  1. 思路

从上面的场景分析，可以归纳出两个对象：服务实例和调用请求；服务实例的灰度管理是基础，调用请求时如何决策路由，都是根据服务实例的灰度策略去判断的。既然有灰度管理这个概念，那么从功能上分，就会有client-server之分，所以又可以从graybunny-client和graybunny-server去分析。接下来将一步一步去分析这四个方面。

1. 1. 1. 灰度实例

• 实例注册
  服务实例添加到灰度管理中。
• 实例下线
  服务实例下线，从灰度管理中删除。
• 灰度开关
  调整服务实例的灰度状态，有启用、禁用两个状态，禁用的实例不纳入灰度列表中。
• 灰度策略
  请求是否可以被转发到该服务实例的条件，只有通过，请求才有可能会被转发到该实例上。
  1. 1. 调用请求

• 灰度决策
  根据请求的信息去匹配灰度服务实例的灰度策略，如果匹配上，会将服务实例加入到通过列表中。如果都没有匹配上，就按bamboo的路由规则去筛选非灰度的服务实例进行转发。
  1. 1. 灰度客户端

调用请求的服务消费者，和提供服务的服务提供者都可以是灰度客户端，因为微服务中，大多服务实例既是服务提供者，同时也是服务消费者。

• 灰度服务注册
  服务实例在启动时，就会向灰度服务端发起请求，将实例自身的灰度开关打开。
• 灰度服务下线
  在服务实例下线前，会触发钩子，向灰度服务端发起请求将实例自身从灰度列表中删除。
• 接收灰度实例调整消息
  接收由灰度服务端推送过来的灰度列表更新消息比如新增灰度实例，删除灰度实例等，维护缓存在实例上的灰度列表。
• 定时拉取灰度列表
  定时从灰度服务端拉取最新的灰度列表，维护实例自身缓存的灰度列表。
  1. 1. 灰度服务端

灰度服务端负表维护灰度列表，可以新增、删除、编辑灰度信息。

• 编辑灰度实例
  新增灰度实例，删除灰度实例，修改实例灰度状态。
• 编辑灰度策略
  新增实例灰度策略，删除实例灰度策略，修改灰度策略状态。
• 推送灰度服务调整消息
  向灰度客户端推送灰度列表变动消息，比如新增灰度实例，删除灰度实例，修改实例灰度状态等。
• 定时检查服务实例是否下线
  定时检查灰度服务实例是否下线，下线的的实例将从灰度列表中删除。

 

1. 1. 代码设计

根据上面的思路，设计以下对象和接口。共6个接口，4个模型对象。

对象：

对象	描述
GrayService	灰度服务 属性包括：灰度服务ID、灰度实例集合
GrayInstance	灰度实例，有状态属性 属性包括：灰度服务ID、灰度实例ID、策略组集合、灰度开关。
GrayPolicyGroup	灰度策略组，有状态属性 属性包括：灰度策略组ID、灰度策略集合、灰度策略是否可用。
GrayPolicy	灰度策略 属性包括：策略ID、策略类型、map集合 策略类型包括：REQUEST_IP,REQUEST_HEADER, REQUEST_PARAMETER, CONTEXT_PARAMS（合并匹配，既在map集合中使用多种策略类型）

接口:

接口名称	描述
GrayManager	灰度客户端管理器，维护灰度列表，维护自身灰度状态，创建灰度决策对象。抽象实现类AbstractGrayManager实现了基础的获取灰度列表， 创建灰度决策对象的能力。BaseGrayManger在期基础上进行了扩展，将灰度列表缓存起来，定时从灰度服务端更新灰度列表。
InformationClient	该接口主要是负责和灰度服务端进行通信，获取灰度列表，编辑灰度实例等能力。其实现类HttpInformationClient默认使用http方式访问灰度服务端。 子类InformationClientDecorator是一个适配器类，RetryableInformationClient继承了InformationClientDecorator类，实现了重试的功能。
GrayDecision	该接口是灰度决策，用来判断请求是否匹配灰度策略。实现了ip匹配、request parameter匹配、request header匹配、BambooRequestContext中的参数匹配器以及合并匹配等多个匹配能力。
GrayDecisionFactory	灰度决策的工厂类，其默认实现类支持上述几种灰度决策的创建。
GrayServiceManager	灰度服务管理类，属于服务端的类。主要是编辑服务实例，编辑灰度策略，以及维护最新的灰度列表。
GrayBunnyServerEvictor	接口类
EurekaGrayBunnyServerEvictor	该类是GrayBunnyServerEvictor的具体实现类，如果灰度服务实例下线后， 由于意外情况，没有向灰度服务端发送删除请求，服务端会每隔一段时间调用该接口的方法，检查灰度列表中的实例是否下线，如果实例已下线，就将其从灰度列表中删除。EurekaGrayBunnyServerEvictor是依赖EurekaClient来检查服务实例是否下线。

 

1. 1. 灰度负载规则和灰度决策

类名称	描述
GrayLoadBalanceRule	该类继承多版本控制中的BambooZoneAvoidanceRule类， 灰度路由 ： 灰度路由是客户端必须要实现的能力，graybunny是在bamboo的基础上扩展的，所以graybunny的路由规则对象GrayLoadBalanceRule继承了BambooZoneAvoidanceRule，choose()逻辑是这样的： 1、 判断目标服务是否有灰度实例。   1、 如果没有， 执行父类逻辑。结束。   2、 有灰度实例，先将灰度实例和非灰度实例筛选出来。 2、 挑选灰度实例， 筛选调用请求匹配上灰度实例的策略。   1、 如果没有匹配的灰度实例， 将非灰度实例列表传递过去执行父类的筛选逻辑。结束。   2、 如果有匹配的灰度实例， 从其中按轮询的方式挑选出一个实例。结束。