负载均衡通器常有两种实现手段,一种是服务端负载均衡器,另一种是客户端负载均衡器,而今天的主角Ribbon就是属于后者–客户端负载均衡器。
服务端负载均衡器的问题是,它提供了更强的流量控制权,但无法满足一同的消费者希望使用不同负载均衡策略的需求,而使用不同负载均衡策略的场景确实是存在的,所以客户端负载均衡就提供了这种灵活性。然而客户端负载均衡也有其缺点,如果配置不当,可能会导致服务提供者出现热点,或者压根就拿不到任何服务的情况。及了解一下Ribbon的7种内置负载均衡策略的具体规则。
力,比如Fegin和OpenFegin都是基于Ribbon实现的,就连Nacos中的负载均衡也使用了Ribbon框架。
Ribbon框架的强大之处在于,它不仅内置了7种负载均衡策略,同时还支持用户自定义负载均衡策略,所以其开放性和便利性也是它得以流行的主要原因。
服务端负载均衡和客户端负载均衡的区别如下所示:
客户端负载均衡器的实现原理是通过注册中心,如Nacos,将可用的服务列表拉取到本地(客户端),在通过客服端负载均衡器(设置的负载均衡策略)获取到某个服务器的具体IP和端口,然后在通过HTTP框架请求服务并得到结果,其执行流程如下所示:
RetryRule是先按照RoundRobinRule的策略获取服务,如果获取失败的话则在指定时间内会进行重试,获取可用的服务
WeightedResponseTimeRule:对RoundRobinRule的扩展,响应速度越快的实例选择权重越大,越容易被选择
BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个
AvailablityFilteringRule:先过滤掉故障实例,再选择并发较小的实例
ZoneAvoidanceRule:默认规则,符合判断server所在区域的性能和server的可用性选择服务器
Ribbon默认的负载均衡策略是轮询模式
轮询策略:RoundRobinRule,按照一定的顺序依次调用服务实例。比如一共有 3 个服务,第一次调用服务 1,第二次调用服务 2,第三次调用服务3,依次类推。此策略的配置设置如下:
springcloud-nacos-provider: # nacos中的服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RoundRobinRule #设置负载均衡
权重策略:WeightedResponseTimeRule,根据每个服务提供者的响应时间分配一个权重,响应时间越长,权重越小,被选中的可能性也就越低。它的实现原理是,刚开始使用轮询策略并开启一个计时器,每一段时间收集一次所有服务提供者的平均响应时间,然后再给每个服务提供者附上一个权重,权重越高被选中的概率也越大。此策略的配置设置如下:
springcloud-nacos-provider: # nacos中的服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.WeightedResponseTimeRule
随机策略:RandomRule,从服务提供者的列表中随机选择一个服务实例。此策略的配置设置如下:
springcloud-nacos-provider: # nacos中的服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #设置负载均衡
最小连接数策略:BestAvailableRule,也叫最小并发数策略,它是遍历服务提供者列表,选取连接数最小的一个服务实例。如果有相同的最小连接数,那么会调用轮询策略进行选取。此策略的配置设置如下:
springcloud-nacos-provider: # nacos中的服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule #设置负载均衡
重试策略:RetryRule,按照轮询策略来获取服务,如果获取的服务实例为null或已经失效,则在指定的时间之内不断地进行重试来获取服务。如果超过指定时间依然没获取到服务实例则返回null。此策略的配置设置如下:
ribbon:
ConnectTimeout: 2000 # 请求连接的超时时间
ReadTimeout: 5000 # 请求处理的超时时间
springcloud-nacos-provider: # nacos 中的服务 id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule #设置负载均衡
可用敏感性策略:AvailabilityFilteringRule,先过滤掉非健康的服务实例,然后在选择连接数较小的服务实例。此策略的配置设置如下:
springcloud-nacos-provider: # nacos中的服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.AvailabilityFilteringRule
区域敏感策略:ZoneAvoidanceRule,根据服务所在区域(zone)的性能和服务的可用性来选择服务实例,在没有区域的环境下,该策略和轮询策略类似。此策略的配置设置如下:
springcloud-nacos-provider: # nacos中的服务id
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.ZoneAvoidanceRule
一定情况下也可以自定义策略
关于分布式的状态可以查看 该文章
策略名 | 适用场景 | 缺点 |
---|---|---|
轮询策略 | 集群中各个节点提供服务能力等同且无状态的场景。 | 不关心服务端负载,服务端处理能力的波动可能造成堵塞 |
权重策略 | 允许各节点服务能力不相等并且允许波动。 | |
区域敏感策略 | 服务器分布范围很广,调用方分布范围也很广,可使调用方请求路由到最近的服务器集群 | |
随机策略 | 同轮询策略 | 同轮询策略 |
重试策略 | 具体适用场景同指定的路由策略,只是添加了重试功能 |
参考文献:
https://blog.csdn.net/a1965483733/article/details/81389136
https://www.jianshu.com/p/05a37e236ff6
https://www.jianshu.com/p/05a37e236ff6