Netflix Ribbon 客户端负载均衡

Ribbon能做什么

提供了多种可插拔的负载均衡策略
可集成服务发现
内置弹性容错
云端集成
客户端负载均衡
Archaius 配置驱动工厂

Ribbon负载均衡核心组件

Rule - 用于从服务列表中选取服务的逻辑组件
Ping - 在后台运行确保服务可用性组件
ServerList - 服务列表，可以是静态也可以是动态的，如果是动态的（例如被DynamicServerListLoadBalancer使用），将会启动一个后台线程定期刷新和过滤服务列表

这些组件可以使用程序进行配置，可以利用反射客户端配置属性进行配置，以下是配置文件中相关的属性名(注意带上前缀..)

NFLoadBalancerClassName
NFLoadBalancerRuleClassName
NFLoadBalancerPingClassName
NIWSServerListClassName
NIWSServerListFilterClassName

常用的Rule

RoundRobinRule

最简单的负载均衡策略，常用于默认策略或者其他策略的备用策略

AvailabilityFilteringRule

这个策略会跳过断路中的服务，或者高并发连接数的服务。
默认情况下，如果RestClient最近三次连接均失败则任务该实例断路，然后该实例会保持断路状态30秒后进入回路关闭状态，如果此时仍然连接失败，那么等待进入关闭状态的时间会随失败次数指数级增长。

以下属性可以通过 Archaius ConfigurationManager进行设置

# successive connection failures threshold to put the server in circuit tripped state, default 3
niws.loadbalancer..connectionFailureCountThreshold

# Maximal period that an instance can remain in "unusable" state regardless of the exponential increase, default 30
niws.loadbalancer..circuitTripMaxTimeoutSeconds

# threshold of concurrent connections count to skip the server, default is Integer.MAX_INT
..ActiveConnectionsLimit

WeightedResponseTimeRule

这种方式会为每一个服务按响应时长分配权重，响应时间越长权重越低，权重代表了该服务会被选中的概率。
启用WeightedResponseTimeRule可以通过API设置也可以使用下面的配置

..NFLoadBalancerRuleClassName=com.netflix.loadbalancer.WeightedResponseTimeRule

ServerList

Adhoc static server list

你可以设置静态的服务列表，使用BaseLoadBalancer或其子类的BaseLoadBalancer.setServersList()方法

ConfigurationBasedServerList

基于配置的服务列表是负载均衡器的默认实现
可以通过 ArchaiusConfigurationManager配置服务列表

sample-client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80

DiscoveryEnabledNIWSServerList

该实现通过Eureka客户端获得服务列表，服务集群必须用VipAddress进行区分识别

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
# the server must register itself with Eureka server with VipAddress "myservice"
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice

ServerListFilter

DynamicServerListLoadBalancer会使用ServerListFilter组件来过滤服务列表，Ribbon中有两种ServerListFilter实现。

ZoneAffinityServerListFilter

过滤掉与客户端不在同一可用区中的服务，除非同一区中没有可用服务，假设客户端name: myclient, namespace: ribbon,配置方式如下

myclient.ribbon.EnableZoneAffinity=true

ServerListSubsetFilter

该过滤器确保客户端只能看见所有服务列表中的一个固定子集，它也可以周期性的用新服务替换掉子集中低可用的服务。可以使用以下配置开启

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
# the server must register itself with Eureka server with VipAddress "myservice"
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
myClient.ribbon.NIWSServerListFilterClassName=com.netflix.loadbalancer.ServerListSubsetFilter
# only show client 5 servers. default is 20.
myClient.ribbon.ServerListSubsetFilter.size=5