Ribbon实战与原理剖析
一、ribbon概述
1、ribbon简介
目前主流的负载方案分为以下两种：
- 集中式负载均衡，在消费者和服务提供方中间使用独立的代理方式进行负载，有硬件的（比如 F5），也有软件的（比如 Nginx）。
- 客户端根据自己的请求情况做负载均衡，Ribbon 就属于客户端自己做负载均衡。
Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具，Ribbon客户端组件提供一系列的完善的配置，如超时，重试等。通过Load Balancer获取到服务提供的所有机器实例，Ribbon会自动基于某种规则(轮询，随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。
2、常见负载均衡算法
- 随机，通过随机选择服务进行执行，一般这种方式使用较少;
- 轮训，负载均衡默认实现方式，请求来之后排队处理;
- 加权轮训，通过对服务器性能的分型，给高配置，低负载的服务器分配更高的权重，均衡各个服务器的压力;
- 地址Hash，通过客户端请求的地址的HASH值取模映射进行服务器调度。 ip hash
- 最小连接数，即使请求均衡了，压力不一定会均衡，最小连接数法就是根据服务器的情况，比如请求积压数等参数，将请求分配到当前压力最小的服务器上。
- 最小活跃数
3、Ribbon模块
二、Spring Cloud快速整合Ribbon
1、引入依赖
<!--添加ribbon的依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
<dependency>
注意：如果引入了 nacos-discovery依赖，可以不用再引入ribbon依赖。因为 nacos-discovery依赖了ribbon
2、添加@LoadBalanced注解
@Configuration
public class RestConfig {
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate();
}
}
3、 修改controller
@Autowired
private RestTemplate restTemplate;
// version2
@GetMapping("/findOrderByUserId/{userId}")
public R findOrderByUserId(@PathVariable("userId") Integer userId) {
String url = "http://mall-order/order/findOrderByUserId/" + userId;
// import com.baomidou.mybatisplus.extension.api.R;
R result = restTemplate.getForObject(url, R.class);
return result;
}
此时的restTemplate已经具备了自动获取服务列表并根据负载均衡算法确定出要调用服务的能力。我们只需要根据服务名称调用服务即可，不再需要关心服务具体的url以及调用哪个服务。
三、Ribbon内核原理
其实关于请求调用，Spring提供有一个扩展点拦截器：ClientHttpRequestInterceptor。
Ribbon中使用LoadBalancerInterceptor实现了这个拦截器，会拦截请求，根据负载均衡算法，将原始URL中中的"mall-order"替换成服务实例ip:port，然后再进行最终调用。
1、@LoadBalanced 注解原理
@LoadBalanced其实就是一个修饰符，和@Qualifier一样，比如我们给user1打上@LoadBalanced:
@Bean("user1")
@LoadBalanced
User user1() {
return new User("1", "a");
}
@Bean("user2")
User user2() {
return new User("2", "b");
}
然后controller中给List users打上@LoadBalanced注解：
@Autowired(required = false)
@LoadBalanced
private List<User> users = Collections.emptyList();
和@Qualifier注解效果一样，只有user1被注入进了List，user2没有修饰符，没有被注入进去。
补充：
@Autowired可以将符合条件的bean注入到List和Map。
@Bean("user1")
User user1() {
return new User("1", "a");
}
@Bean("user2"))
User user2() {
return new User("2", "b");
}
@Autowired(required = false)
private List<User> users = Collections.emptyList();
@Autowired(required = false)
private Map<String,User> userMap = new HashMap<>();
此时就可以自动将两个bean注入进来，当注入map的时候，map的key必须是String类型，然后bean name将作为map的key,本例，map中将有两个key分别为user1和user2,value分别为对应的User Bean实例。
然后我们给user1和user2分别打上@Qualifier修饰符:
@Bean("user1")
@Qualifier("valid")
User user1() {
return new User("1", "a");
}
@Bean("user2")
@Qualifier("invalid")
User user2() {
return new User("2", "b");
}
然后将user list 和user map分别也打上@Qualifier修饰符:
@Autowired(required = false)
@Qualifier("valid")
private List<User> users = Collections.emptyList();
@Autowired(required = false)
@Qualifier("invalid")
private Map<String,User> userMap = new HashMap<>();
那么所有标注了@Qualifier(“valid”)的user bean都会自动注入到List users中去(本例是user1)，所有标注了@Qualifier(“invalid”)的userbean都会自动注入到Map
另外当spring容器中有多个相同类型的bean的时候，可以通过@Qualifier来进行区分，以便在注入的时候明确表明你要注入具体的哪个bean,消除歧义。
2、被@LoadBalanced注解修饰的restTemplate会被定制，添加LoadBalancerInterceptor拦截器。
@Configuration(
proxyBeanMethods = false
)
@ConditionalOnMissingClass({"org.springframework.retry.support.RetryTemplate"})
static class LoadBalancerInterceptorConfig {
LoadBalancerInterceptorConfig() {
}
@Bean
public LoadBalancerInterceptor ribbonInterceptor(LoadBalancerClient loadBalancerClient, LoadBalancerRequestFactory requestFactory) {
return new LoadBalancerInterceptor(loadBalancerClient, requestFactory);
}
@Bean
@ConditionalOnMissingBean
public RestTemplateCustomizer restTemplateCustomizer(final LoadBalancerInterceptor loadBalancerInterceptor) {
return (restTemplate) -> {
List<ClientHttpRequestInterceptor> list = new ArrayList(restTemplate.getInterceptors());
// 给加了@LoadBalanced注解的restTemplate添加拦截器，使其对服务列表拉取和负载均衡有确定唯一服务的能力
list.add(loadBalancerInterceptor);
restTemplate.setInterceptors(list);
};
}
}
四、修改负载均衡策略
1、常用的负载均衡策略类
- RandomRule： 随机选择一个Server。
- RetryRule：对选定的负载均衡策略机上重试机制，在一个配置时间段内当选择Server不成功，则一直尝试使用subRule的方式选择一个可用的server。
- RoundRobinRule： 轮询选择， 轮询index，选择index对应位置的Server。
- AvailabilityFilteringRule： 过滤掉一直连接失败的被标记为circuit tripped的后端Server，并过滤掉那些高并发的后端Server或者使用一个AvailabilityPredicate来包含过滤server的逻辑，其实就是检查status里记录的各个Server的运行状态。
- BestAvailableRule：选择一个最小的并发请求的Server，逐个考察Server，如果Server被tripped了，则跳过。
- WeightedResponseTimeRule： 根据响应时间加权，响应时间越长，权重越小，被选中的可能性越低。
- ZoneAvoidanceRule：默认的负载均衡策略，即复合判断Server所在区域的性能和Server的可用性选择Server，在没有区域的环境下，类似于轮询(RandomRule)
- NacosRule: 同集群优先调用
2、修改默认负载均衡策略
2.1、修改全局配置：调用其他微服务，一律使用指定的负载均衡算法
@Configuration
public class RibbonConfig {
/**
* 全局配置
* 指定负载均衡策略
* @return
*/
@Bean
public IRule() {
// 指定使用Nacos提供的负载均衡策略（优先调用同一集群的实例，基于随机权重）
return new NacosRule();
}
}
2.2、修改局部配置：调用指定微服务提供的服务时，使用对应的负载均衡算法
修改application.yml：
# 被调用的微服务名
mall-order:
ribbon:
# 指定使用Nacos提供的负载均衡策略（优先调用同一集群的实例，基于随机&权重）
NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule
2.3、局部配置的第二种方式
可以利用@RibbonClient指定微服务及其负载均衡策略。
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class, DruidDataSourceAutoConfigure.class})
//@RibbonClient(name = "mall-order", configuration = RibbonConfig.class)
//配置多个 RibbonConfig不能被@SpringbootApplication的@CompentScan扫描到，否则就是全局配置的效果
@RibbonClients(value = {
// 在SpringBoot主程序扫描的包外定义配置类
@RibbonClient(name = "mall-order", configuration = RibbonConfig.class),
@RibbonClient(name = "mall-account", configuration = RibbonConfig.class)
})
public class MallUserRibbonDemoApplication {
public static void main(String[] args) {
SpringApplication.run(MallUserRibbonDemoApplication.class, args);
}
}
注意：此处有坑。不能写在@SpringbootApplication注解的@CompentScan扫描得到的地方，否则自定义的配置类就会被所有的RibbonClients共享。不建议这么使用，推荐yml方式。
3、自定义负载均衡策略
通过实现IRule接口可以自定义负载策略，主要的选择服务逻辑在 choose 方法中。
3.1、实现基于权重的负载均衡策略
@Slf4j
public class NacosRandomWithWeightRule extends AbstractLoadBalancerRule {
@Autowired
private NacosDiscoveryProperties nacosDiscoveryProperties;
@Override
public Server choose(Object key) {
DynamicServerListLoadBalancer loadBalancer = (DynamicServerListLoadBalancer) getLoadBalancer();
String serviceName = loadBalancer.getName();
NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
try {
//nacos基于权重的算法
Instance instance = namingService.selectOneHealthyInstance(serviceName);
return new NacosServer(instance);
} catch (NacosException e) {
log.error("获取服务实例异常：{}", e.getMessage());
e.printStackTrace();
}
return null;
}
@Override
public void initWithNiwsConfig(IClientConfig clientConfig) {
}
}
3.2、配置自定义的策略
1）全局配置
@Bean
public IRule ribbonRule() {
return new NacosRandomWithWeightRule();
}
2）局部配置
修改application.yml：
# 被调用的微服务名
mall-order:
ribbon:
# 自定义的负载均衡策略（基于随机&权重）
NFLoadBalancerRuleClassName: com.tuling.mall.ribbondemo.rule.NacosRandomWithWeightRule
五、饥饿加载
Ribbon默认懒加载，意味着只有在发起调用的时候才会创建客户端。在进行服务调用的时候，如果网络情况不好，第一次调用会超时。
开启饥饿加载，解决第一次调用慢的问题：
ribbon:
eager-load:
# 开启ribbon饥饿加载
enabled: true
# 配置mall-user使用ribbon饥饿加载，多个使用逗号分隔
clients: mall-order