做web开发都会接触到负载均衡。
百度百科:
负载均衡,英文名称为Load Balance,
其含义就是指将负载(工作任务)进行平衡、分摊到多个操作单元上进行运行,
例如FTP服务器、Web服务器、企业核心应用服务器和其它主要任务服务器等,
从而协同完成工作任务。
负载均衡主要分为:软件负载(比如Nginx)和硬件负载(比如F5)
在微服务盛行的现在,软件负载在微服务里成为主流,Netflix的Ribbon就是其中之一
我们这里只关注软件负载,硬件负载略过。
软件负载也分为:服务端负载(服务端发现模式)、客户端负载(客户端发现模式)
Nginx本身就是服务,Nginx做负载,就是服务端做负载均衡。Dubbo就是服务端的负载均衡。
一般来说,在生产环境中,各个微服务都会部署多个实例。那么服务消费者要如何将请求分摊到多个服务提供者实例上呢?
可以使用Ribbon实现客户端侧负载均衡。
Ribbon是Netflix发布的负载均衡器,它有助于控制HTTP和TCP客户端的行为。为Ribbon配置服务提供者地址列表后,Ribbon就可以基于某种均衡算法,自动帮助服务消费者去请求。Ribbon默认提供了很多负载均衡算法,如:轮询、随机、hash等,也可以为Ribbon实现自定义的负载均衡算法。
在Spring Cloud中,当Ribbon与Eureka配合使用是,Ribbon可自动从Eureka Server获取服务提供者地址列表,并基于负载均衡算法,请求其中一个服务提供者实例
复制项目microservice-consumer-movie,将artifactId修改为microservice-consumer-movie-ribbon
修改pom.xml文件中的artifactId 修改成microservice-consumer-movie-ribbon
使用idea 打开工程spring-cloud-learn
修改spring-cloud-learn/pom.xml ,是microservice-consumer-movie-ribbon 作为 spring-cloud-learn的子模块
为项目引入Ribbon的依赖,Ribbon的依赖如下:
>
>org.springframework.cloud >
>spring-cloud-starter-netflix-ribbon >
>
由于之前我们的电影微服务已经添加了spring-cloud-starter-netflix-eureka-client,该依赖已包含spring-cloud-starter-netflix-ribbon,因此无需再次引入。
为RestTemplate添加@LoadBalanced注解,就可以为 RestTemplate整合Ribbon,使其具备负载均衡的能力。
@Bean
// 这个注解可以根据spring.application.name调用eureka服务,由于默认有ribbon,所以默认轮询访问。
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate(); //默认使用URLConnection
}
Ribbon默认的负载方式是轮询
修改controller代码
@RestController
@RequestMapping("/consumer")
@Slf4j
public class MovieController {
@Resource
private RestTemplate restTemplate;
@Resource
private LoadBalancerClient loadBalancerClient;
@GetMapping("/user/{id}")
public User findById(@PathVariable Integer id) {
return restTemplate.getForObject("http://user-provider/user/" + id, User.class);
}
@GetMapping("/logUserInstance")
public void logUserInstance(){
ServiceInstance serviceInstance=loadBalancerClient.choose("user-provider");
//打印当前选择的是哪个结点
log.info("{}:{}:{}",serviceInstance.getServiceId(),serviceInstance.getHost(),serviceInstance.getPort());
}
}
测试步骤:
先启动注册中心Eureka-server
然后启动两个提供者 microservice-provider-user
java -jar microservice-provider-user-1.0-SNAPSHOT.jar
java -Dserver.port=9999 -jar microservice-provider-user-1.0-SNAPSHOT.jar
注意:服务提供者使用单机注册中心,不是集群
然后启动服务消费者
访问controller 进行测试(microservice-consumer-moive-ribbon)
启动测试,从控制台上,我们可以看到,此时请求会均匀分布到两个用户微服务上,说明已实现了负载均衡。
上面使用了虚拟主机名(user-provider),可将其简单理解为提供者的服务名称,因为在默认情况下,虚拟主机名和服务名称是一致的。
注意事项:
不要将restTemplate.getForObject(...)和loadBalancerClient.choose("...")
写到同一个方法中,
两者之间会有冲突,
因为此时代码中的restTemplate实际上是一个Ribbon客户端,
本身已经包含了choose的行为。
有些场景下,我们可能需要自定义Ribbon的配置,例如修改Ribbon的负载均衡规则等。
Spring Cloud 允许使用Java代码或属性自定义Ribbon的配置,两种方式是等价的。
复制microservice-consumer-movie-ribbon 到microservice-consumer-movie-ribbon-custom ,修改artifactId为microservice-consumer-movie-ribbon-custom
@Configuration
public class RibbonConfig {
@Bean
public IRule ribbonRule(){
//负载均衡规则,改为随机
return new RandomRule();
}
}
/**
* 使用@RibbonClient注解的configuration属性,即可自定义指定名称Ribbon客户端配置
*/
@Configuration
@RibbonClient(name="user-provider",configuration = RibbonConfig.class)
public class RibbonClientConfig {
}
启动服务测试
启动注册中心
启动至少两个服务提供者(microservice-provider-user)
java -jar microservice-provider-user-1.0-SNAPSHOT.jar
java -Dserver.port=9999 -jar microservice-provider-user-1.0-SNAPSHOT.jar
注意:服务提供者使用单机注册中心,不是集群
然后启动服务消费者(microservice-consumer-moive-ribbon-custom)
访问controller 进行测试
配置application.yml
#将服务提供者 user-provider的Ribbon Client 的负载均衡规则为随机规则
user-provider:
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
#若配置成以下形式,则表示对所有的Ribbon Client 都使用RandomRule
#ribbon:
# NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
由代码可以看出,使用属性自定义的方式比使用Java代码配置方便的多。
属性配置的方式比Java代码配置的方式优先级更高。
测试方式:
启动注册中心
启动至少两个服务提供者(microservice-provider-user)
java -jar microservice-provider-user-1.0-SNAPSHOT.jar
java -Dserver.port=9999 -jar microservice-provider-user-1.0-SNAPSHOT.jar
注意:服务提供者使用单机注册中心,不是集群
然后启动服务消费者(microservice-consumer-moive-ribbon-custom)
访问controller 进行测试
上面的示例中,是将Ribbon与Eureka配合使用的。但现实中可能不具备这样的条件,例如一些遗留的微服务,它们可能并没有注册到Eureka Server上,甚至根本不是使用Spring Cloud开发的,此时要想使用Ribbon实现负载均衡,要怎么办呢?
Ribbon支持脱离Eureka使用,架构图如下:
复制工程microservice-consumer-movie为
microservice-consumer-movie-without-eureka,修改artifactId 为microservice-consumer-movie-without-eureka
Pom文件修改
org.springframework.cloud
spring-cloud-starter-netflix-ribbon
application.yml 修改
spring:
application:
name: consumer-movie
eureka:
client:
service-url:
defaultZone: http://localhost:8761/eureka/
#将服务提供者 user-provider的Ribbon Client 的负载均衡规则为随机规则
# listOfServers 用于名为user-provider的ribbon客户端设置请求的地址列表
user-provider:
ribbon:
listOfServers: localhost:8888
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
测试启动两个服务端,看看是否只访问到一个服务端了
然后listOfServers上配置两个服务
listOfServers: localhost:8888,localhost:9999
查看是不是都访问到了