Load balancing,即负载均衡,是一种计算机技术,用来在多个计算机(计算机集群)、网络连接、CPU、磁盘驱动器或其他资源中分配负载,以达到最优化资源使用、最大化吞吐率、最小化响应时间、同时避免过载的目的。
在分布式微服务架构中,往往有多个服务的提供者者注册在多个注册中心里,这个时候消费者需要使用服务时,决定由哪一个注册中心所在的服务提供者提供服务就是负载均衡。(也就是进程内LB,注:本文讨论范围只限于进程内LB)
在spring cloud H版大部分使用的负载均衡组件就是Ribbon和OpenFegin,而在spring cloud跟新后官方宣布在 SpringCloud 2020版本以后 SpringCloud剔除掉了 除了eureka-server
与 eureka-client
除外的所有 Netflix
组件,spring也给出了使用spring cloud Loadbalancer替代的方案,但就在目前,Ribbon以及OpenFegin仍然是主流的负载均衡的方案。因此本文会介绍者两个组件,后续可能会跟新Loadbalancer的介绍。
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具。
简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们很容易使用Ribbon实现自定义的负载均衡算法。
总结:负载均衡+RestTemplate调用
Ribbon在工作时分成两步
第一步先选择 EurekaServer ,它优先选择在同一个区域内负载较少的server.
第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址。
其中Ribbon提供了多种策略:比如轮询、随机和根据响应时间加权。
1.引入依赖,引入了Eureka的坐标即可,(spring-cloud-starter-netflix-eureka-client自带了spring-cloud-starter-ribbon引用)
<dependency>
<groupId>org.springframework.cloudgroupId>
<artifactId>spring-cloud-starter-netflix-eureka-clientartifactId>
dependency>
2.application.yml
eureka:
client:
#表示是否将自己注册进Eurekaserver默认为true。
register-with-eureka: true
#是否从EurekaServer抓取已有的注册信息,默认为true。单节点无所谓,集群必须设置为true才能配合ribbon使用负载均衡
fetchRegistry: true
service-url:
defaultZone: http://localhost:7001/eureka,http://localhost:7002/eureka
instance:
instance-id: 0rder80
3.配置RestTemplate
@Configuration
public class ApplicationContextConfig {
@Bean
@LoadBalanced
public RestTemplate getRestTemplate(){
return new RestTemplate();
}
}
4.服务调用,调用注册进Eureka注册中心的服务
public static final String PAYMENT_URL = "http://CLOUD-PRIVDER-SERVICE";
@Resource
private RestTemplate restTemplate;
@GetMapping("/consumer/payment/create")
public CommonResult<Payment> create(Payment payment){
return restTemplate.postForObject(PAYMENT_URL+"/payment/create", payment, CommonResult.class);
}
5.开启Eureka客户端发现服务
@SpringBootApplication
@EnableEurekaClient
public class OrderMain80 {
public static void main(String[] args) {
SpringApplication.run(OrderMain80.class,args);
}
}
根据特定算法中从服务列表中选取一个要访问的服务
通过在容器中注入这个接口的不同实现类就可以实现不同的负载均很算法
1.注意:官方明确指出这个配置类不能放在@ComponentScan所扫描的包下,由于spring boot启动类注解包含了这个注解,所以配置类不能定义在springboot启动类所在的包路劲下
2.配置类定义
@Configuration
public class MySelfRule {
@Bean
public IRule returnRule(){
return new RandomRule();
}
}
3.启动类开启这个配置类
@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "CLOUD-PRIVDER-SERVICE",configuration = com.ljy.myrule.MySelfRule.class)
public class OrderMain80 {
public static void main(String[] args) {
SpringApplication.run(OrderMain80.class,args);
}
}
Feign是一个声明式WebService客户端。使用Feign能让编写Web Service客户端更加简单。
它的使用方法是定义一个服务接口然后在上面添加注解。Feign也支持可拔插式的编码器和解码器。Spring Cloud对Feign进行了封装,使其支持了Spring MVC标准注解和HttpMessageConverters。Feign可以与Eureka和Ribbon组合使用以支持负载均衡
Feign旨在使编写Java Http客户端变得更容易。
前面在使用Ribbon+RestTemplate时,利用RestTemplate对http请求的封装处理,形成了一套模版化的调用方法。但是在实际开发中,由于对服务依赖的调用可能不止一处,往往一个接口会被多处调用,所以通常都会针对每个微服务自行封装一些客户端类来包装这些依赖服务的调用。所以,Feign在此基础上做了进一步封装,由他来帮助我们定义和实现依赖服务接口的定义。在Feign的实现下,我们只需创建一个接口并使用注解的方式来配置它(以前是Dao接口上面标注Mapper注解,现在是一个微服务接口上面标注一个Feign注解即可),即可完成对服务提供方的接口绑定,简化了使用Spring cloud Ribbon时,自动封装服务调用客户端的开发量。
Feign集成了Ribbon
利用Ribbon维护了Payment的服务列表信息,并且通过轮询实现了客户端的负载均衡。而与Ribbon不同的是,通过feign只需要定义服务绑定接口且以声明式的方法,优雅而简单的实现了服务调用
Fegin | OpenFegin |
---|---|
Feign是Spring Cloud组件中的一个轻量级RESTful的HTTP服务客户端 Feign内置了Ribbon,用来做客户端负载均衡,去调用服务注册中心的服务。Feign的使用方式是:使用Feign的注解定义接口,调用这个接口,就可以调用服务注册中心的服务 |
OpenFeign是Spring Cloud 在Feign的基础上支持了SpringMVC的注解,如@RequesMapping等等。OpenFeign的@FeignClient可以解析SpringMVC的@RequestMapping注解下的接口,并通过动态代理的方式产生实现类,实现类中做负载均衡并调用其他服务。 |
org.springframework.cloud spring-cloud-starter-feign |
org.springframework.cloud spring-cloud-starter-openfeign |
OpenFeign的使用非常简单,在导入了相关依赖后直接在定义接口即可
pom
>
<!--openfeign-->
org.springframework.cloud
spring-cloud-starter-openfeign
org.springframework.cloud
spring-cloud-starter-netflix-eureka-client
com.atguigu.springcloud
cloud-api-commons
${project.version}
org.springframework.boot
spring-boot-starter-web
org.springframework.boot
spring-boot-starter-actuator
org.springframework.boot
spring-boot-devtools
runtime
true
org.projectlombok
lombok
true
org.springframework.boot
spring-boot-starter-test
test
>
application.yml
server:
port: 80
eureka:
client:
register-with-eureka: false
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/
service接口
@Service
@FeignClient(value = "CLOUD-PRIVDER-SERVICE")
public interface PayMentService {
@GetMapping("/payment/get/{id}")
public CommonResult<Payment> getByI(@PathVariable("id") Long id);
}
在controller层调用这个接口的方法时就会去调用对应的服务提供者的地址,
注意:
OpenFeign自带负载均很功能
OpenFeign接收请求处理默认等待一秒钟,超过后就会报错
MentService {
@GetMapping("/payment/get/{id}")
public CommonResult getByI(@PathVariable(“id”) Long id);
}
在controller层调用这个接口的方法时就会去调用对应的服务提供者的地址,
**注意:**
1. **OpenFeign自带负载均很功能**
2. **OpenFeign接收请求处理默认等待一秒钟,超过后就会报错**