springcloud之Hystrix
文章目录
-
- 1、Hystrix概述
-
- 1.1、服务降级
- 1.2、服务熔断
- 1.3、服务限流
- 2、模拟高并发场景下异常
-
- 2.1、服务端-项目构建
- 2.2、Jmeter高并发访问
- 2.3、消费端-项目构建
- 3、服务降级的处理方式
-
- 3.1、消费端设置服务降级
- 3.2、消费端解耦式设置服务降级（不在Controller业务层）
- 3.3、两种方式的区别
- 4、服务熔断的处理方式
-
- 4.1、服务熔断类型
- 4.2、断路器开启和关闭的条件
1、Hystrix概述
在分布式系统里，许多依赖不可避免的会调用失败，比如超时，异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整个体系服务失败，避免级联故障，以提高分布式系统的弹性。
1.1、服务降级
当出现以下情况，服务器忙，不让客户端等待并立刻返回一个友好提示，fallback
- 程序运行异常
- 超时
- 服务熔断触发服务降级
- 线程池/信号量打满
1.2、服务熔断
当服务器请求超过最大数，直接拒绝访问，然后调用服务降级方法并返回一个友好提示
1.3、服务限流
秒杀高并发等操作，严禁拥挤，排队有序进行
2、模拟高并发场景下异常
2.1、服务端-项目构建
项目结构
启动类
@SpringBootApplication
@EnableEurekaClient
public class PaymentHystrixMain {
public static void main(String[] args) {
SpringApplication.run(PaymentHystrixMain.class,args);
}
}
yml文件
server:
port: 8001
spring:
application:
name: cloud-provider-hystrix-payment
eureka:
client:
register-with-eureka: true #是否将自己注册进eurekaServer默认true
fetch-registry: true #是否从eurekaServer抓取已有的注册信息，默认true。集群必须设置true才能配合Ribbon使用负载均衡
service-url:
#设置与Eureka Server交互的地址查询服务和注册服务
defaultZone: http://eureka7001.com:7001/eureka
#集群版
# defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka
两个service方法，一个正常返回，另外一个睡眠3秒钟返回
@Service
public class PaymentService {
//正常访问返回的方法
public String paymentInfo_OK(Integer id){
return "线程池："+Thread.currentThread().getName()+" paymentInfo_OK, id: "+id+" ==》正常返回";
}
//耗时等待返回的方法
public String paymentInfo_TimeOut(Integer id) throws InterruptedException {
int timeOut = 3;
TimeUnit.SECONDS.sleep(timeOut);
return "线程池："+Thread.currentThread().getName()+" paymentInfo_TimeOut, id: "+id+" ==》耗时等待"+timeOut+"秒";
}
}
controller方法
@RestController
@Slf4j
public class PaymentController {
@Resource
private PaymentService paymentService;
@Value("${server.port}")
private String serverPort;
@GetMapping("/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id){
String result = paymentService.paymentInfo_OK(id);
log.info("paymentInfo_OK 响应结果："+result);
return result;
}
@GetMapping("/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) throws InterruptedException {
String result = paymentService.paymentInfo_TimeOut(id);
log.info("paymentInfo_TimeOut 响应结果："+result);
return result;
}
}
启动Eureka，和以上服务
访问正常返回方法（立刻返回）
访问睡眠3秒钟再返回方法（转圈等待3秒）
2.2、Jmeter高并发访问
2000个并发访问paymentInfo_TimeOut，每次请求都需要睡眠3秒钟才能返回
后台一直在请求
此时访问paymentInfo_OK方法（以前立刻秒回）也在转圈等待
结论：20000个请求一直发送到paymentInfo_TimeOut，tomcat工作线程被使用完了，没有多余的线程来处理paymentInfo_OK，此时访问paymentInfo_OK也需要等3秒钟（等其中访问paymentInfo_TimeOut的线程执行完）。
2.3、消费端-项目构建
启动类
@SpringBootApplication
@EnableFeignClients
public class OrderHystrixMain {
public static void main(String[] args) {
SpringApplication.run(OrderHystrixMain.class, args);
}
}
yml文件
server:
port: 80
eureka:
client:
#是否将自己注册进eurekaServer默认true
register-with-eureka: false
service-url:
#设置与Eureka Server交互的地址查询服务和注册服务
defaultZone: http://localhost:7001/eureka
#集群版
# defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka
ribbon:
#指建立连接后从服务器读取到可用资源所用的时间
# openFeign-ribbon，客户端一般默认等待1秒钟
ReadTimeout: 3000
利用Feign调用客户端微服务方法
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT")
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
String paymentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
String paymentInfo_TimeOut(@PathVariable("id") Integer id);
}
controller方法
@RestController
@Slf4j
public class OrderHystrixController {
@Resource
private PaymentHystrixService PaymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id){
return PaymentHystrixService.paymentInfo_OK(id);
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
return PaymentHystrixService.paymentInfo_TimeOut(id);
}
}
当服务端20000个并发访问paymentInfo_TimeOut，此时消费者发送请求，无论哪里方法，都需要等待3秒。服务端发送请求出现的问题一致。
3、服务降级的处理方式
服务降级：当消费端发送请求到客户端，客户端出现超时、异常、宕机，此时需要有兜底处理方式，不至于整个服务崩溃。
- 服务出现问题，则将请求转到默认处理返回方法（友好提示）
- 客户端和消费端都可以做，一般放在消费端
3.1、消费端设置服务降级
启动类
yml
Controller业务层
@RestController
@Slf4j
@DefaultProperties(defaultFallback = "paymentGlobalFallbackMethod")
public class OrderHystrixController {
@Resource
private PaymentHystrixService PaymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
@HystrixCommand
public String paymentInfo_OK(@PathVariable("id") Integer id){
int i = 10/0;
return PaymentHystrixService.paymentInfo_OK(id);
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
@HystrixCommand(fallbackMethod = "paymentTimeOutFallbackMethod",commandProperties = {
//超过2秒及服务降级
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "2000")
})
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
return PaymentHystrixService.paymentInfo_TimeOut(id);
}
//此方法为paymentInfo_TimeOut方法的专属降级方法
public String paymentTimeOutFallbackMethod(@PathVariable("id") Integer id){
return "对方支付系统繁忙，请稍后再试 ==>paymentInfo_TimeOut方法专属降级方法";
}
//全局公共的降级方法
public String paymentGlobalFallbackMethod(){
return "对方支付系统繁忙，请稍后再试 ==>全局公共降级方法";
}
}
消费者调用paymentInfo_OK方法（有10/0异常）
后台无报错信息，相当于直接跳转方法了
消费者调用paymentInfo_TimeOut方法（睡眠3秒，2秒超时）
结论和注意点：
- @DefaultProperties注解为全局降级方法，对于添加@HystrixCommand注解的方法会走全局公共降级方法
- @HystrixCommand(fallbackMethod = “xxx” ）则为当前方法设置专属的降级方法
- 注意事项1：设置专属降级方法时候，其降级方法入参必须与注解方法一致，否则报错找不到指定参数的降级方法
- 注意事项2：如果代码中有异常，比如10/0，不会抛错，只会走降级方法
3.2、消费端解耦式设置服务降级（不在Controller业务层）
业务层
@RestController
@Slf4j
//@DefaultProperties(defaultFallback = "paymentGlobalFallbackMethod")
public class OrderHystrixController {
@Resource
private PaymentHystrixService PaymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id){
int i = 10/0;
return PaymentHystrixService.paymentInfo_OK(id);
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
public String paymentInfo_TimeOut(@PathVariable("id") Integer id) {
return PaymentHystrixService.paymentInfo_TimeOut(id);
}
}
为Feigin添加fallback类，此类实现本接口，每个实现类即为调用服务的降级方法
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT",fallback = PaymentFallbackService.class)
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
String paymentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
String paymentInfo_TimeOut(@PathVariable("id") Integer id);
}
降级方法
@Component
public class PaymentFallbackService implements PaymentHystrixService {
@Override
public String paymentInfo_OK(Integer id) {
return "PaymentFallbackService 的 paymentInfo_OK的降级方法";
}
@Override
public String paymentInfo_TimeOut(Integer id) {
return "PaymentFallbackService 的 paymentInfo_TimeOut的降级方法";
}
}
访问paymentInfo_OK方法，消费者中有10/0
访问paymentInfo_TimeOut方法，超时
3.3、两种方式的区别
- 在Controller层添加降级方法相当于为消费端和服务端所有代码添加降级方法，无论哪里出现错误，都会进入降级方法
- 利用feign设置fallback降级方法，相当于为服务端添加降级方法，只有服务端出现异常才会进入降级方法，消费端的异常会将错误抛出，并不会进入降级方法
4、服务熔断的处理方式
这里模拟服务端的处理情况
service服务
@Service
public class PaymentService {
//服务熔断
@HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback",commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled",value = "true"), //是否开启断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"), //请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"), //时间范围
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60"), //失败率达到多少后跳闸
})
public String paymentCircuitBreaker(Integer id){
if (id < 0){
throw new RuntimeException("*****id 不能负数");
}
String serialNumber = IdUtil.simpleUUID();
return Thread.currentThread().getName()+"\t"+"调用成功,流水号："+serialNumber;
}
public String paymentCircuitBreaker_fallback(Integer id){
return "id 不能负数，请稍候再试,(┬＿┬)/~~ id: " +id;
}
}
controller业务层
@RestController
@Slf4j
public class PaymentController {
@Resource
private PaymentService paymentService;
//===服务熔断
@GetMapping("/payment/circuit/{id}")
public String paymentCircuitBreaker(@PathVariable("id") Integer id){
String result = paymentService.paymentCircuitBreaker(id);
log.info("*******result:"+result);
return result;
}
}
-
单次请求传入正数，服务正常返回
-
单次请求传入负数，走服务降级方法
-
多次请求传入负数，一直走服务降级方法，此时服务熔断打开，传入正数访问。
正数也走服务降级方法，因为此时服务熔断打开，微服务不可访问
4.1、服务熔断类型
- 熔断打开：请求不再进行调用当前服务，内置时钟（平均故障处理时间），当打开后达到所设时钟则进入半熔断状态
- 熔断关闭：熔断关闭不会对服务进行熔断
- 熔断半开：部分请求根据规则调用当前服务，如果请求成功且符合规则则认为当前服务恢复正常，关闭熔断
4.2、断路器开启和关闭的条件
开启条件
- 当满足一定的阀值（默认10秒内超过20个请求）–代码设置10秒内超过10个请求
- 当失败率达到一定的时候（默认10秒内超过50%的请求失败）–代码设置10秒内超过60%的请求失败
关闭条件
- 当开启的时候，所有请求不会进行转发
- 开启以后，一段时间之后（默认5秒），这个时候断路器是半开状态，会让其中一个请求进行转发，如果成功，断路器会关闭，若失败，继续开启。–代码默认10秒