SpringCloud（三）--Hystrix

Hystrix 断路器

系统容错工具

• 降级

  • 调用远程服务失败（宕机、500错、超时），可以降级执行当前服务中的一段代码，向客户端返回结果
  • 快速失败

• 熔断

  • 当访问量过大，出现大量失败，可以做过热保护，断开远程服务不再调用
  • 限流
  • 防止故障传播、雪崩效应
• https://github.com/Netflix/Hystrix/wiki
  

Hystrix降级

1. hystrix依赖
2. 启动类添加注解 @EnableCircuitBreaker
3. 添加降级代码

// 当调用远程服务失败，跳转到指定的方法，执行降级代码
@HystrixCommand(fallbackMethod="方法名")
远程调用方法() {
 restTemplate.getForObject(url,......);
}

微服务宕机时，ribbon 无法转发请求

• 关闭 user-service 和 order-service

说明：这是没有hystrix的情况，下来测试hystrix提供的降级处理方式

复制 sp06-ribbon 项目，命名为sp07-hystrix

• 选择 sp06-ribbon 项目，ctrl-c，ctrl-v，复制为sp07-hystrix
• 关闭 sp06-ribbon 项目，后续测试使用 sp07-hystrix 项目

修改 pom.xml

添加 hystrix 起步依赖

`
    org.springframework.cloud
    spring-cloud-starter-netflix-hystrix
` 

修改 application.yml

spring:
  application:
    name: hystrix
    
server:
  port: 3001
  
eureka:
  client:    
    service-url:
      defaultZone: http://eureka1:2001/eureka, http://eureka2:2002/eureka
      
ribbon:
  MaxAutoRetries: 1
  MaxAutoRetriesNextServer: 2
  OkToRetryOnAllOperations: true

主程序添加 @EnableCircuitBreaker 启用 hystrix 断路器

启动断路器，断路器提供两个核心功能：

• 降级，超时、出错、不可到达时，对服务降级，返回错误信息或者是缓存数据
• 熔断，当服务压力过大，错误比例过多时，熔断所有请求，所有请求直接降级
• 可以使用 @SpringCloudApplication 注解代替三个注解

package cn.tedu.sp06;

import org.springframework.boot.SpringApplication;
import org.springframework.cloud.client.SpringCloudApplication;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.http.client.SimpleClientHttpRequestFactory;
import org.springframework.web.client.RestTemplate;

//@EnableCircuitBreaker
//@EnableDiscoveryClient
//@SpringBootApplication

@SpringCloudApplication
public class Sp06RibbonApplication {

    @LoadBalanced
    @Bean
    public RestTemplate getRestTemplate() {
        SimpleClientHttpRequestFactory f = new SimpleClientHttpRequestFactory();
        f.setConnectTimeout(1000);
        f.setReadTimeout(1000);
        return new RestTemplate(f);
        
        //RestTemplate 中默认的 Factory 实例中，两个超时属性默认是 -1，
        //未启用超时，也不会触发重试
        //return new RestTemplate();
    }

    public static void main(String[] args) {
        SpringApplication.run(Sp06RibbonApplication.class, args);
    }

}

RibbonController 中添加降级方法

• 为每个方法添加降级方法，例如 getItems() 添加降级方法 getItemsFB()
• 添加 @HystrixCommand 注解，指定降级方法名

package cn.tedu.sp06.controller;

import cn.tedu.sp01.pojo.Item;
import cn.tedu.sp01.pojo.Order;
import cn.tedu.sp01.pojo.User;
import cn.tedu.web.util.JsonResult;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;
import org.springframework.web.client.RestTemplate;

import java.util.List;

@RestController
@Slf4j
public class RibbonController {

    @Autowired
    private RestTemplate restTemplate;

    @HystrixCommand(fallbackMethod = "getItemsFB") //指定降级方法的方法名
    @GetMapping("/item-service/{orderId}")
    public JsonResult> getItems(@PathVariable String orderId){
        //远程调用商品服务
        //http://localhost:8001/{orderId}
        //{1} -- RestTemplate 定义的一种占位符格式,传递参数orderId
        //return restTemplate.getForObject("http://localhost:8001/{1}",JsonResult.class,orderId);
        return restTemplate.getForObject("http://item-service/{1}",JsonResult.class,orderId);//Ribbon的方式，将ip:port改为服务名称
    }

    @HystrixCommand(fallbackMethod = "decreaseNumberFB") //指定降级方法的方法名
    @PostMapping("/item-service/decreaseNumber")
    public JsonResult decreaseNumber(@RequestBody List items){
        return restTemplate.postForObject("http://item-service/decreaseNumber", items, JsonResult.class);
    }

    // -----------------------

    @HystrixCommand(fallbackMethod = "getUserFB") //指定降级方法的方法名
    @GetMapping("/user-service/{userId}")
    public JsonResult getUser(@PathVariable Integer userId){
        return restTemplate.getForObject("http://user-service/{1}", JsonResult.class,userId);
    }
    @HystrixCommand(fallbackMethod = "addScoreFB") //指定降级方法的方法名
    @GetMapping("/user-service/{userId}/score")
    public JsonResult addScore(@PathVariable Integer userId,Integer score){
        return restTemplate.getForObject("http://user-service/{1}/score?score={2}", JsonResult.class,userId,score);
    }
    @HystrixCommand(fallbackMethod = "getOrderFB") //指定降级方法的方法名
    @GetMapping("/order-service/{orderId}")
    public JsonResult getOrder(@PathVariable String orderId){
        return restTemplate.getForObject("http://order-service/{1}", JsonResult.class,orderId);
    }
    @HystrixCommand(fallbackMethod = "addOrderFB") //指定降级方法的方法名
    @GetMapping("/order-service/")
    public JsonResult addOrder(){
        return restTemplate.getForObject("http://order-service/", JsonResult.class);
    }


    // -----------------------

    //降级方法的参数和返回值，需要和原始方法一致，方法名任意
    public JsonResult> getItemsFB(String orderId){
        return JsonResult.err("获取订单商品列表失败");
    }
    public JsonResult decreaseNumberFB(List items){
        return JsonResult.err("更新商品库存失败");
    }
    public JsonResult getUserFB(Integer userId){
        return JsonResult.err("获取用户信息失败");
    }
    public JsonResult addScoreFB(Integer userId,Integer score){
        return JsonResult.err("增加用户积分失败");
    }
    public JsonResult getOrderFB(String orderId){
        return JsonResult.err("获取订单失败");
    }
    public JsonResult addOrderFB(){
        return JsonResult.err("添加订单失败");
    }
}

hystrix 超时设置

hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds
hystrix等待超时后, 会执行降级代码, 快速向客户端返回降级结果, 默认超时时间是1000毫秒
为了测试 hystrix 降级，我们把 hystrix 等待超时设置得非常小（1000毫秒）
此设置一般应大于 ribbon 的重试超时时长，例如 10 秒

spring:
  application:
    name: hystrix

server:
  port: 3001

eureka:
  client:
    service-url:
      defaultZone: http://eureka1:2001/eureka,http://eureka2:2002/eureka

# 配置 Ribbon 重试次数
ribbon:
  # 次数参数没有提示，并且会有黄色警告
  # 重试次数越少越好，一般建议用0 ，1
  MaxAutoRetries: 1
  MaxAutoRetriesNextServer: 2

#配置hystrix超时设置 快速向客户端返回降级结果, 默认超时时间是1000毫秒
hystrix:
  command:
    default:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 1000

启动项目进行测试

• 通过 hystrix 服务，访问可能超时失败的 item-service
  http://localhost:3001/item-service/35
• 通过 hystrix 服务，访问未启动的 user-service
  http://localhost:3001/user-service/7
• 可以看到，如果 item-service 请求超时，hystrix 会立即执行降级方法
• 访问 user-service，由于该服务未启动，hystrix也会立即执行降级方法

hystrix dashboard 断路器仪表盘

hystrix 对请求的降级和熔断，可以产生监控信息，hystrix dashboard可以实时的进行监控

Actuator

springboot 提供的日志监控工具，可以暴露项目中多种监控信息

• 健康状态
• 系统环境变量
• spring容器中所有的对象
• spring mvc映射的所有路径
• ......

添加 actuator

1. 添加 actuator 依赖

2. yml 配置暴露监控数据

   • m.e.w.e.i="*" 暴露所有的监控
   • m.e.w.e.i=health 只暴露健康状态
   • m.e.w.e.i=["health", "beans", "mappings"] 暴露指定的多个监控

sp07-hystrix 项目添加 actuator，并暴露 hystrix 监控端点

actuator 是 spring boot 提供的服务监控工具，提供了各种监控信息的监控端点
management.endpoints.web.exposure.include 配置选项，
可以指定端点名，来暴露监控端点
如果要暴露所有端点，可以用 “*”

pom.xml 添加 actuator 依赖

右键点击项目或pom.xml, 编辑起步依赖, 添加 actuator 依赖

    org.springframework.boot
    spring-boot-starter-actuator

调整 application.yml 配置，并暴露 hystrix.stream 监控端点

spring:
  application:
    name: hystrix

server:
  port: 3001

eureka:
  client:
    service-url:
      defaultZone: http://eureka1:2001/eureka,http://eureka2:2002/eureka

# 配置 Ribbon 重试次数
ribbon:
  # 次数参数没有提示，并且会有黄色警告
  # 重试次数越少越好，一般建议用0 ，1
  MaxAutoRetries: 1
  MaxAutoRetriesNextServer: 2

#配置hystrix超时设置 快速向客户端返回降级结果, 默认超时时间是1000毫秒
hystrix:
  command:
    default:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 1000
#配置actuator，暴露hystrix.stream监控端点
management:
  endpoints:
    web:
      exposure:
        include: "*"

访问 actuator 路径，查看监控端点

• http://localhost:3001/actuator

Hystrix dashboard 仪表盘

搭建 Hystrix Dashboard

仪表盘项目可以是一个完全独立的项目，与其他项目都无关，也不用向注册表注册

1. hystrix dashboard 依赖
2. @EnableHystrixDashboard
3. yml - 允许对哪台服务器开启监控

hystrix:
 dashboard:
 proxy-stream-allow-list: localhost

新建 sp08-hystrix-dashboard 项目

pom.xml

    4.0.0
    
        org.springframework.boot
        spring-boot-starter-parent
        2.2.1.RELEASE
         
    
    cn.tedu
    sp08-hystrix-dashboard
    0.0.1-SNAPSHOT
    sp08-hystrix-dashboard
    Demo project for Spring Boot

    
        1.8
        Hoxton.RELEASE
    

    
        
            org.springframework.cloud
            spring-cloud-starter-netflix-eureka-client
        
        
            org.springframework.cloud
            spring-cloud-starter-netflix-hystrix-dashboard
        

        
            org.springframework.boot
            spring-boot-starter-test
            test
            
                
                    org.junit.vintage
                    junit-vintage-engine
                
            
        
    

    
        
            
                org.springframework.cloud
                spring-cloud-dependencies
                ${spring-cloud.version}
                pom
                import
            
        
    

    
        
            
                org.springframework.boot
                spring-boot-maven-plugin
            
        
    

application.yml

spring:
  application:
    name: hystrix-dashboard
    
server:
  port: 4001

eureka:
  client:
    service-url:
      defaultZone: http://eureka1:2001/eureka, http://eureka2:2002/eureka

hystrix:
  dashboard:
    proxy-stream-allow-list: localhost

主程序添加 @EnableHystrixDashboard 和 @EnableDiscoveryClient

package cn.tedu.sp08;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;
import org.springframework.cloud.netflix.hystrix.dashboard.EnableHystrixDashboard;

@EnableDiscoveryClient
@EnableHystrixDashboard
@SpringBootApplication
public class Sp08HystrixDashboardApplication {

    public static void main(String[] args) {
        SpringApplication.run(Sp08HystrixDashboardApplication.class, args);
    }
}

启动，并访问测试

访问 hystrix dashboard

• http://localhost:4001/hystrix

填入 hystrix 的监控端点，开启监控

• http://localhost:3001/actuator/hystrix.stream

• 通过 hystrix 访问服务多次，观察监控信息

http://localhost:3001/item-service/35

http://localhost:3001/user-service/7
http://localhost:3001/user-service/7/score?score=100

http://localhost:3001/order-service/123abc
http://localhost:3001/order-service/

Hystrix 熔断

短路器打开的条件：

• 10秒内20次请求（必须首先满足）
• 50%失败，执行了降级代码

短路器打开后，所有请求直接执行降级代码
断路器打开几秒后，会进入**半开状态**，客户端调用会尝试向后台服务发送一次调用，
如果调用成功，断路器可以自动关闭，恢复正常
如果调用仍然失败，继续保持打开状态几秒钟

整个链路达到一定的阈值，默认情况下，10秒内产生超过20次请求，则符合第一个条件。
满足第一个条件的情况下，如果请求的错误百分比大于阈值，则会打开断路器，默认为50%。
Hystrix的逻辑，先判断是否满足第一个条件，再判断第二个条件，如果两个条件都满足，则会开启断路器

断路器打开 5 秒后，会处于半开状态，会尝试转发请求，如果仍然失败，保持打开状态，如果成功，则关闭断路器

使用 apache 的并发访问测试工具 ab

http://httpd.apache.org/docs/current/platform/windows.html#down

• 用 ab 工具，以并发50次，来发送20000个请求

ab -n 20000 -c 50 http://localhost:3001/item-service/35 

• 断路器状态为 Open，所有请求会被短路，直接降级执行 fallback 方法

Hystrix 配置

https://github.com/Netflix/Hystrix/wiki/Configuration

• hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds
  请求超时时间，超时后触发失败降级
• hystrix.command.default.circuitBreaker.requestVolumeThreshold
  10秒内请求数量，默认20，如果没有达到该数量，即使请求全部失败，也不会触发断路器打开
• hystrix.command.default.circuitBreaker.errorThresholdPercentage
  失败请求百分比，达到该比例则触发断路器打开
• hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds
  断路器打开多长时间后，再次允许尝试访问（半开），仍失败则继续保持打开状态，如成功访问则关闭断路器，默认 5000