Spring Clouad（六）：Hystrix

缺乏、安全感 2021-09-09 13:44 168阅读 0赞

*  [Demo 源码下载][Demo]
 *  本案例为源码分支的 hystrix 分支

## 雪崩效应 ##

*  如果服务提供者响应非常缓慢，则消费者的请求会进入强制等待，直到响应或超时，在高负荷情况下，如果不做处理，则会导致消费者的系统资源耗尽而崩溃。
 *  微服务架构的应用系统通常包含多个服务层，微服务之间通过网络进行通信，服务之间难免存在依赖关系，任何微服务并非 100% 可用，网络有时会发生故障
 *  我们把 **“基础服务故障” 导致 “级联故障” 的现象称之为雪崩效应**，基础服务的故障会导致其它服务发生故障，而服务与服务之间相互依赖，从而发生系统崩溃

![4098122-2426748fc3bd1a54.png][]

雪崩效应

![4098122-499c05814f28f1a5.png][]

雪崩效应

## 容错机制 ##

*  通过容错机制来防止雪崩效应，主要实现以下两点：
    
     *  **为网络请求设置超时**
        
         *  正常情况下远程调用在几十毫秒内就能得到响应，若依赖的服务网络发生故障，则响应会变得很长 。
         *  一次远程调用对应着一个线程/进程，若响应太慢，线程/进程就得不到释放，而它又对应着系统资源，若得不到释放会导致系统崩溃
     *  **使用断路器模式**
        
         *  如果对某个微服务的请求又大量超时（常常说明该微服务不可用），再让新的请求去访问该微服务已没有意义。例如设置超时时间 1 秒，如果短时间内有大量请求无法在 1 秒内得到响应，就没有必要去请求该微服务了
         *  断路器可自动诊断依赖服务是否已恢复正常，若恢复正常则恢复请求该微服务，从而实现微服务的 “自我修复” ，**当微服务不正常时断路器快速失败，从而防止雪崩效应，当发现微服务恢复正常时，重新恢复请求**
 *  断路器状态的逻辑为：
    
     *  正常情况下，断路器关闭，可正常请求依赖的服务
     *  当一段时间内，请求失败率达到一定值（如错误率达到50%，或100次/分钟等），断路器就会打开，此时不会再去请求依赖服务
     *  断路器打开一段时间后，会进入 “半开”状态，此时断路器允许一个请求访问依赖服务，如果请求成功则关闭断路器，否则继续打开

![9434708-0518d5105c11747f.png][]

容错机制

## Hystrix ##

*  **Hystrix 是开源的延迟和容错库，用于隔离访问远程系统、防止级联失败，从而提升系统的的可用性与容错性**
 *  **Hystrix 特点：**
    
     *  包裹请求：使用 HystrixCommand 包裹对依赖的调用逻辑，每个命令在独立线程中执行
     *  跳闸机制：当某服务错误率超过一值时，Hystrix 可以自动或手动跳闸，停止请求该服务一段时间
     *  资源隔离：Hystrix 为每个依赖库都维护了一个小型线程池，如果该线程池已满，发现该依赖的请求就会被立即拒绝，而不是排队等候
     *  监控：Hystrix 可以几乎实时的监控运行指标和配置变化，例如成功、超时、失败、以及被拒绝的请求等
     *  回退机制：当请求失败、超时、被拒绝，或当断路器打开时，执行回退逻辑，回退逻辑可以由开发人员提供
     *  自我修复：断路器打开一段时间后，会进入 “半开” 状态，断路器打开、关闭、半开的逻辑转换

### 快速入门 ###

*  添加 Hystrix 依赖库

<dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-hystrix</artifactId>
    </dependency>

*  在启动类上添加注解 @EnableCircuitBreaker 或 @EnableHystrix，启动断路器支持
 *  修改 MovieController，让其中的 findById 方法具备容错能力，下面代码为 findById 方法编写了一个回退方法 findByIdFallBack，该方法与 findById 方法具有相同的参数与返回值类型，该方法返回了一个默认的 UserEntity，在 findById 方法上，使用注解 @HystrixCommand 的 fallbackMethod 属性指定回退方法是 findByIdFallback

@RestController
    public class MovieController {
    
        @Autowired
        private RestTemplate restTemplate;
    
        @HystrixCommand(fallbackMethod = "findByIdFallback")
        @GetMapping("/user/{id}")
        public UserEntity findById(@PathVariable int id) {
            return this.restTemplate.getForObject("http://FILM-USER/" + id, UserEntity.class);
        }
    
        public UserEntity findByIdFallback(int id) {
            UserEntity user = new UserEntity();
            user.setId(-1);
            user.setName("默认用户");
            return user;
        }
    
    }

*  HystrixCommand 配置非常灵活，可以使用注解 @HystrixProperty 的 commandProperties 属性来配置 @HystrixCommand，如：

@HystrixCommand(fallbackMethod = "findByIdFallback",commandProperties = {
        @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "5000"),
        @HystrixProperty(name = "metrics.rollingStats.timeInMilliseconds",value = "10000")
        },threadPoolProperties = {
        @HystrixProperty(name="coreSize",value = "1"),
        @HystrixProperty(name="maxQueueSize",value = "10")
    })
    @GetMapping("/user/{id}")
    public User findById(@PathVariable int id){
           //...
    }

*  测试：
    
     *  启动 Eureka Server、flim-user、flim-customer
     *  访问 [http://localhost:8010/user/1][http_localhost_8010_user_1] 可获得如下结果
    
        {"id":1,"username":"account1","name":"张三","age":20,"balance":100.00}
    
     *  停止 flim-user，再次访问 [http://localhost:8010/user/1][http_localhost_8010_user_1] 获得如下结果，因为微服务不可用，进入了回退方法
    
        {"id":-1,"username":null,"name":"默认用户","age":0,"balance":null}

### Hystrix 断路器的状态 ###

*  断路器状态会暴露在 Actuator 提供的 /health 端点中，可以直观的了解断路器状态
 *  访问 [http://localhost:8010/health][http_localhost_8010_health] 可获得如下结果

{"status":"UP","hystrix":{"status":"UP"}}

*  停止 flim-user 服务提供者，再次访问仍然得到同样结果，这是因为我们的失败率还没有达到阈值（默认为5秒内20次失败），所以回退逻辑不代表断路器已经被打开
 *  持续快速的访问 [http://localhost:8010/user/1][http_localhost_8010_user_1]，此时断路器会被打开

"hystrix":{"status":"CIRCUIT_OPEN"

### Hystrix 线程隔离策略 ###

*  Hystrix 的隔离策略有两种
    
     *  **THREAD（线程隔离）**：使用该方式，HystrixCommand 将会在单独的线程上执行，并发请求受到线程池中的线程数量限制
     *  **SEMAPHORE（信号量隔离）**：使用该方式，HystrixCommand 将会在调用线程上执行，开销相对较小，并发请求受到信号量个数限制
 *  Hystrix 推荐使用 THREAD（默认），因为这种方式有一个除网络超时以外的额外保护层
 *  只有当负载非常高时（例如每个实例调用数百次）才需要使用信号量隔离，因为这种情况下使用 THREAD 开销比较高，信号量隔离一般仅适用于非网络调用的隔离
 *  可以在注解中让 Hystrix 使用不同的隔离策略

@HystrixCommand(fallbackMethod = "findByIdFallback",commandProperties = {
        @HystrixProperty(name = "execution.isolation.strategy", value = "SEMAPHORE")
    })

### Feign 整合 Hystrix ###

*  前文使用 @HystrixCommand 的 fallbackMethod 属性实现回退，然而 Feign 是以接口形式工作，它没有方法体，前文讲解的方式显然不适用于 Feign，Spring Cloud 默认已为 Feign 整合 Hystrix，只要 Hystrix 在项目 classpath 中，Feign 默认就会用断路器包裹所有方法
 *  使用 @FeignClient 的 fallback 属性指定回退类

@FeignClient(name = "FILM-USER",fallback = UserFeignClientFallBack.class)
    public interface UserFeignClient {
        @GetMapping("/{id}")
        UserEntity findById(@PathVariable("id") int id);
    }
    
    /**
     * 回退类 FeignClientFallback 需实现 FeignClient 接口
     */
    public class UserFeignClientFallBack implements UserFeignClient {
        @Override
        public UserEntity findById(int id) {
            UserEntity user = new UserEntity();
            user.setId(-1);
            user.setUsername("默认用户");
            return user;
        }
    }

### 使用 FallbackFactory 捕获回退异常 ###

*  通过 FallbackFactory 可捕获回退异常，可根据不同的异常返回不同的回退结果

public class UserFeignClientFallbackFactory implements FallbackFactory<UserFeignClient> {
    
        private static final Logger LOGGER = LoggerFactory.getLogger(UserFeignClientFallbackFactory.class);
    
        @Override
        public UserFeignClient create(Throwable throwable) {
            return new UserFeignClient() {
                @Override
                public UserEntity findById(int id) {
                    UserFeignClientFallbackFactory.LOGGER.info("fallback;reason was:",throwable);
                    UserEntity user = new UserEntity();
                    user.setId(-1);
                    user.setUsername("默认用户");
                    return user;
                }
            };
        }
        
    }

### 为 Feign 禁用 Hystrix ###

*  默认情况下 Spring Cloud 会包裹 Feign 客户端的所有方法，但某些场景下不需要该功能，可借助 Feign 的自定义配置，为指定名称的 Feign 客户端禁用 Hystrix

@Configuration
    public class FeignDisableHystrixConfiguration {
        @Bean
        @Scope("prototype")
        public Feign.Builder feignBuilder(){
            return Feign.builder();
        }
    }

*  想要禁用 Hystrix 的 @FeginClient 引用该配置类即可

@FeignClient(name = "FILM-USER",fallback = FeignDisableHystrixConfiguration.class)
    public interface UserFeignClient {
        //...
    }

*  也可以在配置文件中配置下面属性，Feign 全局禁用 Hystrix

feign.hystrix.enabled = false

## Hystrix 监控 ##

*  Hystrix 还提供了近乎实时的监控，HystrixCommand 和 HystrixObservableCommand 在执行时会生成执行结果和运行指标，比如每秒请求数、成功数等，这些监控数据对分析应用系统状态很有用
 *  使用 Hystrix 的模块 hystrix-metrics-event-stream 就可以将监控信息以 text/event-stream 格式暴露给外部系统
 *  spring-cloud-starter-hystrix 已经包含该模块，在此基础上只需添加 spring-boot-starter-actuator，就可以使用 /hystrix.stream 端点获得 Hystrix 的监控信息
 *  访问 [http://localhost:8010/hystrix.stream][http_localhost_8010_hystrix.stream] 后可看见浏览器一直处于请求状态，页面空白，这是因为 @HystrixCommand 的方法还没有被执行
 *  访问 [http://localhost:8010/user/1][http_localhost_8010_user_1] 后再次访问 [http://localhost:8010/hystrix.stream][http_localhost_8010_hystrix.stream] 可看到页面会出现监控数据，包括错误率、错误数、断路器状态等
 *  **若要监控 Feign 的 Hystrix，需要在启动类上添加 @EnableCircuitBreaker**

### 使用 Hystrix Dashboard 可视化监控数据 ###

*  创建新项目，并添加 Hystrix Dashboard 库，在启动类上添加 @EnableHystrixDashboard

<dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-hystrix-dashboard</artifactId>
    </dependency>

*  配置端口

server:
        port:8030

*  访问 [http://localhost:8030/hystrix][http_localhost_8030_hystrix] 可看到图形化界面

![9434708-0aac9c42a5a2aa01.png][]

Hystrix Dashboard

*  在 URL 一栏上输入 [http://localhost:8010/hystrix.stream][http_localhost_8010_hystrix.stream]，随意设置一个 title，点击 Monitor Stream 按钮后会看到详细展示了 findById 的各种指标

![9434708-88407e1ff80a1ac1.png][]

Hystrix Dashboard

### 使用 Turbine 聚合监控数据 ###

*  前文中使用 /hystrix.stream 端点监控单个微服务实例，但一个微服务架构的应用程序系统会包含若干个微服务，每个微服务通常会部署多个实例，**通过 Turbine 能将所有相关 /hystrix.stream 端点的数据聚合到一个组合的 /turbine.stream 中**，从而让集群监控更加方便

![9434708-77fce2ac547b8fba.png][]

Turbine

*  创建一个项目，添加 Turbine 依赖，在启动类上添加 @EnableTurbine 注解

<dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-turbine</artifactId>
    </dependency>

*  编写配置文件

server:
        port: 8031
    spring:
        application:
            name: turbine
    eureka:
        client:
            service-url:
                defaultZone: http://localhost:8761/eureka/
        instance:
            prefer-ip-address: true
    turbine:
        appConfig: flim-consumer1,flim-consumer2
        clusterNameExpression: "'default'"

*  测试：
    
     *  启动 EurekaServer、flim-user
     *  启动 turbine 与 dashboard
     *  启动两个 flim-consumer 分别为 8010、8011 端口，并设置其 spring.application.name 为 flim-consumer1、flim-consumer2
     *  访问 [http://localhost:8010/user/1][http_localhost_8010_user_1] 和 [http://localhost:8011/user/1][http_localhost_8011_user_1] 让微服务产生监控数据
     *  打开 Hystrix Dashboard 首页 [http://localhost:8030/hystrix.stream][http_localhost_8030_hystrix.stream]  
        ，在 URL 栏填入 [http://localhost:8031/turbine.stream][http_localhost_8031_turbine.stream] 点击按钮后可看到多个微服务实例监控

![9434708-faf0a68e88acb653.png][]

Turbine

[Demo]: https://link.jianshu.com?t=https%3A%2F%2Fgitee.com%2FLinYuanTongXue%2FDEMO-SPRING-CLOUD
[4098122-2426748fc3bd1a54.png]: /images/20210811/20d46fc82de34a079c965fb4b1591e46.png
[4098122-499c05814f28f1a5.png]: /images/20210811/1bbf7b545f934b58bd6677e348d6e7ef.png
[9434708-0518d5105c11747f.png]: /images/20210811/ca3c02d341344b3592119bcdf98c892a.png
[http_localhost_8010_user_1]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8010%2Fuser%2F1
[http_localhost_8010_health]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8010%2Fhealth
[http_localhost_8010_hystrix.stream]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8010%2Fhystrix.stream
[http_localhost_8030_hystrix]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8030%2Fhystrix
[9434708-0aac9c42a5a2aa01.png]: /images/20210811/a50e245c21684aee86e75ecb1efa456c.png
[9434708-88407e1ff80a1ac1.png]: /images/20210811/c22cff2b6d624c14aad7c4c68a38a104.png
[9434708-77fce2ac547b8fba.png]: /images/20210811/c1c0689419d34801bae1277dac3daa2f.png
[http_localhost_8011_user_1]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8011%2Fuser%2F1
[http_localhost_8030_hystrix.stream]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8030%2Fhystrix.stream
[http_localhost_8031_turbine.stream]: https://link.jianshu.com?t=http%3A%2F%2Flocalhost%3A8031%2Fturbine.stream
[9434708-faf0a68e88acb653.png]: /images/20210811/eb5b87c525684f0d9c9912f41c73f122.png