SpringCloud实战6 - 使用Hystrix实现微服务的容错处理

骑猪看日落 2022-05-16 15:22 157阅读 0赞

# 容错机制 #

如果服务提供者相应非常缓慢，那么消费者对提供者的请求就会被强制等待，知道提供者相应超时。在高负载场景下，如果不作任何处理，此类问题可能会导致服务消费者的资源耗尽甚至整个系统崩溃。

## 雪崩效应 ##

微服务架构的应用系统通常包含多个服务层，微服务之间通过网络进行通信，从而支撑起整个应用系统，因此，微服务之间难免存在依赖关系。我们常把“基础服务故障”导致“级联故障”的现象成为雪崩效应。雪崩效应描述的是提供者不可用导致消费者不可用，并将不可用逐步扩大的过程。

## 如何容错 ##

为了防止雪崩效应，必须有一个强大的容错机制。该容错机制需实现以下两点：

### 1.为网络请求设置超时 ###

必须为网络请求设置超时。正常情况下，一个远程调用一般在及时毫秒内就能得到响应了。如果依赖的服务不可用或者网络有问题，那么响应时间就会变得特别长。

通常情况下，一次远程调用对应着一个线程/进程。如果响应太慢，这个线程/进程就得不到释放。而线程/进程又对应着系统资源，如果得不到释放的线程/进程约积越多，资源就会逐渐被耗尽，最终导致服务的不可用。

### 2.使用断路器模式 ###

如果对某个微服务的请求有大量超时（常常说明该微服务不可用），再去让新的请求访问该服务已经没有任何意义，只会无所谓消耗资源。例如，设置了超时时间为1秒，如果短时间内有大量的请求无法在1秒内得到响应，就没有必要再去请求依赖的服务了。

短路器可理解为对容易导致错误的操作的代理。这种代理能够统计一段时间内调用失败的次数，并决定是正常请求依赖的服务还是直接返回。

断路器可以实现快速失败，如果它在一段时间内检测到许多类似的错误（例如超时），就会在之后的一段时间内，强迫对该服务的调用快速失败，即不再请求所依赖的服务。这样，应用程序就无需再浪费cpu时间去等待长时间的超时。

短路器也可自动诊断是否已经恢复正常。如果发现依赖的服务已经恢复正常，那么就会恢复请求该服务。使用这种方式，就可以实现微服务的“自我修复”——当依赖的服务不正常打开断路器时快速失败，从而防止雪崩效应；当发现依赖的服务恢复正常时，又会恢复请求。

![441648-20171229105008397-28388632.png][]

断路器状态转换逻辑：

\- 正常情况下，断路器关闭，可正常请求依赖的服务

\- 当一段时间内，请求失败率达到一定阀值（例如错误率达到50%，或100次/分钟等），断路器就会打开。此时，不会再去请求依赖的服务。

\- 断路器打开一段时间后，会自动进入“半开”状态。此时，断路器可允许一个请求访问依赖的服务。如果该请求能够调用成功，则关闭断路器；否则继续保持打开状态。

# 使用Hystrix实现容错  #

## Hystrix简介  ##

Hystrix是一个实现了超时机制和断路器模式的工具类库。是由Netfix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三方库，防止级联失败，从而提升系统可用性与容错性。Hystrix主要通过以下几点实现延迟和容错。

*  包裹请求：使用HystrixCommand（或者HystrixObservableCommand）包裹对依赖的调用逻辑，每个命令在独立线程中执行。这使用了设计模式中的“命令模式”。
 *  跳闸机制：当某服务的错误率超过一定阀值时，Hystrix可以自动或者手动跳闸，停止请求该服务一段时间。
 *  资源隔离：Hystrix为每个依赖都维护了一个小型的线程池（或者信号量）。如果该线程池已满，发往该依赖的请求就被立即拒绝，而不是排队等候，从而加速失败判断
 *  监控：Hystrix可以近乎实时地监控运行指标和配置的变化，例如成功、失败、超时、以及被拒绝的请求等。
 *  回退机制：当请求失败、超时、被拒绝，或当断路器打开时，执行回退逻辑。回退逻辑可由开发人员自行提供，例如返回一个缺省值。
 *  自我修复：断路器打开一段时间后，会自动进入“半开”状态。

# 通用方式整合Hystrix  #

在Springcloud中，整合Hystrix非常方便，我们以ribbon-consumer项目为例

添加如下依赖

<dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-starter-hystrix</artifactId>
            </dependency>

在启动类添加注解 @EnableHystrix //开启断路器功能

@SpringBootApplication
    @EnableDiscoveryClient
    @EnableHystrix //开启断路器功能
    public class YmkRibbonConsumerApplication {
    
        public static void main(String[] args) {
            SpringApplication.run(YmkRibbonConsumerApplication.class, args);
        }
    
        //	开启客户端负载均衡
        @LoadBalanced
        @Bean
        RestTemplate restTemplate() {
            return new RestTemplate();
        }
    }

修改控制器代码，让hello方法具有容错能力。

@RestController
    public class HelloController {
    
        @Autowired
        RestTemplate restTemplate;
        @Autowired
        private LoadBalancerClient loadBalancerClient;
    
    //  HystrixCommand具有容错能力  fallbackMethod属性指定回退方法
        @HystrixCommand(fallbackMethod = "helloFallBack")
        @RequestMapping(value = "/hello", method = RequestMethod.GET)
        public String hello(@RequestParam String name) {
            ResponseEntity<String> responseEntity = restTemplate.getForEntity("http://provider/hello?name={1}", String.class,name);
            return responseEntity.getBody();
        }
    
    //   回退方法有跟正常方法一样的参数
        public String helloFallBack(String name){
            return "helloFallBack "+name;
        }
    
        @GetMapping("/log-user-instance")
        public void logUserInstance() {
            ServiceInstance serviceInstance = this.loadBalancerClient.choose("provider");
            // 打印当前选择的是哪个节点
            System.out.println("{}:{}:{}," + serviceInstance.getServiceId()+","+ serviceInstance.getHost()+","+ serviceInstance.getPort());
        }
    }

以此启动项目： 访问 [http://localhost:8010/hello?name=feign][http_localhost_8010_hello_name_feign]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70][]

以上是正常的访问结果，现在关掉提供者项目，模拟提供者服务不可用。停掉ymk-provider项目，

再次访问 [http://localhost:8010/hello?name=feign][http_localhost_8010_hello_name_feign]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70 1][]

再次访问，直接进入了回退方法中。

很多场景下，我们需要知道造成回退的原因，只需在fallback方法上添加一个Throwable参数即可，

//   回退方法有跟正常方法一样的参数
        public String helloFallBack(String name,Throwable throwable){
            System.out.println(throwable);
            return "helloFallBack "+name;
        }

很多情况下，当发生业务异常时候，我们并不想触发fallback，怎么办呢？ Hystrix有个HystrixBadRequestException类，这是一个特殊的异常类，当该异常发生时候，不会触发回退。因此，可将自定义的异常类继承该类，从而达到业务异常不 回退的效果。

#    Hystrix断路器的状态监控与深入理解 #

添加依赖

<dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-actuator</artifactId>
            </dependency>

断路器的状态会暴露在Actuator提供的/health端点中，可以直观的看到断路器的状态。

依次启动项目，访问 [http://localhost:8010/hello?name=feign][http_localhost_8010_hello_name_feign] 是正常的，再次访问 [http://localhost:8010/health][http_localhost_8010_health]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70 2][]

此时Hsytrix的状态是UP，说明一切正常。此时断路器是关闭的。

现在停止提供者项目

再次访问 [http://localhost:8010/hello?name=feign][http_localhost_8010_hello_name_feign] 结果进入了回退方法里了，再次访问 [http://localhost:8010/health][http_localhost_8010_health]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70 3][]

我们发现尽管进入了回退方法，但是Hystrix的状态依然UP，这是因为我们的失败率还没达到阈值（默认5秒内失败20次），也就是说进入回退方法，并不代表断路器已经打开。

# Feign使用Hystrix #

使用ymk-feign-consumer项目，添加依赖

<dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-starter-hystrix</artifactId>
            </dependency>
    
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-actuator</artifactId>
            </dependency>

接口通过fallback添加回退类，回退类要实现接口

@FeignClient(name = "provider" ,configuration = FeignLogConfiguration.class,fallback = FeignClientFallback.class)
    public interface TestFeignClient {
    
        @RequestMapping(value = "/hello", method = RequestMethod.GET)
        String hello(@RequestParam("name") String name);
    }
    
    @Component
    class FeignClientFallback implements TestFeignClient {
        @Override
        public String hello(String name) {
            return "FeignhelloFallBack "+name;
        }
    }

在application.yml中添加

feign:
      hystrix:
        enabled: true
    # 说明：请务必注意，从Spring Cloud Dalston开始，Feign默认是不开启Hystrix的。
    # 因此，如使用Dalston请务必额外设置属性：feign.hystrix.enabled=true，否则断路器不会生效。
    # 而，Spring Cloud Angel/Brixton/Camden中，Feign默认都是开启Hystrix的。无需设置该属性。

完成！

# 通过Fallback Factroy检查回退原因 #

@FeignClient(name = "provider", fallbackFactory = FeignClientFallbackFactory.class)
    public interface TestFeignClientFallBack {
         @RequestMapping(value = "/hello", method = RequestMethod.GET)
        String hello( String name);
    }
    
    /**
     * UserFeignClient的fallbackFactory类，该类需实现FallbackFactory接口，并覆写create方法
     */
    @Component
    class FeignClientFallbackFactory implements FallbackFactory<TestFeignClientFallBack> {
    
      @Override
      public TestFeignClientFallBack create(Throwable cause) {
        return new TestFeignClientFallBack() {
          @Override
          public String hello(String name) {
            // 日志最好放在各个fallback方法中，而不要直接放在create方法中。
            // 否则在引用启动时，就会打印该日志。
            System.out.println("fallback; reason was:"+ cause);
            return name;
          }
        };
      }
    }

#    为Feign禁用Hystrix #

为指定的客户端禁用Hystrix  新建配置类

@Configuration
    public class FeignDisableHystrixConfiguration {
    
        @Bean
        @Scope("prototype")
        public Feign.Builder feignBuider(){
            
            return Feign.builder();
        }
    }

想要禁用ystrix的FeignClient引用此配置类即可

@FeignClient(name = "provider",configuration = FeignDisableHystrixConfiguration.class)

全局禁用，只需要在application.yml中配置feign.hystrix.enabled = false即可。

源码下载：  [https://download.csdn.net/download/u013083284/10755912][https_download.csdn.net_download_u013083284_10755912]

[441648-20171229105008397-28388632.png]: /images/20220503/6fe5aaa660104676a049ef352392c725.png
[http_localhost_8010_hello_name_feign]: http://localhost:8010/hello?name=feign
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70]: /images/20220503/c088183dd5d341a1b1981c340ab4c359.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70 1]: /images/20220503/f00de910cf4942c4903a02bb0acda7ba.png
[http_localhost_8010_health]: http://localhost:8010/health
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70 2]: /images/20220503/13c9b83697de4d21b2a0bcc9cb00357d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMwODMyODQ_size_16_color_FFFFFF_t_70 3]: /images/20220503/5e67e2b6ecb14ea589d9e9399743ee15.png
[https_download.csdn.net_download_u013083284_10755912]: https://download.csdn.net/download/u013083284/10755912