SpringCloud：微服务保护之隔离和降级

╰半夏微凉° 2024-03-22 14:57 41阅读 0赞

### 1.`FeignClient`整合`Sentinel` ###

`SpringCloud`中，微服务调用都是通过`Feign`来实现的，因此做客户端保护必须整合`Feign`和`Sentinel`。

#### 1.1.修改配置，开启`sentinel`功能 ####

修改`OrderService`的`application.yml`文件，开启`Feign`的`Sentinel`功能：

feign:
      sentinel:
        enabled: true # 开启feign对sentinel的支持

#### 1.2.编写失败降级逻辑 ####

业务失败后，不能直接报错，而应该返回用户一个友好提示或者默认结果，这个就是失败降级逻辑。

给`FeignClient`编写失败后的降级逻辑

*  方式一：`FallbackClass`，无法对远程调用的异常做处理
 *  方式二：`FallbackFactory`，可以对远程调用的异常做处理，我们选择这种

这里我们演示方式二的失败降级处理。

**步骤一**：在`feing-api`项目中定义类，实现`FallbackFactory`：

![在这里插入图片描述][fa3cf1932db141c9a3b9eaea4e6144cb.png_pic_center]

代码：

package com.dcxuexi.feignapi.client.fallback;
    
    import com.dcxuexi.feignapi.client.UserClient;
    import com.dcxuexi.feignapi.pojo.User;
    import feign.hystrix.FallbackFactory;
    import lombok.extern.slf4j.Slf4j;
    
    /***
     * @Title UserClientFallbackFactory
     * @Description TOTD
     * @Auter DongChuang
     * @Date 2023/5/8 21:03
     * @Version 1.0.0
     */
    @Slf4j
    public class UserClientFallbackFactory implements FallbackFactory<UserClient> {
        
        @Override
        public UserClient create(Throwable throwable) {
        
            return new UserClient() {
        
                @Override
                public User findById(Long id) {
        
                    log.error("查询用户异常",throwable);
                    return new User();
                }
            };
        }
    }

**步骤二**：在`feing-api`项目中的`DefaultFeignConfiguration`类中将`UserClientFallbackFactory`注册为一个Bean：

@Bean
    public UserClientFallbackFactory userClientFallbackFactory(){
        
        return new UserClientFallbackFactory();
    }

**步骤三**：在`feing-api`项目中的`UserClient`接口中使用`UserClientFallbackFactory`：

package com.dcxuexi.feignapi.client;
    
    
    import com.dcxuexi.feignapi.client.fallback.UserClientFallbackFactory;
    import com.dcxuexi.feignapi.pojo.User;
    import org.springframework.cloud.openfeign.FeignClient;
    import org.springframework.web.bind.annotation.GetMapping;
    import org.springframework.web.bind.annotation.PathVariable;
    
    /***
     * @Title UserClient
     * @Description TOTD
     * @Auter DongChuang
     * @Date 2023/3/11 17:46
     * @Version 1.0.0
     */
    @FeignClient(value = "userservice",fallbackFactory = UserClientFallbackFactory.class)
    public interface UserClient {
        
        @GetMapping("/user/{id}")
        User findById(@PathVariable("id") Long id);
    }

**步骤四**：在`order-service`项目中的`OrderApplication`启动类注解`@EnableFeignClients`中添加`defaultConfiguration = DefaultFeignConfiguration.class`：

![在这里插入图片描述][03a8b92225fe48bcba352e9260dd8a72.png_pic_center]

重启后，访问一次订单查询业务，然后查看`sentinel`控制台，可以看到新的簇点链路：

![在这里插入图片描述][e42c015054df4d60a778a5077821c30e.png_pic_center]

#### 1.3.总结 ####

`Sentinel`支持的雪崩解决方案：

*  线程隔离（仓壁模式）
 *  降级熔断

`Feign`整合`Sentinel`的步骤：

*  在`application.yml`中配置：`feign.sentienl.enable=true`
 *  给`FeignClient`编写`FallbackFactory`并注册为`Bean`
 *  将`FallbackFactory`配置到`FeignClient`

### 2.线程隔离（舱壁模式） ###

#### 2.1.线程隔离的实现方式 ####

线程隔离有两种方式实现：

*  线程池隔离
 *  信号量隔离（`Sentinel`默认采用）

如图：

![在这里插入图片描述][21511da606f34baf9dd8c9bc16987e71.png_pic_center]

**线程池隔离**：给每个服务调用业务分配一个线程池，利用线程池本身实现隔离效果

**信号量隔离**：不创建线程池，而是计数器模式，记录业务使用的线程数量，达到信号量上限时，禁止新的请求。

两者的优缺点：

![在这里插入图片描述][7cb053e800d04ccf8ab6651760d8785f.png_pic_center]

#### 2.2.`sentinel`的线程隔离 ####

**用法说明**：

在添加限流规则时，可以选择两种阈值类型：

![在这里插入图片描述][139f973a00d64ac7876343d8619b9760.png_pic_center]

*  `QPS`：就是每秒的请求数；
 *  线程数：是该资源能使用用的`tomcat`线程数的最大值。也就是通过限制线程数量，实现**线程隔离**（舱壁模式）。

**案例需求**：给`order-service`服务中的`UserClient`的查询用户接口设置流控规则，线程数不能超过 2。然后利用`jemeter`测试。

##### 1）配置隔离规则 #####

选择`feign`接口后面的流控按钮：

![在这里插入图片描述][dae8893570604987bc28b69c1257e891.png_pic_center]

填写表单：

![在这里插入图片描述][f13a6879ee5b4aec81456ac6345018b9.png_pic_center]

##### 2）`Jmeter`测试 #####

选择《阈值类型-线程数<2》：

![在这里插入图片描述][6776e4d2ea3a471bbd3dfe977dc33c06.png_pic_center]

一次发生10个请求，有较大概率并发线程数超过2，而超出的请求会走之前定义的失败降级逻辑。

查看运行结果：

![在这里插入图片描述][760b917291164f7e883400a4850dd723.png_pic_center]

发现虽然结果都是通过了，不过部分请求得到的响应是降级返回的null信息。

#### 2.3.总结 ####

线程隔离的两种手段是？

*  信号量隔离
 *  线程池隔离

信号量隔离的特点是？

*  基于计数器模式，简单，开销小

线程池隔离的特点是？

*  基于线程池模式，有额外开销，但隔离控制更强

### 3.熔断降级 ###

熔断降级是解决雪崩问题的重要手段。其思路是由**断路器**统计服务调用的异常比例、慢请求比例，如果超出阈值则会**熔断**该服务。即拦截访问该服务的一切请求；而当服务恢复时，断路器会放行访问该服务的请求。

断路器控制熔断和放行是通过状态机来完成的：

![在这里插入图片描述][bda9a227897e466480569bb6427fd48f.png_pic_center]

状态机包括三个状态：

*  `closed`：关闭状态，断路器放行所有请求，并开始统计异常比例、慢请求比例。超过阈值则切换到`open`状态
 *  `open`：打开状态，服务调用被**熔断**，访问被熔断服务的请求会被拒绝，快速失败，直接走降级逻辑。`Open`状态5秒后会进入`half-open`状态
 *  `half-open`：半开状态，放行一次请求，根据执行结果来判断接下来的操作。
    
     *  请求成功：则切换到`closed`状态
     *  请求失败：则切换到`open`状态

断路器熔断策略有三种：慢调用、异常比例、异常数。

#### 3.1.慢调用 ####

**慢调用**：业务的响应时长（`RT`）大于指定时长的请求认定为慢调用请求。在指定时间内，如果请求数量超过设定的最小数量，慢调用比例大于设定的阈值，则触发熔断。

例如：

![在这里插入图片描述][3854b209ae5a44b7b257d5628fd18e8a.png_pic_center]

解读：`RT`超过`500ms`的调用是慢调用，统计最近`10000ms`内的请求，如果请求量超过10次，并且慢调用比例不低于0.5，则触发熔断，熔断时长为5秒。然后进入`half-open`状态，放行一次请求做测试。

**案例**

需求：给`UserClient`的查询用户接口设置降级规则，慢调用的`RT`阈值为`50ms`，统计时间为1秒，最小请求数量为5，失败阈值比例为0.4，熔断时长为5

##### 1）设置慢调用 #####

修改`user-service`中的`/user/{id}`这个接口的业务。通过休眠模拟一个延迟时间：

![在这里插入图片描述][36d072c8b33644af80b61937d258ac81.png_pic_center]

此时，`orderId=101`的订单，关联的是`id`为1的用户，调用时长为`60ms`：

![在这里插入图片描述][df51bbdd2a9f4309b1cfc25ab27cad3a.png_pic_center]

`orderId=102`的订单，关联的是`id`为2的用户，调用时长为非常短；

![在这里插入图片描述][186329b81a254a9aa8e19cec8aa505ad.png_pic_center]

##### 2）设置熔断规则 #####

下面，给`feign`接口设置降级规则：

![在这里插入图片描述][6f2c178b56964bd4a139b5391baad251.png_pic_center]

规则：

![在这里插入图片描述][d4ae181a1efe4035bb66e79dfe4f4c68.png_pic_center]

超过`50ms`的请求都会被认为是慢请求

##### 3）测试 #####

在浏览器访问：`http://localhost:8081/order/101`，快速刷新5次，可以发现：

![在这里插入图片描述][08fa7d49084a4be2805ce2fb7a8ec601.png_pic_center]

触发了熔断，请求时长缩短至`5ms`，快速失败了，并且走降级逻辑，返回的`null`

在浏览器访问：`http://localhost:8081/order/102`，竟然也被熔断了：

![在这里插入图片描述][d7e28dd448034db6a649aefbd9f9f474.png_pic_center]

#### 3.2.异常比例、异常数 ####

**异常比例或异常数**：统计指定时间内的调用，如果调用次数超过指定请求数，并且出现异常的比例达到设定的比例阈值（或超过指定异常数），则触发熔断。

例如，一个异常比例设置：

![在这里插入图片描述][1acdfab7e3aa43e18594d7733e3657ef.png_pic_center]

解读：统计最近`1000ms`内的请求，如果请求量超过10次，并且异常比例不低于0.4，则触发熔断。

一个异常数设置：

![在这里插入图片描述][bd9f6252c91a4d6ab599931217bb16ad.png_pic_center]

解读：统计最近`1000ms`内的请求，如果请求量超过10次，并且异常比例不低于2次，则触发熔断。

**案例**

需求：给`UserClient`的查询用户接口设置降级规则，统计时间为1秒，最小请求数量为5，失败阈值比例为0.4，熔断时长为`5s`

##### 1）设置异常请求 #####

首先，修改`user-service`中的`/user/{id}`这个接口的业务。手动抛出异常，以触发异常比例的熔断：

![在这里插入图片描述][0f4c9192228e4e12b3be0a72f6dd8fe9.png_pic_center]

也就是说，`id`为 2时，就会触发异常

##### 2）设置熔断规则 #####

下面，给`feign`接口设置降级规则：

![在这里插入图片描述][904d58238ae2411eb955d109d4f5b24c.png_pic_center]

规则：

![在这里插入图片描述][95f84efc6c8d4629948197df2b6332ae.png_pic_center]

在5次请求中，只要异常比例超过0.4，也就是有2次以上的异常，就会触发熔断。

##### 3）测试 #####

在浏览器快速访问：`http://localhost:8081/order/102`，快速刷新5次，触发熔断：

![在这里插入图片描述][e4653e75fa3a44da8583015cbc854d43.png_pic_center]

此时，我们去访问本来应该正常的103：

![在这里插入图片描述][77037d084c234d38b04ecc70c49ac374.png_pic_center]

[fa3cf1932db141c9a3b9eaea4e6144cb.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/049d795dd4334cb488c08ec1462ed4f9.png
[03a8b92225fe48bcba352e9260dd8a72.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/9d66cbbe23484531ba56c12d53013e87.png
[e42c015054df4d60a778a5077821c30e.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/757eedea0995476d94b9de938e67e05c.png
[21511da606f34baf9dd8c9bc16987e71.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/9f34627e9cca443980a7d5589adc2b70.png
[7cb053e800d04ccf8ab6651760d8785f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/abecd4ae759d464099d4ff9962bd2aa4.png
[139f973a00d64ac7876343d8619b9760.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/6fb62159d5cd4c99bf3f1bb5abd04a43.png
[dae8893570604987bc28b69c1257e891.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/255dfacd8c50420883546053ecbc0e29.png
[f13a6879ee5b4aec81456ac6345018b9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/a647ba8041fe49d6bee379ab9c4c218c.png
[6776e4d2ea3a471bbd3dfe977dc33c06.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/581444234e1f40599ddacf8296de2408.png
[760b917291164f7e883400a4850dd723.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/e268c1661f154cedab152cfe09b84c4b.png
[bda9a227897e466480569bb6427fd48f.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/5e5e7828cbde4d8287b4f1ab328a931e.png
[3854b209ae5a44b7b257d5628fd18e8a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/23d7453048ac4f02a18c117a48b91fc1.png
[36d072c8b33644af80b61937d258ac81.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/daebe45d8f0345dd8ab75540e2e9eb35.png
[df51bbdd2a9f4309b1cfc25ab27cad3a.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/5a0323779bc2446287c70dbc2fad8802.png
[186329b81a254a9aa8e19cec8aa505ad.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/94cd1165b3544947a85c84a69d80be91.png
[6f2c178b56964bd4a139b5391baad251.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/748550c4227f4f5c9917791726019c96.png
[d4ae181a1efe4035bb66e79dfe4f4c68.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/cfd6d5f1fcbd4cfd8efb43128cbd1209.png
[08fa7d49084a4be2805ce2fb7a8ec601.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/974170bd3d7b4a25aeb30c5198d403bc.png
[d7e28dd448034db6a649aefbd9f9f474.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/59afbc4bf2b64f5598d69b3a816ee297.png
[1acdfab7e3aa43e18594d7733e3657ef.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/6e9c52eb268946458a60a23dee24adab.png
[bd9f6252c91a4d6ab599931217bb16ad.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/1b09ad85e19d4d65bd847d5c3d4bc6fb.png
[0f4c9192228e4e12b3be0a72f6dd8fe9.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/080add2a8ea64720a704a6c817171dd7.png
[904d58238ae2411eb955d109d4f5b24c.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/9332b27a8cca45b1811371fd951ebf76.png
[95f84efc6c8d4629948197df2b6332ae.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/52f59569033544ccb8ff84e2de8b0245.png
[e4653e75fa3a44da8583015cbc854d43.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/a7eb420874d741e0bb4fd21c3789bf29.png
[77037d084c234d38b04ecc70c49ac374.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/d16314563d154f6285e3df7bf32de623.png