SpringCloud（18）：Sentinel：热点key限流、系统规则

梦里梦外; 2022-10-25 01:18 249阅读 0赞

### 一、热点key限流 ###

（1）基本介绍

何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据，并对其访问进行限制。比如：

*  商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制。
 *  用户 ID 为参数，针对一段时间内频繁访问的用户 ID 进行限制。

热点参数限流会统计传入参数中的热点参数，并根据配置的限流阈值与模式，对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制，仅对包含热点参数的资源调用生效。

![çç¹keyéæµåºæ¬ä»ç»][key]

Sentinel 利用 LRU 策略统计最近最常访问的热点参数，结合令牌桶算法来进行参数级别的流控。热点参数限流支持集群模式。

（2）@SentinelResource注解

熔断降级方法分为系统默认和用户自定义两种，@SentinelResource注解和Hystrix的@HystrixCommand注解类似，都是用来配置用户自定义的熔断降级方法。@SentinelResource注解和@HystrixCommand不同的是，只处理Sentinel控制台配置的违规情况，并不处理异常。

（3）修改代码

package com.buba.springcloud.controller;
    
    
    import com.alibaba.csp.sentinel.annotation.SentinelResource;
    import com.alibaba.csp.sentinel.slots.block.BlockException;
    import org.springframework.beans.factory.annotation.Value;
    import org.springframework.web.bind.annotation.GetMapping;
    import org.springframework.web.bind.annotation.PathVariable;
    import org.springframework.web.bind.annotation.RequestParam;
    import org.springframework.web.bind.annotation.RestController;
    
    @RestController
    public class HelloController {
        @Value("${server.port}")
        private String serverPort;
    
        @GetMapping(value = "/provider/get/{id}")
        public String getPayment(@PathVariable("id") Integer id) {
            return "nacos registry, serverPort: " + serverPort + "\t id" + id;
        }
    
        @GetMapping(value = "/testA")
        public String testA() {
            return "-------testA--------";
        }
    
        @GetMapping(value = "/testB")
        public String testB() {
            return "~~~~~~~~testB~~~~~~~~";
        }
    
        @GetMapping(value = "/testHotKey")
        //通过blockHandler指定熔断降级的方法，通过fallback指定触发异常执行的降级方法
        @SentinelResource(value = "testHotKey", blockHandler = "dealTestHotKey")
        public String testHotKey(
                @RequestParam(value = "p1", required = false) String p1,
                @RequestParam(value = "p2", required = false) String p2) {
            return "testHotKey";
        }
    
    
        /**
         * 熔断降级
         *
         * @param p1
         * @param p2
         * @param exception
         * @return
         */
        public String dealTestHotKey(String p1, String p2, BlockException exception) {
            return "--------熔断降级-------";
        }
    
    }

（4）配置

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjk4MzUx_size_16_color_FFFFFF_t_70][]

如果testHotKey的参数p1的值不是5，那么QPS是1；如果参数p1的值是5，那么QPS是2000。

（5） 测试

测试http://localhost:8101/testHotKey?p1=1请求，如果每秒请求1次，不会熔断降级，如果每次请求超过1次，会触发熔断降级。

![20210130141945613.png][]

测试http://localhost:8101/testHotKey?p1=5请求，只要每秒请求不超过2000次，就不会熔断降级。

### 二、系统规则 ###

（1）基本介绍

Sentinel 系统自适应限流从整体维度对应用入口流量进行控制，结合应用的 Load、CPU 使用率、总体平均 RT、入口 QPS 和并发线程数等几个维度的监控指标，通过自适应的流控策略，让系统的入口流量和系统的负载达到一个平衡，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

（2）背景

在开始之前，我们先了解一下系统保护的目的：

*  保证系统不被拖垮
 *  在系统稳定的前提下，保持系统的吞吐量

长期以来，系统保护的思路是根据硬指标，即系统的负载 (load1) 来做系统过载保护。当系统负载高于某个阈值，就禁止或者减少流量的进入；当 load 开始好转，则恢复流量的进入。这个思路给我们带来了不可避免的两个问题：

1.  load 是一个“结果”，如果根据 load 的情况来调节流量的通过率，那么就始终有延迟性。也就意味着通过率的任何调整，都会过一段时间才能看到效果。当前通过率是使 load 恶化的一个动作，那么也至少要过 1 秒之后才能观测到；同理，如果当前通过率调整是让 load 好转的一个动作，也需要 1 秒之后才能继续调整，这样就浪费了系统的处理能力。所以我们看到的曲线，总是会有抖动。
2.  恢复慢。想象一下这样的一个场景（真实），出现了这样一个问题，下游应用不可靠，导致应用 RT（响应时间） 很高，从而 load 到了一个很高的点。过了一段时间之后下游应用恢复了，应用 RT 也相应减少。这个时候，其实应该大幅度增大流量的通过率；但是由于这个时候 load 仍然很高，通过率的恢复仍然不高。

TCP BBR的思想给了我们一个很大的启发。我们应该根据系统能够处理的请求，和允许进来的请求，来做平衡，而不是根据一个间接的指标（系统 load）来做限流。最终我们追求的目标是在系统不被拖垮的情况下，提高系统的吞吐率，而不是load一定要到低于某个阈值。如果我们还是按照固有的思维，超过特定的 load 就禁止流量进入，系统 load 恢复就放开流量，这样做的结果是无论我们怎么调参数，调比例，都是按照果来调节因，都无法取得良好的效果。

Sentinel 在系统自适应保护的做法是，用 load1 作为启动自适应保护的因子，而允许通过的流量由处理请求的能力，即请求的响应时间以及当前系统正在处理的请求速率来决定。

（3）系统规则

系统保护规则是从应用级别的入口流量进行控制，从单台机器的 load、CPU 使用率、平均 RT、入口 QPS 和并发线程数等几个维度监控应用指标，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

系统保护规则是应用整体维度的，而不是资源维度的，并且**仅对入口流量生效**。入口流量指的是进入应用的流量（`EntryType.IN`），比如 Web 服务或 Dubbo 服务端接收的请求，都属于入口流量。

系统规则支持以下的模式：

*  **Load 自适应**（仅对 Linux/Unix-like 机器生效）：系统的 load1 作为启发指标，进行自适应系统保护。当系统 load1 超过设定的启发值，且系统当前的并发线程数超过估算的系统容量时才会触发系统保护（BBR 阶段）。系统容量由系统的 `maxQps * minRt`估算得出。设定参考值一般是 `CPU cores * 2.5`。
 *  **CPU usage**（1.5.0+ 版本）：当系统 CPU 使用率超过阈值即触发系统保护（取值范围 0.0-1.0），比较灵敏。
 *  **平均 RT**：当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护，单位是毫秒。
 *  **并发线程数**：当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
 *  **入口 QPS**：当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjk4MzUx_size_16_color_FFFFFF_t_70 1][]

[key]: /images/20221024/488742bc62714909b7db99661c8e7205.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjk4MzUx_size_16_color_FFFFFF_t_70]: /images/20221024/bb4d39b63dc04959a27fdad703d2a4fb.png
[20210130141945613.png]: /images/20221024/4943608066314ef09b808d69d423942a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjk4MzUx_size_16_color_FFFFFF_t_70 1]: /images/20221024/6724dba9b4134f93be087c15ab15fb99.png