Spring Cloud Alibaba 系列之 Sentinel 流量控制

超、凢脫俗 2022-12-23 06:43 226阅读 0赞

## 1.1 简介 ##

### 1.1.1 概述 ###

流量控制(flow control)，其原理是监控应用流量的 QPS 或并发线程数等指标，当达到指定的阈值时对流量进行控制，以避免被瞬时的流量高峰冲垮，从而保障应用的高可用性。FlowSlot 会根据预设的规则，结合前面 NodeSelectorSlot、ClusterBuilderSlot、StatisticSlot 统计出来的实时信息进行流量控制。  
  限流的直接表现是在执行 `Entry nodeA = SphU.entry(resourceName)` 的时候抛出 FlowException 异常。FlowException 是 BlockException 的子类，可以捕捉 BlockException 来自定义被限流之后的处理逻辑。同一个资源可以创建多条限流规则。FlowSlot 会对该资源的所有限流规则依次遍历，直到有规则触发限流或者所有规则遍历完毕。一条限流规则主要由下面几个因素组成：

<table> 
 <thead> 
  <tr> 
   <th align="left">名称</th> 
   <th align="left">描述</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td align="left">resource</td> 
   <td align="left">资源名，即限流规则的作用对象</td> 
  </tr> 
  <tr> 
   <td align="left">count</td> 
   <td align="left">限流阈值</td> 
  </tr> 
  <tr> 
   <td align="left">grade</td> 
   <td align="left">限流阈值类型(QPS 或并发线程数)</td> 
  </tr> 
  <tr> 
   <td align="left">limitApp</td> 
   <td align="left">流控针对的调用来源，若为 default 则不区分调用来源</td> 
  </tr> 
  <tr> 
   <td align="left">strategy</td> 
   <td align="left">调用关系限流策略</td> 
  </tr> 
  <tr> 
   <td align="left">controlBehavior</td> 
   <td align="left">流量控制效果(直接拒绝、Warm Up、匀速排队)</td> 
  </tr> 
 </tbody> 
</table>

### 1.1.2 控制台操作 ###

![在这里插入图片描述][20201123102559555.png]  
![在这里插入图片描述][20201123102742374.png]

## 1.2 流量控制 ##

### 1.2.1 流控方式 ###

#### ☞ QPS 流量控制 ####

当 QPS 超过某个阈值的时候，则采取措施进行流量控制。流量控制的效果包括以下几种：快速失败、Warm Up、匀速排队。对应 FlowRule 中的 controlBehavior 字段。

#### ☞ 并发线程数控制 ####

并发数控制用于保护业务线程池不被慢调用耗尽。例如，当应用所依赖的下游应用由于某种原因导致服务不稳定、响应延迟增加，对于调用者来说，意味着吞吐量下降和更多的线程数占用，极端情况下甚至导致线程池耗尽。Sentinel 并发控制不负责创建和管理线程池，而是简单统计当前请求上下文的线程数目(正在执行的调用数目)，如果超出阈值，新的请求会被**立即拒绝**，效果类似于信号量隔离。

### 1.2.2 流控规则（QPS） ###

#### ☞ 直接 ####

**⑴ 快速失败**

快速失败方式是默认的流量控制方式，当 QPS 超过阈值后，新的请求就会被立即拒绝，拒绝方式为抛出FlowException。这种方式适用于对系统处理能力确切已知的情况下，比如通过压测确定了系统的准确水位时。[☞ 官方文档][Link 1]  
![在这里插入图片描述][2020112310331228.png]  
![在这里插入图片描述][20201123103351386.png]  
  我们请求在每秒一次的时候，可以正常返回，当我们每秒请求超过 1 次高于设定的 QPS 时，直接失败返回 `Blocked by Sentinel (flow limiting)`。这个是默认的处理逻辑，我们可以修改处理逻辑。  
![在这里插入图片描述][20201123103449765.png]

**⑵ Warm Up**

Warm Up 方式，即预热/冷启动方式。当系统长期处于低水位的情况下，当流量突然增加时，直接把系统拉升到高水位可能瞬间把系统压垮。通过"冷启动"，让通过的流量缓慢增加，在一定时间内逐渐增加到阈值上限，给冷系统一个预热的时间，避免冷系统被压垮。通常冷启动的过程系统允许通过的 QPS 曲线如下图所示：

![在这里插入图片描述][20201123105616764.png_pic_center]  
默认 coldFactor(冷却因子) 为 3，即请求 QPS 从 threshold / 3 开始，经预热时长逐渐升至设定的 QPS 阈值。[☞ 官方文档][Link 2]

**⑶ 排队等待**

排队等待方式会严格控制请求通过的间隔时间，也即是让请求以均匀的速度通过，对应的是漏桶算法。这种方式适合用于请求以突刺状来到，这个时候我们不希望一下子把所有的请求都通过，这样可能会把系统压垮；同时我们也期待系统以稳定的速度，逐步处理这些请求，以起到“削峰填谷”的效果，而不是拒绝所有请求。排队等待模式暂时不支持 QPS > 1000 的场景。[☞ 官方文档][Link 3]

![在这里插入图片描述][20201123110749459.png_pic_center]

#### ☞ 关联 ####

当两个资源之间具有资源争抢或者依赖关系的时候，这两个资源便具有了关联。比如对数据库同一个字段的读操作和写操作存在争抢，读的速度过高会影响写得速度，写的速度过高会影响读的速度。如果放任读写操作争抢资源，则争抢本身带来的开销会降低整体的吞吐量。可使用关联限流来避免具有关联关系的资源之间过度的争抢。如图所示我们可以通过以下方式配置关联模式，当 /testA 请求的 QPS 超过阈值时限流 /find 请求。  
![在这里插入图片描述][20201123113050345.png]

#### ☞ 链路 ####

下图中记录了资源之间的调用链路，A 与 B 都会调用 C，我们在 Sentinel 流控链路模式中设置 C 资源的入口资源为 A，当达到阈值时限制 A，没有设置的 B 不受限制。类似于商家有两个供货商，一个是他小舅子，一个不熟，商家每天可以卖 1000 份货，两个供货商自由送货，当不熟的那个供货商送货过于频繁，而自身消耗有限，会影响小舅子的收益，就限制不熟的供货商供货。

![在这里插入图片描述][20201130103914404.png_pic_center]

[20201123102559555.png]: /images/20221120/2c6ee7cee3c44e40b659a60a4f64cacf.png
[20201123102742374.png]: /images/20221120/37908effc7c647758df6d9e42a9788ba.png
[Link 1]: https://github.com/alibaba/Sentinel/wiki/%E6%B5%81%E9%87%8F%E6%8E%A7%E5%88%B6
[2020112310331228.png]: /images/20221120/3afe4b5aef754767a049e9ffb4cc9e97.png
[20201123103351386.png]: /images/20221120/b141f81fc0df47baa02ec61f3e91b292.png
[20201123103449765.png]: /images/20221120/913c70575ed44b92b6401aaba231af8e.png
[20201123105616764.png_pic_center]: /images/20221120/99ca30bb994341e39e26a4e959a69d05.png
[Link 2]: https://github.com/alibaba/Sentinel/wiki/%E9%99%90%E6%B5%81---%E5%86%B7%E5%90%AF%E5%8A%A8
[Link 3]: https://github.com/alibaba/Sentinel/wiki/%E6%B5%81%E9%87%8F%E6%8E%A7%E5%88%B6-%E5%8C%80%E9%80%9F%E6%8E%92%E9%98%9F%E6%A8%A1%E5%BC%8F
[20201123110749459.png_pic_center]: /images/20221120/b1a97316714f4102bc7097ba25bd3d6e.png
[20201123113050345.png]: /images/20221120/8a44d0fca3f64d0b86994d44d4a3c3c7.png
[20201130103914404.png_pic_center]: /images/20221120/0db87fcb554c4ce8adbcca2d2dc1ce16.png