浅谈微服务中限流熔断降级的方法论

太过爱你忘了你带给我的痛 2024-03-24 13:43 109阅读 0赞

## 一、确定范围 ##

### 1.1 限流 ###

易波动或者对波动比较敏感；容易影响整体的；不能预测上游行为，或者不能预测下游行为，依赖的上下游有不可预测的行为体。要不要做熔断降级的核心点在于是否可控，有没有不可控因素。

#### 1.1.1 需要提前做限流的接口 ####

*  1、容易出问题的，比如经常性能有大波动的；
 *  2、速度慢的，速度慢会导致资源长时间不能释放；
 *  3、单次请求消耗的资源多的；
 *  4、请求量大占用总资源多的；
 *  5、涉及到容易构成瓶颈的资源，比如会导致串行，避免长事务；
    
     *  事务内调用了外部接口，为了避免连接不能释放应提前做好熔断，比如响应时间设置；
     *  需要请求一个公共的锁，导致大量排队
 *  6、请求量波动很大的，比如搞活动的接口；
 *  7、提供给外部系统的接口，主要是难以预测变化的；
 *  8、容易积压的业务，积压后会导致影响其他业务；
 *  9、下游行为不能预测或者下游依赖性能波动大服务 需要自我做限流熔断，比如依赖的是大数据，公共数据服务；
    
     *  依赖大数据的接口，大数据性能波动大的业务；
     *  需要往公共数据服务里写数据；
     *  查了下游提供的ES数据，通用时不能预知会发生什么；
     *  调用了第三方的接口

#### 1.1.2 资源分配流控 ####

对于通用性或者有多个上游的服务，往往需要做好资源分配，以保障隔离

*  1、通用的公共组件对外提供接口、ES等；
 *  2、服务于多个业务方，避免连锁反应

### 1.2、熔断 ###

逻辑有错，积压，负载高等

#### 1.2.1 熔断 ####

*  1、影响数据准确性，多一个请求多一条脏数据；
 *  2、逻辑存在错误，引发其他系统数据错误；
 *  3、接口过慢，引发连锁反应；
 *  4、本系统负载已经过高，已经有积压；

#### 1.2.2 注意事项 ####

不要随意为了解决问题而在任意节点熔断限流，要评估对数据的影响，是否会引起数据错误或者熔断后能不能做补偿恢复；

## 二、阈值设置 ##

### 2.1 需要满足两方面 ###

*  1、需求目标期望值；
 *  2、资源允许资源占用的量 不要从系统有多少资源来设置；

考虑其他接口未来的占用和需要预留的容量，不同系统预留的容量不一样。为了保证稳定，核心系统一般至少预留出3倍的容量，也就是正常不使用超过30%的资源。

**阈值 = 分配的资源容量能达到的量 \* 预留倍数**

设置根据的是实际需要和能分配的资源量，而不是根据压测的实际数量来。

### 2.2 设置依据 ###

*  1、压测
 *  2、历史监控观测结果
 *  3、估算  
    设置阈值时，因为并不总是有条件进行压测，就需要进行估算，此时应该先评估接口各类资源的大致平均消耗，计算得出不同资源允许的占用量能达到的请求数。

#### 2.2.1 容量评估计算 ####

总体思路为估算，链路上涉及资源的平均消耗来除以总量来进行计算。  
每秒接口处理时间总耗时 = qps \* 平均响应时间

175qps * 32ms = 5.6s 
    复制代码

CPU 100%利用率每秒接口总处理时长 = 每秒实际时长 / CPU利用率

5.6s / 15%(cpu usage) = 37s 
    复制代码

最大吞吐实际所需线程数 = CPU 100%利用率每秒接口总处理时长

= 37 < 200(默认大小)
    复制代码

平均CPU : IO等非CPU耗时 = 核数：CPU 100%利用率每秒接口总处理时长

2/37s （cpu核数）= 1:19 
    复制代码

CPU实际能达到的最大吞吐 = CPU 100%利用率每秒接口总处理时长 / 平均响应时间

= 37 / 0.032 = 1100qps
    复制代码

目前假设线程数为25，最大吞吐为 = 线程数 / 平均响应时间

= 25 / 0.032 = 781
    复制代码

781 < 1100 , 线程数构成CPU瓶颈；

假设有连接数据库，共10个连接，每个接口平均耗时数据库请求20ms（或者用平均请求次数（sql总qps/接口请求次数）和sql平均耗时算）；  
则数据库连接吞吐为=资源总数/平均耗时

= 10 / 20ms = 500qps 
    复制代码

500 < 781 ，则数据库连接又构成线程的瓶颈;  
在2核，25线程，10连接的情况下最终最大吞吐 = min(cpu，线程数，连接数) = 500  
反向计算，从允许的资源推出允许的阈值

## 三、Sentinel支持的功能 ##

Fegin和Dubbo等默认不走网关，而且现在所有的项目都已经有sentinel相关配置，因此做到对应服务上即可。

*  1、区分来源限流

对不同的来源设置不同的限流规则。默认只支持ip，服务名称，接入方等需要扩展返回来源的API；

*  2、针对热点参数限流

根据参数位置，将对应参数的不同值单独统计限流。如果不能从参数取值，而是在上下文之类的地方可以通过Sphu.entry来设置。目前nacos存的数据和监听获取的数据格式不一致，暂未解决。

*  3、系统性能指标

CPU、RT、QPS等，目前有功能但是不好使。未定位到问题

*  4、接口分级和批量降级

根据重要程度对接口进行划分，故障时优先保障核心功能。

对某一类接口限流，通过配置成同名的资源实现。可实现核心和非核心的区分，通过降级非核心来保证核心。

## 四、建议 ##

及时做好流量预估、扩容和优化，保证正常使用，避免出现需要熔断降级的情况。熔断降级是非正常情况下的手段。

发表评论取消回复

表情：

评论列表（有 0 条评论，109人围观）

还没有评论，来说两句吧...

相关阅读

相关浅谈微服务中限流熔断降级的方法论

一、确定范围 1.1 限流易波动或者对波动比较敏感；容易影响整体的；不能预测上游行为，或者不能预测下游行为，依赖的上下游有不可预测的行为体。要不要做熔断降级的核心

太过爱你忘了你带给我的痛/ 2024年03月24日 13:43/ 0 赞/ 110 阅读

相关微服务架构 — 服务治理 — 服务限流、服务降级、服务熔断

目录文章目录目录服务限流服务降级服务熔断服务限流 C ⇄ S 的异常问题：C 的请求太多，超出 S 的服务能力，导致 S

秒速五厘米/ 2023年10月05日 17:44/ 0 赞/ 122 阅读

相关浅谈微服务中限流熔断降级的方法论

一、确定范围 1.1 限流易波动或者对波动比较敏感；容易影响整体的；不能预测上游行为，或者不能预测下游行为，依赖的上下游有不可预测的行为体。要不要做熔断降级的核心

小咪咪/ 2023年09月25日 21:51/ 0 赞/ 169 阅读

相关浅谈微服务中限流熔断降级的方法论

![format_png][] 一、确定范围 1.1 限流易波动或者对波动比较敏感；容易影响整体的；不能预测上游行为，或者不能预测下游行为，依赖的上下游有不可预

分手后的思念是犯贱/ 2023年09月25日 21:22/ 0 赞/ 106 阅读

相关微服务限流熔断降级方案对比

微服务限流熔断降级方案对比 1、线程池隔离优点：支持排队和超时支持异步调用不足：线程调用会产生额外的开销适用：不受信客户

系统管理员/ 2023年06月08日 06:39/ 0 赞/ 9 阅读

相关分布式服务熔断，降级，限流

> [本文来自Sentinal官方文档][Sentinal] > [Hystrix官方文档][Hystrix] 1. 什么是流量控制？ > 限流：每个服务方均有自己

红太狼/ 2023年03月12日 12:15/ 0 赞/ 240 阅读

相关服务降级、熔断、限流

目录目录 1、概念 1.1 降级 1.1.1 常见降级： 1.1.2 示例 1.2 熔断 1.2.1 熔断设计 1.2.2 示例 1.3 限流

清疚/ 2022年10月30日 11:18/ 0 赞/ 353 阅读

相关微服务中限流、熔断、降级区别

在复杂的分布式系统中,微服务之间的相互调用,有可能出现各种各样的原因导致服务的阻塞,在高并发场景下,服务的阻塞意味着线程的阻塞,导致当前线程不可用,服务器的线程全部阻塞,导致服

比眉伴天荒/ 2022年10月14日 00:54/ 0 赞/ 258 阅读

相关服务熔断，服务降级，服务限流

服务熔断：在股票市场，熔断是指股指波幅达到某个点后，交易所为控制风险采取的暂停交易措施，在系统中，在系统中熔断一般指软件系统中，由于某些原因使服务出现过载现象

电玩女神/ 2022年05月26日 22:50/ 0 赞/ 360 阅读

相关熔断，限流，降级

1 写在前面 ZT: [https://www.cnblogs.com/raoshaoquan/articles/6636067.html\top][https_www.cn

比眉伴天荒/ 2022年01月27日 10:55/ 0 赞/ 407 阅读