分布式限流方案（gateway限流，redis+lua实现限流，nginx限流）

我不是女神ヾ 2023-09-23 20:12 224阅读 0赞

## 分布式限流方案（gateway限流，redis+lua实现限流，nginx限流） ##

[终端研发部][Link 1]

![18cf3b89dc4df11da03d4a54b31f63e0.png][]

8 人赞同了该文章

收起

限流算法

计数器：

漏桶算法：

令牌桶算法：

限流具体实现

网关限流：

redis+lua

Nginx限流

计数器算法

滑动窗口算法

写在最后的话

如果一段时间内请求的数量过大，就会给服务器造成很大压力，可能导致服务器无法提供其它服务。

#### 限流算法 ####

#### 计数器： ####

计数器比较简单粗暴，比如我们要限制1s能够通过的请求数，实现的思路就是从第一个请求进来开始计时，在接下来的1s内，每个请求进来请求数就+1，超过最大请求数的请求会被拒绝，等到1s结束后计数清零，重新开始计数。

这种方式有个很大的弊端：比如前10ms已经通过了最大的请求数，那么后面的990ms的请求只能拒绝，这种现象叫做“突刺现象”。

#### 漏桶算法： ####

就是桶底出水的速度恒定，进水的速度可能快慢不一，但是当进水量大于出水量的时候，水会被装在桶里，不会直接被丢弃；但是桶也是有容量限制的，当桶装满水后溢出的部分还是会被丢弃的。

**算法实现**：可以准备一个队列来保存暂时处理不了的请求，然后通过一个线程池定期从队列中获取请求来执行。

![ac1a6c0b4aa19c169d9057b08d750d53.png][]

#### 令牌桶算法： ####

令牌桶就是生产访问令牌的一个地方，生产的速度恒定，用户访问的时候当桶中有令牌时就可以访问，否则将触发限流。

**实现方案**：Guava RateLimiter限流

Guava RateLimiter是一个谷歌提供的限流，其基于令牌桶算法，比较适用于单实例的系统。

![404e9bb7f6c25beffd87a54487aed0b0.png][]

#### 限流具体实现 ####

#### 网关限流： ####

Spring Cloud Gateway中提供了RequestRateLimiterGatewayFilterFactory类，这个是基于令牌桶实现的。它内置RedisReteLimiter,依赖于Redis存储限流配置和统计数据，我们也可以通过继承

org.springframework.cloud.gateway.filter.ratelimit.AbstractRateLimiter 或者是实现

org.springframework.cloud.gateway.filter.ratelimit.RateLimiter 接口来实现自己的RateLimiter。

具体实现如下：

1. 首先在网关服务引入依赖

![format_png][]

2. 具体配置如下

![format_png 1][]

3. 可以实现基于三个维度的限流：

![format_png 2][]

上面所示的配置是每秒产生的令牌数量是1，当我们的请求速度大于这个数值时，就会返回429的状态码

![format_png 3][]

#### redis+lua ####

1.在服务中引入lua脚本

![format_png 4][]

2.读取lua

![format_png 5][]

3.判断是否需要限流的代码

![format_png 6][]

![5e3905b02dcd89454a07d64f7b9fb512.png][]

4. 上面我们可以看到正常情况下10s内只产生3个令牌，我们来看下效果

![format_png 7][]

可以看到10秒内只有前三个请求通过，其他的都是被拒绝的，过了10s后又会有三个请求可以通过,这完全符合我们预期的效果。

#### Nginx限流 ####

**限制访问频率**：

Nginx可以通过参数ngx\_http\_limit\_req\_module模块来限制访问频率，使用的漏桶算法实现的；可以通过limit\_req\_zone命令以及limit\_req命令限制单个ip的请求处理频率。

**限制连接数**：

ngx\_http\_limit\_conn\_module模块提供了并发连接数的功能，可以使用limit\_conn\_zone命令和limit\_conn进行配置，也是基于漏桶算法实现的。

补充：

#### 计数器算法 ####

通过一个计数器 counter 来统计一段时间内请求的数量，并且在指定的时间之后重置计数器。

![7129c0ad669bfe271404b6a5dfe4655f.png][]

该方法实现简单，但是有临界问题。例如，允许一分钟内通过的请求数为 N，如果在重置计数器的前后一小段时间内分别请求 N 次，那么在这一小段时间内总共请求了 2N 次，超出了规定的 N 次。

![2cdbbdb6fdf78dfaa50b24997ad60277.png][]

#### 滑动窗口算法 ####

是计数器算法的一种改进，将原来的一个时间窗口划分成多个时间窗口，并且不断向右滑动该窗口。

![82c4ed8232a2dab149944c7d084ca70a.png][]

在临界位置的突发请求都会被算到时间窗口内，因此可以解决计数器算法的临界问题。

![cbb37711f5f6e291a5428d426ccb7cf4.png][]

redis提供了丰富的数据类型及api，非常适合业务系统开发，统计计数（increment，decrement），标记位（bitmap）,松散数据（hash）,先进先出、队列式读取（list）

guava缓存作为本地缓存，能够高效的读取的同时，提供了大量api方便我们控制本地缓存的数据量及冷数据淘汰

参考：

> 作者： 码农木木  
> 链接： [https://juejin.cn/post/6921299013769625607][https_juejin.cn_post_6921299013769625607]  
> [https://blog.csdn.net/qq\_41880190/article/details/89404530][https_blog.csdn.net_qq_41880190_article_details_89404530]  
> 来源：掘金，csdn

PS？补充一下： 什么是Nginx，谈谈个人都理解，项目中是否用到，为什么要用，有什么优点？

[Nginx常见的面试题：限流、正向、反向代理、负载均衡策略][Nginx]

### 写在最后的话 ###

大家看完有什么不懂的可以在下方留言讨论，也可以私信问我一般看到后我都会回复的。最后觉得文章对你有帮助的话记得点个赞哦，点点关注不迷路

来源：[分布式限流方案（gateway限流，redis+lua实现限流，nginx限流） - 知乎][gateway_redis_lua_nginx_ -]

[Link 1]: https://www.zhihu.com/people/zhimengrensheng
[18cf3b89dc4df11da03d4a54b31f63e0.png]: https://img-blog.csdnimg.cn/img_convert/18cf3b89dc4df11da03d4a54b31f63e0.png
[ac1a6c0b4aa19c169d9057b08d750d53.png]: https://img-blog.csdnimg.cn/img_convert/ac1a6c0b4aa19c169d9057b08d750d53.png
[404e9bb7f6c25beffd87a54487aed0b0.png]: https://img-blog.csdnimg.cn/img_convert/404e9bb7f6c25beffd87a54487aed0b0.png
[format_png]: https://img-blog.csdnimg.cn/img_convert/18b09abdc10ff23b8e1b4487e9ce5b89.webp?x-oss-process=image/format,png
[format_png 1]: https://img-blog.csdnimg.cn/img_convert/23c855e52bb42d7086a7059121bf3e5e.webp?x-oss-process=image/format,png
[format_png 2]: https://img-blog.csdnimg.cn/img_convert/c490a156fe929a1caff10eec60d18e81.webp?x-oss-process=image/format,png
[format_png 3]: https://img-blog.csdnimg.cn/img_convert/9b1b85d37e5dce13328bb8dd60bd2228.webp?x-oss-process=image/format,png
[format_png 4]: https://img-blog.csdnimg.cn/img_convert/71d104065a4884c25fe76b1afc50cce3.webp?x-oss-process=image/format,png
[format_png 5]: https://img-blog.csdnimg.cn/img_convert/92d02bb073820309fb5a53d51d7a9c56.webp?x-oss-process=image/format,png
[format_png 6]: https://img-blog.csdnimg.cn/img_convert/87fb862fe72692865fb57c221cbc7c96.webp?x-oss-process=image/format,png
[5e3905b02dcd89454a07d64f7b9fb512.png]: https://img-blog.csdnimg.cn/img_convert/5e3905b02dcd89454a07d64f7b9fb512.png
[format_png 7]: https://img-blog.csdnimg.cn/img_convert/bf4c3f003da5dcf2d85f864773e2315d.webp?x-oss-process=image/format,png
[7129c0ad669bfe271404b6a5dfe4655f.png]: https://img-blog.csdnimg.cn/img_convert/7129c0ad669bfe271404b6a5dfe4655f.png
[2cdbbdb6fdf78dfaa50b24997ad60277.png]: https://img-blog.csdnimg.cn/img_convert/2cdbbdb6fdf78dfaa50b24997ad60277.png
[82c4ed8232a2dab149944c7d084ca70a.png]: https://img-blog.csdnimg.cn/img_convert/82c4ed8232a2dab149944c7d084ca70a.png
[cbb37711f5f6e291a5428d426ccb7cf4.png]: https://img-blog.csdnimg.cn/img_convert/cbb37711f5f6e291a5428d426ccb7cf4.png
[https_juejin.cn_post_6921299013769625607]: https://link.zhihu.com/?target=https%3A//juejin.cn/post/6921299013769625607
[https_blog.csdn.net_qq_41880190_article_details_89404530]: https://link.zhihu.com/?target=https%3A//blog.csdn.net/qq_41880190/article/details/89404530
[Nginx]: https://zhuanlan.zhihu.com/p/402234572
[gateway_redis_lua_nginx_ -]: https://zhuanlan.zhihu.com/p/571518397