系统并发量和吞吐量&高并发性能指标：QPS、TPS、RT、并发数、吞吐量

Myth丶恋晨 2023-10-09 22:29 41阅读 0赞

## 系统并发量和吞吐量 ##

上班的时候，同事问我知道系统并发量的计算公式吗？

内心一惊（并不知道）

之前的公司，开发一个接口，做了功能测试，就线上了

根本没有考虑那么多

如果是大一点的网站，这种明显存在问题，然后优化。

系统吞吐量可以理解为系统的抗压能力，系统每秒中可以承受的用户请求次数

有以下几个参数衡量系统吞吐量：

*  QPS 每秒钟处理完的请求数量
 *  TPS 每秒钟处理完的事务数量
 *  并发数 系统能同时处理的请求数量
 *  RT 处理一次请求的平均响应时间

QPS一台服务器**每秒能够相应的查询次数，是对一个特定的查询服务器**在规定时间内\*\*所处理流量多少的衡量标准, 即每秒的响应请求数，也即是最大吞吐能力

Tps即每秒处理事务数，包括了用户请求服务器，服务器自己的内部处理，服务器返回给用户（每秒完成了多少个这三个步骤）

QPS和TPS的区别是，比如一个页面，你要请求三次服务器，T记录三次，Q记录一次

并发数指系统同时能处理的请求数量，同样反应了系统的负载能力。这个数值可以分析机器1s内的访问日志数量来得到

QPS = 并发量 / RT

并发量 = QPS \* RT

一个系统吞吐量通常由QPS（TPS）、并发数两个因素决定，每套系统这两个值都有一个相对极限值，在应用场景访问压力下，只要某一项达到系统最高值，系统的吞吐量就上不去了，如果压力继续增大，系统的吞吐量反而会下降，原因是系统超负荷工作，上下文切换、内存等等其它消耗导致系统性能下降。

## 高并发性能指标：QPS、TPS、RT、并发数、吞吐量 ##

### 高并发系统系统指标 ###

![img][]

高并发系统核心指标

### 一、QPS，每秒查询 ###

QPS：Queries Per Second是衡量信息检索系统（例如搜索引擎或数据库）在一秒钟内接收到的搜索流量的一种常见度量。该术语在任何请求-响应系统中都得到更广泛的使用，更正确地称为每秒请求数（RPS：Request Per Second）。

高性能、高并发、高可用（简称“三高”）要求的系统必须注意其QPS，才能知道何时扩容系统以处理更多请求。

![img][img 1]

### 二、TPS，每秒事务 ###

TPS：是Transactions Per Second的缩写，也就是事务数/秒。它是软件测试结果的测量单位。一个事务是指一个客户端向服务器发送请求然后服务器做出响应的过程。客户端在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。

QPS vs TPS：QPS基本类似于TPS，但是不同的是，对于一个页面的一次访问，形成一个TPS；但一次页面请求，可能产生多次对服务器的请求，服务器对这些请求，就可计入“QPS”之中。如，访问一个页面会请求服务器2次，一次访问，产生一个“T”，产生2个“Q”。

来自维基百科的解释如下：

> 在非常普通的意义上，术语每秒事务数是指每秒由某些实体执行的原子动作的数量。从更严格的角度来看，DBMS供应商和用户社区通常使用该术语来表示每秒执行的数据库事务数。  
> 最近，该术语已被用来描述一种加密货币的交易率，例如运行比特币区块链的分布式网络。能够适应实际交易量的交易速率的发展是加密货币技术研究的重要领域。

![img][img 2]

### 三、RT，响应时间 ###

RT（Response-time）响应时间：执行一个请求从开始到最后收到响应数据所花费的总体时间，即从客户端发起请求到收到服务器响应结果的时间。该请求可以是任何东西，从内存获取，磁盘IO，复杂的数据库查询或加载完整的网页。

暂时忽略传输时间，响应时间是处理时间和等待时间的总和。处理时间是完成请求要求的工作所需的时间，等待时间是请求在被处理之前必须在队列中等待的时间。

响应时间是一个系统最重要的指标之一，它的数值大小直接反应了系统的快慢。

### 四、Concurrency，并发数 ###

并发数是指系统同时能处理的请求数量，这个也反应了系统的负载能力。

并发意味着可以同时进行多个处理。并发在现代编程中无处不在，网络中有多台计算机同时存在，一台计算机上同时运行着多个应用程序。

![在这里插入图片描述][e4503a163c364fe58607cc0bf54e0e24.png]

### 五、吞吐量 ###

系统的吞吐量（承压能力）和处理对CPU的消耗、外部接口、IO等因素紧密关联。单个处理请求对CPU消耗越高，外部系统接口、IO速度越慢，系统吞吐能力越低，反之越高。

系统吞吐量有几个重要指标参数：QPS（TPS）、并发数、响应时间。

1.  QPS（TPS）：（Queries Per Second）每秒钟请求/事务数量。
2.  并发数： 系统同时处理的请求/事务数。
3.  响应时间： 一般取平均响应时间。

理解了上面三个指标的意义之后，就能推算出它们之间的关系：

*  **QPS（TPS）= 并发数/平均响应时间**
 *  **并发数 = QPS\*平均响应时间**

![在这里插入图片描述][75a980004d574f35a2351515631e6e28.png]

### 六、实际举例 ###

我们通过一个实例来把上面几个概念串起来理解。按二八定律来看，如果每天 80% 的访问集中在 20% 的时间里，这 20% 的时间就叫做峰值时间。

*  公式：( 总PV数 \* 80% ) / ( 每天秒数 \* 20% ) = 峰值时间每秒请求数(QPS)
 *  机器：峰值时间每秒QPS / 单台机器的QPS = 需要的机器

1.  **每天300w PV 的在单台机器上，这台机器需要多少QPS？**  
    ( 3000000 \* 0.8 ) / (86400 \* 0.2 ) = 139 (QPS)
2.  **如果一台机器的QPS是58，需要几台机器来支持？**  
    139 / 58 = 3

### 七、最佳线程数、QPS、RT ###

**1、单线程QPS公式：QPS=1000ms/RT**  
对同一个系统而言，支持的线程数越多，QPS越高。假设一个RT是80ms，则可以很容易的计算出QPS，QPS = 1000/80 = 12.5。

多线程场景，如果把服务端的线程数提升到2，那么整个系统的QPS则为 2\*（1000/80） = 25，可见QPS随着线程的增加而线性增长，那QPS上不去就加线程呗，听起来是这个道理，但是往往现实并非如此。

**2、QPS和RT的真实关系**

我们想象中的QPS、RT关系如下，  
![在这里插入图片描述][ec869979c622446693618fa41d17f8cb.png]

实际的QPS、RT关系如下，

![在这里插入图片描述][e9fc8971b7144146b8674db51dbdf9f3.png]

**3、最佳线程数量**  
刚好消耗完服务器的瓶颈资源的临界线程数，公式如下  
最佳线程数量=（（线程等待时间+线程cpu时间）/ 线程cpu时间）\* cpu数量  
特性：

*  在达到最佳线程数的时候，线程数量继续递增，则QPS不变，而响应时间变长，持续递增线程数量，则QPS开始下降。
 *  每个系统都有其最佳线程数量，但是不同状态下，最佳线程数量是会变化的。
 *  瓶颈资源可以是CPU，可以是内存，可以是锁资源，IO资源，超过最佳线程数–>导致资源的竞争，超过最佳线程数–>响应时间递增。

[img]: https://img-blog.csdnimg.cn/img_convert/515201e9994f3cc455da520aea46dada.webp?x-oss-process=image/format,png
[img 1]: https://img-blog.csdnimg.cn/img_convert/85186a4318c61622a8bfeb6a8429791b.webp?x-oss-process=image/format,png
[img 2]: https://img-blog.csdnimg.cn/img_convert/b056551ea8d68ec491b8ed963c3c8740.webp?x-oss-process=image/format,png
[e4503a163c364fe58607cc0bf54e0e24.png]: https://img-blog.csdnimg.cn/e4503a163c364fe58607cc0bf54e0e24.png
[75a980004d574f35a2351515631e6e28.png]: https://img-blog.csdnimg.cn/75a980004d574f35a2351515631e6e28.png
[ec869979c622446693618fa41d17f8cb.png]: https://img-blog.csdnimg.cn/ec869979c622446693618fa41d17f8cb.png
[e9fc8971b7144146b8674db51dbdf9f3.png]: https://img-blog.csdnimg.cn/e9fc8971b7144146b8674db51dbdf9f3.png