48张图|手摸手教你性能监控、压测和调优

妖狐艹你老母 2023-10-04 16:18 6阅读 0赞

![fe855dcae059570eab064ae1a87c3dad.png][]

本文主要内容

### 一、何为压力测试 ###

#### 1.1、 大白话解释 ####

*  性能压测是什么：就是考察当前`软件`和`硬件`环境下，系统所能承受的`最大负荷`，并帮助找出系统的`瓶颈`所在。
 *  性能压测的目的：为了系统在线上的`处理能力`和`稳定性`维持在一个`标准范围`内，做到知己知彼，百战不殆。还可以发现内存泄漏、并发与同步的问题。

#### 1.2、性能指标 ####

*  RepsonseTime - RT：响应时间，用户从客户端发起一个请求开始计算，到客户端接收到服务端的响应结束，整个过程所耗费的时间。
 *  Hits Per Second - HPS：用户每秒点击次数，也就是每秒向后台发送的请求次数。
 *  QPS：系统每秒内处理查询的次数。
 *  MaxRT：最大响应时间，指用户发出请求到服务端返回响应的最大时间。
 *  MiniRT：最少响应时间，指用户发出请求到服务端返回响应的最少时间。
 *  90%响应时间：将所有用户的响应时间进行升序排序，取 90 % 的位置。
 *  性能测试关注点：
 *   *  吞吐量：每秒钟系统能处理的请求数、任务数。
     *  响应时间：服务处理一个请求或一个任务的耗时。
     *  错误率：一批请求中结果出过错的请求所占比例。

### 二、Jmeter 压测工具 ###

#### 1、Jmeter 工具 ####

*  下载和安装 Jmeter 工具

下载地址：

https://jmeter.apache.org/download_jmeter.cgi

我下载的版本是 apache-jmeter-5.3

![5a728e74cc88855c8563e8c15062216f.png][]

*  运行 JMeter 程序

打开批处理文件：\\apache-jmeter-5.3\\bin\\jmeter.bat。如下图所示：

![a0ca38c2a6d978c9b2fb5f41b2664fc4.png][]

*  添加线程组，如下图所示：

![91c7e4a6e226493c1a6c6e05afec952e.png][] 添加线程组

*  1s 内启动 200 个线程，循环次数 100 次。2 w 个请求。如下图所示：

![29332b29358a118cd880ff91b23107eb.png][]

*  测试 HTTP 请求，如下图所示：

![023f55d531b2d628175166b2a4a91266.png][]

配置要测试的协议、服务器地址、端口号。配置信息如下：

协议：使用 http 协议。

服务器名称或 IP: www.baidu.com (只是为了演示)。

端口号：80 端口。

如下图所示：

![21b07874a27d05f7c24e4faffae6686f.png][]

*  添加查看结果树、汇总报告和聚合报告。如下图所示：

![9a0fbbf9c6cf1d3c2156b30a36eb6679.png][]

*  开始压力测试。
    
    点击播放按钮就开始启动了。注意启动之前需要先设置线程组的参数配置和 HTTP 请求的配置。如下图所示：

![6153b0a5b3e771203eb5d4fc57fd13d5.png][]

*  查看每个请求结果，如下图所示：

![fa40d66ca5844ba34425e2a66dcc566d.png][]

*  查看汇总报告。
    
    主要关心平均值和吞吐量。
    
    200 个线程，每个线程调用 100 次，总共 2 w 次，可以看到下图中表格中的样本列也是 2 w，请求所耗费的时间是 151 ms，吞吐量是 880 个请求每秒。如下图所示：

![baa0a60f19996fbfc805b121b0f93e2e.png][]

*  查看聚合报告。

主要看中位数和90%百分位，

中位数是 59 ms，说明大部分请求的响应时间是 59 ms。

90 % 的请求 都是在 271 ms 以内响应完成的。

异常 0.41% 说明 2 w 个请求中有 82 个请求异常（20000 \* 0.0041 = 82 ）。

吞吐量 880.2/sec 说明百度这个网站每秒能处理 880 个请求，性能一般（可能跟本地机器性能有关）。

如下图所示：

![2c5bb04cf911ec9ed92628845e3ab005.png][]

*  查看汇总图。

查看汇总图时，需要先勾选想要查看的信息，如下图所示：

![638de5a0422bdda61e0d2f2df3aa43ba.png][]

然后查看图形汇总：

![d767abf22a535e77035a0aea3fe6948d.png][]

可以看到勾选的几列在图表中是用不同颜色表示的，比如绿色的柱状条就是 90 % 百分位。

我们来测试下 PassJava（佳必过）的管理后台的性能，吞吐量接近 2000/s。如下图所示：

![190cdaf2b31c50d3e4c7e604bbb48fac.png][]

### 三、性能监控之 jconsole ###

jconsole 和 jvisualvm 是 Java JDK 的两个小工具，用来监控内存泄漏、跟踪垃圾回收、执行时的内存情况、对 CPU 进行分析、线程的分析。都可以通过命令行启动，而且可以监控本地和远程应用。而 jvisualvm 是升级版的 jconsole。我们先来看下 jconsole 的使用。

首先用 cmd 命令行的方式启动 jconsole。

#### 启动 jconsole ####

![cb098f895fce4675a33ea05917c8e51d.png][] 命令行启动 jconsole

#### 选择监控哪个应用 ####

然后选择 passjava 项目的 question 服务。

![e3662e37c72e76d9e7bfb5edfe94ef75.png][] 选择 passjava-question 微服务

对应的就是下面这个微服务：passjava-question。

![6644fd7b14b7096cc273d682a8995c92.png][] 对应 passjava-question 微服务

#### 概览 ####

从监控界面上有 6 个菜单，首先看到的是概览功能，上面有堆内存使用量、线程数、类的使用情况、CPU 占用率，都是用趋势图来表示的，能很方便的看出当前性能的概览。注意：这些监控都是实时的。

![2ee8bf060ba5994464678a7056879871.png][] 概览

#### 内存 ####

下面是内存的使用情况，可以从下图中看到有个下拉框，里面可以选择不同的内存维度，然后下面的图标和柱状图也会跟着选择的维度而展示不同。

![b84894f4c167d8433469c0a2d7de1429.png][]

#### 内存 ####

下面是线程的使用情况，可以看到线程峰值和活动线程的总数量，目前看到的峰值是59，活动线程数是 57。下半部分可以看到具体是哪些线程，以及线程的堆栈信息，非常详细。

![cd037f45a5fa24ca830b7915881f1cbf.png][] 线程使用情况

#### 类 ####

下面是类的加载和卸载情况，已加载类总数是 10679，而已卸载的类是 1 个，所以当前已加装当前类的总数是 10679 - 1 = 10678 个。

![ee86ff04ad0c612ba642ffda81c5ca0f.png][] 类的加载和卸载情况

#### VM 概要 ####

我们再来看下VM（虚拟机）的情况。如下图所示，可以看到虚拟机情况，线程、类、堆的概要信息，以及 VM 的参数，是不是很方便呀~

![fd1b3047314635d5b4974402791ffbbe.png][] VM 概要

#### MBean 信息 ####

接下来我们来看下 MBean 信息。对于 MBean，可能很多同学不知道是啥，下面做个解释：

MBean就是一种规范的JavaBean，通过集成和实现一套标准的Bean接口，这种叫MBean。MBean可以用来干嘛？就是可以有一套JDK级别的对外的服务接口。比如，你写了一个JVM允许状态辅助查询的Bean,你希望别人下载一个Jconsole就可以看到你写的杰作。那你就可以考虑用MBean规范来实现。很多垃圾收集器算法Bean就这么干的（说的就是这个类sun.management.MemoryImpl）。

![e19877a12f0042f72c14dd1b9c20619c.png][] MBean 信息

### 四、性能监控之 jvisualvm ###

jvisualvm 比 jconsole 更强大，界面展示的信息更丰富。还可以安装插件，太赞了。

#### 启动 jvisualvm 和概述 ####

启动方式和 jconsole 一样，也是通过 cmd 命令行启动。还是选择 passjava-question 微服务，然后选择第一个菜单栏：概述。可以看到 JVM 的版本，启动参数等信息。

![feab1340e7bc7d5f8a797887c71b032d.png][] 启动jvisualvm

#### 监视 ####

监视 CPU、堆、类、线程的情况。整体显示的效果比 jconsole 更美观。

![cf2f75122fb3a6fa322cc65bdc5c3f8c.png][] 监视

#### 线程 ####

再来查下线程的情况。可以看到有 5 种状态的线程：

*  运行：正在运行的线程。
 *  休眠：休眠状态的线程。
 *  等待：等待执行的线程。
 *  驻留：线程里面的空闲线程。
 *  监视：阻塞的线程，正在等待锁。

![cd3ff532bc06623d1a9eaa5e7b89bfc0.png][]

#### 抽样器 ####

另外我们也可以抽样器对 CPU 或内存进行抽样。如下图所示，对内存进行抽样。

![3a51cc1f00c401560b5533c1cff2c256.png][] 抽样

#### 插件的使用 ####

##### 安装Visual GC 插件 #####

安装步骤：工具->插件->可用插件->Visual GC->安装。安装完成后，重启就可以使用插件功能了。

![f2167030699ec25c8749fa58e51746ae.png][]

安装完成后，就可以看到

![7066c1f4e94c82eb2e9c4b243e4dd8fc.png][] Visual GC 插件

下图是实时监控垃圾回收的情况。

![c1fbc050044a815ea6afb3bdbda3b2e8.png][] Visual GC

### 五、对网关的性能测试 ###

现在我想对 Passjava 系统的 question 微服务的接口进行一个压测，该如何进行呢？

首先我们来看下 passjava 的架构是怎么样的，如下图所示：

![a1a9db54f724f42d7524648953cef452.png][]

客户端分为手机端和 PC 端，http 请求先经过 API Gateway，然后再转发到 question 微服务。其中涉及到了中间件：Gateway 网关。

我们来对 Gateway 网关进行压力测试。

网关的端口号是 8060，我们配置下 JMeter。如下图所示：

![5c2e9bc71b7d34cbde5a4b6676eafb25.png][]

配置每秒发送 200 个请求，一直循环执行，直到手动停止压测。如下图所示：

![a5034329ef4f17ccba01cfefb8de1d5d.png][]

可以看下执行结果，吞吐量在 2422 个每秒，还是比较高的。

吞吐量：2422/s 。

90% 响应时间：142 毫秒。

99% 响应时间：281 毫秒。

![a3648993d225efcfeb43bf24eff895c1.png][]

我们再来看看垃圾回收的情况，Eden 区垃圾回收用时 2.7 s，用时太长了吧，看看这里怎么能优化下。

通常的优化方向是增大新生代堆内存配置。

![7a7b29f916dd0d10c52b7a4d32dd1c06.png][]

### 六、对微服务的性能测试 ###

根据上面的架构原理图，我们知道客户端请求都是经过 Gateway 转发了一次的，如果我们想单独看下微服务的性能该怎么测试呢？下面我来演示下如何测试 passjava-question 微服务的性能。

首先需要在 passjava-question 微服务中添加一个测试方法：

![09f71d8e66acd523329ce8ee972ab6c7.png][] 测试方法

有两种方式测试这个 api 是否添加正确。

第一种用 postman 测试下这个请求是否能正确响应，返回 “test” 则表示响应正确。

![3cbd17558cf7d6df3a6ba2227d989c62.png][] test api 是否能正确响应

第二种通过浏览器进行测试。浏览器地址栏输入以下链接后，回车，看下浏览器窗口是否显示 “test”，是则表示响应正确。

然后我们需要用 Jmeter 压测工具来测试这个微服务下的 api 的性能究竟如何。

![2345ca50a2bd779ff0af6f769c11819f.png][] 单独压测微服务的 api的结果

吞吐量：3542/s 。

90% 响应时间：100 毫秒。

99% 响应时间：152 毫秒。

### 七、对网关+微服务的性能测试 ###

如果我们想对这个整个请求链路进行性能测试该怎么做？

首先请求需要先经过网关，然后由网关转发到微服务。在之前的文章中，我已经将网关配置好了，所以要想通过网关转发到 test 请求，只需要对请求路径稍作修改即可，如下所示：

http://localhost:8060/api/question/v1/admin/question/test

然后在浏览器输入该网址，返回 “test” 即表示响应正确。

然后我们还是用 Jmeter 压测工具测试下 test api 的性能。测试结果如下图所示：

![69328413935f11138f69b75d0eb0da3e.png][] 网关+微服务的压力测试结果

从结果可以看到：

吞吐量：982/s 。

90% 响应时间：437 毫秒。

99% 响应时间：790毫秒。

这里做个横向对比：

![f57dc7ae2ecb0675e7d09b2b01c1cfb6.png][] 横向对比

说明微服务 api 经过网关转发一次后，性能至少下降了一半。可以得出结果：中间件越多，性能损失越大，大部分损失都是网络交互导致的。可以通过增强网络通信质量来减少网络的延迟。

### 八、对数据库查询进行优化 ###

一般情况下，出现性能问题更多的是业务中查询数据库的耗时。接下来看下如何优化数据的查询。

下面是一个查询问题列表的 api：通过问题类型 type 字段过滤问题列表。api 路径如下：

http://localhost:11000/question/v1/admin/question/list?type=5

这个 api 的代码如下，很容易看懂。

![74b949d87fe2b027dc0f829ae20d41e9.png][] 查询问题列表的 api

我们加些测试代码：统计查询数据库的耗时。如下所示：

![ca325a3f3eaf93ea76596d0b560a8c88.png][] 耗时统计

然后重启 passjava-question 服务，再次测试这个 api，耗时 43 ms

![1da4e8542cdf1f897d5841d211297a3b.png][]

怎么对查询进行优化呢？很容易想到加索引，我们来试下加在 question 表加索引后的效果。给 type 字段加上普通索引，如下图所示：

![c30929443c569edaab240c66c589e517.png][] 添加索引

我们再来看下加了索引后的耗时情况：耗时 18 ms，确实比之前的 43 ms 快了很多。

![dcf44a708ea1cc3aeef8de1ed98a6191.png][] 加了索引后的情况

### 九、优化垃圾回收 ###

我们可以通过 jvisulavm工具查看垃圾回收的情况，Eden 区频繁发生 GC，短时间（1分钟）内共造成了 480 次 stop the world。另外从压测工具中也可以看到，吞吐量为 275/s。

原因是 Eden 区的内存分配得太小了，只有 32 M，我们来调大一点。

![ff105f99f73b0c65460141b1524da37b.png][] 32M Eden 区频繁进行垃圾回收

#### 增大 Eden 区大小 ####

通过在 IDEA 工具中配置以下参数，调整堆内存最大为 1024 M，新生代内存为 512 M。

-Xmx1024m -Xms1024m -Xmn512m

然后可以观察到在相当长的短时间（1分钟）内只进行了 92 次垃圾回收，说明垃圾回收的频率降低了。应用程序的性能也提升了。另外从压测工具中也可以看到，吞吐量为 347/s，吞吐量也有较大提升。

![1453e8ee02c2f401d95be19a967d0f0c.png][]

### 十、总结 ###

本文通过压测工具 Jmeter 讲解压测如何实施，然后用性能监控工具 jconsole 和 jvisualvm 来监控 Java 应用程序的性能，以及如何用工具来优化开源项目 passjava 的性能，并且非常详细地介绍了每一步以及执行结果，通过对比的方式，更加清晰地知道如何做性能优化。

下面是对系统性能的常规优化手段：

*  中间件较多时，优化网络通信质量。
 *  数据库查询耗时时，需要对查询进行优化，比如添加索引。
 *  模板的渲染速度，可以通过设置模板缓存。
 *  静态资源的获取，可以通过 Nginx 动静分离来解决。（下期再讲）
 *  日志太多，需要减少不必要的打 log 操作。

![534a67334747fece2217f467ea399661.png][]

巨人的肩膀：

https://blog.csdn.net/u010833547/article/details/92806510  
https://www.bilibili.com/video/BV1np4y1C7Yf  
https://github.com/Jackson0714/PassJava-Platform  
www.passjava.cn

[fe855dcae059570eab064ae1a87c3dad.png]: https://img-blog.csdnimg.cn/img_convert/fe855dcae059570eab064ae1a87c3dad.png
[5a728e74cc88855c8563e8c15062216f.png]: https://img-blog.csdnimg.cn/img_convert/5a728e74cc88855c8563e8c15062216f.png
[a0ca38c2a6d978c9b2fb5f41b2664fc4.png]: https://img-blog.csdnimg.cn/img_convert/a0ca38c2a6d978c9b2fb5f41b2664fc4.png
[91c7e4a6e226493c1a6c6e05afec952e.png]: https://img-blog.csdnimg.cn/img_convert/91c7e4a6e226493c1a6c6e05afec952e.png
[29332b29358a118cd880ff91b23107eb.png]: https://img-blog.csdnimg.cn/img_convert/29332b29358a118cd880ff91b23107eb.png
[023f55d531b2d628175166b2a4a91266.png]: https://img-blog.csdnimg.cn/img_convert/023f55d531b2d628175166b2a4a91266.png
[21b07874a27d05f7c24e4faffae6686f.png]: https://img-blog.csdnimg.cn/img_convert/21b07874a27d05f7c24e4faffae6686f.png
[9a0fbbf9c6cf1d3c2156b30a36eb6679.png]: https://img-blog.csdnimg.cn/img_convert/9a0fbbf9c6cf1d3c2156b30a36eb6679.png
[6153b0a5b3e771203eb5d4fc57fd13d5.png]: https://img-blog.csdnimg.cn/img_convert/6153b0a5b3e771203eb5d4fc57fd13d5.png
[fa40d66ca5844ba34425e2a66dcc566d.png]: https://img-blog.csdnimg.cn/img_convert/fa40d66ca5844ba34425e2a66dcc566d.png
[baa0a60f19996fbfc805b121b0f93e2e.png]: https://img-blog.csdnimg.cn/img_convert/baa0a60f19996fbfc805b121b0f93e2e.png
[2c5bb04cf911ec9ed92628845e3ab005.png]: https://img-blog.csdnimg.cn/img_convert/2c5bb04cf911ec9ed92628845e3ab005.png
[638de5a0422bdda61e0d2f2df3aa43ba.png]: https://img-blog.csdnimg.cn/img_convert/638de5a0422bdda61e0d2f2df3aa43ba.png
[d767abf22a535e77035a0aea3fe6948d.png]: https://img-blog.csdnimg.cn/img_convert/d767abf22a535e77035a0aea3fe6948d.png
[190cdaf2b31c50d3e4c7e604bbb48fac.png]: https://img-blog.csdnimg.cn/img_convert/190cdaf2b31c50d3e4c7e604bbb48fac.png
[cb098f895fce4675a33ea05917c8e51d.png]: https://img-blog.csdnimg.cn/img_convert/cb098f895fce4675a33ea05917c8e51d.png
[e3662e37c72e76d9e7bfb5edfe94ef75.png]: https://img-blog.csdnimg.cn/img_convert/e3662e37c72e76d9e7bfb5edfe94ef75.png
[6644fd7b14b7096cc273d682a8995c92.png]: https://img-blog.csdnimg.cn/img_convert/6644fd7b14b7096cc273d682a8995c92.png
[2ee8bf060ba5994464678a7056879871.png]: https://img-blog.csdnimg.cn/img_convert/2ee8bf060ba5994464678a7056879871.png
[b84894f4c167d8433469c0a2d7de1429.png]: https://img-blog.csdnimg.cn/img_convert/b84894f4c167d8433469c0a2d7de1429.png
[cd037f45a5fa24ca830b7915881f1cbf.png]: https://img-blog.csdnimg.cn/img_convert/cd037f45a5fa24ca830b7915881f1cbf.png
[ee86ff04ad0c612ba642ffda81c5ca0f.png]: https://img-blog.csdnimg.cn/img_convert/ee86ff04ad0c612ba642ffda81c5ca0f.png
[fd1b3047314635d5b4974402791ffbbe.png]: https://img-blog.csdnimg.cn/img_convert/fd1b3047314635d5b4974402791ffbbe.png
[e19877a12f0042f72c14dd1b9c20619c.png]: https://img-blog.csdnimg.cn/img_convert/e19877a12f0042f72c14dd1b9c20619c.png
[feab1340e7bc7d5f8a797887c71b032d.png]: https://img-blog.csdnimg.cn/img_convert/feab1340e7bc7d5f8a797887c71b032d.png
[cf2f75122fb3a6fa322cc65bdc5c3f8c.png]: https://img-blog.csdnimg.cn/img_convert/cf2f75122fb3a6fa322cc65bdc5c3f8c.png
[cd3ff532bc06623d1a9eaa5e7b89bfc0.png]: https://img-blog.csdnimg.cn/img_convert/cd3ff532bc06623d1a9eaa5e7b89bfc0.png
[3a51cc1f00c401560b5533c1cff2c256.png]: https://img-blog.csdnimg.cn/img_convert/3a51cc1f00c401560b5533c1cff2c256.png
[f2167030699ec25c8749fa58e51746ae.png]: https://img-blog.csdnimg.cn/img_convert/f2167030699ec25c8749fa58e51746ae.png
[7066c1f4e94c82eb2e9c4b243e4dd8fc.png]: https://img-blog.csdnimg.cn/img_convert/7066c1f4e94c82eb2e9c4b243e4dd8fc.png
[c1fbc050044a815ea6afb3bdbda3b2e8.png]: https://img-blog.csdnimg.cn/img_convert/c1fbc050044a815ea6afb3bdbda3b2e8.png
[a1a9db54f724f42d7524648953cef452.png]: https://img-blog.csdnimg.cn/img_convert/a1a9db54f724f42d7524648953cef452.png
[5c2e9bc71b7d34cbde5a4b6676eafb25.png]: https://img-blog.csdnimg.cn/img_convert/5c2e9bc71b7d34cbde5a4b6676eafb25.png
[a5034329ef4f17ccba01cfefb8de1d5d.png]: https://img-blog.csdnimg.cn/img_convert/a5034329ef4f17ccba01cfefb8de1d5d.png
[a3648993d225efcfeb43bf24eff895c1.png]: https://img-blog.csdnimg.cn/img_convert/a3648993d225efcfeb43bf24eff895c1.png
[7a7b29f916dd0d10c52b7a4d32dd1c06.png]: https://img-blog.csdnimg.cn/img_convert/7a7b29f916dd0d10c52b7a4d32dd1c06.png
[09f71d8e66acd523329ce8ee972ab6c7.png]: https://img-blog.csdnimg.cn/img_convert/09f71d8e66acd523329ce8ee972ab6c7.png
[3cbd17558cf7d6df3a6ba2227d989c62.png]: https://img-blog.csdnimg.cn/img_convert/3cbd17558cf7d6df3a6ba2227d989c62.png
[2345ca50a2bd779ff0af6f769c11819f.png]: https://img-blog.csdnimg.cn/img_convert/2345ca50a2bd779ff0af6f769c11819f.png
[69328413935f11138f69b75d0eb0da3e.png]: https://img-blog.csdnimg.cn/img_convert/69328413935f11138f69b75d0eb0da3e.png
[f57dc7ae2ecb0675e7d09b2b01c1cfb6.png]: https://img-blog.csdnimg.cn/img_convert/f57dc7ae2ecb0675e7d09b2b01c1cfb6.png
[74b949d87fe2b027dc0f829ae20d41e9.png]: https://img-blog.csdnimg.cn/img_convert/74b949d87fe2b027dc0f829ae20d41e9.png
[ca325a3f3eaf93ea76596d0b560a8c88.png]: https://img-blog.csdnimg.cn/img_convert/ca325a3f3eaf93ea76596d0b560a8c88.png
[1da4e8542cdf1f897d5841d211297a3b.png]: https://img-blog.csdnimg.cn/img_convert/1da4e8542cdf1f897d5841d211297a3b.png
[c30929443c569edaab240c66c589e517.png]: https://img-blog.csdnimg.cn/img_convert/c30929443c569edaab240c66c589e517.png
[dcf44a708ea1cc3aeef8de1ed98a6191.png]: https://img-blog.csdnimg.cn/img_convert/dcf44a708ea1cc3aeef8de1ed98a6191.png
[ff105f99f73b0c65460141b1524da37b.png]: https://img-blog.csdnimg.cn/img_convert/ff105f99f73b0c65460141b1524da37b.png
[1453e8ee02c2f401d95be19a967d0f0c.png]: https://img-blog.csdnimg.cn/img_convert/1453e8ee02c2f401d95be19a967d0f0c.png
[534a67334747fece2217f467ea399661.png]: https://img-blog.csdnimg.cn/img_convert/534a67334747fece2217f467ea399661.png