架构选型--Dubbo性能测试报告

痛定思痛。 2022-11-05 00:45 208阅读 0赞

## 测试说明[ ][Link 1] ##

1.  本次性能测试，测试了 dubbo 2.0 所有支持的协议在不同大小和数据类型下的表现，并与 dubbo 1.0 进行了对比。
2.  整体性能相比 1.0 有了提升，平均提升 10%，使用 dubbo 2.0 新增的 dubbo 序列化还能获得 10%~50% 的性能提升，详见下面的性能数据。
3.  稳定性测试中由于将底层通信框架从 mina 换成 netty，old 区对象的增长大大减少，50 小时运行，增长不到 200m，无 fullgc。
4.  存在的问题：在 50k 数据的时候 2.0 性能不如 1.0，怀疑可能是缓冲区设置的问题，下版本会进一步确认。

## 测试环境 ##

### 硬件部署与参数调整 ###

<table> 
 <thead> 
  <tr> 
   <th>机型</th> 
   <th>CPU</th> 
   <th>内存</th> 
   <th>网络</th> 
   <th>磁盘</th> 
   <th>内核</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>Tecal BH620</td> 
   <td>model name : Intel(R) Xeon(R) CPU E5520 @ 2.27GHz cache size : 8192 KB processor_count : 16</td> 
   <td>Total System Memory: 6G Hardware Memory Info: Size: 4096MB</td> 
   <td>eth0: Link is up at 1000 Mbps, full duplex. peth0: Link is up at 1000 Mbps, full duplex.</td> 
   <td>/dev/sda: 597.9 GB</td> 
   <td>2.6.18-128.el5xen x86_64</td> 
  </tr> 
 </tbody> 
</table>

### 软件架构 ###

<table> 
 <thead> 
  <tr> 
   <th>软件名称及版本</th> 
   <th>关键参数</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>java version “1.6.0_18” Java(TM) SE Runtime Environment (build 1.6.0_18-b07) Java HotSpot(TM) 64-Bit Server VM (build 16.0-b13, mixed mode)</td> 
   <td>-server -Xmx2g -Xms2g -Xmn256m -XX:PermSize=128m -Xss256k -XX:+DisableExplicitGC -XX:+UseConcMarkSweepGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70</td> 
  </tr> 
  <tr> 
   <td>jboss-4.0.5.GA</td> 
   <td>&nbsp;</td> 
  </tr> 
  <tr> 
   <td>httpd-2.0.61</td> 
   <td>KeepAlive On MaxKeepAliveRequests 100000 KeepAliveTimeout 180 MaxRequestsPerChild 1000000&nbsp;StartServers 5 MaxClients 1024 MinSpareThreads 25 MaxSpareThreads 75 ThreadsPerChild 64 ThreadLimit 128 ServerLimit 16</td> 
  </tr> 
 </tbody> 
</table>

## 测试目的 ##

### 期望性能指标(量化) ###

<table> 
 <thead> 
  <tr> 
   <th>场景名称</th> 
   <th>对应指标名称</th> 
   <th>期望值范围</th> 
   <th>实际值</th> 
   <th>是否满足期望(是/否)</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>1k数据</td> 
   <td>响应时间</td> 
   <td>0.9ms</td> 
   <td>0.79ms</td> 
   <td>是</td> 
  </tr> 
  <tr> 
   <td>1k数据</td> 
   <td>TPS</td> 
   <td>10000</td> 
   <td>11994</td> 
   <td>是</td> 
  </tr> 
 </tbody> 
</table>

### 期望运行状况(非量化，可选) ###

*  2.0 性能不低于 1.0, 2.0 和 1.0 互调用的性能无明显下降。 除了 50k string 其余皆通过
 *  JVM 内存运行稳定，无 OOM，堆内存中无不合理的大对象的占用。通过
 *  CPU、内存、网络、磁盘、文件句柄占用平稳。通过
 *  无频繁线程锁，线程数平稳。通过
 *  业务线程负载均衡。通过

## 测试脚本 ##

1.  性能测试场景（10 并发）
    
     *  传入 1k String，不做任何处理，原样返回
     *  传入 50k String，不做任何处理，原样返回
     *  传入 200k String，不做任何处理，原样返回
     *  传入 1k POJO（嵌套的复杂 person 对象），不做任何处理，原样返回
    
    上述场景在 dubbo 1.0, dubbo 2.0(hessian2序列化), dubbo 2.0(dubbo序列化), rmi, hessian 3.2.0, http(json序列化) 进行 10 分钟的性能测试。主要考察序列化和网络 IO 的性能，因此服务端无任何业务逻辑。取 10 并发是考虑到 http 协议在高并发下对 CPU 的使用率较高可能会先打到瓶颈。
2.  并发场景（20 并发） 传入 1k String，在服务器段循环 1w 次，每次重新生成一个随机数然后进行拼装。考察业务线程是否能够分配到每个 CPU 上。
3.  稳定性场景（20 并发） 同时调用 1 个参数为 String（5k）方法，1 个参数为 person 对象的方法，1 个参数为 map（值为 3 个 person）的方法，持续运行 50 小时。
4.  高压力场景（20 并发） 在稳定性场景的基础上，将提供者和消费者布置成均为 2 台（一台机器 2 个实例），且 String 的参数从 20byte 到 200k，每隔 10 分钟随机变换。

## 测试结果 ##

### 场景名称：POJO 场景 ###

<table> 
 <thead> 
  <tr> 
   <th>TPS成功平均值</th> 
   <th>响应时间成功平均值(ms)</th> 
   <th>&nbsp;</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>dubbo1 (hessian2序列化+mina)</td> 
   <td>10813.5</td> 
   <td>0.9</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (hessian2序列化+netty)</td> 
   <td>11994</td> 
   <td>0.79</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (dubbo序列化+netty)</td> 
   <td>13620</td> 
   <td>0.67</td> 
  </tr> 
  <tr> 
   <td>rmi</td> 
   <td>2461.79</td> 
   <td>4</td> 
  </tr> 
  <tr> 
   <td>hessian</td> 
   <td>2417.7</td> 
   <td>4.1</td> 
  </tr> 
  <tr> 
   <td>http（json序列化）</td> 
   <td>8179.08</td> 
   <td>1.15</td> 
  </tr> 
  <tr> 
   <td>2.0和1.0默认对比百分比</td> 
   <td>10.92</td> 
   <td>-12.22</td> 
  </tr> 
  <tr> 
   <td>dubbo序列化相比hessian2序列化百分比</td> 
   <td>13.56</td> 
   <td>-15.19</td> 
  </tr> 
 </tbody> 
</table>

POJO TPS

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70][]

POJO Response

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 1][]

### 场景名称：1k string 场景 ###

<table> 
 <thead> 
  <tr> 
   <th>TPS成功平均值</th> 
   <th>响应时间成功平均值(ms)</th> 
   <th>&nbsp;</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>dubbo1（hessian2序列化+mina）</td> 
   <td>11940</td> 
   <td>0.8</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (hessian2序列化+netty)</td> 
   <td>14402</td> 
   <td>0.64</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (dubbo序列化+netty)</td> 
   <td>15096</td> 
   <td>0.6</td> 
  </tr> 
  <tr> 
   <td>rmi</td> 
   <td>11136.02</td> 
   <td>0.81</td> 
  </tr> 
  <tr> 
   <td>hessian</td> 
   <td>11426.83</td> 
   <td>0.79</td> 
  </tr> 
  <tr> 
   <td>http（json序列化）</td> 
   <td>8919.27</td> 
   <td>1.04</td> 
  </tr> 
  <tr> 
   <td>2.0和1.0默认对比百分比</td> 
   <td>20.62</td> 
   <td>-20.00</td> 
  </tr> 
  <tr> 
   <td>dubbo序列化相比hessian2序列化百分比</td> 
   <td>4.82</td> 
   <td>-6.25</td> 
  </tr> 
 </tbody> 
</table>

1k TPS

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 2][]

1k Response

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 3][]

### 场景名称：50k string 场景 ###

<table> 
 <thead> 
  <tr> 
   <th>TPS成功平均值</th> 
   <th>响应时间成功平均值(ms)</th> 
   <th>&nbsp;</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>dubbo1（hessian2序列化+mina</td> 
   <td>1962.7</td> 
   <td>5.1</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (hessian2序列化+netty)</td> 
   <td>1293</td> 
   <td>5.03</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (dubbo序列化+netty)</td> 
   <td>1966</td> 
   <td>7.68</td> 
  </tr> 
  <tr> 
   <td>rmi</td> 
   <td>3349.88</td> 
   <td>2.9</td> 
  </tr> 
  <tr> 
   <td>hessian</td> 
   <td>1925.33</td> 
   <td>5.13</td> 
  </tr> 
  <tr> 
   <td>http（json序列化）</td> 
   <td>3247.1</td> 
   <td>3</td> 
  </tr> 
  <tr> 
   <td>2.0和1.0默认对比百分比</td> 
   <td>-34.12</td> 
   <td>-1.37</td> 
  </tr> 
  <tr> 
   <td>dubbo序列化相比hessian2序列化百分比</td> 
   <td>52.05</td> 
   <td>52.68</td> 
  </tr> 
 </tbody> 
</table>

50K TPS

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 4][]

50K Response

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 5][]

### 场景名称：200k string 场景 ###

<table> 
 <thead> 
  <tr> 
   <th>TPS成功平均值</th> 
   <th>响应时间成功平均值(ms)</th> 
   <th>&nbsp;</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>dubbo1（hessian2序列化+mina）</td> 
   <td>324.2</td> 
   <td>30.8</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (hessian2序列化+netty)</td> 
   <td>362.92</td> 
   <td>27.49</td> 
  </tr> 
  <tr> 
   <td>dubbo2 (dubbo序列化+netty)</td> 
   <td>569.5</td> 
   <td>17.51</td> 
  </tr> 
  <tr> 
   <td>rmi</td> 
   <td>1031.28</td> 
   <td>9.61</td> 
  </tr> 
  <tr> 
   <td>hessian</td> 
   <td>628.06</td> 
   <td>15.83</td> 
  </tr> 
  <tr> 
   <td>http（json序列化）</td> 
   <td>1011.97</td> 
   <td>9.79</td> 
  </tr> 
  <tr> 
   <td>2.0和1.0默认对比百分比</td> 
   <td>11.94</td> 
   <td>-10.75</td> 
  </tr> 
  <tr> 
   <td>dubbo序列化相比hessian2序列化百分比</td> 
   <td>56.92</td> 
   <td>-36.30</td> 
  </tr> 
 </tbody> 
</table>

200K TPS

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 6][]

**200K Response**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 7][]

## 测试分析 ##

### 性能分析评估 ###

Dubbo 2.0 的性能测试结论为通过，从性能、内存占用和稳定性上都有了提高和改进。由其是内存管理由于将 mina 换成netty，大大减少了 1.0 版本在高并发大数据下的内存大锯齿。

### 性能对比分析(新旧环境、不同数据量级等) ###

Dubbo 2.0 相比较Dubbo 1.0（默认使用的都是 hessian2 序列化）性能均有提升（除了50k String），详见第五章的性能数据。

出于兼容性考虑默认的序列化方式和 1.0 保持一致使用 hessian2，如对性能有更高要求可以使用 dubbo 序列化，由其是在处理复杂对象时，在大数据量下能获得 50% 的提升（但此时已不建议使用 Dubbo 协议）。

Dubbo 的设计目的是为了满足高并发小数据量的 rpc 调用，在大数据量下的性能表现并不好，建议使用 rmi 或 http 协议。

### 测试局限性分析（可选） ###

本次性能测试考察的是 dubbo 本身的性能，实际使用过程中的性能有待应用来验证。

由于 dubbo 本身的性能占用都在毫秒级，占的基数很小，性能提升可能对应用整体的性能变化不大。

由于邮件篇幅所限没有列出所有的监控图，如需获得可在大力神平台上查询。

[Link 1]: https://dubbo.apache.org/zh/docs/v2.7/user/perf-test/#%E6%B5%8B%E8%AF%95%E8%AF%B4%E6%98%8E
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70]: /images/20221023/db765cb059a449f39f2992625026acb5.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 1]: /images/20221023/55d63d9cd56b454f83fcc72e6d6b35a4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 2]: /images/20221023/64d77d9854de497da86aff3105af6463.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 3]: /images/20221023/e53cea1dff534db49b2e2bdaad1940a7.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 4]: /images/20221023/7ccf96a56bd24962965e0e52f237174a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 5]: /images/20221023/b117b287489044a496dfc5b86eb56146.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 6]: /images/20221023/33b26effea54446cb2f8514fbae2d9b1.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI5MjE5MjE_size_16_color_FFFFFF_t_70 7]: /images/20221023/4a0796d7e00142d9a178a4c1f99c06e6.png