TCP 三次握手原理，你真的理解吗？

浅浅的花香味﹌ 2022-05-21 10:26 169阅读 0赞

### 问题描述 ###

> 场景：JAVA的client和server，使用socket通信。server使用NIO。  
>

> 1.间歇性得出现client向server建立连接三次握手已经完成，但server的selector没有响应到这连接。
> 
> 2.出问题的时间点，会同时有很多连接出现这个问题。
> 
> 3.selector没有销毁重建，一直用的都是一个。
> 
> 4.程序刚启动的时候必会出现一些，之后会间歇性出现。

### 分析问题 ###

#### 正常TCP建连接三次握手过程： ####

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1][]

*  第一步：client 发送 syn 到server 发起握手；
 *  第二步：server 收到 syn后回复syn+ack给client；
 *  第三步：client 收到syn+ack后，回复server一个ack表示收到了server的syn+ack（此时client的56911端口的连接已经是established）。

从问题的描述来看，有点像TCP建连接的时候全连接队列（accept队列，后面具体讲）满了，尤其是症状2、4. 为了证明是这个原因，马上通过 netstat -s | egrep "listen" 去看队列的溢出统计数据：

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 1][]

反复看了几次之后发现这个overflowed 一直在增加，那么可以明确的是server上全连接队列一定溢出了。

接着查看溢出后，OS怎么处理：

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 2][]

tcp\_abort\_on\_overflow 为0表示如果三次握手第三步的时候全连接队列满了那么server扔掉client 发过来的ack（在server端认为连接还没建立起来）

为了证明客户端应用代码的异常跟全连接队列满有关系，我先把tcp\_abort\_on\_overflow修改成 1，1表示第三步的时候如果全连接队列满了，server发送一个reset包给client，表示废掉这个握手过程和这个连接（本来在server端这个连接就还没建立起来）。

接着测试，这时在客户端异常中可以看到很多connection reset by peer的错误，到此证明客户端错误是这个原因导致的（逻辑严谨、快速证明问题的关键点所在）。

于是开发同学翻看java 源代码发现socket 默认的backlog（这个值控制全连接队列的大小，后面再详述）是50，于是改大重新跑，经过12个小时以上的压测，这个错误一次都没出现了，同时观察到 overflowed 也不再增加了。

到此问题解决，简单来说TCP三次握手后有个accept队列，进到这个队列才能从Listen变成accept，默认backlog 值是50，很容易就满了。满了之后握手第三步的时候server就忽略了client发过来的ack包（隔一段时间server重发握手第二步的syn+ack包给client），如果这个连接一直排不上队就异常了。

> 但是不能只是满足问题的解决，而是要去复盘解决过程，中间涉及到了哪些知识点是我所缺失或者理解不到位的；这个问题除了上面的异常信息表现出来之外，还有没有更明确地指征来查看和确认这个问题。

###     ###

### 深入理解TCP握手过程中建连接的流程和队列 ###

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 3][]

（图片来源：http://www.cnxct.com/something-about-phpfpm-s-backlog/）

如上图所示，这里有两个队列：syns queue(半连接队列）；accept queue（全连接队列）。

三次握手中，在第一步server收到client的syn后，把这个连接信息放到半连接队列中，同时回复syn+ack给client（第二步）；

第三步的时候server收到client的ack，如果这时全连接队列没满，那么从半连接队列拿出这个连接的信息放入到全连接队列中，否则按tcp\_abort\_on\_overflow指示的执行。

这时如果全连接队列满了并且tcp\_abort\_on\_overflow是0的话，server过一段时间再次发送syn+ack给client（也就是重新走握手的第二步），如果client超时等待比较短，client就很容易异常了。

在我们的os中retry 第二步的默认次数是2（centos默认是5次）：

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 4][]

###     ###

### 如果TCP连接队列溢出，有哪些指标可以看呢？ ###

上述解决过程有点绕，听起来懵，那么下次再出现类似问题有什么更快更明确的手段来确认这个问题呢？（通过具体的、感性的东西来强化我们对知识点的理解和吸收。）

#### netstat -s ####

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 5][]

比如上面看到的 667399 times ，表示全连接队列溢出的次数，隔几秒钟执行下，如果这个数字一直在增加的话肯定全连接队列偶尔满了。

#### ss 命令 ####

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 6][]

上面看到的第二列Send-Q 值是50，表示第三列的listen端口上的全连接队列最大为50，第一列Recv-Q为全连接队列当前使用了多少。

全连接队列的大小取决于：min(backlog, somaxconn) . backlog是在socket创建的时候传入的，somaxconn是一个os级别的系统参数。

这个时候可以跟我们的代码建立联系了，比如Java创建ServerSocket的时候会让你传入backlog的值：

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 7][]

（来自JDK帮助文档：https://docs.oracle.com/javase/7/docs/api/java/net/ServerSocket.html）

半连接队列的大小取决于：max(64,  /proc/sys/net/ipv4/tcp\_max\_syn\_backlog)，不同版本的os会有些差异。

> 我们写代码的时候从来没有想过这个backlog或者说大多时候就没给他值（那么默认就是50），直接忽视了他，首先这是一个知识点的盲点；其次也许哪天你在哪篇文章中看到了这个参数，当时有点印象，但是过一阵子就忘了，这是知识之间没有建立连接，不是体系化的。但是如果你跟我一样首先经历了这个问题的痛苦，然后在压力和痛苦的驱动自己去找为什么，同时能够把为什么从代码层推理理解到OS层，那么这个知识点你才算是比较好地掌握了，也会成为你的知识体系在TCP或者性能方面成长自我生长的一个有力抓手。

#####     #####

##### netstat 命令 #####

netstat跟ss命令一样也能看到Send-Q、Recv-Q这些状态信息，不过如果这个连接不是Listen状态的话，Recv-Q就是指收到的数据还在缓存中，还没被进程读取，这个值就是还没被进程读取的 bytes；而 Send 则是发送队列中没有被远程主机确认的 bytes 数。

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 8][]

netstat -tn 看到的 Recv-Q 跟全连接半连接没有关系，这里特意拿出来说一下是因为容易跟 ss -lnt 的 Recv-Q 搞混淆，顺便建立知识体系，巩固相关知识点 。

比如如下netstat -t 看到的Recv-Q有大量数据堆积，那么一般是CPU处理不过来导致的：

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 9][]

上面是通过一些具体的工具、指标来认识全连接队列（工程效率的手段）。

###     ###

### 实践验证一下上面的理解 ###

把java中backlog改成10（越小越容易溢出），继续跑压力，这个时候client又开始报异常了，然后在server上通过 ss 命令观察到：

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 10][]

按照前面的理解，这个时候我们能看到3306这个端口上的服务全连接队列最大是10，但是现在有11个在队列中和等待进队列的，肯定有一个连接进不去队列要overflow掉，同时也确实能看到overflow的值在不断地增大。

####     ####

#### Tomcat和Nginx中的Accept队列参数 ####

Tomcat默认短连接，backlog（Tomcat里面的术语是Accept count）Ali-tomcat默认是200, Apache Tomcat默认100。

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 11][]

Nginx默认是511

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 12][]

因为Nginx是多进程模式，所以看到了多个8085，也就是多个进程都监听同一个端口以尽量避免上下文切换来提升性能

###     ###

### 总结 ###

全连接队列、半连接队列溢出这种问题很容易被忽视，但是又很关键，特别是对于一些短连接应用（比如Nginx、PHP，当然他们也是支持长连接的）更容易爆发。 一旦溢出，从cpu、线程状态看起来都比较正常，但是压力上不去，在client看来rt也比较高（rt=网络+排队+真正服务时间），但是从server日志记录的真正服务时间来看rt又很短。

jdk、netty等一些框架默认backlog比较小，可能有些情况下导致性能上不去。

希望通过本文能够帮大家理解TCP连接过程中的半连接队列和全连接队列的概念、原理和作用，更关键的是有哪些指标可以明确看到这些问题（工程效率帮助强化对理论的理解）。

另外每个具体问题都是最好学习的机会，光看书理解肯定是不够深刻的，请珍惜每个具体问题，碰到后能够把来龙去脉弄清楚，每个问题都是你对具体知识点通关的好机会。

### 最后提出相关问题给大家思考 ###

1.  全连接队列满了会影响半连接队列吗？
2.  netstat -s看到的overflowed和ignored的数值有什么联系吗？
3.  如果client走完了TCP握手的第三步，在client看来连接已经建立好了，但是server上的对应连接实际没有准备好，这个时候如果client发数据给server，server会怎么处理呢？（有同学说会reset，你觉得呢？）

提出这些问题，希望以这个知识点为抓手，让你的知识体系开始自我生长。

参考文章

http://veithen.github.io/2014/01/01/how-tcp-backlog-works-in-linux.html

http://www.cnblogs.com/zengkefu/p/5606696.html

http://www.cnxct.com/something-about-phpfpm-s-backlog/

http://jaseywang.me/2014/07/20/tcp-queue-%E7%9A%84%E4%B8%80%E4%BA%9B%E9%97%AE%E9%A2%98/

http://jin-yang.github.io/blog/network-synack-queue.html\#

http://blog.chinaunix.net/uid-20662820-id-4154399.html

[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1]: /images/20220521/8d25b71cfda24f0d8118885a22f091cd.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 1]: /images/20220521/df5553ac2bfc4ca087eaf449f14642e8.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 2]: /images/20220521/3b46cf88968246bca9b3708832dbf980.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 3]: /images/20220521/f895bf3ad50c487bae7ff9d7486bfdd3.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 4]: /images/20220521/7a13ce0715d04220a04470f142127486.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 5]: /images/20220521/a582aa5d58864acbb31069aa6d9e6ca6.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 6]: /images/20220521/ba9c2daf727e466d91d004b77ca1e96e.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 7]: /images/20220521/22d2ebb92b764841ad2367f7e102b7f4.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 8]: /images/20220521/3ae89e1d981a4e8796fc899c17e501ba.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 9]: /images/20220521/9f202957419741ba97b1105f3ea788ae.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 10]: /images/20220521/7397c7d141d1495f9c1ca94849c97875.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 11]: /images/20220521/b4dc241dc24b416bbb82b9214b63b6b3.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 12]: /images/20220521/42c1e2eb8e6e4cbfa4cc6720922de629.png