Http Keep-Alive与Tcp Keep-Alive

r囧r小猫 2022-05-29 06:38 318阅读 0赞

#### HTTP Keep-Alive ####

在http早期，每个http请求都要求打开一个tpc socket连接，并且使用一次之后就断开这个tcp连接。

使用keep-alive可以改善这种状态，即在一次TCP连接中可以持续发送多份数据而不会断开连接。通过使用keep-alive机制，可以减少tcp连接建立次数，也意味着可以减少TIME\_WAIT状态连接，以此提高性能和提高httpd服务器的吞吐率(更少的tcp连接意味着更少的系统内核调用,socket的accept()和close()调用)。

但是，[keep-alive][]并不是免费的午餐,长时间的tcp连接容易导致系统资源无效占用。配置不当的keep-alive，有时比重复利用连接带来的损失还更大。所以，正确地设置keep-alive timeout时间非常重要。

#### keepalvie timeout ####

Httpd守护进程，一般都提供了keep-alive timeout时间设置参数。比如nginx的keepalive\_timeout，和Apache的KeepAliveTimeout。这个keepalive\_timout时间值意味着：一个http产生的tcp连接在传送完最后一个响应后，还需要hold住keepalive\_timeout秒后，才开始关闭这个连接。

当httpd守护进程发送完一个响应后，理应马上主动关闭相应的tcp连接，设置 keepalive\_timeout后，httpd守护进程会想说：”再等等吧，看看浏览器还有没有请求过来”，这一等，便是keepalive\_timeout时间。如果守护进程在这个等待的时间里，一直没有收到浏览发过来http请求，则关闭这个http连接。

下面写一个脚本，方便测试：

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">1</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(0,0,0);">sleep(60);&nbsp;&nbsp;</code><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(0,130,0);">//为了便于分析测试，会根据测试进行调整</code></td> 
  </tr> 
 </tbody> 
</table>

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">2</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(255,20,147);">echo</code>&nbsp;<code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:#0000FF;">"www.example.com"</code><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(0,0,0);">;</code></td> 
  </tr> 
 </tbody> 
</table>

1. 当keepalive\_timeout时间为0时，即不启用Keep-Alive时，一个tcp连接的生命周期：

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">01</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:#808080;">#tcpdump -n host 218.1.57.236 and port 80</code></td> 
  </tr> 
 </tbody> 
</table>

*  第1~3行建立tcp三次握手，建立连接。用时8898μs
 *  第4~5行通过建立的连接发送第一个http请求，服务端确认收到请求。用时5μs
 *  第5~6行，可以知道脚本执行用时60s1387μs,与php脚本相符。
 *  第6、8行服务端发送http响应。发送响应用时90166μs。
 *  第7行，表明由服务端守护进程主动关闭连接。结合第6、8行，说明http响应一旦发送完毕，服务端马上关闭这个tcp连接
 *  第7、9、10说明tcp连接顺序关闭,用时90963μs。需要注意,这里socket资源并没有立即释放，需要等待2MSL时间（60s）后才被真正释放。

由此可见，在没有设置 keepalive\_timeout 情况下，一个socket资源从建立到真正释放需要经过的时间是:建立tcp连接 + 传送http请求 + php脚本执行 + 传送http响应 + 关闭tcp连接 + 2MSL 。(注:这里的时间只能做参考，具体的时间主要由网络带宽，和响应大小而定)

2. 当keepalive\_timeout时间大于0时，即启用Keep-Alive时，一个tcp连接的生命周期。为了便于分析，我们将keepalive\_timeout设置为300s

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">01</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:#808080;">#tcpdump -n host 218.1.57.236 and port 80</code></td> 
  </tr> 
 </tbody> 
</table>

*  我们先看一下，第6~8行，跟上次示例不一样的是，服务端httpd守护进程发完响应后，没有立即主动关闭tcp连接。
 *  第8行，结合第6行，我们可以看到，5分钟(300s)后，服务端主动关闭这个tcp连接。这个时间，正是我们设置的keepalive\_timeout的时间。
 *  由此可见，设置了keepalive\_timout时间情况下，一个socket建立到释放需要的时间是多了keepalive\_timeout时间。

3. 当keepalive\_timeout时间大于0，并且在同一个tcp连接发送多个http响应。这里为了便于分析，我们将keepalive\_timeout设置为180s

通过这个测试，我们想弄清楚,keepalive\_timeout是从第一个响应结束开启计时，还是最后一个响应结束开启计时。测试结果证实是后者，这里，我们每隔120s发一次请求，通过一个tcp连接发送了3个请求。

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">01</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:#808080;"># tcpdump -n host 218.1.57.236 and port 80</code></td> 
  </tr> 
 </tbody> 
</table>

*  第一组，三个ip包表示tcp三次握手建立连接，由浏览器建立。
 *  第二组，发送第一次http请求并且得到响应，服务端守护进程输出响应之后，并没马上主动关闭tcp连接。而是启动keepalive\_timout计时。
 *  第三组，2分钟后，发送第二次http请求并且得到响应，同样服务端守护进程也没有马上主动关闭tcp连接，重新启动keepalive\_timout计时。
 *  第四组，又2分钟后，发送了第三次http请求并且得到响应。服务器守护进程依然没有主动关地闭tcp连接（距第一次http响应有4分钟了,大于keepalive\_timeout值），而是重新启动了keepalive\_timout计时。
 *  第五组，跟最后一个响应keepalive\_timeout(180s)内，守护进程再没有收到请求。计时结束，服务端守护进程主动关闭连接。4次挥手后，服务端进入TIME\_WAIT状态。

这说明，当设定了keepalive\_timeout，一个socket由建立到释放，需要时间是：tcp建立 + (最后一个响应时间 – 第一个请求时间) + tcp关闭 + 2MSL。红色加粗表示每一次请求发送时间、每一次请求脚本执行时间、每一次响应发送时间，还有两两请求相隔时间。进一步测试，正在关闭或者TIME\_WAIT状态的tcp连接，不能传输http请求和响应。即，当一个连接结束keepalive\_timeout计时，服务端守护进程发送第一个FIN标志ip包后，该连接不能再使用了。

#### http keep-alive与tcp keep-alive ####

http keep-alive与tcp keep-alive，不是同一回事，意图不一样。http keep-alive是为了让tcp活得更久一点，以便在同一个连接上传送多个http，提高socket的效率。而tcp keep-alive是TCP的一种检测TCP[连接][Link 1]状况的保鲜机制。tcp keep-alive保鲜定时器，支持三个系统内核配置参数：

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">1</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(0,0,0);">echo 1800 &gt; /proc/sys/net/ipv4/tcp_keepalive_time</code></td> 
  </tr> 
 </tbody> 
</table>

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">2</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(0,0,0);">echo 15 &gt; /proc/sys/net/ipv4/tcp_keepalive_intvl</code></td> 
  </tr> 
 </tbody> 
</table>

<table style="border-spacing:0px;margin:0px;padding:0px;border:0px;font-size:12px;vertical-align:baseline;background:none;width:auto;float:none;height:auto;line-height:1.1em;min-height:auto;"> 
 <tbody style="margin:0px;padding:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
  <tr style="margin:0px;padding:0px;border-top:0px;font-size:12px;vertical-align:baseline;background:none;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;"> 
   <td style="margin:0px;padding:0px;border-width:0px;font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:3em;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(175,175,175);"><code style="letter-spacing:0px;margin:0px;padding:0px .3em 0px 0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;text-align:right;float:none;height:auto;width:2.7em;line-height:1.1em;min-height:auto;">3</code></td> 
   <td style="margin:0px;padding:0px 0px 0px .5em;border-width:0px 0px 0px 3px;border-left-color:rgb(108,226,108);font-size:12px;vertical-align:top;background:none;float:none;height:auto;width:auto;line-height:1.1em;font-family:'Courier New', Courier, monospace;min-height:auto;color:rgb(0,0,0);"><code style="letter-spacing:0px;margin:0px;padding:0px;border:0px;vertical-align:baseline;background:none;font-family:'Courier New', Courier, monospace;float:none;height:auto;width:auto;line-height:1.1em;min-height:auto;color:rgb(0,0,0);">echo 5 &gt; /proc/sys/net/ipv4/tcp_keepalive_probes</code></td> 
  </tr> 
 </tbody> 
</table>

keepalive是TCP保鲜定时器，当网络两端建立了TCP连接之后，闲置idle（双方没有任何数据流发送往来）了tcp\_keepalive\_time后，服务器内核就会尝试向客户端发送侦测包，来判断TCP连接状况(有可能客户端崩溃、强制关闭了应用、主机不可达等等)。如果没有收到对方的回答(ack包)，则会在 tcp\_keepalive\_intvl后再次尝试发送侦测包，直到收到对对方的ack,如果一直没有收到对方的ack,一共会尝试 tcp\_keepalive\_probes次，每次的间隔时间在这里分别是15s, 30s, 45s, 60s, 75s。如果尝试tcp\_keepalive\_probes,依然没有收到对方的ack包，则会丢弃该TCP连接。TCP连接默认闲置时间是2小时，一般设置为30分钟足够了。

也就是说，仅当nginx的keepalive\_timeout值设置高于tcp\_keepalive\_time，并且距此tcp连接传输的最后一个http响应，经过了tcp\_keepalive\_time时间之后，操作系统才会发送侦测包来决定是否要丢弃这个TCP连接。一般不会出现这种情况，除非你需要这样做。

#### keep-alive与TIME\_WAIT ####

使用http keep-alvie，可以减少服务端TIME\_WAIT数量(因为由服务端httpd守护进程主动关闭连接)。道理很简单，相较而言，启用keep-alive，建立的tcp连接更少了，自然要被关闭的tcp连接也相应更少了。

#### 最后 ####

我想用一张示意图片来说明使用启用keepalive的不同。另外，http keepalive是客户端浏览器与服务端httpd守护进程协作的结果，所以，我们另外安排篇幅介绍不同浏览器的各种情况对keepalive的利用。

![2013_12_20_02.png][]

[keep-alive]: http://www.nowamagic.net/academy/tag/keep-alive
[Link 1]: http://www.nowamagic.net/academy/tag/%E8%BF%9E%E6%8E%A5
[2013_12_20_02.png]: http://www.nowamagic.net/librarys/images/201312/2013_12_20_02.png