服务器处于SYN_RECV状态，客户端连接不上的问题

原文链接：https://blog.csdn.net/weixin_34309435/article/details/91550273

一，背景：

今天下午发现线上的一台机器从办公网登录不上且所有tcp端口都telnet不通，但是通过同机房的其它机器却可以正常访问到出问题的机器。于是就立即在这台出问题的server端抓包分析，发现问题如下：
server端收到了本地pc发的SYN包，但是没有回syn+ack包，所以确认是server端系统问题。tcpdump抓包如下：

 

二，排查

1，发现系统没有任何负载

2，网卡也没有丢包

3，iptables策略也都没问题

4，系统的SYN_RECV连接很少，也没超限

5，系统的文件描述符等资源也都没问题

6，messages和dmesg中没有任何提示或者错误信息

7，通过netstat命令查看系统上协议统计信息，发现很多请求由于时间戳的问题被rejected

1. # netstat -s |grep reject

2.     2181 passive connections rejected because of time stamp

3.     34 packets rejects in established connections because of timestamp

 

三，通过google来协助

发现有同样的人遇见这个问题：

是通过调整sysctl -w net.ipv4.tcp_timestamps=0或者sysctl -w net.ipv4.tcp_tw_recycle=0来解决这个问题，于是我就顺藤摸瓜继续查。

 

而在查询这两个参数的过程中，发现问题原因如下：

发现是 Linux tcp_tw_recycle/tcp_timestamps设置导致的问题。 因为在linux kernel源码中发现tcp_tw_recycle/tcp_timestamps都开启的条件下，60s内同一源ip主机的socket connect请求中的timestamp必须是递增的。经过测试，我这边centos6系统（kernel 2.6.32）和centos7系统（kernel 3.10.0）都有这问题。

1.     源码函数：kernel 2.6.32 tcp_v4_conn_request(),该函数是tcp层三次握手syn包的处理函数（服务端）；

2.     源码片段：

3.        if (tmp_opt.saw_tstamp &&

4.             tcp_death_row.sysctl_tw_recycle &&

5.             (dst = inet_csk_route_req(sk, req)) != NULL &&

6.             (peer = rt_get_peer((struct rtable *)dst)) != NULL &&

7.             peer->v4daddr == saddr) {

8.             if (get_seconds() < peer->tcp_ts_stamp + TCP_PAWS_MSL &&

9.                 (s32)(peer->tcp_ts - req->ts_recent) >

10.                             TCP_PAWS_WINDOW) {

11.                 NET_INC_STATS_BH(sock_net(sk), LINUX_MIB_PAWSPASSIVEREJECTED);

12.                 goto drop_and_release;

13.             }

14.         }

15.         

16.         tmp_opt.saw_tstamp：该socket支持tcp_timestamp

17.         sysctl_tw_recycle：本机系统开启tcp_tw_recycle选项

18.         TCP_PAWS_MSL：60s，该条件判断表示该源ip的上次tcp通讯发生在60s内

19.         TCP_PAWS_WINDOW：1，该条件判断表示该源ip的上次tcp通讯的timestamp 大于 本次tcp

 

总结：

我这边和其它同事通过公司出口（NAT网关只有1个ip地址）访问问题server，由于timestamp时间为系统启动到当前的时间，故我和其它同事的timestamp肯定不相同；根据上述SYN包处理源码，在tcp_tw_recycle和tcp_timestamps同时开启的条件下，timestamp大的主机访问serverN成功，而timestmap小的主机访问失败。并且，我在办公网找了两台机器可100%重现这个问题。

 

解决：

# echo "0" > /proc/sys/net/ipv4/tcp_tw_recycle

 

四，扩展

1，net.ipv4.tcp_timestamps

tcp_timestamps的本质是记录数据包的发送时间。基本的步骤如下：

1. 发送方在发送数据时，将一个timestamp(表示发送时间)放在包里面

2. 接收方在收到数据包后，在对应的ACK包中将收到的timestamp返回给发送方(echo back)

3. 发送发收到ACK包后，用当前时刻now - ACK包中的timestamp就能得到准确的RTT

 

当然实际运用中要考虑到RTT的波动，因此有了后续的(Round-Trip Time Measurement)RTTM机制。

TCP Timestamps Option (TSopt)具体设计如下

1. Kind: 8             // 标记唯一的选项类型，比如window scale是3

2. Length: 10 bytes    // 标记Timestamps选项的字节数

3. +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++

4. | Kind=8 | Length=10 | TS Value (TSval) | TS ECho Reply (TSecr) |

5. +++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ 

6.    1          1             4                       4

timestamps一个双向的选项，当一方不开启时，两方都将停用timestamps。比如client端发送的SYN包中带有timestamp选项，但server端并没有开启该选项。则回复的SYN-ACK将不带timestamp选项，同时client后续回复的ACK也不会带有timestamp选项。当然，如果client发送的SYN包中就不带timestamp，双向都将停用timestamp。

tcp数据包中timestamps的value是系统开机时间到现在时间的（毫秒级）时间戳。

 

参数：

0：停用

1：启用(系统默认值)

 

2，net.ipv4.tcp_tw_recycle

TCP规范中规定的处于TIME_WAIT的TCP连接必须等待2MSL时间。但在linux中，如果开启了tcp_tw_recycle，TIME_WAIT的TCP连接就不会等待2MSL时间（而是rto或者60s），从而达到快速重用（回收）处于TIME_WAIT状态的tcp连接的目的。这就可能导致连接收到之前连接的数据。为此，linux在打开tcp_tw_recycle的情况下，会记录下TIME_WAIT连接的对端（peer）信息，包括IP地址、时间戳等。这样，当内核收到同一个IP的SYN包时，就会去比较时间戳，检查SYN包的时间戳是否滞后，如果滞后，就将其丢掉（认为是旧连接的数据）。这在绝大部分情况下是没有问题的，但是对于我们实际的client-server的服务，访问我们服务的用户一般都位于NAT之后，如果NAT之后有多个用户访问同一个服务，就有可能因为时间戳滞后的连接被丢掉。

 

参数：

0：停用(系统默认值)

1：启用

 

参考：

https://serverfault.com/questions/235965/why-would-a-server-not-send-a-syn-ack-packet-in-response-to-a-syn-packet

http://hustcat.github.io/tcp_tw_recycle-and-tcp_timestamp/

转载于:https://blog.51cto.com/leejia/1954628