优化Linux内核参数来提高服务器并发处理能力

在服务器硬件资源额定有限的情况下，最大的压榨服务器的性能，提高服务器的并发处理能力，是很多运维技术人员思考的问题。要提高Linux系统下的负载能力，可以使用nginx等原生并发处理能力就很强的web服务器，如果使用Apache的可以启用其Worker模式，来提高其并发处理能力。除此之外，在考虑节省成本的情况下，可以修改Linux的内核相关TCP参数，来最大的提高服务器性能。当然，最基础的提高负载问题，还是升级服务器硬件了，这是最根本的。

一、调整TCP内核参数，让系统释放TIME_WAIT连接

Linux系统下，TCP连接断开后，会以 TIME_WAIT 状态保留一定的时间，然后才会释放端口。当并发请求过多的时候，就会产生大量的TIME_WAIT状态的连接，无法及时断开的话，会占用大量的端口资源和服务器资源。这个时候我们可以优化TCP的内核参数，来及时将TIME_WAIT状态的端口清理掉。

拥有大量 TIME_WAIT 状态的连接导致系统资源消耗有效，如果不是这种情况下，效果可能不明显。可以使用netstat命令去查 TIME_WAIT 状态的连接状态，输入下面的组合命令，查看当前TCP连接的状态和对应的连接数量：

$ netstat-n|awk‘/^tcp/{++S[$NF]}END{for(ain S)printa,S[a]}’

输出：
LAST_ACK16
SYN_RECV348
ESTABLISHED70
FIN_WAIT1229
FIN_WAIT230
CLOSING33
TIME_WAIT18098

一般情况下，只需要关心 TIME_WAIT 的个数，在这里可以看到，有18000多个TIME_WAIT ，这样就占用了18000多个端口。要知道端口的数量只有65535个，占用一个少一个，会严重的影响到后继的新连接。这种情况下，我们就有必要调整下Linux的TCP内核参数，让系统更快的释放TIME_WAIT 连接。

调整内核参数：

$ cat >> /etc/sysctl.conf << END
net.ipv4.tcp_syncookies=1
net.ipv4.tcp_tw_reuse=1
net.ipv4.tcp_tw_recycle=1
net.ipv4.tcp_fin_timeout=30
END


$ sysctl-p  #使其生效

内核参数	含义
net.ipv4.tcp_syncookies=1	表示开启SYNCookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击，默认为0，表示关闭；
net.ipv4.tcp_tw_reuse=1	表示开启重用。允许将TIME-WAITsockets重新用于新的TCP连接，默认为0，表示关闭；
net.ipv4.tcp_tw_recycle=1	表示开启TCP连接中TIME-WAITsockets的快速回收，默认为0，表示关闭；
net.ipv4.tcp_fin_timeout	修改系統默认的TIMEOUT时间。

在经过这样的调整之后，除了会进一步提升服务器的负载能力之外，还能够防御小流量程度的DDoS、CC和SYN攻击。

二、TCP的可使用端口范围优化

如果连接数本身就很多，可以再优化一下TCP的可使用端口范围，进一步提升服务器的并发能力。
$ cat >> /etc/sysctl.conf << END
net.ipv4.tcp_keepalive_time=1200
net.ipv4.ip_local_port_range=1000065000
net.ipv4.tcp_max_syn_backlog=8192
net.ipv4.tcp_max_tw_buckets=5000
END

这几个参数，建议只在流量非常大的服务器上开启，会有显著的效果。一般的流量小的服务器上，没有必要去设置这几个参数。

内核参数	含义
net.ipv4.tcp_keepalive_time=1200	表示当keepalive起用的时候，TCP发送keepalive消息的频度。缺省是2小时，改为20分钟。
net.ipv4.ip_local_port_range=1000065000	表示用于向外连接的端口范围。缺省情况下很小：32768到61000，改为10000到65000。(注意：这里不要将最低值设的太低，否则可能会占用掉正常的端口！)
net.ipv4.tcp_max_syn_backlog=8192	表示SYN队列的长度，默认为1024，加大队列长度为8192，可以容纳更多等待连接的网络连接数。对于有128M内存的系统而言，缺省值是1024，小内存的系统则是128。
net.ipv4.tcp_max_tw_buckets=6000	表示系统同时保持TIME_WAIT的最大数量，如果超过这个数字，TIME_WAIT将立刻被清除并打印警告信息。默认为180000，改为6000。对于Apache、Nginx等服务器，上几行的参数可以很好地减少TIME_WAIT套接字数量，但是对于Squid，效果却不大。此项参数可以控制TIME_WAIT的最大数量，避免Squid服务器被大量的TIME_WAIT拖死。

三、内核其他TCP参数说明

内核参数	含义
net.core.netdev_max_backlog=32768	每个网络接口接收数据包的速率比内核处理这些包的速率快时，允许送到队列的数据包的最大数目。
net.core.somaxconn=32768	web应用中listen函数的backlog默认会给我们内核参数的net.core.somaxconn限制到128，而nginx定义的NGX_LISTEN_BACKLOG默认为511，所以有必要调整这个值。
net.core.wmem_default=8388608
net.core.rmem_default=8388608
net.core.rmem_max=16777216	最大socket读buffer,可参考的优化值:873200
net.core.wmem_max=16777216	最大socket写buffer,可参考的优化值:873200
net.ipv4.tcp_timestsmps=0	时间戳可以避免序列号的卷绕。一个1Gbps的链路肯定会遇到以前用过的序列号。时间戳能够让内核接受这种”异常”的数据包。这里需要将其关掉。
net.ipv4.tcp_synack_retries=2	为了打开对端的连接，内核需要发送一个SYN并附带一个回应前面一个SYN的ACK。也就是所谓三次握手中的第二次握手。这个设置决定了内核放弃连接之前发送SYN+ACK包的数量。
net.ipv4.tcp_syn_retries=2	在内核放弃建立连接之前发送SYN包的数量。
net.ipv4.tcp_tw_len=1
net.ipv4.tcp_tw_reuse=1	开启重用。允许将TIME-WAITsockets重新用于新的TCP连接。
net.ipv4.tcp_wmem=8192436600873200	TCP写buffer,可参考的优化值:8192436600873200
net.ipv4.tcp_rmem =32768436600873200	TCP读buffer,可参考的优化值:32768436600873200
net.ipv4.tcp_mem=945000009150000092700000	同样有3个值,意思是: net.ipv4.tcp_mem[0]:低于此值，TCP没有内存压力。 net.ipv4.tcp_mem[1]:在此值下，进入内存压力阶段。 net.ipv4.tcp_mem[2]:高于此值，TCP拒绝分配socket。 这里内存单位是页，而不是字节。可参考的优化值是:78643210485761572864
net.ipv4.tcp_max_orphans=3276800	系统中最多有多少个TCP套接字不被关联到任何一个用户文件句柄上。如果超过这个数字，连接将即刻被复位并打印出警告信息。这个限制仅仅是为了防止简单的DoS攻击，不能过分依靠它或者人为地减小这个值，更应该增加这个值(如果增加了内存之后)。
net.ipv4.tcp_fin_timeout=30	如果套接字由本端要求关闭，这个参数决定了它保持在FIN-WAIT-2状态的时间。对端可以出错并永远不关闭连接，甚至意外当机。缺省值是60秒。2.2内核的通常值是180秒，你可以按这个设置，但要记住的是，即使你的机器是一个轻载的WEB服务器，也有因为大量的死套接字而内存溢出的风险，FIN-WAIT-2的危险性比FIN-WAIT-1要小，因为它最多只能吃掉1.5K内存，但是它们的生存期长些。