KeepAliveTimeOut理解

在APACHE的httpd.conf中,KeepAlive指的是保持连接活跃,类似于Mysql的永久连接换一句话说,如果将KeepAlive设置为On,那么来自同一客户端的请求就不需要再一次连接,避免每次请求都要新建一个连接而加重服务器的负担。    

    KeepAlive的连接活跃时间当然是受KeepAliveTimeOut限制的。如果第二次请求和第一次请求之间超过KeepAliveTimeOut的时间的话,第一次连接就会中断,再新建第二个连接。所以,一般情况下,图片较多的网站应该把KeepAlive设为On。但是KeepAliveTimeOut应该设置为多少秒就是一个值得讨论的问题了。

    如果KeepAliveTimeOut设置的时间过短,例如设置为1秒,那么APACHE就会频繁的建立新连接,当然会耗费不少的资源;反过来,如果KeepAliveTimeOut设置的时间过长,例如设置为300秒,那么 APACHE中肯定有很多无用的连接会占用服务器的资源,也不是一件好事。   

    所以,到底要把KeepAliveTimeOut设置为多少,要看网站的流量、服务器的配置而定。其实,这和MySql的机制有点相似,KeepAlive相当于mysql_connectmysql_pconnect,KeepAliveTimeOut相当于wait_timeout。  

worker模式参数详解

修改:


    StartServers          2

    MaxClients          150

    MinSpareThreads      25

    MaxSpareThreads      75

    ThreadsPerChild      25

MaxRequestsPerChild   0


为:


# 配置都采用默认值,可以去掉

ServerLimit      16

ThreadLimit      64

StartServers     3

MinSpareThreads  25

MaxSpareThreads  250

# 应用特殊配置值

MaxClients       1024

ThreadsPerChild  64

说明:

ServerLimit 16 

  # ServerLimit ThreadLimit 需要配置其它 worker 指令前面

# default 16


ThreadLimit 64   

 # 每个子进程可配置的线程数上限, ThreadsPerChild的配值不能超过ThreadLimit,否则启动报警告并自动调整ThreadPerChild

# default 64

 

 StartServers 3   

# 服务器启动时建立的子进程数(Deven:与prefork模式一样,就是启动的子进程数)

# default 3

MinSpareThreads  25    

# worker的默认值是"75"。这个MPM将基于整个服务器监视空闲线程数。如果服务器中总的空闲线程数太少,子进程将产生新的空闲线程。

# default 75


MaxSpareThreads  250

# Apache将按照"其大于等于MinSpareThreads加上ThreadsPerChild的和"自动修正你设置的值

# 75<64+25,所以MaxSpareThreads被重新设置为64+25=89

# default 250

  

MaxClients 1024

# MaxClients指令设置了允许同时伺服的最大接入请求数量

# 对于混合型的MPM默认值是16(ServerLimit)乘以64(ThreadsPerChild)的结果=1024,(Deven:而prefork模式中MaxClients=1204则说明最大能够有1024个apache子进程ps -ef|grep http|wc-l<=1024)

   

ThreadsPerChild 64 

# 每个子进程建立的线程数,要设在超过64,需求相应配置ThreadLimit

# default 25


关系总结:

MaxClient <= ThreadsPerChild *ServerLimit    (能被 ThreadsPerChild 整除)

ThreadsPerChild ThreadLimit

引用:

http://benni82.javaeye.com/?show_full=true

 

apache worker配置

===========================================================

# 服务器在断定请求失败前等待的秒数

# TimeOut指令用于设置Apache等待以下三种事件的时间长度:

#   1. 接受一个GET请求耗费的总时间。

#   2. POSTPUT请求时,接受两个TCP包之间的时间。

#   3. 应答时TCP包传输中两个ACK包之间的时间。

#   default 300

Timeout 15

KeepAlive On

# 一个持久链接中允许的最大请求数量

# default 100

MaxKeepAliveRequests 200 

# 持久链接中服务器在两次请求之间等待的秒数

# Apache在关闭持久连接前等待下一个请求的秒数。一旦收到一个请求,超时值将会被设置为Timeout指令指定的秒数。

# default 5

KeepAliveTimeout 10


# 每个子进程在其生存期内允许伺服的最大请求数量,到达MaxRequestsPerChild的限制后,子进程将会结束

# 对于KeepAlive链接,只有第一个请求会被计数。事实上,它改变了每个子进程限制最大链接数量的行为。

MaxRequestsPerChild 20000

# ServerLimit & ThreadLimit 需要配置其它worker指令前面

# default 16

    ServerLimit      16   

# 每个子进程可配置的线程数上限, ThreadsPerChild的配值不能超过ThreadLimit,否则启动报警告并自动调整ThreadPerChild

# default 64

    ThreadLimit      64   

# 服务器启动时建立的子进程数, 子进程在启动时建立这些线程后就不再建立新的线程了

# default 3

    StartServers     5    

# MaxClients指令设置了允许同时伺服的最大接入请求数量

# 对于混合型的MPM默认值是16(ServerLimit)乘以64(ThreadsPerChild)的结果

    MaxClients       1024

# worker的默认值是"75"。这个MPM将基于整个服务器监视空闲线程数。如果服务器中总的空闲线程数太少,子进程将产生新的空闲线程。

# default 75

    MinSpareThreads  25   

# Apache将按照"其大于等于MinSpareThreads加上ThreadsPerChild的和"自动修正你设置的值

# 75<64+25,所以MaxSpareThreads被重新设置为64+25=89

# default 250

    MaxSpareThreads  75

# 每个子进程建立的线程数,要设在超过64,需求相应配置ThreadLimit

# default 25

    ThreadsPerChild  64  

    ThreadLimit实际是用来限制 ThreadsPerChild的取值,即 ThreadsPerChild必须不能大于 ThreadLimitThreadLimit的默认值是64,所以如果你的ThreadsPerChild=128,启动apache就给你一个“WARNING: ThreadsPerChild of 128 exceeds ThreadLimit value of 64 threads, lowering ThreadsPerChild to 64. To increase, please see the ThreadLimit directive.“ ,自动把 ThreadsPerChild降级为64。如果你非要 ThreadsPerChild=128,必须添加 ThreadLimit=NN大于等于128),ThreadLimit还必须配在其他指令前面,否则无效。

    另外MaxClient的值必须<= ThreadsPerChild *ServerLimit,且能被 ThreadsPerChild 整除,默认值是 ThreadsPerChild *ServerLimit   ThreadsPerChild 表示实际使用值,可能被 lowering

    MPM混合模式下,每个子进程根据实际ThreadsPerChild值一次性创建好所有线程,且在子进程活动期间不会再创建或销毁线程,线程要么工作要么空闲。 如果线程数不够,apache创建一个子进程批量增加可用线程。


     上面配置MaxSpareThreads=75是有问题的,因为MinSpareThreads=25 ThreadsPerChild=64,当一个进程下的 64线程中,有超过ThreadsPerChild-MinSpareThreads=64-25=39已经投入工作,此时空闲线程数小于 MinSpareThreads,是必要创建更多的空闲线程以保持空闲线程在[MinSpareThreads, MaxSpareThreads]范围内。新进程会创建ThreadsPerChild个线程 那么此时就有 MinSpareThreads+ThreadsPerChild = 25+64 = 89 个空闲线程,如果MaxSpareThreads < 89,就需要销毁空闲线程,刚创建又销毁显然是不合理的。   所以apache启动时会把MaxSpareThreads调整为>= MinSpareThreads+ThreadsPerChild的值

    另外StartServers被设置为5,启动初始创建6个进程,1个主进程(控制进程)和5个子进程,每个子进程初始化64个线程,5*64=320空闲线程,大于MaxSpareThreads89),所以有4个子进程很快被杀掉,只留下一个子进程共64线程介于[MinSpareThreads, MaxSpareThreads]范围内。

如果把配置文档改为:

    ServerLimit      20
    ThreadLimit      64
    StartServers     20
    MaxClients       128
    MinSpareThreads  100
    MaxSpareThreads  200
    ThreadsPerChild  64
 
默认启动的子进程不是20个,那是因为MaxClients 的值太小了,之前就是因为这个困扰了好久。
比较合理的 worker 配置


Java代码

  1.   

  2. 配置都采用默认值,可以去掉   

  3. ServerLimit       16  

  4. ThreadLimit      64  

  5. StartServers     3  

  6. MinSpareThreads  25  

  7. MaxSpareThreads 250  

  8. 应用特殊配置值   

  9. MaxClients       1024  

  10. ThreadsPerChild  64  
  11.  

prefork模式参数详解

prefork模式下(其他模式下不适用),apache需要优化的主要参数:
ServerLimit 3000
StartServers 750
MinSpareServers 5
MaxSpareServers 100
MaxClients 3000
MaxRequestsPerChild 10000
首先来看看apache各个参数的意义(引号里引用的是官方文档的描述):

(1)ServerLimit和MaxClients 服务器最大同时响应请求数
这个就是你当前配置的apache最大的并发响应数,对应的是apache的进程数,两个参数同时修改,MaxClients不得大于ServerLimit参数。
ServerLimit的大小,取决于你系统的资源,每个apache进程默认占用2M内存,基本可以按照这个公式来计算:最大内存*80%/2M=ServerLimit

(2)StartServers 750 启动时默认启动的进程数
这个参数默认是5,因为apache会通过自动启动新进程来增加响应服务的进程数,这个值不做调整的也是可以的,会由默认的5增加到满足服务的进程数,但是会出现开始启动时的卡住。 小启动参数有一个好处:就是可以让传递后后端tomcat的压力缓慢增加上来,而不是一下子增加压力。可以把这个调整到当前服务最大的并发数,当前服务最大 并发连接数,可以通过监控apache进程个数:ps -ef | grep httpd | wc -l 来获得。不用调得太大,否则是无谓增加apache通过jk去跟tomcat建立的连接。
注意:apache进程跟tomcat建立连接后,不会释放此连接,会一直保持连接,直到timeout,如果没有timeout时间,就会永久连接。timeout的设置,会在后面jk配置里说明。
所以不要一次启动太多的apache进程,只启动足够用的进程即可。其他增加的流量,apache会自动调整进程数,直到MaxClients参数限定的范围。

(3)MinSpareServers 5 最小空闲进程
MinSpareServers指令设置空闲子进程的最小数量。所谓空闲子进程是指没有正在处理请求的子进程。如果当前空闲子进程数少于MinSpareServers ,那么Apache将以第一秒一个,第二秒两个,第三秒四个,按指数递增个数的速度产生新的子进程。

(4)MaxSpareServers 10 最大空闲进程
MaxSpareServers指令设置空闲子进程的最大数量。所谓空闲子进程是指没有正在处理请求的子进程。如果当前有超过MaxSpareServers数量的空闲子进程,那么父进程将杀死多余的子进程。
可以调整这两个参数,但是这两个参数的值不能设得太大,否则apache进程太多,会导致对应开启的tomcat进程也会很多。
官网上关于这两个参数都有这么句话:“将此参数设的太大通常是一个坏主意。”
在一台压力大(并发访问2800)的服务器上,MaxSpareServers这个值设置的是200。
设置了这个值的好处是不会有太多的空闲的进程在消耗资源,同时减少apache和tomcat的连接端口。
关闭空闲apache进程的同时,会释放jk连接,同时释放tomcat连接数,进而减少系统资源消耗。

(5)MaxRequestsPerChild 10000
"MaxRequestsPerChild指令设置每个子进程在其生存期内允许伺服的最大请求数量。到达MaxRequestsPerChild的限制后,子进程将会结束。如果MaxRequestsPerChild为"0",子进程将永远不会结束。
将MaxRequestsPerChild设置成非零值有两个好处:
* 可以防止(偶然的)内存泄漏无限进行,从而耗尽内存。
* 给进程一个有限寿命,从而有助于当服务器负载减轻的时候减少活动进程的数量。
注意:对于KeepAlive链接,只有第一个请求会被计数。事实上,它改变了每个子进程限制最大链接数量的行为。" 也就是说实际上这个时候子进程最大连接数等于MaxRequestsPerChild*MaxKeepAliveRequests
所以在开启KeepAlive后,需要同时设置MaxRequestsPerChild和MaxKeepAliveRequests ,确保每个apache进程在服务一定请求数后会关闭,重新开启新的子进程,避免apache进程异常导致的内存泄露和资源占用。

(6)Keep-Alive
默认:ON
发送的请求,在MaxRequestsPerChild里面只算一个,不管这个连接发送了多少个请求。

(7)MaxKeepAliveRequests
默认:100
"一个建立好的Keep-Alive连接,允许发送的请求的个数。一旦建立连接,要么就是个数达到了断开,要么就是等KeepAliveTimeout时间到了断开连接。
MaxKeepAliveRequests指令限制了当启用KeepAlive时,每个连接允许的请求数量。如果将此值设为"0",将不限制请求的数目。我们建议最好将此值设为一个比较大的值,以确保最优的服务器性能。"
这个数字的设置,必须考虑在一个时间段内,同一个用户访问你的服务会发多少请求。要结合KeepAliveTimeout参数来考虑。
举个例子,用户需要间隔时间不大于KeepAliveTimeout的时间内,连续请求10个文件,那么这个参数就应该设置成10,如果用户在连续时间里不 断请求访问,则这个数值得设置得更多。否则就重新建立连接下载。一旦用户连续进行了10个请求后,并且这个用户肯定在完成这些请求后的5秒内不会再请求, 甚至要在之后的很长时间后请求,那么这个KeepAliveTimeout时间就可以设置得很短,以便尽早断开这种用户,把资源让个其他用户。

(8)KeepAliveTimeout
默认:5
"在一个建立好的Keep-Alive连接上,在MaxKeepAliveRequests个数未满的情况下,等待下一个请求的时间。" 如果有请求到达,那么apache等待IO响应的timeout时间时间开始生效,timeout时间没等到响应,连接被断开;如果KeepAliveTimeout时间内,没有请求到达,连接就被断开。 具体设置可以参考配合MaxKeepAliveRequests参数。同时这个参数又受TimeOut参数影响,在一次成功连接中,TimeOut时间内没有等到响应,也会断开连接。

(9)TimeOut
默认:300
"TimeOut指令用于设置Apache等待以下三种事件的时间长度:
1. 接受一个GET请求耗费的总时间。
2. POST或PUT请求时,接受两个TCP包之间的时间。
3. 应答时TCP包传输中两个ACK包之间的时间。
我们计划在发展里程中,逐步把它们分别变得更易配置。计时器在1.2版本之前的默认值为1200,而现在已经设置为300了,但对于绝大多数情况来说仍是足够的。没有把它默认值设的更小的原因在于代码里还有点问题:有时发送一个包之后,计时器没有复位。

KeepAliveTimeout 与TimeOut区别可以参考官方网站:

http://man.chinaunix.net/newsoft/ApacheManual/mod/core.html

Apache 中 KeepAlive 配置的合理使用

在 Apache 服务器中,KeepAlive 是一个布尔值,On 代表打开,Off 代表关闭,这个指令在其他众多的 HTTPD 服务器中都是存在的。

KeepAlive 配置指令决定当处理完用户发起的 HTTP 请求后是否立即关闭 TCP 连接,如果 KeepAlive 设置为On,那么用户完成一次访问后,不会立即断开连接,如果还有请求,那么会继续在这一次 TCP 连接中完成,而不用重复建立新的 TCP 连接和关闭TCP 连接,可以提高用户访问速度。

那么我们考虑3种情况:
1。用户浏览一个网页时,除了网页本身外,还引用了多个 javascript 文件,多个 css 文件,多个图片文件,并且这些文件都在同一个 HTTP 服务器上。
2。用户浏览一个网页时,除了网页本身外,还引用一个 javascript 文件,一个图片文件。
3。用户浏览的是一个动态网页,由程序即时生成内容,并且不引用其他内容。

对于上面3中情况,我认为:1 最适合打开 KeepAlive ,2 随意,3 最适合关闭 KeepAlive

下面我来分析一下原因。

在 Apache 中,打开和关闭 KeepAlive 功能,服务器端会有什么异同呢?

先看看理论分析。

打开 KeepAlive 后,意味着每次用户完成全部访问后,都要保持一定时间后才关闭会关闭 TCP 连接,那么在关闭连接之前,必然会有一个Apache 进程对应于该用户而不能处理其他用户,假设 KeepAlive 的超时时间为 10 秒种,服务器每秒处理 50个独立用户访问,那么系统中 Apache 的总进程数就是 10 * 50 = 500 个,如果一个进程占用 4M 内存,那么总共会消耗 2G内存,所以可以看出,在这种配置中,相当消耗内存,但好处是系统只处理了 50次 TCP 的握手和关闭操作。

如果关闭 KeepAlive,如果还是每秒50个用户访问,如果用户每次连续的请求数为3个,那么 Apache 的总进程数就是 50 * 3= 150 个,如果还是每个进程占用 4M 内存,那么总的内存消耗为 600M,这种配置能节省大量内存,但是,系统处理了 150 次 TCP的握手和关闭的操作,因此又会多消耗一些 CPU 资源。

在看看实践的观察。

我在一组大量处理动态网页内 容的服务器中,起初打开 KeepAlive功能,经常观察到用户访问量大时Apache进程数也非常多,系统频繁使用交换内存,系统不稳定,有时负载会出现较大波动。关闭了 KeepAlive功能后,看到明显的变化是: Apache 的进程数减少了,空闲内存增加了,用于文件系统Cache的内存也增加了,CPU的开销增加了,但是服务更稳定了,系统负载也比较稳定,很少有负载大范围 波动的情况,负载有一定程度的降低;变化不明显的是:访问量较少的时候,系统平均负载没有明显变化。

总结一下:
在内存非常充足的服务器上,不管是否关闭 KeepAlive 功能,服务器性能不会有明显变化;
如果服务器内存较少,或者服务器有非常大量的文件系统访问时,或者主要处理动态网页服务,关闭 KeepAlive 后可以节省很多内存,而节省出来的内存用于文件系统Cache,可以提高文件系统访问的性能,并且系统会更加稳定。

补充1:
  关于是否应该关闭 KeepAlive 选项,我觉得可以基于下面的一个公式来判断。

在理想的网络连接状况下,系统的 Apache 进程数和内存使用可以用如下公式表达:
HttpdProcessNumber = KeepAliveTimeout * TotalRequestPerSecond / Average(KeepAliveRequests)
HttpdUsedMemory = HttpdProcessNumber * MemoryPerHttpdProcess


换成中文:
总Apache进程数 = KeepAliveTimeout * 每秒种HTTP请求数 / 平均KeepAlive请求
Apache占用内存 = 总Apache进程数 * 平均每进程占用内存数

需要特别说明的是:
[平均KeepAlive请求] 数,是指每个用户连接上服务器后,持续发出的 HTTP 请求数。当 KeepAliveTimeout 等 0或者 KeepAlive 关闭时,KeepAliveTimeout 不参与乘的运算从上面的公式看,如果 [每秒用户请求]多,[KeepAliveTimeout] 的值大,[平均KeepAlive请求] 的值小,都会造成 [Apache进程数] 多和 [内存]多,但是当 [平均KeepAlive请求] 的值越大时,[Apache进程数] 和 [内存] 都是趋向于减少的。( Deven:意思是说平均KeepAlive请求越大,就更要打开KeepAlive)

基于上面的公式,我们就可以推算出当 平均KeepAlive请求 <= KeepAliveTimeout 时,关闭 KeepAlive 选项是划算的,否则就可以考虑打开。

      补充2:  KeepAlive 该参数控制Apache是否允许在一个连接中有多个请求,默认打开。但对于大多数论坛类型站点来说,通常设置为off以关闭该支持。

      补充3:   如果服务器前跑有应用squid服务,或者其它七层设备,KeepAlive On 设定要开启持续长连接

实际在 前端有 squid 的情况下, KeepAlive 很关键。记得 On
 

参考:http://hi.baidu.com/marsjin/blog/item/fd31845143990b3f42a75b99.html

http://www.phpv.net/html/1570.html