Tomcat优化 - 压力测试

在Tomcat和应用程序进行了压力测试后，如果您对应用程序的性能结果不太满意，就可以采取一些性能调整措施了，当然了前提是应用程序没有问题，我们这 里只讲Tomcat的调整。由于Tomcat的运行依赖于JVM，所以在这里我们把Tomcat的调整可以分为两类来详细描述：

　　外部环境调整

　　调整非Tomcat组件，例如Tomcat运行的操作系统和运行Tomcat的java虚拟机。

　　自身调整

　　修改Tomcat自身的参数，调整Tomcat配置文件中的参数。

　　下面我们将详细讲解外部环境调整的有关内容，Tomcat自身调整的内容将在第2部分中阐述。

　　1.JAVA虚拟机性能优化

　 　Tomcat本身不能直接在计算机上运行，需要依赖于硬件基础之上的操作系统和一个java虚拟机。您可以选择自己的需要选择不同的操作系统和对应的 JDK的版本（只要是符合Sun发布的Java规范的），但我们推荐您使用Sun公司发布的JDK。确保您所使用的版本是最新的，因为Sun公司和其它一 些公司一直在为提高性能而对java虚拟机做一些升级改进。一些报告显示JDK1.4在性能上比JDK1.3提高了将近10%到20%。

　　可以给Java虚拟机设置使用的内存，但是如果你的选择不对的话，虚拟机不会补偿。可通过命令行的方式改变虚拟机使用内存的大小。如下表所示有两个参数用来设置虚拟机使用内存的大小。
参数
描述

-Xms<size>
JVM初始化堆的大小

-Xmx<size>
JVM堆的最大值

　 　这两个值的大小一般根据需要进行设置。初始化堆的大小执行了虚拟机在启动时向系统申请的内存的大小。一般而言，这个参数不重要。但是有的应用程序在大负 载的情况下会急剧地占用更多的内存，此时这个参数就是显得非常重要，如果虚拟机启动时设置使用的内存比较小而在这种情况下有许多对象进行初始化，虚拟机就 必须重复地增加内存来满足使用。由于这种原因，我们一般把-Xms和-Xmx设为一样大，而堆的最大值受限于系统使用的物理内存。一般使用数据量较大的应 用程序会使用持久对象，内存使用有可能迅速地增长。当应用程序需要的内存超出堆的最大值时虚拟机就会提示内存溢出，并且导致应用服务崩溃。因此一般建议堆 的最大值设置为可用内存的最大值的80%。

　　Tomcat默认可以使用的内存为128MB，在较大型的应用项目中，这点内存是不够的，需要调大。

　　Windows下，在文件{tomcat_home}/bin/catalina.bat，Unix下，在文件{tomcat_home}/bin/catalina.sh的前面，增加如下设置：

　　JAVA_OPTS=’-Xms【初始化内存大小】-Xmx【可以使用的最大内存】’

　　需要把这个两个参数值调大。例如：

　　JAVA_OPTS=’-Xms256m-Xmx512m’

　　表示初始化内存为256MB，可以使用的最大内存为512MB。

　 　另外需要考虑的是Java提供的垃圾回收机制。虚拟机的堆大小决定了虚拟机花费在收集垃圾上的时间和频度。收集垃圾可以接受的速度与应用有关，应该通过 分析实际的垃圾收集的时间和频率来调整。如果堆的大小很大，那么完全垃圾收集就会很慢，但是频度会降低。如果你把堆的大小和内存的需要一致，完全收集就很 快，但是会更加频繁。调整堆大小的的目的是最小化垃圾收集的时间，以在特定的时间内最大化处理客户的请求。在基准测试的时候，为保证最好的性能，要把堆的 大小设大，保证垃圾收集不在整个基准测试的过程中出现。

　　如果系统花费很多的时间收集垃圾，请减小堆大小。一次完全的垃圾收集应该不 超过3-5秒。如果垃圾收集成为瓶颈，那么需要指定代的大小，检查垃圾收集的详细输出，研究垃圾收集参数对性能的影响。一般说来，你应该使用物理内 存的80%作为堆大小。当增加处理器时，记得增加内存，因为分配可以并行进行，而垃圾收集不是并行的。

　　2.操作系统性能优化

　 　这里说的操作系统是指运行web服务器的系统软件，当然，不同的操作系统是为不同的目的而设计的。比如OpenBSD是面向安全的，因此在它的内核中有 许多的限制来防止不同形式的服务攻击（OpenBSD的一句座右铭是“默认是最安全的”）。这些限制或许更多地用来运行活跃的web服务器。

　 　而我们常用的Linux操作系统的目标是易用使用，因此它有着更高的限制。使用BSD内核的系统都带有一个名为“Generic”的内核，表明所有的驱 动器都静态地与之相连。这样就使系统易于使用，但是如果你要创建一个自定义的内核来加强其中某些限制，那就需要排除不需要的设备。Linux内核中的许多 驱动都是动态地加载的。但是换而言之，内存现在变得越来越便宜，所以因为加载额外的设备驱动就显得不是很重要的。重要的是要有更多的内存，并且在服务器上 腾出更多的可用内存。

　　小提示：虽然现在内存已经相当的便宜，但还是尽量不要购买便宜的内存。那些有牌子的内存虽然是贵一点，但是从可靠性上来说，性价比会更高一些。

　　如果是在Windows操作系统上使用Tomcat，那么最好选择服务器版本。因为在非服务器版本上，最终用户授权数或者操作系统本身所能承受的用户数、可用的网络连接数或其它方面的一些方面都是有限制的。并且基于安全性的考虑，必须经常给操作系统打上最新的补丁。

　　3.Tomcat与其它web服务器整合使用

　 　虽然tomcat也可以作web服务器,但其处理静态html的速度比不上apache,且其作为web服务器的功能远不如apache,因此我们想把 apache和tomcat集成起来，将html与jsp的功能部分进行明确分工，让tomcat只处理jsp部分，其它的由apache,IIS等这 些web服务器处理，由此大大节省了tomcat有限的工作“线程”。

　　4.负载均衡

　　在负载均衡的思路下，多台服务器为对称方式，每台服务器都具有同等的地位，可以单独对外提供服务而无须其他服务器的辅助。通过负载分担技术，将外部发送来的请求按一定规则分配到对称结构中的某一台服务器上，而接收到请求的服务器都独立回应客户机的请求。

　　提供服务的一组服务器组成了一个应用服务器集群(cluster)，并对外提供一个统一的地址。当一个服务请求被发至该集群时，根据一定规则选择一台服务器，并将服务转定向给该服务器承担，即将负载进行均衡分摊。

　 　通过应用负载均衡技术，使应用服务超过了一台服务器只能为有限用户提供服务的限制，可以利用多台服务器同时为大量用户提供服务。当某台服务器出现故障 时，负载均衡服务器会自动进行检测并停止将服务请求分发至该服务器，而由其他工作正常的服务器继续提供服务，从而保证了服务的可靠性。

　 　负载均衡实现的方式大概有四种：第一是通过DNS，但只能实现简单的轮流分配，不能处理故障，第二如果是基于 MSIIS，Windows2003server本身就带了负载均衡服务，第三是硬件方式，通过交换机的功能或专门的负载均衡设备可以实现，第四 种是软件方式，通过一台负载均衡服务器进行，上面安装软件。使用ApacheHttpdServer做负载平衡器，Tomcat集群节点使用 Tomcat就可以做到以上第四种方式。这种方式比较灵活，成本相对也较低。另外一个很大的优点就是可以根据应用的情况和服务器的情况采取一些策略。

大家都知道，JAVA程序启动时都会JVM都会分配一个初始内存和最大内存给这个应用程序。这个初始内存和最大内存在一定程度都会影响程序的性能。比如说在应用程序用到最大内存的时候，JVM是要先去做垃圾回收的动作，释放被占用的一些内存。
所以想调整Tomcat的启动时初始内存和最大内存就需要向JVM声明，一般的JAVA程序在运行都可以通过中-Xms-Xmx来调整应用程序的初始内存和最大内存:
如：java-Xms64m-Xmx128ma.jar.
tomcat的启动程序是包装过的，不能直接使用java-X.....tomcat.*来改变内存的设置。在Tomcat在改变这个设置
有两种方法：
1.就需要在环境变量中加上TOMCAT_OPTS,CATALINA_OPTS两个属性，
如SETCATALINA_OPTS=-Xms64m-Xmx512m;
ms是最小的，mx是最大，64m,512m分别是指内存的容量.
2.修改Catalina.bat文件
在166行“remExecuteJavawiththeapplicableproperties”以下每行
%_EXECJAVA%%JAVA_OPTS%%CATALINA_OPTS%%DEBUG_OPTS%-Djava.endorsed.dirs="%JAVA_ENDORSED_DIRS%"-classpath"%CLASSPATH%"-Dcatalina.base="%CATALINA_BASE%"-Dcatalina.home="%CATALINA_HOME%"-Djava.io.tmpdir="%CATALINA_TMPDIR %"%MAINCLASS%%CMD_LINE_ARGS%%ACTION%中的%CATALINA_OPTS%替换成 -Xms64m-Xmx512m

Tomcat性能优化

1.停用DNS查询
server.xml里
<Connector
port="8887"maxThreads="150"minSpareThreads="25"maxSpareThreads="75"
enableLookups="false"redirectPort="8443"acceptCount="100"
debug="0"connectionTimeout="20000"
disableUploadTimeout="true"/>

加上enableLookups="false";这样就不使用DNS查询，也不会有延迟了
除非需要所有连接到服务器的HTTP客户端的完整主机名称

注：Connector的enableLookups性属的意义是:调用request.getRemoteHost()是否会通过DNS查询来取得远处客户端的真正主机名称。true表示会查询，false表示以字符串格式传回客户端的IP地址。默认值是:true

2,调整线程的数目
Tomcat使用线程池以便对传入的请求提供快速的响应。
通过更改Connector的minProcessors与maxProcessors的值，可以控制所分配的线程数目
将 这两个参数设为最佳值的最好方式是对各个参数尝试许多不同的设定值，然后以仿真的网络流量进行测试，同时并观察响应时间与内存的使用量。每一种机器、操作 系统与JVM的组合都可能有不同的表现，而且并非所有人的网站流量都会相同，所以没有现成的规则来决定最小与最大的线程数

3.加快jsp的编译速度，预先编译jsp

4.容量规划：经验式的容量规划，企业容量规划

经验式的容量规划与企业容量规划最大的差异就是深度。经验式容量规划使用经验法则，因此比较像是经验预测，而企业容量规划则是深度地研究需求与性能，其目标是尽可能产生最精确的数字


apache+tomcat+mysql

Apache+Tomcat+Mysql网站配置
前言：
公司开发了一个网站，估计最高在线人数是3万，并发人数最多100人。开发的网站是否能否承受这个压力，如何确保网站的负荷没有问题，经过研究决定如下：
（1）采用负载平衡和集群技术，初步机构采用Apache+Tomcat的机群技术。
（2）采用压力测试工具，测试压力。工具是Loadrunner。
硬件环境搭建：
为了能够进行压力测试，需要搭建一个环境。刚开始时，测试在公司局域网内进行，但很快发现了一个问题，即一个脚本的压力测试结果每次都不一样，并且差别很大。原来是受公司网络的影响，于是决定搭建一个完全隔离的局域网测试。搭建后的局域网配置如下：
（1）网络速度：100M
（2）三台服务器：
负载服务器：操作系统windows2003，
Tomcat服务器：操作系统windows2000Professional
数据库服务器：操作系统windows2000Professional
三台机器的cpu2.4G,内存1G。
软件环境搭建：
软件的版本如下：
Apache版本：2.054，
Tomcat5.0.30,
mysql：4.1.14.
JDK1.5
压力测试工具：Loadrunner7.8。
负载平衡方案如下：
一台机器（操作系统2003）安装apache，作为负载服务器，并安装tomcat作为一个worker；一个单独安装tomcat，作为第二个worker；剩下的一台单独作为数据库服务器。
Apache和tomcat的负载平衡采用JK1.2.14（没有采用2.0，主要是2.0不再维护了）。
集群方案：
采用Tomcat本身的集群方案。在server.xml配置。
压力测试问题：
压力测试后，发现了一些问题，现一一列出来：
（1） 采用Tocmat集群后，速度变得很慢。因为集群后，要进行session复制，导致速度较慢。Tomcatd的复制，目前不支持 application复制。复制的作用，主要用来容错的，即一台机器有故障后，apache可以把请求自动转发到另外一个机器。在容错和速度的考虑 上，我们最终选择速度，去掉了Tomcat集群。
（2）操作系统最大并发用户的限制：
为了采用网站的压力，我们开始的时候，仅测试 Tomcat的最大负载数。Tomcat服务器安装的操作系统是windows2000Professional。当我们用压力测试工具，并发测试 时，发现只要超过15个并发用户，会经常出现无法连接服务器的情况。经过研究，发现是操作系统的问 题：windows2000Professional支持的并发访问用户有限，默认的好像是15个。于是我们把操作系统全部采用 windows2003server版本。
（3）数据库连接池的问题：
测试数据库连接性能时，发现数据库连接速度很慢。每增加一 些用户，连接性能就差了很多。我们采用的数据库连接池是DBCP，默认的初始化为50个，应该不会很慢吧。查询数据库的连接数，发现初始化，只初始化一个 连接。并发增加一个用户时，程序就会重新创建一个连接，导致连接很慢。原因就在这里了。如何解决呢？偶尔在JDK1.4下的Tomcat5.0.30下 执行数据库连接压力测试，发现速度很快，程序创建数据库连接的速度也是很快的。看来JDK1.5的JDBC驱动程序有问题。于是我们修改JDK的版本为 1.4.

（4）C3P0和DBCP
C3P0是Hibernate3.0默认的自带数据库连接池，DBCP是Apache开发的数据库连接池。我们对这两种连接池进行压力测试对比，发现在并发300个用户以下时，DBCP比C3P0平均时间快1秒左右。但在并发400个用户时，两者差不多。

速度上虽然DBCP比C3P0快些，但是有BUG：当DBCP建立的数据库连接，因为某种原因断掉后，DBCP将不会再重新创建新的连接，导致必须重新启动Tomcat才能解决问题。DBCP的BUG使我们决定采用C3P0作为数据库连接池。
调整后的方案：
操作系统Windows2003server版本
JDK1.4
Tomcat5.0.30
数据库连接池C3P0
仅采用负载平衡，不采用集群。
软件的配置：
Apache配置：主要配置httpd.conf和新增加的文件workers.properties
Httpd.conf：
#一个连接的最大请求数量
MaxKeepAliveRequests10000
#NT环境，只能配置这个参数来提供性能
<IfModulempm_winnt.c>
#每个进程的线程数，最大1920。NT只启动父子两个进程，不能设置启动多个进程
ThreadsPerChild1900
每个子进程能够处理的最大请求数
MaxRequestsPerChild10000
</IfModule>

#加载mod_jk
#
LoadModulejk_modulemodules/mod_jk.so
#
#配置mod_jk
#
JkWorkersFileconf/workers.properties
JkLogFilelogs/mod_jk.log
JkLogLevelinfo
#请求分发，对jsp文件，.do等动态请求交由tomcat处理
DocumentRoot"C:/Apache/htdocs"
JkMount/*.jsploadbalancer
JkMount/*.doloadbalancer
JkMount/servlet/*loadbalancer
#关掉主机Lookup，如果为on，很影响性能，可以有10多秒钟的延迟。
HostnameLookupsOff
#缓存配置
LoadModulecache_modulemodules/mod_cache.so
LoadModuledisk_cache_modulemodules/mod_disk_cache.so
LoadModulemem_cache_modulemodules/mod_mem_cache.so

<IfModulemod_cache.c>
CacheForceCompletion100
CacheDefaultExpire3600
CacheMaxExpire86400
CacheLastModifiedFactor0.1

<IfModulemod_disk_cache.c>
CacheEnabledisk/
CacheRootc:/cacheroot
CacheSize327680
CacheDirLength4
CacheDirLevels5
CacheGcInterval4
</IfModule>
<IfModulemod_mem_cache.c>
CacheEnablemem/
MCacheSize8192
MCacheMaxObjectCount10000
MCacheMinObjectSize1
MCacheMaxObjectSize51200
</IfModule>
</IfModule>
worker.Properties文件
#
#workers.properties，可以参考
::URL::http://jakarta.apache.org/tomcat/connectors-doc/config/workers.html
#InUnix,weuseforwardslashes:
ps="

#listtheworkersbyname

worker.list=tomcat1,tomcat2,loadbalancer

#------------------------
#Firsttomcatserver
#------------------------
worker.tomcat1.port=8009
worker.tomcat1.host=localhost
worker.tomcat1.type=ajp13

#Specifythesizeoftheopenconnectioncache.
#worker.tomcat1.cachesize

#
#Specifiestheloadbalancefactorwhenusedwith
#aloadbalancingworker.
#Note:
#---->lbfactormustbe>0
#---->Lowlbfactormeanslessworkdonebytheworker.
worker.tomcat1.lbfactor=900

#------------------------
#Secondtomcatserver
#------------------------
worker.tomcat1.port=8009
worker.tomcat1.host=202.88.8.101
worker.tomcat1.type=ajp13

#Specifythesizeoftheopenconnectioncache.
#worker.tomcat1.cachesize

#
#Specifiestheloadbalancefactorwhenusedwith
#aloadbalancingworker.
#Note:
#---->lbfactormustbe>0
#---->Lowlbfactormeanslessworkdonebytheworker.
worker.tomcat1.lbfactor=2000

#------------------------
#LoadBalancerworker
#------------------------

#
#Theloadbalancer(typelb)workerperformsweightedround-robin
#loadbalancingwithstickysessions.
#Note:
#---->Ifaworkerdies,theloadbalancerwillcheckitsstate
#onceinawhile.Untilthenallworkisredirectedtopeer
#worker.
worker.loadbalancer.type=lb
worker.loadbalancer.balanced_workers=tomcat1,tomcat2

#
#ENDworkers.properties
#

Tomcat1配置:
<!--配置server.xml
去掉8080端口，即注释掉如下代码：-->
<Connector
port="8080"maxThreads="150"minSpareThreads="25"maxSpareThreads="75"
enableLookups="false"redirectPort="8443"acceptCount="100"
debug="0"connectionTimeout="20000"
disableUploadTimeout="true"/>

<!--配置8009端口如下：-->
<Connectorport="8009"
maxThreads="500"minSpareThreads="400"maxSpareThreads="450"
enableLookups="false"redirectPort="8443"debug="0"
protocol="AJP/1.3"/>
<!--配置引擎-->
<Enginename="Catalina"defaultHost="localhost"debug="0"jvmRoute=
"tomcat1">

启动内存配置,开发configuretomcat程序即可配置：
Initialmemorypool:200M
Maxinummemorypool:300M
Tomcat2配置：
配置和tomcat1差不多，需要改动的地方如下：
<!--配置引擎-->
<Enginename="Catalina"defaultHost="localhost"debug="0"jvmRoute=
"tomcat2">

启动内存配置,开发configuretomcat程序即可配置：
Initialmemorypool:512M
Maxinummemorypool:768M
Mysql配置：
Server类型：DedicatedMySQLServerMachine
Databaseusage:TransationalDatabaseOnly
并发连接数量：OnlineTransactionProcessing(OLTP)
字符集：UTF8
数据库连接池的配置：
我们采用的是spring框架，配置如下：
<propertyname="hibernateProperties">
<props>
<propkey="hibernate.dialect">org.hibernate.dialect.MySQLDialect</prop>
<propkey="hibernate.connection.driver_class">com.mysql.jdbc.Driver</prop>
<propkey="hibernate.connection.url">jdbc:mysql://202.88.1.103/db</prop>
<propkey="hibernate.connection.username">sa</prop>
<propkey="hibernate.connection.password"></prop>

<propkey="hibernate.show_sql">false</prop>
<propkey="hibernate.use_sql_comments">false</prop>

<propkey="hibernate.cglib.use_reflection_optimizer">true</prop>
<propkey="hibernate.max_fetch_depth">2</prop>

<propkey="hibernate.c3p0.max_size">200</prop>
<propkey="hibernate.c3p0.min_size">5</prop>
<propkey="hibernate.c3p0.timeout">12000</prop>
<propkey="hibernate.c3p0.max_statements">50</prop>
<propkey="hibernate.c3p0.acquire_increment">1</prop>
</props>
</property>
其他的没有额外配置。
LoadRunner常见问题：
（1）sofewarecausedconnction：这种情况，一般是脚本有问题，或者loadrunner有问题。解决方法：重新启动机器，或者重新录制脚本，估计是loadrunner的bug。
（2）cannotconnecttoserver:无法连接到服务器。这种情况是服务器的配置有问题，服务器无法承受过多的并发连接了。需要优化服务器的配置，
如操作系统采用windows2003server，
优化tomcat配置：maxThreads="500"minSpareThreads="400"maxSpareThreads="450"。但是tomcat最多支持500个并发访问
优化apache配置：
ThreadsPerChild1900
MaxRequestsPerChild10000
其他的错误如：
Action.c(10):Error-27791:Serverhasshutdowntheconnectionprematurely
HTTPStatus-Code=503(ServiceTemporarilyUnavailable)
一般都是由于服务器配置不够好引起的，按照问题（2）处理，如果仍旧不行，需要优化硬件和调整程序了。
Apache问题：
（1）Filedoesnotexist:C:/Apache/htdocs/favicon.ico：
这个问题是apache，htdocs目录没有favicon.ico文件引起的，该文件是网站的图标，仅在firefox,myIE等浏览器出现。
（2）图片无法显示：
配置apache后，却无法显示图片。
解决方法：把程序的图片，按照程序结构copy到apache的htdocs目录下。
（3）无法处理请求：
当我们输入***.do命令后，apache确返回错误信息，而连接tomcat却没有问题。原因是没有把.do命令转发给tomcat处理。解决方法如下：
在apache配置文件中配置如下内容：
DocumentRoot"C:/Apache/htdocs"
JkMount/*.jsploadbalancer
JkMount/*.doloadbalancer


总结：
网站的压力测试，涉及的知识面挺广的，不仅要熟悉压力测试工具，还要知道如何配置和优化应用服务器和数据库，并且需要知道如何优化网络、操作系统、硬件系统。
测 试中不仅要善于发现问题，要知道如何解决。最重要的一点，要有良好的测试方法。刚开始测试时，可以从最简单的测试脚本入手，不需要太复杂的脚本，这样便于 发现问题。如我们刚开始时，就从一个简单的下载登陆界面的脚本入手，测试一个tomcat的压力负载。一个简单的获取登陆的脚本，帮助我们优化 了tomcat的配置；后来再测试数据库连接，也是一个简单的数据库连接脚本，帮助我们优化了数据库连接池；然后利用这些简单的脚本，测试apache 的负载平衡，优化了apache配置。最后运行复杂的脚本，模拟多种角色的用户在不同时间下的处理，以测试网站压力负载