Apache负载均衡+Tomcat集群

 Apache负载均衡+Tomcat集群

2008-03-26 16:06:13
  原始出处 : http://weijie.blog.51cto.com/340746/68195
APACHE 2.2.8+TOMCAT6.0.14 配置负载均衡
目标:
使用 apache tomcat 配置一个可以应用的 web 网站,要达到以下要求:
1   Apache 做为 HttpServer ,后面连接多个 tomcat 应用实例,并进行负载均衡。
2   为系统设定 Session 超时时间,包括 Apache tomcat
3   为系统屏蔽文件列表,包括 Apache tomcat
注:本例程以一台机器为例子,即同一台机器上装一个apache4Tomcat
一、前期准备工作:安装用的程序(前提保证已安装了JDK1.5 以上的版本)
APAHCE 2.2.8 下载:apache_2.2.8-win32-x86-no_ssl.msi
TOMCAT6.0.14 下载:apache-tomcat-6.0.14.zip 直接解压。
二、安装过程
APAHCE 安装目录:D:/Apache
四个TOMCAT 目录:自行解压到(D:/Tomcat 集群服务器/) 下。分别为 tomcat6.0tomcat6.01tomcat6.02tomcat6.03
这几个安装过程就不详细说明了。
三、配置
1 Apache 配置
1.1 httpd.conf 配置
修改APACHE 的配置文件D:/Apache /conf/httpd.conf
将以下Module 的注释去掉,这里并没有使用mod_jk.so 进行apachetomcat 的链接,从2.X 以后apache 自身已集成了mod_jk.so 的功能。只需简单的把下面几行去掉注释,就相当于以前用mod_jk.so 比较繁琐的配置了。这里主要采用了代理的方法,就这么简单。
LoadModule proxy_module modules/mod_proxy.so
LoadModule proxy_connect_module modules/mod_proxy_connect.so
LoadModule proxy_ftp_module modules/mod_proxy_ftp.so
LoadModule proxy_http_module modules/mod_proxy_http.so
LoadModule proxy_ajp_module modules/mod_proxy_ajp.so
LoadModule proxy_balancer_module modules/mod_proxy_balancer.so
再找到 <IfModule dir_module></IfModule> 加上index.jsp 修改成
<IfModule dir_module>
DirectoryIndex index.html index.jsp
</IfModule>
1.1.1、  在最下面加入
ProxyRequests Off
<proxy balancer://cluster>
BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=jvm1
BalancerMember ajp:// 127.0.0.1:9009 loadfactor=1 route=jvm2
BalancerMember ajp:// 127.0.0.1:9001 loadfactor=1 route=jvm3
BalancerMember ajp:// 127.0.0.1:9003 loadfactor=1 route=jvm4
</proxy>
上面的四个BalancerMember 成员是我们配置的tomcat 集群。后面会说明的。
1.2 httpd-vhosts.conf 设置
接下来进行虚拟主机的设置。APACHE 的虚拟主机设置如下:
首先要修改 conf/httpd.conf 找到(#Include conf/extra/httpd-vhosts.conf)
把注释去掉。
# Virtual hosts
Include conf/extra/httpd-vhosts.conf
在文件(extra/httpd-vhosts.conf )最下面加入
<VirtualHost *:80>
         ServerAdmin [email protected]
         ServerName localhost
         ServerAlias localhost
         ProxyPass / balancer://cluster/ stickysession=jsessionid nofailover=On
         ProxyPassReverse / balancer://cluster/
</VirtualHost>
其中的域名和路径根据你自己情况设置
然后再设置TOMCAT 虚拟主机
2 配置 tomcat
2.1.  配置 server 的关闭
我们需要在一台机器上跑 4 个不同的 tomcat ,需要修改不同的 tomcat 的关闭口,避免出现端口被占用的情况。其中tomcat6.0 用默认值,不修改。其他三个修改。在tomcat6.01/conf, tomcat6.02/conf 下和tomcat6.03/conf 下的 server.xml 中找到 server, 将:
<Server port="8005" shutdown="SHUTDOWN">
改为
<Server port="XXXX" shutdown="SHUTDOWN">
XXXX 在这里表示不同的端口:我的其它三个 tomcat 分别使用 90058006 9007   
2.2. 配置 Engine
  把原来的配置注释掉 ,把下面一句去掉注释 。并标明jvmRoute="jvm2".
<Engine name="Standalone" defaultHost="localhost" jvmRoute="jvm2">        
以下是原来的配置。
<!-- <Engine name="Catalina" defaultHost="localhost">  -->
其他(tomcat6.02tomcat6.03 )也要同样 配置。注意:jvmRoute 配置不要一样。
<Engine name="Standalone" defaultHost="localhost" jvmRoute="jvm3"> 
<Engine name="Standalone" defaultHost="localhost" jvmRoute="jvm4"> 
2.3. 配置 Connector
原来的默认配置。
<!-- Define an AJP 1.3 Connector on port 8009 -->
<Connector port="8009 " protocol="AJP/1.3" redirectPort="8443" />
这里是apachetomcat 链接的关键,前台apache 就是通过AJP 协议与tomcat 进行通信的,以完成负载均衡的作用。也可以用HTTP 协议。大家注意它们是如何连接通信的,上面的红色部分(port="8009 ")就是连接的接口了。
把其他三个tomcat<Connector port="XXX" />port 分别改成与上面
<proxy balancer://cluster>
      # tomcat6.0 对应,route<Engine jvmRoute="jvm1"> 对应。
BalancerMember ajp://127.0.0.1:8009 loadfactor=1 route=jvm1
# tomcat6.01 对应,route<Engine jvmRoute="jvm2"> 对应。
BalancerMember ajp:// 127.0.0.1:9009 loadfactor=1 route=jvm2
# tomcat6.02 对应,route<Engine jvmRoute="jvm3"> 对应。
BalancerMember ajp:// 127.0.0.1:9001 loadfactor=1 route=jvm3
# tomcat6.03 对应,route<Engine jvmRoute="jvm4"> 对应。
BalancerMember ajp:// 127.0.0.1:9003 loadfactor=1 route=jvm4
</proxy>
中的端口对应,tomcat6.01 ajp 端口port:9009. tomcat6.02 ajp 端口port:9001tomcat6.03 ajp 端口port:9003. 一定要与上面的一致。同时也要把redirectPort 的值改成唯一的,确保四个tomcat 的都不一样。
2.5. 配置Cluster( 每个tomcat 中都要修改)
原来的配置。
<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"/>
修改为以下的代码:<Receiver port=”XX”/>port 也要保证唯一性。
<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"  channelSendOptions="6">
<Manager className="org.apache.catalina.ha.session.BackupManager"
expireSessionsOnShutdown="false"
notifyListenersOnReplication="true"
mapSendOptions="6"/>
<!--
<Manager className="org.apache.catalina.ha.session.DeltaManager"
expireSessionsOnShutdown="false"
notifyListenersOnReplication="true"/>
-->
<Channel className="org.apache.catalina.tribes.group.GroupChannel">
<Membership className="org.apache.catalina.tribes.membership.McastService"
address="228.0.0.4"
port="45564"
frequency="500"
dropTime="3000"/>
<Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
address="auto"
port="5001 "
selectorTimeout="100"
maxThreads="6"/>
<Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
<Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
</Sender>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.ThroughputInterceptor"/>
</Channel>
<Valve className="org.apache.catalina.ha.tcp.ReplicationValve"
filter=".*/.gif;.*/.js;.*/.jpg;.*/.png;.*/.htm;.*/.html;.*/.css;.*/.txt;"/>
<Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"
tempDir="/tmp/war-temp/"
deployDir="/tmp/war-deploy/"
watchDir="/tmp/war-listen/"
watchEnabled="false"/>
<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
</Cluster>
这个设置是主要用以tomcat 的集群。
四、启动服务,测试tomcat自带的例子
1 、测试apachetomcat 协作。
先在每个tomcat 中的/webapps/ROOT 下的index.jsp 下面加上以下的测试代码部分:(X 代表不同的tomcat 的输出不同的信息) ,把index.html 删除,以免影响测试效果。在最后面的加上.</table></body> 之间。
<%
        System.out.println("tomcat6.0X   deal   with   request");
%>
然后再通过http:// 127.0.0.1 来访问一下,就会出现大家熟悉的猫猫。
然后再通过分别访问
http:// 127.0.0.1:8080 http:// 127.0.0.1:9080 http:// 127.0.0.1:8081 http:// 127.0.0.1:9002 它们访问的内容和上面的http:// 127.0.0.1 是一样的。
这样就说明apacheTOMCAT 整合成功!
2 、测试均衡器
通过http:// 127.0.0.1 多次访问,要想看到真正的效果,必须用一些压力测试工具,可用微软Microsoft Web Application Stress Tool 进行简单压力测试,不然你靠不停刷新是体现不出来的,你只会在一个tomcat 的控制台有输出结果。只用用压力测试工具模拟大量用户同时访问,你会发现四个tomcat 控制台均有打出控制信息,说明均衡器工作正常。

在javaeye上也看过一个配置:

基于apache的tomcat负载均衡和集群配置

1】 下载安装

       httpd-2.2.15-win32-x86-no_ssl.msi    网页服务器

       32-bit Windows zip                            tomcat

       mod_jk-1.2.30-httpd-2.2.3.so             Apache/IIS 用来连接后台Tomcat的模块,支持集群和负载均衡

       JK 分为两个版本 1,x 和 2.x ,其中 2.x 并不是最新的版本,它是 JK 的另外一个分支,后不知何因没有继续开发,因此2.x 版本已经废弃

       安装httpd-2.2.15-win32-x86-no_ssl.msi 到指定目录,我安装的是C:/Program Files/Apache2.2,以后这个目录将用Apache_Home代替

       安装tomcat,我是将两个tomcat进行集群,所以安装两个tomcat,路径分别为:F:/tomcat/tomcat1,F:/tomcat /tomcat2,以后这两个目录将用tomcat1_Home,tomcat2_Home代替

2】 配置Apache_Home/conf/httpd.conf

      在httpd.conf文件的最后一行写入include "C:/Program Files/Apache2.2/conf/mod_jk.conf"

3】 配置mod_jk.conf文件

      在Apache_Home/conf下建立mod_jk.conf文件

      配置内容:

      #加载mod_jk Module
         LoadModule jk_module modules/mod_jk-1.2.30-httpd-2.2.3.so

         将下载的 mod_jk-1.2.30-httpd-2.2.3.so 文件放入到Apache_Home/modules下
      # 配置 mod_jk
      #加载集群中的workers
         JkWorkersFile conf/workers.properties
      #加载workers的请求处理分配文件
         JkMountFile conf/uriworkermap.properties
      #指定jk的日志输出文件
         JkLogFile logs/mod_jk.log
      #指定日志级别
         JkLogLevel warn
     #指定哪些请求交给tomcat处理,"controller"为在 workers.propertise里指定的负载分配控制器名
         JkMount /* controller

4】  配置workers.propertise文件

       在Apache_Home/conf下建立workers.propertise文件

       配置内容:

       #server 列表
         worker.list=controller,tomcat1,tomcat2
      #========tomcat1========
      #ajp13 端口号,在tomcat下server.xml配置,默认8009
        worker.tomcat1.port=8009
      #tomcat的主机地址,如不为本机,请填写ip地址
        worker.tomcat1.host=localhost
        worker.tomcat1.type=ajp13
     #server的加权比重,值越高,分得的请求越多
        worker.tomcat1.lbfactor=1
     #========tomcat2========
     #ajp13 端口号,在tomcat下server.xml配置,默认8009
       worker.tomcat2.port=9009
     #tomcat的主机地址,如不为本机,请填写ip地址
      worker.tomcat2.host=localhost
      worker.tomcat2.type=ajp13
    #server的加权比重,值越高,分得的请求越多
       worker.tomcat2.lbfactor=1
    #========controller,负载均衡控制器========
    #server名为controller,用于负载均衡
      worker.controller.type=lb
   #重试次数
      worker.retries=3
   #指定分担请求的tomcat
     worker.controller.balanced_workers=tomcat1,tomcat2
   #粘性Session(默认是打开的) 当该属性值=True(或1)时,代表Session是粘性的,即同一Session在集群中的同一个节点上处理,Session不跨越节点。在集群环境 中,一般将该值设置为False
     worker.controller.sticky_session=false
  #设置用于负载均衡的server的session可否共享 有不少文章说设置为1是可以的,也有设置为0才可以的
     worker.controller.sticky_session=1
  #worker.controller.sticky_session_force=1
  #worker.status.type=status

5】 配置uriworkermap.properties文件

      在Apache_Home/conf下建立uriworkermap.properties文件

      配置内容:

     #所有请求都由controller这个server处理
     /*=controller
     #所有包含jkstatus请求的都由status这个 server处理
     #/jkstatus=status
     #这里的"!”是“非”的意思。
     !/*.gif=controller
     !/*.jpg=controller
     !/*.png=controller
     !/*.css=controller
     !/*.js=controller
     !/*.htm=controller
     !/*.html=controller

6】修改tomcat1_Home/conf /server.xml配置

      Starting Coyote HTTP/1.1 on http-8081 默认端口为8080,修改为8081

     <Connector port="8081" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

      JK: ajp13 listening on /0.0.0.0:8009 修改端口必须与workers.propertise文件内worker.tomcat1.port=8009一致

     <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

     需要添加的内容:

    <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat2">   <!--tomcat1将与tomcat2黏贴session 在这里指定黏贴对象-->

      <!--For clustering, please take a look at documentation at:
          /docs/cluster-howto.html  (simple how to)
          /docs/config/cluster.html (reference documentation) -->
      <Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"
                 channelSendOptions="8">

          <Manager className="org.apache.catalina.ha.session.DeltaManager"
                   expireSessionsOnShutdown="false"
                   notifyListenersOnReplication="true"/>

          <Channel className="org.apache.catalina.tribes.group.GroupChannel">
            <Membership className="org.apache.catalina.tribes.membership.McastService"
                        address="228.0.0.4"
                        port="45564"
                        frequency="500"
                        dropTime="3000"/>
            <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
                      address="auto"
                      port="4000"  
                      autoBind="100"
                      selectorTimeout="5000"
                      maxThreads="6"/>

            <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
              <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
            </Sender>
            <Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
            <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>
          </Channel>

          <Valve className="org.apache.catalina.ha.tcp.ReplicationValve"
                 filter=""/>
          <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>

          <!-- <Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"
                    tempDir="/tmp/war-temp/"
                    deployDir="/tmp/war-deploy/"
                    watchDir="/tmp/war-listen/"
                    watchEnabled="false"/> -->

          <ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>
          <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
        </Cluster>   

      上面部分如果需要详细的说明可以看webapps/docs/cluster-howto.html

7】修改tomcat2_Home/conf /server.xml配置

      Starting Coyote HTTP/1.1 on http-8082 默认端口为8080,修改为8082

     <Connector port="8082" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

      JK: ajp13 listening on /0.0.0.0:9009 修改端口必须与workers.propertise文件内worker.tomcat2.port=9009一致

     <Connector port="9009" protocol="AJP/1.3" redirectPort="8443" />

     需要添加的内容:

    <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">   <!--tomcat2将与tomcat1黏贴session 在这里指定黏贴对象-->

      <!--For clustering, please take a look at documentation at:
          /docs/cluster-howto.html  (simple how to)
          /docs/config/cluster.html (reference documentation) -->
      <Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster"
                 channelSendOptions="8">

          <Manager className="org.apache.catalina.ha.session.DeltaManager"
                   expireSessionsOnShutdown="false"
                   notifyListenersOnReplication="true"/>

          <Channel className="org.apache.catalina.tribes.group.GroupChannel">
            <Membership className="org.apache.catalina.tribes.membership.McastService"
                        address="228.0.0.4"
                        port="45564"
                        frequency="500"
                        dropTime="3000"/>
            <Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
                      address="auto"
                      port="4001"  
                      autoBind="100"
                      selectorTimeout="5000"
                      maxThreads="6"/>

            <Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
              <Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender"/>
            </Sender>
            <Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector"/>
            <Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor"/>
          </Channel>

          <Valve className="org.apache.catalina.ha.tcp.ReplicationValve"
                 filter=""/>
          <Valve className="org.apache.catalina.ha.session.JvmRouteBinderValve"/>

          <!-- <Deployer className="org.apache.catalina.ha.deploy.FarmWarDeployer"
                    tempDir="/tmp/war-temp/"
                    deployDir="/tmp/war-deploy/"
                    watchDir="/tmp/war-listen/"
                    watchEnabled="false"/> -->

          <ClusterListener className="org.apache.catalina.ha.session.JvmRouteSessionIDBinderListener"/>
          <ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener"/>
        </Cluster>   

      上面部分如果需要详细的说明可以看webapps/docs/cluster-howto.html

8】session黏贴(共享)方面,如果session中存 放的为javabean,javabean必须实现Serializable接口,如果没有实现会报错误 Exception thrown: class java.lang.IllegalArgumentException


9】补充:

 

      看到jameswxx的回复发现确实有欠妥的地方,现在进行改正

      在工程的web.xml文件内加入  <distributable/>     标签

      标题名不够准确,将原名称“tomcat集群配置流程 ”更正为“基于apache的tomcat 负载均衡和集群配置”

你可能感兴趣的:(apache,tomcat,负载均衡,session,Interceptor,documentation)