你将面临的tomcat优化2-----线程池-IO优化

知识补充:

同步 : 自己亲自出马持银行卡到银行取钱(使用同步IO时,Java自己处理IO读写)。

异步 : 委托一小弟拿银行卡到银行取钱,然后给你(使用异步IO时,Java将IO读写委托给OS处理,需要将数据缓冲区地址和大小传给OS(银行卡和密码),OS需要支持异步IO操作API)。

阻塞 : ATM排队取款,你只能等待(使用阻塞IO时,Java调用会一直阻塞到读写完成才返回)。

非阻塞 : 柜台取款,取个号,然后坐在椅子上做其它事,等号广播会通知你办理,没到号你就不能去,你可以不断问大堂经理排到了没有,大堂经理如果说还没到你就不能去(使用非阻塞IO时,如果不能读写Java调用会马上返回,当IO事件分发器会通知可读写时再继续进行读写,不断循环直到读写完成)。

一.线程池的介绍

线程池作为提高程序处理数据能力的一种方案,应用非常广泛。大量的服务器都或多或少的使用到了线程池技术,不管是哪种语言实现,线程池都有如下的特点:

1.线程池一般有三个重要参数:

最大线程数。在程序运行的任何时候,线程数总数都不会超过这个数。如果请求数量超过最大数时,则会等待其他线程结束后再处理。

最大共享线程数,即最大空闲线程数。如果当前的空闲线程数超过该值,则多余的线程会被杀掉。

最小共享线程数,即最小空闲线程数。如果当前的空闲数小于该值,则一次性创建这个数量的空闲线程,所以它本身也是一个创建线程的步长。 

2.线程池有两个概念

Worker线程:工作线程主要是运行执行代码,有两种状态:空闲状态和运行状态。在空闲状态时,类似“休眠”,等待任务;处理运行状态时,表示正在运行任务(Runnable)。

辅助线程:主要负责监控线程池的状态:空闲线程是否超过最大空闲线程数或者小于最小空闲线程数等。如果不满足要求,就调整之。

二.线程池的原理(类似于操作系统中缓存的概念):

先启动若干数量的线程,并让这些线程都处于睡眠 状态,当客户端有一个新请求时,就会唤醒线程池中的某一个睡眠线程,让它来处理客户端的这个请求,当处理完这个请求后,线程又处于睡眠状态。

为什么要搞得这么麻烦,如果每当客户端有新的请求时,我就创建一个新的线程不就完了?这也许是个不错的方法,因为它能使得你编写代码相对容易一些,但 你却忽略了一个重要的问题??性能!高峰期每秒的客户端请求并发数超过100,如果 为每个客户端请求创建一个新线程的话,那耗费的CPU时间和内存将是惊人的,如果采用一个拥有200个线程的线程池,那将会节约大量的的系统资源,使得更 多的CPU时间和内存用来处理实际的商业应用,而不是频繁的线程创建与销毁。 

三.tomcat线程池的配置(使用线程池,用较少的线程处理较多的访问,提高tomcat的处理能力):

1.vim tomcat/conf/server.xml

将注释的线程池打开:

        maxThreads="500" minSpareThreads="5" maxIdleTime="60000" prestartminSpareThreads="true" maxQueueSize="100" />

参数详情介绍:

name: 线程名称

namePrefix: 线程前缀

maxThreads : 最大并发连接数,不配置时默认200,一般建议设置500~ 800 ,要根据自己的硬件设施条件和实际业务需求而定。 

minSpareThreads:Tomcat启动初始化的线程数,默认值25

maxSpareThreads:最多备用线程数,一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程

prestartminSpareThreads:在tomcat初始化的时候就初始化minSpareThreads的值,不设置为true

maxQueueSize: 最大的等待队列数,超过则拒绝请求

maxIdleTime:默认线程最大空闲时间60秒。 如果一个线程在60秒以内没有活跃,则终止运行并从线程池中移除。除非线程池数量小于或等于minSpareThreads数量

2.

              connectionTimeout="20000" enableLookups="false"    acceptCount="100"   maxPostSize="10485760"  compression="on"  compressionMinSize="2048"  

        noCompressionUserAgents="gozilla, traviata"  

compressableMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript"  

              redirectPort="8443" />

1)需要添加线程池的名称-----executor="tomcatThreadPool"

以上线程池配置修改成功,需要重新启动tomcat。

Tomcat的并发请求处理数量=maxThreads + acceptCount

参数介绍:

executor:线程池的名称

port:连接端口

protocol:协议 --->bio,nio,apr(下面会详细介绍)

enableLookups:禁止DNS查询

acceptCount:指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理,默认设置 100 

maxPostSize:限制 以FORM URL 参数方式的POST请求的内容大小,单位字节,默认是 2097152(2兆),10485760 为 10M。 

缓存优化:

 compression:压缩传输,压缩会增加Tomcat负担,最好采用Nginx + Tomcat 或者 Apache + Tomcat 方式,压缩交由Nginx/Apache 去做

compressionMinSize:压缩的大小

noCompressionUserAgents:不启用压缩的浏览器 ,gozilla, traviata

compressableMimeType:压缩文件类型

URIEncoding URL统一编码

压缩小计:Tomcat 的压缩是在客户端请求服务器对应资源后,从服务器端将资源文件压缩,再输出到客户端,由客户端的浏览器负责解压缩并浏览。相对于普通的 浏览过程 HTML、CSS、Javascript和Text,它可以节省40% 左右的流量。更为重要的是,它可以对动态生成的,包括CGI、PHP、JSP、ASP、Servlet,SHTML等输出的网页也能进行压缩,压缩效率也很高。

四.tomcat3种运行模式(即配置文件中的协议):

1.bio---------配置的内容:HTTP/1.1

同步阻塞IO(JAVA BIO):同步并阻塞,服务器实现模式为一个连接一个线程(one connection one thread 想想都觉得恐怖,线程可是非常宝贵的资源),当然可以通过线程池机制改善.默认模式,性能非常低下,没有经过任何优化处理

BIO方式适用于连接数目比较小且固定的架构,这种方式对服务器资源要求比较高,并发局限于应用中,JDK1.4以前的唯一选择,但程序直观简单易理解

2.nio

是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能

nio---->org.apache.coyote.http11.Http11NioProtocol

JAVA NIO:又分为同步非阻塞IO,异步阻塞IO 与BIO最大的区别one request one thread.可以复用同一个线程处理多个connection(多路复用)

NIO方式适用于连接数目多且连接比较短(轻操作)的架构,比如聊天服务器,并发局限于应用中,编程比较复杂,JDK1.4开始支持

nio2---->org.apache.coyote.http11.Http11Nio2Protocol

异步非阻塞IO(Java NIO2又叫AIO) 主要与NIO的区别主要是操作系统的底层区别.可以做个比喻:比作快递,NIO就是网购后要自己到官网查下快递是否已经到了(可能是多次),然后自己去取快递;AIO就是快递员送货上门了(不用关注快递进度)。

AIO方式使用于连接数目多且连接比较长(重操作)的架构

3.apr-------->Http11AprProtocol:

 APR是从操作系统级别来解决异步的IO问题,大幅度的提高性能.

APR(Apache Portable Runtime)是一个高可移植库,它是Apache HTTP Server 2.x的核心.能更好地和其它本地web技术集成,总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器.

在产品环境中,特别是直接使用Tomcat做WEB服务器的时候,应该使用Tomcat Native来提高其性能.如果不配APR,基本上300个线程狠快就会用满,以后的请求就只好等待.但是配上APR之后,并发的线程数量明显下降,从原来的300可能会马上下降到只有几十,新的请求会毫无阻塞的进来.

在局域网环境测,就算是400个并发,也是一瞬间就处理/传输完毕,但是在真实的Internet环境下,页面处理时间只占0.1%都不到,绝大部分时间都用来页面传输.如果不用APR,一个线程同一时间只能处理一个用户,势必会造成阻塞。所以生产环境下用apr是非常必要的.

4.apr连接器的安装:

软件安装:

apr 安装

tar zxf apr-1.5.2.tar.gz -C /usr/local/src/

cd /usr/local/src/apr-1.5.2/

./configure --prefix=/usr/local/apr && make && make install

apr-utils 安装

tar zxf apr-util-1.5.4.tar.gz -C /usr/local/src/

cd /usr/local/src/apr-util-1.5.4/

./configure --with-apr=/usr/local/apr/ --prefix=/usr/local/apr-utils && make && make install

tomcat-native安装

cd /usr/local/apache-tomcat-7.0.65/bin/

tar zxf tomcat-native.tar.gz

cd tomcat-native-1.1.33-src/jni/native

./configure --with-apr=/usr/local/apr --with-java-home=/usr/local/java/ && make && make install

安装完后记得在 /etc/profile 的JAVA变量后面多加一条APR的环境变量:

export  PATH=$PATH:/usr/loacl/apr/lib

配置修改:

              connectionTimeout="20000"   redirectPort="8443" />

5.连接器的比较

你将面临的tomcat优化2-----线程池-IO优化_第1张图片
连接器的比较

你可能感兴趣的:(你将面临的tomcat优化2-----线程池-IO优化)