nginx+tomcat+memcached负载均衡集群搭建详细笔记(上)
忙了三天，终于把nginx+tomcat+memcached负载均衡集群搭建成功，真的非常兴奋，在此和大家一起分享一下我的成果，希望对大家今后的学习有所帮助，哈哈！首先我强调的是我用的操作系统是CentOS6.4，而且开的是一个VMWARE,其实也没什么影响，但是在Ubuntu下搭建的话，就可能有些许不一样，在centos下我们需要手动去下载一些额外的资源文件。好了，说了这么多，咱们开始吧
！
前言：本文档主要讲解，如何在CentOS6.4下搭建Nginx+Tomcat+Memcached负载均衡集群服务器。
（1）Nginx负责负载均衡。
（2）Tomcat负责实际服务。
（3）Memcached负责同步Tomcat的Session，达到Session共享的目的。
1、首先我们来安装一下JDK吧，这不是必须要放在第一步，只是我自己之前在学习hadoop时就已经安装了JDK。
我使用的JDK版本：jdk-6u24-linux-i586.bin（下载地址：JDK下载）
1.1将下载好的JDK放进 local/usr/文件路径下（我所有下载的.tar.gz和.bin文件都是放在该路径下的，以便于以后查找），如果你用的是VMWARE，你可以使用WinSCP来将要传送的文件复制到该路径下即可。
1.2然后使用linux命令解压
tar -zvxf jdk-6u24-linux-i586.bin
1.3安装完成之后，我将其重命名为jdk，只是这样看着比较舒服
mv jdk-6u24-linux-i586 jdk
1.4接着我们编辑/etc/profile,输入linux命令
gedit /etc/profile
1.5编辑profile文件，添加以下文本
export JAVA_HOME=/usr/local/jdk export PATH=$PATH:$JAVA_HOME/bin
1.6验证jdk是否安装成功
java -version
2、安装nginx
Nginx官网：http://nginx.org/
在安装Nginx之前，需要先安装gcc、 openssl、 pcre和zlib软件库，这些貌似在Ubuntu下有些就不需要安装的，根据你自己的需要进行安装。
首先我们来谈一下如果缺少这些问题会报哪些错误以及解决方案：
1）缺少pcre library
./configure: error: the HTTP rewrite module requires the PCRE library. You can either disable the module by using --without-http_rewrite_module option, or install the PCRE library into the system, or build the PCRE library statically from the source with nginx by using --with-pcre=<path> option.
当执行./configure的时候会抛出说缺少PCRE library 这个是HTTP Rewrite 模块，也即是url静态化的包
所以首先我们要安装这个东西 PCRE下载PCRE ，我选择的是pcre-8.36.tar.gz版本
# tar zxvf pcre-8.36.tar.gz # ./configure # make # make install
2）缺少gcc-c++，也就是c++编译包
libtool: compile: unrecognized option `-DHAVE_CONFIG_H'
libtool: compile: Try `libtool --help' for more information.
make[1]: *** [pcrecpp.lo] Error 1
make[1]: Leaving directory `/usr/local/src//pcre-8.31'
make: *** [all] Error 2root@wolfdog-virtual-machine:~/work/pcre-8.12$ libtool -help -DHAVE_CONFIG_H
The program 'libtool' is currently not installed. You can install it by typing:
sudo apt-get install libtool
在线安装：输入命令：
yum install libtool
再输入：
yum install gcc-c++
3）缺少openssl库
./configure: error: the HTTP cache module requires md5 functions
from OpenSSL library. You can either disable the module by using
--without-http-cache option, or install the OpenSSL library into the system,
or build the OpenSSL library statically from the source with nginx by using
--with-http_ssl_module --with-openssl=<path> options.
openssl官网：openssl下载
在线安装：
yum install openssl libssl-dev libperl-dev
4）缺少zlib库
./configure: error: the HTTP gzip module requires the zlib library.
You can either disable the module by using --without-http_gzip_module
option, or install the zlib library into the system, or build the zlib library
statically from the source with nginx by using --with-zlib=<path> option.
zlib官网：下载zlib
在线安装：
yum install zlib yum install zlib-devel
2.1接着安装nginx，版本为：nginx-1.7.9.tar.gz
# ./configure
# make
# sudo make install
1)解压
tar -zxvf nginx-1.7.9.tar.gz
cd nginx-1.7.9
# ./configure # make # make install
2.2安装完之后我们就可以在nginx的conf文件夹下面创建一个proxy.conf文件，配置一些代理参数
$cd /usr/local/nginx/conf $sudo touch proxy.conf
#!nginx (-) # proxy.conf proxy_redirect off; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; #获取真实ip #proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; #获取代理者的真实ip client_max_body_size 10m; client_body_buffer_size 128k; proxy_connect_timeout 90; proxy_send_timeout 90; proxy_read_timeout 90; proxy_buffer_size 4k; proxy_buffers 4 32k; proxy_busy_buffers_size 64k; proxy_temp_file_write_size 64k;
2.3接着，我们要编辑nginx.conf文件
gedit nginx.conf
写上基本配置：
#运行nginx所在的用户名和用户组
#user www www;
#启动进程数
worker_processes 8;
#全局错误日志及PID文件
error_log /usr/local/nginx/logs/nginx_error.log crit;
pid /usr/local/nginx/nginx.pid;
#Specifies the value for maximum file descriptors that can be opened by this process.
worker_rlimit_nofile 65535;
#工作模式及连接数上限
events
{
use epoll;
worker_connections 65535;
}
#设定http服务器，利用它的反向代理功能提供负载均衡支持
http
{
#设定mime类型
include mime.types;
default_type application/octet-stream;
include /usr/local/nginx/conf/proxy.conf;
#charset gb2312;
#设定请求缓冲
server_names_hash_bucket_size 128;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 8m;
sendfile on;
tcp_nopush on;
keepalive_timeout 60;
tcp_nodelay on;
# fastcgi_connect_timeout 300;
# fastcgi_send_timeout 300;
# fastcgi_read_timeout 300;
# fastcgi_buffer_size 64k;
# fastcgi_buffers 4 64k;
# fastcgi_busy_buffers_size 128k;
# fastcgi_temp_file_write_size 128k;
# gzip on;
# gzip_min_length 1k;
# gzip_buffers 4 16k;
# gzip_http_version 1.0;
# gzip_comp_level 2;
# gzip_types text/plain application/x-javascript text/css application/xml;
# gzip_vary on;
#limit_zone crawler $binary_remote_addr 10m;
###禁止通过ip访问站点
server{
server_name _;
return 404;
}
server
{
listen 80;
server_name localhost;
index index.html index.htm index.jsp;#设定访问的默认首页地址
root /home/www/web/ROOT;#设定网站的资源存放路径
#limit_conn crawler 20;
location ~ .*.jsp$ #所有jsp的页面均交由tomcat处理
{
index index.jsp;
proxy_pass http://localhost:8080;#转向tomcat处理
}
location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$ #设定访问静态文件直接读取不经过tomcat
{
expires 30d;
}
location ~ .*\.(js|css)?$
{
expires 1h;
}
#定义访问日志的写入格式
log_format access '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" $http_x_forwarded_for';
access_log /usr/local/nginx/logs/localhost.log access;#设定访问日志的存放路径
}
}
2.4然后我们运行linux命令
#/usr/local/nginx/sbin/nginx -t
如果屏幕显示以下两行信息，说明配置文件正确：
the configuration file /usr/local/nginx/conf/nginx.conf syntax is okthe configuration file /usr/local/nginx/conf/nginx.conf was tested successfull
error while loading shared libraries: libpcre.so.1: cannot open shared object file: No such file or directory解决方法：
# ln -s /usr/local/lib/libpcre.so.1 /lib64
32位系统则：
ln -s /usr/local/lib/libpcre.so.1 /lib
注：
/usr/local/lib/libpcre.so.1 为prce安装后的文件地址
低版本prce对应的libpcre.so.1 为libpcre.so.0
2.5启动与关闭Nginx
1）启动
#/usr/local/nginx/sbin/nginx
重启：
/usr/local/nginx/sbin/nginx -s reload
2）关闭
#/usr/local/nginx/sbin/nginx -s stop或：
ps -ef | grep nginx找到主进程ID，然后kill即可，如：
# kill -9 [进程号]
好了，这样nginx就安装好了。
(3)检查是否启动成功：
netstat -ano " grep80 "有结果输入说明启动成功
打开浏览器访问此机器的 IP，如果浏览器出现Welcome to nginx! 则表示 Nginx 已经安装并运行成功。如果已经配置了负载均衡服务器，则会看Tomcat中的网站页面
3、安装memcached
Memcached官网：点击进入3.1由于memcached安装时，需要使用libevent类库，所以先安装libevent 下载地址：点击进入
我下载的是版本：libevent-1.4.14b-stable.tar.gz
3.2解压：
libevent-1.4.14b-stable.tar.gz3.3进入
cd libevent-1.4.14b-stable3.4编译安装（默认安装到/usr/local/lib/目录）
# ./configure # make # make install3.5安装memcached, memcached下载网址: http://www.danga.com/memcached/download.bml
1. 解压缩
tar xzfv memcached-1.4.22.tar.gz
2. 进入到 memcached-1.4.22目录
cd memcached-1.4.22
3. 编译，安装
./configure --prefix=/local/memcached
make
make install
安装完成后，会在 /local/memcached 出现 bin和share目录
进行 bin目录，启动 memcache
方法如下:
./memcached -d -u nobody -m 512 127.0.0.1 -p 11211
此时，会报一个异常
error while loading shared libraries: libevent-1.4.so.2: cannot open shared object file: No such file or directory
原因是找不到libevent-1.4.so.2类库，解决办法如下：
使用LD_DEBUG=help ./memcached -v来确定 加载的类库路径,方法如下:
LD_DEBUG=libs ./memcached -v 2>&1 > /dev/null | less
则系统会显示:
linux:/local/memcached/bin # LD_DEBUG=libs ./memcached -v 2>&1 > /dev/null | less
20421: find library=libevent-1.4.so.2; searching
20421: search cache=/etc/ld.so.cache
20421: search path=/lib/tls/i686/sse2:/lib/tls/i686:/lib/tls/sse2:/lib/tls:/lib/i686/sse2:/lib/i686:/lib/sse2:/lib:/usr/lib/tls/i686
/sse2:/usr/lib/tls/i686:/usr/lib/tls/sse2:/usr/lib/tls:/usr/lib/i686/sse2:/usr/lib/i686:/usr/lib/sse2:/usr/lib (system search path)
20421: trying file=/lib/tls/i686/sse2/libevent-1.4.so.2
20421: trying file=/lib/tls/i686/libevent-1.4.so.2
20421: trying file=/lib/tls/sse2/libevent-1.4.so.2
20421: trying file=/lib/tls/libevent-1.4.so.2
20421: trying file=/lib/i686/sse2/libevent-1.4.so.2
20421: trying file=/lib/i686/libevent-1.4.so.2
20421: trying file=/lib/sse2/libevent-1.4.so.2
20421: trying file=/lib/libevent-1.4.so.2
20421: trying file=/usr/lib/tls/i686/sse2/libevent-1.4.so.2
20421: trying file=/usr/lib/tls/i686/libevent-1.4.so.2
20421: trying file=/usr/lib/tls/sse2/libevent-1.4.so.2
20421: trying file=/usr/lib/tls/libevent-1.4.so.2
20421: trying file=/usr/lib/i686/sse2/libevent-1.4.so.2
20421: trying file=/usr/lib/i686/libevent-1.4.so.2
20421: trying file=/usr/lib/sse2/libevent-1.4.so.2
20421: trying file=/usr/lib/libevent-1.4.so.2
20421:
./memcached: error while loading shared libraries: libevent-1.4.so.2: cannot open shared object file: No such file or directory
我们看到，memcached会到很多地方去找，所以根据其它求，我们只需建一个软链接，指定到我们安装的类库上即可方法如下： ln -s /usr/local/lib/libevent-1.4.so.2 /lib/libevent-1.4.so.2 现在可以正常启动memcached了 ./memcached -d -u nobody -m 512 127.0.0.1 -p 11211memcache启动参数说明:
安装好了就可以使用memcached了,下面我用一种最简单的官方提供的方法java_memcached_releas
可以到这里去下载https://github.com/gwhalin/Memcached-Java-Client/downloads
1)工具类
package org.memcached.dhp.test;
import java.util.Date;
import com.danga.MemCached.MemCachedClient;
import com.danga.MemCached.SockIOPool;
/**
*
* <pre><b>功能描述：</b>Memcached的 工具类
*
* @author xie)<br>
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public final class MemcachedUtil {
/**
* <b>构造函数：工具类,禁止实例化</b>
*
*/
private MemcachedUtil() {
}
// 创建全局的唯一实例
private static MemCachedClient mcc = new MemCachedClient();
/**
* 自身实例
*/
private static MemcachedUtil memcachedUtil = new MemcachedUtil();
// 设置与缓存服务器的连接池
static {
// 服务器列表和其权重
String[] servers = {"192.168.13.100:11211" };// Ip地址和端口号
// 权重
Integer[] weights = {3 };
// 获取socket连接池的实例对象
SockIOPool pool = SockIOPool.getInstance();
// 设置服务器信息
pool.setServers(servers);
pool.setWeights(weights);
// 设置初始连接数、最小和最大连接数以及最大处理时间
pool.setInitConn(5);
pool.setMinConn(5);
pool.setMaxConn(250);
pool.setMaxIdle(1000 * 60 * 60 * 6);
// 设置主线程的睡眠时间
pool.setMaintSleep(30);
// 设置TCP的参数，连接超时等
pool.setNagle(false);
pool.setSocketTO(3000);
pool.setSocketConnectTO(0);
// 初始化连接池
pool.initialize();
// 压缩设置，超过指定大小（单位为K）的数据都会被压缩
// mcc.setCompressEnable(true);
// mcc.setCompressThreshold(64 * 1024);
mcc.setPrimitiveAsString(true); // 设置序列化
}
/**
*
* <pre><b>功能描述：</b>获取唯一实例.
*
* @author ：xiezhaodong
* <b>创建日期 ：</b>2012-4-25 上午10:57:41
*
* @return
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public static MemcachedUtil getInstance() {
return memcachedUtil;
}
/**
*
* <pre><b>功能描述：</b>新增一个缓存数据
*
* @author ：xiezhaodong
* <b>创建日期 ：</b>2012-4-25 上午10:55:15
*
* @param key 缓存的key
* @param value 缓存的值
* @return 操作结果
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public boolean add(String key, Object value) {
// 不会存入缓存
return mcc.add(key, value);
// return mcc.set(key, value);
}
/**
*
* <pre><b>功能描述：</b>新增一个缓存数据
*
* @author ：xiezhaodong
* <b>创建日期 ：</b>2012-4-25 上午10:56:15
*
* @param key 缓存的key
* @param value 缓存的值
* @param expiry 缓存过期的时间
* @return 操作结果
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public boolean add(String key, Object value, Date expiry) {
// 不会存入缓存
return mcc.add(key, value, expiry);
// return mcc.set(key, value, expiry);
}
/**
* <pre><b>功能描述：</b>替换已有的缓存数据
*
* @author ：xiezhaodong
* <b>创建日期 ：</b>2012-4-25 上午10:55:34
*
* @param key 设置对象的key
* @return Object 设置对象的值
* @return 是否替换成功
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public boolean replace(String key, Object value) {
return mcc.replace(key, value);
}
/**
*
* <pre><b>功能描述：</b>替换已有的缓存数据
*
* @author ：xiezhaodong
* <b>创建日期 ：</b>2012-4-25 上午10:43:17
*
* @param key 设置对象的key
* @return Object 设置对象的值
* @param expiry 过期时间
* @return 是否替换成功
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public boolean replace(String key, Object value, Date expiry) {
return mcc.replace(key, value, expiry);
}
/**
*
* <pre><b>功能描述：</b>根据指定的关键字获取对象
*
* @author ：xiezhaodong
* <b>创建日期 ：</b>2012-4-25 上午10:42:49
*
* @param key 获取对象的key
* @return Object 对象值
*
* <b>修改历史：</b>(修改人，修改时间，修改原因/内容)
*
* </pre>
*/
public Object get(String key) {
return mcc.get(key);
}
}
2)对象，必须实现序列化接口
package org.memcached.dhp.test;
import java.io.Serializable;
public class Employee implements Serializable {
/**
* serialVersionUID
*/
private static final long serialVersionUID = -271486574863799175L;
/**
* 员工名字
*/
private String EmpName;
/**
* 部门名
*/
private String deptName;
/**
* 公司名
*/
private String companyName;
/**
*
* <b>构造函数：</b>
*
*/
public Employee() {
}
/**
* Access method for the empName property
*
* @return the empName
*/
public String getEmpName() {
return EmpName;
}
/**
* Sets the value of empName the property
*
* @param empName the empName to set
*/
public void setEmpName(String empName) {
EmpName = empName;
}
/**
* Access method for the deptName property
*
* @return the deptName
*/
public String getDeptName() {
return deptName;
}
/**
* Sets the value of deptName the property
*
* @param deptName the deptName to set
*/
public void setDeptName(String deptName) {
this.deptName = deptName;
}
/**
* Access method for the companyName property
*
* @return the companyName
*/
public String getCompanyName() {
return companyName;
}
/**
* Sets the value of companyName the property
*
* @param companyName the companyName to set
*/
public void setCompanyName(String companyName) {
this.companyName = companyName;
}
} 3)
测试类
package org.memcached.dhp.test;
public class MemcachedUtilTest {
public static void main(String[] args) {
//add();
print();
}
private static void print() {
MemcachedUtil cache = MemcachedUtil.getInstance();
Employee emp=(Employee) cache.get("emp");
System.out.println("name:"+emp.getCompanyName());
System.out.println("dep:"+emp.getDeptName());
System.out.println("emp:"+emp.getEmpName());
}
private static void add() {
MemcachedUtil cache = MemcachedUtil.getInstance();
Employee emp = new Employee();
emp.setCompanyName("Kevin's Company");
emp.setDeptName("R&D Dept");
emp.setEmpName("Kevin");
cache.add("emp", emp);
}
}
小结：今天太累了，写不动了，下一篇我将和大家分享Tomcat+memcached配置，实现session共享，敬请期待吧~