使用nginx+Apache负载均衡及动静分离
介绍
LB负载均衡集群分两类： LVS （四层）和 nginx或haproxy （七层）
客户端都是通过访问分发器的VIP来访问网站 在七层中的网站页面有： .php .html .png .jpeg .jsp 等， 有动态页面有静态页面。 需要在应用层基于不同的应用进行分发。
一：实验拓扑图：
二：实验目标
实战：使用Apache+nginx实现动静分离的负载均衡集群
三：实验环境
主机作用分类 |
主机名 |
IP地址 |
安装软件 |
Nginx，代理服务器 |
xuegod63.cn |
192.168.1.63 |
nginx-1.8.0.tar.gz |
Apache，静态页面处理 |
xuegod62.cn |
192.168.1.62 |
http |
Apache，静态页面处理 |
xuegod64.cn |
192.168.1.64 |
http |
Apache，动态页面处理 |
xuegod62.cn |
192.168.1.62 |
http |
Apache，动态页面处理 |
xuegod64.cn |
192.168.1.64 |
http |
Apache，图片处理 |
xuegod62.cn |
192.168.1.62 |
http |
Apache，图片处理 |
xuegod64.cn |
192.168.1.64 |
http |
四：实验代码
1、配置分发器xuegod63（代理服务器）
1）安装nginx时必须先安装相应的编译工具
[root@xuegod63 ~]#yum -y install gcc gcc-c++ autoconf automake
[root@xuegod63 ~]#yum -y install zlib zlib-devel openssl openssl-devel pcre pcre-devel
zlib: nginx提供gzip模块，需要zlib库支持
openssl:nginx提供ssl功能
pcre:支持地址重写rewrite功能
2）安装nginx：
[root@xuegod63 ~]# tar -zxvf nginx-1.8.0.tar.gz -C /usr/local/src/
[root@xuegod63 ~]# cd /usr/local/src/nginx-1.8.0/
[root@xuegod63 nginx-1.8.0]# ./configure --prefix=/server/nginx-1.8.0 --with-http_dav_module --with-http_stub_status_module --with-http_addition_module --with-http_sub_module --with-http_flv_module --with-http_mp4_module
参数解释：
--with-http_dav_module 启用ngx_http_dav_module支持（增加PUT,DELETE,MKCOL：创建集合,COPY和MOVE方法）默认情冴下为关闭，需编译开启
--with-http_stub_status_module 启用ngx_http_stub_status_module支持（获取nginx自上次启动以来的工作状态）
--with-http_addition_module 启用ngx_http_addition_module支持（作为一个输出过滤器，支持不完全缓冲，分部分响应请求）
--with-http_sub_module 启用ngx_http_sub_module支持（允许用一些其他文本替换nginx响应中的一些文本）
--with-http_flv_module 启用ngx_http_flv_module支持（提供寻求内存使用基于时间的偏移量文件）
--with-http_mp4_module 启用对mp4文件支持（提供寻求内存使用基于时间的偏移量文件）
3）编译和安装：
[root@xuegod63 nginx-1.8.0]#make -j 4
[root@xuegod63 nginx-1.8.0]#make install
4）生成运行nginx的用户：
[root@xuegod63 nginx-1.8.0]# useradd -u 8000 -s /sbin/nologin nginx
5）启动nginx：
[root@xuegod63 /]# /server/nginx-1.8.0/sbin/nginx
[root@xuegod63 nginx-1.8.0]# echo '/server/nginx-1.8.0/sbin/nginx & ' >> /etc/rc.local
6）测试： http://192.168.1.63/
7）nginx服务日常操作： :
（1）测试配置文件是否正确语法：
[root@xuegod63 nginx-1.8.0]# /server/nginx-1.8.0/sbin/nginx -t
nginx: the configuration file /server/nginx-1.8.0/conf/nginx.conf syntax is ok
nginx: configuration file /server/nginx-1.8.0/conf/nginx.conf test is successful
（2）重新加载配置文件
[root@xuegod63 nginx-1.8.0]# /server/nginx-1.8.0/sbin/nginx -s reload
（3）关闭与开启nginx
[root@xuegod63 /]# /server/nginx-1.8.0/sbin/nginx -s stop
[root@xuegod63 /]# /server/nginx-1.8.0/sbin/nginx -s start #没有start参数
nginx: invalid option: "-s start"
7）配置nginx成为分发器，实现动静分离
[root@xuegod63 conf]# cd /server/nginx-1.8.0/conf #配置文件目录
[root@xuegod63 conf]# cp nginx.conf nginx.conf.back #备份一下配置文件
[root@xuegod63 conf]# vim nginx.conf
[root@xuegod63 nginx-1.8.0]# vim /server/nginx-1.8.0/conf/nginx.conf #指定启动nginx用户
改：# user nobody;
为：user nginx nginx;
改：
43 location / {
44 root html;
45 index index.html index.htm; #在location / { 。。。} 中添加以下内容 #定义分发策略
index index.html index.htm;
if ($request_uri ~* \.html$){
proxy_pass http://htmlservers; #匹配到htm静态类型访问的都会转到html服务池中
}
if ($request_uri ~* \.php$){
proxy_pass http://phpservers; #匹配到php动态类型文件直接在nginx服务器上解析了
}
}
如图：
把一下内容注释掉，匹配到php动态类型文件直接在nginx服务器上解析了，不再解析给后端服务器：
如图：
8）在配置文件nginx.conf的最后一行}前，添加以下内容：
upstream htmlservers { #定义静态文件负载均衡服务器组名称
server 192.168.1.62:80;
server 192.168.1.64:80;
}
upstream phpservers{ #定义动态文件负载均衡服务器组名称
server 192.168.1.62:80;
server 192.168.1.64:80;
}
upstream picservers { #定义图片文件负载均衡服务器组名称
server 192.168.1.62:80;
server 192.168.1.64:80;
}
#后期工作中，根据工作中的需要，配置成具体业务的IP地址
如图：
9）重新加载nginx服务器配置文件：
[root@xuegod63 conf]# /server/nginx-1.8.0/sbin/nginx -t
nginx: the configuration file /server/nginx-1.8.0/conf/nginx.conf syntax is ok
nginx: configuration file /server/nginx-1.8.0/conf/nginx.conf test is successful
[root@xuegod63 conf]# /server/nginx-1.8.0/sbin/nginx -s reload
2、配置后端服务器： xuegod62
（1）配置web服务器：
[root@xuegod62 html]# yum install httpd php -y
（2）生成静态测试文件：
root@xuegod62 html]#echo 192.168.1.62 > /var/www/html/index.html
（3）生成动态测试文件：
[root@xuegod62 html]#vim /var/www/html/test.php #写如以下内容：
192.168.1.62-php
phpinfo();
?>
（4）生成图片文件： 上传如下图片，到“xuegod62网站/var/www/html/目录下：
（5）启动apache服务器：
[root@xuegod62 html]# service httpd restart
3、配置后端服务器：xuegod64
（1）配置web服务器：
[root@xuegod64 html]# yum install httpd php -y
（2）生成静态测试文件：
[root@xuegod64 html]#echo 192.168.1.64 > /var/www/html/index.html
（3）生成动态测试文件：
[root@xuegod64 html]#vim /var/www/html/test.php #写如以下内容：
192.168.1.64-php
phpinfo();
?>
（4）生成图片文件： --上传如下图片，到“xuegod64网站/var/www/html/目录下：
（5）重启apache服务器
[root@xuegod64 html]# service httpd restart
4、测试
（1）测试负载均衡及动静分离---静态页面：
=
（2）测试动静分离及负载均衡---动态页面：
（3）测试图片负载均衡：
（4）测试自动剔除坏的节点：
[root@xuegod64 html]# service httpd stop
http://192.168.1.63/pic.jpg
5、测试性能：
扩展： 文件打开数过多
[root@xuegod63 html]# ab -n 1000 -c 1000 http://192.168.1.62/index.html #运行正常
[root@xuegod63 html]# ab -n 2000 -c 2000 http://192.168.1.62/index.html #报错
This is ApacheBench, Version 2.3 <$Revision: 655654 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/
Benchmarking 192.168.1.62 (be patient)
socket: Too many open files (24) # 测试时，一次打开的socket文件太多。
[root@xuegod63 ~]# ulimit -n
1024#系统默认一个进程最多同时允许打开1024的文件
[root@xuegod63 ~]# ulimit -n 10240 #修改默认允许同事打开10240个文件
[root@xuegod63 ~]# ab -n 2000 -c 2000 http://192.168.1.62/index.html
This is ApacheBench, Version 2.3 <$Revision: 655654 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/
Benchmarking 192.168.1.62 (be patient)
Completed 200 requests
Completed 400 requests
.......
Completed 1800 requests
Completed 2000 requests
Finished 2000 requests
Server Software: Apache/2.2.15
Server Hostname: 192.168.1.62
Server Port: 80
Document Path: /index.html
Document Length: 13 bytes
Concurrency Level: 2000
Time taken for tests: 1.119 seconds
Complete requests: 2000
Failed requests: 0
Write errors: 0
Total transferred: 560000 bytes
HTML transferred: 26000 bytes
Requests per second: 1787.69 [#/sec] (mean)
Time per request: 1118.765 [ms] (mean)
Time per request: 0.559 [ms] (mean, across all concurrent requests)
Transfer rate: 488.82 [Kbytes/sec] received
Connection Times (ms)
min mean[+/-sd] median max
Connect: 0 56 216.7 1 1062
Processing: 4 71 161.9 24 670
Waiting: 4 70 161.9 24 670
Total: 16 127 271.1 26 1087
Percentage of the requests served within a certain time (ms)
50% 26
66% 26
75% 27
80% 57
90% 717
95% 727
98% 1085
99% 1086
100% 1087 (longest request)