负载均衡--Nginx

准备三台服务器
192.168.1.100 负载均衡服务器
192.168.1.101 应用服务器1
192.168.1.102 应用服务器2
1、2都部署相同应用程序

Nginx负载均衡策略

nginx的负载均衡用于upstream模板定义的后端服务器列表中选取一台服务器接收用户的请求。一个基本的upstream模块如下：

upstream [服务器组名称]{
　　server [IP地址]:[端口号];
　　server [IP地址]:[端口号];
　　....
}

在upstream模块配置完成后，要让指定的访问反向代理到服务器列表，格式如下：

location / {
　　proxy_pass http://[服务器组名称];
}

这样就完成了最基本的负载均衡，但是这并不能满足实际需求。

目前Nginx的upstream模块支持6种方式的负载均衡策略（算法）：轮询（默认方式）、weight（权重方式）、ip_hash（依据ip分配方式）、least_conn（最少连接方式）、fair（第三方提供的响应时间方式）、url_hash（第三方通过的依据URL分配方式）。

1️⃣ 轮询
最基本的配置方法，是upstream模块的默认负载均衡策略。每个请求会按时间顺序平均分配到不同的后端服务器。可以添加以下参数：

image.png

注意：1.down标记的服务器会自动剔除；2.缺省就是轮询；3.此策略适合服务器配置无状态且短平块的服务使用

2️⃣weight 权重
权重方式，在轮询策略的基础上指定轮询的几率。也可以认为是在轮询的基础上新增了一个weight的参数，此参数指定轮询的几率，值为number。upstream模块配置模板如下：

upstream [服务器组名称]{
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

在该例子中，没有weight参数的服务器默认为1，weight的数值与访问比例成正比，所有weight值的总和为一个循环单位，服务器自身的weight值为循环单位内的轮询次数。

注意：1.权重越高分配到的请求越多；2.此策略可以和least_conn策略、iphash策略结合使用；3.此策略比较适合服务器硬件配置差距较大的情况。

3️⃣ip_hash
　　依据ip分配方式，指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端请求一致发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。upstream模块配置模板如下：

upstream [服务器组名称]{
　　ip_hash;
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

注意：1.nginx1.3.1之前的版本不能在ip_hash中使用权重（weight）；2..ip_hash不能与backup同时使用；3.此策略适合有状态服务的程序，比如session；4.当有服务器需要剔除，必须手动down掉。

4️⃣ least_conn
最少连接方式，把请求发给链接数最少的后端服务器。轮询是把请求平均分配给各个后端，使它们的负载大致相同。但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果。upstream模块配置模板如下：

upstream [服务器组名称]{
　　least_conn;
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

注意：此策略适合请求处理时间长短不一造成的服务器过载情况。

5️⃣fair
响应时间方式，按照服务器端的响应时间来分配请求，响应时间短的优先分配。upstream模块配置模板如下：

upstream [服务器组名称]{
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
　　fair;
}

注意：需要安装第三方插件。参考：https://blog.csdn.net/qq_33337927/article/details/97953489
https://www.cnblogs.com/xiaohanlin/p/9904487.html

6️⃣ url_hash

一般来讲，要用到url_hash，是要配合缓存命中来使用。举一个我遇到的实例：有一个服务器集群A，需要对外提供文件下载，由于文件上传量巨大，没法存储到服务器磁盘中，所以用到了第三方云存储来做文件存储。服务器集群A收到客户端请求之后，需要从云存储中下载文件然后返回，为了省去不必要的网络带宽和下载耗时，在服务器集群A上做了一层临时缓存（缓存一个月）。由于是服务器集群，所以同一个资源多次请求，可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。在此类场景下，为了使得缓存命中率提高，很适合使用url_hash策略，同一个url（也就是同一个资源请求）会到达同一台机器，一旦缓存住了资源，再此收到请求，就可以从缓存中读取，既减少了带宽，也减少的下载时间。

upstream somestream {
    hash $request_uri;
    server 192.168.244.1:8080;
    server 192.168.244.2:8080;
    server 192.168.244.3:8080;
    server 192.168.244.4:8080;
 
}
server {
    listen 8081 default;
    server_name test.csdn.net;
    charset utf-8;
    location /get {
    proxy_pass http://somestream;
 
    }  
}

同样配置了upstream模块，hash $request_uri表明了是按照url规则进行hash策略。