nginx 的负载均衡

文章摘自：https://moonbingbing.gitbooks.io/openresty-best-practices/content/index.html

负载均衡（ Load balancing） 是一种计算机网络技术，用来在多个计算机（ 计算机集群） 、网络连接、CPU、磁盘驱动器或其他资源中分配负载，以达到最佳化资源使用、最大化吞吐率、最小化响应时间、同时避免过载的目的。使用带有负载均衡的多个服务器组件，取代单一的组件，可以通过冗余提高可靠性。负载均衡服务通常是由专用软体和硬件来完成。

负载均衡最重要的一个应用是利用多台服务器提供单一服务，这种方案有时也称之为服务器农场。通常，负载均衡主要应用于Web网站，大型的 Internet Relay Chat网络，高流量的文件下载网站，NNTP（ Network News Transfer Protocol） 服务和DNS 服务。现在负载均衡器也开始支持数据库服务，称之为数据库负载均衡器。对于互联网服务，负载均衡器通常是一个软体程序，这个程序侦听一个外部端口，互联网用户可以通过这个端口来访问服务，而作为负载均衡器的软体会将用户的请求转发给后台内网服务器，内网服务器将请求的响应返回给负载均衡器，负载均衡器再将响应发送到用户，这样就向互联网用户隐藏了内网结构，阻止了用户直接访问后台（ 内网） 服务器，使得服务器更加安全，可以阻止对核心网络栈和运行在其它端口服务的攻击。当所有后台服务器出现故障时，有些负载均衡器会提供一些特殊的功能来处理这种情况。例如转发请求到一个备用的负载均衡器、显示一条关于服务中断的消息等。负载均衡器使得IT团队可以显著提高容错能力。它可以自动提供大量的容量以处理任何应用程序流量的增加或减少。

upstream test.net{
        ip_hash;
        server 192.168.10.13:80;
        server 192.168.10.14:80 down;
        server 192.168.10.15:8009 max_fails=3 fail_timeout=20s;
        server 192.168.10.16:8080;
} 
server {
        location / {
        proxy_pass http://test.net;
}

upstream 是 Nginx 的 HTTP Upstream 模块，这个模块通过一个简单的调度算法来实现客户端 IP 到后端服务器的负载均衡。在上面的设定中，通过 upstream 指令指定了一个负载均衡器的名称 test.net 。这个名称可以任意指定，在后面需要用到的地方直接调用即可。

upstream 支持的负载均衡算法
Nginx 的负载均衡模块目前支持6种调度算法，下面进行分别介绍，其中后两项属
于第三方调度算法。
~轮询（ 默认） ：每个请求按时间顺序逐一分配到不同的后端服务器，如果后端某台服务器宕机，故障系统被自动剔除，使用户访问不受影响。Weight指定轮询权值，Weight值越大，分配到的访问机率越高，主要用于后端每个服务器性能不均的情况下。
~ip_hash：每个请求按访问IP的hash结果分配，这样来自同一个IP的访客固定访问一个后端服务器，有效解决了动态网页存在的session共享问题。
~fair：这是比上面两个更加智能的负载均衡算法。此种算法可以依据页面大小和加载时间长短智能地进行负载均衡，也就是根据后端服务器的响应时间来分配请求，响应时间短的优先分配。Nginx本身是不支持fair的，如果需要使用这种调度算法，必须下载Nginx的upstream_fair模块。
~url_hash：此方法按访问 url 的 hash结果来分配请求，使每个url定向到同一个后端服务器，可以进一步提高后端缓存服务器的效率。Nginx本身是不支持url_hash的，如果需要使用这种调度算法，必须安装Nginx的hash软件包。
~least_conn：最少连接负载均衡算法，简单来说就是每次选择的后端都是当前最少连接的一个server(这个最少连接不是共享的，是每个worker都有自己的
一个数组进行记录后端 server的连接数)。
~hash：这个 hash模块又支持两种模式hash,一种是普通的 hash, 另一种是一
致性 hash(consistent)。

upstream 支持的状态参数
在 HTTP Upstream 模块中，可以通过server指令指定后端服务器的IP地址和端口，同时还可以设定每个后端服务器在负载均衡调度中的状态。常用的状态有：
down：表示当前的server暂时不参与负载均衡。
backup：预留的备份机器。当其他所有的非backup机器出现故障或者忙的时候，才会请求backup机器，因此这台机器的压力最轻。
max_fails：允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream模块定义的错误。
fail_timeout：在经历了max_fails次失败后，暂停服务的时间。max_fails可以和fail_timeout一起使用。
当负载调度算法为 ip_hash 时，后端服务器在负载均衡调度中的状态不能是backup