Nginx进行反向代理实现支持长连接的方法简介

前言
　　Nginx upstream与后端的连接默认为短连接，通过HTTP/1.0向后端发起连接，并把请求的"Connection" header设为"close"。Nginx与前端的连接默认为长连接，一个用户跟Nginx建立连接之后，通过这个长连接发送多个请求。如果Nginx只是作为reverse proxy的话，可能一个用户连接就需要多个向后端的短连接。如果后端的服务器（源站或是缓存服务器）处理并发连接能力不强的话，就可能导致瓶颈的出现。
　　Nginx目前的upstream连接建立和获取的机制如下图。Nginx会在一开始创建connection pool（进程间不共享，可以避免锁），提供给所有向前/后的连接。

　　如果要实现upstream长连接，则每个进程需要另外一个connection pool，里面都是长连接。一旦与后端服务器建立连接，则在当前请求连接结束之后不会立即关闭连接，而是把用完的连接保存在一个keepalive connection pool里面，以后每次需要建立向后连接的时候，只需要从这个连接池里面找，如果找到合适的连接的话，就可以直接来用这个连接，不需要重新创建socket或者发起connect()。这样既省下建立连接时三次握手的时间消耗，又可以避免TCP连接的slow start。如果在keepalive连接池找不到合适的连接，那就按照原来的步骤重新建立连接。假设连接查找时间可以忽略不计，那么这种方法肯定是有益而无害的（当然，需要少量额外的内存）。

　　具体如何来设计这个keepalive connection pool，不同人有不同的选择。比如Nginx目前的第三方模块upstream keepalive（作者Maxim Dounin）使用了一个queue来做。因为upstream的服务器很可能是多个，所以可能当保持的连接数多的时候，查找的时间可能会较长。可以给每个upstream服务器都分配一个pool（queue），缩短查找时间。但是总体来说内存操作很快，影响不会很大。upstream keepalive模块目前只支持memcached，但是可以重用其代码来达到对http upstream的长连接。由于Nginx作者之前没有考虑upstream的长连接，所以在设计上要把http upstream keepalive模块化可能比较难，只能通过手动修改代码来做到。百度收录批量查询
　　一个完整的让upstream支持长连接的配置示例如下：
　　#user nobody;
　　worker_processes 1;
　　#error_log logs/error.log;
　　#error_log logs/error.log notice;
　　#error_log logs/error.log info;
　　#pid logs/nginx.pid;
　　events {
　　worker_connections 1024;
　　}
　　http {
　　include mime.types;
　　default_type application/octet-stream;
　　#log_format main '$remote_addr - $remot{e}_{u}ser[$time_local] “KaTeX parse error: Expected 'EOF', got '#' at position 14: request" ' 　　#̲ 'status $bod{y}_{b}yte{s}_{s}ent"$http_referer” ’
　　# ‘“$htt{p}_{u}se{r}_{a}gent""$http_x_forwarded_for”’;
　　#access_log logs/access.log main;
　　client_max_body_size 20M;
　　client_header_buffer_size 32k;
　　large_client_header_buffers 4 32k;
　　sendfile on;
　　#tcp_nopush on;
　　#keepalive_timeout 0;
　　keepalive_timeout 65;
　　#gzip on;
　　proxy_buffer_size 64k;
　　proxy_buffers 32 32k;
　　proxy_busy_buffers_size 128k;
　　upstream aauCfg_backend {
　　server 127.0.0.1:97;
　　keepalive 16;
　　}
　　upstream HFC_backend {
　　server 127.0.0.1:8090;
　　keepalive 16;
　　}
　　upstream manager_backend {
　　server 127.0.0.1:8095;
　　keepalive 16;
　　}
　　server {
　　listen 80;
　　server_name localhost;
　　#charset koi8-r;
　　#access_log logs/host.access.log main;
　　root html/tools;
　　index index.html index.htm index.php;
　　proxy_http_version 1.1;
　　proxy_set_header Connection “”;
　　proxy_set_header Host $host;
　　proxy_set_header X-Real_IP $remote_addr;
　　proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
　　location / {
　　if (!-e KaTeX parse error: Expected '}', got '#' at position 23: …_filename) { 　　#̲rewrite ^/(.*) /index.php/KaTeX parse error: Expected 'EOF', got '#' at position 11: 1 last; 　　#̲break; 　　rewrit… /index.php/KaTeX parse error: Expected 'EOF', got '}' at position 6: 1; 　　}̲ 　　} 　　location… {
　　expires max;
　　log_not_found off;
　　}
　　location ^—— /aauCfg/ {
　　#proxy_pass http://$remot{e}_{a}ddr:97$request_uri;
　　proxy_pass http://aauCfg_backend;
　　}
　　location ^—— /HFC/ {
　　#proxy_pass http://$remot{e}_{a}ddr:8090$request_uri;
　　proxy_pass http://HFC_backend;
　　}
　　location ^—— /manager/ {
　　#proxy_pass http://$remot{e}_{a}ddr:8095$request_uri;
　　proxy_pass http://manager_backend;
　　}
　　#error_page 404 /404.html;
　　# redirect server error pages to the static page /50x.html
　　#
　　error_page 500 502 503 504 /50x.html;
　　location = /50x.html {
　　root html;
　　}
　　# proxy the PHP scripts to Apache listening on 127.0.0.1:80
　　#
　　#location —— .php$ {
　　# proxy_pass http://127.0.0.1;
　　#}
　　# pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
　　#
　　#location —— .php$ {
　　# fastcgi_pass 127.0.0.1:9000;
　　# fastcgi_index index.php;
　　# fastcgi_param SCRIPT_FILENAME $documen{t}_{r}oot$fastcgi_script_name;
　　# include fastcgi_params;
　　#}
　　location —— .php
　　{
　　fastcgi_pass 127.0.0.1:9000;
　　fastcgi_index index.php;
　　fastcgi_param SCRIPT_FILENAME $documen{t}_{r}oot$fastcgi_script_name;
　　include fastcgi.conf;
　　include fastcgi_params;
　　#定义变量 $path_info ，用于存放pathinfo信息
　　set $path_info “”;
　　#定义变量 $real_script_name，用于存放真实地址
　　set $real_script_name KaTeX parse error: Expected 'EOF', got '#' at position 24: …script_name; 　　#̲如果地址与引号内的正则表达式匹…fastcgi_script_name —— “^(.+?.php)(/.+)$”) {
　　#将文件地址赋值给变量 $real_script_name
　　set $real_script_name $1;
　　#将文件地址后的参数赋值给变量 $path_info
　　set $path_info $2;
　　}
　　#配置fastcgi的一些参数
　　fastcgi_param SCRIPT_FILENAME $documen{t}_{r}oot$real_script_name;
　　fastcgi_param SCRIPT_NAME $real_script_name;
　　fastcgi_param PATH_INFO $path_info;
　　}
　　# deny access to .htaccess files, if Apache’s document root
　　# concurs with nginx’s one
　　#
　　#location —— /.ht {
　　# deny all;
　　#}
　　}
　　# another virtual host using mix of IP-, name-, and port-based configuration
　　#
　　#server {
　　# listen 8000;
　　# listen somename:8080;
　　# server_name somename alias another.alias;
　　# location / {
　　# root html;
　　# index index.html index.htm;
　　# }
　　#}
　　# HTTPS server
　　#
　　#server {
　　# listen 443 ssl;
　　# server_name localhost;
　　# ssl_certificate cert.pem;
　　# ssl_certificate_key cert.key;
　　# ssl_session_cache shared:SSL:1m;
　　# ssl_session_timeout 5m;
　　# ssl_ciphers HIGH:!aNULL:!MD5;
　　# ssl_prefer_server_ciphers on;
　　# location / {
　　# root html;
　　# index index.html index.htm;
　　# }
　　#}
　　}