高并发及其处理方法

1.什么是高并发

高并发是实用技术手段是系统可以并行处理很多请求。

2.常见的高并发处理方法

缓存处理（Redis，Memcached等）

硬件升级（调整服务器CPU，带宽，处理器）

负载均衡（Nginx，Spring Cloud的注册中心等）

性能优调（Mysql，Nginx，Tomcat）

代码处理（设置策略，IP账号限制，验证码处理）

3.QPS（Query Per Second，每秒处理请求数）计算公式

QPS（TPS）= 并发数/平均响应时间

举个栗子：我们假设处理一个业务请求平均响应时间为100ms（0.1秒），同时，系统内有20台Apache的Web服务器，配置MaxClients为500个（表示Apache的最大连接数目）。

20*500/0.1 = 100000 （10万QPS）

4.怎么处理高并发(常见高并发的类型)

第一种：syn洪水攻击

什么是洪水攻击？

攻击者恶意访问让你的服务器资源耗尽，无法提供正常的服务，间接地拒绝。

       怎么应对或处理洪水攻击？

       情景一：黑客恶意攻击频繁使用假IP进行访问；

       方法一：运用sysctl命令进行配置，针对SYN洪水攻击的防御措施.

       方法二：利用安全狗，360安全卫士等杀毒软件，（软件有针对处理洪水攻击的策略）

       情景二：用户频繁登录

       方法一：代码优化处理，限制统一IP或统一账号，每秒访问次数，添加验证码策略，访问更新验证码加长用户操作时间。

第二种：硬件配置过低

       情景一：CPU长期达到90%以上（升级CPU处理器）

       情景二：CPU长期在40%左右带宽达到100%使用率。（升级带宽）

       情景三：CPU与带宽正常物理内存处于占满状态。（升级物理内存）

第三种：SQL语句查询频繁，重复查询或SQL语句问题，导致接口处理时间过慢。

       情景一：针对大量数据，sql语句过于简单，查询条件过少;

        举个例子：一个数据库中有表为activityTable 我想查询用户在什么时间领取到什么产品；查询语句为

 SELECT * FROM activityTable where user = "小红"；
 // 处理少量数据时可能没什么问题，但是处理大量数据时他就会发生查询处理时间过长等问题。
 // 正确处理sql应该为加索引等优化
 create index index_name on activityTable(phone) ;
 select user from activityTable where phone = 123456;

       序号ID 用户名User ， 活动 activity，手机号 phone，产品 product ，领取时间 updatetime。

       情景二：查询sql过多，导致接口处理时间过长，用户操作界面处于等待；

       方法一：利用缓存处理（Redis，Memcached等）将查询数据缓存到Redis数据库中，（Nosql数据库处理时间小于Mysql处                          理时间）

       方法二：加大服务器硬件，调整CPU，带宽，处理器等（不推荐，有钱除外。）

第四种：用户量过大，CPU，处理器，带宽正常，但是仍旧过卡。

       情景一：Apache的Web服务器只有运行一个时

       方法一：性能优调（Mysql，Nginx，Tomcat）负载均衡处理

       mysql的myini文件优化

       mysql的my.cof文件优

       Tomcat性能优化

       Nginx的nginx.conf文件配置

#定义Nginx运行的用户和用户组
user www www;
#
#nginx进程数,建议设置为等于CPU总核心数.
worker_processes 8;
#
#全局错误日志定义类型,[ debug | info | notice | warn | error | crit ]
error_log /var/log/nginx/error.log info;
#
#进程文件
pid /var/run/nginx.pid;
#
#一个nginx进程打开的最多文件描述符数目,理论值应该是最多打开文件数（系统的值ulimit -n）与nginx进程数相除,但是nginx分配请求并不均匀,所以建议与ulimit -n的值保持一致.
worker_rlimit_nofile 65535;
#
#工作模式与连接数上限
events
{
    #参考事件模型,use [ kqueue | rtsig | epoll | /dev/poll | select | poll ]; epoll模型是Linux 2.6以上版本内核中的高性能网络I/O模型,如果跑在FreeBSD上面,就用kqueue模型.
    use epoll;
    #单个进程最大连接数（最大连接数=连接数*进程数）
    worker_connections 65535;
}
#
#设定http服务器
http
{
    include mime.types; #文件扩展名与文件类型映射表
    default_type application/octet-stream; #默认文件类型
    #charset utf-8; #默认编码
    server_names_hash_bucket_size 128; #服务器名字的hash表大小
    client_header_buffer_size 32k; #上传文件大小限制
    large_client_header_buffers 4 64k; #设定请求缓
    client_max_body_size 8m; #设定请求缓
    
    # 开启目录列表访问,合适下载服务器,默认关闭.
    autoindex on; # 显示目录
    autoindex_exact_size on; # 显示文件大小 默认为on,显示出文件的确切大小,单位是bytes 改为off后,显示出文件的大概大小,单位是kB或者MB或者GB
    autoindex_localtime on; # 显示文件时间 默认为off,显示的文件时间为GMT时间 改为on后,显示的文件时间为文件的服务器时间
    
    sendfile on; # 开启高效文件传输模式,sendfile指令指定nginx是否调用sendfile函数来输出文件,对于普通应用设为 on,如果用来进行下载等应用磁盘IO重负载应用,可设置为off,以平衡磁盘与网络I/O处理速度,降低系统的负载.注意：如果图片显示不正常把这个改成off.
    tcp_nopush on; # 防止网络阻塞
    tcp_nodelay on; # 防止网络阻塞
    
    keepalive_timeout 120; # (单位s)设置客户端连接保持活动的超时时间,在超过这个时间后服务器会关闭该链接
    
    # FastCGI相关参数是为了改善网站的性能：减少资源占用,提高访问速度.下面参数看字面意思都能理解.
    fastcgi_connect_timeout 300;
    fastcgi_send_timeout 300;
    fastcgi_read_timeout 300;
    fastcgi_buffer_size 64k;
    fastcgi_buffers 4 64k;
    fastcgi_busy_buffers_size 128k;
    fastcgi_temp_file_write_size 128k;
    
    # gzip模块设置
    gzip on; #开启gzip压缩输出
    gzip_min_length 1k; #允许压缩的页面的最小字节数,页面字节数从header偷得content-length中获取.默认是0,不管页面多大都进行压缩.建议设置成大于1k的字节数,小于1k可能会越压越大
    gzip_buffers 4 16k; #表示申请4个单位为16k的内存作为压缩结果流缓存,默认值是申请与原始数据大小相同的内存空间来存储gzip压缩结果
    gzip_http_version 1.1; #压缩版本（默认1.1,目前大部分浏览器已经支持gzip解压.前端如果是squid2.5请使用1.0）
    gzip_comp_level 2; #压缩等级.1压缩比最小,处理速度快.9压缩比最大,比较消耗cpu资源,处理速度最慢,但是因为压缩比最大,所以包最小,传输速度快
    gzip_types text/plain application/x-javascript text/css application/xml;
    #压缩类型,默认就已经包含text/html,所以下面就不用再写了,写上去也不会有问题,但是会有一个warn.
    gzip_vary on;#选项可以让前端的缓存服务器缓存经过gzip压缩的页面.例如:用squid缓存经过nginx压缩的数据
    
    #开启限制IP连接数的时候需要使用
    #limit_zone crawler $binary_remote_addr 10m;
    
    ##upstream的负载均衡,四种调度算法(下例主讲)##
    
    #虚拟主机的配置
    server
    {
        # 监听端口
        listen 80;
        # 域名可以有多个,用空格隔开
        server_name ably.com;
        # HTTP 自动跳转 HTTPS
        rewrite ^(.*) https://$server_name$1 permanent;
    }
    
    server
    {
        # 监听端口 HTTPS
        listen 443 ssl;
        server_name ably.com;
        
        # 配置域名证书
        ssl_certificate      C:WebServerCertscertificate.crt;
        ssl_certificate_key  C:WebServerCertsprivate.key;
        ssl_session_cache    shared:SSL:1m;
        ssl_session_timeout  5m;
        ssl_protocols SSLv2 SSLv3 TLSv1;
        ssl_ciphers ALL:!ADH:!EXPORT56:RC4+RSA:+HIGH:+MEDIUM:+LOW:+SSLv2:+EXP;
        ssl_prefer_server_ciphers  on;
    
        index index.html index.htm index.php;
        root /data/www/;
        location ~ .*.(php|php5)?$
        {
            fastcgi_pass 127.0.0.1:9000;
            fastcgi_index index.php;
            include fastcgi.conf;
        }
        
        # 配置地址拦截转发，解决跨域验证问题
        location /oauth/{
            proxy_pass https://localhost:13580/oauth/;
            proxy_set_header HOST $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        }
        
        # 图片缓存时间设置
        location ~ .*.(gif|jpg|jpeg|png|bmp|swf)$ {
            expires 10d;
        }
        
        # JS和CSS缓存时间设置
        location ~ .*.(js|css)?$ {
            expires 1h;
        }

        # 日志格式设定
        log_format access '$remote_addr - $remote_user [$time_local] "$request" '
        '$status $body_bytes_sent "$http_referer" '
        '"$http_user_agent" $http_x_forwarded_for';
        # 定义本虚拟主机的访问日志
        access_log /var/log/nginx/access.log access;
        
        # 设定查看Nginx状态的地址.StubStatus模块能够获取Nginx自上次启动以来的工作状态，此模块非核心模块，需要在Nginx编译安装时手工指定才能使用
        location /NginxStatus {
            stub_status on;
            access_log on;
            auth_basic "NginxStatus";
            auth_basic_user_file conf/htpasswd;
            #htpasswd文件的内容可以用apache提供的htpasswd工具来产生.
        }
    }
}