jedispool 连 redis 高并发

最近爬虫系统中我用redis进行抓取源的抓取量进行统计。犹豫配置的抓取的数据源好几千,都是定时任务,并发量相对大,所以连接redis高并发把系统卡死了。

用了几个redis连接工具类都有问题;找到的原因是都程序没有自动释放连接资源,下面这个代经过上线测试,再也没有出现这个问题:

package com.caishi.capricorn.crawler.core.utils;

import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig;

public class RedisUtil {
    //protected static Logger logger = Logger.getLogger(RedisUtil.class);

    //Redis服务器IP  测试:10.2.113.27",6379   正式:10.2.113.1
    private static String IP = "10.2.113.27";

    //Redis的端口号
    private static int PORT = 6379;

    //可用连接实例的最大数目,默认值为8;
    //如果赋值为-1,则表示不限制;如果pool已经分配了maxActive个jedis实例,则此时pool的状态为exhausted(耗尽)。
    private static int MAX_ACTIVE = 100;

    //控制一个pool最多有多少个状态为idle(空闲的)的jedis实例,默认值也是8。
    private static int MAX_IDLE = 20;

    //等待可用连接的最大时间,单位毫秒,默认值为-1,表示永不超时。如果超过等待时间,则直接抛出JedisConnectionException;
    private static int MAX_WAIT = 3000;

    private static int TIMEOUT = 3000;

    //在borrow一个jedis实例时,是否提前进行validate操作;如果为true,则得到的jedis实例均是可用的;
    private static boolean TEST_ON_BORROW = true;

    //在return给pool时,是否提前进行validate操作;
    private static boolean TEST_ON_RETURN = true;

    private static JedisPool jedisPool = null;

/**
 * redis过期时间,以秒为单位
 */
    public final static int EXRP_HOUR = 60*60; //一小时
    public final static int EXRP_DAY = 60*60*24; //一天
    public final static int EXRP_MONTH = 60*60*24*30; //一个月

/**
 * 初始化Redis连接池
 */
    private static void initialPool(){
        try{
            JedisPoolConfig config = new JedisPoolConfig();
            config.setMaxTotal(MAX_ACTIVE);
            config.setMaxIdle(MAX_IDLE);
            config.setMaxWaitMillis(MAX_WAIT);
            config.setTestOnBorrow(TEST_ON_BORROW);
            jedisPool = new JedisPool(config,IP, PORT, TIMEOUT);
        }catch(Exception e) {
            //logger.error("First create JedisPool error : "+e);
            e.getMessage();
      }
    }


/**
 * 在多线程环境同步初始化
 */
    private static synchronized void poolInit() {
        if(jedisPool == null) {
            initialPool();
        }
    }


/**
 * 同步获取Jedis实例
 * @return Jedis
 */
    public synchronized static Jedis getJedis() {
        if(jedisPool == null) {
            poolInit();
        }
        Jedis jedis = null;
        try{
            if(jedisPool != null) {
                jedis = jedisPool.getResource();
            }
        }catch(Exception e) {
            e.getMessage();
           // logger.error("Get jedis error : "+e);
        }finally{
            returnResource(jedis);
        }
        return jedis;
    }


/**
 * 释放jedis资源
 * @param jedis
 */
    public static void returnResource(final Jedis jedis) {
        if(jedis != null&& jedisPool !=null) {
            jedisPool.returnResource(jedis);
        }
    }

    public static Long sadd(String key,String...members){
        Jedis jedis = null;
        Long res = null;
        try {
            jedis = getJedis();
            res = jedis.sadd(key, members);
        } catch (Exception e) {
            //logger.error("sadd  error : "+e);
            e.getMessage();
        }
        return res;
    }
}


你可能感兴趣的:(java零碎知识点)