Redis解决穿透击穿问题时使用的布隆过滤器知识点

上一篇 << 下一篇 >>>Redis与MySQL的数据同步解决方案

---

1.布隆过滤器介绍

布隆过滤器是一个很长的二进制向量和一系列随机映射函数，适用于判断某个数据在集合中是否存在，会存在误识别。
优点是空间效率和查询时间都比一般的算法要好的多
缺点是有一定的误识别率和删除困难。

2.布隆过滤器使用场景

客户端--布隆过滤器(hashmap)-redis缓存--DB数据库
a、在程序启动时，将redis的所有key先缓存预热(加载)到布隆过滤器中，也可以用hashmap，但布隆过滤器的性能会比hashmap快很多
b、客户端请求的时候，先经过布隆过滤器，判断key是否存在，不存在的话，直接返回，可以解决redis的穿透和击穿。
c、布隆过滤器误判经过redis里，也不会造成原先大批量的涌入，这是可以接受的
d、如果redis的key有所变更，让布隆过滤器重新缓存预热---可解决删除问题

3.布隆过滤器存在的问题

3.1 误判

上图Jarye2本身在二进制向量表中不存在，由于hash值和其他碰撞，导致以为存在。
解决方式：把误判概率设置的足够小，但会导致向量表会大很多。

3.2 删除困难

假设上图中把Jarye2删了，会把向量地址8 13的值设置为0，导致原先应该命中的Jarye1无法命中
解决方式：缓存重新预热。

4.布隆过滤器demo示例

• 依赖引入

    com.google.guava
    guava
    22.0

• 测试demo

/**
 * 测试demo
 */
public class BlongTest {
    /**
     * 在布隆中存放100万条数据
     */
    private static Integer size = 1000000;

    public static void main(String[] args) {
        /**
         * 最后参数为误判率，必须要>0.0
         * 误判率是3% 100W的数据，二巷数组长度为730W
         * 误判率是1% 100W的数据，二巷数组长度为960W
         * 综合效率和准确率，建议值是1%
         *
         */
        BloomFilter integerBloomFilter = BloomFilter.create(Funnels.integerFunnel(), size, 0.01);
        for (int i = 0; i < size; i++) {
            integerBloomFilter.put(i);
        }
        // 从布隆中查询数据是否存在
        ArrayList strings = new ArrayList<>();
        for (int j = size; j < size + 10000; j++) {
            if (integerBloomFilter.mightContain(j)) {
                strings.add(j);
            }
        }
        System.out.println("误判数量:" + strings.size());

    }
}

5.基于布隆过滤器解决Redis击穿问题

@RequestMapping("/getOrder")
public OrderEntity getOrder(Integer orderId) {
    if (integerBloomFilter != null) {
        if (!integerBloomFilter.mightContain(orderId)) {
            System.out.println("从布隆过滤器中检测到该key不存在");
            return null;
        }
    }
    // 1.先查询Redis中数据是否存在
    OrderEntity orderRedisEntity = (OrderEntity) redisTemplateUtils.getObject(orderId + "");
    if (orderRedisEntity != null) {
        System.out.println("直接从Redis中返回数据");
        return orderRedisEntity;
    }
    // 2. 查询数据库的内容
    System.out.println("从DB查询数据");
    OrderEntity orderDBEntity = orderMapper.getOrderById(orderId);
    if (orderDBEntity != null) {
        System.out.println("将Db数据放入到Redis中");
        redisTemplateUtils.setObject(orderId + "", orderDBEntity);
    }
    return orderDBEntity;
}

@RequestMapping("/dbToBulong")
public String dbToBulong() {
    List orderIds = orderMapper.getOrderIds();
    integerBloomFilter = BloomFilter.create(Funnels.integerFunnel(), orderIds.size(), 0.01);
    for (int i = 0; i < orderIds.size(); i++) {
        integerBloomFilter.put(orderIds.get(i));
    }
    return "success";
}

---

推荐阅读：
<<<分布式缓存与本地缓存的区别
<< << << << << << << << << << << << << << << <<<使用Redisson工具实现分布式锁
<< << << << << << << << << << <<<阿里云的Canal框架实现Redis与Mysql同步原理及代码示例
<<<阿里云的Canal框架配置
<< << <<