缓存穿透、缓存雪崩、缓存击穿解决方案

什么是缓存

缓存就是数据交换的缓冲区（称作Cache）,是存贮数据的临时地方，一般读写性能较高。

添加 redis 缓存

给店铺类型查询业务添加缓存

需求：添加ShopTypeController中的queryTypeList方法，添加查询缓存

缓存更新策略

业务场景：

低一致性需求：使用内存淘汰机制。例如店铺类型的查询缓存

高一致性需求：主动更新，并以超时剔除作为兜底方案。例如店铺详情查询的缓存

操作缓存和数据库时有三个问题需要考虑：

1.删除缓存还是更新缓存

• 更新缓存：每次更新数据库都更新缓存，无效写操作较多（×）

• 删除缓存：更新数据库时让缓存失效，查询时再更新缓存（✓）

2.如何保证缓存与数据库的操作同时成功或失败

• 单体系统:将缓存与数据库操作放在一个事务

• 分布式系统:利用TCC等分布式事务方案

3.先操作缓存还是先操作数据库

• 先删除缓存,在操作数据库

• 先操作数据库,再删除缓存

读操作:

• 缓存命中则直接返回

• 缓存未命中则查询数据库,并写入缓存,设定超时时间

写操作:

• 先写数据库,然后再删除缓存

• 要确保数据库与缓存操作的原子性

给查询商铺的缓存添加超时剔除和主动更新的策略

修改ShopController的业务逻辑,满足下面的需求

① 根据id查询商铺时,如果缓存未命中,则查询数据库,将数据库数据写入缓存,并设置超时时间

 //6.存在，将商铺数据写入redis
 stringRedisTemplate.opsForValue().set(key, JSONUtil.toJsonStr(shop), CACHE_SHOP_TTL, TimeUnit.MINUTES);

② 根据id修改店铺时,先修改数据库,再修改缓存

 @Override
    @Transactional
    public Result update(Shop shop) {
        Long id = shop.getId();
        if (id==null) {
            return Result.fail("店铺id不为空");
        }
        //1更新数据库
        updateById(shop);
        //2.删除缓存
        stringRedisTemplate.delete(CACHE_SHOP_KEY + id);
        return Result.ok();
    }

缓存穿透

缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样缓存永远不会生效,这些请求都会打到数据库

常见的解决方案有两种:

1.缓存空对象

优点:实现简单,维护方便

缺点:额外的内存消耗,可能造成短期的数据不一致

2.布隆过滤

优点:内存占用少,没有多余的key

缺点:实现复杂,存在误判

其他的解决方案

1.增加id的复杂度,避免被猜测id规律

2.做好数据的基础格式校验

3.加强用户权限校验

4.做好热点参数的限流

缓存雪崩

缓存雪崩是指在同一时段大量的缓存key同时失效或者Redis服务宕机,导致大量请求到达数据库,带来巨大压力

解决方案:

1.给不同的key的TTL添加随机值

2.利用redis集群提高服务的可用性

3.给缓存业务添加降级限流策略

4.给业务添加多级缓存

缓存击穿

缓存击穿问题也叫热点key问题,就是一个被高并发访问并且缓存重建业务较复杂的
key突然失效了,无数的请求访问会在瞬间给数据库带来巨大的冲击

常见的解决方案有两种:

1.互斥锁

2.逻辑过期

优缺点:

基于互斥锁方式解决缓存击穿问题

需求:修改根据id查询商铺的业务,基于互斥锁来解决缓存击穿问题

基于逻辑过期解决缓存击穿问题

需求:修改根据id查询商铺的业务,基于逻辑过期方式来解决缓存击穿问题

缓存工具封装

基于StringRedisTemplate封装一个缓存工具类,满足下列需求:

方法:

1.将任意Java对象序列化为json并存储在String类型的key中,并且设置TTL过期时间

2.将任意Java对象序列化为json并存储在String类型的key中,并且设置逻辑过期时间,用于处理缓存击穿问题

3.根据指定的key查询缓存,并反序列化为指定类型,利用缓存空值的方式解决缓存穿透问题

4.根据指定的key查询缓存,并反序列化为指定类型,需要利用逻辑过期解决缓存击穿问题

CacheClient

@Slf4j
@Component
public class CacheClient {

    private final StringRedisTemplate stringRedisTemplate;

    private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);

    public CacheClient(StringRedisTemplate stringRedisTemplate) {
        this.stringRedisTemplate = stringRedisTemplate;
    }

    public void set(String key, Object value, Long time, TimeUnit unit) {
        stringRedisTemplate.opsForValue().set(key, JSONUtil.toJsonStr(value), time, unit);
    }

    public void setWithLogicExpire(String key, Object value, Long time, TimeUnit unit) {
        //设置逻辑过期
        RedisData redisData = new RedisData();
        redisData.setData(value);
        redisData.setExpireTime(LocalDateTime.now().plusSeconds(unit.toSeconds(time)));
        //写入redis
        stringRedisTemplate.opsForValue().set(key, JSONUtil.toJsonStr(value), time, unit);
    }

    //解决缓存穿透
    public <R, ID> R queryWithPassThrough(
            String kerPrefix, ID id, Class<R> type, Function<ID, R> dbFallback, Long time, TimeUnit unit) {
        //1.查询商铺缓存
        String key = kerPrefix + id;
        String json = stringRedisTemplate.opsForValue().get(key);

        //2.判断是否存在
        if (StrUtil.isNotBlank(json)) {
            //3.缓存存在，返回

            return JSONUtil.toBean(json, type);
        }
        //判断命中的是否是空值
        if (json != null) {
            //返回一个错误的信息
            return null;
        }

        //4.不存在，根据id查询数据库
        R r = dbFallback.apply(id);
        //5.不存在，返回错误
        if (r == null) {
            //将空值写入数据库
            stringRedisTemplate.opsForValue().set(key, "", CACHE_NULL_TTL, TimeUnit.MINUTES);

            return null;
        }
        //6.存在，将商铺数据写入redis
        this.set(key, r, time, unit);
        //7.返回
        return r;
    }

    //解决缓存击穿
    public <R, ID> R queryWithLogicExpire(
            String keyPrefix, ID id, Class<R> type, Function<ID, R> dbFallBack, Long time, TimeUnit unit) {
        //1.查询商铺缓存
        String key = keyPrefix + id;
        String json = stringRedisTemplate.opsForValue().get(key);

        //2.判断是否存在
        if (StrUtil.isBlank(json)) {
            //3.缓存存在，返回
            return null;
        }
        //4.命中，需要把json反序列化为对象
        RedisData redisData = JSONUtil.toBean(json, RedisData.class);
        R r = JSONUtil.toBean((JSONObject) redisData.getData(), type);
        LocalDateTime expireTime = redisData.getExpireTime();

        if (expireTime.isAfter(LocalDateTime.now())) {
            //5.1.未过期，返回商铺信息
            return r;
        }
        //5.2 已过期，需要缓存重建
        //6.缓存重建
        //6.1.获取互斥锁
        String lockKey = LOCK_SHOP_KEY + id;
        boolean isLock = tryLock(lockKey);
        //6.2判断是否获取锁成功
        if (isLock) {
            //6.3成功，开启独立线程，实现缓存重建
            CACHE_REBUILD_EXECUTOR.submit(() -> {
                try {
                    //查询数据库
                    R r1 = dbFallBack.apply(id);
                    //写入redis
                    this.setWithLogicExpire(key, r1, time, unit);

                } catch (Exception e) {
                    throw new RuntimeException(e);
                } finally {
                    //释放锁
                    unLock(lockKey);
                }
            });
        }
        //6.4返回过期的商铺信息
        return r;
    }

    private boolean tryLock(String key) {
        Boolean flag = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", 10L, TimeUnit.MINUTES);
        return BooleanUtil.isTrue(flag);
    }

    private void unLock(String key) {
        stringRedisTemplate.delete(key);
    }
}

ShopServiceImpl

   @Resource
    private CacheClient cacheClient;

    @Override
    public Result queryById(Long id) {
        //缓存穿透
        //Shop shop = cacheClient.queryWithPassThrough(CACHE_SHOP_KEY,id,Shop.class,this::getById,CACHE_SHOP_TTL,TimeUnit.MINUTES);
        //Shop shop = queryWithPassThrough(id);

        //互斥锁解决缓存击穿
        //Shop shop = queryWithMutex(id);

        //逻辑过期解决缓存击穿
        Shop shop = cacheClient.queryWithLogicExpire(CACHE_SHOP_KEY, id, Shop.class, this::getById, 20L, TimeUnit.SECONDS);
        //Shop shop = queryWithLogicExpire(id);
        if (shop == null) {
            return Result.fail("店铺不存在");
        }
        //7.返回
        return Result.ok(shop);
    }

视频地址