缓存是数据交换的缓冲区(称作Cache),是存储数据的临时地方,一般读写性能较高。
// 根据商铺id查询商铺信息
@Override
public Result queryById(Long id) {
// 从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 存在,直接返回
Shop shop = JSONUtil.toBean(shopJson, Shop.class);
return Result.ok(shop);
}
// 不存在,根据商铺id查询数据库
Shop shop = getById(id);
// 数据库不存在,返回错误
if (shop == null) {
return Result.fail("店铺不存在!");
}
// 存在,写入redis并返回
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop));
return Result.ok(shop);
}
\ | 内存淘汰 | 超时剔除 | 主动更新 |
---|---|---|---|
说明 | 不同自己维护,利用Redis的内存淘汰机制,当内存不足时自动淘汰部分数据。下次查询时更新缓存 | 给缓存数据添加TTL时间,到期后自动剔除缓存。下次查询时更新缓存 | 编写业务逻辑,在修改数据库的同时,更新缓存 |
一致性 | 差 | 一般 | 好 |
维护成本 | 无 | 低 | 高 |
由缓存的调用者,在更新数据库的同时更新缓存
引申出三个问题:
此处可能存在两种情况:1、线程1先更新数据库、删除缓存,线程2读取缓存,缓存不存在,读取数据库更新缓存。
2、线程2读取缓存,缓存正好失效,读取数据库,读取到数据库更新前的脏值,线程1开始更新数据库,删除缓存,线程2更新缓存为更新操作前的脏值,导致数据库与缓存值不一致,产生线程安全问题。
缺陷:
解决方法:可以将热点数据提前写入cache中
解决办法:
1、数据库和缓存数据强一致场景:更新DB的时候同样更新cache,不过我们需要加一个锁/分布式锁来保证更新cache的时候不存在的线程安全问题。
2、可以短暂地允许数据库和缓存数据不一致的场景 :更新DB的时候同样更新cache,但是给缓存加一个比较短的过期时间,这样的话就可以保证即使数据不一致的话影响也比较小。
核心策略:以缓存为操作为主,数据存先存在于缓存,缓存的数据是不会过期的。
Read Through:先查询缓存中数据是否存在,如果存在则直接返回,如果不存在,则由缓存组件负责从数据库中同步加载数据。
**Write Through:**先查询要写入的数据在缓存中是否已经存在,如果已经存在,则更新缓存中的数据,并且由缓存组件同步更新到数据库中,如果缓存中数据不存在,我们把这种情况叫做Write Miss(写失效),图中以Write allocate方式。
**Write Miss解决方式:**一个是“Write Allocate(按写分配)”,做法是写入缓存相应位置,再由缓存组件同步更新到数据库中,图中就是指的是这种方式;另一个是“No- write allocate(不按写分配)”,做法是不写入缓存中,而是直接更新到数据库中。
适用场景:
Write back是相较于Write Through而言的一种异步回写策略。
异步写可以减少与物理磁盘存储的交互,也可以进行合并写等优化。
问题: 实现比较复杂,可能会丢失数据。
适用场景:
根据id查询店铺信息,写入缓存,并设置过期时间
@Override
public Result queryById(Long id) {
// 从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 存在,直接返回
Shop shop = JSONUtil.toBean(shopJson, Shop.class);
return Result.ok(shop);
}
// 不存在,根据商铺id查询数据库
Shop shop = getById(id);
// 数据库不存在,返回错误
if (shop == null) {
return Result.fail("店铺不存在!");
}
// 存在,写入redis并返回
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
return Result.ok(shop);
}
修改店铺信息,并删除缓存,添加事务处理
@Override
@Transactional
public Result update(Shop shop) {
Long id = shop.getId();
if (id == null) {
return Result.fail("店铺id不能为空");
}
// 更新数据库
updateById(shop);
// 删除缓存
stringRedisTemplate.delete(RedisConstants.CACHE_SHOP_KEY + id);
return Result.ok();
}
缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样缓存永远不生效,这些请求都会打到数据库。
常见的解决方案有两种:
代码示例:缓存空对象
@Override
public Result queryById(Long id) {
// 从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 存在,直接返回
Shop shop = JSONUtil.toBean(shopJson, Shop.class);
return Result.ok(shop);
}
// 判断命中的是否为空值
if (shopJson == null) {
// 返回一个错误信息
return Result.fail("店铺信息不存在!");
}
// 不存在,根据商铺id查询数据库
Shop shop = getById(id);
// 数据库不存在,返回错误
if (shop == null) {
// 将空值写入redis,避免缓存穿透
// 返回错误信息
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, "", RedisConstants.CACHE_NULL_TTL, TimeUnit.MINUTES);
return Result.fail("店铺不存在!");
}
// 存在,写入redis并返回
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
return Result.ok(shop);
}
缓存雪崩是指同一时段大量的缓存key同时失效或者Redis服务宕机,导致大量请求到达数据库,带来巨大压力。
解决方案:
缓存击穿问题也叫热点key问题,就是一个被高并发访问并且缓存重建业务较复杂的key突然失效了,无数的请求访问会在瞬间给数据库带来巨大压力。
常见的解决方案有两种:
解决方案 | 优点 | 缺点 |
---|---|---|
互斥锁 | 1、没有额外的内存消耗 2、保证一致性 3、实现简单 |
1、线程需要等待,性能受影响 2、 可能有死锁风险 |
逻辑过期 | 1、线程无需等待,性能较好 | 1、不保证一致性 2、有额外的内存消耗 3、实现复杂 |
/**
* 缓存击穿(互斥锁)
* @param id 店铺id
* @return Shop
*/
public Shop queryWithMutex(Long id){
String key = RedisConstants.CACHE_SHOP_KEY + id;
// 从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get(key);
// 判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 存在,直接返回
return JSONUtil.toBean(shopJson, Shop.class);
}
// 判断命中的是否为空值
if (StrUtil.isBlank(shopJson)) {
// 返回一个错误信息
return null;
}
// 锁key
String lockKey = RedisConstants.LOCK_SHOP_KEY + id;
Shop shop;
try {
// 实现缓存重建
// 获取互斥锁
boolean isLock = tryLock(lockKey);
// 判断是否获取成功
if (!isLock) {
// 失败,休眠并重试
Thread.sleep(50);
return queryWithMutex(id);
}
// 成功,根据id查询并写入redis
shop = getById(id);
// 数据库不存在,返回错误
if (shop == null) {
// 将空值写入redis,避免缓存穿透
// 返回错误信息
stringRedisTemplate.opsForValue().set(key, "", RedisConstants.CACHE_NULL_TTL, TimeUnit.MINUTES);
return null;
}
// 存在,写入redis并返回
stringRedisTemplate.opsForValue().set(key, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
} catch (InterruptedException e) {
throw new RuntimeException(e);
} finally {
// 释放互斥锁
unlock(lockKey);
}
return shop;
}
/**
* 上锁
* @param key 互斥锁 key
* @return boolean 上锁标记
*/
private boolean tryLock(String key) {
Boolean flag = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", 10, TimeUnit.SECONDS);
return BooleanUtil.isTrue(flag);
}
/**
* 删除锁
* @param key 互斥锁 key
*/
private void unlock(String key) {
stringRedisTemplate.delete(key);
}
/**
* 初始化店铺缓存
* @param id 店铺id
* @param expireSeconds 逻辑过期时间
* @throws InterruptedException
*/
public void saveShopToRedis(Long id, Long expireSeconds) throws InterruptedException {
// 查询店铺数据
Shop shop = getById(id);
// 休眠100毫秒
Thread.sleep(100);
// 封装逻辑过期时间
RedisData redisData = new RedisData();
redisData.setData(shop);
redisData.setExpireTime(LocalDateTime.now().plusSeconds(expireSeconds));
// 写入redis
stringRedisTemplate.opsForValue().set(RedisConstants.CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(redisData));
}
// 单元测试,初始化店铺缓存
@Test
void testSaveShop1() throws InterruptedException {
shopService1.saveShopToRedis(1L, 10L);
}
/* 线程池 */
private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);
/**
* 缓存击穿(逻辑过期)
* @param id 店铺id
* @return Shop
*/
public Shop queryWithLogicalExpire(Long id) {
// 从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 判断缓存是否命中,未命中,直接返回空
if (StrUtil.isBlank(shopJson)) {
// 存在,直接返回
return null;
}
// 命中,需要先把json数据反序列化为对象
RedisData redisData = JSONUtil.toBean(shopJson, RedisData.class);
// 转为json对象,再转为shop对象
JSONObject data = (JSONObject) redisData.getData();
Shop shop = JSONUtil.toBean(data, Shop.class);
LocalDateTime expireTime = redisData.getExpireTime();
// 判断是否已经逻辑过期
if (expireTime.isAfter(LocalDateTime.now())) {
// 未过期,返回店铺信息
return shop;
}
// 过期,需要缓存重建
// 获取互斥锁
String lockKey = RedisConstants.LOCK_SHOP_KEY + id;
boolean isLock = tryLock(lockKey);
// 判断是否获取成功
// 成功,开启独立线程,进行缓存重建
if (isLock) {
// 双重检查,获取锁成功后,再次判断Redis缓存是否已过期
String shopJson2 = stringRedisTemplate.opsForValue().get(RedisConstants.CACHE_SHOP_KEY + id);
// 不为空,反序列化json为对象
if (StrUtil.isBlank(shopJson2)) {
RedisData redisData2 = JSONUtil.toBean(shopJson2, RedisData.class);
// 转为json对象,再转为shop对象
JSONObject data2 = (JSONObject) redisData2.getData();
Shop shop2 = JSONUtil.toBean(data2, Shop.class);
LocalDateTime expireTime2 = redisData.getExpireTime();
// 判断是否已经逻辑过期
if (expireTime2.isAfter(LocalDateTime.now())) {
// 未过期,返回店铺信息
return shop2;
}
}
// 开启独立线程,实现缓存重建
CACHE_REBUILD_EXECUTOR.submit(() -> {
try {
// 重建缓存
this.saveShopToRedis(id, 20L);
} catch (Exception e) {
throw new RuntimeException(e);
} finally {
// 释放锁
unlock(lockKey);
}
});
}
// 失败,返回已过期的店铺信息
return shop;
}
涉及方法:
@Slf4j
@Component
public class CacheClient {
private final StringRedisTemplate stringRedisTemplate;
/* 线程池 */
private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);
public CacheClient(StringRedisTemplate stringRedisTemplate) {
this.stringRedisTemplate = stringRedisTemplate;
}
/**
* 设置缓存
* @param key 缓存key
* @param value 缓存数值
* @param time 过期时间
* @param unit 时间单位
*/
public void set(String key, Object value, Long time, TimeUnit unit) {
stringRedisTemplate.opsForValue().set(key, JSONUtil.toJsonStr(value), time, unit);
}
/**
* 设置Redis key逻辑过期时间
* @param key 缓存key
* @param value 缓存值
* @param time 过期时间
* @param unit 时间单位
*/
public void setWithLogicalExpire(String key, Object value, Long time, TimeUnit unit) {
// 设置逻辑过期
RedisData redisData = new RedisData();
redisData.setData(value);
redisData.setExpireTime(LocalDateTime.now().plusSeconds(unit.toSeconds(time)));
// 写入Redis
stringRedisTemplate.opsForValue().set(key, JSONUtil.toJsonStr(redisData));
}
/**
* 缓存穿透(缓存空值)
* @param keyPrefix 缓存key 前缀
* @param id 泛型 id
* @param type 泛型 实体类类型
* @param dbFallback 数据库 函数逻辑 ID 参数类型 R 返回值
* @param time 过期时间
* @param unit 时间单位
* @param 返回值
* @param ID
* @return R
*/
public R queryWithPassThrough(String keyPrefix, ID id, Class type, Function dbFallback, Long time, TimeUnit unit){
String key = keyPrefix + id;
// 1.从redis查询商铺缓存
String json = stringRedisTemplate.opsForValue().get(key);
// 2.判断是否存在
if (StrUtil.isNotBlank(json)) {
// 3.存在,直接返回
return JSONUtil.toBean(json, type);
}
// 判断命中的是否是空值
if (json != null) {
// 返回一个错误信息
return null;
}
// 4.不存在,根据id查询数据库
R r = dbFallback.apply(id);
// 5.不存在,返回错误
if (r == null) {
// 将空值写入redis
stringRedisTemplate.opsForValue().set(key, "", CACHE_NULL_TTL, TimeUnit.MINUTES);
// 返回错误信息
return null;
}
// 6.存在,写入redis
this.set(key, r, time, unit);
return r;
}
/**
* 缓存击穿(逻辑过期)
* @param keyPrefix 缓存key 前缀
* @param id 泛型 id
* @param type 泛型 实体类类型
* @param dbFallback 数据库 函数逻辑 ID 参数类型 R 返回值
* @param time 过期时间
* @param unit 时间单位
* @param 返回值
* @param ID
* @return R
*/
public R queryWithLogicalExpire(
String keyPrefix, ID id, Class type, Function dbFallback, Long time, TimeUnit unit) {
String key = keyPrefix + id;
// 1.从redis查询商铺缓存
String json = stringRedisTemplate.opsForValue().get(key);
// 2.判断是否存在
if (StrUtil.isBlank(json)) {
// 3.存在,直接返回
return null;
}
// 4.命中,需要先把json反序列化为对象
RedisData redisData = JSONUtil.toBean(json, RedisData.class);
R r = JSONUtil.toBean((JSONObject) redisData.getData(), type);
LocalDateTime expireTime = redisData.getExpireTime();
// 5.判断是否过期
if(expireTime.isAfter(LocalDateTime.now())) {
// 5.1.未过期,直接返回店铺信息
return r;
}
// 5.2.已过期,需要缓存重建
// 6.缓存重建
// 6.1.获取互斥锁
String lockKey = LOCK_SHOP_KEY + id;
boolean isLock = tryLock(lockKey);
// 6.2.判断是否获取锁成功
if (isLock){
// 6.3.成功,开启独立线程,实现缓存重建
CACHE_REBUILD_EXECUTOR.submit(() -> {
try {
// 查询数据库
R newR = dbFallback.apply(id);
// 重建缓存
this.setWithLogicalExpire(key, newR, time, unit);
} catch (Exception e) {
throw new RuntimeException(e);
}finally {
// 释放锁
unlock(lockKey);
}
});
}
// 6.4.返回过期的商铺信息
return r;
}
/**
* 缓存击穿(互斥锁)
* @param keyPrefix 缓存key 前缀
* @param id 泛型 id
* @param type 泛型 实体类类型
* @param dbFallback 数据库 函数逻辑 ID 参数类型 R 返回值
* @param time 过期时间
* @param unit 时间单位
* @param 返回值
* @param ID
* @return R
*/
public R queryWithMutex(
String keyPrefix, ID id, Class type, Function dbFallback, Long time, TimeUnit unit) {
String key = keyPrefix + id;
// 1.从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get(key);
// 2.判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 3.存在,直接返回
return JSONUtil.toBean(shopJson, type);
}
// 判断命中的是否是空值
if (shopJson != null) {
// 返回一个错误信息
return null;
}
// 4.实现缓存重建
// 4.1.获取互斥锁
String lockKey = LOCK_SHOP_KEY + id;
R r = null;
try {
boolean isLock = tryLock(lockKey);
// 4.2.判断是否获取成功
if (!isLock) {
// 4.3.获取锁失败,休眠并重试
Thread.sleep(50);
return queryWithMutex(keyPrefix, id, type, dbFallback, time, unit);
}
// 4.4.获取锁成功,根据id查询数据库
r = dbFallback.apply(id);
// 5.不存在,返回错误
if (r == null) {
// 将空值写入redis
stringRedisTemplate.opsForValue().set(key, "", CACHE_NULL_TTL, TimeUnit.MINUTES);
// 返回错误信息
return null;
}
// 6.存在,写入redis
this.set(key, r, time, unit);
} catch (InterruptedException e) {
throw new RuntimeException(e);
}finally {
// 7.释放锁
unlock(lockKey);
}
// 8.返回
return r;
}
/**
* 获取锁
* @param key 锁 key
* @return boolean 是否上锁成功标记
*/
private boolean tryLock(String key) {
Boolean flag = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", 10, TimeUnit.SECONDS);
return BooleanUtil.isTrue(flag);
}
/**
* 释放锁
* @param key 锁 key
*/
private void unlock(String key) {
stringRedisTemplate.delete(key);
}
}
@Override
public Result queryById(Long id) {
// 解决缓存穿透
Shop shop = cacheClient
.queryWithPassThrough(CACHE_SHOP_KEY, id, Shop.class, this::getById, CACHE_SHOP_TTL, TimeUnit.MINUTES);
// 互斥锁解决缓存击穿
// Shop shop = cacheClient
// .queryWithMutex(CACHE_SHOP_KEY, id, Shop.class, this::getById, CACHE_SHOP_TTL, TimeUnit.MINUTES);
// 逻辑过期解决缓存击穿
// Shop shop = cacheClient
// .queryWithLogicalExpire(CACHE_SHOP_KEY, id, Shop.class, this::getById, 20L, TimeUnit.SECONDS);
if (shop == null) {
return Result.fail("店铺不存在!");
}
// 7.返回
return Result.ok(shop);
}