在高并发系统中,缓存是一个非常重要的优化手段。它的基本思想是将热点数据缓存在高速的存储系统(如 Redis、Memcached)中,从而减轻数据库等持久层的压力,并加快请求响应速度。
常见的缓存模式有:
缓存击穿(Cache Breakdown)是指缓存中某些高并发访问的数据在失效的瞬间,大量请求同时穿透缓存直接访问数据库的情况。由于这些数据是热点数据,短时间内大量请求集中访问数据库,容易导致数据库过载,甚至宕机。
缓存击穿的触发场景通常是:
区别于其他缓存问题:
为了避免缓存击穿问题,我们需要在缓存失效时控制多个并发请求直接访问数据库的情况。常用的解决方案包括:
**互斥锁(Mutex)**是解决缓存击穿最常见的办法。当某个缓存失效时,第一个请求负责加载数据并重新设置缓存,其他请求等待数据加载完成后直接返回缓存结果。
下面是一个基于 Redis 实现互斥锁的缓存击穿解决方案。我们使用 Java 的 Redis 客户端(Jedis)来进行 Redis 操作,并利用 Redis 的 SETNX
(set if not exists)来实现分布式锁。
import redis.clients.jedis.Jedis;
public class CacheService {
private Jedis jedis;
public CacheService(Jedis jedis) {
this.jedis = jedis;
}
// 获取数据的方法,包含缓存逻辑
public String getData(String key) {
// 尝试从 Redis 缓存中获取数据
String value = jedis.get(key);
if (value == null) {
// 缓存中没有数据,进入加载流程
String lockKey = "lock:" + key;
// 尝试加锁,避免缓存击穿
if (tryLock(lockKey)) {
try {
// 模拟从数据库加载数据
value = loadFromDB(key);
// 将数据写入缓存,并设置超时时间
jedis.setex(key, 300, value);
} finally {
// 释放锁
releaseLock(lockKey);
}
} else {
// 获取锁失败,等待其他线程更新缓存
try {
// 等待一段时间再尝试获取缓存
Thread.sleep(100);
return jedis.get(key); // 再次从缓存获取
} catch (InterruptedException e) {
Thread.currentThread().interrupt();
}
}
}
return value;
}
// 尝试获取锁
private boolean tryLock(String lockKey) {
// 使用 Redis 的 SETNX 设置锁,成功返回1,失败返回0
String result = jedis.set(lockKey, "1", "NX", "EX", 10); // 锁过期时间为10秒
return "OK".equals(result);
}
// 释放锁
private void releaseLock(String lockKey) {
jedis.del(lockKey); // 删除锁
}
// 模拟从数据库加载数据
private String loadFromDB(String key) {
System.out.println("Loading data from DB for key: " + key);
return "DBValueFor" + key;
}
}
逻辑过期是一种延长缓存有效期的方式。我们并不真正删除缓存,而是将缓存数据设置为逻辑过期状态。每次读取缓存时,仍然返回数据,但异步刷新缓存中的数据。
import java.util.concurrent.Executors;
import java.util.concurrent.ExecutorService;
public class LogicalExpireCacheService {
private Jedis jedis;
private ExecutorService executorService = Executors.newFixedThreadPool(10);
public LogicalExpireCacheService(Jedis jedis) {
this.jedis = jedis;
}
// 获取数据的方法,包含逻辑过期处理
public String getData(String key) {
// 尝试从 Redis 缓存中获取数据
String cacheData = jedis.get(key);
if (cacheData != null && !isExpired(cacheData)) {
return cacheData; // 如果缓存未过期,直接返回
}
// 如果缓存过期,异步更新缓存
executorService.submit(() -> {
String newValue = loadFromDB(key);
jedis.set(key, newValue);
});
// 返回旧数据,避免直接击穿数据库
return cacheData;
}
// 检查缓存数据是否过期(模拟逻辑过期)
private boolean isExpired(String cacheData) {
// 解析数据的过期标志,这里可以自定义逻辑
return false; // 简化示例,不真正实现
}
// 模拟从数据库加载数据
private String loadFromDB(String key) {
System.out.println("Loading data from DB for key: " + key);
return "NewDBValueFor" + key;
}
}
优点:
- 不会阻塞用户请求,哪怕缓存过期,用户仍能拿到旧的数据。
- 适合对时效性要求不高的场景。
缺点:
- 异步更新缓存的过程存在时间差,可能导致部分用户获取的是旧数据。
- 数据一致性要求较高时需要谨慎使用。
缓存预热指的是在缓存数据即将失效之前,主动更新缓存数据,避免缓存过期瞬间的大量并发请求击穿缓存。
通过 Spring 的定时任务机制或其他调度工具,定期刷新热点数据的缓存。例如:
import org.springframework.scheduling.annotation.Scheduled;
import org.springframework.stereotype.Service;
@Service
public class CachePreheatService {
private Jedis jedis;
public CachePreheatService(Jedis jedis) {
this.jedis = jedis;
}
// 定时任务,每隔 5 分钟刷新缓存
@Scheduled(fixedRate = 300000)
public void
refreshCache() {
String key = "hotDataKey";
String value = loadFromDB(key);
jedis.set(key, value);
System.out.println("Cache refreshed for key: " + key);
}
// 模拟从数据库加载数据
private String loadFromDB(String key) {
System.out.println("Loading data from DB for key: " + key);
return "PreheatedDBValueFor" + key;
}
}
缓存击穿是高并发系统中一个常见且重要的问题。针对不同的业务场景,我们可以采取多种措施来应对缓存击穿,如互斥锁、逻辑过期、缓存预热等。
这些策略可以结合使用,根据不同的业务场景和性能要求,选择最合适的方案,确保系统在高并发场景下的稳定性。