缓存知识

权限系统是管理类系统中必不可少的一个模块，一个好的缓存设计更是权限系统的重中之重，今天来聊下如何更好设计权限系统的缓存。
单节点缓存
权限校验属于使用频率超高的操作，如果每次都去请求db的话，不仅会给db带来压力，也会导致用户响应过慢，造成很不好的用户体验，因此把权限相关数据放到缓存中是很有必要的，伪代码如下：
private static final FUNCTION_CACHE_KEY = "function_cache_key";
public List loadFunctions() {
// 优先从缓存中取
List functions = cacheService.get(FUNCTION_CACHE_KEY);
if(functions != null){
return functions;
}
// 缓存中没有，从数据库中取，并放入缓存
functions = functionDao.loadFunctions();
cacheService.put(FUNCTION_CACHE_KEY, functions);
return functions;
}
推荐使用ehcache作为缓存组件，ehcache是一个纯Java的进程内缓存框架,支持数据持久化到磁盘，并且支持多种缓存策略，对于权限数据这种大数据量的缓存可以说是非常合适。
集群缓存
ehcache属于进程级缓存，对集群支持不是很友好，虽然可以通过一些方案实现分布式缓存，但总感觉没有直接用memcached或redis来的痛快，但直接用memcached或redis的话，会经过一次网络调用，而且对于权限缓存这样内存比较大的数据，性能没有ehcache这种进程级缓存好。那有没有一直方案可以兼顾ehcache的性能优势和redis的分布式优势呢？
可以通过ehcache和redis共用的方式来解决这个问题，大致思路是用ehcache做主缓存，缓存更新通过MQ在集群间进行通信，而redis做为二级缓存使用。
具体方案如下：
更新数据
把数据同时放入ehcache和redis中，同时通过MQ通知其它节点更新自身的缓存，更新的数据从redis里面拉取
删除数据
删除ehcache和redis中数据，同时通过MQ通知其它节点删除自身的数据
其实对于权限缓存，一般情况下更新操作并不频繁，通过MQ做变更通知，redis做二级缓存，这样就可以在集群环境下仍旧使用ehcache的高效存储了
用时间戳保证级联缓存的一致性
在设计缓存的时候，并不是所有的缓存都是从数据库取的，有的缓存是从其它缓存从取的，这样可以减少使用时的计算时间
数据库 --> 缓存a --> 缓存b
有上面的依赖关系可以看出，缓存a发生变更时，缓存b如果不重新从缓存a中重新加载，就会造成缓存脏数据。
最直观的方案是刷新a缓存时，同步刷新b缓存，但从上述依赖关系可以看到，b依赖a，a并不依赖b，b缓存对于a应该是不可见的，所以从逻辑上来说不符合依赖的规则。
而且上面只是二级关联，如果是四级，五级的话，上层缓存的变更带动了太多下级缓存的变更，需要耗费很多时间，因此如果能用延迟刷新或许是更好的方案。
用时间戳或许是个不错的办法，上述例子中，可以给缓存a增加一个时间戳，每次a缓存变更，同步更新时间戳。获取b的时候只需要校验下a的时间戳是否变更，变更了就重新加载b缓存，否则直接返回b。
伪代码如下：
// 权限信息缓存key
private static final FUNCTION_CACHE_KEY = "function_cache_key";
// 权限信息缓存时间戳
private static final FUNCTION_TIME_STAMP = "function_time_stamp";
// 权限信息缓存旧的时间戳
private static final FUNCTION_OLD_TIME_STAMP = "function_old_time_stamp";
// 用户权限信息缓存key
private static final USER_FUNCTION_CACHE_KEY = "uer_function_cache_key";

// 加载所有的权限信息
public List loadFunctions() {
// 优先从缓存中取
List functions = cacheService.get(FUNCTION_CACHE_KEY);
if(functions != null){
return functions;
}
// 缓存中没有，从数据库中取，并放入缓存
functions = functionDao.loadFunctions();
cacheService.put(FUNCTION_CACHE_KEY, functions);
// 同步更新时间戳
String timeStamp = String.valueOf(System.currentTimeMillis());
cacheService.put(FUNCTION_TIME_STAMP, timeStamp);
return functions;
}

// 根据用户id加载用户的权限信息
public List loadUserFunctions(Long userId) {
List functions = loadFunctions();
// 加载缓存中用户权限信息
List userFunctions = cacheService.get(USER_FUNCTION_CACHE_KEY + userId);
String newTimeStamp= cacheService.get(FUNCTION_TIME_STAMP);
String oldTimeStamp= cacheService.get(FUNCTION_OLD_TIME_STAMP);
// 如果缓存中没有用户权限信息，或者时间戳不相等，重新从权限信息里面加载用户权限信息
if(userFunctions == null || newTimeStamp != oldTimeStamp){
userFunctions = getUserFunctions(functions, userId)；
// 把用户权限信息放入缓存
cacheService.put(USER_FUNCTION_CACHE_KEY + userId, functions);
// 把当前时间戳放入缓存
cacheService.put(FUNCTION_OLD_TIME_STAMP, newTimeStamp);
return userFunctions;
}
return userFunctions;
}
需要说明的是，上述代码只是作为示例，真正开发时用户的权限信息一般有更好的处理方式，并不一定是上面示例中每个用户都单独放一份缓存。
因为上面缓存只是二级级联，如果级数更多，同样可以用时间戳来进行延迟加载
数据库 --> 缓存a --> 缓存b --> 缓存c --> 缓存d
获取缓存d时，可以校验 缓存a时间戳 + 缓存b时间戳 + 缓存c时间戳，abc任何一个时间戳发生变化，缓存d都需要重新加载，思路和上面的差不多，这里就不多赘述了。
guava 的妙用
对于权限校验中使用频率高，但校验逻辑又不常变化的地方可以再加一层缓存。
例如一般都权限系统都有对外的接口，可以直接匿名访问，校验代码如下
// ant风格 url 匹配器
private AntPathMatcher matcher = new AntPathMatcher();
// 可以访问的匿名url集合，通常采用ant风格,例如 /open/api/**
// 匿名url通常写在配置文件中，并且在bean初始化时加载到该集合中
private Set anonymousUrlPatterns = new HashSet();

// 判断url是否能匿名访问
public boolean couldAnonymous(String url) {
for (String patternUrl : anonymousUrlPatterns) {
if (matcher.match(patternUrl, url)) {
isMatch = true;
break;
}
}
return isMatch;
}
可以看到，每一次url访问都会校验，可以通过加一层缓存来优化性能
用分布式缓存感觉有点大材小用，ehcache又有点太重量级，ConcurrentHashMap又不支持缓存策略，思来想去guava貌似是最好的选择，改造完后的代码如下：
// ant风格 url 匹配器
private AntPathMatcher matcher = new AntPathMatcher();
// 可以访问的匿名url集合，通常采用ant风格,例如 /open/api/**
// 匿名url通常写在配置文件中，并且在bean初始化时加载到该集合中
private Set anonymousUrlPatterns = new HashSet();

// 匿名url访问权限缓存
private static Cache anonymousUrlCache = CacheBuilder.newBuilder()
.maximumSize(5000)
.initialCapacity(1000)
.expireAfterAccess(1, TimeUnit.DAYS) // 设置cache中的的对象多久没有被访问后过期
.build();

// 判断url 是否能匿名访问
public boolean couldAnonymous(String url) {
// 先从缓存中取，有的话直接返回
Boolean couldAnonymousAccess = anonymousUrlCache.getIfPresent(url);
if (couldAnonymousAccess != null) {
return couldAnonymousAccess;
}
boolean isMatch = false;
for (String patternUrl : anonymousUrlPatterns) {
if (matcher.match(patternUrl, url)) {
isMatch = true;
break;
}
}
// 匹配结果放入缓存
anonymousUrlCache.put(url, isMatch);
return isMatch;
}
localStorage 缓存
localStorage 是 HTML5支持的新特性，可以把一些数据缓存放在客户端，减轻服务器的压力，例如可以把菜单数据放到客户端，菜单数据是否过期通过时间戳来判断，伪代码如下：
var timestamp = localStorage.getItem("timestamp" + userId);
// 请求后台获取菜单接口，带上时间戳参数 timestamp
// 后台校验时间戳是否变更，如果变更，返回新的菜单数据和新的时间戳，否则不需要返回菜单数据，仍旧返回旧的时间戳即可
// 后台接口返回数据格式 result = {menus:{},timestamp:""}
var newTimestamp = result.timestamp;
// 时间戳变更，把新的菜单数据和新的时间戳 放入 localStorage
if (newTimestamp != timestamp) {
localStorage.setItem("menus" + userId, JSON.stringify(result.menus));
localStorage.setItem("timestamp" + userId, newTimestamp);
}
有人担心把缓存放在localStorage中如果被修改会造成安全问题，其实这个担心是没必要的，因为权限校验是在服务器端做的，localStorage中的缓存只做展示使用，因此修改localStorage时没有任何意义的。
总结
在不同的情况下，上述场景分别用了ehcache,redis,guava,localStorage做缓存，更加说明了没有最好的技术，只有最适合的技术。通过引入时间戳这种版本号的机制，解决了缓存更新问题。最终的目的只有一个，保证缓存数据一致性的同时，把性能做的极致，用户体验做到最好。