JVM级缓存本地缓存Caffeine

---

前言

最新的 Java 面试题，技术栈涉及 Java 基础、集合、多线程、Mysql、分布式、Spring全家桶、MyBatis、Dubbo、缓存、消息队列、Linux…等等，会持续更新。

一、创建缓存的代码逻辑

• Caffeine：

public LoadingCache<String, User> createUserCache() {
    return Caffeine.newBuilder()
            .initialCapacity(1000) // 指定初始容量
            .maximumSize(10000L) // 指定最大容量
            .expireAfterWrite(30L, TimeUnit.MINUTES)  // 指定写入30分钟后过期
            .refreshAfterWrite(1L, TimeUnit.MINUTES) // 指定每隔1分钟刷新下数据内容
            .recordStats() // 开启缓存操作数据统计
            .build(key -> userDao.getUser(key)); // 构建CacheLoader加载类型的缓存对象
}

• Guava Cache：

public LoadingCache<String, User> createUserCache() {
    return CacheBuilder.newBuilder()
            .initialCapacity(1000) // 指定初始容量
            .maximumSize(10000L) // 指定最大容量
            .expireAfterWrite(30L, TimeUnit.MINUTES)  // 指定写入30分钟后过期
            .concurrencyLevel(8) // 指定并发量
            .recordStats() // 开启缓存操作数据统计
            .build((CacheLoader<String, User>) key -> userDao.getUser(key)); // 构建CacheLoader加载类型的缓存对象
}

Caffeine在Guava Cache的基础上做了改良和优化， 比如Caffeine创建对象时不支持使用concurrencyLevel来指定并发量，因为改进了并发控制机制。

二、Caffeine的优化方面

• 1、底层数据结构的优化
  Caffeine是借助JDK8对ConcurrentHashMap，底层由数组+链表+红黑树，提升了Hash冲突时的查询效率，以及并发场景下的处理性能。
• 2、数据淘汰策略的优化
  通过使用改良后的W-TinyLFU算法，提供了更佳的热点数据留存效果，提供了近乎完美的热点数据命中率，以及更低消耗的过程维护。

淘汰算法W-TinyLFU

常规的缓存淘汰算法一般采用LRU或者LFU，但是这些算法在实际缓存场景中都会存在一些弊端：

淘汰算法	说明
LRU	最近最久未使用策略，保留最近被访问到的数据，而淘汰最久没有被访问的数据。如果遇到偶尔的批量刷数据场景，很容易将其他缓存内容都挤出内存，带来缓存击穿的风险。
LFU	最近少频率策略，这种根据访问次数进行淘汰，相比而言内存中存储的热点数据命中率会更高些，缺点就是需要维护独立字段用来记录每个元素的访问次数，占用内存空间。

Caffeine在LFU算法基础上引入一个基于LRU的Window Cache，这个新的算法叫就叫做W-TinyLFU，它有效的解决了LRU以及LFU存在的弊端，为Caffeine提供了大部分场景下近乎完美的命中率表现。

三、Caffeine的业务使用

• 1、依赖引入

<dependency>
    <groupId>com.github.ben-manes.caffeinegroupId>
    <artifactId>caffeineartifactId>
    <version>3.1.1version>
dependency>

• 2、支持同步缓存与异步缓存
  Caffeine支持创建Cache与AsyncCache两种不同类型，而如果指定了CacheLoader的时候，又可以细分出LoadingCache子类型与AsyncLoadingCache子类型。

1）同步缓存

public static void main(String[] args) throws Exception {
    LoadingCache<String, String> loadingCache = buildLoadingCache();
    loadingCache.put("key1", "value1");
    String value = loadingCache.get("key1");
    System.out.println(value);
}

2）异步缓存

public static void main(String[] args) throws Exception {
    AsyncLoadingCache<String, String> asyncLoadingCache = buildAsyncLoadingCache();
    // 写入缓存记录（value值为异步获取）
    asyncLoadingCache.put("key1", CompletableFuture.supplyAsync(() -> "value1"));
    // 异步方式获取缓存值
    CompletableFuture<String> completableFuture = asyncLoadingCache.get("key1");
    String value = completableFuture.join();
    System.out.println(value);
}

总结

都已经看到这里啦，赶紧收藏起来，祝您工作顺心，生活愉快！