12.缓存

用户请求

1.缓存特征：

• 命中率：命中数/（命中数+没有命中数），命中率越高，缓存收益越高，抗并发能力越强。
• 最大元素（空间）
• 清空策略：FIFO、LFU、LRU、过期时间、随机等。

2.影响命中率因素：

• 业务场景和业务需求：适合读多写少的场景，以及实时性要求。
• 缓存设计（粒度和策略）：一般缓存的粒度越小，命中率就越高。
• 缓存容量和基础设施：容量和可扩展考虑，单机或分布式，缓存失效处理等。

3.缓存分类与应用场景

• 本地缓存：编程实现（成员变量、局部变量、静态变量）、Guava Cache
• 分布式缓存：Memcache、Redis

4.Guava Cache

谷歌开源工具库，灵感来源于ConcurrentHashMap。

5.Memcache
开源分布式产品之一，本身不提供分布式解决方案，在服务端是多个Memcache的堆积，搭建简单。分布式主要是在客户端通过路由实现。采用一次性哈希算法。

内存结构图

chunk是真正存放数据的地方，同一组大小固定。value存放地点与value大小有关，被存放到与chunk大小最接近的slab中。

6.redis
非关系型数据库，性能高，数据类型丰富等。适用于取最新单个数据操作、排行榜topN、实时系统、队列系统等。

7.高并发场景下缓存常见问题

• 缓存一致性问题：依赖缓存过期与更新策略。

• 缓存并发问题：缓存过期后会尝试从数据库获取数据，高并发时或者某个key更新时压力增大。
  
  

  可以尝试锁机制。

• 缓存穿透问题：
  
  

  高并发场景下，某个key被高并发访问没有被命中，尝试从后端数据库获取，导致数据库请求压力增大，当数据库该key对应的数据本身为空时，导致数据库并发执行很多不必要的操作，导致巨大冲击。解决方式：

• 缓存空对象（非null），缓存单个对象，可以通过标识区分；缓存空集和。
• 单独过滤处理，对所有key对应为空的进行处理，在请求前进行拦截，这样避免请求到达数据库，适合命中不高，更新不频繁的数据。

• 缓存雪崩现象：由于缓存原因，导致大量请求到达数据库，从而导致数据库崩溃，整个系统崩溃。原因多种：缓存并发、缓存穿透、缓存抖动、缓存周期性集中失效（设置不同过期时间）。应用架构角度：通过限流、降级、熔断等手段降低影响，也可以用多级缓存。多进行压力测试，模拟真实场景。
  
  

  缓存抖动：由于缓存节点故障导致，可通过一致性哈希算法解决。