亿级流量电商详情页系统实战-25.亿级流量商品详情页的多级缓存架构介绍

1.前言

很多人以为，有了redis缓存，就可以支持对高并发的业务场景了。其实做复杂的缓存，如支撑电商复杂的场景下的高并发的缓存，遇到的问题是非常非常之多，绝对不是说简单的访问一下redis就可以了。

2.介绍

• 时效性要求高的，如商品价格/库存等，采取相关的服务系统每次发生了变更的时候，直接采取数据库和redis缓存双写的方案，这样缓存的时效性最高。

• 时效性要求不高的数据，如商品的基本信息（名称、颜色、版本、规格参数，等等），采取MQ异步通知的方式，写一个数据缓存生产服务，监听MQ消息，然后异步拉取服务的数据，更新本地缓存+redis缓存。

• 对于热数据的高并发访问，一般来说，商品的购买总是有热点的，比如每天购买iphone、nike、海尔等知名品牌的东西的人，总是比较多的， 一般采用三级缓存：nginx本地缓存+redis分布式缓存+tomcat堆缓存的多级缓存架构。

  (1) nginx+lua脚本做页面动态生成的工作，每次请求过来，优先从nginx本地缓存中提取各种数据，结合页面模板，生成需要的页面

  (2) 如果nginx本地缓存过期了，那么就从nginx到redis中去拉取数据，更新到nginx本地

  (3) 如果redis中已被LRU算法清理掉了，那么就从nginx走http接口到后端的服务中拉取数据，数据缓存生产服务中，在本地ehcache缓存中找，如果也被LRU清理掉了，那么就重新发送请求到源头的服务中去拉取数据，然后再次更新ehcache缓存+redis缓存，并返回数据给nginx，nginx缓存到本地

3.多级缓存架构中每一层的意义

• nginx本地缓存
  抗的是热数据的高并发访问，一般来说，商品的购买总是有热点的，比如每天购买iphone、nike、海尔等知名品牌的东西的人，总是比较多的。这些热数据，利用nginx本地缓存，由于经常被访问，所以可以被锁定在nginx的本地缓存内。大量的热数据的访问，就是经常会访问的那些数据，就会被保留在nginx本地缓存内，那么对这些热数据的大量访问，就直接走nginx就可以了。那么大量的访问，直接就可以走到nginx就行了，不需要走后续的各种网络开销了

• redis分布式大规模缓存
  抗的是很高的离散访问，支撑海量的数据，高并发的访问，高可用的服务。redis缓存最大量的数据，最完整的数据和缓存，1T+数据; 支撑高并发的访问，QPS最高到几十万; 可用性，非常好，提供非常稳定的服务。
  (1) nginx本地内存有限，也就能cache住部分热数据，除了各种iphone、nike等热数据，其他相对不那么热的数据，可能流量会经常走到redis那里
  (2) 利用redis cluster的多master写入，横向扩容，1T+以上海量数据支持，几十万的读写QPS，99.99%高可用性，那么就可以抗住大量的离散访问请求

• ehcache本地内存缓存
  主要是抗redis大规模灾难的，如果redis出现了大规模的宕机，导致nginx大量流量直接涌入数据生产服务，那么最后的本地缓存至少可以再抗一下，不至于让数据库直接裸奔，同时也可以抗住redis没有cache住的最后那少量的部分缓存