Redis缓存雪崩和穿透的解决方法(转载)

Redis缓存雪崩和穿透的解决方法

今天来分享一下Redis几道常见的面试题:

如何解决缓存雪崩?
如何解决缓存穿透?
如何保证缓存与数据库双写时一致的问题?

一、缓存雪崩

1.1什么是缓存雪崩?

回顾一下我们为什么要用缓存(Redis):

在这里插入图片描述

现在有个问题,如果我们的缓存挂掉了,这意味着我们的全部请求都跑去数据库了。

在这里插入图片描述

在前面学习我们都知道Redis不可能把所有的数据都缓存起来(内存昂贵且有限),所以Redis需要对数据设置过期时间,并采用的是惰性删除+定期删除两种策略对过期键删除。Redis对过期键的策略+持久化

如果缓存数据设置的过期时间是相同的,并且Redis恰好将这部分数据全部删光了。这就会导致在这段时间内,这些缓存同时失效,全部请求到数据库中。

这就是缓存雪崩:
Redis挂掉了,请求全部走数据库。
对缓存数据设置相同的过期时间,导致某段时间内缓存失效,请求全部走数据库。
缓存雪崩如果发生了,很可能就把我们的数据库搞垮,导致整个服务瘫痪!

1.2如何解决缓存雪崩?

对于“对缓存数据设置相同的过期时间,导致某段时间内缓存失效,请求全部走数据库。”这种情况,非常好解决:

解决方法:1、在缓存的时候给过期时间加上一个随机值,这样就会大幅度的减少缓存在同一时间过期。

2、对于“Redis挂掉了,请求全部走数据库”这种情况,我们可以有以下的思路:
事发前:实现Redis的高可用(主从架构+Sentinel(哨兵) 或者Redis Cluster(集群)),尽量避免Redis挂掉这种情况发生
事发中:万一Redis真的挂了,我们可以设置本地缓存(ehcache)+限流(hystrix),尽量避免我们的数据库被干掉(起码能保证我们的服务还是能正常工作的)
事发后:redis持久化,重启后自动从磁盘上加载数据,快速恢复缓存数据

二、缓存穿透

2.1什么是缓存穿透

比如,我们有一张数据库表,ID都是从1开始的(正数):

但是可能有黑客想把我的数据库搞垮,每次请求的ID都是负数。这会导致我的缓存就没用了,请求全部都找数据库去了,但数据库也没有这个值啊,所以每次都返回空出去。

缓存穿透是指查询一个一定不存在的数据。由于缓存不命中,并且出于容错考虑,如果从数据库查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到数据库去查询,失去了缓存的意义。

在这里插入图片描述

这就是缓存穿透:
请求的数据在缓存大量不命中,导致请求走数据库。
缓存穿透如果发生了,也可能把我们的数据库搞垮,导致整个服务瘫痪!

2.1如何解决缓存穿透?

解决缓存穿透也有两种方案:

1、由于请求的参数是不合法的(每次都请求不存在的参数),于是我们可以使用布隆过滤器(BloomFilter)或者压缩filter提前拦截,不合法就不让这个请求到数据库层
当我们从数据库找不到的时候,我们也将这个空对象设置到缓存里边去。下次再请求的时候,就可以从缓存里边获取了。
这种情况我们一般会将空对象设置一个较短的过期时间

缓存与数据库双写一致

3.1对于读操作,流程是这样的

上面讲缓存穿透的时候也提到了:如果从数据库查不到数据则不写入缓存。
一般我们对读操作的时候有这么一个固定的套路:

如果我们的数据在缓存里边有,那么就直接取缓存的。
如果缓存里没有我们想要的数据,我们会先去查询数据库,然后将数据库查出来的数据写到缓存中
最后将数据返回给请求

3.2什么是缓存与数据库双写一致问题?

如果仅仅查询的话,缓存的数据和数据库的数据是没问题的。但是,当我们要更新时候呢?各种情况很可能就造成数据库和缓存的数据不一致了

这里不一致指的是:数据库的数据跟缓存的数据不一致

在这里插入图片描述

从理论上说,只要我们设置了键的过期时间,我们就能保证缓存和数据库的数据最终是一致的。因为只要缓存数据过期了,就会被删除。随后读的时候,因为缓存里没有,就可以查数据库的数据,然后将数据库查出来的数据写入到缓存中。

除了设置过期时间,我们还需要做更多的措施来尽量避免数据库与缓存处于不一致的情况发生。

3.3对于更新操作

一般来说,执行更新操作时,我们会有两种选择:
先操作数据库,再操作缓存
先操作缓存,再操作数据库

首先,要明确的是,无论我们选择哪个,我们都希望这两个操作要么同时成功,要么同时失败。所以,这会演变成一个分布式事务的问题。

所以,如果原子性被破坏了,可能会有以下的情况:

操作数据库成功了,操作缓存失败了。
操作缓存成功了,操作数据库失败了。

如果第一步已经失败了,我们直接返回Exception出去就好了,第二步根本不会执行。

3.3.1操作缓存

操作缓存也有两种方案:

更新缓存
删除缓存

一般我们都是采取删除缓存缓存策略的,原因如下:

1、 高并发环境下,无论是先操作数据库还是后操作数据库而言,如果加上更新缓存,那就更加容易导致数据库与缓存数据不一致问题。(删除缓存直接和简单很多)
2、如果每次更新了数据库,都要更新缓存【这里指的是频繁更新的场景,这会耗费一定的性能】,倒不如直接删除掉。等再次读取时,缓存里没有,那我到数据库找,在数据库找到再写到缓存里边(体现懒加载)

基于这两点,对于缓存在更新时而言,都是建议执行删除操作!

正常的情况是这样的:

先操作数据库,成功;
再删除缓存,也成功;

如果原子性被破坏了:

第一步成功(操作数据库),第二步失败(删除缓存),会导致数据库里是新数据,而缓存里是旧数据。
如果第一步(操作数据库)就失败了,我们可以直接返回错误(Exception),不会出现数据不一致。

如果在高并发的场景下,出现数据库与缓存数据不一致的概率特别低,也不是没有:

1、 缓存刚好失效
2、线程A查询数据库,得一个旧值
3、线程B将新值写入数据库
4、线程B删除缓存
5、线程A将查到的旧值写入缓存
要达成上述情况,还是说一句概率特别低:

因为这个条件需要发生在读缓存时缓存失效,而且并发着有一个写操作。而实际上数据库的写操作会比读操作慢得多,而且还要锁表,而读操作必需在写操作前进入数据库操作,而又要晚于写操作更新缓存,所有的这些条件都具备的概率基本并不大。

删除缓存失败的解决思路:

将需要删除的key发送到消息队列中
自己消费消息,获得需要删除的key
不断重试删除操作,直到成功

3.3.3先删除缓存,再更新数据库

正常情况是这样的:
先删除缓存,成功;
再更新数据库,也成功;

如果原子性被破坏了:

第一步成功(删除缓存),第二步失败(更新数据库),数据库和缓存的数据还是一致的。
如果第一步(删除缓存)就失败了,我们可以直接返回错误(Exception),数据库和缓存的数据还是一致的。

看起来是很美好,但是我们在并发场景下分析一下,就知道还是有问题的了:

线程A删除了缓存
线程B查询,发现缓存已不存在
线程B去数据库查询得到旧值
线程B将旧值写入缓存
线程A将新值写入数据库

所以也会导致数据库和缓存不一致的问题。

并发下解决数据库与缓存不一致的思路:

将删除缓存、修改数据库、读取缓存等的操作积压到队列里边,实现串行化。
在这里插入图片描述

3.4对比两种策略

先删除缓存,再更新数据库
在高并发下表现不如意,在原子性被破坏时表现优异
先更新数据库,再删除缓存(Cache Aside Pattern设计模式)
在高并发下表现优异,在原子性被破坏时表现不如意

                                
  • 点赞 3
  • 评论 4
  • 分享
    x

    海报分享

    扫一扫,分享海报

  • 收藏 33
  • 手机看

    分享到微信朋友圈

    x

    扫一扫,手机阅读

    • 文章举报
  • 关注
收起全文

分享传递价值

06-01 5万+

Redis缓存穿透缓存雪崩问题分析

redis作为 缓存使用已经是司空见惯,但是使用 redis后也可能会碰到一系列的问题,尤其是数据量很大的时候,经典的几个问题如下:(一) 缓存和数据库间数据一致性问题分布式环境下(单机就不用说了)非常容易出现 缓存和数据库间的数据一致性问题,针对这一点的话,只能说,如果你的项目对 缓存的要求是强一致性的,那么请不要使用 缓存。我们只能采取合适的策略来降低 缓存和数据库间数据不一致的概率,而无法保证两......

Java成神之路

03-10 4万+

你连存活到JDK8中著名的Bug都不知道,我怎么敢给你加薪

CopyOnWriteArrayList.java和ArrayList.java,这2个类的构造函数,注释中有一句话 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 public ArrayList(Collection
        
  • luoqinglong850102
    码哥luck_man911:3.4对比两种策略,这两种策略都无法保证数据一致性,要加乐观锁,更新数据库后,更新缓存。你只删除缓存没更新。7月前举报回复
  • 上一页
  • 1
  • 下一页

m0_37819279的博客

09-25 944

Redis缓存雪崩缓存穿透、并发问题及解决

redis作为 缓存使用已经是司空见惯,但是使用 redis后也可能会碰到一系列的问题,尤其是数据量很大的时候,经典的几个问题如下:(一) 缓存和数据库间数据一致性问题分布式环境下(单机就不用说了)非常容易出现 缓存和数据库间的数据一致性问题,针对这一点的话,只能说,如果你的项目对 缓存的要求是强一致性的,那么请不要使用 缓存。我们只能采取合适的策略来降低 缓存和数据库间数据不一致的概率,而无法保证两......

ChenRui_yz的博客

12-17 1681

高并发架构系列:如何解决Redis雪崩穿透、并发等5大难题

一、 缓存 雪崩数据未加载到 缓存中,或者 缓存同一时间大面积的失效,从而导致所有请求都去查数据库,导致数据库CPU和内存负载过高,甚至宕机。比如一个 雪崩的简单过程:1、 redis集群大面积故障;2、 缓存失效,但依然大量请求访问 缓存服务 redis;3、 redis大量失效后,大量请求转向到mysql数据库;4、mysql的调用量暴增,很快就扛不住了,甚至直接宕机;5、由于大量的应用服务依赖my......

好记性不如烂笔头--玲博小记

04-27 4075

Redis缓存穿透雪崩、热Key问题

高并发的情况会给系统带来很高的访问流量,这就给存储这些热点信息的 Redis数据造成了一些压力。热key问题及 解决方案产生原因用户消费的数据远大于生产的数据 (热卖商品、热点新闻、热点评论、明星直播)等。在日常工作生活中一些突发的的事件,例如某明星突然宣布恋情,导致某新闻点击量瞬间变大,请求远超过对数据的写入。就会造成热数据问题。我们 一般采用 缓存 + 过期时间的策略来帮助我们加......

art_code的博客

11-02 1724

Redis雪崩效应以及解决方案

Redis 雪崩效应以及 解决方案 缓存 雪崩产生的原因 缓存 雪崩通俗简单的理解就是:由于原有 缓存失效(或者数据未加载到 缓存中),新 缓存未到期间( 缓存正常从 Redis中获取,如下图)所有原本应该访问 缓存的请求都去查询数据库了,而对数据库CPU和内存造成巨大压力,严重的会造成数据库宕机,造成系统的崩溃。 缓存失效的时候如下图: 缓存失效时的 雪崩效应对底层系统的冲击非常可怕......

YiFeng_888的博客

01-11 2324

什么是缓存穿刺和缓存雪崩?如何解决缓存穿透缓存雪崩

作为参考使用,以便查阅。一. 缓存 穿透:      缓存 穿透是指查询一个一定不存在的数据,由于 缓存是不命中时需要从数据库查询,查不到数据则不写入 缓存,这将导致这个不存在的数据每次请求都要到数据库去查询,造成 缓存 穿透。      解决办法:     1.布隆过滤  对所有可能查询的参数以hash形式存储,在控制层先进行校验,不符合则丢弃。还有最常见的则是采用布隆过滤器,将所有可能存在的......

在路上2017的专栏

01-09 147

redis雪崩穿透

撸了今年阿里、头条和美团的面试,我有一个重要发现.......>>> ...

大树叶 技术专栏

01-28 1164

缓存穿透的几种形式及解决方案

缓存失效的几种形式1 缓存 穿透 缓存 穿透是指查询一个一定不存在的数据,由于 缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入 缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了 缓存的意义。在流量大时,可能DB就挂掉了,要是有人利用不存在的key频繁攻击我们的应用,这就是漏洞。 key不存在时,大量的数据进来查询DB 解决方案:有很多种 方法可以有效地 解决缓......

m0_43430744的博客

12-06 4104

图示Redis缓存雪崩穿透、击穿及常用解决方案-java案例

Redis 雪崩 雪崩概念当 redis中大量 缓存的过期时间相同时, 缓存到达过期时间集体失效( 雪崩效应),大量请求绕过 缓存层直接访问数据库load数据,导致数据库频繁IO,性能下降乃至宕机崩溃。图解 雪崩过程一个简单代码层图示 雪崩后未处理的后果常用 解决方案分散过期时间随机 redis 缓存的过期时间,使得 缓存失效时间点分散开来。mq削峰策略依靠mq削峰特性,发生 雪崩效应......

aevz95963682的博客

07-27 655

redis缓存穿透缓存击穿,缓存雪崩原因和解决方案

前言在我们日常的开发中,无不都是使用数据库来进行数据的存储,由于一般的系统任务中通常不会存在高并发的情况,所以这样看起来并没有什么问题,可是一旦涉及大数据量的需求,比如一些商品抢购的情景,或者是主页访问量瞬间较大的时候,单一使用数据库来保存数据的系统会因为面向磁盘,磁盘读/写速度比较慢的问题而存在严重的性能弊端,一瞬间成千上万的请求到来,需要系统在极短的时间内完成成千上万次的读/写操......

04-02 1万+

redis学习》-- 缓存穿透缓存雪崩的预防和解决

redis 缓存 穿透缓存失效的预防和 解决 缓存 穿透:认识 缓存 穿透是指查询一个一定不存在的数据,由于 缓存是不命中时需要从数据库查询,查不到数据则不写入 缓存,这将导致这个不存在的数据每次请求都要到数据库去查询,造成 缓存 穿透解决办法: 对所有可能查询的参数以hash形式存储,在控制层先进行校验,不符合则丢弃。还有最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的bitmap...

kongtiao5的专栏

09-19 11万+

缓存穿透缓存击穿、缓存雪崩区别和解决方案

一、 缓存处理流程      前台请求,后台先从 缓存中取数据,取到直接返回结果,取不到时从数据库中取,数据库取到更新 缓存,并返回结果,数据库也没取到,那直接返回空结果。       二、 缓存 穿透       描述:        缓存 穿透是指 缓存和数据库中都没有的数据,而用户不断发起请求,如发起为id为“-1”的数据或id为特别大不存在的数据。这时的用户很可能是攻击者,攻击会导......

fcvtb的博客

04-23 6171

【面试】redis缓存穿透缓存击穿、缓存雪崩区别和解决方案

设计一个 缓存系统,不得不要考虑的问题就是: 缓存 穿透缓存击穿与失效时的 雪崩效应。前台请求,后台先从 缓存中取数据,取到直接返回结果,取不到时从数据库中取,数据库取到更新 缓存,并返回结果,数据库也没取到,那直接返回空结果。 缓存 穿透描述: 缓存 穿透是指 缓存和数据库中都没有的数据,而用户不断发起请求。由于 缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据......

zz_study

05-18 8655

Redis缓存击穿,穿透雪崩等问题,及解决方案

缓存 穿透 缓存 穿透是指查询一个一定不存在的数据,由于 缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入 缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了 缓存的意义。在流量大时,可能DB就挂掉了,要是有人利用不存在的key频繁攻击我们的应用,这就是漏洞。 解决方案有很多种 方法可以有效地 解决 缓存 穿透问题,最常见的则是采用布隆过滤器,将所有可能存在的数据哈希到一个足够大的......

ThinkWon的博客

12-05 6643

Redis缓存雪崩缓存穿透等问题的解决方案

文章目录 缓存 雪崩 缓存 穿透 缓存预热 缓存更新 缓存降级热点数据和冷数据 缓存热点key 缓存 雪崩 缓存同一时间大面积的失效,所以,后面的请求都会落到数据库上,造成数据库短时间内承受大量请求而崩掉。 解决方案事前:尽量保证整个 redis 集群的高可用性,发现机器宕机尽快补上。选择合适的内存淘汰策略。事中:本地ehcache 缓存 + hystrix限流&降级,避免MySQL崩掉事后:利用 r......

半杯水

01-09 2185

Redis缓存穿透缓存雪崩的面试题解析

前段时间去摩拜面试,然后,做笔试的时候,遇到了几道 Redis面试题目,今天来做个总结。捋一下思路,顺便温习一下之前的知识,如果对您有帮助,左上角点下关注 ! 谢谢文章目录 缓存 穿透 缓存 雪崩大家都知道 Redis是一个 缓存中间件, 类似的 还有Ehcache(纯Java的进程内 缓存框架,也叫二级 缓存)memcache是一套分布式的高速 缓存系统用的最多的还是 Redis,而且我个人也觉得......

hxiaowang的博客

11-22 3447

缓存穿透问题解决!!!

what 缓存 穿透缓存 穿透是指查询一个一定不存在的数据,由于 缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入 缓存,这将导致这个不存在的数据每次请求都要到存储层去查询,失去了 缓存的意义。在流量大时,可能DB就挂掉了,要是有人利用不存在的key频繁攻击我们的应用,这就是漏洞。 解决 :【1.布隆过滤,2.  缓存空对象. 将 null 变成一个值.】有很多种 方法可以有效......

begin2017的博客

06-29 31

Redis缓存穿透/击穿/雪崩解决方案

                
                                
©️2020 CSDN 皮肤主题: 终极编程指南 设计师: CSDN官方博客 返回首页

你可能感兴趣的:(linux服务,redis)