Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)

1. Redis缓存相关问题

1.1 缓存穿透

缓存穿透是指查询一个数据库一定不存在的数据。

我们以前正常的使用Redis缓存的流程大致是:

1、数据查询首先进行缓存查询

2、如果数据存在则直接返回缓存数据

3、如果数据不存在,就对数据库进行查询,并把查询到的数据放进缓存

4、如果数据库查询数据为空,则不放进缓存

例如我们的数据表中主键是自增产生的,所有的主键值都大于0。此时如果用户传入的参数为-1,会是 怎么样?这个-1,就是一定不存在的对象。程序就会每次都去查询数据库,而每次查询都是空,每次又 都不会进行缓存。假如有人恶意攻击,就可以利用这个漏洞,对数据库造成压力,甚至压垮我们的数据 库。

为了防止有人利用这个漏洞恶意攻击我们的数据库,我们可以采取如下措施:

如果从数据库查询的对象为空,也放入缓存,key为用户提交过来的主键值,value为null,只是设定的 缓存过期时间较短,比如设置为60秒。这样下次用户再根据这个key查询redis缓存就可以查询到值了 (当然值为null),从而保护我们的数据库免遭攻击。

1.2 缓存雪崩

缓存雪崩,是指在某一个时间段,缓存集中过期失效。在缓存集中失效的这个时间段对数据的访问查 询,都落到了数据库上,对于数据库而言,就会产生周期性的压力波峰。

为了避免缓存雪崩的发生,我们可以将缓存的数据设置不同的失效时间,这样就可以避免缓存数据在某 个时间段集中失效。例如对于热门的数据(访问频率高的数据)可以缓存的时间长一些,对于冷门的数 据可以缓存的时间段一些。甚至对于一些特别热门的数据可以设置永不过期。

1.3 缓存击穿

缓存击穿,是指一个key非常热点(例如双十一期间进行抢购的商品数据),在不停的扛着大并发,大 并发集中对这一个点进行访问,当这个key在失效的瞬间,持续的大并发就穿破缓存,直接请求到数据 库上,就像在一个屏障上凿开了一个洞。

我们同样可以将这些热点数据设置永不过期就可以解决缓存击穿的问题了。

2. Redis集群方案

单击Redis的读写速度非常快,能够支持大量用户的访问。虽然Redis的性能很高,但是对大型网站来说,每秒需要获取的数据远远超过单台redis服务所能承受的压力,所以我们迫切需要一种方案能够解决单台Redis服务性能不足的问题。这就需要使用Redis的集群了。Redis集群有多种方案,下面分别进行讲解。

2.1 主从复制Replication

redis支持主从复制的模式。

在主从复制模式下Redis节点分为两种角色:主节点(也称为master)和从节点(也称为slave)。这种模式 集群是由一个主节点和多个从节点构成。

原则:Master会将数据同步到slave,而slave不会将数据同步到master。Slave启动时会连接master来 同步数据。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第1张图片

这是一个典型的分布式读写分离模型。我们可以利用master来处理写操作,slave提供读操作。这样可 以有效减少单个机器的并发访问数量。

要实现主从复制这种模式非常简单,主节点不用做任何修改,直接启动服务即可。从节点需要修改 redis.conf配置文件,加入配置:slaveof ,例如master的ip地址为 192.168.200.129,端口号为6379,那么slave只需要在redis.conf文件中配置slaveof 192.168.200.129 6379即可。

分别连接主节点和从节点,测试发现主节点的写操作,从节点立刻就能看到相同的数据。但是在从节点 进行写操作,提示 READONLY You can't write against a read only slave 不能写数据到从节 点。

现在我们就可以通过这种方式配置多个从节点进行读操作,主节点进行写操作,实现读写分离。

本次实战所需的包:

链接:https://pan.baidu.com/s/1Gs-qqUDj1BWZlrnEFgwErg 
提取码:gm4k 

 

第一步:将redis的包传到linux服务器上, 然后解压。 

tar -zxvf redis.tar.gz包

第二步:编译

##cd到/home/local/redis-4.0.14目录,输入命令make执行编译命令,接下来控制台会输出各种编译过程中输出的内容。

make

第三步:安装

输入以下命令

make PREFIX=/home/local/redis-4.0.14 install

这里多了一个关键字 PREFIX= 这个关键字的作用是编译的时候用于指定程序存放的路径。比如我们现在就是指定了redis必须存放在/home/local/redis-4.0.14目录。假设不添加该关键字Linux会将可执行文件存放在/usr/local/bin目录,

库文件会存放在/usr/local/lib目录。配置文件会存放在/usr/local/etc目录。其他的资源文件会存放在usr/local/share目录。这里指定号目录也方便后续的卸载,后续直接rm -rf /home/local/redis-4.0.14 即可删除redis。

执行结果如下图:

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第2张图片

第四步:修改redis.conf,将redis改为后台启动。

在配置文件中将daemonizeno改为yes表示后台启动。vim redis.conf ,然后在vim中查找:命令模式下:/daemonize回车。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第3张图片

第五步:启动redis

后台指定要执行的配置文件启动redis: 指令如下:

./bin/redis-server ./redis.conf
 

后台启动后不占用前台终端光标,通过查看进程的方式查看。redis本机的服务器ip地址是127.0.0.1默认端口号是6379。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第4张图片

此时,master已经启动了!!!

第六步:启动salve从节点

复制一份配置文件

cp redis.conf redis_slave1.conf

编辑复制后的配置文件

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第5张图片

启动从节点

./bin/redis-server ./redis_slave1.conf

检验是否成功:

进入bin目录下,进入redis客户端,输入命令info 可以查看到以下信息。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第6张图片

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第7张图片

查看从节点

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第8张图片

在主节点中操作:

在从节点中查询:

如果在从节点中新增则会报错!!!

2.2 哨兵sentine

我们现在已经给Redis实现了主从复制,可将主节点数据同步给从节点,实现了读写分离,提高Redis的 性能。但是现在还存在一个问题,就是在主从复制这种模式下只有一个主节点,一旦主节点宕机,就无 法再进行写操作了。也就是说主从复制这种模式没有实现高可用。那么什么是高可用呢?如何实现高可 用呢?

2.2.1 高可用介绍

高可用(HA)是分布式系统架构设计中必须考虑的因素之一,它是通过架构设计减少系统不能提供服务的 时间。保证高可用通常遵循下面几点:

1. 单点是系统高可用的大敌,应该尽量在系统设计的过程中避免单点。

2. 通过架构设计而保证系统高可用的,其核心准则是:冗余。

3. 实现自动故障转移。

sentinel(哨兵)是用于监控redis集群中Master状态的工具,其本身也是一个独立运行的进程,是Redis 的高可用解决方案,sentinel哨兵模式已经被集成在redis2.4之后的版本中。

sentinel可以监视一个或者多个redis master服务,以及这些master服务的所有从服务;当某个master 服务下线时,自动将该master下的某个从服务升级为master服务替代已下线的master服务继续处理请 求,并且其余从节点开始从新的主节点复制数据。

在redis安装完成后,会有一个redis-sentinel的文件,这就是启动sentinel的脚本文件,同时还有一个 sentinel.conf文件,这个是sentinel的配置文件。

sentinel工作模式:

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第9张图片

注意:可能有些同学会有疑问,现在我们已经基于sentinel实现了高可用,但是如果sentinel挂了怎么 办呢?其实sentinel本身也可以实现集群,也就是说sentinel也是高可用的。

2.2.3 Redis sentinel使用

2.2.3.1 配置sentinel

Sentinel在redis的安装包中有,我们直接使用就可以了,但是先需要修改配置文件,执行命令:

#进入redis目录

cd /home/local/redis-4.0.14/

# 复制sentinel配置文件

cp /sentinel.conf sentinel01.conf

# 修改配置文件:

vi sentinel01.conf

在sentinel01.conf配置文件中添加:

#外部可以访问

bind 0.0.0.0

sentinel monitor mymaster 127.0.0.1 6379 1

sentinel down-after-milliseconds mymaster 10000

sentinel failover-timeout mymaster 60000

sentinel parallel-syncs mymaster 1

注意:如果有sentinel monitor mymaster 127.0.0.1 6379 2配置,则注释掉。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第10张图片

2.2.3.2 启动sentinel

配置文件修改后,进入redis目录执行以下命令,启动sentinel:

./bin/redis-sentinel ./sentinel01.conf

效果如下: 

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第11张图片

可以看到,6379是主服务,6380、6381是从服务。

2.2.3.3 测试sentinel

我们在6379执行shutdown,关闭主服务,Sentinel提示如下:

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第12张图片

根据提示信息,我们可以看到,6379故障转移到了6380,通过投票选择6380为新的主服务器。

在6380执行info

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第13张图片

在6381执行info

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第14张图片

我们现在重启6379服务,会发现还是6380是master

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第15张图片

故障转移如下图:

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第16张图片

2.3 Redis内置集群cluster

2.3.1 Redis cluster介绍

Redis Cluster是Redis的内置集群,在Redis3.0推出的实现方案。在Redis3.0之前是没有这个内置集群 的。Redis Cluster是无中心节点的集群架构,依靠Gossip协议协同自动化修复集群的状态。

Redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等 的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连 接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他 节点的数据。

Redis cluster集群架构图如下:

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第17张图片

2.3.2 哈希槽方式分配数据

需要注意的是,这种集群模式下集群中每个节点保存的数据并不是所有的数据,而只是一部分数据。那 么数据是如何合理的分配到不同的节点上的呢?

Redis 集群是采用一种叫做 哈希槽 (hash slot) 的方式来分配数据的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用 CRC16 算法来取模得到所属的 slot ,然后将这个key 分到 哈希槽区间的节点上,具体算法就是: CRC16(key) % 16384 。

三个节点分别承担的slot 区间是:

  • 节点A覆盖0-5460
  • 节点B覆盖5461-10922
  • 节点C覆盖10923-16383

那么,现在要设置一个key ,比如叫 my_name :

set my_name itcast

按照redis cluster的哈希槽算法: CRC16('my_name')%16384 = 2412 。 那么就会把这个key 的存储分 配到 节点A 上了。

2.3.3 Redis cluster的主从模式

redis cluster 为了保证数据的高可用性,加入了主从模式,一个主节点对应一个或多个从节点,主节点 提供数据存取,从节点则是从主节点拉取数据备份,当这个主节点挂掉后,就会在这些从节点中选取一 个来充当主节点,从而保证集群不会挂掉。

redis cluster加入了主从模式后的效果如下:

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第18张图片

2.3.4 Redis cluster搭建

2.3.4.1 准备Redis节点

为了保证可以进行投票,需要至少3个主节点。

每个主节点都需要至少一个从节点,所以需要至少3个从节点。

一共需要6台redis服务器,我们这里使用6个redis实例,端口号为7001~7006。

第一步:先准备一个干净的redis环境,复制原来的bin文件夹,清理后作为第一个redis节点,具体命令如下:

我之前redis.conf 文件备份了最开始的,所以拷贝的redis.conf配置文件。

注意:建议可以用新的linux环境

#进入redis安装目录

cd /home/local/redis-4.0.14/

#创建cluster目录

mkdir cluster

#复制redis bin目录到clster目录下的node1目录中

cp -R bin/ cluster/node1

#拷贝新的redis.conf (尚未配置,刚解压的)

cp ../redis.conf .cluster/node1/redis.conf

# 进入node1目录下,修改配置文件

vi redis.conf

第二步:集群环境redis节点的配置文件如下:

# 不能设置密码,否则集群启动时会连接不上

# Redis服务器可以跨网络访问

bind 0.0.0.0

# 修改端口号

port 7001

# Redis后台启动

daemonize yes

# 开启aof持久化

appendonly yes

# 开启集群

cluster-enabled yes

# 集群的配置 配置文件首次启动自动生成

cluster-config-file nodes.conf

# 请求超时

cluster-node-timeout 5000

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第19张图片

第三步:第一个redis节点node1准备好之后,再分别复制5份,并修改对应node节点的配置文件

cp -R node1/ node2

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第20张图片

修改六个节点的端口号为7001~7006,修改redis.conf配置文件即可。

第四步:编写启动节点的脚本

 vi start-all.sh

内容为:

cd node1

./redis-server redis.conf

cd ..

cd node2

./redis-server redis.conf

cd ..

cd node3

./redis-server redis.conf

cd ..

cd node4

./redis-server redis.conf

cd ..

cd node5

./redis-server redis.conf

cd ..

cd node6

./redis-server redis.conf

cd ..

设置脚本的权限,并启动:

chmod 744 start-all.sh

./start-all.sh

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第21张图片

2.3.4.2 启动Redis集群

redis集群的管理工具使用的是ruby脚本语言,安装集群需要ruby环境,先安装ruby环境:

# 安装ruby

yum -y install ruby ruby-devel rubygems rpm-build

# 升级ruby版本,redis4.0.14集群环境需要2.2.2以上的ruby版本

yum install centos-release-scl-rh

yum install rh-ruby23 -y

scl enable rh-ruby23 bash

# 查看ruby版本

ruby -v

下载符合环境要求的gem,下载地址如下:

https://rubygems.org/gems/redis/versions/4.1.0

链接:https://pan.baidu.com/s/1Gs-qqUDj1BWZlrnEFgwErg 
提取码:gm4k 

直接上传安装即可,安装命令:

gem install redis-4.1.0.gem

进入redis安装目录,使用redis自带的集群管理脚本,执行命令:

# 进入redis安装包

cd /home/local/redis-4.0.14/src/

# 查看集群管理脚本

ll *.rb

# 使用集群管理脚本启动集群,下面命令中的1表示为每个主节点创建1个从节点

./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006 

效果如下: 

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第22张图片

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第23张图片

2.3.5 使用Redis集群

按照redis cluster的特点,它是去中心化的,每个节点都是对等的,所以连接哪个节点都可以获取和设 置数据。

使用redis的客户端连接redis集群,命令如下:

./redis-cli -h 127.0.0.1 -p 7001 -c

其中-c 一定要加,这个是redis集群连接时,进行节点跳转的参数。

连接到集群后可以设置一些值,可以看到这些值根据前面提到的哈希槽方式分散存储在不同的节点上 了。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第24张图片

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第25张图片

可以发现redis会自动跳转到对应的节点进行存储和获取数据!!

测试cluster

我们将7001的redis停掉,会发现7004从节点升级成主节点。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第26张图片

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第27张图片

我们再将7001的redis启动,会发现7001会变成从节点。

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第28张图片

Redis详解入门到实战(穿透、雪崩、击穿)以及集群部署(主从、哨兵、cluster)_第29张图片

你可能感兴趣的:(linux,分布式-微服务核心技术,redis,数据库,linux,分布式)