redis-3

redis持久化的文件是什么

dump.rdb  appendonly.aof

这两中文件有什么异同

save 秒 1

alaways everysec no

rdb文件默认备份的策略是什么,如何修改这个策略

save 600 1

Redis持久化之RDB

Redis 提供了2个不同形式的持久化方式。

RDB(Redis DataBase)

AOF(Append Of File)

RDB是什么

在指定的时间间隔内将内存中的数据集快照写入磁盘, 也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里;

备份是如何执行

Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到 一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。 整个过程中,主进程是不进行任何IO操作的,这就确保了极高的性能 如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失

redis-3_第1张图片

Fork

Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据(变量、环境变量、程序计数器等) 数值都和原进程一致,但是是一个全新的进程,并作为原进程的子进程

在Linux程序中,fork()会产生一个和父进程完全相同的子进程,但子进程在此后多会exec系统调用,出于效率考虑,Linux中引入了“写时复制技术

一般情况父进程和子进程会共用同一段物理内存,只有进程空间的各段的内容要发生变化时,才会将父进程的内容复制一份给子进程。

RDB持久化流程

redis-3_第2张图片

dump.rdb文件   

在redis.conf文件里,默认为dump.rdb;

注:文件在哪里启动这个文件就是在哪里;

dump.rdb文件配置位置

rdb文件的保存路径,也可以修改。默认为Redis启动时命令行所在的目录下

修改dump.rdb文件路径  /usr/myredis下

vim redis.conf

redis-3_第3张图片

修改为  /usr/myredis

redis-3_第4张图片

redis-3_第5张图片

redis-3_第6张图片

配置路径成功;

如何触发RDB快照;保持策略

配置文件中默认的快照配置时间间隔

第一步:vim redis.conf

redis-3_第7张图片

命令save bgsave

save :save时只管保存,其它不管,全部阻塞。手动保存。不建议。

bgsave:Redis会在后台异步进行快照操作,快照同时还可以响应客户端请求。

可以通过lastsave 命令获取最后一次成功执行快照的时间

redis-3_第8张图片

SNAPSHOTTING快照

Save

格式:save 秒 写操作次数

RDB是整个内存的压缩过的Snapshot,RDB的数据结构,可以配置复合的快照触发条件,

默认是1分钟内改了1万次,或5分钟内改了10次,或15分钟内改了1次。

禁用

不设置save指令,或者给save传入空字符串

redis-3_第9张图片

以上三项默认信息设置代表的意义是:

如果900秒内有1条Key信息发生变化,则进行快照;

如果300秒内有10条Key信息发生变化,则进行快照;

如果60秒内有10000条Key信息发生变化,则进行快照。

flushall命令

执行flushall命令,也会产生dump.rdb文件,但里面是空的,无意义;

 bgsave默认是开启的状态;

redis-3_第10张图片

stop-writes-on-bgsave-error

当Redis无法写入磁盘的话(磁盘已满),直接关掉Redis的写操作。推荐yes.

rdbcompression 压缩文件

redis-3_第11张图片

对于存储到磁盘中的快照,可以设置是否进行压缩存储。如果是的话,redis会进行压缩。

如果你不想消耗CPU来进行压缩的话,可以设置为关闭此功能。推荐yes.

 rdbchecksum 检查数据的完整性

redis-3_第12张图片

在存储快照后,还可以让redis来进行数据校验,如果数据已经损坏就不需要再进行持久化的操作,这样做会增加大约10%的性能消耗,如果希望获取到最大的性能提升,可以关闭此功能

推荐yes.

rdb的备份

先查询rdb文件的目录

将*.rdb的文件拷贝到别的地方

rdb的恢复

关闭Redis

先把备份的文件拷贝到工作目录下 cp dump2.rdb dump.rdb

启动Redis, 备份数据会直接加载

优势

适合大规模的数据恢复

对数据完整性和一致性要求不高更适合使用

节省磁盘空间

恢复速度快

redis-3_第13张图片

redis-3_第14张图片

save 时间 数据量;

备份机制更稳健,丢失数据概率更低;

可读的日志文本,通过操作AOF稳健,可以处理误操作;

劣势

Fork的时候,内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑

虽然Redis在fork时使用了写时拷贝技术,但是如果数据庞大时还是比较消耗性能。

在备份周期在一定间隔时间做一次备份,所以如果Redis意外down掉的话,就会丢失最后一次快照后的所有修改;

  • 比起RDB占用更多的磁盘空间。
  • 恢复备份速度要慢。
  • 每次读写都同步的话,有一定的性能压力。
  • 存在个别Bug,造成恢复不能。

Redis持久化之AOF

什么是AOF

日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作;

AOF持久化流程

(1)客户端的请求写命令会被append追加到AOF缓冲区内;

(2)AOF缓冲区根据AOF持久化策略[always,everysec,no]将操作sync同步到磁盘的AOF文件中;

(3)AOF文件大小超过重写策略或手动重写时,会对AOF文件rewrite重写,压缩AOF文件容量;

(4)Redis服务重启时,会重新load加载AOF文件中的写操作达到数据恢复的目的;

redis-3_第15张图片

AOF默认不开启

redis-3_第16张图片

redis-3_第17张图片

我们使用第一个规则:实时同步;

redis-3_第18张图片

AOF和RDB同时开启,redis听谁的?

AOF和RDB同时开启,系统默认取AOF的数据(数据不会存在丢失);

推荐使用:

如果对数据的完整性要求不太高,推荐使用RDB;

如果对数据的完整性高的话,推荐使用AOF;

AOF启动/修复/恢复

 AOF的备份机制和性能虽然和RDB不同, 但是备份和恢复的操作同RDB一样,都是拷贝备份文件,需要恢复时再拷贝到Redis工作目录下,启动系统即加载。

  正常恢复

  修改默认的appendonly no,改为yes

  将有数据的aof文件复制一份保存到对应目录

 恢复:重启redis然后重新加载

  异常恢复

 修改默认的appendonly no,改为yes

如遇到AOF文件损坏,通过

/usr/redis/bin/redis-check-aof --fix 文件的位置/appendonly.aof进行恢复

 备份被写坏的AOF文件

  恢复:重启redis,然后重新加载

第一步:cd /usr/local/bin    

第二步:./redis-check-aof --fix /usr/myredis/appendonly.aof

redis-3_第19张图片

AOF同步频率设置

appendfsync always

始终同步,每次Redis的写入都会立刻记入日志;性能较差但数据完整性比较好

appendfsync everysec

每秒同步,每秒记入日志一次,如果宕机,本秒的数据可能丢失。

appendfsync no

redis不主动进行同步,把同步时机交给操作系统。

Rewrite压缩是什么

AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制, 当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩, 只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof;

重写流程

(1)bgrewriteaof触发重写,判断是否当前有bgsave或bgrewriteaof在运行,如果有,则等待该命令结束后再继续执行。

(2)主进程fork出子进程执行重写操作,保证主进程不会阻塞。

(3)子进程遍历redis内存中数据到临时文件,客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证原AOF文件完整以及新AOF文件生成期间的新的数据修改动作不会丢失。

(4)1).子进程写完新的AOF文件后,向主进程发信号,父进程更新统计信息。2).主进程把aof_rewrite_buf中的数据写入到新的AOF文件。

(5)使用新的AOF文件覆盖旧的AOF文件,完成AOF重写。

redis-3_第20张图片

推荐使用

官方推荐两个都启用。

如果对数据不敏感,可以选单独用RDB。

不建议单独用 AOF,因为可能会出现Bug。

如果只是做纯内存缓存,可以都不用。

主从复制

主从复制是什么:

主机数据更新后根据配置和策略, 自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主;

主从复制能干什么?

读写分离,性能扩展(主 写 从 读)

容灾快速恢复

redis-3_第21张图片

配置一主二从操作

我们这里使用的是伪集群,同一个ip地址,只需要修改一下端口号,就可以实现一主二从服务;

三个端口号     6380为主   6381、6382为从;

第一步:拷贝多个redis.conf文件include(写绝对路径)

 /usr/local/bin文件下创建6380、6381、6382conf文件

touch redis6380.conf redis6381.conf redis6382.conf

创建完成以后将这3个文件移动到/usr/myredis文件下

mv redis6380.conf /usr/myredis

mv redis6381.conf /usr/myredis

mv redis6382.conf /usr/myredis

第二步:移动完成以后,进入conf里进行配置;

vim redis6380.conf       6380配置文件

include /usr/yym/redis/redis-5.0.14/redis.conf
port 6380
daemonize yes
dir /usr/myredis
dbfilename dump6380.rdb
pidfile /var/run/redis_6380.pid
bind 0.0.0.0
protected-mode no

vim redis6381.conf       6381配置文件

include /usr/yym/redis/redis-5.0.14/redis.conf
port 6381
daemonize yes
dir /usr/myredis
dbfilename dump6381.rdb
pidfile /var/run/redis_6381.pid
bind 0.0.0.0
protected-mode no

 vim redis6382.conf       6382配置文件

include /usr/yym/redis/redis-5.0.14/redis.conf
port 6382
daemonize yes
dir /usr/myredis
dbfilename dump6382.rdb
pidfile /var/run/redis_6382.pid
bind 0.0.0.0
protected-mode no

把文件里的所有内容全部都拿过来,拿的是redis.conf的原始文件;

端口号;

后台启动;

redis-3_第22张图片

第三步:配置完成以后,开始启动,启动三台redis服务;

/usr/local/bin/redis-server /usr/myredis/redis6380.conf;

/usr/local/bin/redis-server /usr/myredis/redis6381.conf

/usr/local/bin/redis-server /usr/myredis/redis6382.conf

redis-3_第23张图片

第四步:查看三台redis的服务状况;

连接客户端: /usr/local/bin     ./redis-cli -p 6380

查看运行状态:info replication

此时三台服务器上显示的都是   主

redis-3_第24张图片

第五步:给81和82配置从

主为6380  从是6381和6382

slaveof <自己的ip地址>

我们分别在要配置从机的6381和6382上执行这条命令;

redis-3_第25张图片

在6382上在重新执行一遍此命令即可;

然后在查看这两台从机的状态;

redis-3_第26张图片

然后在查看主机状态;

redis-3_第27张图片

如上图,一主二从配置完成;

注:在主机上写,在从机上可以读取数据;主机挂掉,重启就行,一切如初;

复制原理

  • Slave启动成功连接到master后会发送一个sync命令
  • Master接到命令启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令, 在后台进程执行完毕之后,master将传送整个数据文件到slave,以完成一次完全同步
  • 全量复制:而slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。
  • 增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步
  • 但是只要是重新连接master,一次完全同步(全量复制)将被自动执行;
  • redis-3_第28张图片

薪火相传

上一个Slave可以是下一个slave的Master,Slave同样可以接收其他 slaves的连接和同步请求,那么该slave作为了链条中下一个的master, 可以有效减轻master的写压力,去中心化降低风险。

用 slaveof

中途变更转向:会清除之前的数据,重新建立拷贝最新的

风险是一旦某个slave宕机,后面的slave都没法备份

主机挂了,从机还是从机,无法写数据了

80 1 主

81 2 从

82 3 从

如果80主机宕机了,81从机就会变为82的主机;

如何实现这种,只需要修改一下82的主机即可;

修改前:

redis-3_第29张图片

        redis-3_第30张图片

修改后:使用命令是 slaveof <自己的ip地址>

redis-3_第31张图片

redis-3_第32张图片

反客为主

手动版

当一个master宕机后,后面的slave可以立刻升为master,其后面的slave不用做任何修改。

用 slaveof no one 将从机变为主机。

第一步:我们使用shutdown关机命令,关闭主机6380redis服务;

redis-3_第33张图片

第二步:我们在6381上手动输入slaveof no one,在次运行 info replication

redis-3_第34张图片

此时,6381已经从从机变为了主机;

哨兵模式

反客为主的自动版,能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库

redis-3_第35张图片

第一步:先把反客为主调整为一主二仆模式,6380带着6381、6382

启动6380服务    /usr/local/bin/redis-server /usr/myredis/redis6380.conf

将81和82全部设置为从;

自定义的/myredis目录下新建sentinel.conf文件,名字绝不能错

第二步:配置哨兵,填写内容

在/usr/myredis新建一个文件sentinel.conf;

进入到sentinel.conf文件里面进行配置;

vim sentinel.conf

配置内容:sentinel monitor mymaster 192.168.146.8 6380 1

其中mymaster为监控对象起的服务器名称, 1 为至少有多少个哨兵同意迁移的数量。

redis-3_第36张图片

第三步启动哨兵

 /usr/local/bin/redis-sentinel /usr/myredis/sentinel.conf 

查看ps -ef|grep redis 6380进程号

将6380进程号给关闭;

redis-3_第37张图片

6380宕机以后哨兵模式会自动把6381从机转为主机;

redis-3_第38张图片

当主机挂掉,从机选举中产生新的主机

(大概10秒左右可以看到哨兵窗口日志,切换了新的主机)

哪个从机会被选举为主机呢?根据优先级别:replica-priority

原主机重启后会变为从机。

redis-3_第39张图片

redis-3_第40张图片

你可能感兴趣的:(redis,数据库,缓存)