dump.rdb appendonly.aof
save 秒 1
alaways everysec no
rdb文件默认备份的策略是什么,如何修改这个策略
save 600 1
Redis 提供了2个不同形式的持久化方式。
RDB(Redis DataBase)
AOF(Append Of File)
在指定的时间间隔内将内存中的数据集快照写入磁盘, 也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里;
Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到 一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。 整个过程中,主进程是不进行任何IO操作的,这就确保了极高的性能 如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失。
Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据(变量、环境变量、程序计数器等) 数值都和原进程一致,但是是一个全新的进程,并作为原进程的子进程
在Linux程序中,fork()会产生一个和父进程完全相同的子进程,但子进程在此后多会exec系统调用,出于效率考虑,Linux中引入了“写时复制技术”
一般情况父进程和子进程会共用同一段物理内存,只有进程空间的各段的内容要发生变化时,才会将父进程的内容复制一份给子进程。
dump.rdb文件
在redis.conf文件里,默认为dump.rdb;
注:文件在哪里启动这个文件就是在哪里;
dump.rdb文件配置位置
rdb文件的保存路径,也可以修改。默认为Redis启动时命令行所在的目录下
修改dump.rdb文件路径 /usr/myredis下
vim redis.conf
修改为 /usr/myredis
配置路径成功;
配置文件中默认的快照配置时间间隔
第一步:vim redis.conf
命令save bgsave
save :save时只管保存,其它不管,全部阻塞。手动保存。不建议。
bgsave:Redis会在后台异步进行快照操作,快照同时还可以响应客户端请求。
可以通过lastsave 命令获取最后一次成功执行快照的时间
SNAPSHOTTING快照
格式:save 秒 写操作次数
RDB是整个内存的压缩过的Snapshot,RDB的数据结构,可以配置复合的快照触发条件,
默认是1分钟内改了1万次,或5分钟内改了10次,或15分钟内改了1次。
禁用
不设置save指令,或者给save传入空字符串
以上三项默认信息设置代表的意义是:
如果900秒内有1条Key信息发生变化,则进行快照;
如果300秒内有10条Key信息发生变化,则进行快照;
如果60秒内有10000条Key信息发生变化,则进行快照。
执行flushall命令,也会产生dump.rdb文件,但里面是空的,无意义;
bgsave默认是开启的状态;
当Redis无法写入磁盘的话(磁盘已满),直接关掉Redis的写操作。推荐yes.
对于存储到磁盘中的快照,可以设置是否进行压缩存储。如果是的话,redis会进行压缩。
如果你不想消耗CPU来进行压缩的话,可以设置为关闭此功能。推荐yes.
在存储快照后,还可以让redis来进行数据校验,如果数据已经损坏就不需要再进行持久化的操作,这样做会增加大约10%的性能消耗,如果希望获取到最大的性能提升,可以关闭此功能
推荐yes.
先查询rdb文件的目录
将*.rdb的文件拷贝到别的地方
rdb的恢复
关闭Redis
先把备份的文件拷贝到工作目录下 cp dump2.rdb dump.rdb
启动Redis, 备份数据会直接加载
适合大规模的数据恢复
对数据完整性和一致性要求不高更适合使用
节省磁盘空间
恢复速度快
save 时间 数据量;
备份机制更稳健,丢失数据概率更低;
可读的日志文本,通过操作AOF稳健,可以处理误操作;
Fork的时候,内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑
虽然Redis在fork时使用了写时拷贝技术,但是如果数据庞大时还是比较消耗性能。
在备份周期在一定间隔时间做一次备份,所以如果Redis意外down掉的话,就会丢失最后一次快照后的所有修改;
以日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作;
(1)客户端的请求写命令会被append追加到AOF缓冲区内;
(2)AOF缓冲区根据AOF持久化策略[always,everysec,no]将操作sync同步到磁盘的AOF文件中;
(3)AOF文件大小超过重写策略或手动重写时,会对AOF文件rewrite重写,压缩AOF文件容量;
(4)Redis服务重启时,会重新load加载AOF文件中的写操作达到数据恢复的目的;
我们使用第一个规则:实时同步;
AOF和RDB同时开启,系统默认取AOF的数据(数据不会存在丢失);
推荐使用:
如果对数据的完整性要求不太高,推荐使用RDB;
如果对数据的完整性高的话,推荐使用AOF;
AOF的备份机制和性能虽然和RDB不同, 但是备份和恢复的操作同RDB一样,都是拷贝备份文件,需要恢复时再拷贝到Redis工作目录下,启动系统即加载。
正常恢复
修改默认的appendonly no,改为yes
将有数据的aof文件复制一份保存到对应目录
恢复:重启redis然后重新加载
异常恢复
修改默认的appendonly no,改为yes
如遇到AOF文件损坏,通过
/usr/redis/bin/redis-check-aof --fix 文件的位置/appendonly.aof进行恢复
备份被写坏的AOF文件
恢复:重启redis,然后重新加载
第一步:cd /usr/local/bin
第二步:./redis-check-aof --fix /usr/myredis/appendonly.aof
appendfsync always
始终同步,每次Redis的写入都会立刻记入日志;性能较差但数据完整性比较好
appendfsync everysec
每秒同步,每秒记入日志一次,如果宕机,本秒的数据可能丢失。
appendfsync no
redis不主动进行同步,把同步时机交给操作系统。
AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制, 当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩, 只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof;
(1)bgrewriteaof触发重写,判断是否当前有bgsave或bgrewriteaof在运行,如果有,则等待该命令结束后再继续执行。
(2)主进程fork出子进程执行重写操作,保证主进程不会阻塞。
(3)子进程遍历redis内存中数据到临时文件,客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证原AOF文件完整以及新AOF文件生成期间的新的数据修改动作不会丢失。
(4)1).子进程写完新的AOF文件后,向主进程发信号,父进程更新统计信息。2).主进程把aof_rewrite_buf中的数据写入到新的AOF文件。
(5)使用新的AOF文件覆盖旧的AOF文件,完成AOF重写。
官方推荐两个都启用。
如果对数据不敏感,可以选单独用RDB。
不建议单独用 AOF,因为可能会出现Bug。
如果只是做纯内存缓存,可以都不用。
主机数据更新后根据配置和策略, 自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主;
读写分离,性能扩展(主 写 从 读)
容灾快速恢复
我们这里使用的是伪集群,同一个ip地址,只需要修改一下端口号,就可以实现一主二从服务;
三个端口号 6380为主 6381、6382为从;
第一步:拷贝多个redis.conf文件include(写绝对路径)
/usr/local/bin文件下创建6380、6381、6382conf文件
touch redis6380.conf redis6381.conf redis6382.conf
创建完成以后将这3个文件移动到/usr/myredis文件下
mv redis6380.conf /usr/myredis
mv redis6381.conf /usr/myredis
mv redis6382.conf /usr/myredis
第二步:移动完成以后,进入conf里进行配置;
vim redis6380.conf 6380配置文件
include /usr/yym/redis/redis-5.0.14/redis.conf
port 6380
daemonize yes
dir /usr/myredis
dbfilename dump6380.rdb
pidfile /var/run/redis_6380.pid
bind 0.0.0.0
protected-mode no
vim redis6381.conf 6381配置文件
include /usr/yym/redis/redis-5.0.14/redis.conf
port 6381
daemonize yes
dir /usr/myredis
dbfilename dump6381.rdb
pidfile /var/run/redis_6381.pid
bind 0.0.0.0
protected-mode no
vim redis6382.conf 6382配置文件
include /usr/yym/redis/redis-5.0.14/redis.conf
port 6382
daemonize yes
dir /usr/myredis
dbfilename dump6382.rdb
pidfile /var/run/redis_6382.pid
bind 0.0.0.0
protected-mode no
把文件里的所有内容全部都拿过来,拿的是redis.conf的原始文件;
端口号;
后台启动;
第三步:配置完成以后,开始启动,启动三台redis服务;
/usr/local/bin/redis-server /usr/myredis/redis6380.conf;
/usr/local/bin/redis-server /usr/myredis/redis6381.conf
/usr/local/bin/redis-server /usr/myredis/redis6382.conf
第四步:查看三台redis的服务状况;
连接客户端: /usr/local/bin ./redis-cli -p 6380
查看运行状态:info replication
此时三台服务器上显示的都是 主
第五步:给81和82配置从
主为6380 从是6381和6382
slaveof <自己的ip地址>
我们分别在要配置从机的6381和6382上执行这条命令;
在6382上在重新执行一遍此命令即可;
然后在查看这两台从机的状态;
然后在查看主机状态;
如上图,一主二从配置完成;
注:在主机上写,在从机上可以读取数据;主机挂掉,重启就行,一切如初;
上一个Slave可以是下一个slave的Master,Slave同样可以接收其他 slaves的连接和同步请求,那么该slave作为了链条中下一个的master, 可以有效减轻master的写压力,去中心化降低风险。
用 slaveof
中途变更转向:会清除之前的数据,重新建立拷贝最新的
风险是一旦某个slave宕机,后面的slave都没法备份
主机挂了,从机还是从机,无法写数据了
80 1 主
81 2 从
82 3 从
如果80主机宕机了,81从机就会变为82的主机;
如何实现这种,只需要修改一下82的主机即可;
修改前:
修改后:使用命令是 slaveof <自己的ip地址>
手动版
当一个master宕机后,后面的slave可以立刻升为master,其后面的slave不用做任何修改。
用 slaveof no one 将从机变为主机。
第一步:我们使用shutdown关机命令,关闭主机6380redis服务;
第二步:我们在6381上手动输入slaveof no one,在次运行 info replication
此时,6381已经从从机变为了主机;
反客为主的自动版,能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库
第一步:先把反客为主调整为一主二仆模式,6380带着6381、6382
启动6380服务 /usr/local/bin/redis-server /usr/myredis/redis6380.conf
将81和82全部设置为从;
自定义的/myredis目录下新建sentinel.conf文件,名字绝不能错
第二步:配置哨兵,填写内容
在/usr/myredis新建一个文件sentinel.conf;
进入到sentinel.conf文件里面进行配置;
vim sentinel.conf
配置内容:sentinel monitor mymaster 192.168.146.8 6380 1
注:其中mymaster为监控对象起的服务器名称, 1 为至少有多少个哨兵同意迁移的数量。
第三步:启动哨兵
/usr/local/bin/redis-sentinel /usr/myredis/sentinel.conf
查看ps -ef|grep redis 6380进程号
将6380进程号给关闭;
6380宕机以后哨兵模式会自动把6381从机转为主机;
当主机挂掉,从机选举中产生新的主机
(大概10秒左右可以看到哨兵窗口日志,切换了新的主机)
哪个从机会被选举为主机呢?根据优先级别:replica-priority
原主机重启后会变为从机。