Redis主从集群搭建及哨兵模式配置

目录

1.Redis安装

2.主从架构

2.1 Redis主从架构图

2.2Redis主从结构搭建

---

 

 

1.Redis安装

可参考下方链接：

安装Redis文章连接

 

2.主从架构

　　2.1 Redis主从架构图

 

2.2Redis主从结构搭建

　　Redis集群不用安装多个Redis,只需复制多个配置文件,修改即可；

　　✨搭建redis master

　　进入redis安装目录，创建redis_master文件夹，并且拷贝redis的可执行文件　

cd redis-4.0.8

mkdir redis_master

cp redis-4.0.8/src/redis-cli .

cp redis-4.0.8/src/redis-server .

cp redis-4.0.8/redis.conf

　　　

　　修改redis.conf配置文件

# 守护进程模式
daemonize yes 

# pid file 修改pidfile指向路径
pidfile /usr/local/redis-4.0.8/redis_master/redis_master.pid

# 监听端口
port 7001

# TCP接收队列长度，受/proc/sys/net/core/somaxconn和tcp_max_syn_backlog这两个内核参数的影响
tcp-backlog 511

# 一个客户端空闲多少秒后关闭连接(0代表禁用，永不关闭)
timeout 0

# 如果非零，则设置SO_KEEPALIVE选项来向空闲连接的客户端发送ACK
tcp-keepalive 60

# 指定服务器调试等级
# 可能值：
# debug （大量信息，对开发/测试有用）
# verbose （很多精简的有用信息，但是不像debug等级那么多）
# notice （适量的信息，基本上是你生产环境中需要的）
# warning （只有很重要/严重的信息会记录下来）
loglevel notice

# 指明日志文件名
logfile "./redis7001.log"

# 设置数据库个数
databases 16

# 会在指定秒数和数据变化次数之后把数据库写到磁盘上
# 900秒（15分钟）之后，且至少1次变更
# 300秒（5分钟）之后，且至少10次变更
# 60秒之后，且至少10000次变更
save 900 1
save 300 10
save 60 10000


# 默认如果开启RDB快照(至少一条save指令)并且最新的后台保存失败，Redis将会停止接受写操作
# 这将使用户知道数据没有正确的持久化到硬盘，否则可能没人注意到并且造成一些灾难
stop-writes-on-bgsave-error yes

# 当导出到 .rdb 数据库时是否用LZF压缩字符串对象
rdbcompression yes

# 版本5的RDB有一个CRC64算法的校验和放在了文件的最后。这将使文件格式更加可靠。
rdbchecksum yes

# 持久化数据库的文件名
dbfilename dump-master.rdb

# 工作目录
dir /usr/local/redis-4.0.8/redis_master/

# 当master服务设置了密码保护时，slav服务连接master的密码
masterauth testmaster123

# 当一个slave失去和master的连接，或者同步正在进行中，slave的行为可以有两种：
#
# 1) 如果 slave-serve-stale-data 设置为 "yes" (默认值)，slave会继续响应客户端请求，
# 可能是正常数据，或者是过时了的数据，也可能是还没获得值的空数据。
# 2) 如果 slave-serve-stale-data 设置为 "no"，slave会回复"正在从master同步
# （SYNC with master in progress）"来处理各种请求，除了 INFO 和 SLAVEOF 命令。
slave-serve-stale-data yes

# 你可以配置salve实例是否接受写操作。可写的slave实例可能对存储临时数据比较有用(因为写入salve
# 的数据在同master同步之后将很容易被删除
slave-read-only yes

# 是否在slave套接字发送SYNC之后禁用 TCP_NODELAY？
# 如果你选择“yes”Redis将使用更少的TCP包和带宽来向slaves发送数据。但是这将使数据传输到slave
# 上有延迟，Linux内核的默认配置会达到40毫秒
# 如果你选择了 "no" 数据传输到salve的延迟将会减少但要使用更多的带宽
repl-disable-tcp-nodelay no

# slave的优先级是一个整数展示在Redis的Info输出中。如果master不再正常工作了，哨兵将用它来
# 选择一个slave提升=升为master。
# 优先级数字小的salve会优先考虑提升为master，所以例如有三个slave优先级分别为10，100，25，
# 哨兵将挑选优先级最小数字为10的slave。
# 0作为一个特殊的优先级，标识这个slave不能作为master，所以一个优先级为0的slave永远不会被
# 哨兵挑选提升为master
slave-priority 100


# 密码验证
# 警告：因为Redis太快了，所以外面的人可以尝试每秒150k的密码来试图破解密码。这意味着你需要
# 一个高强度的密码，否则破解太容易了
requirepass testmaster123

# redis实例最大占用内存，不要用比设置的上限更多的内存。一旦内存使用达到上限，Redis会根据选定的回收策略（参见：
# maxmemmory-policy）删除key
maxmemory 3gb

# 最大内存策略：如果达到内存限制了，Redis如何选择删除key。你可以在下面五个行为里选：
# volatile-lru -> 根据LRU算法删除带有过期时间的key。
# allkeys-lru -> 根据LRU算法删除任何key。
# volatile-random -> 根据过期设置来随机删除key, 具备过期时间的key。 
# allkeys->random -> 无差别随机删, 任何一个key。 
# volatile-ttl -> 根据最近过期时间来删除（辅以TTL）, 这是对于有过期时间的key 
# noeviction -> 谁也不删，直接在写操作时返回错误。
maxmemory-policy volatile-lru

# 默认情况下，Redis是异步的把数据导出到磁盘上。这种模式在很多应用里已经足够好，但Redis进程
# 出问题或断电时可能造成一段时间的写操作丢失(这取决于配置的save指令)。
#
# AOF是一种提供了更可靠的替代持久化模式，例如使用默认的数据写入文件策略（参见后面的配置）
# 在遇到像服务器断电或单写情况下Redis自身进程出问题但操作系统仍正常运行等突发事件时，Redis
# 能只丢失1秒的写操作。
#
# AOF和RDB持久化能同时启动并且不会有问题。
# 如果AOF开启，那么在启动时Redis将加载AOF文件，它更能保证数据的可靠性。
appendonly no

# aof文件名
appendfilename "appendonly.aof"

# fsync() 系统调用告诉操作系统把数据写到磁盘上，而不是等更多的数据进入输出缓冲区。
# 有些操作系统会真的把数据马上刷到磁盘上；有些则会尽快去尝试这么做。
#
# Redis支持三种不同的模式：
#
# no：不要立刻刷，只有在操作系统需要刷的时候再刷。比较快。
# always：每次写操作都立刻写入到aof文件。慢，但是最安全。
# everysec：每秒写一次。折中方案。 
appendfsync everysec

# 如果AOF的同步策略设置成 "always" 或者 "everysec"，并且后台的存储进程（后台存储或写入AOF
# 日志）会产生很多磁盘I/O开销。某些Linux的配置下会使Redis因为 fsync()系统调用而阻塞很久。
# 注意，目前对这个情况还没有完美修正，甚至不同线程的 fsync() 会阻塞我们同步的write(2)调用。
#
# 为了缓解这个问题，可以用下面这个选项。它可以在 BGSAVE 或 BGREWRITEAOF 处理时阻止主进程进行fsync()。
# 
# 这就意味着如果有子进程在进行保存操作，那么Redis就处于"不可同步"的状态。
# 这实际上是说，在最差的情况下可能会丢掉30秒钟的日志数据。（默认Linux设定）
# 
# 如果你有延时问题把这个设置成"yes"，否则就保持"no"，这是保存持久数据的最安全的方式。
no-appendfsync-on-rewrite yes

# 自动重写AOF文件
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb

# AOF文件可能在尾部是不完整的（这跟system关闭有问题，尤其是mount ext4文件系统时
# 没有加上data=ordered选项。只会发生在os死时，redis自己死不会不完整）。
# 那redis重启时load进内存的时候就有问题了。
# 发生的时候，可以选择redis启动报错，并且通知用户和写日志，或者load尽量多正常的数据。
# 如果aof-load-truncated是yes，会自动发布一个log给客户端然后load（默认）。
# 如果是no，用户必须手动redis-check-aof修复AOF文件才可以。
# 注意，如果在读取的过程中，发现这个aof是损坏的，服务器也是会退出的，
# 这个选项仅仅用于当服务器尝试读取更多的数据但又找不到相应的数据时。
aof-load-truncated yes

# Lua 脚本的最大执行时间，毫秒为单位
lua-time-limit 5000

# Redis慢查询日志可以记录超过指定时间的查询
slowlog-log-slower-than 10000

# 这个长度没有限制。只是要主要会消耗内存。你可以通过 SLOWLOG RESET 来回收内存。
slowlog-max-len 128

# redis延时监控系统在运行时会采样一些操作，以便收集可能导致延时的数据根源。
# 通过 LATENCY命令 可以打印一些图样和获取一些报告，方便监控
# 这个系统仅仅记录那个执行时间大于或等于预定时间（毫秒）的操作, 
# 这个预定时间是通过latency-monitor-threshold配置来指定的，
# 当设置为0时，这个监控系统处于停止状态
latency-monitor-threshold 0

# Redis能通知 Pub/Sub 客户端关于键空间发生的事件，默认关闭
notify-keyspace-events ""

# 当hash只有少量的entry时，并且最大的entry所占空间没有超过指定的限制时，会用一种节省内存的
# 数据结构来编码。可以通过下面的指令来设定限制
hash-max-ziplist-entries 512
hash-max-ziplist-value 64

# 与hash似，数据元素较少的list，可以用另一种方式来编码从而节省大量空间。
# 这种特殊的方式只有在符合下面限制时才可以用
list-max-ziplist-entries 512
list-max-ziplist-value 64

# set有一种特殊编码的情况：当set数据全是十进制64位有符号整型数字构成的字符串时。
# 下面这个配置项就是用来设置set使用这种编码来节省内存的最大长度。
set-max-intset-entries 512

# 与hash和list相似，有序集合也可以用一种特别的编码方式来节省大量空间。
# 这种编码只适合长度和元素都小于下面限制的有序集合
zset-max-ziplist-entries 128
zset-max-ziplist-value 64

# HyperLogLog稀疏结构表示字节的限制。该限制包括
# 16个字节的头。当HyperLogLog使用稀疏结构表示
# 这些限制，它会被转换成密度表示。
# 值大于16000是完全没用的，因为在该点
# 密集的表示是更多的内存效率。
# 建议值是3000左右，以便具有的内存好处, 减少内存的消耗
hll-sparse-max-bytes 3000

# 启用哈希刷新，每100个CPU毫秒会拿出1个毫秒来刷新Redis的主哈希表（顶级键值映射表）
activerehashing yes

# 客户端的输出缓冲区的限制，可用于强制断开那些因为某种原因从服务器读取数据的速度不够快的客户端
client-output-buffer-limit normal 0 0 0
client-output-buffer-limit slave 256mb 64mb 60
client-output-buffer-limit pubsub 32mb 8mb 60

# 默认情况下，“hz”的被设定为10。提高该值将在Redis空闲时使用更多的CPU时，但同时当有多个key
# 同时到期会使Redis的反应更灵敏，以及超时可以更精确地处理
hz 10

# 当一个子进程重写AOF文件时，如果启用下面的选项，则文件每生成32M数据会被同步
aof-rewrite-incremental-fsync yes

启动master : redis-server ./redis.conf

　　查看下redis进程有没有 7001的：ps axu|grep redis

　　在客户端做链接测试 : redis-cli  -p 7001 -a testmaster123

　　插入一条数据：set name lisi

　　查询数据：get name

　　"lisi"

　　退出：quit

　　至此 redis_master 启动成功，能正常读写数据

　　✨搭建redis slave

　　进入redis安装目录，创建redis_slave文件夹，并且拷贝redis的可执行文件

cd redis-4.0.8

mkdir redis_slave

cp redis-4.0.8/src/redis-cli .

cp redis-4.0.8/src/redis-server .

cp redis-4.0.8/redis.conf

　　　　

　　修改redis.conf配置文件  slave的配置和master基本一致，只需要修改相应的pidfile，端口，日志文件名，并配上master的地址和认证密码

# pid file

pidfile  /usr/local/redis-4.0.8/redis_slave/redis_slave.pid

　# 监听端口　　

　　　　port 7002

　# 指明日志文件名

　　　　logfile "./redis7002.log"

 # 设置当本机为slav服务时，设置master服务的IP地址及端口，在Redis启动时，它会自动从master进行数据同步

　　　　slaveof 127.0.0.1 7001

 # 当master服务设置了密码保护时，slav服务连接master的密码

　　　　masterauth testmaster123

　#（默认情况下redis数据库充当slave角色时是只读的不能进行写操作 可以在配置文件中开启非只读:slave-read-only no）

　　启动redis slave 查看数据同步情况

　　启动redis slave : redis-server ./redis.conf

　　链接redis slave :  redis-cli -p 7002 -a testmaster123

　　查询数据 ： get name

　　"zhangsan"

　　至此 master中设置的key-value已经成功同步过来

 　 ✨主从复制原理：

1.当从库和主库建立MS关系后,会向主数据库发送SYNC命令

2.主库接收到SYNC命令后会开始在后台保存快照(RDB持久化过程),并将期间接收到的写命令缓存起来

3.当快照完成后,主Redis会将快照文件和所有缓存的写命令发送给从Redis

4.从Redis接收到后,会载入快照文件并且执行收到的缓存的命令

5.之后,主Redis每当接收到写命令时就会将命令发送从Redis，从而保证数据的一致

 

Redis Sentinel (哨兵)部署

　　Sentinel介绍：Sentinel是Redis的高可用性（HA）解决方案，由一个或多个Sentinel实例组成的Sentinel系统可以监视任意多个主服务器，以及这些主服务器属下的所有从服务器，并在被监视的主服务器进行下线状态时，

自动将下线主服务器属下的某个从服务器升级为新的主服务器，然后由新的主服务器代替已下线的主服务器继续处理命令请求。Redis提供的sentinel（哨兵）机制，通过sentinel模式启动redis后，

　自动监控master/slave的运行状态，基本原理是：心跳机制+投票裁决（每个sentinel只有一次选举的机会，当主库出现故障，哨兵会投票从库中选出一个承担主库的任务，剩下的还是从库）

Sentinel作用:

1. 监控：监控主从是否正常
2. 通知：出现问题时，可以通知相关人员
3. 自动故障迁移：自动主从切换
4. 统一的配置管理：连接者询问sentinel取得主从的地址

哨兵配置：

　　进入redis的安装目录 创建sentinel文件夹 拷贝可执行文件 配置哨兵　　

cd redis-4.0.8

mkdir redis_sentinel

cp redis-4.0.8/src/redis-cli .

cp redis-4.0.8/src/redis-server .

touch sentinel1.conf 

　　　　

　哨兵一配置 sentinel1.conf　

# Example sentinel.conf

# port 
port 8001

# 守护进程模式
daemonize yes

# 指明日志文件名
logfile "./sentinel1.log"

# 工作路径，sentinel一般指定/tmp比较简单
dir ./

# 哨兵监控这个master，在至少quorum个哨兵实例都认为master down后把master标记为odown
# （objective down客观down；相对应的存在sdown，subjective down，主观down）状态。
# slaves是自动发现，所以你没必要明确指定slaves。
sentinel monitor MyMaster 127.0.0.1 7001 1

# master或slave多长时间（默认30秒）不能使用后标记为s_down状态。
sentinel down-after-milliseconds MyMaster 1500

# 若sentinel在该配置值内未能完成failover操作（即故障时master/slave自动切换），则认为本次failover失败。
sentinel failover-timeout TestMaster 10000

# 设置master和slaves验证密码
sentinel auth-pass TestMaster testmaster123

sentinel config-epoch TestMaster 15
#除了当前哨兵, 还有哪些在监控这个master的哨兵
sentinel known-sentinel TestMaster 127.0.0.1 8002 0aca3a57038e2907c8a07be2b3c0d15171e44da5
sentinel known-sentinel TestMaster 127.0.0.1 8003 ac1ef015411583d4b9f3d81cee830060b2f29862

　哨兵二配置 sentinel2.conf

　　　　复制 sentinel1.conf 命名为  sentinel2.conf

　　　　修改sentinel2.conf配置文件 需要修改端口，日志文件名，其他监控哨兵配置

# port

port 8002

# 指明日志文件名

logfile "./sentinel2.log"

　　#除了当前哨兵, 还有哪些在监控这个master的哨兵

sentinel known-sentinel TestMaster 127.0.0.1 8002 
0aca3a57038e2907c8a07be2b3c0d15171e44da5

sentinel known-sentinel TestMaster 127.0.0.1 8003 
ac1ef015411583d4b9f3d81cee830060b2f29862

 

哨兵三配置 sentinel3.conf

　　　　复制 sentinel1.conf 命名为  sentinel3.conf

　　　　修改sentinel3.conf配置文件 需要修改端口，日志文件名，其他监控哨兵配置

　# port

　port 8003

　# 指明日志文件名

　logfile "./sentinel3.log"

　#除了当前哨兵, 还有哪些在监控这个master的哨兵

　　　　　　

sentinel known-sentinel TestMaster 127.0.0.1 8001  
0aca3a57038e2907c8a07be2b3c0d15171e44da5

sentinel known-sentinel TestMaster 127.0.0.1 8002  
ac1ef015411583d4b9f3d81cee830060b2f29862

启动哨兵：
        

redis.sentinel  ./sentinel1.conf  或使用 redis.server ./sentinel1.conf  --sentinel

redis.sentinel  ./sentinel2.conf

redis.sentinel  ./sentinel3.conf

在sentinel中查看 所监控的master 和slave 

链接哨兵：redis-cli -p 8001

查看master:  SENTINEL masters

 

 

检查容灾切换情况

　　查看当前redis进程：ps -ef|grep redis

　　杀掉当前master进程 ： kill -9 进程号

　　再在哨兵中查看当前master，已经切换成了 7002

 

　Redis注意事项：

　　　　1.最大内存问题：要设置好最大内存，以防不停的申请内存，造成系统内存都被用完。

　　　　2.Fork进程问题：'vm.overcommit_memory = 1'这一个选项要加到系统的配置中，防止fork因内存不足而失败。

　　　　3.密码问题：需要设置复杂一些，防止暴力破解。

无情的代码机器记录代码生活。。。。。。。。