之前介绍了用docker来搭建redis主从环境,但这只是对数据添加了从库备份(主从复制),当主库down掉的时候,从库是不会自动升级为主库的,也就是说,该redis主从集群并非是高可用的。
目前来说,高可用(主从复制、主从切换)redis集群有两种方案,一种是redis-sentinel,只有一个master,各实例数据保持一致;一种是redis-cluster,也叫分布式redis集群,可以有多个master,数据分片分布在这些master上。
本文介绍基于docker和redis-sentinel的高可用redis集群搭建,大多数情况下,redis-sentinel也需要做高可用,这里先对redis搭建一主二从环境,另外需要3个redis-sentinel监控redis master。
很显然,只使用单个redis-sentinel进程来监控redis集群是不可靠的,由于redis-sentinel本身也有single-point-of-failure-problem(单点问题),当出现问题时整个redis集群系统将无法按照预期的方式切换主从。官方推荐:一个健康的集群部署,至少需要3个Sentinel实例。另外,redis-sentinel只需要配置监控redis master,而集群之间可以通过master相互通信。
redis-sentinel作为独立的服务,用于管理多个redis实例,该系统主要执行以下三个任务:
sentinel.conf
是启动redis-sentinel的核心配置文件,可以从官网下载:
wget http://download.redis.io/redis-stable/sentinel.conf
先搭建好Redis一主二从环境,这里仅给出操作过程,可以参考之前写的《Docker + Redis (4.0.10) 主从环境搭建》,在master上使用info Replication
查看集群状态(注意,为了让redis-sentinel可以发现slave,这里要确保redis服务端口和容器映射端口一致):
# 主库
docker run -it --name redis-master -d -p 6300:6300 redis redis-server --requirepass redispassword --port 6300
docker exec -it redis-master bash
redis-cli -a redispassword -p 6300
config set masterauth redispassword
# 从库1
docker run -it --name redis-slave -d -p 6301:6301 redis redis-server --requirepass redispassword --port 6301
docker exec -it redis-slave bash
redis-cli -a redispassword -p 6301
slaveof
config set masterauth redispassword
# 从库2
docker run -it --name redis-slave2 -d -p 6302:6302 redis redis-server --requirepass redispassword --port 6302
docker exec -it redis-slave2 bash
redis-cli -a redispassword -p 6302
slaveof
config set masterauth redispassword
根据上面下载好的sentinel.conf
,找到并修改如下配置:
# mymaster:自定义集群名,如果需要监控多个redis集群,只需要配置多次并定义不同的 :主库ip :主库port :最小投票数,由于有三台redis-sentinel实例,所以可以设置成2
sentinel monitor mymaster
# 注:redis主从库搭建的时候,要么都不配置密码(这样下面这句也不需要配置),不然都需要设置成一样的密码
sentinel auth-pass mymaster redispassword
# 添加后台运行
daemonize yes
将上面的sentinel.conf
复制三份,分别为sentinel1.conf
,sentinel2.conf
和sentinel3.conf
,再次编辑修改port
为26000
,26001
和26002
。
redis-sentinel启动有以下两种方式:
redis-sentinel /path/to/sentinel.conf
redis-server /path/to/sentinel.conf --sentinel
大多数版本的redis都支持以上两种方式启动。实战中,为了让redis-sentinel作为独立的服务运行,这里用docker搭建环境:
# redis-sentinel实例1
docker run -it --name redis-sentinel1 -v /root/redis/sentinel1.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
# redis-sentinel实例2
docker run -it --name redis-sentinel2 -v /root/redis/sentinel2.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
# redis-sentinel实例3
docker run -it --name redis-sentinel3 -v /root/redis/sentinel3.conf:/usr/local/etc/redis/sentinel.conf -d redis /bin/bash
分别进入以上三个容器启动redis-sentinel:
docker exec -it redis-sentinel(x) bash
# 或redis-server /usr/local/etc/redis/sentinel.conf --sentinel
redis-sentinel /usr/local/etc/redis/sentinel.conf
连接并使用redis-sentinel API查看监控状况:
redis-cli -p 26000 (26001 | 26002)
sentinel master mymaster 或 sentinel slaves mymaster
进入redis-master容器,休眠60秒redis服务:
docker exec -it redis-master bash
redis-cli -a redispassword -p 6300 DEBUG sleep 60
进入redis-slave或redis-slave2容器,查看info Replication
,可以看到master已经完成了切换。
60秒后原redis主库恢复服务,但降级后当前redis服务已无法恢复原主库身份。
Docker化高可用redis集群
Redis Sentinel Documentation
Redis Sentinel 机制与用法(4.0.0版本)
Redis practise(二)使用Docker部署Redis高可用,分布式集群