codis集群 搭建

CODIS(release3.2.0)集群搭建

一、CODIS安装

【官方】安装方式

注：在Mac下测试需要独立安装autoconf (如何安装autoconf)，可能需要关注一下版本。

准备工作：版本可以不一样，都可以去官网下载

2.2 Go使用版本：go1.5.2.Linux-amd64.tar.gz

https://golang.org/doc/install?download=go1.5.2.linux-amd64.tar.gz

2.3 jdk版本：jdk1.8.0_11

http://download.oracle.com/otn-pub/java/jdk/8u111-b14/jdk-8u111-linux-x64.tar.gz

2.4 zookeeper版本：zookeeper-3.4.8.tar.g

2.5 codis包

Codis 源代码需要下载到 $GOPATH/src/github.com/CodisLabs/codis：

 

设置编译环境

注意 $GOPATH 是本机所有第三方库 go 项目所在目录，Codis 仅是其中之一。

添加 $GOPATH/bin 到 $PATH，例如：PATH=$PATH:$GOPATH/bin。

$ mkdir -p $GOPATH/src/github.com/CodisLabs
$ cd $_ && git clone https://github.com/CodisLabs/codis.git -b release3.2
cd $GOPATH/src/github.com/CodisLabs/codis
$ make

二、简单集群搭建

1. CODIS集群架构

CODIS-FE是集群管理界面，CODIS-DASHBOARD是集群管理中心，Storage是外部存储（注册中心）例如FileSystem、ETCD、Zookeeper，redis-sentinel是redis类似的高可用机制支持自动主从切换（HA），CODIS-PROXY是底层CODIS-SERVER集群代理，CODIS-GROUP没有对应的组件是一个虚拟的节点机制通过槽位映射机制实现PROXY与SERVER的映射。官方给出了快速的集群搭建方法：【官方】官方快速搭建，大致分为以下几步：

•  cd $GOPATH/src/github.com/CodisLabs/codis/admin
• ./admin/codis-dashboard-admin.sh start     启动CODIS-DASHBOARD  外部存储filesystem（/tmp/codis）
• ./admin/codis-proxy-admin.sh start         启动CODIS-PROXY  并加入CODIS-DASHBOARD管理
• ./admin/codis-server-admin.sh start        启动CODIS-SERVER
• ./admin/codis-fe-admin.sh start            启动CODIS-FE，可以通过127.0.0.1:9090访问管理界面
• 在CODIS-FE界面通过“NEW GROUP”新建一个CODIS-GROUP，然后通过按钮“Add Server”把CODIS-SERVER注册到CODIS-DASHBOARD，默认地址是127.0.0.1:6379，然后点击“rebalance all slots”自动给各个分组分配槽位。

这样就可以通过redis客户端连接指定的proxy，例如：/usr/local/redis/bin/redis-cli -p 19000,但是这样并没有搭建一个集群，因为只有单一的proxy,单一的server,没有多个分组，没有使用zookeeper,etcd没法使用jodis,needs,同时也没有启动涉及到主从同步操作，没有启动redid-sentinel，没有实现高可用。

 

三、CODIS集群搭建进阶（单机-多机类似）

第一步：启动Zookeeper  （具体过程不赘述）

               zk地址127.0.0.1:2181,

               然后cd $GOPATH/src/github.com/CodisLabs/codis

第二步：启动CODIS-DASHBOARD

编辑配置文件  

vim ./config/dashboard.toml

# Set Coordinator, only accept "zookeeper" & "etcd" coordinator_name = "zookeeper" coordinator_addr = "127.0.0.1:2181"  #如果是集群多个环境以“,”隔开   # Set Codis Product {Name/Auth}. product_name = "codis-demo”   #区分不同的集群，注册到zookeeper也是用这个区分，这个配置很重要，直接影响后面访问的路径        product_auth = ""   # Set bind address for admin(rpc), tcp only. admin_addr = "0.0.0.0:18080”  #用于dashboard与codas-proxy,codis-server进行tcp通信

 

nohup ./bin/codis-dashboard --ncpu=4 --config=./config/dashboard.toml --log=./log/dashboard.log --log-level=WARN &  

第三步：启动CODIS-FE 

nohup ./bin/codis-fe --ncpu=4 --log=./log/fe.log --log-level=WARN --zookeeper=127.0.0.1:2181 --listen=ip:8080 &  

注：--zookeeper=后面接zookeeper连接地址，—listen=是fe的界面登入

 

FE的地址此处为http://ip:8080

 

第四步：启动CODIS-PROXY

编辑配置文件 (只列举必修项，其他采用默认，等需要时在研究)  

vim ./config/proxy.toml,vim ./config/proxy2.toml

# Set Codis Product {Name/Auth}. product_name = "codis-demo”        #同codis-dashboard中配置 product_auth = ""   # Set bind address for admin(rpc), tcp only. admin_addr = "0.0.0.0:11080”       #用于和codis-dashboard进行tcp通信同步信息 # Set bind address for proxy, proto_type can be "tcp", "tcp4", "tcp6", "unix" or "unixpacket". proto_type = "tcp4" proxy_addr = "0.0.0.0:19000”        #用于redis客户端连接,支持redis协议，端口唯一   # Set jodis address & session timeout. jodis_name = “zookeeper”            #用于jodis从zookeeper获取集群proxy信息，目前只支持zookeeper,etcd jodis_addr = "127.0.0.1:2181”      jodis_timeout = 10 jodis_compatible = false

# Set Codis Product {Name/Auth}. product_name = "codis-demo”        #同codis-dashboard中配置 product_auth = ""   # Set bind address for admin(rpc), tcp only. admin_addr = "0.0.0.0:11081”       #用于和codis-dashboard进行tcp通信同步信息 # Set bind address for proxy, proto_type can be "tcp", "tcp4", "tcp6", "unix" or "unixpacket". proto_type = "tcp4" proxy_addr = "0.0.0.0:19001”        #用于redis客户端连接,支持redis协议，端口唯一   # Set jodis address & session timeout. jodis_name = “zookeeper”            #用于jodis从zookeeper获取集群proxy信息，目前只支持zookeeper,etcd jodis_addr = "127.0.0.1:2181”      #zk集群    jodis_timeout = 10 jodis_compatible = false

 

nohup ./bin/codis-proxy --ncpu=4 --config=./config/proxy.toml --log=./log/proxy.log --log-level=WARN &  
nohup ./bin/codis-proxy --ncpu=4 --config=./config/proxy2.toml  --log=./log/proxy.log --log-level=WARN &  
以上操作启动了两个codis-proxy,但是它们还是游离的，没有加入codis-dashboard管理，也没有与任何codis-server建立联系，可以通过下面的方法加入codas-dashboard（codis-proxy是通过codis-dashboard来获取codis-server相关的信息,大致是客户端向proxy发起请求，proxy通过slotId=crc32(key)%1024来获取槽位，从而知道groupId,确定分组之后就知道需要连接的master server）:  
./bin/codis-admin --dashboard=127.0.0.1:18080 --create-proxy -x 127.0.0.1:11080  
./bin/codis-admin --dashboard=127.0.0.1:18080 --create-proxy -x 127.0.0.1:11081  

第五步：启动CODIS-SERVER

[java] view plain copy

1. vim ./config/redis.conf   (还有redis_6380.conf redis_6579.conf redis_6580.conf redis_6679.conf redis_6680.conf redis_6879.conf redis_6880.conf)，需要修改的有：  

pidfile /var/run/redis_6379.pid port 6379 logfile /var/log/redis_6379.log dbfilename dump_6379.rdb

执行： ./bin/codis-server ./config/redis.conf ./bin/codis-server ./config/redis_6380.conf …...

group1：6379 主  6380 从         group2：6579 主  6580 从      group3：6679 主  6680 从     group4：6879 主  6880 从

第六步：创建CODIS-GROUP 

以下可以在FE界面上去执行，主要是启动每台机器的proxy和 redis实例

[java] view plain copy

1. ./bin/codis-admin --dashboard=127.0.0.1:18080 --create-group --gid=1         #新建group 1  相当于fe页面“NEW GROUP”按钮  
2. ./bin/codis-admin --dashboard=127.0.0.1:18080 --group-add     --gid=1   --addr=127.0.0.1:6379   #把server127.0.0.1:6379加入集群，  
3. 相当于fe页面的"Add Server “按钮，其他server以此类推。  

 

第七步：主从同步

[java] view plain copy

1. ./bin/codis-admin  --dashboard=127.0.0.1:18080 --sync-action --create --addr=127.0.0.1:6379  相当于fe页面的”SYNC"按钮  
2. ./bin/codis-admin  --dashboard=127.0.0.1:18080 --sync-action --create --addr=127.0.0.1:6380  #所有server都要执行  
3. 以上命令实现group1：6379 主  6380 从    同步，自动选取第一个为master,其他为slave,其他组同样执行上述命令  

第八步：GROUP自动槽位分配

[java] view plain copy

1. ./bin/codis-admin  --dashboard=127.0.0.1:18080 --rebalance --confirm  相当于fe页面“Rebalance All Slots”按钮  
2. 注：也可以定制化的分配槽位./bin/codis-admin  --dashboard=127.0.0.1:18080 --slot-action --create-range --beg=0 --end=300   --gid=1  

第八步：启动CODIS-SERVER sentinel服务

[java] view plain copy

1. vim ./config/sentinel.conf    (and vim ./config/sentinel2.conf)  

sentinel monitor mymaster 127.0.0.1 6379 2 sentinel down-after-milliseconds mymaster 10000 sentinel failover-timeout mymaster 180000 sentinel parallel-syncs mymaster 5   sentinel monitor mymaster2 127.0.0.1 6579 2 sentinel down-after-milliseconds mymaster2 10000 sentinel failover-timeout mymaster2 180000 sentinel parallel-syncs mymaster2 5   sentinel monitor mymaster3 127.0.0.1 6679 2 sentinel down-after-milliseconds mymaster3 10000 sentinel failover-timeout mymaster3 180000 sentinel parallel-syncs mymaster3 5   sentinel monitor mymaster4 127.0.0.1 6879 2 sentinel down-after-milliseconds mymaster4 10000 sentinel failover-timeout mymaster4 180000 sentinel parallel-syncs mymaster4 5

两个文件不同配置： port 26379 port 26579

[java] view plain copy

1. 然后启动服务：  
2. nohup ./bin/codis-server ./config/sentinel.conf --sentinel &  
3. nohup ./bin/codis-server ./config/sentinel2.conf --sentinel &  
4. 然后关联集群:(同fe页面“Add Sentinel”按钮）  
5. ./bin/codis-admin  --dashboard=127.0.0.1:18080 --sentinel-add   --addr=127.0.0.1:26379  
6. ./bin/codis-admin  --dashboard=127.0.0.1:18080 --sentinel-add   --addr=127.0.0.1:26579  
7. 然后执行sync操作:(同fe页面”SYNC"按钮）  
8. ./bin/codis-admin  --dashboard=127.0.0.1:18080 --sentinel-resync  

三、JODIS连接集群

[java] view plain copy

1. JedisResourcePool jedisPool = RoundRobinJedisPool.create()  
2.                 .curatorClient("127.0.0.1:2181", 30000).zkProxyDir("/jodis/codis-demo").build();  
3.         try (Jedis jedis = jedisPool.getResource()) {  
4.             jedis.set("foo", "bar");  
5.             String value = jedis.get("foo");  
6.             System.out.println(value);  
7.         }  

四、异常

1、重启删除productId的lock

./bin/codis-admin --remove-lock --product=codis-baichuan --zookeeper=10.96.86.247:2181,10.96.93.186:2181,10.96.85.106:2181
 

2、删除proxy

./codis-admin --dashboard=10.96.86.247:18081 --remove-proxy --addr=10.96.93.186:19000 --force