第一篇博客,写关于otter双向同步搭建(非原创)

最近公司让我研究otter,卡了3天了,终于搞定了双向同步。也意识到了看资料要饮水思源,所以开始写博客,积累自己能力的同时,也能帮助别人。这是一件好事,值得做,并且应该坚持。

资料:

http://video.tudou.com/v/XMTc4NjU1MjM4NA==.html    视频
https://github.com/alibaba/otter/wiki/QuickStart   教程
http://blog.sina.com.cn/s/articlelist_1869333262_0_1.html    博客

废话不多说,上资料

1 环境说明:

本机ip 192.168.8.3

虚拟机1 ip 192.168.8.5

虚拟机2 ip 192.168.8.6

虚拟机采取桥接模式

虚拟机系统为CentOS 2.6.32-279.el6.i686

java版本 1.6.0-24

mysql版本 5.1.61-log

2 虚拟机8.5搭建otter

2.0配置固定ip修改host

2.0.1 虚拟机8.5 ip为192.168.8.5

 

 

2.0.2 修改host

vi /etc/hosts

 

 

2.1 关闭防火墙

root用户 service iptables stop

2.2 安装mysql

2.2.1 用户为 root,密码为hello

2.2.2 修改mysql的配置文件

vi /etc/my.cnf

 

其中,log-bin为打开mysql的binlog二进制日志

binlog-format为列模式

server-id需要保证不同的数据库的id不相同,具有唯一性

datadir为数据存储的文件夹,没有的话需要进行创建

default-character-set=utf8,为设置mysql的默认字符集为utf-8

2.2.2 初始化otter数据库,初始化sql为文件夹中的 otter-manager-schema.sql

2.2.3 搭建双A模式,需要初始化数据库retl,初始化sql为文件夹中的otter-manager-retl.sql。

2.2.4 新建个测试库 test,新建一张测试表test

create table test(id int(11),name varchar(32));

2.3 安装jdk,并配置环境变量,otter推荐使用1.6.5,说是稳定

2.4 安装 aria2(node需要aria2c的支持)

2.4.1 下载压缩包

2.4.2 tar –zxvf aria2-1.17.1.tar.gz

2.4.3 mv aria2-1.17.1 aria2

2.4.4 mv aria2 /usr/local

2.4.5 cd /usr/local/aria2

2.4.6 ./configure

2.4.7 make

2.4.8 make install

2.5 安装node

2.5.1 下载压缩包

2.5.2 mkdir node

2.5.3 mv node.deployer-4.2.11.tar.gz ./node

2.5.4 tar –zxvf node.deployer-4.2.11.tar.gz

2.5.5 mv node.deployer-4.2.11.tar.gz ../

2.5.6 mv ../node /usr/local

2.5.7 cd /usr/local/node

2.5.8 manager安装成功之后,在机器管理/node管理中添加上本机的node之后,可以看到这个node对应的序号

 

上图中 8.5虚拟机的node序号为1,8.6虚拟机的node序号为2

2.5.9 进入node的conf文件夹

2.5.10 echo 1 > nid

 

 

 

node的日志在 logs/node/node.log

2.6 安装zookeeper

2.6.1 下载压缩包

2.6.2 tar –zxvf zookeeper-3.4.5-cdh4.3.0.tar.gz

2.6.3 mv zookeeper-3.4.5-cdh4.3.0 zookeeper

2.6.4 cd ./zookeeper /usr/local

2.6.5 cd /usr/local/zookeeper/conf

2.6.6 cp zoo_sample.cfg zoo.cfg

2.6.7 vi zoo.cfg

 

文件中 clientPort为zookeeper的端口号

2.6.8 cd ../bin

zookeeper启动的时候打印日志到bin目录下的zookeeper.out,如果不习惯,可以修改为打印到log日志,修改步骤如下

a 修改conf/log4j.properties

zookeeper.root.logger=INFO, CONSOLE  

改成  

zookeeper.root.logger=INFO,ROLLINGFILE  

b 修改bin/zkEvn.sh文件,

 

if [ "x${ZOO_LOG4J_PROP}" = "x" ]  

then  

    ZOO_LOG4J_PROP="INFO,CONSOLE"  

fi  

改成

if [ "x${ZOO_LOG4J_PROP}" = "x" ]  

then  

    ZOO_LOG4J_PROP="INFO,ROLLINGFILE"  

fi  

c 这样再启动zkSever.sh start的时候 就会生成log4j.properties配置的中设定的zookeeper.log文件。

2.6.9 启动zookeeper

./zkServer.sh start

停止命令为 ./zkServer.sh stop

2.7 安装manager(需要zookeeper的支持)

2.7.1 下载manager.deployer-4.2.11.tar.gz

2.7.2 mkdir manager

2.7.3 mv manager.deployer-4.2.11.tar.gz ./manager

2.7.4 cd ./manager

2.7.5 tar –zxvf manager.deployer-4.2.11.tar.gz

2.7.6 mv manager.deployer-4.2.11.tar.gz ../

2.7.7 cd ../

2.7.8 mv ./manager /usr/local

2.7.9 cd /usr/local/manager/conf

2.7.10 vi otter.properties

 

a otter.domaniName 可以写本机hostname,但是要修改/etc/hosts,保证hostname映射为本机的固定ip

b otter.port 为manager管理端的端口,即web工程的端口

c otter.database.driver.url为mysql地址和数据库实例,写本机ip而不是127.0.0.1,写127.0.0.1,8.6虚拟机访问不到

d otter.database.driver.username为数据库的用户名

e otter.database.driver.password 为数据库的密码

f otter.communication.manager.port为manager的服务端口

g otter.zookeeper.cluster.default为zookeeper的地址,包括本机ip和端口,这个端口就是zookeeper的conf中的zoo.cfg中的clientPort

2.7.11 启动manager

./bin/startup.sh

如果文件夹中有otter.pid文件,说明manage已经启动或者上次没有关闭,先执行一次 ./stop.sh ,就可以启动起来了

manager的日志在 logs/manager.log

 

3 虚拟机8.6安装数据库和node

3.0 设置固定ip和修改hosts

 

 

 

 

3.1 安装mysql

配置/etc/my.cnf

 

注意server-id号和虚拟机8.5的mysql的server-id不同

 

3.2 安装node

3.3 配置固定ip

4 操作步骤

4.1 192.168.8.5虚拟机

4.1.1 关闭防火墙

service iptables stop

 

4.1.2 root开启mysql数据库

 

可以通过以下操作本地登陆mysql数据库

 

4.1.3 开启zookeeper

 

4.1.4 开启manager

 

可以通过 tail –f ../logs/manager.log 通过日志查看查看开启状态

 

4.1.5 开启node

 

通过以下操作查看node开启状态

 

4.2 192.168.8.6 虚拟机

4.2.1 root用户关闭防火墙

 

4.2.2 启动mysql数据库

 

使用以下命令本地连接数据库查看

 

4.2.3 启动node

 

4.3 otter配置(虚拟机192.168.8.5中进行操作)

4.3.1 登陆 http://192.168.8.5:8080/login.htm

用户名:admin

密码: admin

 

4.3.2 配置zookeeper管理 (机器管理/zookeeper管理)

zookeeper集群填写的是你启动zookeeper的机器的ip地址,端口号为zookeeper/conf/配置的clientPort

 

4.3.3 配置node

 

 

配置完成后,会在列表中显示,如果node节点已经正常启动,列表中对应node的状态为已启动

 

4.3.4 配置数据源(配置管理/数据源配置)

 

如果数据库url配置对了,用户名密码正确,数据库默认编码为utf8,则能成功验证数据库

 

 

4.3.5 配置

 

schema name为数据库名称

table name为表名称,如果要做全库的同步,可以用 .* 表示

 

添加完的表在下图中列表中

 

4.3.6 配置canal配置管理/canal配置)

 

填写 canal名称,数据库地址,账户,密码,位点信息,其中,位点信息格式复制例子,journalName 、position 和 timestamp可以通过对应数据库的执行相应sql取得

 

 

4.3.7 配置同步管理

 

 

4.3.8 配置Pipeline(点击配置好的Channel名称进入)

 

Pipeline名称可以随便取

select机器和load机器选项选择同一个node节点,采取就近原则,8.5的虚拟机向8.6同步数据库,选择8.5节点,8.6虚拟机向8.5同步数据库选择8.6节点

选择Canal,8.5向8.6同步,选择5>>>6(double) Canal;8.6向8.5同步,选择6>>>5(double)

 

4.3.9 配置关系映射表

 

源数据表和目标数据表选择,选择的是数据表配置的某个项。

 

 

4.3.10 调整设置

 

双A互备,就是两个单向的同步

其中,一个设置为主站点,另一个设置为非主站点

在高级设置中,一个设置为支持ddl同步,一个设置为不支持ddl同步,原因是一个Channel中只能有一个ddl,要不会冲突

 

配置完之后,点击Channel管理,选择对应的Channel,点击启动

 

运行状态变成运行。

配置完成

5 验证效果

5.1  虚拟机8.5中插入一条记录

 

 

 

8.6虚拟机mysql

 

 

测试反向8.6向8.5同步

 

 

8.5 mysql

 

5.2 现在验证出效果 :

5.2.1无论channel是否运行,点击推送,都可以同步两个数据库的数据

5.2.2 channel配置的两个数据库,一个数据库停止,channel会挂起,点击推送后恢复正常运行

转载于:https://my.oschina.net/wuyan123/blog/1088694

你可能感兴趣的:(第一篇博客,写关于otter双向同步搭建(非原创))