目录
一、MySQL 主从复制
1.1.主从复制架构
1.2.主从复制原理
1.3.主从复制主要内容
1.4.主从复制延迟原因
二、读写分离
2.1.读写分离基本原理
2.2.MySQL 读写分离原理
2.3.为什么要读写分离
2.4. 什么时候要读写分离
2.5.主从复制与读写分离
三、主从复制与读写分离实验
3.1.环境配置
3.2.搭建mysql主从复制
2.4搭建Amoeba 实现读写分离(192.168.59.113)
主从复制工作过程:
1、首先client端将数据写入到master节点的数据库中,master节点会通知存储引擎提交事务,
同时会将数据以(基于行、基于sQL、基于混合)的方式保存在"二进制日志"中。
2、SLAVE节点会开启I/O线程,用于监听master的二进制日志的更新,一旦发生更新内容,则向master的dunp线程发出同步请求。
3、master的dump线程在接收到SLAVE的I/O请求后,会读取二进制日志文件中更新的数据,并发送给slave的I/O线程。
4、SLAVE的I/o线程接收到数据后,会保存在slave节点的中继日志中。
5、同时slave节点中的sQL线程,会读取中继日志中的数据,更新在本地的mysql数据库中。
6、最终完成的slave复制master数据,达到主从同步的效果。
主从复制核心部分就是两个日志 三个线程(高版本的mysql以及异步复制、半同步复制、全同步复制三种模式)
二个日志:二进制日志和中继日志。
三个线程:master的dump 和slave的I/O、SQL。
主要原理:master将数据保存在二进制日志中,I/O向dump发出同步请求,dump把数据发送给I/O线程,I/O写入本地的中继日志SQL线程读取本地中继日志数据,同步到自己数据库中,完成同步。
基本的原理是:
让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
读写分离就是只在主服务器上写,只在从服务器上读。基本的原理是让主数据库处理事务性操作,而从数据库处理 select 查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。
(1)基于程序代码内部实现
在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。 优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手。 但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。
(2)基于中间代理层实现
代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序。
(1)MySQL-Proxy。MySQL-Proxy 为 MySQL 开源项目,通过其自带的 lua 脚本进行SQL 判断。 (2)Atlas。是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程。 (3)Amoeba。由陈思儒开发,作者曾就职于阿里巴巴。该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。
由于使用MySQL Proxy 需要写大量的Lua脚本,这些Lua并不是现成的,而是需要自己去写。这对于并不熟悉MySQL Proxy 内置变量和MySQL Protocol 的人来说是非常困难的。
Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。
在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是完全不能满足实际需求的。
因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。
master服务器: 192.168.72.12 mysql
slave1服务器: 192.168.72.6 mysql
slave2服务器: 192.168.72.15
Amoeba服务器: 192.168.250.20 jdk、Amoeba
客户端 服务器: 192.168.15.18 mysql
3.2.1.搭建时间同步(主服务器:192.168.72.12)
1.#安装时间同步服务器
yum install ntp -y
2.#修改配置文件
vim /etc/ntp.conf
插入:
server 127.127.72.0 #设置本地时钟源
fudge 127.127.72.0 stratum 8 #设置时间层级为8 限制在15以内
3.#开启服务
service ntpd start
3.2.2搭建时间同步(从服务器:192.168.72.6、192.168.72.18)
1.#安装时间同步服务器、同步服务
yum install ntp -y
yum install ntpdate -y
2. #开启服务
service ntpd start
3. #执行同步
/usr/sbin/ntpdate 192.168.72.12
4.#计划定时任务
crontab -e
*/30 * * * * /usr/sbin/ntpdate 192.168.72.12
###########slave2:192.168.72.18与以上操作相同######
3.3.3配置主服务器(192.168.59.118)
1. #开启二进制日志
vim /etc/my.cnf
log-bin=master-bin #开启二进制日志
binlog_format=MIXED #二进制日志格式
log-slave-updates=true #开启从服务器同步
2. #重启服务
systemctl restart mysqld.service
3. #登入mysql,给从服务器在网段授权
mysql -uroot -p123456
grant replication slave on *.* to 'myslave'@'192.168.72.%' identified by '123456'
#刷新数据库
flush privileges;
#查看主服务器二进制文件
show master status;
开启二进制日志
3.3.4配置从服务器(192.168.72.8、192.168.72.18)
1.#开启二进制日志
vim /etc/my.cnf
server-id = 11 #slave1和slave2的id不能相同,我slave2设置的22
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
2.#重启服务
systemctl restart mysqld.service
3. #登入mysql,配置同步注意master_log_file和master_log_pos的值要和master查询的一致
mysql -uroot -p123456
change master to master_host='192.168.72.12',master_user='myslave',master_password='123456',master_log_file='master-bin.000004',master_log_pos=603;
4.#启动同步,如果报错,执行restart slave试试
start slave;
show slave status\G;
##以下两个必须要是YES
#Slave_IO_Running: Yes
#Slave_SQL_Running: Yes
#########slave2:192.168.72.18与以上操作相同######
3.3.5 验证主从同步
#在主服务器上创建一个库
create database test_1;
#在从服务器上查看
show databases;
2.4.2配置amoeba
############## 安装amoeba ###########
1.#在/usr/local目录下创建amoeba目录
mkdir /usr/local/amoeba
2.#切换至opt解压amoeba
cd /opt/
tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba
cd /usr/local/ 切换至目录查看
3.#给目录/usr/local/amoeba赋予执行权限
chmod -R 755 /usr/local/amoeba/
4.#运行amoeba
/usr/local/amoeba/bin/amoeba
###########配置 Amoeba读写分离 ####
5.#先在Master、Slave1mysql上开放权限给 Amoeba 访问
grant all on *.* to test@'192.168.72.%' identified by '123456';
flush privileges;
6.#备份amoeba配置
cd /usr/local/amoeba/conf/
cp amoeba.xml amoeba.xml.bak
cp dbserver.dtd dbserver.dtd.bak
7.#修改amoeba配置
vim amoeba.xml
30 amoeba
#设置登录用户名
32123456
#设置密码
115master
#设置默认池为master
118master
#设置写池
119slaves
#设置读池
vim dbServers.xml
23
#23行注释
26test
#设置登录用户
28
#删除
29123456
#解决28注释,添加密码
45
#服务池名
48192.168.72.12
#添加地址
52
55192.168.72.6
复制6行 添加另一从节点
59
62192.168.72.18
66
#定义池名
72slave1,slave2
#写上从节点名
8.#启动amoeba,并测试
amoeba start
netstat -ntap |grep java
2.4.3 在客户端测试(192.168.59.105)
2.4.3 在客户端测试(192.168.72.9)
1.#安装mariadb
yum install mariadb mariadb-server.x86_64 -y
2.#登入并查看数据库
mysql -uamoeba -p123456 -h 192.168.59.15 -P8066
3.#测试同步
##在主服务器服务器上新建表
use test1;
create table info(id int(10),name char(40));
show tables;
##在客户机上,插入数据会同步到所有数据库中
use test1;
insert into info values(1,'小明');
##在主从服务器上查看
4.#测试读写分离
#停止slave1和slave2的slave同步功能
stop slave;
#在master、slave1和slave2上插入数据
测试读写分离