linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制...

一.读写分离的作用

1.什么是读写分离?

MySQL的主从复制和MySQL的读写分离两者有着紧密联系,首先部署主从复制,只有主从复制完了,才能在此基础上进行数据的读写分离。

读写分离,基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

简单来说,读写分离的基本原理就是,在主服务器上修改,数据会同步到从服务器,从服务器只能提供读取数据,不能写入,实现备份的同时也实现了数据库性能的优化,以及提升了服务器安全。

2.为什么要进行读写分离?

因为数据库的“写”(写10000条数据到oracle可能要3分钟)操作是比较耗时的。

但是数据库的“读”(从oracle读10000条数据可能只要5秒钟)。

所以读写分离,解决的是,数据库的写入,影响了查询的效率。

3.什么时候要读写分离?

数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用,利用数据库 主从同步 。可以减少数据库压力,提高性能。当然,数据库也有其它优化方案。memcache 或是 表折分,或是搜索引擎。都是解决方法。

4.主从复制与读写分离

在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论在安全性,高可用性还是高并发等各个方面是不能满足需求的。因此通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。优点类似于我们前面学过的rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据,语句做备份。

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第1张图片

5.前较为常见的Mysql读写分离分为以下两种:

1)基于程序代码内部实现

在代码中根据select,insert,进行路由分类,这种方法也是目前生产环境下应用最广泛的。优点是性能较好,因为程序在代码中实现,不需要增加额外的硬件开支,缺点是需要开发人员来实现,运维人员无从下手。

2) 基于中间代理层实现

代理一般介于应用服务器和数据库服务器之间,代理数据库服务器接受到应用服务器的请求后根据判断后转发到,后端数据库,有以下代表性的程序。

(1)mysql_proxy。mysql_proxy是Mysql的一个开源项目,通过其自带的lua脚本进行sql判断。

(2)Atlas。是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy 0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。360内部使用Atlas运行的mysql业务,每天承载的读写请求数达几十亿条。支持事物以及存储过程。

(3)Amoeba。由阿里巴巴集团在职员工陈思儒使用序java语言进行开发,阿里巴巴集团将其用户生产环境下,但是他并不支持事物以及存储过程。

经过上述简单的比较,不是所有的应用都能够在基于程序代码中实现读写分离,像一些大型的java应用,如果在程序代码中实现读写分离对代码的改动就较大,所以,像这种应用一般会考虑使用代理层来实现,那么今天就使用mysql_proxy为例,完成主从复制和读写分离。

MySQLProxy介绍

下面使用MySQL官方提供的数据库代理层产品MySQLProxy搭建读写分离。

MySQLProxy实际上是在客户端请求与MySQLServer之间建立了一个连接池。所有客户端请求都是发向MySQLProxy,然后经由MySQLProxy进行相应的分析,判断出是读操作还是写操作,分发至对应的MySQLServer上。对于多节点Slave集群,也可以起做到负载均衡的效果。

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第2张图片

二.实验环境(rhel7.3版本)

1.selinux和firewalld状态为disabled

2.各主机信息如下:

主机

ip

server1(主库)

172.25.83.1

server2(从库)

172.25.83.2

server3(代理服务器)

172.25.83.3

物理机(客户端)

172.25.83.83

三.Mysql数据库读写分离的实现

1.清空环境(因为server1,server2和server3之前是做过全同步复制的,所以要清空环境。这里以server1为例,server2和server3类似)

停掉之前的mysql,清空/var/lib/mysql目录下所有的mysql缓存记录

值的注意的是:必须先挂掉mysqld服务,然后再删除数据(这是因为关闭mysqld服务时,会自动保存数据)

c424d83728dc47c65f88204833b7b404.png

ca260ef183c80a3e639112e0b63b70e0.png

2.在server1和server2上做好主从复制,请看我的博文:https://mp.csdn.net/postedit/87894362

3.配置server3(代理服务器)

<1>下载软件:mysql-proxy-0.8.5-linux-el6-x86-64bit.tar.gz,并将其解压到/usr/local目录下:

[[email protected] ~]# tar zxf mysql-proxy-0.8.5-linux-el6-x86-64bit.tar.gz -C /usr/local #—C表示指定解压目录

3948cfeb4067f385e7d140e3e18bea4a.png

<2>为了方便,将解压之后文件的名字该为mysql-proxy

[[email protected] local]# mv mysql-proxy-0.8.5-linux-el6-x86-64bit/ mysql-proxy

或者做软链接

[[email protected] local]# ln -s mysql-proxy-0.8.5-linux-el6-x86-64bit/ mysql-proxy

8d17e62cf84848038334776d9e7515c0.png

<3>为了方便,编辑系统的环境变量:这样就能直接执行mysql-proxy命令,而不需要进入bin目录下执行命令:./mysql-proxy

[[email protected] bin]# vim ~/.bash_profile

PATH=$PATH:$HOME/bin:/usr/local/mysql-proxy/bin

[[email protected] mysql-proxy]# source ~/.bash_profile

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第3张图片

171bd70d6256d18ca505eeef60bef058.png

f9ada8558d2885315ca87e542f818987.png

<4>在解压之后的目录中建立目录conf和log,用来存放日志和配置文件,并编辑conf目录下的配置文件mysql-proxy.conf文件。

值的注意的是:该配置文件中不能有空格,否则会报错。

#其中编辑文件的参数,可以查看帮助文档

[[email protected] mysql-proxy]# mysql-proxy --help-all

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第4张图片

[[email protected] mysql-proxy]# mkdir conf

[[email protected] mysql-proxy]# mkdir log

[[email protected] mysql-proxy]# vim conf/mysql-proxy.conf #编辑配置文件

[mysql-proxy]

daemon=true #定义以守护进程模式启动(打入后台)

user=root #执行mysqql-proxy的用户(这个可写可不写,因为运行mysql-proxy的本身就是root用户)

pid-file=/usr/local/mysql-proxy/log/mysql-proxy.pid #定义mysql-proxy的pid文件路径

plugins=proxy #加载proxy的插件

log-level=debug #定义log日志级别,由高到低分别有(error|warning|info|message|debug),因为这里是测试,所以定义日志级别为debug

log-file=/usr/local/mysql-proxy/log/mysql-proxy.log #定义mysql-proxy的log文件路径

keepalive=true #使进程在异常关闭后能够自动恢复(保持连接)

proxy-address=172.25.83.3:3306 #调度器IP

proxy-read-only-backend-addresses=172.25.83.2:3306 #定义后端只读服务器地址(从库IP)

proxy-backend-addresses=172.25.83.1:3306 #定义后端主服务器地址(主库IP)

proxy-lua-script=/usr/local/mysql-proxy/share/doc/mysql-proxy/rw-splitting.lua #自带的lua脚本文件所在位置

64542ba1ba1fa44de824033cfaacea8d.png

988f0ce1ec30f7d199d0b0a594bcedc1.png

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第5张图片

<5>编辑自带的lua脚本

[[email protected] mysql-proxy]# pwd

/usr/local/mysql-proxy/share/doc/mysql-proxy

[[email protected] mysql-proxy]# vim rw-splitting.lua

if not proxy.global.config.rwsplit then

proxy.global.config.rwsplit = {

min_idle_connections = 1,

max_idle_connections = 2,

is_debug = false

}

end

##这里1,2的意思是:MySQL Proxy会检测客户端连接,当连接没有超过min_idle_connections预设值时,不会进行读写分离,默认最小4个(最大8个)以上的客户端连接才会实现读写分离。现改为最小1个最大2个,便于读写分离的测试,生产环境中,可以根据实际情况进行调整。

1e8d286e2c90b5e6854266341f124ae7.png

1030b29eab223700a53645d9dd45cea9.png

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第6张图片

<6>启动mysql-proxy服务:此时发现服务起不来,因为权限过大。根据提示需要修改为660。

#其中启动服务的参数,可以查看帮助文档

[[email protected] mysql-proxy]# mysql-proxy --help-all

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第7张图片

[[email protected] ~]# mysql-proxy --defaults-file=/usr/local/mysql-proxy/conf/mysql-proxy.conf #启动mysql-proxy服务

8b059412dbebe1b3ffeb8cb50ec205b7.png

<7>修改mysql-proxy.conf文件的权限为660。

[[email protected] ~]# cd /usr/local/mysql-proxy/conf/

[[email protected] conf]# chmod 660 mysql-proxy.conf

cb3020aed8082f476e34ed9cc9713862.png

<8>重新启动mysql-proxy服务,并查看端口,以确保服务已经正常启动。

[[email protected] conf]# mysql-proxy --defaults-file=/usr/local/mysql-proxy/conf/mysql-proxy.conf

[[email protected] conf]# netstat -antulpe #查看mysql-proxy的3306端口是否存在

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第8张图片

<9>安装losf软件以提供losf命令,用来查看调度器的连接数

[[email protected] conf]# yum install lsof -y > /dev/null #安装lsof软件,>/dev/null表示不显示安装过程

[[email protected] conf]# lsof -i:3306 #查看本机的3306端口的连接数

741cc3b45717653c6c58886b1f491be3.png

配置server1(主库):

<1>登录数据库,创建数据库westos以便测试,创建用户并且给用户进行授权(读和写的权限:update,select,insert)

[[email protected] mysql]# mysql -uroot -pXinjiaojiao+523

mysql> create database westos;

mysql [westos]> grant select,insert,update on westos.* to 'proxy'@'%' identified by 'Xinjiaojiao+523'; #建立proxy用户,并给proxy用户授权(select,insert,update权限)

6bc2285e2210ebfdce745b2d92916cad.png

3f50a18165cc95a45a88c523593592c5.png

配置物理机(客户端)

<1>安装mysql,以提供mysql命令

值的注意的是:这里必须用yum安装mysql,不可以跟server1,server2一样安装rpm包。(因为mysql数据库的读写分离,不适用于最新版的mysql服务)

[[email protected] images]# yum install mysql -y

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第9张图片

读写分离测试:

第一次连接:<1>物理机:以proxy用户的身份登录数据库,查看是否可以看到westos数据库。

[[email protected] images]# mysql -h 172.25.83.3 -uproxy -pXinjiaojiao+523

MySQL [(none)]> show databases;

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第10张图片

<2>在server3(代理服务器)上查看调度器的连接数。

[[email protected] conf]# lsof -i:3306

438a33da41f6c84968f104ea58a2265e.png

第二次连接:<3>物理机:重新开一个终端(上次的那个登陆数据库的终端,不要退出数据库),以proxy用户的身份登录数据库,查看是否可以看到westos数据库。

[[email protected] images]# mysql -h 172.25.83.3 -uproxy -pXinjiaojiao+523

MySQL [(none)]> show databases;

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第11张图片

<4>在server3(代理服务器)上查看调度器的连接数。

[[email protected] conf]# lsof -i:3306

c108496bf3925c87e2c6c6ae3b981f6e.png

第三次连接:<5>物理机:重新开一个终端(上两次的那个登陆数据库的终端,不要退出数据库),以proxy用户的身份登录数据库,查看是否可以看到westos数据库。

[[email protected] images]# mysql -h 172.25.83.3 -uproxy -pXinjiaojiao+523

MySQL [(none)]> show databases;

linux中mysql读写分离_Linux下Mysql数据库读写分离实现(mysql版本:mysql-5.7.24)——异步复制..._第12张图片

<6>在server3(代理服务器)上查看调度器的连接数。

[[email protected] conf]# lsof -i:3306

83c7098dd46d52d66003dfccd194075a.png

结论:

从上面的测试过程和结果可以看出,当客户端的连接数超过2个时,客户端指向的是server2(从库:只能读的库),表示读写分离配置成功。

你可能感兴趣的:(linux中mysql读写分离)