MySQL高可用群集——MHA高可用

目录

MySQL高可用群集简介

MHA实战演练 

        初始化环境

                        修改节点的主机名

        主从同步

         安装MHA

                故障模拟

                故障修复

总结

---

MySQL高可用群集简介

        在实际的生产环境中，当MySQL主从复制和读写分离不能满足实际需求时，就需要考虑MySQL高可用群集了，MySQL高可用群集主要的就有MySQL-MMM（Master-Master replication for MySQL，MySQL主主复制管理器），以及相对成熟的MHA（Master Hight Availability）高可用

        MMM是无法完全保证数据的一致性，所有MMM适用于对数据的一致性要求不是很高，但是又想最大程度地保证业务可用性的场景。对于那些对数据的一致性要求很高的业务，非常不建议采用MMM这种高可用架构。

        MHA目前在MySQL高可用方面是一个相对成熟的解决方案，它由日本人youshimaton开发，是一套优秀的MySQL故障切换和主从提升的高可用软件。在MySQL故障切换过程中，MHA能做到0~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA能最大程度上保证数据库的一致性，以达到真正意义上的高可用

                                                                MHA架构 

         MHA由两部分组成：MHA Master（管理节点）和MHA Node（数据节点）。MHA Manager可以部署在一台独立的机器上管理多个Master-Slave群集，也可以部署在一台Slave上。当Master出现故障时，它可以自动将最新数据的Slave提升为新的Master，然后将所有其他的Slave重新指向新的Master。整个故障转移过程对应用程序是完全透明的。

MHA实战演练 

        初始化环境

Master服务器：192.168.37.101

slave1服务器：192.168.37.102

slave2服务器：192.168.37.106

MHA manager（管理节点服务器）：192.168.37.105

开始之前要把防火墙和selinux关闭

                        修改节点的主机名

[root@localhost /opt]# hostnamectl set-hostname db1
[root@localhost ~]# hostnamectl set-hostname db2
[root@localhost ~]# hostnamectl set-hostname db3

 

 

在每一台节点服务器添加域名解析

[root@db1 ~]# vim /etc/hosts

 

 

        主从同步

----------------------------------------------------------master 节点----------------------------------------------------- 

[root@db1 ~]# vim /etc/my.cnf

重启服务

[root@db1 ~]# systemctl restart mysqld.service

--------------------------------------------Slave1节点------------------------------------------------------------------- 

[root@db2 ~]# vim /etc/my.cnf

 

重启

[root@db2 ~]# systemctl restart mysqld.service

 --------------------------------------------Slave2节点------------------------------------------------------------------- 

 

[root@db3 ~]# vim /etc/my.cnf

 重启

[root@db3 ~]# systemctl restart mysqld.service

设置软链接，每个节点都需要设置

[root@db1 /usr/local/mysql/bin]# ln -s /usr/local/mysql/bin/{mysql,mysqlbinlog} /usr/sbin/

 

 

登录数据库

------------------------------授权主从用户-----------主从节点都要配置哦

mysql> grant replication slave on *.* to 'myslave'@'192.168.37.%' identified by '123123';
Query OK, 0 rows affected, 1 warning (0.01 sec)

mysql> grant all privileges on *.* to 'mha'@'192.168.37.%' identified by 'manager';
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> grant all privileges on *.* to 'mha'@'db1' identified by 'manager';
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> grant all privileges on *.* to 'mha'@'db2' identified by 'manager';
Query OK, 0 rows affected, 1 warning (0.00 sec)

mysql> grant all privileges on *.* to 'mha'@'db3' identified by 'manager';
Query OK, 0 rows affected, 1 warning (0.00 sec)

查看pos偏移量

-----------------------------------------------------------在从节点配置-------------------------------------------- 

mysql> change master to master_host='192.168.37.101'
    -> ,master_user='myslave',
    -> master_password='123123',
    -> master_log_file='master-bin.000001',
    -> master_log_pos=2588;

 

 

设置两个从节点只读模式

mysql> set global read_only=1;

验证：

主节点创建库和表

mysql> create database xb;
Query OK, 1 row affected (0.00 sec)

mysql> use xb
Database changed
mysql> create table class (id int,name char(20),age int,gender char(20));
Query OK, 0 rows affected (0.01 sec)

mysql> show tables;
+--------------+
| Tables_in_xb |
+--------------+
| class        |
+--------------+
1 row in set (0.00 sec)

 从节点

         安装MHA

所有服务器上都安装 MHA 依赖的环境，首先安装 epel 源

[root@db1 ~]# yum install epel-release --nogpgcheck -y

[root@db1 ~]# yum install -y perl-DBD-MySQL perl-Config-Tiny perl-Log-Dispatch perl-Parallel-ForkManager perl-ExtUtils-CBuilder perl-ExtUtils-MakeMaker perl-CPAN

#安装 MHA 软件包，先在所有服务器上必须先安装 node 组件
#对于每个操作系统版本不一样，这里 CentOS7.6选择 0.57 版本。
#在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。

下载地址作者更新到0.58了

master：

Releases · yoshinorim/mha4mysql-manager · GitHub

node

Releases · yoshinorim/mha4mysql-node · GitHub 

我用的0.57 有需要可以领取哦

链接：https://pan.baidu.com/s/1iP24KHVLBr35PlN-tF-m7Q 
提取码：xbzs

 解压，所有节点服务器都相同操作

[root@db1 /opt]# tar zxf mha4mysql-node-0.57.tar.gz

[root@db1 /opt]# cd mha4mysql-node-0.57/
[root@db1 /opt/mha4mysql-node-0.57]# perl Makefile.PL
*** Module::AutoInstall version 1.06
*** Checking for Perl dependencies...
[Core Features]
- DBI        ...loaded. (1.627)
- DBD::mysql ...loaded. (4.023)
*** Module::AutoInstall configuration finished.
Checking if your kit is complete...
Looks good
Writing Makefile for mha4mysql::node
[root@db1 /opt/mha4mysql-node-0.57]# make && make install

MHA-manager节点解压完node（数据节点），再解压管理数据节点

 

manager 组件安装后在/usr/local/bin 下面会生成几个工具，主要包括以下几个：

masterha_check_ssh 检查 MHA 的 SSH 配置状况
masterha_check_repl 检查 MySQL 复制状况
masterha_manger 启动 manager的脚本
masterha_check_status 检测当前 MHA 运行状态
masterha_master_monitor 检测 master 是否宕机
masterha_master_switch 控制故障转移（自动或者 手动）
masterha_conf_host 添加或删除配置的 server 信息
masterha_stop  关闭manager

node 组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）主要如下

save_binary_logs 保存和复制 master 的二进制日志
apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog 去除不必要的 ROLLBACK 事件（MHA 已不再使用这个工具）
purge_relay_logs 清除中继日志（不会阻塞 SQL 线程）

-------------------------------------------在所有服务器上配置无密码认证-------------------------------------------

在 manager 节点上配置到所有数据库节点的无密码认证 

[root@localhost /usr/local/bin]# ssh-keygen -t rsa

连接

ssh-copy-id 192.168.37.101
ssh-copy-id 192.168.37.102
ssh-copy-id 192.168.37.106

 

 数据库服务器之间互相导入

主节点

[root@db1 /opt/mha4mysql-node-0.57]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:AbM3Sqd7/v3pIzXh+DWjXwiaHC5ohy4AzFjKcZDr6Dc root@db1
The key's randomart image is:
+---[RSA 2048]----+
| .o   o          |
| o..   +         |
|=o+   o =        |
|+=   . = o    .  |
|o.    o S . .o . |
|...    + o +..++.|
|.  .  = + =  ooo+|
| . E.o + . ...o..|
|  . ... ... .+=o |
+----[SHA256]-----+

 从节点1

[root@db2 /opt/mha4mysql-node-0.57]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:jITtODTbwjsKSM+QBME3II3Vxg499g2+Cae6FrS7ht8 root@db2
The key's randomart image is:
+---[RSA 2048]----+
|=*o+             |
|+.ooBo.          |
| ..==+oo         |
|. oooB+o.        |
| = .*++oS        |
|o * .+o          |
|o. *o            |
|..=o .           |
| +=oE            |
+----[SHA256]-----+

 从节点2

[root@db3 /opt/mha4mysql-node-0.57]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:3+RtZ0zZkYWkakdnwgw4ZGRClUY0MsMb7Reb6Im/2Ak root@db3
The key's randomart image is:
+---[RSA 2048]----+
|     o*BXo.  ....|
|      oB*..+ .. o|
|       = o +* oo |
|      . o +o +  +|
|       oSoo o  .o|
|      . oo = . o |
|      E.  . o o +|
|       +..   . o |
|      . +.       |
+----[SHA256]-----+

 

-------------------------------------------在manager节点操作 ---------------------------------------------------------

在 manager 节点上复制相关脚本到/usr/local/bin 目录 

[root@localhost /opt/mha4mysql-manager-0.57/samples]# cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
[root@localhost /opt/mha4mysql-manager-0.57/samples]# ll /usr/local/bin/
total 84
-r-xr-xr-x. 1 root root 16381 Dec  6 06:00 apply_diff_relay_logs
-r-xr-xr-x. 1 root root  4807 Dec  6 06:00 filter_mysqlbinlog
-r-xr-xr-x. 1 root root  1995 Dec  6 06:03 masterha_check_repl
-r-xr-xr-x. 1 root root  1779 Dec  6 06:03 masterha_check_ssh
-r-xr-xr-x. 1 root root  1865 Dec  6 06:03 masterha_check_status
-r-xr-xr-x. 1 root root  3201 Dec  6 06:03 masterha_conf_host
-r-xr-xr-x. 1 root root  2517 Dec  6 06:03 masterha_manager
-r-xr-xr-x. 1 root root  2165 Dec  6 06:03 masterha_master_monitor
-r-xr-xr-x. 1 root root  2373 Dec  6 06:03 masterha_master_switch
-r-xr-xr-x. 1 root root  5171 Dec  6 06:03 masterha_secondary_check
-r-xr-xr-x. 1 root root  1739 Dec  6 06:03 masterha_stop
-r-xr-xr-x. 1 root root  8261 Dec  6 06:00 purge_relay_logs
-r-xr-xr-x. 1 root root  7525 Dec  6 06:00 save_binary_logs
drwxr-xr-x. 2 1001 1001   103 May 31  2015 scripts

将scripts拷贝后，会有四个执行文件 

[root@localhost /usr/local/bin]# cp scripts/* ./
[root@localhost /usr/local/bin]# ls
apply_diff_relay_logs  masterha_conf_host        masterha_stop            save_binary_logs
filter_mysqlbinlog     masterha_manager          master_ip_failover       scripts
masterha_check_repl    masterha_master_monitor   master_ip_online_change  send_report
masterha_check_ssh     masterha_master_switch    power_manager
masterha_check_status  masterha_secondary_check  purge_relay_logs

master_ip_failover          #自动切换时 VIP 管理的脚本
master_ip_online_change     #在线切换时 vip 的管理
power_manager                 #故障发生后关闭主机的脚本
send_report                 #因故障切换后发送报警的脚本

修改master_ip_failover脚本 

[root@localhost /usr/local/bin]# vim master_ip_failover

 

1 #!/usr/bin/env perl
  2 use strict;  3 use warnings FATAL => 'all';
  4 
  5 use Getopt::Long;
  6 
  7 my (
  8 $command, $ssh_user, $orig_master_host, $orig_master_ip,
  9 $orig_master_port, $new_master_host, $new_master_ip, $new_master_port
 10 );
 11 #############################添加内容部分#########################################
 13 my $brdc = '192.168.37.255';
 16 my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";
 17 my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";
 20 #my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
 21 ##################################################################################
 22 GetOptions(
 23 'command=s' => \$command,
 24 'ssh_user=s' => \$ssh_user,
 25 'orig_master_host=s' => \$orig_master_host,
 26 'orig_master_ip=s' => \$orig_master_ip,
 27 'orig_master_port=i' => \$orig_master_port,
 28 'new_master_host=s' => \$new_master_host,
 29 'new_master_ip=s' => \$new_master_ip,
 30 'new_master_port=i' => \$new_master_port,
 31 );
 32 
 33 exit &main();
 34 
 35 sub main {
 36 
 37 print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
 38 
 39 if ( $command eq "stop" || $command eq "stopssh" ) {
 40 
 41 my $exit_code = 1;
 42 eval {
 43 print "Disabling the VIP on old master: $orig_master_host \n";
 44 &stop_vip();
 45 $exit_code = 0;
 46 };
 47 if ($@) {
 48 warn "Got Error: $@\n";
 49 exit $exit_code;
 50 }
 51 exit $exit_code;
 52 }
 53 elsif ( $command eq "start" ) {
 54 
 55 my $exit_code = 10;
 56 eval {
 57 print "Enabling the VIP - $vip on the new master - $new_master_host \n";
 58 &start_vip();
 59 $exit_code = 0;
 60 };
 61 if ($@) {
 62 warn $@;
 63 exit $exit_code;
 67 elsif ( $command eq "status" ) {
 68 print "Checking the Status of the script.. OK \n";
 69 exit 0;
 70 }
 71 else {
 72 &usage();
 73 exit 1;
 74 }
 75 }
 76 sub start_vip() {
 77 `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
 78 }
 79 ## A simple system call that disable the VIP on the old_master
 80 sub stop_vip() {
 81 `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
 82 }
 83 
 84 sub usage {
 85 print
 86 "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_m    aster_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port    =port\n";
 87 }
 88 # 

######################添加内容部分###################################
my $vip = '192.168.37.188';                                    #指定vip的地址
my $brdc = '192.168.37.255';                                #指定vip的广播地址
my $ifdev = 'ens33';                                        #指定vip绑定的网卡
my $key = '1';                                                #指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip";        #代表此变量值为ifconfig ens33:1 192.168.80.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down";        #代表此变量值为ifconfig ens33:1 192.168.80.200 down
my $exit_code = 0;                                            #指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################

修改app1.conf文件

[root@localhost /opt/mha4mysql-manager-0.57]# cd samples/
[root@localhost /opt/mha4mysql-manager-0.57/samples]# ls
conf  scripts
[root@localhost /opt/mha4mysql-manager-0.57/samples]# cd conf/
[root@localhost /opt/mha4mysql-manager-0.57/samples/conf]# ls
app1.cnf  masterha_default.cnf
[root@localhost /opt/mha4mysql-manager-0.57/samples/conf]# mkdir /etc/masterha
[root@localhost /opt/mha4mysql-manager-0.57/samples/conf]# cp app1.cnf /etc/masterha/

[root@localhost /etc/masterha]# vim app1.cnf

 

[root@localhost /etc/masterha]# vim app1.cnf 

[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
[server default]
manager_log=/var/log/masterha/app1/manager.log
manager_workdir=/var/log/masterha/app1
master_binlog_dir=/usr/local/mysql/data
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123123
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.37.102 -s 192.168.37.106
shutdown_script=""
ssh_user=root
user=mha

[server1]
hostname=192.168.37.101
port=3306

[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.37.102
port=3306

[server3]
hostname=192.168.37.106
port=3306

注释

[server default]
manager_log=/var/log/masterha/app1/manager.log　　　　　　#manager日志
manager_workdir=/var/log/masterha/app1　　　　　　　　    #manager工作目录
master_binlog_dir=/usr/local/mysql/data/　　　　　　　　　#master保存binlog的位置，这里的路径要与master里配置的binlog的路径一致，以便MHA能找到
master_ip_failover_script=/usr/local/bin/master_ip_failover　　#设置自动failover时候的切换脚本，也就是上面的那个脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change　　#设置手动切换时候的切换脚本
password=manager            #设置mysql中root用户的密码，这个密码是前文中创建监控用户的那个密码
ping_interval=1                #设置监控主库，发送ping包的时间间隔，默认是3秒，尝试三次没有回应的时候自动进行failover
remote_workdir=/tmp            #设置远端mysql在发生切换时binlog的保存位置
repl_password=123123            #设置复制用户的密码
repl_user=myslave            #设置复制用户的用户
report_script=/usr/local/send_report　　　　　#设置发生切换后发送的报警的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.37.102 -s 192.168.37.106    #指定检查的从服务器IP地址
shutdown_script=""            #设置故障发生后关闭故障主机脚本（该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用）
ssh_user=root                #设置ssh的登录用户名
user=mha                    #设置监控用户root

[server1]
hostname=192.168.37.101
port=3306

[server2]
hostname=192.168.37.102
port=3306
candidate_master=1
#设置为候选master，设置该参数以后，发生主从切换以后将会将此从库提升为主库，即使这个从库不是集群中最新的slave

check_repl_delay=0
#默认情况下如果一个slave落后master 超过100M的 relay logs的话，MHA将不会选择该slave作为一个新的master， 因为对于这个slave的恢复需要花费很长时间；通过设置check_repl_delay=0，MHA触发切换在选择一个新的master的时候将会忽略复制延时，这个参数对于设置了candidate_master=1的主机非常有用，因为这个候选主在切换的过程中一定是新的master

[server3]
hostname=192.168.37.106
port=3306
----------------------------------------------------------------------------------------------------------

-------------------------------------------在主节点开启虚拟IP----------------------------------------------------- 

 

在 manager 节点上测试 ssh 无密码认证，如果正常最后会输出 successfully。

[root@localhost /etc/masterha]# masterha_check_ssh -conf=/etc/masterha/app1.cnf

 在 manager 节点上测试 mysql 主从连接情况，最后出现 MySQL Replication Health is OK 字样说明正常。

[root@localhost /etc/masterha]# masterha_check_repl -conf=/etc/masterha/app1.cnf

一开始会报错，然后发现是字符编码的问题

 

 只需要把所有节点的/etc/my.cnf文件下default-character-set=utf8删除即可

大功告成了！！！ 

在 manager 节点上启动 MHA

MySQL Replication Health is OK.
[root@localhost /etc/masterha]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
[1] 56156

--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。

查看 MHA 状态，可以看到当前的 master 是 db1 节点。 

[root@localhost /etc/masterha]# masterha_check_status --conf=/etc/masterha/app1.cnf

 或者也可以查看日志，可以看到当前master是db1节点

[root@localhost /etc/masterha]# cat /var/log/masterha/app1/manager.log | grep "current master"

 #若要关闭 manager 服务，可以使用如下命令。
masterha_stop --conf=/etc/masterha/app1.cnf
或者可以直接采用 kill 进程 ID 的方式关闭。

                故障模拟

在 Master 节点 db1 上停止mysql服务 

[root@db1 ~]# systemctl stop mysqld.service

 可以看到db1节点上的虚拟网卡没了，转移到db2节点上去了

 

                故障修复

1、开启数据库服务

[root@db1 ~]# systemctl start mysqld.service

2、修复主从，在现主库服务器 Mysql2 查看二进制文件和同步点

 

 在原主库服务器 mysql1 执行同步操作

mysql> change master to master_host='192.168.37.102',master_user='myslave',master_password='123123',masterr_log_file='master-bin.000002',master_log_pos=154;
Query OK, 0 rows affected, 2 warnings (0.02 sec)

mysql> start slave;
Query OK, 0 rows affected (0.00 sec)

 3、在 manager 节点上修改配置文件app1.cnf（再把这个记录添加进去，因为它检测掉失效时候会自动消失）

[root@localhost /etc/masterha]# vim app1.cnf

 4、在 manager 节点上启动 MHA

[root@localhost /etc/masterha]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &

最后查看master是否为db2节点

[root@localhost /etc/masterha]# masterha_check_status --conf=/etc/masterha/app1.cnf

         就此模拟故障就完成了，假如主节点宕掉，那么它会跳到另一台节点上去，作为主节点，宕掉的服务，就会成为从节点

总结

        MySQL-MMM适用于对数据的一致性要求不是很高，但是又想最大程度地保证业务高可用的场景

        MHA目前在MySQL高可用方面是一个相对成熟的解决方案，在进行故障切换的过程中，MHA能最大程度上保证数据库的一致性，以达到真正意义上的高可用。