MHA高可用架构与故障修复
MHA架构
- 一、MHA概述
-
- 1、MHA的组成
- 二、MHA特点
-
- 1、自动故障切换过程
- 三、搭建MHA
-
- 1、配置MHA
- 2、在MHA节点上安装manager组件
- 3、配置无密码认证
- 4、配置mha
- 5、创建MHA软件目录并拷贝配置文件
- 6、测试无密码认证
- 7、测试主从复制
- 8、测试
- 9、故障修复
一、MHA概述
●一套优秀的MySQL高可用环境下故障切换和主从复制的软件
●MySQL故障过程中，MHA能做到0- 30秒内自动完成故障切换
1、MHA的组成
①MHA Manager(管理节点)
②MHA Node(数据节点)
manager作用：可以借助node组件，实现健康检查，故障切换功能
node组件(存在于所有mysql服务器)作用：
1）、定时汇报给主manager节点mysql服务得状态
2）、监控本地mysql服务功能
二、MHA特点
●自动故障切换过程中，MHA试图从宕机的主服务器上保存二进制日志，最大程度保证数据不丢失，但这并不总是可行，例如如果主服务器硬件故障或者无法通过ssh访问，MHA则无法保存二进制日志，只能进行故障转移而丢失了最新的数据
●使用半同步复制，可以大大降低数据丢失的风险
●目前MHA支持一主多从架构，最少三台服务器，即一主两从
●使用MySQL5.5的半同步复制，可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性，有时候可故意设置从节点慢于主节点，当发生意外删除数据库倒是数据丢失时可从从节点二进制日志中恢复。
1、自动故障切换过程
●故障切换(本质vip漂移)
●自动——使用脚本触发自动
三、搭建MHA
基于上一篇主从搭建完成环境继续
1、实验环境
MHA-manager：192.168.153.225管理节点，安装manager组件与node组件
三台mysql服务器：
主：192.168.153.200 安装node组件
从：192.168.153.215 安装node组件
从：192.168.153.220 安装node组件
定义节点服务器名称
hostnamectl set-hostname manager
hostnamectl set-hostname master
hostnamectl set-hostname slave1
hostnamectl set-hostname slave2
安装编译依赖环境(三台MySQL服务器）
yum -y install ncurses-devel gcc-c++ perl-Module-Install
master、slave1、slave2分别做两个软链接⭐⭐⭐
第一个是mysql命令，第二个mysqlbinlog是节点恢复
[root@master ~]# ln -s /usr/local/mysql/bin/mysql /usr/sbin
[root@master ~]# ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin
在后台启动mysql服务（mysql_safe 安全启动,相当于多了一个守护进程,mysqld挂了会自动把mysqld进程拉起来）⭐
/usr/local/mysql/bin/mysqld_safe --user=mysql &
配置MySQL 一主两从⭐⭐
在所有数据库节点上授权两个用户，一个是从库同步使用，另一个是manager使用
mysql> grant replication slave on *.* to 'myslave'@'192.168.153.%' identified by '123';
mysql> grant all privileges on *.* to 'mha'@'192.168.153.%' identified by 'manager';
下面三条授权理论上不用添加，但是实验环境通过MHA检查MySQL主从报错，
报两个从库通过主机名连接不上主库，所以所有数据库都需要添加以下授权
通过mha检查的时候，是通过主机名的形式进行监控，这种情况会容易报错⭐⭐
grant all privileges on *.* to 'mha'@'master' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
所有从库开启只读功能（不会对超级管理员super生效，普通用户）
mysql> set global read_only=1;
在所有mysql数据库上刷新权限
mysql> flush privileges;
在master上查看二进制文件和同步点
mysql> show master status;
在两台节点服务器进行同步
mysql> change master to master_host='192.168.153.200',master_user='myslave',master_password='123',master_log_file='master-bin.000001',master_log_pos=5147;
开启主从功能，并查看状态是否成功
mysql> start slave;
mysql> show slave status\G;
可以做一个只读功能验证，在一台从服务器上
mysql -umyslave -p123 -h 192.168.153.200 -P 3306
此时写入内容会直接报错，只读功能开启成功
1、配置MHA
在所有服务器上安装MHA依赖环境，首先安装epel源，只有安装了源perl才会有
安装epel源，并且不进行gph检查
yum install epel-release --nogpgcheck -y
yum install -y perl-DBD-MySQL \
perl-Config-Tiny \
perl-Log-Dispatch \
perl-Parallel-ForkManager \
perl-ExtUtils-CBuilder \
perl-ExtUtils-MakeMaker \
perl-CPAN
注释：
yum install -y perl-DBD-MySQL \ #perl针对于mysql数据库
perl-Config-Tiny \ #从配置文件中提拿其中的值
perl-Log-Dispatch \ #log-日志
perl-Parallel-ForkManager \ #多线程管理
perl-ExtUtils-CBuilder \ #扩展工具CBuilder
perl-ExtUtils-MakeMaker \ #扩展工具MakeMaker
perl-CPAN #cpan perl中的数据库
PS:MHA 软件包对于每个操作系统版本不一样，这里Centos7.4必须选择0.57版本，在所有服务器上必须先安装node组件，最后在MHA-manager节点上安装manager组件，因为manager依赖node组件。
所有机器同步阿里云时间服务器
ntpdate ntp.aliyun.com
crontab -e
*/10 * * * * /usr/sbin/ntpdate ntp.aliyun.com
在所有机器上上传node组件
[root@master ~]# mount.cifs //192.168.153.1/LAMP-C7 /mnt
Password for root@//192.168.153.1/LAMP-C7:
mha4mysql-manager-0.57.tar.gz上传到/opt下进行解压
tar zxvf mha4mysql-node-0.57.tar.gz -C /root
cd /root
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install
2、在MHA节点上安装manager组件
（必须先安装node才能安装manager组件）
在manager机器上传manger组件
将mha4mysql-manager-0.57.tar.gz上传解压
tar zxvf mha4mysql-manager-0.57.tar.gz -C /root
cd /root/mha4mysql-manager-0.57
perl Makefile.PL
make && make install
manager 安装后在/usr/local/bin目录下会生成几个工具，主要包括以下：
masterha-check_ssh 检查MHA的SSH配置状况（免交互）
masterha_check_repl 检查MySQL复制状况
masterha_manager 启动manager的脚本
masterha_check_status 检查当前MHA运行状态
masterha_master_monitor 检查master是否宕机
masterha_master_switch 控制故障转移(自动或者手动）
masterha_conf_host 添加或删除配置的server信息
masterha_stop 关闭manager
node安装后在/usr/local/bin目录下生成几个脚本，需要进行检查，主要包括以下：
save_binary_logs 保存和复制master的二进制日志
apply_diff_relay_logs 识别差异的中继日志时间，并将其差异的事件应用于其他的slave
filter_mysqlbinlog 去除不必要的ROLLBACK回滚事件（MHA已不适用这个工具）
purge_relay_logs 清除中继日志（不会阻塞SQL线程）
3、配置无密码认证
四台服务器都配置无密码认证（一路回车）每台输入下面5条命令
ssh-keygen -t rsa
ssh-copy-id 192.168.153.200
ssh-copy-id 192.168.153.215
ssh-copy-id 192.168.153.220
ssh-copy-id 192.168.153.225
4、配置mha
在MHA节点上复制相关脚本到/usr/local/bin目录
[root@manager ~]# cp -ra /root/mha4mysql-manager-0.57/samples/scripts/ /usr/local/bin
-a：此选项通常在复制目录时使用，它保留链接、文件属性，并复制目录下的所有内容
-r: 递归
拷贝后的四个执行文件如下：
ll /usr/local/bin/scripts/
master_ip_failover #自动切换时 VIP管理的脚本⭐⭐⭐
master_ip_online_change #在线切换时 VIP的管理
power_manager #故障发生后关闭主机的脚本
send_report #因故障切换后发送报警的脚本
复制上述的master_ip_failover到/usr/local/bin目录，这里使用脚本管理VIP
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
修改master_ip_failover内容（删除原有内容，添加新内容直接复制）
在manager上操作
vim master_ip_failover
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
my $vip = '192.168.153.100'; #浮动IP⭐⭐⭐
my $brdc = '192.168.153.255'; #广播地址⭐⭐⭐
my $ifdev = 'ens33'; #使用的网卡为ens33⭐⭐⭐
my $key = '1'; #国际序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; #使用ifoconfig命令将其启动，同时设置浮动地址
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; #可以使用ifconfig命令将其down掉（关闭）
my $exit_code = 0; #正常退出（返回状态码）
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
exit &main();
sub main {
print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
# A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}
#去除#开头的部分，注意第一行需要添加#
% s/^#//⭐⭐⭐
5、创建MHA软件目录并拷贝配置文件
manager上操作，删除原有模板进行插入
[root@manager ~]# mkdir /etc/masterha
[root@manager ~]# cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
[root@manager ~]# vim /etc/masterha/app1.cnf
[server default]
#日志文件
manager_log=/var/log/masterha/app1/manager.log
#工作目录
manager_workdir=/var/log/masterha/app1
#二进制文件
master_binlog_dir=/home/mysql
#故障转移切换的工具
master_ip_failover_script=/usr/local/bin/master_ip_failover
#在线切换VIP工具管理
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#以下是密码账号的管理配置
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.153.215 -s 192.168.153.220
shutdown_script=""
ssh_user=root
user=mha
[server1]
hostname=192.168.153.200
port=3306
[server2]
candidate_master=1
hostname=192.168.153.215
check_repl_delay=0
port=3306
[server3]
hostname=192.168.153.220
port=3306
文件注释：
#manager工作目录
manager_log=/var/log/masterha/app1/manager.log
#manager日志
manager_workdir=/var/log/masterha/app1
#master保存binlog的位置，这里的路径要于master里配置的binlog
master_binlog_dir=/home/mysql
#设置自动failover时候切换脚本，也就是上一个配置的脚本
master_ip_failover_script=/usr/local/bin/master_ip_failover
#设置手动切换时候的切换脚本
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#此处密码为之前创建监控用户的密码
password=manager
#设置监控用户
user=mha
#设置监控主库，发送ping包的事件间隔，默认为3秒，尝试三次没有回应的时候自动进性failover
ping_interval=1
#设置远端的MySQL在发生切换时binlog的保存位置
remote_workdir=/tmp
#设置复制用户的密码
repl_password=123
#设置复制用户的账户
repl_user=myslave
#设置发生切换后发送的报警的脚本
report_script=/usr/local/send_report
#设置检查从服务器的脚本
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.153.215 -s 192.168.153.220
#设置故障发生后关闭故障主机脚本
shutdown_script=""
#设置ssh的登录用户名
ssh_user=root
[server2]
#设置候选master，如果设置了此参数，发送主从切换后，会将此库提升为主库
candidate_master=1
#关闭复制的检查，默认情况下如果一个slave落后master 100M的relay logs（中继日志）的话，MHA将不会选择该slave作为新的master，设置为0的话会忽略此规则
check_repl_delay=0
hostname=192.168.153.215
port=3306
6、测试无密码认证
如果正常会输出successfully
[root@manager ~]# masterha_check_ssh -conf=/etc/masterha/app1.cnf
[info] All SSH connection tests passed successfully.
7、测试主从复制
masterha_check_repl -conf=/etc/masterha/app1.cnf
需注意：第一次配置需要在master节点上手动开启虚拟IP(ok即为成功)
/sbin/ifconfig ens33:1 192.168.153.100
8、测试
后台启动mha
[root@manager ~]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
[2] 121361
[root@manager ~]# jobs
[1]- 运行中 nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
参数详解：
解释：
ohup ##选项
masterha_manager ##开启
–conf=/etc/masterha/app1.cnf ##指定配置文件
–remove_dead_master_conf ##当master服务器失效时，发生主从切换后，会把旧的master的ip从主配置文件删
–ignore_last_failover ##忽略故障转移，忽略掉总是宕机不够可靠的服务器
在缺省情况下，如果MHA检测到连续发生宕机，且两次宕机间隔不足8小时的话，则不会进行Failove之所以这样限制是为了避免ping-pong效应。该参数代表忽略桑次MHA出发切换产生的文件，默认情况 MHA发生切换后会在日志记录下，也就是上面设置的日志app1.failover.complete文件，
下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件:为了方便，这里设为为–ianore_last_failover
< /dev/null> ##生成的所有信息会导到nul1下或者/var/log/masterha/app1/manager.log日志文件中
2>&1& ##把2错误性的输山从定向为标准性输出，"&"开启后台运行
查看当前的mastera节点
[root@manager ~]# masterha_check_status --conf=/etc/masterha/app1.cnf
app1 (pid:120311) is running(0:PING_OK), master:192.168.153.200
查看当前日志信息
[root@manager ~]# cat /var/log/masterha/app1/manager.log
原master上模拟故障，查看master变化
[root@manager ~]# tail -f /var/log/masterha/app1/manager.log
查看MySQL的VIP地址 192.168.226.100是否存在，这个VIP地址不会因为manager节点停止MHA服务而消失
[root@master ~]# ifconfig
inet 192.168.153.200 netmask 255.255.255.0 broadcast 192.168.153.255
inet 192.168.153.100 netmask 255.255.255.0 broadcast 192.168.153.255
9、故障修复
修复db，添加中继日志、注释允许同步
[root@master ~]# vim /etc/my.cnf
log_bin=master-bin
#log_slave=updates=true
server_id=11
relay-log=relay-log-bin
relay-log-index=slave-relay-bin.index
重启服务器
[root@master ~]# systemctl restart mysqld
修复主从：在主备服务器上
mysql> show master status;
+-------------------+----------+--------------+------------------+-------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+-------------------+----------+--------------+------------------+-------------------+
| master-bin.000006 | 1006 | | | |
+-------------------+----------+--------------+------------------+-------------------+
修复的master：
mysql> change master to master_host='192.168.153.215',master_user='myslave',master_password='123',master_log_file='master-bin.000006',master_log_pos=1006;
mysql> start slave;
mysql> set global read_only=1;
mysql> flush privileges;
修改添加配置文件
[root@slave1 ~]# vim /etc/my.cnf
[server1]
hostname=192.168.153.215
port=3306
启动manager（在manager那台机器上）
[root@manager ~]# nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
查看到当前的master节点是谁
masterha_check_status --conf=/etc/masterha/app1.cnf
解决中英字不兼容报错的问题
dos2unix /usr/local/bin/master_ip_failover