MySQL的物理备份:
xtrabackup备份介绍:
xtrabackup优缺点:
优点:
1、备份过程快速、可靠(因为是物理备份);直接拷贝物理文件。
2、支持增量备份,更为灵活;
3、备份过程不会打断正在执行的事务;
4、能够支持压缩功能节约磁盘空间和流量;
5、自动实现备份检验;
6、还原速度快;
缺点:
1、只能对innodb表增量备份,myisam表增量备份时是全备;
2、innobackupex备份MyISAM表之前要对全库进行READ LOCK,阻塞操作,若备份是在从库上进行的话会影响主从同步,造成延迟。对innodb表备份不会阻塞读写。
xtrabackup备份原理
innobackupex首先会==启动==一个==xtrabackup_log后台检测的进程,实时检测mysql的==redo log==的变化,一旦发现redo有新的日志写入,立刻将日志写入到日志文件==xtrabackup_log==中。
==物理==拷贝==innodb的数据文件和系统表空间文件idbdata1==到对应的以默认时间戳为备份目录的地方
复制结束后,执行==flush table with read lock==操作进行全库锁表准备备份非InnoDB文件
物理复制.frm .myd .myi等非InnoDB引擎文件到备份目录
查看二进制日志的位置
解锁表unlock tables
==停止==xtrabackup_log进程
innodb引擎,如果对数据进行了增删修操作,那么这个日志发生了变化。就把获取的内容写到xtrabackup log中。
innodb的数据文件就是.frm和idb两个数据文件。系统表空间文件就是ibdata1文件。
innodb的数据备份好了之后,那还有一些MyISAM引擎的文件也需要进行处理。那这个时候就要进行flush table with read lock操作。
然后开始复制.frm .myd .myi这些MyISAM文件。
然后还要查看二进制文件的位置。--master-data。备份二进制文件。
然后要解锁unlock tables。
最后再把xtrabackup log进程停止掉。
redo log日志:
事务日志或称redo日志。在mysql中默认以ib_logfile0, ib_logfile1的名称存在。
xtrabackup备份恢复原理:
说明:就是开始备份,将之前的数据进行备份。那么备份期间这段时间产生的新数据也进行下备份,这样才是一个完整的备份。这是这个软件高级的地方。
具体文字描述如下(了解):
在InnoDB内部会维护一个redo日志文件,我们也可以叫做事务日志文件。事务日志会存储每一个InnoDB表数据的记录修改。当InnoDB启动时,InnoDB会检查数据文件和事务日志,并执行两个步骤:它应用(前滚)已经提交的事务日志到数据文件,并将修改过但没有提交的数据进行回滚操作。
xtrabackup在启动时会记住log sequence number(LSN),并且复制所有的数据文件。复制过程需要一些时间,所以这期间如果数据文件有改动,那么将会使数据库处于一个不同的时间点。这时,xtrabackup会运行一个后台进程,用于监视事务日志,并从事务日志复制最新的修改。xtrabackup必须持续的做这个操作,是因为事务日志是会轮转重复的写入,并且事务日志可以被重用。所以xtrabackup自启动开始,就不停的将事务日志中每个数据文件的修改都记录下来。
上面就是xtrabackup的备份过程。接下来是准备(prepare)过程。在这个过程中,xtrabackup使用之前复制的事务日志,对各个数据文件执行灾难恢复(就像MySQL刚启动时要做的一样)。当这个过程结束后,数据库就可以做恢复还原了。
以上的过程在xtrabackup的编译二进制程序中实现。程序innobackupex可以允许我们备份MyISAM表和frm文件从而增加了便捷和功能。Innobackupex会启动xtrabackup,直到xtrabackup复制数据文件后,然后执行FLUSH TABLES WITH READ LOCK来阻止新的写入进来并把MyISAM表数据刷到硬盘上,之后复制MyISAM数据文件,最后释放锁。
备份MyISAM和InnoDB表最终会处于一致,在准备(prepare)过程结束后,InnoDB表数据已经前滚到整个备份结束的点,而不是回滚到xtrabackup刚开始时的点。这个时间点与执行FLUSH TABLES WITH READ LOCK的时间点相同,所以MyISAM表数据与InnoDB表数据是同步的。类似Oracle的recover和restore,InnoDB的prepare过程可以称为recover(恢复),MyISAM的数据复制过程可以称为restore(还原)。
==Mysql5.7.3以后开启二进制日志需要加上server-id选项,不然报错==
获取xtrabackup备份工具:
我这边还是使用老师提供的版本:
xtrabackup软件的安装:
第一步:上传软件包和依赖库:
第二步:安装软件包:
[root@mysql-server ~]# rpm -ivh libev-4.15-3.el7.x86_64.rpm
warning: libev-4.15-3.el7.x86_64.rpm: Header V3 RSA/SHA256 Signature, key ID 352c64e5: NOKEY
Preparing... ################################# [100%]
Updating / installing...
1:libev-4.15-3.el7 ################################# [100%]
[root@mysql-server ~]# rpm -ivh percona-xtrabackup-24-2.4.7-2.el7.x86_64.rpm
warning: percona-xtrabackup-24-2.4.7-2.el7.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY
error: Failed dependencies:
perl(DBD::mysql) is needed by percona-xtrabackup-24-2.4.7-2.el7.x86_64
perl(Digest::MD5) is needed by percona-xtrabackup-24-2.4.7-2.el7.x86_64
出现这个问题。
那么,我们可以直接使用yum来进行安装,解决依赖的问题。
[root@mysql-server ~]# rpm -ql percona-xtrabackup-24
/usr/bin/innobackupex
/usr/bin/xbcloud
/usr/bin/xbcloud_osenv
/usr/bin/xbcrypt
/usr/bin/xbstream
/usr/bin/xtrabackup
/usr/share/doc/percona-xtrabackup-24-2.4.7
/usr/share/doc/percona-xtrabackup-24-2.4.7/COPYING
/usr/share/man/man1/innobackupex.1.gz
/usr/share/man/man1/xbcrypt.1.gz
/usr/share/man/man1/xbstream.1.gz
/usr/share/man/man1/xtrabackup.1.gz
innobackupex和xtrabackup是两个核心的工具。
xtrabackup全库备份与恢复:
备份核心思路:
1)使用innobackupex对数据库中的所有库进行全量备份(物理文件拷贝),备份完成之后,其不能立即进行数据恢复。(数据不完整,还缺少12:00~12:30这个过程中的数据。)
2)预备阶段,备份过程中产生的xtrabackup log应用到全量备份集。整合到全量备份集中。
3)模拟故障(删除数据) rm -rf data/*
4)动员运维工程师进行全库恢复。
5)再测试验证。
第一步:准备数据:
mysql> create database db_itheima default charset=utf8;
Query OK, 1 row affected (0.00 sec)
mysql>
mysql> use db_itheima;
Database changed
mysql>
mysql> create table t1(
-> id int,
-> name varchar(10)
-> )engine=myisam;
Query OK, 0 rows affected (0.00 sec)
mysql> insert into t1 values(1, '吕布');
Query OK, 1 row affected (0.00 sec)
mysql>
mysql> create table t2(
-> id int,
-> name varchar(10)
-> )engine=innodb;
Query OK, 0 rows affected (0.02 sec)
mysql>
mysql> insert into t2 values(1, '貂蝉');
Query OK, 1 row affected (0.00 sec)
第二步:专门准备一个数据库备份账号,开通相应权限。
创建备份用户admin,并授予相应权限
mysql> grant reload,process,lock tables,replication client on *.* to 'admin'@'localhost' identified by '123';
mysql> flush privileges;
说明:
在数据库中需要以下权限:
RELOAD和LOCK TABLES权限:为了执行FLUSH TABLES WITH READ LOCK
REPLICATION CLIENT权限:为了获取binary log位置
PROCESS权限:显示有关在服务器中执行的线程的信息(即有关会话执行的语句的信息),允许使用SHOW ENGINE
mysql> grant reload,lock tables,process,replication client on *.* to 'admin'@'localhost' identified by '123';
Query OK, 0 rows affected, 1 warning (0.00 sec)
mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)
第三步:使用innobackupex工具进行全库备份。
把数据导出备份到/full_xtrabackup目录。
遇到这个错误,不能连接到/var/lib/mysql/mysql.sock。
目前,我们的mysql.sock是在/tmp/mysql.sock这个地方。我们有两种方法来解决:
1)软链接;
2)-S /tmp/mysql.sock。
第四步:预备阶段,把备份这段时间内产生的日志整合到全量备份中。
[root@mysql-server ~]# cd /full_xtrabackup/
[root@mysql-server full_xtrabackup]# ll
total 0
drwxr-x--- 2 root root 6 Sep 29 18:50 2023-09-29_18-50-24
drwxr-x--- 6 root root 241 Sep 29 18:52 2023-09-29_18-52-20
[root@mysql-server full_xtrabackup]#
[root@mysql-server full_xtrabackup]# innobackupex --user=admin --password=123 --apply-log /full_xtrabackup/2023-09-29_18-52-20
--apply-log 应用这个日志。整合日志,把这些日志整合到刚才的备份的数据文件夹中。
第五步:模拟数据库故障:
删除数据目录中的所有文件。
[root@mysql-server ~]# rm -rf /mysql_3306/data/*
[root@mysql-server ~]# pkill mysqld
[root@mysql-server ~]# service mysql_3306 start
Starting MySQL.Logging to '/mysql_3306/data/mysql.err'.
.. ERROR! The server quit without updating PID file (/mysql_3306/data/mysql-server.lnmp.com.pid).
这个故障模拟的比较狠的,然后测试数据库启动,无法进行启动。
第六步:快速地恢复数据库中的数据。
如果没有--default-file=/mysql_3306/my.cnf这个配置选项,innnobackupex就无法找到mysql中的数据目录。需要把my.cnf配置文件传递给innobackupex,让其自动识别到文件中的数据目录。
在执行这个命令之前,还需要将/mysql_3306/data目录进行清空。程序会检查这个文件。
然后,我们看到这个data目录中数据库文件和redo日志文件都已经恢复。
我们发现这些文件的权限都还不对。
需要更改权限。
第七步:恢复数据时记得更改/mysql_3306/data目录下的文件拥有者以及所属组权限。如果不更改权限,mysql无法启动。
[root@mysql-server ~]# chown -R mysql:mysql /mysql_3306/data
[root@mysql-server ~]# ll /mysql_3306/data
total 122920
drwxr-x--- 2 mysql mysql 90 Sep 30 09:03 db_itheima
-rw-r----- 1 mysql mysql 850 Sep 30 09:03 ib_buffer_pool
-rw-r----- 1 mysql mysql 12582912 Sep 30 09:03 ibdata1
-rw-r----- 1 mysql mysql 50331648 Sep 30 09:03 ib_logfile0
-rw-r----- 1 mysql mysql 50331648 Sep 30 09:03 ib_logfile1
-rw-r----- 1 mysql mysql 12582912 Sep 30 09:03 ibtmp1
drwxr-x--- 2 mysql mysql 4096 Sep 30 09:03 mysql
drwxr-x--- 2 mysql mysql 8192 Sep 30 09:03 performance_schema
drwxr-x--- 2 mysql mysql 8192 Sep 30 09:03 sys
-rw-r----- 1 mysql mysql 19 Sep 30 09:03 xtrabackup_binlog_pos_innodb
-rw-r----- 1 mysql mysql 471 Sep 30 09:03 xtrabackup_info
第八步:启动mysql,测试其是否正常。
[root@mysql-server ~]# service mysql_3306 start
Starting MySQL.Logging to '/mysql_3306/data/mysql.err'.
. SUCCESS!
mysql> select * from t1;
+------+--------+
| id | name |
+------+--------+
| 1 | 吕布 |
+------+--------+
1 row in set (0.00 sec)
mysql> select * from t2;
+------+--------+
| id | name |
+------+--------+
| 1 | 貂蝉 |
+------+--------+
1 row in set (0.00 sec)