MySQL数据库之备份与恢复

目录

引言

一、MySQL日志管理

1、日志的类型与作用

redo 重做日志

undo 回滚日志

errorlog 错误日志

slow query log 慢查询日志

bin log 二进制日志

relay log 中继日志

general log 普通日志

2、日志的查询

二、数据备份的重要性

造成数据丢失的原因

三、备份类型

1、物理备份

2、冷备份

3、热备份

①数据文件一个表空间的备份

②备份归档log文件

③用alter database bachup controlfile命令来备份控制文件热备份的优点

④用alter database bachup controlfile命令来备份控制文件热备份的优点

⑤热备份的不足

四、备份策略

1、完全备份

优点

缺点

2、差异备份

3、增量备份

4、如何选择逻辑备份策略

合理值区间

五、常见的备份方法

1、物理冷备

2、专用备份工具mysqldump或者mysqlhotcopy

mysqldump工具

mysqlhotcopy工具

3、启动二进制日志进行增量备份

4、第三方工具备份

六、MySQL完全备份与恢复

1、物理冷备份与恢复

压缩备份 

解压恢复 

2、mysqldump备份与恢复 

完全备份有个或多个完整的库（包含其中所有的表） 

3、完全备份MySQL服务器中所有的库 

4、完全备份指定库中的部分表

5、查看备份文件

6、MySQL完全恢复

恢复数据库

恢复数据表 

7、加-databases和不加的区别 

七、MySQL增量备份与恢复

1、开启二进制日志功能

STATEMENT(基于sQL语句) 

ROW(基于行)

2、二进制日志读取

3、节点恢复 

总结

1、备份的类型

2、物理备份：冷备、温备、热备

3、逻辑备份：全量备份、增量备份、差异备份

4、日志的保存类型

5、mysql恢复的方式

---

引言

备份的主要目的是容灾恢复，备份还可以测试应用、回滚数据修改、查询历史数据、审计等。在备份，恢复中，日志起到了很重要的作用。

一、MySQL日志管理

MySQL的日志默认保存位置为/var/lib/

MySQL的日志配置文件在/etc/my.cnf，里面有个[mysqld]项

1、日志的类型与作用

redo 重做日志

达到事务一致性（每次重启会重做）
确保日志的持久性，防止发生故障，脏页未写入磁盘。重启数据库会进行redo log执行重做，达到事务一致性

undo 回滚日志

保证数据的原子性，记录事务发生之前的一个版本，用于回滚innodb事务可重复读和读取已提交隔离级别就是通过mvcc+undo实现

errorlog 错误日志

MySQL本身启动，停止，运行期间发生的错误信息

slow query log 慢查询日志

记录执行时间过长的sql，时间阈值（10s）可以配置，只记录执行成功，在于提醒优化

bin log 二进制日志

用于主从复制，实现主从同步，记录的内容是：数据库中执行的sql语句

relay log 中继日志

用于数据库主从同步，将主库发来的bin log保存在本地，然后从库进行回放

general log 普通日志

记录数据库的操作明细，默认关闭，开启后会降低数据库性能

2、日志的查询

#登如mysql
mysql -u root -p
 
#查看通用查询日志是否开启
show variables like 'general%';
#查看二进制日志是否开启
show variables like 'log_bin%';                                    
#查看慢查询日功能是否开启
show variables like '%slow%';                                
#查看慢查询时间设置
show variables like 'long_query_time';                        
#在数据库中设置开启慢查询的方法
set global slow_query_log=ON;

二、数据备份的重要性

备份的主要目的是灾难恢复

再生产环境中，数据的安全性至关重要

任何数据的丢失都可能产生严重的后果

造成数据丢失的原因

程序错误

人为操作错误

运算错误

磁盘故障

灾难(如火灾，地震)和盗窃

三、备份类型

1、物理备份

数据库备份可以分为物理备份和逻辑备份，物理备份是对数据操作系统的物理文件(如数据文件、日志文件等)的备份。这种类型的备份适合再出现问题的时候需要快速恢复的大型重要数据库。

物理备份又分成冷备份(脱机备份)、热备份(联机备份)和温备份。

冷备份：是在关闭数据库的时候进行的

热备份：数据处于运行状态，依赖于数据库的日志文件

温备份：数据库锁定表格（不可写入但可读）的状态下进行备份操作

2、冷备份

冷备份发生在数据库已经正常关闭的情况下，当正常关闭时会提供给我们一个完整的数据库。冷备份时将要害性文件拷贝到另外的位置的一种说法。对于备份Oracle信息而言，冷备份是最快和最安全的方法。冷备份的优点是：

是非常快速的备份方法（只需拷文件）

轻易归档（简单拷贝即可）

轻易恢复到某个时间点上（只需将文件再拷贝回去）

能与归档方法相结合，做数据库“最佳状态”的恢复。

低度维护，高度安全。

但冷备份也有如下不足：

①单独使用时，只能提供到“某一时间点上”的恢复。
②再实施备份的全过程中，数据库必须要作备份而不能作其他工作。也就是说，在冷备份过程中，数据库必须是关闭状态。
③若磁盘空间有限，只能拷贝到磁带等其他外部存储设备上，速度会很慢。
④不能按表或按用户恢复。

假如可能的话（主要看效率），应将信息备份到磁盘上，然后启动数据库（使用户可以工作）并将备份的信息拷贝到磁带上（拷贝的同时，数据库也可以工作）。冷备份中必须拷贝的文件包括：

①所有数据文件
②所有控制文件
③所有联机REDO LOG文件
④Init.ora文件（可选）

值得注重的使冷备份必须在数据库关闭的情况下进行，当数据库处于打开状态时，执行数据库文件系统备份是无效的。

下面是作冷备份的完整例子。

①关闭数据库
　sqlplus /nolog
　sql>connect /as sysdba
　sql>shutdown normal;

②用拷贝命令备份全部的时间文件、重做日志文件、控制文件、初始化参数文件
　sql>cp

③重启Oracle数据库
　sql>startup

3、热备份

热备份是在数据库运行的情况下，采用archivelog mode方式备份数据库的方法。所以，假如你有昨天夜里的一个冷备份而且又有今天的热备份文件，在发生问题时，就可以利用这些资料恢复更多的信息。热备份要求数据库在Archivelog方式下操作，并需要大量的档案空间。一旦数据库运行在archivelog状态下，就可以做备份了。

①数据文件一个表空间的备份

设置表空间为备份状态

备份表空间的数据文件

回复表空间为正常状态

②备份归档log文件

临时停止归档进程

log下那些在archive rede log目标目录中的文件

重新启动archive进程

备份归档的redo log文件

③用alter database bachup controlfile命令来备份控制文件热备份的优点

可在表空间或数据库文件级备份，备份的时间短。

备份时数据库仍可使用。

可达到秒级恢复（恢复到某一时间点上）。

可对几乎所有数据库实体做恢复

恢复是快速的，在大多数情况下爱数据库仍工作时恢复。

④用alter database bachup controlfile命令来备份控制文件热备份的优点

可在表空间或数据库文件级备份，备份的时间短。

备份时数据库仍可使用。

可达到秒级恢复（恢复到某一时间点上）。

可对几乎所有数据库实体做恢复

恢复是快速的，在大多数情况下爱数据库仍工作时恢复。

⑤热备份的不足

不能出错，否则后果严重

若热备份不成功，所得结果不可用于时间点的恢复

因难于维护，所以要非常仔细小心，不答应“以失败告终”。

四、备份策略

从数据库的备份策略角度来看，备份又可分为完全备份、差异备份和增量备份。

1、完全备份

每次对数据进行完整备份，即对整个数据库、数据库结构和文件结构的备份，保存的是备份完成时刻的数据库，是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便，但是数据存在大量的重复并且会占用大量的磁盘空间，备份的时间也很长。

每次都进行完全备份，会导致备份文件占用空间巨大，并且有大量的重复数据，恢复时，直接使用完全备份的文件即可。

完全备份是对整个数据库、数据库结构和文件结构的备份。

保存的是备份完成时刻的数据库。

是差异备份与增量备份的基础。

相当于基石。

优点

备份与恢复操作简单方便

缺点

数据存在大量的重复
占用大量的备份空间
备份与恢复时间长

2、差异备份

备份那些自从上次完全备份之后被修改过的所有文件，备份的时间节点是从上次完整备份起，备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份。

每次差异备份，都会备份上一次完全备份之后的数据，可能会出现重复数据。恢复时，先恢复完全备份的数据，再恢复差异备份的数据。

3、增量备份

只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点，仅备份期间内的数据变化，因而备份的数据量小，占用空间小，备份速度快。但恢复时，需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复，如中间某次的备份数据损坏，将导致数据的丢失

每次增量备份都是在备份在上一次完全备份或者增量备份之后的数据，不会出现重复数据的情况，也不会占用额外的磁盘空间。
恢复数据，需要按照次序恢复完全备份和增量备份的数据

4、如何选择逻辑备份策略

合理值区间

一周一次的全备，全备的时间需要在不提供业务的时间区间进行，22点到5点之间进行全备

增量：3天/2天/1天一次增量备份

差异：选择特定的场景进行备份

一个处理（NFS）提供额外空间给mysql服务器用

五、常见的备份方法

1、物理冷备

备份时数据库处于关闭状态，直接打包数据库文件

备份速度快，恢复时也是最简单的

关闭MySQL数据库

使用tar命令直接打包数据库文件夹

直接替换现有的MySQL目录即可

2、专用备份工具mysqldump或者mysqlhotcopy

mysqldump工具

mysqldump常用的逻辑备份工具

MySQL自带的备份工具，可实现对MySQL的备份

可以将指定的库、表导出为SQL脚本

使用命令mysql导入备份的数据

mysqlhotcopy工具

mysqlhotcopy仅拥有备份myisam和archive表

3、启动二进制日志进行增量备份

进行增量备份，需要刷新二进制日志

MySQL支持增量备份，进行增量备份时必须启用二进制日志，二进制日志文件为用户提供复制对执行备份点后进行的数据库更改所需的信息进行恢复，如果进行增量备份（包含自上次完全备份或增量备份以来发生的数据修改），需要刷新二进制日志。

4、第三方工具备份

免费的MySQL热备份软件Percona XtraBackup

六、MySQL完全备份与恢复

InnoDB存储引擎的数据库在磁盘上存储成三个文件：db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

1、物理冷备份与恢复

物理冷备份   ----->  关闭mysqld服务 ----> tar命令打包data目录（恢复就是解压他的tar包即可）

systemctl stop mysqld

yum -y install xz

压缩备份 

tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /var/lib/mysql/

解压恢复 

tar Jxf /opt/mysql_all_2022-09-19.tar.xz -C /var/lib/mysql

systemctl restart mysqld

2、mysqldump备份与恢复 

create table name (id int(10),name varchar(10),address varchar(10),phone int(12),hobby text,power int(3));
 
#为表添加以下数据
insert into name values(1,'小明','美国','1234567890','超级喜欢吃饭',66);
insert into name values(2,'小红','英国','1234566666','超级喜欢shopping',0);
insert into name values(3,'小刚','法国','1234566777','超级喜欢健身',888);
insert into name values(4,'小智','真兴镇','1234566777','超级喜欢皮卡丘',999);
insert into name values(5,'小豪','<孤儿>','334566777','超级狗',-999);

完全备份有个或多个完整的库（包含其中所有的表） 

mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql #导出的就是数据库脚本文件

mysqldump -uroot -p123456 --databases test > /opt/test.sql  #备份一个test数据库
mysqldump -uroot -p123456 --databases test mysql > /opt/test-mysql.sql  #备份test和mysql两个库 

3、完全备份MySQL服务器中所有的库 

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql

例：

mysqldump -u root -p123456 --all-databases > /opt/all.sql

4、完全备份指定库中的部分表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql

例：

mysqldump -uroot -p123456 [-d] test name > /opt/test_name.sql
#不使用“-d”选项，说明表数据也进行备份
#使用“-d”选项，说明只保存数据库的表结构

5、查看备份文件

grep -v "^--" /opt/test_name.sql | grep -v "^/" | grep -v "^$"

6、MySQL完全恢复

恢复数据库

使用mysqldump导出的文件，可以使用导入的方法

source命令

mysql命令

使用source恢复数据库的步骤

登录到MySQL数据库

执行source备份sql脚本的路径

mysql -uroot -p123456 -e 'drop database test;'
mysql -uroot -p123456 -e 'show databases;'
 
mysql -uroot -p123456 < /opt/test.sql
mysql -uroot -p123456 -e 'show databases;

恢复数据表 

mysqldump -uroot -p123456 test name > /opt/name.sql  #备份test库中的name表
grep -v "^--" /opt/name.sql | grep -v "^/" | grep -v "^$"  #查看备份文件
 
mysql -uroot -p123456 -e 'drop table test.name;'  #删除test库中的name表
mysql -uroot -p123456  #登入数据库
 
source /opt/name.sql
select * from name;
show tables;

 

7、加-databases和不加的区别 

mysqldump 严格来说属于温备份，会需要对表进行写入的锁定

在全量备份与恢复实验中，假设现有school库，school库中有一个lcdb表，需要注意的一点为:

当备份时加–databases ,表示针对于school库

备份命令

mysqldump -uroot -p123456 --databases school > /opt/school_01.sql

备份库后恢复命令过程为

mysql -uroot -p123456
drop database school;
exit

mysql -uroot -p123456 < /opt/school_01.sql

当备份时不加–databases，表示针对school库下的所有表

mysqldump -uroot -p123456 school > /opt/school_all.sql
mysql -uroot -p123456 -e 'drop database school;'
mysql -uroot -p123456 < /opt/school_all.sql

mysql -uroot -p123456 -e 'create database school;'
mysql -uroot -p123456 school < /opt/school_all.sql
mysql -uroot -p123456 -e 'use school;show tables;'

七、MySQL增量备份与恢复

1、开启二进制日志功能

vim /etc/my.conf

[mysqld]
log-bin=mysql-bin
binlog_format = MIXED
server-id = 1
#二进制日志有三种不同的记录格式：STATEMENT（基于SQL语句）、ROW（基于行）、MIXED（混合模式），默认为STATEMENT
#server-id 为服务的序号，在MySQL主备、高可用中需要指定服务的序号

#改为配置文件需要重启服务
systemctl restart mysqld

STATEMENT(基于sQL语句) 

每一条涉及到被修改的sql都会记录在binlog中
缺点:日志量过大，如sleep()函数，last_insert_id()>，以及user-definedfuctions ( udf) 、垂从复制等架构记录日志时会出现问题
总结:增删改查通过sql语句来实现记录，如果用高并发可能会出错，可能时间差异或者延迟，可能不是我们想想的恢复可能你先删除或者在修改，可能会倒过来。准确率低

ROW(基于行)

只记录变动的记录，不记录sql的上下文环境
缺点:如果遇到update… …set… . .where true那么binlog的数据量会越来越大
总结: update、 delete以多行数据起作用，来用行记录下来，只记录变动的记录，不记录sql的上下文环境，比如sql语句记录一行，但是Row就可能记录10行，但是准确性高，高并发的时候由于操作量能变低比较大所以记录都记下来。

2、二进制日志读取

二进制文件无法直接编辑查看，需要对其进行转换

mysqlbinlog --no-defaults 二进制日志文件
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件
#--base64-output=decode-rows 使用64位编码机制去解码；decode按行读取rows
#-v 显示详细内容
#--no-defaults 默认字符集（不加会报UTF-8错误）
#将解码后的文件导出为txt文件，重定向输出
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件 > 文件.txt
#刷新日志文件
mysqladmin -uroot -p flush-logs

at ：开始的位置点
end_log_pos：结束的位置
时间戳： 210712 11:50:30
SQL语句

3、节点恢复 

数据库在某一时间点可能既有错误的操作也有正确的操作，可以基于精准的位置跳过错误的操作

发生错误节点指点的上一个节点，上一次正确操作的位置点停止

模拟节点恢复，刷新日志，生成新的日志文件

总结

1、备份的类型

物理备份、逻辑备份

2、物理备份：冷备、温备、热备

冷备： 需要关闭mysql服务，或者确保mysql服务在进行tar备份时，没有客户端的写入操作

温备： mysqldump，这个是mysql自带的备份工具

特性： 逐表备份，每备份一张表时，会先drop删除，然后重新create创建表结构，然后再解锁表

（仅锁定写的操作，但可读），进行insert语句的备份，备份完成后，进行unlock解锁，然后继续备份下一个。

热备： xtrabackup或mysqlhotcopy等热备工具（第三方），在mysql正常运行时，进行备份。

3、逻辑备份：全量备份、增量备份、差异备份

全量备份： tar压缩、mysqldump -u -p --all-databases

增量备份： 主要使用bin-log，来舒心生成新的增备的日志文件，可以通过：mysqladmin -u -p fiush-logs 来刷新生成新的增备的日志文件，同时可以结合crontan，完成自动刷新。

注意： 再进行基于二进制文件的备份恢复时，有必要的话，需要先回复完备的数据，再逐个恢复增备的数据，直到恢复至我们需要恢复的数据为止。

差异备份： 主要备份一次完备，后面修改的数据全部基于完备进行恢复。（相当于快照）

4、日志的保存类型

混合模式Mixed（建议使用）： 记录行和sql

基于行ROWS： 只记录被修改的行的记录

基于sql（默认）： 记录修改内容的执行语句

5、mysql恢复的方式

基于冷备（tar）形式：t ar zxvf解压打包的/usr/local/mysql/data数据下的内容

基于自带的温备工具： 使用mysqldump进行备份后，可使用两种方式进行恢复

mysql -u -p 库名 mysql -u -p -e ’ source /opt/mysql_all.sql’ 直接使用source进行恢复

基于日志：bin-log

首先开启二进制日志的配置log-bin=mysql-bin ；log_format=MIXED

然后再/usr/local/mysql/data 目录下，会生成mysql-bin.00000x的二进制文件进行恢复

接着使用mysqlbinlog --no-defaults 二进制日志路径|mysql -u -p 基于完整的二进制日志文件进行恢复。

基于位置点和时间点进行恢复：

使用mysqlbinlog --no-defaults --base64-output-decode-rows -v 二进制日志文件路径，查看正确和需要跳过的错误操作的at（position位置带点）和datetime（时间点）来进行恢复