MySQL备份与恢复

目录

引言

一、MySQL日志管理

1、日志的分类

1.1、错误日志

1.2、通用查询日志

1.3 二进制日志

1.4 中继日志

1.5 慢查询日志

1.6、配置日志

2、日志的查询

二、数据备份的重要性

1.1 冷备份

1.2 热备份

2、逻辑备份

四、备份策略

1、完全备份

2、差异备份

3、增量备份

4、如何选择逻辑备份策略

五、常见的备份方法

1、物理冷备

2、专用备份工具mysqldump或者mysqlhotcopy

2.1 mysqldump工具

2.2 mysqlhotcopy工具

3、启动二进制日志进行增量备份

4、第三方工具备份

六、MySQL完全备份与恢复

1、物理冷备份与恢复

 2、mysqldump备份与恢复

2.1 完全备份一个或多个完整的库(包含其中所有的表)

2.2 完全备份 MySQL 服务器中所有的库

 2.3 完全备份指定库中的部分表

2.4 查看备份文件

3、MySQL完全恢复

3.1 恢复数据库

3.2 恢复数据表

3.3 加–databases和不加的区别

七、MySQL 增量备份与恢复

1、开启二进制日志功能

2、二进制日志读取

3、一般恢复

3.1 模拟丢失更改的数据的恢复操作步骤(直接使用恢复即可)

4、节点恢复

总结


引言

备份的主要目的是容灾恢复,备份还可以测试应用,回滚数据修改、查询历史数据、审计等。在备份、恢复中,日志起到了很重要的作用。

一、MySQL日志管理

mysql的日志默认保存位置为/var/lib/ 我是保存在data目录下

MySQL备份与恢复_第1张图片

 MySQL的日志配置文件在/etc/my.cnf,里面有个[mysqld]项

MySQL备份与恢复_第2张图片

1、日志的分类

1.1、错误日志

依赖记录当MySQL启动,停止或运行时发生的错误信息,默认已开启

1、vim /etc/my.cnf

2、log-error=/usr/local/mysql/data/mysql_error.log #指定日志的保存位置和文件名

1.2、通用查询日志

用力啊查询记录mysql的所有连接和语句,默认是关闭的

1、vim /etc/my.cnf

2、general_log=ON

3、general_log_file=/usr/local/mysql/data/mysql_general.log

1.3 二进制日志

用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启

1、vim /etc/my.cnf

2、log-bin=mysql-bin

1.4 中继日志

一般情况下它在Mysql主从同步(复制)、读写分离集群的节点开始。主节点一般不需要这个日志。

1.5 慢查询日志

用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便于优化,默认是关闭的

vim /etc/my.cnf
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5	

1.6、配置日志

1. #修改my.cnf配置文件
 vim /etc/my.cnf
#错误日志
log-error=/usr/local/mysql/data/mysql_error.log	
#通用查询日志
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
#二进制日志
log-bin=mysql-bin	
#慢查询日志
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
 
2. #重新mysql服务
systemctl restart mysqld.service

MySQL备份与恢复_第3张图片

 

2、日志的查询

#登入mysql
mysql -u root -p[密码]
 
#查看通用查询日志是否开启
show variables like 'general%';	
#查看二进制日志是否开启
show variables like 'log_bin%';									
#查看慢查询日功能是否开启
show variables like '%slow%';								
#查看慢查询时间设置
show variables like 'long_query_time';						
#在数据库中设置开启慢查询的方法
set global slow_query_log=ON;									

MySQL备份与恢复_第4张图片

MySQL备份与恢复_第5张图片

 MySQL备份与恢复_第6张图片

二、数据备份的重要性

备份的主要目的是灾难恢复

在生产环境中,数据的安全性至关重要

任何数据的丢失都可能产生严重的后果

造成数据丢失的原因

1、程序错误

2、人为操作错误

3、运算错误

4、磁盘故障

5、灾难(如火灾、地震)和盗窃

三、备份类型

数据库备份可以分为物理备份和逻辑备份,物理备份是对数据操作系统的物理文件(如数据文件、日志文件等)的备份。这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。

物理备份又可以分成冷备份(脱机备份)、热备份(联机备份)和温备份

  1. 冷备份(脱机备份):是在关闭数据库的时候进行的(tar)
  2. 热备份(联机备份):数据库处于运行状态,依赖于数据库的日志文件(mysqlhotcopy mysqlbackup)
  3. 温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作(mysqldump)

1.1 冷备份

冷备份发生在数据库已经正常关闭的情况下,当正常关闭时会提供给我们一个完整的数据库。冷备份时将要害性文件拷贝到另外的位置的一种说法。对于备份Oracle信息而言,冷备份是最快和最安全的方法。冷备份的优点是:

  1. 是非常快速的备份方法(只需拷文件)
  2. 轻易归档(简单拷贝即可)
  3. 轻易恢复到某个时间点上(只需将文件再拷贝回去)
  4. 能与归档方法相结合,做数据库“最佳状态”的恢复。
  5. 低度维护,高度安全。

但冷备份也有如下不足:
  
  1、 单独使用时,只能提供到“某一时间点上”的恢复。
  2、 再实施备份的全过程中,数据库必须要作备份而不能作其他工作。也就是说,在冷备份过程中,数据库必须是关闭状态。
  3、 若磁盘空间有限,只能拷贝到磁带等其他外部存储设备上,速度会很慢。
  4、 不能按表或按用户恢复。
  
  假如可能的话(主要看效率),应将信息备份到磁盘上,然后启动数据库(使用户可以工作)并将备份的信息拷贝到磁带上(拷贝的同时,数据库也可以工作)。冷备份中必须拷贝的文件包括:
  
  1、 所有数据文件
  2、 所有控制文件
  3、所有联机REDO LOG文件
  4、 Init.ora文件(可选)
  
  值得注重的使冷备份必须在数据库关闭的情况下进行,当数据库处于打开状态时,执行数据库文件系统备份是无效的。
  
  下面是作冷备份的完整例子。
  
  (1) 关闭数据库
  sqlplus /nolog
  sql>connect /as sysdba
  sql>shutdown normal;
  
  (2) 用拷贝命令备份全部的时间文件、重做日志文件、控制文件、初始化参数文件
  sql>cp
  
  (3) 重启Oracle数据库
  sql>startup

1.2 热备份

热备份是在数据库运行的情况下,采用archivelog mode方式备份数据库的方法。所以,假如你有昨天夜里的一个冷备份而且又有今天的热备份文件,在发生问题时,就可以利用这些资料恢复更多的信息。热备份要求数据库在Archivelog方式下操作,并需要大量的档案空间。一旦数据库运行在archivelog状态下,就可以做备份了。热备份的命令文件由三部分组成:

1.2.1 数据文件一个表空间的备份

  1. 设置表空间为备份状态
  2. 备份表空间的数据文件
  3. 回复表空间为正常状态

1.2.2 备份归档log文件

  1. 临时停止归档进程
  2. log下那些在archive rede log目标目录中的文件
  3. 重新启动archive进程
  4. 备份归档的redo log文件

1.2.3 用alter database bachup controlfile命令来备份控制文件热备份的优点

  1. 可在表空间或数据库文件级备份,备份的时间短。
  2. 备份时数据库仍可使用。
  3. 可达到秒级恢复(恢复到某一时间点上)。
  4. 可对几乎所有数据库实体做恢复
  5. 恢复是快速的,在大多数情况下爱数据库仍工作时恢复。

1.2.4 热备份的不足

  1. 不能出错,否则后果严重
  2. 若热备份不成功,所得结果不可用于时间点的恢复
  3. 因难于维护,所以要非常仔细小心,不答应“以失败告终”。

2、逻辑备份

2.1、逻辑备份是对数据库逻辑组件的备份,表示为逻辑数据库结构

2.2、这种类型的备份适用于可以编辑书库值或表结构

四、备份策略

从数据库的备份策略角度来看,备份又可分为完全备份、差异备份和增量备份

1、完全备份

每次对数据进行完整备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复并且会占用大量的磁盘空间,备份的时间也很长。

每次都进行完全备份,会导致备份文件占用空间巨大,并且有大量的重复数据,恢复时,直接使用完全备份的文件即可

完全备份是对整个数据库、数据库结构和文件结构的备份。
保存的是备份完成时刻的数据库。
是差异备份与增量备份的基础。
相当于基石。

优点:
备份与恢复操作简单方便

缺点:
数据存在大量的重复
占用大量的备份空间
备份与恢复时间长

2、差异备份

备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份。

每次差异备份,都会备份上一次完全备份之后的数据,可能会出现重复数据。恢复时,先恢复完全备份的数据,再恢复差异备份的数据

3、增量备份

只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点,仅备份期间内的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失

每次增量备份都是在备份在上一次完全备份或者增量备份之后的数据,不会出现重复数据的情况,也不会占用额外的磁盘空间。
恢复数据,需要按照次序恢复完全备份和增量备份的数据

4、如何选择逻辑备份策略

合理值区间

  1. 一周一次的全备,全备的时间需要在不提供业务的时间区间进行,22点到5点之间进行全备
  2. 增量:3天/2天/1天一次增量备份
  3. 差异:选择特定的场景进行备份
  4. 一个处理(NFS)提供额外空间给mysql服务器用

五、常见的备份方法

1、物理冷备

备份时数据库处于关闭状态,直接打包数据库文件
备份速度快,恢复时也是最简单的
关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有的MySQL目录即可

2、专用备份工具mysqldump或者mysqlhotcopy

2.1 mysqldump工具

mysqldump常用的逻辑备份工具
MySQL自带的备份工具,可实现对MySQL的备份
可以将指定的库、表导出为SQL脚本
使用命令mysql导入备份的数据

2.2 mysqlhotcopy工具

mysqlhotcopy仅拥有备份myisam和archive表

3、启动二进制日志进行增量备份

进行增量备份,需要刷新二进制日志

MySQL支持增量备份,进行增量备份时必须启用二进制日志,二进制日志文件为用户提供复制对执行备份点后进行的数据库更改所需的信息进行恢复,如果进行增量备份(包含自上次完全备份或增量备份以来发生的数据修改),需要刷新二进制日志。

4、第三方工具备份

免费的MySQL热备份软件Percona XtraBackup

六、MySQL完全备份与恢复

InnoDB存储引擎的数据库在磁盘上存储成三个文件:db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。

1、物理冷备份与恢复

物理冷备份—》关闭mysqld服务----》tar命令打包data目录(恢复就是解压他的tar包即可)

关闭数据库,下载xz

MySQL备份与恢复_第7张图片

 压缩备份

tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/

MySQL备份与恢复_第8张图片

 解压恢复

1、tar Jxf /opt/mysql_all_2022-06-21.tar.xz -C /usr/local/mysql/data

2、systemctl restart mysqld

MySQL备份与恢复_第9张图片

 2、mysqldump备份与恢复

create table class (id int(4),name char(10),age int(2),sex char(4));
insert into class values(1,'caosong',21,'男');
insert into class values(2,'zhuruikai',24,'男');

MySQL备份与恢复_第10张图片

2.1 完全备份一个或多个完整的库(包含其中所有的表)

mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql #导出的就是数据库脚本文件

例子:

mysqldump -uroot -p123456 --databases school > /opt/SCHOOL.sql  #备份一个school数据库
mysqldump -uroot -p123456 --databases sky school > /opt/sky-school.sql  #备份sky和school两个库

MySQL备份与恢复_第11张图片

2.2 完全备份 MySQL 服务器中所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql

 例子:

mysqldump -u root -p123456 --all-databases > /opt/all.sql

MySQL备份与恢复_第12张图片

 2.3 完全备份指定库中的部分表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql

例:

mysqldump -uroot -p123456 [-d] school class > /opt/school_class.sql
#不使用“-d”选项,说明表数据也进行备份
#使用“-d”选项,说明只保存数据库的表结构

MySQL备份与恢复_第13张图片MySQL备份与恢复_第14张图片

 使用“-d”选项,说明只保存数据库的表结构

MySQL备份与恢复_第15张图片MySQL备份与恢复_第16张图片

2.4 查看备份文件

grep -v "^--" /opt/school_class.sql | grep -v "^/" | grep -v "^$"

MySQL备份与恢复_第17张图片

3、MySQL完全恢复

3.1 恢复数据库

使用mysqldump导出的文件,可使用导入的方法

  1. source命令
  2. mysql命令

使用source恢复数据库的步骤

  1. 登录到MySQL数据库
  2. 执行source备份sql脚本的路径
1、mysql -uroot -p199710 -e 'drop database class;'
2、mysql -uroot -p199710 -e 'show databases;'sour

3、mysql -uroot -p199710 < /opt/SCHOOL.sql
4、mysql -uroot -p199710 -e 'show databases;'

-e是调用mysql里的应用程序

MySQL备份与恢复_第18张图片MySQL备份与恢复_第19张图片

3.2 恢复数据表

mysqldump -uroot -p123456 school lcdb > /opt/lcdb.sql
grep -v "^--" /opt/lcdb.sql | grep -v "^/" | grep -v "^$"

mysql -uroot -p123456 -e 'drop table school.lcdb;'
mysql -uroot -p123456

source /opt/lcdb.sql
select * from lcdb;
show tables;

MySQL备份与恢复_第20张图片

3.3 加–databases和不加的区别

mysqldump 严格来说属于温备份,会需要对表进行写入的锁定

在全量备份与恢复实验中,假设现有school库,school库中有一个lcdb表,需要注意的一点为:

当备份时加–databases ,表示针对于school库

备份命令

mysqldump -uroot -p123456 --databases school > /opt/school_01.sql

MySQL备份与恢复_第21张图片

 备份库后恢复命令过程为:

mysql -uroot -p123456
drop database school;
exit

mysql -uroot -p123456 < /opt/school_01.sql

MySQL备份与恢复_第22张图片

MySQL备份与恢复_第23张图片

 当备份时不加–databases,表示针对school库下的所有表

mysqldump -uroot -p123456 school > /opt/school_all.sql
mysql -uroot -p123456 -e 'drop database school;'
mysql -uroot -p123456 < /opt/school_all.sql

mysql -uroot -p123456 -e 'create database school;'
mysql -uroot -p123456 school < /opt/school_all.sql
mysql -uroot -p123456 -e 'use school;show tables;'

MySQL备份与恢复_第24张图片

MySQL备份与恢复_第25张图片

七、MySQL 增量备份与恢复

MySQL数据库增量恢复有,一般恢复、基于位置恢复、基于时间点恢复

1、开启二进制日志功能

vim /etc/my.conf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED
server-id = 1
#二进制日志有三种不同的记录格式:STATEMENT(基于SQL语句)、ROW(基于行)、MIXED(混合模式),默认为STATEMENT
#server-id 为服务的序号,在MySQL主备、高可用中需要指定服务的序号
#改为配置文件需要重启服务
systemctl restart mysqld

MySQL备份与恢复_第26张图片

 

 STATEMENT(基于sQL语句):

  • 每一条涉及到被修改的sql都会记录在binlog中

缺点:日志量过大,如sleep()函数,last_insert_id()>,以及user-definedfuctions ( udf) 、垂从复制等架构记录日志时会出现问题
总结:增删改查通过sql语句来实现记录,如果用高并发可能会出错,可能时间差异或者延迟,可能不是我们想想的恢复可能你先删除或者在修改,可能会倒过来。准确率低

ROW(基于行)

  • 只记录变动的记录,不记录sql的上下文环境

缺点:如果遇到update… …set… . .where true那么binlog的数据量会越来越大
总结: update、 delete以多行数据起作用,来用行记录下来,只记录变动的记录,不记录sql的上下文环境,比如sql语句记录一行,但是Row就可能记录10行,但是准确性高,高并发的时候由于操作量能变低比较大所以记录都记下来。

2、二进制日志读取

二进制文件无法直接编辑查看,需要对其进行转换

mysqlbinlog --no-defaults 二进制日志文件
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件
#--base64-output=decode-rows 使用64位编码机制去解码;decode按行读取rows
#-v 显示详细内容
#--no-defaults 默认字符集(不加会报UTF-8错误)
#将解码后的文件导出为txt文件,重定向输出
mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件 > 文件.txt
#刷新日志文件
mysqladmin -uroot -p flush-logs

at :开始的位置点
end_log_pos:结束的位置
时间戳: 210712 11:50:30
SQL语句

3、一般恢复

3.1 模拟丢失更改的数据的恢复操作步骤(直接使用恢复即可)

mysqldump -uroot -p123456 sky lcdb3 > /opt/sky_lcdb3.sql
mysql -uroot -p123456 -e 'drop table sky.lcdb3;'
mysql -uroot -p123456 -e 'use sky;show tables;'

MySQL备份与恢复_第27张图片

MySQL备份与恢复_第28张图片

MySQL备份与恢复_第29张图片

4、节点恢复

  • 数据库在某一时间点可能既有错误的操作也有正确的操作,可以基于精准的位置跳过错误的操作
  • 发生错误节点指点的上一个节点,上一次正确操作的位置点停止
  • 模拟节点恢复,刷新日志,生成新的日志文件

总结

  1. 物理冷备份—》关闭mysqld服务----》tar命令打包data目录(恢复就是解压他的tar包即可)

  2. 逻辑备份—》mysqldump -u(用户) -p(密码) --databases 库1 库2 > xxx.sql
    mysqldump -u -p --all-databases >xxx.sql
    mysqldump -u -p 库1 表1 表2 > xxx.sql

  3. 完全恢复
    mysql -u -p < xxx.sql (恢复数据库)
    mysql -u -p 库名 < xxx.sql (恢复表)

  4. 增量备份
    开启二进制日志,设置二进制格式MIXED(混合)
    进行一次完全备份,可每周备份一次,通过crontab -e
    使用mysqladmin -uroot -p flush-logs刷新分割出二进制日志,由于刷新之前的数据操作都记录在老的二进制日志里,所以需要把老的二进制日志复制到一个安全的目录中保管
    可以通过mysqlbinlog --no-defaults --base64-output=decode-rows -v 二进制日志文件名查看日志内容
    可以通过mysqlbinlog --no-dedfaults 二进制日志文件名
    mysql -uroot -p 恢复丢失的数据
    位置恢复
    时间回复

  5. show variables like ‘%storage_engine%’; #查看默认存储引擎

你可能感兴趣的:(数据库,运维,数据库)