四：MySQL日志管理、备份与恢复

目录

MySQL日志管理

日志的分类

错误日志

通用查询日志

二进制日志(binlog)

中继日志

慢查询日志

配置日志

修改my.cnf配置文件

 重启mysql服务

日志的查询 

 ​编辑

​编辑 MySQL备份与恢复

数据备份的重要性

造成数据丢失的原因：

数据备份的分类

从物理与逻辑的角度分类

从数据库的备份策略角度分类

常见的备份方法解释

物理冷备

专用备份工具mydump或者mysqlhotcopy

启动二进制日志进行增量备份

第三方工具备份

Mysql完全备份

mysql完全备份的特点

数据库完全备份分类

物理冷备份与恢复

 mysqldump备份与恢复

MySQL完全备份与恢复

物理冷备份与恢复

 关闭mysql，备份data目录

 压缩备份data目录 

 登录mysql，删除family库 

 解压之前备份的数据库data目录，不用删除原目录，会自动替换

 重启服务查看被删除的库

mysqldump备份与恢复（温备份） 

 完全备份一个或多个完整的库（包括其中所有的表）

​编辑 完全备份 MySQL 服务器中所有的库

​编辑

 完全备份指定库中的部分表

查看备份文件 

MySQL完全恢复

使用source命令恢复数据

使用mysql命令

MySQL增量备份与恢复

MySQL数据库增量恢复的三种方式

开启二进制日志功能

 进行完全备份（增量备份时基于完全备份，所以我们直接完全备份数据库）

 可每天进行增量备份操作，生成新的二进制日志文件

插入新数据，以模拟数据的增加或变更

再次生成新的二进制日志文件

MySQL增量恢复

一般恢复

基于位置恢复

基于时间点恢复

总结

---

前言：在生产环境中，数据的安全性是十分重要的，数据的丢失会造成严重的后果，所以备份是至关重要的，我们需要了解并掌握完全备份、增量备份、差异备份的原理及其操作。

MySQL日志管理

MySQL 的日志默认保存位置为/usr/local/mysql/data 

MySQL 的日志配置文件为/etc/my.cnf，里面有个[mysqld]项

vim /etc/my.cnf

日志的分类

错误日志

用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启

vim /etc/my.cnf
log-error=/usr/local/mysql/data/mysql_error.log	

通用查询日志

用来记录MySQL的所有连接和语句，默认是关闭的

vim /etc/my.cnf
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

二进制日志(binlog)

用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启

vim /etc/my.cnf
 
log_bin=mysql-bin
或
log-bin=mysql-bin

中继日志

一般情况下在MySQL主从同步（复制）、读写分离集群的从节点开启。主节点一般不需要这个日志

慢查询日志

用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的

vim /etc/my.cnf
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5

配置日志

修改my.cnf配置文件

1. #修改my.cnf配置文件
 
#错误日志
log-error=/usr/local/mysql/data/mysql_error.log	
#通用查询日志
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
#二进制日志
log-bin=mysql-bin	
#慢查询日志
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
 
2. #重新mysql服务
systemctl restart mysqld.service




log-error=/usr/local/mysql/data/mysql_error.log
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
log-bin=mysql-bin
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
 
systemctl restart mysqld.service

 

 重启mysql服务

日志的查询 

#登入mysql
mysql -u root -p[密码]
 
#查看通用查询日志是否开启
show variables like 'general%';	 
#查看二进制日志是否开启
show variables like 'log_bin%';									
#查看慢查询日功能是否开启
show variables like '%slow%';								
#查看慢查询时间设置
show variables like 'long_query_time';						
#在数据库中设置开启慢查询的方法
set global slow_query_log=ON;
 
PS：variables表示变量 like表示模糊查询
xxx% 以xxx为开头的字段
%xxx 以xxx为结尾的字段
%xxx% 只要出现xxx字段的都会显示出来
xxx  精准查询

 

#查看通用查询日志是否开启
show variables like 'general%';

#查看二进制日志是否开启
show variables like 'log_bin%';

#查看慢查询日功能是否开启
show variables like '%slow%';

#查看慢查询时间设置
show variables like 'long_query_time';

二进制日志开启后，重启mysql会在目录中查看到二进制日志
cd /usr/local/mysql/data
ls
mysql-bin.000001 #开启二进制日志时会产生一个索引文件
 
索引文件：记录更新语句
索引文件刷新方式：
1.重启mysql的时候会更新索引文件，用于记录新的更新语句
2.刷新二进制日志

 MySQL备份与恢复

数据备份的重要性

• 备份的主要目的是灾难恢复
• 在生产环境中，数据的安全性至关重要
• 任何数据的丢失都可能产生严重的后果

造成数据丢失的原因：

程序错误
人为操作错误
运算错误
磁盘故障
灾难（火灾、地震、盗窃等）

数据备份的分类

从物理与逻辑的角度分类

物理备份：对数据库操作系统的物理文件（如数据文件、日志文件等）的备份

物理备份的方法 ：

冷备份(脱机备份) :是在关闭数据库的时候进行的；

热备份(联机备份) :数据库处于运行状态，依赖于数据库的日志文件；

温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作。

逻辑备份：对数据库逻辑组件（如：表等数据库对象）的备份 
 

从数据库的备份策略角度分类

完全备份：每次对数据库进行完整的备份 

每次都进行完全备份，会导致文件占用空间巨大，并且有大量重复数据；恢复时，直接使用完全备份的文件即可每次都进行完全备份，会导致文件占用空间巨大，并且有大量重复数据；恢复时，直接使用完全备份的文件即可

差异备份：备份自从上次完全备份之后被修改过的文件

每次差异备份，都会备份上一次完全备份之后的数据，可能会出现备份重复数据，导致占用额外的磁盘空间；恢复时，先恢复完全备份的数据，再恢复差异备份的数据

增量备份：只要在上次完全备份或者增量备份后被修改的文件才会被备份

每次增量备份都是备份在上一次完全备份或者增量备份之后的数据不会出现备份重复数据的情况，也不会占用额外的磁盘空间；恢复数据时，需要按照次序恢复完全备份和增量备份的数据

常见的备份方法解释

物理冷备

备份时数据库处于关闭状态，直接打包数据库文件
备份速度快，恢复时也是最简单的
关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有的MySQL目录即可

专用备份工具mydump或者mysqlhotcopy

mysqldump常用的逻辑备份工具
MySQL自带的备份工具，可实现对MySQL的备份
可以将指定的库、表导出为SQL脚本
使用命令mysql导入备份的数据
 
mysqlhotcopy仅拥有备份myisam和archive表

启动二进制日志进行增量备份

进行增量备份，需要刷新二进制日志
mysql支持增量备份，进行增量备份是必须启用二进制日志。
二进制日志文件为用户提供复制，对执行备份点后进行的数据库
更改所需的信息进行恢复。
如果进行增量备份（包含上次完全备份或增量备份以来发生的数据修改）
，需要刷新二进制日志。

第三方工具备份

免费的MySQL热备份软件Percona XtraBackup

Mysql完全备份

mysql完全备份的特点

• 是对整个数据库、数据库结构和文件结构的备份
• 保存的是备份完成时刻的数据库
• 是差异备份与增量备份的基础

优点：备份与恢复操作简单方便

缺点：数据存在大量的重复；占用大量的备份空间；备份与恢复时间长

数据库完全备份分类

InnoDB存储引擎的数据库在磁盘上存储成三个文件：

• db.opt(表属性文件)

• 表名.frm(表结构文件)

• 表名.ibd(表数据文件)

物理冷备份与恢复

关闭mysql数据库

使用tar命令直接打包数据库文件夹 

直接替换现有mysql目录即可

 mysqldump备份与恢复

mysql自带的备份工具，可方便实现对mysql的备份

可以将指定的库、表导出为sql脚本

使用命令musql导入备份的数据

MySQL完全备份与恢复

物理冷备份与恢复

实验需要：

mysql -u root -p
create database family;
use family;
create table if not exists member (id int(4) not null auto_increment,name varchar(10) not null,age char(10) not null,hobby varchar(50),primary key (id));
 
insert into member values(1,'小明',22,'打篮球');
insert into member values(2,'小军',23,'健身');

 

 

 关闭mysql，备份data目录

#关闭mysql，备份data目录
systemctl stop mysqld
yum -y install xz
cd /usr/local/mysql

 压缩备份data目录 

#压缩备份data目录
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz data/

 登录mysql，删除family库 

#登录mysql，删除family库 
systemctl start mysqld.service 
mysql -u root -p123456
drop database family;

 解压之前备份的数据库data目录，不用删除原目录，会自动替换

#解压之前备份的数据库data目录，不用删除原目录，会自动替换
cd /opt
ls
cd /usr/local/mysql
tar Jxvf /opt/mysql_all_2022-06-22.tar.xz -C ./

 重启服务查看被删除的库

systemctl restart mysqld.service

 

mysqldump备份与恢复（温备份） 

create table school (id int(10),name char(10),age int,hobby varchar(20));
insert into school values(1,'小红',22,'华大');
insert into school values(2,'小白',21,'基因');

 完全备份一个或多个完整的库（包括其中所有的表）

#导出的就是数据库脚本文件
mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql
 
mysqldump -uroot -p --databases mysql > /opt/mysql.sql
#备份一个mysql库
mysqldump -uroot -p --databases mysql family > /opt/mysql-family.sql
#备份mysql和family库

 完全备份 MySQL 服务器中所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
 
mysqldump -u root -p --all-databases > /opt/all.sql

 完全备份指定库中的部分表

mysqldump -uroot -p[密码] [-d] 库名 表名1 表名2 > /备份路径/备份文件名.sql
 
mysqldump -uroot -p [-d] family member school > /opt/family_member_schoo.sql
 
使用-d选项，说明只保存数据库的表结构
不使用-d选项，说明表数据也进行备份

查看备份文件 

cat family_member_school.sql |grep -v '^/'|grep -v '^$'|grep -v '^-'

MySQL完全恢复

恢复数据库：使用mysqldump导出的文件，可使用导入的方法

• source命令
• mysql命令

使用source命令恢复数据

恢复数据库

#先备份school数据库
mysqldump -uroot -p --databases family > /opt/family.sql
#查看数据库
show databases;
#删除family数据库
drop database family;
#使用source 恢复数据
source /opt/family.sql
 
 
当备份时加--databases 表示针对于family库
当备份时不加--databases 表示针对family库下的所有表
主要原因在于俩种方式的备份：
前者会从create databases开始
后者全是针对表格进行操作

 

 

 恢复数据表

#先备份family数据库里的member数据表
mysqldump -uroot -p family member > /opt/family_member.sql
#进入数据库
use family;
#删除family数据库里的member表
drop table member;
#使用source 恢复数据
source /opt/family_member.sql
#查看所有字段
select * from member;

 

 

使用mysql命令

恢复数据库

mysql -u root -p -e 'drop database family;'
#“-e”选项，用于指定连接 MySQL 后执行的命令，命令执行完后自动退出
mysql -u root -p -e 'show databases;'
 
#恢复family数据库
mysql -u root -p < /opt/family.sql		
mysql -u root -p -e 'show databases;

 这个还是先备份

 

 

恢复数据表 

当备份文件中只包含表的备份，而不包含创建的库的语句时，执行导入操作时必须指定库名，且目标库必须存在
mysqldump -uroot -p family school > /opt/family_school.sql
 
1. #删除family中的school表 
mysql -u root -p -e 'drop table family.school;'
mysql -u root -p -e 'show tables from family;'
 
2. #恢复family库中的school表 
mysql -u root -p family < /opt/family_school.sql 
mysql -u root -p -e 'show tables from family;'
 

 

 注：mysql <：遇到报错会中止       source：遇到报错不会中止

MySQL增量备份与恢复

MySQL数据库增量恢复的三种方式

一般恢复：将所有备份的二进制日志内容全部恢复

基于位置恢复：数据库在某一时间点可能既有错误的操作也有正确的操作，可以基于精准的位置跳过错误的操作，发生错误节点之前的一个节点，上一次正确操作的位置点停止

基于时间点恢复：跳过某个发生错误的时间点实现数据恢复，在错误时间点停止，在下一个正确时间点开始
 

开启二进制日志功能

vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED
 
systemctl restart mysqld.service

补充： （二进制日志（binlog）有3种不同的记录格式：STATEMENT（基于sql语句）、ROW（基于行）、MIXED（混合模式），默认格式是STATEMENT）

STATEMENT（基于sql语句）：

每一条涉及到被修改的sql 都会记录在binlog中

缺点：日志量过大，如sleep()函数，last_insert_id()>，以及user- definedfuctions（udf）、主从复制等架构记录日志时会出现问题

总结:增删改查通过sql语句来实现记录，如果用高并发可能会出错，可能时间差异或者延迟，可能不是我们想想的恢复可能你先删除或者在修改，可能会倒过来。准确率低

ROW（基于行）：

只记录变动的记录，不记录sql的上下文环境

缺点:如果遇到update. . . . ..set. . . .where true那么binlog的数据量会越来越大

总结: update、delete以多行数据起作用，来用行记录下来，只记录变动的记录，不记录sql的上下文环境，比如sql语句记录一行，但是Row就可能记录10行，但是准确性高，高并发的时候由于操作量，性能变低比较大所以记录都记下来， 

MIXED（混合模式）：

一般的语句使用statement，函数使用ROW方式存储

#只要重启就会自动生成二进制文件
systemctl restart mysqld
ls -l /usr/local/mysql/data/mysql-bin.*

 

查看二进制日志文件的内容
cp /usr/local/mysql/data/mysql-bin.000002 /opt/
 
mysqlbinlog --no-defaults /opt/mysql-bin.000002
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002
 
--base64-output=decode-rows：使用64位编码机制去解码（decode）并按行读取（rows）
-v：显示详细内容
--no-defaults：默认字符集（不加会报UTF-8的错误）
PS：可以将解码后的文件导出为txt格式，方便查阅

 

 进行完全备份（增量备份时基于完全备份，所以我们直接完全备份数据库）

mysqldump -uroot -p family member > /opt/family_member_$(date +%F).sql
mysqldump -uroot -p --all-databases family > /opt/family_$(date +%F).sql

 周期性任务测试

 可每天进行增量备份操作，生成新的二进制日志文件

mysqladmin -uroot -p123456 flush-logs

插入新数据，以模拟数据的增加或变更

在第一次完全备份之后刷新二进制文件，在第二个二进制文件中记载着“增量备份的数据”

mysql -uroot -p123456
use school;
insert into member values(3,'小刘','20','打羽毛球');
insert into member values(4,'小蒋','22','看书');

再次生成新的二进制日志文件

mysqladmin -u root -p flush-logs

之前步骤12的数据库操作会保存到mysql-bin.000011文件中，之后数据库数据再发生变化则保存在mysql-bin.000012文件中 

MySQL增量恢复

一般恢复

将所有备份的二进制日志内容全部恢复

1、模拟丢失更改的数据的恢复步骤

mysql -uroot -p123456
use family;
delete from member where id=3;
delete from member where id=4;
select * from member;
quit
 
mysqlbinlog --no-defaults /usr/local/mysql/data/mysql-bin.000011 | mysql -u root -p
mysql -uroot -p123456 -e "select * from family.member;"

 2、模拟丢失所有数据的恢复步骤（基本一样，注意日志日期）

use family;
drop table member;
 
mysql -u root -p family < /opt/family_member_2022-06-26.sql
mysqlbinlog --no-defaults /usr/local/mysql/data/mysql-bin.000011 | mysql -u root -p
mysql -uroot -p123456 -e "select * from family.member;"

先恢复整个表，然后在恢复二进制日志文件

基于位置恢复

数据库在某一时间点可能既有错误的操作也有正确的操作 

可以基于精准的位置跳过错误的操作

发生错误节点之前的一个节点，上一次正确操作的位置点停止

1、在数据库中插入数据并查看

use family
insert into member values(5,'小王','10','学习');
insert into class1 values(6,'小许','30','上班摸鱼');
# 刷新生成新的二进制日志文件
mysqladmin -u root -p flush-logs
 
cp /usr/local/mysql/data/mysql-bin.000012 /opt/
mysqlbinlog --no-defaults --base64-output=decode-rows -v mysql-bin.000012

以上插入的数据都存放在mysql-bin.000012中

2、测试恢复到id=5的数据， 不恢复“后面一条”的数据 

删除表中所有数据

mysqlbinlog --no-defaults --stop-position='3754' /opt/mysql-bin.000012 | mysql -u root -p
 
mysql -uroot -p123456 -e "select * from family.member;"

3、仅恢复“最后一条”的数据，跳过“前面多条”的数据恢复

删除表中所有数据

mysqlbinlog --no-defaults --start-position='3902' /opt/mysql-bin.000012 | mysql -u root -p
 
mysql -uroot -p123456 -e "select * from family.member;"

4、恢复id=3到id=5的数据

删除表中所有数据

mysqlbinlog --no-defaults --start-position='2972' --stop-position='3754' /opt/mysql-bin.000012 | mysql -u root -p
 
mysql -uroot -p123456 -e "select * from family.member;"

注意：因为我后插入的id=5和id=6的内容与前面id=1至id=4的内容都在一个二进制日志文件里所以可以同时使用--start-position和--stop-position；如果先mysqladmin -u root -p flush-logs刷新的日志文件后再添加id=5和id=6的内容则不能同时使用需要分开使用。

基于时间点恢复

1、测试恢复到id=5的数据， 不恢复“后面一条”的数据

删除表中所有数据

mysqlbinlog --no-defaults --stop-datetime='2022-06-27 00:45:30' /opt/mysql-bin.000012 |mysql -uroot -p
 
mysql -uroot -p123456 -e "select * from family.member;"

2、仅恢复“最后一条”的数据，跳过“前面多条”的数据恢复

删除表中所有数据

mysqlbinlog --no-defaults --start-datetime='2022-06-27 00:45:30' /opt/mysql-bin.000012|mysql -uroot -p
 
mysql -uroot -p123456 -e "select * from family.member;"

 

3、 恢复id=3到id=5的数据

删除表中所有数据 

mysqlbinlog --no-defaults --start-datetime='2022-06-26 22:49:45' --stop-datetime='2022-06-27 00:45:30' /opt/mysql-bin.000012 |mysql -uroot -p
 
mysql -uroot -p123456 -e "select * from family.member;"

 

 

 错误：因为二进制文件000012里的数据时间错乱时间包含在id3 到id 5的时间段里，所以12的数据也恢复了

总结

 在增量备份恢复时，要先从完全备份恢复，再到二进制日志1、日志2…逐一恢复；如果恢复某条SQL语句之前的所有数据，就使用--stop在这个语句的位置节点或者时间点；如果恢复某条SQL语句以及之后的所有数据，就使用--start在这个语句的位置节点或者时间点。