目录
前言
日志
1.MySQL的日志保存位置
2.日志类型与作用
一、数据备份的重要性
二、数据库备份的分类
1.物理备份
2.物理备份方法
3.逻辑备份
4.完全备份
5.差异备份
6.增量备份
7.备份方式比较
三、常见的备份方法
1.物理冷备
2.专用备份工具mysqldump 或mysqlhotcopy
3.启用二进制日志进行增量备份
4.第三方工具备份
四、MySQL完全备份
1.优点
2.缺点
3.数据库完全备份分类
(1)物理冷备份与恢复
(2)mysqldump备份与恢复
(3)mysqldump备份与恢复
五、MySQL完全备份与恢复
1.环境准备
2.备份与恢复
(1)物理冷备份与恢复
(2)压缩备份
(3)解压恢复
3.mysqldump备份与恢复(温备份)
(1)完全备份一个或多个完整的库(包括其中所有的表)
(2)完全备份MySQL服务器中所有的库
(3)完全备份指定库中的部分表
(4) 查看备份文件
六、MySQL物理冷备份及恢复
1.物理冷备份
(1)创建数据库数据
(2)进行数据备份打包
(3)模拟数据丢失,损坏
(4)恢复数据
七、MySQL完全备份与恢复
1.mysqldump 备份与恢复
2.恢复数据库
3.使用source命令恢复数据
八、MySQL 增量备份与恢复
1.MySQL数据库增量恢复
(1)一般恢复
(2)基于位置恢复
(3)基于时间点恢复
2.MySQL 增量备份
(1)开启二进制日志功能
(2)进行完全备份
3.MySQL增量恢复
(1)一般恢复
(2)断点恢复
(3)基于位置恢复
(4)基于时间点恢复
MySQL的日志默认保存位置为 /usr/local/mysql/data
(1)redo 重做日志:达到事务一致性(每次重启会重做)
作用:确保日志的持久性,防止在发生故障,脏页未写入磁盘。重启数据库会进行redo log执行重做,达到事务一致性。
(3)undo 回滚日志
作用:保证数据的原子性,记录事务发生之前的一个版本,用于回滚,innodb事务可重复读和读取已提交 隔离级别就是通过mvcc+undo实现。
(4)errorlog 错误日志
作用:Mysql本身启动,停止,运行期间发生的错误信息
(5)slow query log 慢查询日志
作用:记录执行时间过长的sql,时间阈值(10s)可以配置,只记录执行成功
另一个作用:在于提醒优化
(6)bin log 二进制日志
作用:用于主从复制,实现主从同步
记录的内容是:数据库中执行的sql语句
(7)relay log 中继日志
作用:用于数据库主从同步,将主库发来的bin log保存在本地,然后从库进行回放
(8)general log 普通日志
作用:记录数据库的操作明细,默认关闭,开启后会降低数据库性能
(9)配置文件
vim /etc/my.cnf
[mysqld]
错误日志,用来记录当MySQL启动、停止或运行时发生的错误信息,默认已开启
log-error=/usr/local/mysql/data/mysql_error.log 指定日志的保存位置和文件名
通用查询日志,用来记录MySQL的所有连接和语句,默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
二进制日志(binlog),用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启
log-bin=mysql-bin
或
log_bin=mysql-bin
中继日志
一般情况下它在Mysql主从同步(复制)、读写分离集群的从节点开启。主节点一般不需要这个日志
慢查询日志,用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便提醒优化,默认是关闭的
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5 设置超过5秒执行的语句被记录,缺省时为10秒
复制段
log-error=/usr/local/mysql/data/mysql_error.log
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
log-bin=mysql-bin
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
systemctl restart mysqld
mysql -u root -P
show variables like 'general%'; 查看通用查询日志是否开启
show variables like 'log_bin%'; 查看二进制日志是否开启
show variables like '%slow%'; 查看慢查询日功能是否开启
show variables like 'long_query_time'; 查看慢查询时间设置
set global slow_query_log=ON; 在数据库中设置开启慢查询的方法
PS:variables 表示变量 like 表示模糊查询
xxx(字段)
xxx% 以xxx为开头的字段
%xxx 以xxx为结尾的字段
%xxx% 只要出现xxx字段的都会显示出来
xxx 精准查询
二进制日志开启后,重启mysql 会在目录中查看到二进制日志
cd /usr/local/mysql/data
ls
mysql-bin.000001 开启二进制日志时会产生一个索引文件及一个索引列表
索引文件:记录更新语句
索引文件刷新方式:
1、重启mysql的时候会更新索引文件,用于记录新的更新语句
2、刷新二进制日志
mysql-bin.index:
二进制日志文件的索引
1.数据的安全性至关重要
2.任何数据的丢失都可能产生严重的后果
3.造成数据丢失的原因
(1)程序错误
(2)人为操作错误
(3)运算错误
(4)磁盘故障
(5)灾难(如火灾、地震)和盗窃
从物理与逻辑的角度,备份可分为
对数据库操作系统的物理文件(如数据文件、日志文件等)的备份。
物理备份是对数据库操作系统的物理文件(如数据文件、日志文件等)的备份。这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。
(1)冷备份(脱机备份) :是在关闭数据库的时候进行的。(tar)
(2)热备份(联机备份) :数据库处于运行状态,依赖于数据库的日志文件。(mysqlhotcopy mysqlbackup)
(3)温备份:数据库锁定表格(不可写入但可读)的状态下进行备份操作。(mysqldump)
对数据库逻辑组件(如:表等数据库对象)的备份。表示为逻辑数据库结构。
这种类型的备份适用于可以编辑数据值或表结构。
从数据库的备份策略角度,备份可分为
每次对数据库进行完整的备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复并且会占用大量的磁盘空间,备份的时间也很长。
备份自从上次完全备份之后被修改过的文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份。
只有在上次完全备份或者增量备份后被修改的文件才会被备份。以上次完整备份或上次增量备份的时间为时间点,仅备份期间内的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丟失。
备份方式 | 完全备份 | 差异备份 | 增量备份 |
完全备份时的状态 | 表1、表2 | 表1、表2, | 表1、表2 |
第1次添加内容 | 创建表3 | 创建表3 | 创建表3 |
备份内容 | 表1、表2、表3 | 表3 | 表3 |
第2次添加内容 | 创建表4 | 创建表4 | 创建表4 |
备份内容 | 表1、表2、表3、表4 | 表3、表4 | 表4 |
备份时数据库处于关闭状态,直接打包数据库文件(tar)。
备份速度快,恢复时也是最简单的。
mysqldump 常用的逻辑备份工具。
mysqlhotcopy 仅拥有备份MyISAM和ARCHIVE表。
进行增量备份,需要刷新二进制日志。
免费的MySQL热备份软件Percona XtraBackup mysqlbackup。
(1)是对整个数据库、数据库结构和文件结构的备份。
(2)保存的是备份完成时刻的数据库。
(3)是差异备份与增量备份的基础。
备份与恢复操作简单方便。
(1)数据存在大量的恢复。
(2)占用大量的备份空间。
(3)备份与恢复时间长。
1)关闭MySQL数据库。
2)使用tar命令直接打包数据库文件夹。
3)直接替换现有MySQL目录即可。
直接替换现有MySQL目录即可。
1)MySQL自带的备份工具,可方便实现对MySQL的备份。
2)可以将指定的库、表导出为SQL脚本。
3)使用命令mysql导入备份的数据。
use 数据库名;
create table if not exists info1 (
id int(4) not null auto_ increment,
name varchar(10) not null,
age char(10) not null,
hobby varchar (50),
primary key (id));
insert into info1 values(1, 'user1' ,20, 'running');
insert into info1 values (2, 'user2',30, 'singing');
InnoDB 存储引擎的数据库在磁盘上存储成三个文件: db.opt (表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。
systemctl stop mysqld
yum -y install xz
tar Jcvf /opt/mysql_all_ $(date +%F) .tar.xz /usr/local/mysql/data/
mv /usr/local/mysql/data/ /opt/
tar jxvf /opt/mysql_all_2022-9-17.tar.xz -C /usr/local/mysql/data/
cd /usr/local/mysql/data
mv /usr/local/mysql/data/* ./
如果重启失败更改data的权限
mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/ 备份文件名.sql
导出的就是数据库脚本文件
例:
mysqldump -u root -p --databases 数据库名 > /opt/数据库名. sql
备份一个数据库
mysqldump -u root -p --databases mysql 数据库名 > /opt/mysql-数据库名.sql
备份mysql与另一个数据库两个库
mysqldump -u root -p[密码] --all-databases > / 备份路径/备份文件名.sql
例:
mysqldump -u root -P --all-databases > /opt/all.sql
mysqldump -u root -p[密码] 库名[表名1] [表名2] ... > /备份路径/备份文件名.sql
例:
mysqldump -u root -p [-d] 数据库名 info1 info2 > /opt/库名_info1. sql
使用“-d”选项,说明只保存数据库的表结构
不使用“-d"选项,说明表数据也进行备份
做为一个表结构模板
grep -v "^--" /opt/库名_info1.sql | grep -v "^/" | grep -v "^$"
先备份数据库中的数据打包,模拟数据丢失,损坏,利用备份打包恢复数据。
1)先关闭数据库,之后打包备份。
2)恢复数据库。
3)恢复数据库,采用将备份数据mv成线上库文件夹的方式。
mysql -uroot -p密码 登录数据库
mysql> create database 数据库名; 创建数据库
mysql> use 库名; 使用数据库
mysql> create table a(id int(10)); 创建数据库并设置数据
mysql> desc a; 描述表a的结构
mysql> exit 退出
systemctl stop mysqld 关闭数据库
tar zcvf /opt/mysql_all-$(date +%F).tar.gz /usr/local/mysql/data/ 源文件来源路径
备份打包所有数据库,当天日期
cd /opt/
ls -lh 查看文件
systemctl start mysqld 开启数据库
mysql -uroot -p密码 登录数据库
mysql> show databases; 查看数据库信息
mysql> drop database 数据库名; 删除数据库
mysql> show databases; 查看数据库
mysql> exit
systemctl stop mysqld 关闭数据库
cd /opt/
tar zxvf mysql_all-2020-12-24.tar.gz 解压缩
ls -lh
mkdir mysql_old 创建目录
mv /usr/local/mysql/data/ mysql_old/
剪切在备份完成之前产生的数据
mv usr/local/mysql/data/ /usr/local/mysql/
cd /usr/local/mysql/
ls -lh
cd
systemctl start mysqld 开启数据库
mysql -uroot -p密码 登录数据库
mysql> show databases; 查看数据库信息 ,数据恢复
mysql> use 库名; 使用数据库
mysql> show tables; 查看表
mysql> desc a; 模式表结构
mysql> exit 退出
InnoDB 存储引擎的数据库在磁盘上存储成三个文件: db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。
(1)完全备份一个或多个完整的库 (包括其中所有的表)
mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/备份文件名.sql
导出的就是数据库脚本文件
例:
mysqldump -u root -p --databases 库名 > /opt/库名.sql 备份一个gcc库
mysqldump -u root -p --databases mysql 库名 > /opt/mysql-库名.sql 备份mysql与 gcc两个库
(2)完全备份 MySQL 服务器中所有的库
mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
例:
mysqldump -u root -p --all-databases > /opt/all.sql
(3)完全备份指定库中的部分表
mysqldump -u root -p[密码] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql
例:
mysqldump -u root -p [-d] 库名 info1 info2 > /opt/gcc_info1.sql
使用“-d”选项,说明只保存数据库的表结构
不使用“-d"选项,说明表数据也进行备份
(1)使用mysqldump导出的文件,可使用导入的方法。
source命令
mysql命令
(2)使用source恢复数据库的步骤
登录到MySQL数据库
执行source备份sql脚本的路径
(3)source恢复的示例
MySQL [(none)]> source /backup/all-data.sql
(1)模拟数据库出现问题
mysql -uroot -p密码 登录数据库
mysql> show databases; 查看数据库信息
mysql> drop database 库名; 删除数据库
mysql> show databases;
(2)应用
1)创建备份(对表进行备份)
mysqldump -uroot -p密码 库名 info > /opt/info.sql
mysql -uroot -p密码 登录数据库查看
2)恢复数据表
mysql> source /opt/info.sql
mysql> select * from info; 查询所有字段
mysql> show tables; 查看表信息
3)方法2
mysqldump -uroot -p密码 库名 info >/abc/库名.info.sql
mysql -uroot -p密码 -e 'drop table 库名.info;'
mysql -uroot -p密码 -e 'show tables from 库名;'
mysql -uroot -p密码 库名 < /abc/库名.info.sql
mysql -uroot -p密码 -e 'show tables from 库名'
mysqldump 严格来说属于温备份,会需要对表进行写入的锁定
将所有备份的二进制日志内容全部恢复。
1)数据库在某一时间点可能既有错误的操作也有正确的操作。
2)可以基于精准的位置跳过错误的操作。
3)发生错误节点之前的一个节点,上一次正确操作的位置点停止。
1)跳过某个发生错误的时间点实现数据恢复。
2)在错误时间点停止,在下一个正确时间点开始。
vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED 可选,指定二进制日志(binlog)的记录格式为MIXED(混合输入)
server-id = 1 可加可不加该命令
二进制日志(binlog)有3种不同的记录格式: STATEMENT (基于SQL语句)、ROW(基于行)、MIXED(混合模式),默认格式是STATEMENT。
1)STATEMENT(基于SQL语句):
①每一条涉及到被修改的sql 都会记录在binlog中。
②缺点:日志量过大,如sleep()函数,last_insert_id()>,以及user-defined fuctions(udf)、主从复制等架构记录日志时会出现问题。
2)ROW(基于行)
①只记录变动的记录,不记录sql的上下文环境。
②缺点:如果遇到update......set....where true 那么binlog的数据量会越来越大。
create table info
insert into info values(1,'自定义');
insert into info values(2,'自定义');
delete id=其中一个
3)MIXED 推荐使用
一般的语句使用statement,函数使用ROW方式存储。
systemctl restart mysqld
4)查看二进制日志文件的内容
cp /usr/local/mysql/data/mysql-bin.000002 /opt/
mysqlbinlog --no-defaults /opt/mysql-bin.000002
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002
--base64-output=decode-rows:使用64位编码机制去解码(decode)并按行读取(rows)
-v: 显示详细内容
--no-defaults : 默认字符集(不加会报UTF-8的错误)
PS: 可以将解码后的文件导出为txt格式,方便查阅
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002 > /opt/mysql-bin.000002
5)二进制日志中需要关注的部分
①at :开始的位置点
②end_log_pos:结束的位置 position (位置点)
③时间戳: 210712 11:50:30
④SQL语句
mysqldump -uroot -p school info > /opt/库名_info1_$(date +%F).sql
mysqldump -uroot -p密码 库名 > /opt/库名_all_$(date +%F).sql
可每天进行增量备份操作,生成新的二进制日志文件(例如:mysql-bin.000002)
mysqladmin -u root -p flush-logs
1)插入新数据,以模拟数据的增加或变更
PS:在第一次完全备份之后刷新二进制文件,在第二个二进制文件中记载着"增量备份的数据"
create database 数据库名;
use 库名;
create table test1 (id int(2),name varchar(4));
insert into test1 values(1,'one');
insert into test1 values(2,'two');
select * from test1;
再次生成新的二进制日志文件(例如:mysql-bin.000003)
mysqladmin -u root -p flush-logs
之前的步骤的数据库操作会保存到mysql-bin.000002文件中,之后测试删除数据库的操作会保存在mysql-bin.000003文件中 (以免当基于mysql-bin.000002日志进行恢复时,依然会删除库)
1)模拟丢失更改的数据的恢复步骤(直接使用恢复即可)
① 备份数据库库中test1表
mysqldump -uroot -p密码 库名 test1 > /opt/库名_test1.sql
② 删除数据库中test1表
drop table 表名.test1;
③ 恢复test1表
mysql -uroot -p 库名 < info-年-月-日.sql
查看日志文件
mysqlbinlog --no-defaults --base64-output=decode-rows -v mysql-bin.000002
2)模拟丢失所有数据的恢复步骤
模拟丢失所有数据
mysql -uroot -p密码
show databases;
exit
基于mysql-bin.000002恢复
mysqlbinlog --no-defaults /opt/mysql-bin.000002 | mysql -u root -p
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002
1)插入三条数据
use 数据库;
select * from test1;
insert into test1 values(3,'true');
insert into test1 values(4,'f');
insert into test1 values(5,'t');
select * from test1;
2)确认位置点,刷新二进制日志并删除test1表
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000003
960 停止
1066 开始
刷新日志
use 数据库
show tables;
drop table 库名.test1;
3)基于位置点恢复
仅恢复到操作 ID 为“623"之前的数据,即不恢复"user4"的数据
mysqlbinlog --no-defaults --stop-position='1793' /opt/mysql-bin.000002 | mysql -uroot -p
960 停止
1066 开始
仅恢复"user4"的数据,跳过"user3"的数据恢复
mysqlbinlog --no-defaults --start-position='623' /opt/mysql-bin.000002 | mysql -uroot -p
mysqlbinlog --no-defaults --start-position='400' --stop-position='623' /opt/mysql-bin.000002 | mysql -uroot -p 恢复从位置为400开始到位置为623为止
mysqlbinlog [--no-defaults] --start-datetime='年-月-日 小时:分钟:秒' --stop-datetime='年-月-日小时:分钟:秒' 二进制日志 | mysql -u 用户名 -p 密码
仅恢复到某个时间点之前的数据,即不恢复"user4"的数据
mysqlbinlog --no-defaults --stop-datetime='年-月-日 时:分:秒' /opt/mysql-bin.000002 | mysql -uroot -p
仅恢复"user4"的数据,跳过"user3"的数据恢复
mysqlbinlog --no-defaults --start-datetime='年-月-日 时:分:秒' /opt/mysql-bin.000002 | mysql -uroot -p
如果恢复某条SQL语之前的所有数据,就stop在这个语句的位置节点或者时间点
如果恢复某条SQL语句以及之后的所有数据,就从这个语句的位置节点或者时间点start