目录
一、MySQL日志概述
1、日志配置文件
2、日志配置文件的查询
二、数据备份的重要性
三、数据备份类型
1、物理备份
2、逻辑备份
四、备份策略
1、完全备份
2、差异备份
3、增量备份
五、常用的备份方法
1、物理冷备
2、专用备份工具 mysqldump 或 mysqlhotcopy
3、启用二进制日志进行增量备份
4、第三方工具备份
六、完全备份与恢复
1.物理冷备份与恢复
2. mysqldump 备份与恢复(温备份)
1、完全备份
(2)完全备份 MySQL 服务器中所有的库
(3)完全备份指定库中的部分表
(4)查看备份文件
2、完全恢复
方法一:source命令
方式二:mysql命令
七、增量备份与恢复
1、前期准备
(1)开启二进制日志功能
(2)进行完全备份(增量备份时基于完全备份的,所以我们直接完全备份数据库)
(3)插入新数据,以模拟数据的增加或变更
(4) 再次生成新的二进制日志文件
1、一般恢复
2.基于位置恢复
(1)仅恢复ID为“370”开始----ID为“1417”结束的数据
3.基于时间点恢复
mysql的日志默认保存位置为:/usr/local/mysql/data 下面
1、日志文件开启关闭日志的位置
vim /etc/my.cnf
#错误日志,用来记录当MySQL启动、停止或运行时发生的错误信息,默认已开启
log-error=/usr/local/mysql/data/mysql_error.log
#指定日志的保存位置和文件名
#通用查询日志,用来记录MySQL的所有连接和语句,默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log
#二进制日志,用来记录所有更新了数据或者已经潜在更新了数据的语句,记录了数据的更改,可用于数据恢复,默认已开启
log-bin=mysql-bin
#慢查询日志,用来记录所有执行时间超过long_query_time秒的语句,可以找到哪些查询语句执行时间长,以便提醒优化,默认是关闭的
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5
#设置超过5秒执行的语句被记录,缺省时为10秒
2、修改完成需要重新mysql服务
systemctl restart mysqld.service
当我们重启了myslq服务之后,会在数据库目录下,生成以下日志文件
#登入mysql
mysql -u root -p[密码]
#查看通用查询日志是否开启
show variables like 'general%';
#查看二进制日志是否开启
show variables like 'log_bin%';
#查看慢查询日功能是否开启
show variables like '%slow%';
#查看慢查询时间设置
show variables like 'long_query_time';
#在数据库中设置开启慢查询的方法
set global slow_query_log=ON;
备份的主要目的是灾难恢复,备份还可以测试应用、回滚数据修改、查询历史数据、审计等。
造成数据丢失的原因:
程序错误
人为操作错误
运算错误
磁盘故障
灾难(如火灾、地震)和盗窃
数据库备份可以分为物理备份和逻辑备份。物理备份是对数据库操作系统的物理文件(如数据文件、日志文件等)的备份。这种类型的备份适用于在出现问题的时候需要快速恢复的大型重要数据库。
物理备份又可以成为冷备份(脱机备份)、热备份(连接备份)和温备份
逻辑备份是对数据库逻辑组件的备份.表示为逻辑数据库结构。这种类型的备份适用于可以编辑数据值或表结构
从数据库的备份策略来看,备份可分为完全备份、增量备份和差异备份。
每次对数据进行完整备份,即对整个数据库、数据库结构和文件结构的备份,保存的是备份完成时刻的数据库,是差异备份与增量备份的基础。完全备份的备份与恢复操作都非常简单方便,但是数据存在大量的重复并且会占用大量的磁盘空间,备份的时间也很长
每次都进行完全备份,会导致备份文件占用空间巨大,并且有大量的重复数据,恢复时,直接使用完全备份的文件即可
优点:
备份与恢复操作简单方便
缺点:
数据存在大量的重复
占用大量的备份空间
备份与恢复时间长
备份那些自从上次完全备份之后被修改过的所有文件,备份的时间节点是从上次完整备份起,备份数据量会越来越大。恢复数据时只需要恢复上次的完全备份与最佳的一次差异备份
每次差异备份,都会备份上一次完全备份之后的数据,可能会出现重复数据。恢复时,先恢复完全备份的数据,再恢复差异备份的数据
只有那些在上次完全备份或者增量备份后被修改的文件才会被备份以上次完整备份或上次增量备份的时间为时间点,仅备份期间内的数据变化,因而备份的数据量小,占用空间小,备份速度快。但恢复时,需要从上一次的完整备份开始到最后一次增量备份之间的所有增量依次恢复,如中间某次的备份数据损坏,将导致数据的丢失,每次增量备份都是在备份在上一次完成全备份
每次增量备份都是备份在上一次完全备份或者增量备份之后的数据,不会出现重复数据的情况,也不会占用额外的磁盘空间,恢复数据,需要按照次序恢复完全备份和增量备份的数据
补充:如何选择逻辑备份策略(频率)
合理值区间:
备份时数据库处于关闭状态,直接打包数据库文件(tar)
备份速度快,恢复时也是最简单的
mysqldump 常用的逻辑备份工具
mysqlhotcopy 仅拥有备份 MyISAM 和 ARCHIVE 表
进行增量备份,需要刷新二进制日志
MySQL支持增量备份,进行增量备份时必须启用二进制日志。二进制日志文件为用户提供复制,对执行备份点后进行的数据库更改所需的信息进行恢复。如果进行增量备份(包含自上次完全备份或增量备份以来发生的数据修改),需要刷新二进制日志。
免费的MySQL 热备份软件 Percona XtraBackup mysqlbackup
InnoDB存储引擎的数据库在磁盘上存储成三个文件:db.opt(表属性文件)、表名.frm(表结构文件)、表名.ibd(表数据文件)。
systemctl stop mysqld
yum -y install xz
#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/
mv /usr/local/mysql/data/ /opt/
#解压恢复
tar Jxvf /opt/mysql_all_2020-11-22.tar.xz -C /usr/local/mysql/data/
cd /usr/local/mysql/data
mv /usr/local/mysql/data/* ./
(1)关闭防火墙,安装压缩软件
(2)备份压缩
模拟数据库文件丢失
(3)解压恢复
(1)完全备份一个或多个完整的库 (包括其中所有的表)
#(1)完全备份一个或多个完整的库 (包括其中所有的表)
#格式:
mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/备份文件名.sql
#导出的就是数据库脚本文件
#格式:
mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
#格式:
mysqldump -u root -p[密码] 库名 [表名1] [表名2] ... > /备份路径/备份文件名.sql
例:
mysqldump -u root -p [-d] bj info1 info2 > /opt/bj_info1.sql
#使用“-d”选项,说明只保存数据库的表结构
#不使用“-d"选项,说明表数据也进行备份
#做为一个表结构模板
grep -v "^--" /opt/kgc_info1.sql | grep -v "^/" | grep -v "^$"
使用mysqldump导出的文件,可使用导入的方法
#方法一:source命令
[root@server1 ~]# mysql -uroot -p #登录数据库
mysql>source /备份文件路径/
或免交互
[root@server1 ~]# mysql -uroot -p -e 'source /备份文件路径/'
#方法二:mysql命令
[root@test1 opt]# mysql -uroot -p [库名] [表名] < /备份文件路径/
[root@test1 opt]# mysql -uroot -p -e 'show tables from 表名;' #查看表
(1)恢复库
(2)恢复表
(1)恢复库
mysqldump 严格来说属于温备份,会需要对表进行写入的锁定
在全量备份与恢复实验中,假设现有ky13库,ky13库中有一个test表,需要注意的一点为:
情况一:当备份时加 --databases ,表示针对于kk1库
#备份命令
mysqldump -uroot -p123123 --databases school > /opt/school_01.sql 备份库后
#恢复命令过程为:
mysql -uroot -p123123
drop database kk1;
exit
mysql -uroot -p123123 < /opt/kk1_01.sql
情况二:当备份时不加 --databases,表示针对kk1库下的所有表
#备份命令
mysqldump -uroot -p123123 kk1 > /opt/kk1_all.sql
#恢复过程:
mysql -uroot -p123123
drop database kk1;
create database kk1;
exit
mysql -uroot -p123123 ky13 < /opt/kk1_02.sql
#主要原因在于两种方式的备份(前者会从"create databases"开始,而后者则全是针对表格进行操作)
#开启二进制日志功能
vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED #可选,指定二进制日志(binlog)的记录格式为MIXED(混合输入)
server-id = 1 #可加可不加该命令
systemctl restart mysqld #重启服务
查看二进制日志文件的内容:
cp /usr/local/mysql/data/mysql-bin.000001 /opt/
#开启二进制日志功能重启后会生成mysql-bin日志文件
mysqlbinlog --no-defaults /opt/mysql-bin.000001
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000001
#--base64-output=decode-rows:使用64位编码机制去解码(decode)并按行读取(rows)
#-v: 显示详细内容
#--no-defaults : 默认字符集(不加会报UTF-8的错误)
#可以将解码后的文件导出为txt格式,方便查阅
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000001 > /opt/mysql-bin.000001.txt
二进制日志中需要关注的部分
[root@mysql data]# mysqldump -uroot -p bj info1 > /opt/bj_info1_$(date +%F).sql
[root@mysql data]# mysqldump -uroot -p bj > /opt/bj_all_$(date +%F).sql
可每天进行增量备份操作,生成新的二进制日志文件(例如:mysql-bin.000002)
mysqladmin -u root -p flush-logs
mysqladmin -u root -p flush-logs
#之前的步骤(3)的数据库操作会保存到mysql-bin.000001文件中,之后我们测试删除sh库的操作会保存在mysql-bin.000001文件中
cp /usr/local/mysql/data/mysql-bin.000001 /opt/
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000001
#1、模拟丢失所有数据
mysql -uroot -p
drop database sh;
#2、基于mysql-bin.000001恢复
mysqlbinlog --no-defaults /opt/mysql-bin.000001 | mysql -u root -p
#1、在nj表中插入三条数据
use nj
mysql> insert into test1 values(3,'true');
Query OK, 1 row affected (0.00 sec)
mysql> insert into test1 values(4,'f');
Query OK, 1 row affected (0.00 sec)
mysql> insert into test1 values(5,'t');
Query OK, 1 row affected (0.00 sec)
#2、刷新日志
mysqladmin -uroot -p flush-logs
#上述插入数据操作在mysql-bin.000002节点中
#例1:仅恢复到ID为“ ”之前的数据
mysqlbinlog --no-defaults --stop-position=' ' /opt/mysql-bin.000002 | mysql -uroot -p
#例2:仅恢复到ID为“ ”之后的数据
mysqlbinlog --no-defaults --start-position=' ' /opt/mysql-bin.000002 | mysql -uroot -p
#例4:组合恢复,仅恢复ID为“ ”开始----ID为“ ”结束的数据
mysqlbinlog --no-defaults --start-position=' ' --stop-position=' ' /opt/mysql-bin.000002 | mysql -uroot -p
#例1:仅恢复到时间为“年-月-日 小时:分钟:秒”之前的数据
mysqlbinlog --no-defaults --stop-datetime==' ' /opt/mysql-bin.000002 | mysql -uroot -p
#例2:仅恢复到时间为“年-月-日 小时:分钟:秒”之后的数据
mysqlbinlog --no-defaults --start-datetime=' ' /opt/mysql-bin.000002 | mysql -uroot -p
#例4:组合恢复,仅恢复时间为“年-月-日 小时:分钟:秒”开始----时间为“年-月-日 小时:分钟:秒”结束的数据
mysqlbinlog --no-defaults --start-datetimen=' ' --stop-datetime=' ' /opt/mysql-bin.000002 | mysql -uroot -p