MySQL常用工具、日志及读写分离
1.MySQL中常用工具
1.1 mysql
1.1.1连接选项
1.1.2 执行选项
1.2 mysqladmin
1.3 mysqlbinlog
1.4 mysqldump
1.4.1 连接选项
1.4.2 输出内容选项
1.5 mysqlimport/source
1.6 mysqlshow
2. MySQL日志
2.1 错误日志
2.2 二进制日志
2.2.1 概述
2.2.2 日志格式
2.2.3 日志读取
2.2.4 日志删除
2.3 查询日志
2.4 慢查询日志
2.4.1 文件位置和格式
2.4.2 日志的读取
3. MySQL复制
3.1 复制概述
3.2 复制原理
3.3 复制优势
3.4 搭建步骤
3.4.1 master
3.4.2 slave
4. 通过AOP记录操作日志
4.1 自定义注解
4.2 性能优化 -分页
4.8.1 优化count
1.MySQL中常用工具
1.1 mysql
该mysql不是值mysql服务,而是指mysql的客户端工具。
语法 :
mysql [options] [database]
1.1.1连接选项
1.1.2 执行选项
-e, --execute=name : 执行sql语句并退出
1.2 mysqladmin
mysqladmin是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。
可以通过 :mysqladmin --help 指令查看帮助文档。
1.3 mysqlbinlog
由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog日志管理工具。
语法 :
1.4 mysqldump
mysqldump客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的sql语句。
语法 :
1.4.1 连接选项
1.4.2 输出内容选项
示例 :
mysqldump -uroot -p2143 db01 tb_book --add-drop-database --add-drop-table > a.sql
mysqldump -uroot -p2143 -T /tmp test city
1.5 mysqlimport/source
mysqlimport是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。
语法 :
mysqlimport [options] db_name textfilel [textfile2…]
示例 :
mysqlimport -urrot -p2143 test /tmp/city.txt
如果需要导入sql文件,可以使用mysql中的source指令:
source /root/tb_book.sql
1.6 mysqlshow
mysqlshow客户端对查找工具,用来很快的查找存在那些数据库、数据库中的表、表中的列或者索引。
语法 :
mysqlshow [options] [db_name [table_name] [col_name]]]
参数 :
–count :显示数据库及表的统计信息(数据库,表均可以不指定)
-i :显示指定数据库或者指定表的状态信息
示例 :
2. MySQL日志
在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL也不例外,在MySQL中,有四种不同的日志,分别是错误日志、二进制日志(BINLOG日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。
2.1 错误日志
错误日志是MySQL中最重要的日志之一,它记录了当MySQL的启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。
该日志是默认开启的,默认存放目录为mysql的数据目录(var/lib/mysql),默认的日志文件为hostname.err(hostname是主机名)。
查看日志位置指令 :
show variables like ‘log_error%’;
查看日志内容 :
tail -f /var/lib/mysql/xaxh-server.err
2.2 二进制日志
2.2.1 概述
二进制日志(BINLOG)记录了所有的DDL(数据定义语言)语句和DML(数据操作语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL的主从复制,就是通过该binlog实现的。
二进制日志,默认情况下是没有开启的,需要MySQL的陪着文件中开启,并配置MySQL日志的格式。
配置文件位置 :/usr/my.cnf
日志存放位置 :配置时,给定了文件名但是没有指定路径,日志默认写入MySQL的数据目录。
配置开始binlog日志,日志的文件前缀为mysqlbin ------》 生成的文件名如 :
mysqlbin.000001,mysqlbin.000002
log_bin=mysqlbin
配置二进制日志的格式
binlog_format=STATEMENT
2.2.2 日志格式
STATEMENT
该日志格式在日志文件中记录的都是SQL语句(statmeent),每一条对数据进行修改的SQL都会记录在日志文件中,通过MySQL提供的MySQLbinlog工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。
ROW
该日志格式在日志文件中记录的是每一行的数据变更,而不是记录SQL语句。比如,执行SQL语句 :update tb_book set status = ‘1’,如果是STATEMENT日志格式,在日志中会记录一行SQL文件;如果是ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW格式的日志中会记录每一行的数据变更。
MIXED
这是目前MySQL默认的日志格式,即混合了STATEMENT和ROW两种格式。默认情况下采用STATEMENT,但是在一些特殊情况下采用ROW来进行记录。MIXED格式能尽量利用两种模式的优点,而避开他们的缺点。
2.2.3 日志读取
由于日志以二进制方式存储,不能直接读取,需要用mysqlbinlog工具来查看,语法如下 :
mysqlbinlog log-file;
查看STATEMENT格式日志 :
查看日志文件 :默认在/var/lib/mysql目录下
mysqlbin.index : 该文件是日志索引文件,记录日志的文件名;
mysqlbing.000001 : 日志文件
查看日志内容 :
mysqlbinlog mysqlbing.000001;
查看ROW格式日志
配置 :
配置开启binlog日志,日志的文件前缀为mysqlbin —》生成的文件名如:mysqlbin.000001,mysqlbin.000002
log_bin=mysqlbin
配置二进制日志的格式
binlog_format=ROW
如果日志格式是ROW,直接查看数据,是查看不懂的;可以在mysqlbinlog后面加上参数 -w
mysqbinlog -vv mysqlbin.000002
2.2.4 日志删除
对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清除,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:
方式1:
通过Reset Master指令删除全部binlog日志,删除之后,日志编号,将从xxxx.000001重新开始。
查询之前,先查询下日志文件 :
执行删除日志命令 :
Reset Master
执行之后,查看日志文件 :
方式2:
执行指令 purge master logs to 'mysqlbin.’ ,该命令将删除编号之前的所有日志。
方式3:
执行指令 purge master logs before ‘yyyy-mm-dd hh24:mi:ss’,该命令将删除日志为“yyyy-mm-dd hh24:mi:ss”之前产生的所有日志。
方式4:
设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少DBA管理日志的工作量。
配置如下 :
2.3 查询日志
查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的SQL语句。
默认情况下,查看日志是未开启的。如果需要开启查询日志,可以设置以下配置 :
该选项用来开启查询日志 ,可选值 :0或者 1;0代表关闭,1代表开启
general_log=1
设置日志的文件名,如果没有指定,默认的文件名为host_name.log
general_log_file=file_name
在mysql的配置文件/usr/my.cnf中配置如下内容:
执行完查询语句以后,再次查看查询日志 :
2.4 慢查询日志
慢查询日志记录了所有执行时间超过参数long_query_time 设置值并且扫描记录数不小于min_examined_row_limit的所有的SQL语句的日志。
long_query_time默认为10秒,最小为0,精度可以到微妙。
2.4.1 文件位置和格式
慢查询日志默认是关闭的。可以通过两个参数来控制慢查询日志:
该参数用来控制慢查询日志是否开启,可取值 :1和0,1代表开启,0代表关闭
slow_query_log=1
该参数用来指定慢查询日志的文件名
slow_query_log_file=slow_query.log
该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10s
long_query_time=10
2.4.2 日志的读取
和错误日志、查询日志一样,慢查看日志记录的格式也是纯文本,可以被直接读取。
1)查询long_query_time的值。
2)查看慢查询日志文件
直接通过cat指令查询该日志文件 :
如果慢查询日志内容很多,直接查看文件,比较麻烦,这个时候可以借助于mysql自带的mysqldumpslow工具,来对慢查询日志进行分类汇总。
3. MySQL复制
3.1 复制概述
复制是指将主数据库的DDL和DML操作通过二进制日志传到从库服务器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。
3.2 复制原理
MySQL的主从复制原理如下。
从上层来看,复制分成三步 :
Master主库在事务提交时,会把数据变更作为时间Events记录在二进制日志文件Binlog中。
主库推送二进制日志文件Binlog中的日志事件到从库的中级日志Relay Log。
Slave重做中继日志中的事件,将改变反映它自己的数据。
3.3 复制优势
MySQL复制的优势主要包含以下三个方面 :
主库出现问题,可以快速切换到从库提供服务。
可以在从库上执行查询操作,从主库中更新,实现读写分离,降低主库的访问压力。
可以在从库中执行备份,以避
免备份期间影响主库的服务。
3.4 搭建步骤
3.4.1 master
1)在master的配置文件(/usr/my.cnf)中,配置如下内容 :
#mysql 服务ID,保证整个集群环境中唯一
server-id=1
#mysql binlog 日志的存储路径和文件名
log-bin=/var/lib/mysql/mysqlbin
#错误日志,默认以及开启
#log-err
#mysql的安装目录
#basedir
#mysql的临时目录
#tmpdir
#mysql的数据存放目录
#datadir
#是否只读,1代表只读,0代表读写
read-only=0
#忽略的数据,指不需要同步的数据库
binlog-ignore-db=mysql
#指定同步的数据库
#binlog-do-db=db01
2)执行完毕之后,需要重启MySQL :
service mysql restart;
3)创建同步数据的账户,并且进行授权操作:
grant replication slave on . to ‘demo’@‘192.168.192.131’ identified by ‘demo’;
flush privileges;
4)查看master状态 :
3.4.2 slave
1)在slave端配置文件中,配置如下内容 :
#mysql服务端ID,唯一
server-id=2
#指定binlog日志
log-bin=/var/lib/mysql/mysqlbin
2)执行完毕之后,需要重启MySQL:
service mysql restart;
3)执行如下指令:
change master to master_host=‘192.168.192.130’,master_user=‘demo’,master_password=‘demo’,
master_log_file=‘mysqlbin.000001’,master_log_pos=413;
指定当前从库的主库的IP地址,用户名,密码,从那个日志文件开始的那个位置开始同步推送日志。
4)开启同步操作
start slave;
show slave status;
5)停止同步操作
stop slave;
4. 通过AOP记录操作日志
4.1 自定义注解
通过自定义注解,来标识方法需不需要进行记录日志,如果该方法在访问时需要记录日志,则在该方法上标识该注解即可。
@Inherited
@Document
@Target(Elementype.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface OperateLog{
}
@Component
@Aspect
public class OperateAdvice {
private static Logger log = Logger.getLogger(OperateAdvice.class);
@Around("execution(* cn.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object insertLogAround(ProceedingJoinPoint pjp,OperateLog operateLog) throws Throwable {
@Around("execution(* com.example.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object logAround(ProceedingJoinPoint pjo,OperateLog operateLog) {
DateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
// 访问方法的时间
String dateTime = sdf.format(new Date());
// 访问的方法
String methodName = pjp.getSignature().getName();
// 访问哪一个类
String className = pjp.getClass().getName();
// 方法入参
String paramAndValue = Arrays.toString(pjp.getArgs());
// 统计耗时
long startTime = System.currentTimeMillis();
// 打印方法入参日志
log.info("输出日志");
// 放行,并获取返回值
Object returnValue= new Object();
try {
returnValue= pjp.proceed();
} catch (Throwable throwable) {
log.error("");
}
long endTime = System.currentTimeMillis();
// 打印请求耗时日志
log.info();
// 打印返回值日志
return returnValue;
}
}
}
4.2 性能优化 -分页
4.8.1 优化count
创建一张表用来记录日志表的总数据量 :
create table log_counter (
logcount bigint not null
)engine = innodb default CHARSET = utf8;
在每次插入数据之后,更新该表 :
update log_counter set logcount = logcount + 1
在进行分页查询时,获取总记录数,从该表中查询即可。
select logcount from log_counter limit 1