【MYSQL架构之二】MySQL基准测试
目录
- 什么是基准测试
- 如何进行基准测试
- 基准测试的目的
- 如何进行基准测试
- mysql基准测试的性能指标
- 基准测试的步骤
- 基准测试中容易忽略的问题
- 常用的基准测试工具介绍
- Mysql基准测试工具之mysqlslap
- Mysql基准测试工具之sysbench
什么是基准测试
定义:基准测试是一种测量和评估软件性能指标的活动，用于建立某个时刻的性能基准，以便当系统发生软硬件变化时重新进行基准测试以评估变化对性能的影响。
基准测试是针对系统设置的一种压力测试，但是和压力测试还是有区别的。
- 基准测试：直接、简单，易于比较，用于评估服务器的处理能力
压力测试：对真实的业务数据进行测试，获得真实系统所能承受的压力 - 基准测试：可能不关心业务逻辑，所使用的查询和业务的真实性可以和业务环境没有关系
压力测试：需要针对不同的应用场景，所使用的数据和查询也是真实用到的
如何进行基准测试
基准测试的目的
1.建立Mysql服务器的性能基准线
2.模拟比当前系统更高的负载，以找出系统的扩展瓶颈，增加数据库的并发，观察QPS、TPS变化，确定并发量与性能最优的关系
3.测试不同硬件、软件、操作系统配置（mysql版本，磁盘配置等）
4.证明新的硬件设备是否配置正确如何进行基准测试
1.对整个系统进行基准测试
从系统入口进行测试（如网站web前端，手机APP前端）- 优点：能够测试整个系统性能，包括web服务器缓存、数据库等，能反映出系统中各个组件接口间的性能问题，体现真实性能状况
- 缺点：测试设计复杂，消耗时间长
2.单独对Mysql进行基准测试
- 优点：测试设计简单，所需耗费时间短
- 缺点：无法全面了解整个系统的性能基线
mysql基准测试的性能指标
- 单位时间内所处理的事务数（TPS）
- 单位时间内所处理的查询数（QPS）
- 响应时间（平均响应时间，最小响应时间，最大响应时间，各时间所占百分比）
- 并发量：同时处理的查询请求的数量（并发量不等于连接数）
基准测试的步骤
计划和设计基准测试
- 对整个系统还是某一组件
- 使用什么样的数据（比如使用生产环境的数据库备份）
- 准备基准测试和数据收集脚本（CPU使用率、IO、网络流量、状态和计数器信息等） [数据收集脚本]
- 运行基准测试
- 保存和分析基准测试结果 [数据分析脚本]
基准测试中容易忽略的问题
- 使用生产环境数据时，只使用了部分数据（推荐：使用全部备份数据）
- 在多用户场景中，只做了单用户的测试
- 在单服务器上测试分布式应用（推荐使用相同架构进行测试）
- 反复执行同一查询（容易缓存命中，无法反应真实查询性能）
常用的基准测试工具介绍
Mysql基准测试工具之mysqlslap
1.说明：mysql5.1版本后自带的基准测试工具，随Mysql一起安装
2.特点：
- 可以模拟服务器负载，并输出相关统计信息
- 可以指定也可以自动生成查询语句
# mysqlslap --help 查看帮助信息
--auto-generate-sql #由系统自动生成SQL脚本进行测试
--auto-generate-sql-add-autoincrement #在生成的表中增加自增的ID
--auto-generate-sql-load-type #指定测试中使用的查询类型
--auto-generate-sql-write-number #指定初始化数据时生成的数据量
--concurrency #指定并发线程的数量
--engine #指定测试表的存储引擎，可以用逗号分隔多个表引擎
--no-drop #指定不清理测试数据
--iterations #指定测试运行的次数
--number-of-queries #指定每一个线程执行的查询数量
--debug-info #指定输出额外的内存及CPU统计信息
-number-int-cols #指定测试表中包含int类型列的数量
--number-char-cols #指定测试表包含varchar类型列的数量
--create-schema #指定了用于测试的数据库的名字
--query #用于指定自定义SQL的脚本
--only-print #并不运行测试脚本，而是把生成的脚本打印出来开始测试：
mysqlslap --concurrency=1,50,100,200 --iterations=3 --number-int-cols=5 --number-char-cols=10 --auto-generate-sql --auto-generate-sql-add-autoincrement --engine=myisam,innodb --number-of-queries=10 --create-schema=sqltest -p只打印脚本，不测试：
mysqlslap --concurrency=1,50,100,200 --iterations=3 --number-int-cols=5 --number-char-cols=10 --auto-generate-sql --auto-generate-sql-add-autoincrement --engine=myisam,innodb --number-of-queries=10 --create-schema=sqltest -p --only-print > testscript.sql
Mysql基准测试工具之sysbench
sysbench的安装
#源码安装的方式
wget https://github.com/akopytov/sysbench/archive/0.5.zip
unzip 0.5.zip #解压
cd sysbench-0.5/
./autogen.sh #执行
#指定mysql的include目录和libs目录，这里需要根据实际环境。
#可以通过whereis mysql查看
#[root@fu020 mysql]# whereis mysql
#mysql: /usr/bin/mysql /usr/lib64/mysql /usr/include/mysql /usr/share/mysql #/usr/share/man/man1/mysql.1.gz
#./configure --with-mysql-includes=/usr/include/mysql --with-mysql-libs=/usr/lib64/mysql
./configure --with-mysql-includes=/usr/local/mysql/include/ --with-mysql-libs=/usr/local/mysql/lib
make && make install
sysbench --help
#centos可以用yum
yum install sysbench注意：./autogen.sh可能因组件不全无法正常运行
sysbench常用参数
--test #用于指定所要执行的测试类型，支持以下参数
Fileio #文件系统I/O性能测试
cpu #cpu性能测试
memory #内存性能测试
oltp #测试要指定具体的lua脚本
#lua脚本位于 sysbench-0.5/sysbench/tests/db
--mysql-db #用于指定执行基准测试的数据库名
--mysql-table-engine #用于指定所使用的存储引擎
--oltp-tables-count #执行测试的表数量
--oltp-table-size #指定每个表中的数据行数
--max-time #指定最大的测试时间
--report-interval #指定间隔多长时间输出一次统计信息
--mysql-user #指定执行测试的mysql用户
--mysql-password #指定执行测试的mysql用户的密码
prepare #用于准备测试数据
run #用于实际执行测试
cleanup #用于清理测试数据sysbench测试
1.测试CPU
sysbench --test=cpu --cpu-max-prime=10000 run #只计算了单核
2.测试I/O
（1）准备
查看内存为512M，故生成的测试文件大于512M即可。
磁盘空间足够。
（2）开始测试
#生成测试I/O的文件，这里是生成了2G
cd /tmp
sysbench --test=fileio --file-total-size=2G prepare
#查看测试I/O时的命令
sysbench --test-fileio --help
#执行I/O测试
#以下是采用20个进程，随机读写，1秒生成测试报告
sysbench --test=fileio --num-threads=20 --init-rng=on --file-total-size=2G --file-test-mode=rndrw --report-interval=1 runI/O测试数据：
3.测试数据库
#测试数据库，需要先建立测试用的数据库，和测试用的用户
mysql> create database sysbenchtest;
#以下可以省略用现有用户
mysql> grant all privileges on *.* to sbtest@'localhost' identified by '123456'（1）数据准备：
#进入lua脚本测试目录 /sysbench-0.5/sysbench/tests/db
cd /hotdata/soft/sysbench-0.5/sysbench/tests/db
//======================================================================
//下方为sysbench0.4.12的使用方式，这个版本不能一次生成多张表，不能使用--oltp-tables-count参数
#准备数据库测试数据,注意如果是使用yum安装的，需要指定--db-driver，还有就是密码最好用单引号包住
#在sysbenchtest测试库中生成了一个100W条数据的innodb表
sysbench --test=oltp --mysql-table-engine=innodb --mysql-db=sysbenchtest --oltp-table-size=1000000 --mysql-user=root --mysql-password='123456' --db-driver=mysql prepare
//======================================================================
//下方为sysbench0.5的使用方式，这个版本可以一次生成多张表，使用--oltp-tables-count参数
//以下生成10张100W数据的表
sysbench --test=./oltp.lua --mysql-table-engine=innodb --mysql-db=sysbenchtest --oltp-table-size=1000000 --mysql-user=root --mysql-password='123456' --oltp-tables-count=10 --mysql-socket=/hotdata/database/data/mysql/mysql.sock prepare（2）开始测试：
#启用数据库信息收集
bash get_test_info.sh & #下方有贴出代码
#执行测试
sysbench --test=./oltp.lua --mysql-table-engine=innodb --mysql-db=sysbenchtest --oltp-table-size=1000000 --mysql-user=root --mysql-password='youpassword' --oltp-tables-count=10 --mysql-socket=/hotdata/database/data/mysql/mysql.sock run
#使用下方提供的analysis.sh脚本分析收集的数据
./analysis.sh /hotdata/temp/benchmarks/5-sec-status-2017-01-08_08-status
附件
1.数据收集脚本
Get_Test_info.sh
#get_test_info.sh
#!/bin/bash
INTERVAL=5 #脚本运行间隔，每隔多长时间收集一次状态信息
PREFIX=/hotdata/temp/benchmarks/$INTERVAL-sec-status #状态信息记录到什么位置
RUNFILE=/hotdata/temp/benchmarks/running #运行标识
echo "1" > $RUNFILE #生成运行标识
MYSQL=/usr/bin/mysql #mysql命令的路径
$MYSQL -e "show global variables" >> mysql-variables #mysql的设置信息
while test -e $RUNFILE; do #只要运行标识存在，就会循环下去
file=$(date +%F_%I)
sleep=$(date +%s.%N | awk '{print 5 - ($1 % 5)}')
sleep $sleep #脚本的运行时间
ts="$(date +"TS %s.%N %F %T")"
loadavg="$(uptime)" #收集脚本的负载情况
echo "$ts $loadavg" >> $PREFIX-${file}-status #记录到文件中
$MYSQL -e "show global status" >> $PREFIX-${file}-status & #收集mysql全局状态信息并记录到文件
echo "$ts $loadavg" >> $PREFIX-${file}-innodbstatus
$MYSQL -e "show engine innodb status" >> $PREFIX-${file}-innodbstatus & #收集innodb状态信息
echo "$ts $loadavg" >> $PREFIX-${file}-processlist
$MYSQL -e "show full processlist\G" >> $PREFIX-${file}-processlist &
echo $ts
done
echo Exiting because $RUNFILE does not exists2.数据分析脚本
analysis.sh
#analysis.sh
#!/bin/bash
#以下代码统计QPS
awk '
BEGIN {
printf "#ts date time load QPS";
fmt=" %.2f";
}
/^TS/ {
ts = substr($2,1,index($2,".")-1);
load = NF -2;
diff = ts - prev_ts;
printf "\n%s %s %s %s",ts,$3,$4,substr($load,1,length($load)-1);
prev_ts=ts;
}
/Queries/{
printf fmt,($2-Queries)/diff;
Queries=$2
}
' "$@"