sysbench性能压测以及mysql性能压测

                sysbench性能压测以及mysql性能压测

一、Sysbench是一个模块化的、跨平台、多线程基准测试工具，主要用于各种不同系统的参数下的数据库负载情况。

 

主要测试方式
cpu性能	磁盘io性能	调度程序性能	内存分配及传输速度	posix线程性能	数据库性能（OLTP基准测试）
找范围内最大素数{时间越短越好}	不同场景下iops{越大越好}	线程并发执行，循环响应信号量花费的时间{越少越好}	以不同块大小传输一定的数量的数据吞吐量大小{越大越好}	并发线程同时申请互斥锁循环一定次数花费的时间{越少越好}	qps、tps越高越好

目前sysbench主要支持MYSQL,pgsql,oracle 这3种数据库

 

二、安装测试环境：centos6.8   mysql5.7.19

三、安装sysbench-0.5

源码地址https://github.com/BoobooWei/sysbench/archive/master.zip

下载到电脑桌面，然后xshell连接服务器，下载上传软件工具

#cd /usr/local/src/

#yum install lrzsz -y

#rz      #选中下载的软件进行上传

#unzip sysbench-master.zip

#cd sysbench-master

#yum install -y automake libtool -y

#./autogen.sh

报错：autom4te: /usr/bin/m4 failed with exit status: 63

      aclocal: autom4te failed with exit status: 63

显示版本太低了

#查看版本信息 ：yum info autoconf

#查看路径：which autoconf

#移除低版本的：rpm -qf /usr/bin/autoconf  rpm -e --nodeps autoconf-2.63

#cd /usr/local/src

#下载新版本软件：wget http://ftp.gnu.org/gnu/autoconf/autoconf-2.69.tar.gz

#tar -xzf autoconf-2.69.tar.gz

#cd autoconf-2.69

#./configure

#make && make install

#检查版本是否正确   autoconf -V   #显示路径还是错的

#如果报错重新安装如果没有跳过  make uninstall   make clean

#./configure --prefix=/usr

#make && make install

#autoconf -V   显示正常

#cd /usr/local/src/sysbench-master

#./autogen.sh  显示正常

#./configure    

报错：cannot find MySQL libraries. If you want to compile with MySQL support,缺少mysql依赖

# yum install mysql-devel -y

#./configure      显示正常

#make && make install

四、安装mysql5.7.19

#wget https://dev.mysql.com/get/mysql57-community-release-el6-9.noarch.rpm

#rpm -Uvh mysql57-community-release-el6-9.noarch.rpm

#yum install mysql-community-server

#service mysqld start

#grep 'temporary password' /var/log/mysqld.log

#mysql -uroot -p

#输入过滤出来的密码

#set global validate_password_policy=0;      #设置密码复杂度

#set global validate_password_length=6;      #设置密码长度

#ALTER USER 'root'@'localhost' IDENTIFIED BY 'abc123';   #更改密码

#create database sbtest;

#quit

 

五、测试

Mysql数据库测试

sysbench 0.5通过一系列LUA脚本来替换之前的oltp，来模拟更接近真实的基准测试环境。这些测试脚本包含：insert.lua、oltp.lua、parallel_prepare.lua、select_random_points.lua、update_index.lua、delete.luaoltp_simple.lua、select.lua、select_random_ranges.lua、update_non_index.lua，脚本使用方式基本类似。

 

sysbench 0.5默认使用sbtest库，但是需要自己手工先创建好，也可以使用--mysql-db指定，其他非默认项指定选项：

 

--mysql-host

 

--mysql-port

 

--mysql-socket

 

--mysql-user

 

--mysql-password

 

--mysql-db

 

--mysql-ssl

 

prepare

 

生成表并插入数据，可使用parallel_prepare.lua脚本来并行准备数据。

 

-–db-driver 服务器类型mysql | drizzle,默认为mysql

 

-–mysql-table-engine 表存数引擎

 

-–myisam-max-rows MyISAM表MAX_ROWS选项(用于大表)

 

–-oltp-table-count 生成表数量[sbtest1、sbtest2...]

 

-–oltp-table-size 生成表的行数

 

-–oltp-secondary ID列生成二级索引而不是主键

 

–-oltp-auto-inc设置ID列是否自增 on | off，默认为on --oltp-read-only=on

 

--test=sysbench-0.5/sysbench/tests目录下测试脚本

 

sysbench \

--test=/root/sysbench-master/sysbench/tests/db/oltp.lua  \

--mysql-host=localhost  \

--mysql-port=3306  \

--mysql-user=root  \

--mysql-password=abc123 \

--oltp-table-size=100000 \

--num-threads=8 \

--max-time=10 \

--mysql-db=sbtest \

--max-requests=0 \

--oltp-test-mode=complex \

--report-interval=1 \

--mysql-table-engine=innodb  \

[prepare|run|cleanup]准备/测试/清除

 

六、#测试8个线程，我的测试服务器是单核1个cpu，准备

#[root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua   --mysql-host=localhost  --mysql-port=3306  --mysql-user=root --mysql-password=abc123   --oltp-table-size=100000  --num-threads=8  --max-time=10  --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex  --report-interval=1  --mysql-table-engine=innodb prepare

 

#测试

#[root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua   --mysql-host=localhost  --mysql-port=3306  --mysql-user=root --mysql-password=abc123   --oltp-table-size=100000  --num-threads=8  --max-time=10  --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex  --report-interval=1  --mysql-table-engine=innodb run

sysbench 1.0 (using bundled LuaJIT 2.1.0-beta2)

 

Running the test with following options:

Number of threads: 8

Report intermediate results every 1 second(s)

Initializing random number generator from current time

 

 

Initializing worker threads...

 

Threads started!

 

[   1s] threads: 8, tps: 149.71, reads: 2204.79, writes: 613.41, response time: 164.45ms (95%), errors: 0.00, reconnects:  0.00

[   2s] threads: 8, tps: 253.17, reads: 3543.39, writes: 1019.89, response time: 164.45ms (95%), errors: 0.00, reconnects:  0.00

[   3s] threads: 8, tps: 270.37, reads: 3784.14, writes: 1082.47, response time: 170.48ms (95%), errors: 0.00, reconnects:  0.00

[   4s] threads: 8, tps: 314.77, reads: 4402.71, writes: 1248.04, response time: 94.10ms (95%), errors: 0.00, reconnects:  0.00

[   5s] threads: 8, tps: 251.90, reads: 3528.67, writes: 1008.62, response time: 137.35ms (95%), errors: 0.00, reconnects:  0.00

[   6s] threads: 8, tps: 261.96, reads: 3670.37, writes: 1053.82, response time: 142.39ms (95%), errors: 0.00, reconnects:  0.00

[   7s] threads: 8, tps: 309.18, reads: 4328.47, writes: 1243.71, response time: 95.81ms (95%), errors: 0.00, reconnects:  0.00

[   8s] threads: 8, tps: 264.82, reads: 3701.52, writes: 1054.29, response time: 193.38ms (95%), errors: 0.00, reconnects:  0.00

[   9s] threads: 8, tps: 227.02, reads: 3185.27, writes: 919.08, response time: 179.94ms (95%), errors: 0.00, reconnects:  0.00

[  10s] threads: 8, tps: 248.11, reads: 3457.55, writes: 973.44, response time: 144.97ms (95%), errors: 0.00, reconnects:  0.00

OLTP test statistics:

    queries performed:

        read:                            35784

        write:                           10224

        other:                           5112

        total:                           51120

    transactions:                        2556   (255.33 per sec.)

    read/write requests:                 46008  (4595.97 per sec.)

    other operations:                    5112   (510.66 per sec.)

    ignored errors:                      0      (0.00 per sec.)

    reconnects:                          0      (0.00 per sec.)

 

General statistics:

    total time:                          10.1611s

    total number of events:              2556

    total time taken by event execution: 80.0554s

 

Latency statistics:

         min:                                  2.88ms

         avg:                                 31.32ms

         max:                                330.98ms

         approx.  95th percentile:           137.35ms

 

Threads fairness:

    events (avg/stddev):           319.5000/6.71

execution time (avg/stddev):   10.0069/0.00

#单核，超多线程碾压的时候试一试64和128个线程

[root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua  --mysql-host=localhost --mysql-port=3306 --mysql-user=root --mysql-password=abc123 --oltp-table-size=10000 --num-threads=64 --max-time=30 --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex --report-interval=1 --mysql-table-engine=innodb run

 

[root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua  --mysql-host=localhost --mysql-port=3306 --mysql-user=root --mysql-password=abc123 --oltp-table-size=10000 --num-threads=128 --max-time=60 --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex --report-interval=1 --mysql-table-engine=innodb run

 

#清除

#[root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua   --mysql-host=localhost  --mysql-port=3306  --mysql-user=root --mysql-password=abc123   --oltp-table-size=100000  --num-threads=8  --max-time=10  --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex  --report-interval=1  --mysql-table-engine=innodb  cleanup

sysbench 1.0 (using bundled LuaJIT 2.1.0-beta2)

 

Dropping table 'sbtest1'...

 

如果是多表呢并增加表的大小，情况又会如何呢？

 [root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua --mysql-host=localhost --mysql-port=3306 --mysql-user=root --mysql-password=abc123 --oltp-tables-count=10 --oltp-table-size=100000 --num-threads=128 --max-time=60 --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex --report-interval=1 --mysql-table-engine=innodb prepare

 

[root@localhost sysbench-master]# sysbench --test=/usr/local/src/sysbench-master/sysbench/tests/db/oltp.lua --mysql-host=localhost --mysql-port=3306 --mysql-user=root --mysql-password=abc123 --oltp-tables-count=10 --oltp-table-size=100000 --num-threads=130 --max-time=20 --mysql-db=sbtest --max-requests=0 --oltp-test-mode=complex --report-interval=1 --mysql-table-engine=innodb run

 

CPU测试

 

使用64位整数，测试计算素数直到某个最大值所需要的时间

sysbench --test=cpu --cpu-max-prime=2000 run

 

查看CPU信息方法,查看物理cpu个数

 

grep "physical id" /proc/cpuinfo | sort -u | wc -l 查看核心数量

 

grep "core id" /proc/cpuinfo | sort -u | wc -l 查看线程数量

 

grep "processor" /proc/cpuinfo | sort -u | wc -l

 

在sysbench的测试中，--num-threads取值为"线程数量"即可

 

线程(thread)测试

 

测试线程调度器的性能。对于高负载情况下测试线程调度器的行为非常有用

sysbench --test=threads --num-threads=64 --thread-yields=100 --thread-locks=2 run

 

文件IO性能测试

 

生成需要的测试文件，文件总大小5G，16个并发线程。执行完后会在当前目录下生成一堆小文件

sysbench --test=fileio --num-threads=16 --file-total-size=5G prepare

 

执行测试，指定随机读写模式:

 

seqwr顺序写入

seqrewr顺序重写

seqrd顺序读取

rndrd随机读取

rndwr随机写入

rndrw混合随机读/写

sysbench --test=fileio --num-threads=16 --init-rng=on --file-total-size=5G --file-test-mode=rndrw run

 

除测试文件

 

sysbench --test=fileio --num-threads=16 --file-total-size=5G cleanup

 

内存测试

 

内存测试测试了内存的连续读写性能。

sysbench --test=memory --num-threads=16 --memory-block-size=8192 --memory-total-size=1G run

 

互斥锁(Mutex)测试

 

测试互斥锁的性能，方式是模拟所有线程在同一时刻并发运行，并都短暂请求互斥锁X。

sysbench --test=mutex --num-threads=16 --mutex-num=1024 --mutex-locks=10000 --mutex-loops=5000 run