最近项目不太忙,所以有时间静心来研究下mysql的优化,对于MySQL的设置是否合理优化,直接影响到网站的速度和承载量!同时,MySQL也是优化难度最大的一个部分,不但需要理解一些MySQL专业知识,同时还需要长时间的观察统计并且根据经验进行判断,然后设置合理的参数。 下面我们了解一下MySQL优化的一些基础,MySQL的优化我分为两个部分,一是服务器物理硬件的优化,二是MySQL自身(my.cnf)的优化。
一、服务器硬件对MySQL性能的影响
①磁盘寻道能力(磁盘I/O),以目前高转速SCSI硬盘(7200转/秒)为例,这种硬盘理论上每秒寻道7200次,这是物理特性决定的,没有办法改变。MySQL每秒钟都在进行大量、复杂的查询操作,对磁盘的读写量可想而知。所以,通常认为磁盘I/O是制约MySQL性能的最大因素之一,对于日均访问量在100万PV以上的Discuz!论坛,由于磁盘I/O的制约,MySQL的性能会非常低下!解决这一制约因素可以考虑以下几种解决方案: 使用RAID-0+1磁盘阵列,注意不要尝试使用RAID-5,MySQL在RAID-5磁盘阵列上的效率不会像你期待的那样快。
②CPU 对于MySQL应用,推荐使用S.M.P.架构的多路对称CPU,例如:可以使用两颗Intel Xeon 3.6GHz的CPU,现在我较推荐用4U的服务器来专门做数据库服务器,不仅仅是针对于mysql。
③物理内存对于一台使用MySQL的Database Server来说,服务器内存建议不要小于2GB,推荐使用4GB以上的物理内存,不过内存对于现在的服务器而言可以说是一个可以忽略的问题,工作中遇到了高端服务器基本上内存都超过了16G。
二、MySQL自身因素当解决了上述服务器硬件制约因素后,让我们看看MySQL自身的优化是如何操作的。 对MySQL自身的优化主要是对其配置文件my.cnf中的各项参数进行优化调整。下面我们介绍一些对性能影响较大的参数。 由于my.cnf文件的优化设置是与服务器硬件配置息息相关的, 因而我们指定一个假想的服务器硬件环境:CPU: 2颗Intel Xeon 2.4GHz 内存: 4GB DDR 硬盘: SCSI 73GB(很常见的2U服务器 ) 。
下面,我们根据以上硬件配置结合一份已经优化好的my.cnf进行说明:
-
[client]
-
default-character-set=utf8mb4
-
#mysqlde utf8字符集默认为3位的,不支持emoji表情及部分不常见的汉字,故推荐使用utf8mb4
-
-
[mysql]
-
default-character-set=utf8mb4
-
-
[mysqld]
-
skip-locking
-
#避免MySQL的外部锁定,减少出错几率增强稳定性。
-
-
#skip-name-resolve
-
# 禁止MySQL对外部连接进行DNS解析,使用这一选项可以消除MySQL进行DNS解析的时间。但需要注意,如果开启该选项,则所有远程主机连接授权都要使用IP地址方式,否则MySQL将无法正常处理连接请求!
-
# 因为docker官方的mysql的dockerfile中有一段代码:echo ‘[mysqld]\nskip-host-cache\nskip-name-resolve’ > /etc/mysql/conf.d/docker.cnf将这个配置写入另一个文件,这里咱们就不用写了,docker默认解析docker name或者service为ip,这样mysql就不用解析了
-
-
back_log = 512
-
# MySQL能有的连接数量。当主要MySQL线程在一个很短时间内得到非常多的连接请求,这就起作用,
-
# 然后主线程花些时间(尽管很短)检查连接并且启动一个新线程。back_log值指出在MySQL暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。
-
# 如果期望在一个短时间内有很多连接,你需要增加它。也就是说,如果MySQL的连接数据达到max_connections时,新来的请求将会被存在堆栈中,
-
# 以等待某一连接释放资源,该堆栈的数量即back_log,如果等待连接的数量超过back_log,将不被授予连接资源。
-
# 另外,这值(back_log)限于您的操作系统对到来的TCP/IP连接的侦听队列的大小。
-
# 你的操作系统在这个队列大小上有它自己的限制(可以检查你的OS文档找出这个变量的最大值),试图设定back_log高于你的操作系统的限制将是无效的。默认值为50,对于Linux系统推荐设置为小于512的整数。
-
-
key_buffer_size = 64M
-
# 这是mysql优化中非常重要的一项配置
-
# 指定用于索引的缓冲区大小,增加它可得到更好处理的索引(对所有读和多重写)。注意:该参数值设置的过大反而会是服务器整体效率降低
-
# 默认值是16M,对于内存在4GB左右的服务器该参数可设置为384M或512M。
-
# 想要知道key_buffer_size设置是否合理,通过命令show global status like ‘key_read%’;来查看Key_read_requests(索引请求次数)和Key_reads(从i/o中读取数据,也就是未命中索引),
-
# 计算索引未命中缓存的概率:key_cache_miss_rate = Key_reads / Key_read_requests * 100%,至少是1:100,1:1000更好,比如我的key_cache_miss_rate = 15754 / 26831941 * 100% = 1/1700,也就是说1700个中只有一个请求直接读取硬盘
-
# 如果key_cache_miss_rate在0.01%以下的话,key_buffer_size分配的过多,可以适当减少。
-
# MySQL服务器还提供了key_blocks_*参数:show global status like ‘key_blocks_u%’;
-
# Key_blocks_unused表示未使用的缓存簇(blocks)数,Key_blocks_used表示曾经用到的最大的blocks数,比如这台服务器,所有的缓存都用到了,要么增加key_buffer_size,要么就是过渡索引了,把缓存占满了。
-
# 比较理想的设置:Key_blocks_used / (Key_blocks_unused + Key_blocks_used) * 100%
< 80%
-
-
max_connections = 1500
-
# MySQL的最大连接数,默认是100,测试开过1万个连接数,并将他们持久化,内存增加了一个多G,由此算出一个连接大概为100+K。
-
# 如果服务器的并发连接请求量比较大,建议调高此值,以增加并行连接数量,当然这建立在机器能支撑的情况下,因为如果连接数越多,介于MySQL会为每个连接提供连接缓冲区,就会开销越多的内存,所以要适当调整该值,不能盲目提高设值。可以过’conn%’通配符查看当前状态的连接数量,以定夺该值的大小。
-
# 比较理想的设置应该是max_used_connections / max_connections * 100% ≈ 80%,当发现这一比例在10%以下的话,说明最大连接数设置的过高了
-
# 查看最大的连接数:SHOW VARIABLES LIKE “max_connections“;
-
# 查看已使用的最大连接:SHOW GLOBAL STATUS LIKE ‘max_used_connections‘;
-
# 显示连接相关的设置:SHOW STATUS LIKE ‘%connect%’;
-
# 显示当前正在执行的mysql连接:SHOW PROCESSLIST
-
-
innodb_buffer_pool_size = 128M
-
# InnoDB使用一个缓冲池来保存索引和原始数据, 默认值为128M。
-
# 这里你设置越大,你在存取表里面数据时所需要的磁盘I/O越少.
-
# 在一个独立使用的数据库服务器上,你可以设置这个变量到服务器物理内存大小的80%即5-6GB(8GB内存),20-25GB(32GB内存),100-120GB(128GB内存),注意这是在独立数据库服务器中推荐的设置
-
# 不要设置过大,否则,会导致system的swap空间被占用,导致操作系统变慢,从而减低sql查询的效率。
-
# 注意在32位系统上你每个进程可能被限制在 2-3.5G 用户层面内存限制,所以不要设置的太高.
-
-
query_cache_size = 0
-
# MySQL的查询缓冲大小(从4.0.1开始,MySQL提供了查询缓冲机制)使用查询缓冲,MySQL 5.6以后的默认值为0,MySQL将SELECT语句和查询结果存放在缓冲区中,
-
# query cache(查询缓存)是一个众所周知的瓶颈,甚至在并发并不多的时候也是如此。 最佳选项是将其从一开始就停用,设置query_cache_size = 0(MySQL 5.6以后的默认值)并利用其他方法加速查询:优化索引、增加拷贝分散负载或者启用额外的缓存(比如memcache或redis)。
-
# 打开query cache(Qcache)对读和写都会带来额外的消耗:a、读查询开始之前必须检查是否命中缓存。b、如果读查询可以缓存,那么执行完之后会写入缓存。 c、当向某个表写入数据的时候,必须将这个表所有的缓存设置为失效
-
# 缓存存放在一个引用表中,通过一个哈希值引用,这个哈希值包括查询本身,数据库,客户端协议的版本等,任何字符上的不同,例如空格,注释都会导致缓存不命中。
-
# 通过命令:show status like ‘%query_cache%’;查看查询缓存相关设置:
-
# # have_query_cache:是否有此功能
-
# # query_cache_limit:允许 Cache 的单条 Query 结果集的最大容量,默认是1MB,超过此参数设置的 Query 结果集将不会被 Cache
-
# # query_cache_min_res_unit:设置 Query Cache 中每次分配内存的最小空间大小,也就是每个 Query 的 Cache 最小占用的内存空间大小
-
# # uery_cache_size:设置 Query Cache 所使用的内存大小,默认值为0,大小必须是1024的整数倍,如果不是整数倍,MySQL 会自动调整降低最小量以达到1024的倍数
-
# # query_cache_type:控制 Query Cache 功能的开关,可以设置为0(OFF),1(ON)和2(DEMAND)三种,意义分别如下:
-
# # # 0(OFF):关闭 Query Cache 功能,任何情况下都不会使用 Query Cache
-
# # # 1(ON):开启 Query Cache 功能,但是当 SELECT 语句中使用的 SQL_NO_CACHE 提示后,将不使用Query Cache
-
# # # 2(DEMAND):开启 Query Cache 功能,但是只有当 SELECT 语句中使用了 SQL_CACHE 提示后,才使用 Query Cache
-
# # query_cache_wlock_invalidate:控制当有写锁定发生在表上的时刻是否先失效该表相关的 Query Cache,如果设置为 1(TRUE),则在写锁定的同时将失效该表相关的所有 Query Cache,如果设置为0(FALSE)则在锁定时刻仍然允许读取该表相关的 Query Cache。
-
# 通过命令:show status like ‘%Qcache%’;查看查询缓存使用状态值:
-
# # Qcache_free_blocks:目前还处于空闲状态的 Query Cache 中内存 Block 数目
-
# # Qcache_free_memory:目前还处于空闲状态的 Query Cache 内存总量
-
# # Qcache_hits:Query Cache 命中次数
-
# # Qcache_inserts:向 Query Cache 中插入新的 Query Cache 的次数,也就是没有命中的次数
-
# # Qcache_lowmem_prunes:当 Query Cache 内存容量不够,需要从中删除老的 Query Cache 以给新的 Cache 对象使用的次数
-
# # Qcache_not_cached:没有被 Cache 的 SQL 数,包括无法被 Cache 的 SQL 以及由于 query_cache_type 设置的不会被 Cache 的 SQL
-
# # Qcache_queries_in_cache:目前在 Query Cache 中的 SQL 数量
-
# # Qcache_total_blocks:Query Cache 中总的 Block 数量
-
# 如果Qcache_hits的值也非常大,则表明查询缓冲使用非常频繁,且Qcache_free_memory值很小,此时需要增加缓冲大小;
-
# 如果Qcache_hits的值不大,且Qcache_free_memory值较大,则表明你的查询重复率很低,查询缓存不适合你当前系统,这种情况下使用查询缓冲反而会影响效率,可以通过设置query_cache_size = 0或者query_cache_type 来关闭查询缓存。
-
# Query Cache 的大小设置超过256MB,这也是业界比较常用的做法。此外,在SELECT语句中加入SQL_NO_CACHE可以明确表示不使用查询缓冲
-
-
max_connect_errors = 6000
-
# 对于同一主机,如果有超出该参数值个数的中断错误连接,则该主机将被禁止连接。如需对该主机进行解禁,执行:FLUSH HOST。防止黑客
-
-
open_files_limit = 65535
-
# MySQL打开的文件描述符限制,默认最小1024;当open_files_limit没有被配置的时候,比较max_connections*5和ulimit -n的值,哪个大用哪个,
-
# 当open_file_limit被配置的时候,比较open_files_limit和max_connections*5的值,哪个大用哪个。
-
-
table_open_cache = 128
-
# MySQL每打开一个表,都会读入一些数据到table_open_cache缓存中,当MySQL在这个缓存中找不到相应信息时,才会去磁盘上读取。默认值64
-
# 假定系统有200个并发连接,则需将此参数设置为200*N(N为每个连接所需的文件描述符数目);
-
# 当把table_open_cache设置为很大时,如果系统处理不了那么多文件描述符,那么就会出现客户端失效,连接不上
-
-
max_allowed_packet = 4M
-
# 接受的数据包大小;增加该变量的值十分安全,这是因为仅当需要时才会分配额外内存。例如,仅当你发出长查询或MySQLd必须返回大的结果行时MySQLd才会分配更多内存。
-
# 该变量之所以取较小默认值是一种预防措施,以捕获客户端和服务器之间的错误信息包,并确保不会因偶然使用大的信息包而导致内存溢出。
-
-
binlog_cache_size = 1M
-
# 一个事务,在没有提交的时候,产生的日志,记录到Cache中;等到事务提交需要提交的时候,则把日志持久化到磁盘。默认binlog_cache_size大小32K
-
-
max_heap_table_size = 8M
-
# 定义了用户可以创建的内存表(memory table)的大小。这个值用来计算内存表的最大行数值。这个变量支持动态改变
-
-
tmp_table_size = 16M
-
# MySQL的heap(堆积)表缓冲大小。所有联合在一个DML指令内完成,并且大多数联合甚至可以不用临时表即可以完成。
-
# 大多数临时表是基于内存的(HEAP)表。具有大的记录长度的临时表 (所有列的长度的和)或包含BLOB列的表存储在硬盘上。
-
# 如果某个内部heap(堆积)表大小超过tmp_table_size,MySQL可以根据需要自动将内存中的heap表改为基于硬盘的MyISAM表。还可以通过设置tmp_table_size选项来增加临时表的大小。也就是说,如果调高该值,MySQL同时将增加heap表的大小,可达到提高联接查询速度的效果
-
-
read_buffer_size = 2M
-
# MySQL读入缓冲区大小。对表进行顺序扫描的请求将分配一个读入缓冲区,MySQL会为它分配一段内存缓冲区。read_buffer_size变量控制这一缓冲区的大小。
-
# 如果对表的顺序扫描请求非常频繁,并且你认为频繁扫描进行得太慢,可以通过增加该变量值以及内存缓冲区大小提高其性能
-
-
read_rnd_buffer_size = 8M
-
# MySQL的随机读缓冲区大小。当按任意顺序读取行时(例如,按照排序顺序),将分配一个随机读缓存区。进行排序查询时,
-
# MySQL会首先扫描一遍该缓冲,以避免磁盘搜索,提高查询速度,如果需要排序大量数据,可适当调高该值。但MySQL会为每个客户连接发放该缓冲空间,所以应尽量适当设置该值,以避免内存开销过大
-
-
sort_buffer_size = 8M
-
# MySQL执行排序使用的缓冲大小。如果想要增加ORDER BY的速度,首先看是否可以让MySQL使用索引而不是额外的排序阶段。
-
# 如果不能,可以尝试增加sort_buffer_size变量的大小
-
-
join_buffer_size = 8M
-
# 联合查询操作所能使用的缓冲区大小,和sort_buffer_size一样,该参数对应的分配内存也是每连接独享
-
-
thread_cache_size = 8
-
# 这个值(默认8)表示可以重新利用保存在缓存中线程的数量,当断开连接时如果缓存中还有空间,那么客户端的线程将被放到缓存中,
-
# 如果线程重新被请求,那么请求将从缓存中读取,如果缓存中是空的或者是新的请求,那么这个线程将被重新创建,如果有很多新的线程,
-
# 增加这个值可以改善系统性能.通过比较Connections和Threads_created状态的变量,可以看到这个变量的作用。(–>表示要调整的值)
-
# 根据物理内存设置规则如下:
-
# 1G —> 8
-
# 2G —> 16
-
# 3G —> 32
-
# 大于3G —> 64
-
-
query_cache_limit = 2M
-
#指定单个查询能够使用的缓冲区大小,默认1M
-
-
ft_min_word_len = 4
-
# 分词词汇最小长度,默认4
-
-
transaction_isolation = REPEATABLE-READ
-
# MySQL支持4种事务隔离级别,他们分别是:
-
# READ-UNCOMMITTED, READ-COMMITTED, REPEATABLE-READ, SERIALIZABLE.
-
# 如没有指定,MySQL默认采用的是REPEATABLE-READ,ORACLE默认的是READ-COMMITTED
-
-
log_bin = mysql-bin
-
binlog_format = mixed
-
expire_logs_days = 30 #超过30天的binlog删除
-
-
log_error = /data/mysql/mysql-error.log #错误日志路径
-
slow_query_log = 1
-
long_query_time = 1 #慢查询时间 超过1秒则为慢查询
-
slow_query_log_file = /data/mysql/mysql-slow.log
-
-
performance_schema = 0
-
explicit_defaults_for_timestamp
-
-
#lower_case_table_names = 1 #不区分大小写
-
-
skip-external-locking #MySQL选项以避免外部锁定。该选项默认开启
-
-
default-storage-engine = InnoDB #默认存储引擎
-
-
innodb_file_per_table = 1
-
# InnoDB为独立表空间模式,每个数据库的每个表都会生成一个数据空间
-
# 独立表空间优点:
-
# 1.每个表都有自已独立的表空间。
-
# 2.每个表的数据和索引都会存在自已的表空间中。
-
# 3.可以实现单表在不同的数据库中移动。
-
# 4.空间可以回收(除drop table操作处,表空不能自已回收)
-
# 缺点:
-
# 单表增加过大,如超过100G
-
# 结论:
-
# 共享表空间在Insert操作上少有优势。其它都没独立表空间表现好。当启用独立表空间时,请合理调整:innodb_open_files
-
-
innodb_open_files = 500
-
# 限制Innodb能打开的表的数据,如果库里的表特别多的情况,请增加这个。这个值默认是300
-
-
innodb_write_io_threads = 4
-
innodb_read_io_threads = 4
-
# innodb使用后台线程处理数据页上的读写 I/O(输入输出)请求,根据你的 CPU 核数来更改,默认是4
-
# 注:这两个参数不支持动态改变,需要把该参数加入到my.cnf里,修改完后重启MySQL服务,允许值的范围从 1-64
-
-
innodb_thread_concurrency = 0
-
# 默认设置为 0,表示不限制并发数,这里推荐设置为0,更好去发挥CPU多核处理能力,提高并发量
-
-
innodb_purge_threads = 1
-
# InnoDB中的清除操作是一类定期回收无用数据的操作。在之前的几个版本中,清除操作是主线程的一部分,这意味着运行时它可能会堵塞其它的数据库操作。
-
# 从MySQL5.5.X版本开始,该操作运行于独立的线程中,并支持更多的并发数。用户可通过设置innodb_purge_threads配置参数来选择清除操作是否使用单
-
# 独线程,默认情况下参数设置为0(不使用单独线程),设置为 1 时表示使用单独的清除线程。建议为1
-
-
innodb_flush_log_at_trx_commit = 2
-
# 0:如果innodb_flush_log_at_trx_commit的值为0,log buffer每秒就会被刷写日志文件到磁盘,提交事务的时候不做任何操作(执行是由mysql的master thread线程来执行的。
-
# 主线程中每秒会将重做日志缓冲写入磁盘的重做日志文件(REDO LOG)中。不论事务是否已经提交)默认的日志文件是ib_logfile0,ib_logfile1
-
# 1:当设为默认值1的时候,每次提交事务的时候,都会将log buffer刷写到日志。
-
# 2:如果设为2,每次提交事务都会写日志,但并不会执行刷的操作。每秒定时会刷到日志文件。要注意的是,并不能保证100%每秒一定都会刷到磁盘,这要取决于进程的调度。
-
# 每次事务提交的时候将数据写入事务日志,而这里的写入仅是调用了文件系统的写入操作,而文件系统是有 缓存的,所以这个写入并不能保证数据已经写入到物理磁盘
-
# 默认值1是为了保证完整的ACID。当然,你可以将这个配置项设为1以外的值来换取更高的性能,但是在系统崩溃的时候,你将会丢失1秒的数据。
-
# 设为0的话,mysqld进程崩溃的时候,就会丢失最后1秒的事务。设为2,只有在操作系统崩溃或者断电的时候才会丢失最后1秒的数据。InnoDB在做恢复的时候会忽略这个值。
-
# 总结
-
# 设为1当然是最安全的,但性能页是最差的(相对其他两个参数而言,但不是不能接受)。如果对数据一致性和完整性要求不高,完全可以设为2,如果只最求性能,例如高并发写的日志服务器,设为0来获得更高性能
-
-
innodb_log_buffer_size = 4M
-
# 此参数确定些日志文件所用的内存大小,以M为单位。缓冲区更大能提高性能,但意外的故障将会丢失数据。MySQL开发人员建议设置为1-8M之间
-
-
innodb_log_file_size = 32M
-
# 此参数确定数据日志文件的大小,更大的设置可以提高性能,但也会增加恢复故障数据库所需的时间
-
-
innodb_log_files_in_group = 3
-
# 为提高性能,MySQL可以以循环方式将日志文件写到多个文件。推荐设置为3
-
-
innodb_max_dirty_pages_pct = 90
-
# innodb主线程刷新缓存池中的数据,使脏数据比例小于90%
-
-
innodb_lock_wait_timeout = 120
-
# InnoDB事务在被回滚之前可以等待一个锁定的超时秒数。InnoDB在它自己的锁定表中自动检测事务死锁并且回滚事务。InnoDB用LOCK TABLES语句注意到锁定设置。默认值是50秒
-
-
bulk_insert_buffer_size = 8M
-
# 批量插入缓存大小, 这个参数是针对MyISAM存储引擎来说的。适用于在一次性插入100-1000+条记录时, 提高效率。默认值是8M。可以针对数据量的大小,翻倍增加。
-
-
myisam_sort_buffer_size = 8M
-
# MyISAM设置恢复表之时使用的缓冲区的尺寸,当在REPAIR TABLE或用CREATE INDEX创建索引或ALTER TABLE过程中排序 MyISAM索引分配的缓冲区
-
-
myisam_max_sort_file_size = 10G
-
# 如果临时文件会变得超过索引,不要使用快速排序索引方法来创建一个索引。注释:这个参数以字节的形式给出
-
-
myisam_repair_threads = 1
-
# 如果该值大于1,在Repair by sorting过程中并行创建MyISAM表索引(每个索引在自己的线程内)
-
-
interactive_timeout = 28800
-
# 服务器关闭交互式连接前等待活动的秒数。交互式客户端定义为在mysql_real_connect()中使用CLIENT_INTERACTIVE选项的客户端。默认值:28800秒(8小时)
-
-
wait_timeout = 28800
-
# 服务器关闭非交互连接之前等待活动的秒数。在线程启动时,根据全局wait_timeout值或全局interactive_timeout值初始化会话wait_timeout值,
-
# 取决于客户端类型(由mysql_real_connect()的连接选项CLIENT_INTERACTIVE定义)。参数默认值:28800秒(8小时)
-
# MySQL服务器所支持的最大连接数是有上限的,因为每个连接的建立都会消耗内存,因此我们希望客户端在连接到MySQL Server处理完相应的操作后,
-
# 应该断开连接并释放占用的内存。如果你的MySQL Server有大量的闲置连接,他们不仅会白白消耗内存,而且如果连接一直在累加而不断开,
-
# 最终肯定会达到MySQL Server的连接上限数,这会报’too many connections’的错误。对于wait_timeout的值设定,应该根据系统的运行情况来判断。
-
# 在系统运行一段时间后,可以通过show processlist命令查看当前系统的连接状态,如果发现有大量的sleep状态的连接进程,则说明该参数设置的过大,
-
# 可以进行适当的调整小些。要同时设置interactive_timeout和wait_timeout才会生效。
-
-
[mysqldump]
-
quick
-
max_allowed_packet = 16M #服务器发送和接受的最大包长度
-
-
[myisamchk]
-
key_buffer_size = 8M
-
sort_buffer_size = 8M
-
read_buffer = 4M
-
write_buffer = 4M
总结:mysql配置项的优化是一件非常复杂且长期坚持的事情,因为不同的并发级别会导致某个配置项不符合当前的情况,所以希望能和大家一起持续关注着mysql的优化,也同样欢迎大家列出自己再mysql优化中遇到的各种坑,让大家学习和借鉴。