【MySQL高级篇笔记-数据库其它调优策略(中) 】
此笔记为尚硅谷MySQL高级篇部分内容
目录
一、数据库调优的措施
1、调优的目标
2、如何定位调优问题
3、调优的维度和步骤
二、优化MySQL服务器
1、优化服务器硬件
2、优化MySQL的参数
三、优化数据库结构
1、拆分表：冷热数据分离
2、增加中间表
3、增加冗余字段
4、优化数据类型
5、优化插入记录的速度
6、使用非空约束
7、分析表、检查表与优化表
8、小结
四、大表优化
1、限定查询的范围
2、读/写分离
3、垂直拆分
4、水平拆分
五、其它调优策略
1、服务器语句超时处理
2、创建全局通用表空间
3、MySQL 8.0新特性：隐藏索引对调优的帮助
一、数据库调优的措施
1、调优的目标
- 尽可能 节省系统资源 ，以便系统可以提供更大负荷的服务。（吞吐量更大）
- 合理的结构设计和参数调整，以提高用户操作 响应的速度 。（响应速度更快）
- 减少系统的瓶颈，提高MySQL数据库整体的性能。
2、如何定位调优问题
不过随着用户量的不断增加，以及应用程序复杂度的提升，我们很难用“
更快”去定义数据库调优的目标，因为用户在不同时间段访问服务器遇到的瓶颈不同，比如双十一促销的时候会带来大规模的并发访问;还有用户在进行不同业务操作的时候，数据库的事务处理和SQL查询都会有所不同。因此我们还需要更加精细的定位，去确定调优的目标。
如何确定呢?一般情况下，有如下几种方式:
用户的反馈(主要)
用户是我们的服务对象，因此他们的反馈是最直接的。虽然他们不会直接提出技术建议，但是有些问题往往是用户第一时间发现的。我们要重视用户的反馈，找到和数据相关的问题。
日志分析（主要) 我们可以通过查看数据库日志和操作系统日志等方式找出异常情况，通过它们来定位遇到的问题。
服务器资源使用监控
通过监控服务器的CPU、内存、I/o等使用情况，可以实时了解服务器的性能使用，与历史情况进行对比。
数据库内部状况监控
在数据库的监控中，
活动会话（Active Session)监控是一个重要的指标。通过它，你可以清楚地了解数据库当前是否处于非常繁忙的状态，是否存在sQL堆积等。其它
除了活动会话监控以外，我们也可以对
事务、锁等待等进行监控，这些都可以帮助我们对数据库的运行状态有更全面的认识。
3、调优的维度和步骤
第1步：选择适合的 DBMS
第2步:优化表设计
第3步:优化逻辑查询
第4步:优化物理查询
第5步:使用Redis或 Memcached作为缓存
第6步:库级优化
1、读写分离
如果读和写的业务量都很大，并且它们都在同一个数据库服务器中进行操作，那么数据库的性能就会出现瓶颈，这时为了提升系统的性能，优化用户体验，我们可以采用
读写分离的方式降低主数据库的负载，比如用主数据库(master)完成写操作，用从数据库(slave)完成读操作。
2、数据分片
对数据库分库分表。当数据量级达到干万级以上时，有时候我们需要把一个数据库切成多份，放到不同的数据库服务器上，减少对单一数据库服务器的访问压力。如果你使用的是MySQL，就可以使用MySQL自带的分区表功能，当然你也可以考虑自己做
垂直拆分（分库)、水平拆分（分表）、垂直+水平拆分(分库分表)。
二、优化MySQL服务器
1、优化服务器硬件
服务器的硬件性能直接决定着MySQL数据库的性能。硬件的性能瓶颈直接决定MySQL数据库的运行速度和效率。针对性能瓶颈提高硬件配置，可以提高MySQL数据库查询、更新的速度。
(1）
配置较大的内存。足够大的内存是提高MySQL数据库性能的方法之一。内存的速度比磁盘I/o快得多，可以通过增加系统的缓冲区容量使数据在内存中停留的时间更长，以减少磁盘I/O。(2）
配置高速磁盘系统，以减少读盘的等待时间，提高响应速度。磁盘的I/o能力，也就是它的寻道能力，目前的SCSI高速旋转的是7200转/分钟，这样的速度，一旦访问的用户量上去磁盘的压力就会过大，如果是每天的网站pv (page view)在150w，这样的一般的配置就无法满足这样的需求了。现在SSD盛行，在SSD上随机访问和顺序访问性能几乎差不多，使用SSD可以减少随机IO带来的性能损耗。(3)
合理分布磁盘I/O，把磁盘I/o分散在多个设备上，以减少资源竞争提高并行操作能力。 (4)配置多处理器，MySQL是多线程的数据库，多处理器可同时执行多个线程。
2、优化MySQL的参数
通过优化MySQL的参数可以提高资源利用率，从而达到提高MySQL服务器性能的目的。
MySQL服务的配置参数都在
my.cnf或者my. ini文件的[mysqld]组中。配置完参数以后，需要重新启动MySQL服务才会生效。
下面对几个对性能影响比较大的参数进行详细介绍。
- `innodb_buffer_pool_size` :这个参数是Mysql数据库最重要的参数之一，表示InnoDB类型的`表和索引的最大缓存`。它不仅仅缓存索引数据，还会缓存表的数据。这个值越大，查询的速度就会越快。但是这个值太大会影响操作系统的性能。
- `key_buffer_size`:表示`索引缓冲区的大小`。索引缓冲区是所有的`线程共享`。增加索引缓冲区可以得到更好处理的索引(对所有读和多重写)。当然，这个值不是越大越好，它的大小取决于内存的大小。如果这个值太大，就会导致操作系统频繁换页，也会降低系统性能。对于内存在`4GB`左右的服务器该参数可设置为`256M`
或`384M`。
- `table_cache` :表示同时打开的表的个数。这个值越大，能够同时打开的表的个数越多。物理内存越大，设置就越大。默认为2402，调到512-1024最佳。这个值不是越大越好，因为同时打开的表太多会影响操作系统的性能。
- `query_cache_size`:表示查询缓冲区的大小。可以通过在MySQL控制台观察，如果Qcache_lowmem_prunes的值非常大，则表明经常出现缓冲不够的情况，就要增加Query_cache_size的值;如果Qcache_hits的值非常大，则表明查询缓冲使用非常频繁，如果该值较小反而会影响效率，那么可以考虑不用查询缓存;
Qcache_free_blocks，如果该值非常大，则表明缓冲区中碎片很多。**MySQL8.0之后失效**。该参数需要和query_cache_type配合使用。
- `query_cache_type`的值是0时，所有的查询都不使用查询缓存区。但是query_cache_type=0并不会导致MySQL释放query_cache_size所配置的缓存区内存。
- 当`query_cache_type`=1时，所有的查询都将使用查询缓存区，除非在查询语句中指定 `SQL_NO_CACHE`，SELECT SQL_NO_CACHE* FROM tbl_name。
- 当query_cache_type=2时，只有在查询语句中使用`SQL_CACHE` 关键字，查询才会使用查询缓存区。使用查询缓存区可以提高查询的速度，这种方式只适用于修改操作少且经常执行相同的查询操作的情况。
- `sort_buffer_size`:表示每个`需要进行排序的线程分配的缓冲区的大小`。增加这个参数的值可以提高`ORDER BY`或`GROUP BY`操作的速度。默认数值是2097144字节(约2MB)。对于内存在4GB左右的服务器推荐设置为6-8M，如果有100个连接，那么实际分配的总共排序缓冲区大小为100 ×6 = 600MB。
- `join_buffer_size = 8M`:表示`联合查询操作所能使用的缓冲区大小`,和sort_buffer_size—样，该参数对应
的分配内存也是每个连接独享。
- `read_buffer_size` :表示`每个线程连续扫描时为扫描的每个表分配的缓冲区的大小(字节）`。当线程从表中连续读取记录时需要用到这个缓冲区。SET SESSION read_buffer_size=n可以临时设置该参数的值。默认为64K,可以设置为4M。
- `innodb_flush_log_at_trx_commit`:表示`何时将缓冲区的数据写入日志文件`，并且将日志文件写入磁盘中。该参数对干innoDB引擎非常重要。该参数有3个值，分别为0、1和2。该参数的默认值为1.
- 值为0时，表示`每秒1次`的频率将数据写入日志文件并将日志文件写入磁盘。每个事务的commit并不会触发前面的任何操作。该模式速度最快，但不太安全，mysqld进程的崩溃会导致上一秒钟所有事务数据的丢失。
- 值为1时，表示`每次提交事务时`将数据写入日志文件并将日志文件写入磁盘进行同步。该模式是最安全的，但也是最慢的一种方式。因为每次事务提交或事务外的指令都需要把日志写入(flush）硬盘。
- 值为2时，表示`每次提交事务时`将数据写入日志文件，每隔1秒将日志文件写入磁盘。该模式速度较快，也比0安全，只有在操作系统崩溃或者系统断电的情况下，上一秒钟所有事务数据才可能丢失。
- `innodb_log_buffer_size`:这是InnoDB存储引擎的`事务日志所使用的缓冲区 `。为了提高性能，也是先将信息写入Innodb Log Buffer中，当满足innodb_flush_log_trx_commit参数所设置的相应条件(或者日志缓冲区写满)之后，才会将日志写到文件（或者同步到磁盘)中。
- `max_connections`:表示`允许连接到MySQL数据库的最大数量`，默认值是`151`。如果状态变量
connection_errors_max_connections 不为零，并且一直增长，则说明不断有连接请求因数据库连接数已达到允许最大值而失败，这是可以考虑增大max_connections的值。在Linux平台下，性能好的服务器，支持500-1000个连接不是难事，需要根据服务器性能进行评估设定。这个连接数`不是越大越好`，因为这些连接会浪费内存的资源。过多的连接可能会导致MySQL服务器僵死。
- `back_log` :用于`控制MySQL监听TCP端口时设置的积压请求栈大小`。如果MySql的连接数达到max_connections时，新来的请求将会被存在堆栈中，以等待某一连接释放资源，该堆栈的数量即back_log，如果等待连接的数量超过back_log，将不被授予连接资源，将会报错。5.6.6版本之前默认值为50，之后的版本默认为50+(max_connections / 5)，对于Linux系统推荐设置为小于512的整数，但最大不超过900。
如果需要数据库在较短的时间内处理大量连接请求，可以考虑适当增大back_log的值。
- `thread_cache_size` :线程池缓存线程数量的大小，当客户端断开连接后将当前线程缓存起来，当在接到新的连接请求时快速响应无需创建新的线程。这尤其对那些使用短连接的应用程序来说可以极大的提高创建连接的效率。那么为了提高性能可以增大该参数的值。默认为60，可以设置为120。
可以通过如下几个MySQL状态值来适当调整线程池的大小:
```mysql
mysql> show global status like 'Thread%';
+-------------------+-------+
| Variable_name | Value |
+-------------------+-------+
| Threads_cached | 0 |
| Threads_connected | 5 |
| Threads_created | 5 |
| Threads_running | 2 |
+-------------------+-------+
4 rows in set (0.10 sec)
```
当Threads_cached越来越少，但Threads_connected 始终不降，且Threads_created持续升高，可适当增加thread_cache_size的大小。
- `wait_timeout`:指定`一个请求的最大连接时间`，对于4GB左右内存的服务器可以设置为5-10。.
- `interactive_timeout `:表示服务器在关闭连接前等待行动的秒数。文里给出一份my.cnf的参考配置:
[mysqld]port = 3306serverid = 1
socket = /tmp/mysql.sockskip-locking
#避免MySQL的外部锁定，减少出错几率增强稳定性。
skip-name-resolve
#禁止MysQL对外部连接进行DNS解析，使用这一选项可以消除MySQL进行DNS解析的时间。但需要注意，如果开启该选项，则所有远程主机连接授权都要使用IP地址方式，否则MySQL将无法正常处理连接请求!
back_log = 384
key_buffer_size = 256M
max_allowed_packet = 4M
thread_stack = 256K
table_cache = 128K
sort_buffer_size = 6M
read_buffer_size =4M
read_rnd_buffer_size=16M
join_buffer_size = 8M
myisam_sort_buffer_size = 64M
table_cache = 512
thread_cache_size = 64
query_cache_size = 64M
tmp_table_size = 256M
max_connections = 768
max_connecterrors = 10000000
wait_timeout= 10
thread_concurrency = 8
#该参数取值为服务器逻辑CPU数量*2，在本例中，服务器有2颗物理CPU，而每颗物理CPU又支持H.T超线程，所以实际取值为4*2=8
skip-networking
#开启该选项可以彻底关闭MySQL的TCP/IP连接方式，如果WEB服务器是以远程连接的方式访问MysQL数据库服务器则不要开启该选项!否则将无法正常连接!
table_cache=1024
innodb_additional_mem_pool_size=4M
#默认为2M
innodb_flush_log_at_trx_commit=1
innodb_log_buffer_size=2M
#默认为1M
innodb_thread_concurrency=8
#你的服务器CPU有几个就设置为几。建议用默认一般为8
tmp_table_size=64M
#默认为16M，调到64-256最挂
thread_cache_size=120
query_cache_size=32M很多情况还需要具体情况具体分析！
三、优化数据库结构
1、拆分表：冷热数据分离
2、增加中间表
3、增加冗余字段
设计数据库表时应尽量遵循范式理论的规约，尽可能减少冗余字段，让数据库设计看起来精致、优雅。
但是，合理地加入冗余字段可以提高查询速度。
表的规范化程度越高，表与表之间的关系就越多，需要连接查询的情况也就越多。尤其在数据量大，而且需要频繁进行连接的时候，为了提升效率，我们也可以考虑增加冗余字段来减少连接。
这部分内容在《第11章_数据库的设计规范》章节中 反范式化小节 中具体展开讲解了。
4、优化数据类型
- 情况1：对整数类型数据进行优化。
- 情况2：既可以使用文本类型也可以使用整数类型的字段，要选择使用整数类型。
- 情况3：避免使用TEXT、BLOB数据类型
- 情况4：避免使用ENUM类型
- 情况5：使用TIMESTAMP存储时间
- 情况6：用DECIMAL代替FLOAT和DOUBLE存储精确浮点数
总之，遇到数据量大的项目时，一定要在充分了解业务需求的前提下，合理优化数据类型，这样才能充分发挥资源的效率，使系统达到最优。
5、优化插入记录的速度
1. MyISAM引擎的表：
① 禁用索引
② 禁用唯一性检查
③ 使用批量插入④ 使用LOAD DATA INFILE 批量导入
2. InnoDB引擎的表：① 禁用唯一性检查
② 禁用外键检查
③ 禁止自动提交
6、使用非空约束
在设计字段的时候，如果业务允许，建议尽量使用非空约束
7、分析表、检查表与优化表
1. 分析表
2. 检查表
3. 优化表
8、小结
上述这些方法都是有利有弊的。比如：
- 修改数据类型，节省存储空间的同时，你要考虑到数据不能超过取值范围；
- 增加冗余字段的时候，不要忘了确保数据一致性；
- 把大表拆分，也意味着你的查询会增加新的连接，从而增加额外的开销和运维的成本。
因此，你一定要结合实际的业务需求进行权衡。
四、大表优化
1、限定查询的范围
禁止不带任何限制数据范围条件的查询语句。比如：我们当用户在查询订单历史的时候，我们可以控制在一个月的范围内；
2、读/写分离
经典的数据库拆分方案，主库负责写，从库负责读。
1.一主一从模式：
2.双主双从模式：
3、垂直拆分
当数据量级达到 千万级 以上时，有时候我们需要把一个数据库切成多份，放到不同的数据库服务器上，减少对单一数据库服务器的访问压力。
4、水平拆分
五、其它调优策略
1、服务器语句超时处理
2、创建全局通用表空间
3、MySQL 8.0新特性：隐藏索引对调优的帮助
高级篇笔记PDF自取
链接：https://pan.baidu.com/s/1pVqrTwIZFoED77i-EFmw6g?pwd=3333
提取码：3333