《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇

进阶篇

前言

本文仅用作个人笔记使用,整理自《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》(https://www.bilibili.com/video/BV1Kr4y1i7ru/)


存储引擎

MySQL体系结构

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第1张图片

  • 连接层

    • 最上层是一些客户端和连接服务,主要完成一些类似于连接处理、授权认证、以及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。
  • 服务层

    • 第二层架构主要完成大多数的核心服务功能,如SQL接口,并完成缓存的查询,SQL的分析和优化,部分内置函数的执行。所有跨存储引擎的功能也在这一层实现,如存储过程、函数等。
  • 引擎层

    • 存储引擎真正的负责了MySQL中数据的存储和提起,服务器通过API和存储引擎进行通信。不同的存储引擎具有不同的功能,这样我们可以根据自己的需要,来选取合适的存储引擎。
  • 存储层

    • 主要是将数据(如: redolog、undolog、数据、索引、二进制日志、错误日志、查询

      日志、慢查询日志等)存储在文件系统之上,并完成与存储引擎的交互。

和其他数据库相比,MySQL有点与众不同,它的架构可以在多种不同场景中应用并发挥良好作用。主要体现在存储引擎上,插件式的存储引擎架构,将查询处理和其他的系统任务以及数据的存储提取分离。这种架构可以根据业务的需求和实际需要选择合适的存储引擎。

存储引擎简介

存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表的,而不是基于库的,所以存储引擎也可被称为表类型。我们可以在创建表的时候,来指定选择的存储引擎,如果没有指定将自动选择默认的存储引擎。

#创建表时,指定存储引擎

CREATE TABLE 表名(
	字段....
)ENGINE = 引擎;
#查看当前数据库支持的存储引擎

SHOW ENGINES;

实例:

#创建表my_myisam并指定MyISAM存储引擎

CREATE TABLE my_myisam(
	id int,
	name varchar(10)
)ENGINE = MYISAM;
#创建表my_memory并指定Memory存储引擎

CREATE TABLE my_memory(
	id int,
	name varchar(10)
)ENGINE = MEMORY;
存储引擎特点
InnoDB

介绍:

  • InnoDB是一种兼顾高可靠性和高性能的通用存储引擎,在 MySQL 5.5 之后,InnoDB是默认的MySQL 存储引擎。

特点:

  • DML操作遵循ACID模型,支持事务
  • 支持行级锁,提高并发访问性能;
  • 支持外键FOREIGN KEY约束,保证数据的完整性和正确性;

文件:

  • xxx.ibd:xxx代表的是表名,innoDB引擎的每张表都会对应这样一个表空间文件,存储该表的表结构(frm-早期的 、sdi-新版的)、数据和索引。

逻辑存储结构:

  • 《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第2张图片
  • 表空间 : InnoDB存储引擎逻辑结构的最高层,ibd文件其实就是表空间文件,在表空间中可以包含多个Segment段。
  • 段 : 表空间是由各个段组成的, 常见的段有数据段、索引段、回滚段等。InnoDB中对于段的管理,都是引擎自身完成,不需要人为对其控制,一个段中包含多个区。
  • 区 : 区是表空间的单元结构,每个区的大小为1M。 默认情况下, InnoDB存储引擎页大小为16K, 即一个区中一共有64个连续的页。
  • 页 : 页是组成区的最小单元,页也是InnoDB存储引擎磁盘管理的最小单元,每个页的大小默认为 16KB。为了保证页的连续性,InnoDB 存储引擎每次从磁盘申请 4-5 个区。
  • 行 : InnoDB 存储引擎是面向行的,也就是说数据是按行进行存放的,在每一行中除了定义表时所指定的字段以外,还包含两个隐藏字段(后面会详细介绍)。
MyISAM

介绍:

  • MyISAM时MySQL早期的默认存储引擎。

特点:

  • 不支持事务,不支持外键
  • 支持表锁,不支持行锁
  • 访问速度快

文件:

  • xxx.sdi:存储表结构信息
  • xxx.MYD:存储数据
  • xxx.MYI:存储索引
Memory

介绍:

  • Memory引擎的表数据是存放在内存中的,由于受到硬件问题或断电问题的影响,只能将这些表作为临时表或缓存使用。

特点:

  • 内存存放
  • hash索引(默认)

文件:

  • xxx.sdi:存储表结构信息
特点 InnoDB MyISAM Memory
存储限制 64TB
事务安全 支持 - -
行级锁 表级锁 表级锁
B+Tree索引 支持 支持 支持
Hash索引 - - 支持
全文索引 支持(5.6+) 支持 -
空间使用 N/A
内存使用 中等
批量插入速度
外键 支持 - -
存储引擎选择

在选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据实际情况选择多种存储引擎进行组合。

  • InnoDB: 是Mysql的默认存储引擎,支持事务、外键、行级锁。如果应用对事务的完整性有比较高的要求,在并发条件下要求数据的一致性,数据操作除了插入和查询之外,还包含很多的更新、删除操作,那么InnoDB存储引擎是比较合适的选择。
  • MyISAM : 如果应用是以读操作和插入操作为主,只有很少的更新和删除操作,并且对事务的完整性、并发性要求不是很高,那么选择这个存储引擎是非常合适的。
  • MEMORY:将所有数据保存在内存中,访问速度快,通常用于临时表及缓存。MEMORY的缺陷就是对表的大小有限制,太大的表无法缓存在内存中,而且无法保障数据的安全性。
小结
  1. 体系结构

    • 连接层
    • 服务层
    • 引擎层(索引在这)
    • 存储层
  2. 存储引擎简介

    • SHOW ENGINES;
      CREATE TABLE XXXX(.....)ENGINE=INNODB;
      
  3. 存储引擎特点

    • INNODB与MyISAM:事务、外键、行级锁
  4. 存储引擎应用

    • INNODB:存储业务系统中对于事务、数据完整性要求较高的核心数据。
    • MyISAM:存储业务系统的非核心事务。

索引

索引概述

介绍:索引(index)是帮助MySQL高效获取数据数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据, 这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。

优缺点:

优点 缺点
提高数据检索的效率,降低数据库的IO成本 索引列也是要占用空间的。
通过索引列对数据进行排序,降低数据排序的成本,降低CPU的消耗。 索引大大提高了查询效率,同时却也降低更新表的速度,如对表进行INSERT、UPDATE、DELETE时,效率降低。
索引结构

MySQL的索引是在存储引擎层实现的,不同的存储引擎有不同的索引结构,主要包含以下几种:

结构 InnoDB MyISAM Memory 说明
B+Tree索引 支持 支持 支持 最常见的索引类型,大部分引擎都支持 B+ 树索引
Hash索引 不支持 不支持 支持 底层数据结构是用哈希表实现的, 只有精确匹配索引列的查询才有效, 不支持范围查询
R-tree(空间索引) 不支持 支持 不支持 空间索引是MyISAM引擎的一个特殊索引类型,主要用于地理空间数据类型,通常使用较少
Full-text(全文索引) 5.6+支持 支持 不支持 是一种通过建立倒排索引,快速匹配文档的方式。类似于Lucene,Solr,ES

平常所说的索引,一般都是指B+树结构组织的索引。

二叉树

如果MySQL的索引使用二叉树结构,比较理想的结构为:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第3张图片

但如果主键是顺序插入,二叉树就会退化为一个单向链表:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第4张图片

缺点:顺序插入时,会退化成单向链表,性能大大降低。数据量较大的情况下,二叉树的层级较深,检索数据速度慢。

B-Tree(多路平衡查找树)

以一颗最大度数(max-degree)为5(5阶)的B-Tree为例(每个节点最多存储4个key,5个指针):

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第5张图片

树的度数指的是一个节点的子节点个数

特点:

  • 5阶的B-Tree,每一个节点最多存储4个key,对应5个指针。
  • 一旦节点存储的key数量到达5,就会裂变,中间元素向上分裂。
  • 在B-Tree中,非叶子节点和叶子节点都会存放数据
B+Tree

B+Tree是B-Tree的变种,我们以一颗最大度数(max-degree)为4(4阶)的b+tree为例:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第6张图片

绿色框部分:索引部分,仅仅起到索引数据的作用,不存储数据

红色框部分:数据存储部分,在其叶子节点中要存储具体的数据

与B-Tree的区别:

  • 所有数据都会出现在叶子节点
  • 叶子节点形成一个单向链表
  • 非叶子节点仅仅起到索引数据的作用,具体数据都存放在叶子节点

MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序指针的B+Tree,提高区间访问的性能,利于排序。

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第7张图片

Hash

哈希索引就是采用一定的Hash算法,将键值换算成新的Hash值,映射到对应的槽位上,然后存储在Hash表中。

如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决。

特点:

  • Hash索引只能用于对等比较(=,in),不支持范围查询(between,>,< ,…)
  • 无法利用索引完成排序操作
  • 查询效率高,通常(不存在hash冲突的情况)只需要一次检索就可以了,效率通常要高于B+Tree索引

在MySQL中,支持hash索引的是Memory存储引擎。 而InnoDB中具有自适应hash功能,hash索引是InnoDB存储引擎根据B+Tree索引在指定条件下自动构建的。

索引分类
分类 含义 特点 关键字
主键索引 针对于表中主键创建的索引 默认自动创建,只能有一个 PRIMARY
唯一索引 避免同一个表中某数据列中的值重复 可以有多个 UNIQUE
常规索引 快速定位特定数据 可以有多个
全文索引 全文索引查找的是文本中的关键词,而不是比较索引中的值 可以有多个 FULLTEXT

而在在InnoDB存储引擎中,根据索引的存储形式,又可以分为以下两种:

分类 含义 特点
聚簇索引(Clustered Index) 将数据存储与索引放到了一块,索引结构的叶子节点保存了行数据 必须有,而且只有一个
非聚簇索引(Secondary Index) 将数据与索引分开存储,索引结构的叶子节点关联的是对应的主键值 可以有多个

聚簇索引选取规则:

  • 如果存在主键,主键索引就是聚簇索引
  • 如果不存在主键,将使用第一个唯一索引作为聚簇索引
  • 如果表不存在主键或没有合适的唯一索引,则InnoDB会自动生成一个rowid作为隐藏的聚簇索引

聚簇索引和非聚簇索引的具体结构:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第8张图片

  • 聚集索引的叶子节点下挂的是这一行的数据。
  • 二级索引的叶子节点下挂的是该字段值对应的主键值。

当执行SELECT * FROM user WHERE name = 'arm'时,查找过程如下:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第9张图片

  1. 由于是根据name字段进行查询,所以先根据name='Arm’到name字段的二级索引中进行匹配查找。但是在二级索引中只能查找到 Arm 对应的主键值 10。
  2. 由于查询返回的数据是*,所以此时,还需要根据主键值10,到聚集索引中查找10对应的记录,最 终找到10对应的行row。
  3. 最终拿到这一行的数据,直接返回即可。

回表查询:这种先到二级索引中查找数据,找到主键值,然后再到聚集索引中根据主键值,获取数据的方法,就称之为回表查询。

索引语法
创建索引

语法:

#创建索引
CREATE [UNIQUE|FULLTEXT] INDEX index_name ON table_name (index_column_name,...);
查看索引

语法:

#查看索引
SHOW INDEX FROM table_name;
删除索引

语法:

#删除索引
DROP INDEX index_name ON table_name;

实例:

#name字段为姓名字段,该字段的值可能会重复,为name字段创建索引
CREATE INDEX idx_user_name ON tb_user(name);

#phone手机号字段的值时非空且唯一的,为phone字段创建索引
CREATE UNIQUE INDEX idx_user_phone ON tb_user(phone);

#为profession、age、status创建联合索引
CREATE INDEX idx_user_pro_age_status ON tb_user(profession,age,status);

#为email创建合适的索引来提升查询效率
CREATE INDEX idx_user_email ON tb_user(email);

#删除idx_user_email索引
DROP INDEX idx_user_email ON tb_user;
SQL性能分析
SQL的执行频率

MySQL 客户端连接成功后,通过show [session|global] status命令可以提供服务器状态信 息。通过如下指令,可以查看当前数据库的INSERT、UPDATE、DELETE、SELECT的访问频次:

#session 是查看当前会话 ;
#global 是查询全局数据 ;
SHOW GLOBAL STATUS LIKE 'Com_______';

通过上述指令,我们可以查看到当前数据库到底是以查询为主,还是以增删改为主,从而为数据 库优化提供参考依据。如果是以增删改为主,我们可以考虑不对其进行索引的优化。如果是以 查询为主,那么就要考虑对数据库的索引进行优化了。

慢查询日志

慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有 SQL语句的日志。

MySQL的慢查询日志默认没有开启,我们可以查看一下系统变量slow_query_log

如果要开启慢查询日志,需要在MySQL的配置文件(/etc/my.cnf)中进行配置。

#开启慢日志
slow_query_log=1
#设置阈值为1秒
long_query_time=1

配置完毕后,通过指令重新启动MySQL服务器进行测试,查看慢日志文件中记录的信息

#重启MySQL服务器
systemctl restart mysqld

#查看慢日志
cat /var/lib/mysql/localhost-slow.log
PROFILE详情

show profiles能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling 参数,能够看到当前MySQL是否支持profile操作:

SELECT @@have_profiling;

语法:

#查看每一条SQL的耗时基本情况
SHOW PROFILES;

#查看指定query_id的SQL语句各个阶段的耗时
SHOW PROFILE FOR QUERY query_id;

#查看指定query_id的SQL语句CPU的使用情况
SHOW PROFILE CPU FOR QUERY query_id;
EXPLAIN执行计划

EXPLAIN或者DESC命令获取MySQL如何执行SELECT语句的信息,包括在SELECT语句执行过程中表如何连接和连接的顺序。

语法:

#直接在select语句之前加上关键字 explain / desc
EXPLAIN SELECT 字段列表 FROM 表名 WHERE 条件 ;

说明:

字段 说明
id select查询的序列号,表示查询中执行select子句或者是操作表的顺序 (id相同,执行顺序从上到下;id不同,值越大,越先执行)。
select_type 表示SELECT的类型,常见的取值有SIMPLE(简单表,即不使用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、UNION(UNION中的第二个或者后面的查询语句)、SUBQUERY(SELECT/WHERE之后包含了子查询)等
type 表示连接类型,性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、 index、all 。
possible_key 显示可能应用在这张表上的索引,一个或多个。
key 实际使用的索引,如果为NULL,则没有使用索引。
key_len 表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长 度,在不损失精确性的前提下,长度越短越好。
rows MySQL认为必须要执行查询的行数,在innodb引擎的表中,是一个估计值, 可能并不总是准确的。
filtered 表示返回结果的行数占需读取行数的百分比, filtered的值越大越好。
索引使用

现在有一张表test_sku,其中有1000W条数据,有id以及name字段,id为自增主键。

先来测试:

mysql> SELECT * FROM test_squ WHERE id = 5473895;
+---------+-----------+
| id      | name      |
+---------+-----------+
| 5473895 | 韩晓明    |
+---------+-----------+
1 row in set (0.00 sec)

可以发现,即使数据量非常大,根据主键id来查询也还是非常快的。

接下来,来看看根据无索引的name字段:

mysql> SELECT * FROM test_squ WHERE name = '蒋某人';
+----------+-----------+
| id       | name      |
+----------+-----------+
| 10000000 | 蒋某人    |
+----------+-----------+
1 row in set (12.06 sec)

可以发现,查询只返回了一条数据,结果耗时12.06sec,就是因为name字段没有索引,而造成查询效率很低。故我们可以为name字段添加上一个索引

mysql> CREATE INDEX idx_squ_name ON test_squ(name);
Query OK, 0 rows affected (1 min 12.30 sec)
Records: 0  Duplicates: 0  Warnings: 0

再次执行相同的SQL命令

mysql> SELECT * FROM test_squ WHERE name = '蒋某人';
+----------+-----------+
| id       | name      |
+----------+-----------+
| 10000000 | 蒋某人    |
+----------+-----------+
1 row in set (0.00 sec)

可以发现,在给name字段建立了索引之后,查询性能大大提升。

最左前缀法则

如果索引了多列(联合索引),要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始, 并且不跳过索引中的列。如果跳跃某一列,索引将会部分失效(后面的字段索引失效)。

实例:

mysql> EXPLAIN SELECT * FROM tb_user WHERE profession = '软件工程' AND age = 31 and status = '0'\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: ref
possible_keys: idx_user_pro_age_status
          key: idx_user_pro_age_status
      key_len: 54
          ref: const,const,const
         rows: 1
     filtered: 100.00
        Extra: Using index condition
1 row in set, 1 warning (0.00 sec)
mysql> explain select * from tb_user where profession = '软件工程' and age = 31 \G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: ref
possible_keys: idx_user_pro_age_status
          key: idx_user_pro_age_status
      key_len: 49
          ref: const,const
         rows: 1
     filtered: 100.00
        Extra: NULL
1 row in set, 1 warning (0.01 sec)
mysql> explain select * from tb_user where profession = '软件工程' \G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: ref
possible_keys: idx_user_pro_age_status
          key: idx_user_pro_age_status
      key_len: 47
          ref: const
         rows: 4
     filtered: 100.00
        Extra: NULL
1 row in set, 1 warning (0.00 sec)

上面三条都是以profession字段为首个WHERE条件的查询,下面看看其他的情况:

mysql> EXPLAIN SELECT * FROM tb_user WHERE age = 31 and status = '0'\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 24
     filtered: 4.17
        Extra: Using where
1 row in set, 1 warning (0.00 sec)
mysql> EXPLAIN SELECT * FROM tb_user WHERE status = '0'\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 24
     filtered: 10.00
        Extra: Using where
1 row in set, 1 warning (0.00 sec)

可以发现,这两条查询语句,他们的type都是ALL,表示走的是全表扫描。就是因为不满最左前缀法则。

范围查询

联合索引中,如果出现范围查询(>,<),范围查询右侧的索引会失效。

mysql> explain select * from tb_user where profession = '软件工程' and age > 30 and status
    -> = '0'\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: range
possible_keys: idx_user_pro_age_status
          key: idx_user_pro_age_status
      key_len: 49
          ref: NULL
         rows: 2
     filtered: 10.00
        Extra: Using index condition
1 row in set, 1 warning (0.01 sec)
mysql> explain select * from tb_user where profession = '软件工程' and age >= 30 and
    -> status = '0'\G;
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: tb_user
   partitions: NULL
         type: range
possible_keys: idx_user_pro_age_status
          key: idx_user_pro_age_status
      key_len: 54
          ref: NULL
         rows: 2
     filtered: 10.00
        Extra: Using index condition
1 row in set, 1 warning (0.00 sec)

所以,在业务允许的情况下,尽可能的使用类似于>=或<=这类的范围查询,而避免使用>或<。

索引失效情况
  1. 索引列运算

    不要在索引列上进行运算操作,索引将失效

    EXPLAIN SELECT * FROM tb_user WHERE SUBSTRING(phone,10,2) = '15'
    
  2. 字符串不加引号

    字符串类型字段使用时,不加引号,索引将失效

    explain select * from tb_user where profession = '软件工程' and age = 31 and status
    = '0';
    
    explain select * from tb_user where profession = '软件工程' and age = 31 and status
    = 0;
    
    explain select * from tb_user where phone = '17799990015';
    
    explain select * from tb_user where phone = 17799990015;
    
  3. 模糊查询

    如果仅仅是尾部模糊匹配,索引不会失效。如果是头部模糊匹配,索引将失效

    explain select * from tb_user where profession like '软件%';#生效
    
    explain select * from tb_user where profession like '%工程';#失效
    
    explain select * from tb_user where profession like '%工%';#失效
    
  4. or连接的条件

    用or分割开的条件,如果or前的条件中的列有索引,而后面的列中没有索引,那么涉及的索引都不会被用到。

    explain select * from tb_user where id = 10 or age = 23;
    
    explain select * from tb_user where phone = '17799990017' or age = 23;
    

    由于age没有索引,所以即使id、phone有索引,索引也会失效。所以需要针对于age也要建立索引。

  5. 数据分布影响

    如果MySQL优化器评估使用索引比全表更慢,则不使用索引。

    select * from tb_user where phone >= '17799990005';
    
    select * from tb_user where phone >= '17799990015';
    

    因为MySQL在查询时,会评估使用索引的效率与走全表扫描的效率,如果走全表扫描更快,则放弃 索引,走全表扫描。因为索引是用来索引少量数据的,如果通过索引查询返回大批量的数据,则还不如走全表扫描来的快,此时索引就会失效。

SQL提示

SQL提示,是优化数据库的一个重要手段,简单来说,就是在SQL语句中加入一些人为的提示来达到优 化操作的目的。

语法:

#use index : 建议MySQL使用哪一个索引完成此次查询(仅仅是建议,mysql内部还会再次进行评估)。

explain select * from tb_user use index(idx_user_pro) where profession = '软件工程';

#ignore index : 忽略指定的索引。

explain select * from tb_user ignore index(idx_user_pro) where profession = '软件工程';

#force index : 强制使用索引。
explain select * from tb_user force index(idx_user_pro) where profession = '软件工程';

先查看explain select * from tb_user where profession = '软件工程';的结果:

mysql> explain select * from tb_user where profession = '软件工程';
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------+------+----------+-------+
| id | select_type | table   | partitions | type | possible_keys           | key                     | key_len | ref   | rows | filtered | Extra |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------+------+----------+-------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro_age_status | idx_user_pro_age_status | 47      | const |    4 |   100.00 | NULL  |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------+------+----------+-------+
1 row in set, 1 warning (0.00 sec)

可以发现,因为WHERE条件的第一条符合最左前缀法则,MySQL走了联合索引

接下来创建一个profession的单列索引,再来查看这条SQL的执行计划

mysql> create index idx_user_pro on tb_user(profession);
Query OK, 0 rows affected (0.05 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> explain select * from tb_user where profession = '软件工程';
+----+-------------+---------+------------+------+--------------------------------------+-------------------------+---------+-------+------+----------+-------+
| id | select_type | table   | partitions | type | possible_keys                        | key                     | key_len | ref   | rows | filtered | Extra |
+----+-------------+---------+------------+------+--------------------------------------+-------------------------+---------+-------+------+----------+-------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro_age_status,idx_user_pro | idx_user_pro_age_status | 47      | const |    4 |   100.00 | NULL  |
+----+-------------+---------+------------+------+--------------------------------------+-------------------------+---------+-------+------+----------+-------+
1 row in set, 1 warning (0.01 sec)

发现在possible_keys列中,MySQL确实给到两个可能的索引,但是最后选择了联合索引,这是MySQL自动选择的结果。

我们可以使用上面的语法,进行指定索引:

mysql> explain select * from tb_user force index(idx_user_pro) where profession = '软件工程';
+----+-------------+---------+------------+------+---------------+--------------+---------+-------+------+----------+-------+
| id | select_type | table   | partitions | type | possible_keys | key          | key_len | ref   | rows | filtered | Extra |
+----+-------------+---------+------------+------+---------------+--------------+---------+-------+------+----------+-------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro  | idx_user_pro | 47      | const |    4 |   100.00 | NULL  |
+----+-------------+---------+------------+------+---------------+--------------+---------+-------+------+----------+-------+
1 row in set, 1 warning (0.00 sec)
覆盖索引

查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到。

实例:

mysql> explain select id, profession from tb_user where profession = '软件工程' and age = 31 and status = '0' ;
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+--------------------------+
| id | select_type | table   | partitions | type | possible_keys           | key                     | key_len | ref               | rows | filtered | Extra                    |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+--------------------------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro_age_status | idx_user_pro_age_status | 54      | const,const,const |    1 |   100.00 | Using where; Using index |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+--------------------------+
1 row in set, 1 warning (0.00 sec)
mysql> explain select id,profession,age, status from tb_user where profession = '软件工程' and age = 31 and status = '0' ;
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+--------------------------+
| id | select_type | table   | partitions | type | possible_keys           | key                     | key_len | ref               | rows | filtered | Extra                    |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+--------------------------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro_age_status | idx_user_pro_age_status | 54      | const,const,const |    1 |   100.00 | Using where; Using index |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+--------------------------+
1 row in set, 1 warning (0.00 sec)
mysql> explain select id,profession,age, status, name from tb_user where profession = '软件工程' and age = 31 and status = '0' ;
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+-----------------------+
| id | select_type | table   | partitions | type | possible_keys           | key                     | key_len | ref               | rows | filtered | Extra                 |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+-----------------------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro_age_status | idx_user_pro_age_status | 54      | const,const,const |    1 |   100.00 | Using index condition |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+-----------------------+
1 row in set, 1 warning (0.01 sec)
mysql> explain select * from tb_user where profession = '软件工程' and age = 31 and status = '0';
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+-----------------------+
| id | select_type | table   | partitions | type | possible_keys           | key                     | key_len | ref               | rows | filtered | Extra                 |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+-----------------------+
|  1 | SIMPLE      | tb_user | NULL       | ref  | idx_user_pro_age_status | idx_user_pro_age_status | 54      | const,const,const |    1 |   100.00 | Using index condition |
+----+-------------+---------+------------+------+-------------------------+-------------------------+---------+-------------------+------+----------+-----------------------+
1 row in set, 1 warning (0.00 sec)

解读:

Extra 含义
Using where;Using Index 查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询数据
Using Index Condition 查找使用了索引,但是需要回表查询数据

思考:一张表有四个字段(id,username,password,status),由于数据量大,需要对一下SQL语句进行优化,该如何进行才是最优方案:

SELECT id,username,pasword FROM tb_user WHERE username = 'Mask';

解答:最优方案是为username和password字段建立一个联合索引

前缀索引

当字段类型为字符串(varchar,text,longtext等)时,有时候需要索引很长的字符串,这会让 索引变得很大,查询时,浪费大量的磁盘IO,影响查询效率。此时可以只将字符串的一部分前缀,建 立索引,这样可以大大节约索引空间,从而提高索引效率。

语法:

CREATE INDEX idx_xxxx on table_name(COLUMN(n));

前缀长度:

可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值, 索引选择性越高则查询效率越高,唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。

公式:

select count(distinct email) / count(*) from tb_user ;
select count(distinct substring(email,1,5)) / count(*) from tb_user ;

实例:

#为tb_user的email字段建立长度为5的前缀索引

mysql> CREATE INDEX idx_user_email ON tb_user(email(5));
Query OK, 0 rows affected (0.05 sec)
Records: 0  Duplicates: 0  Warnings: 0
设计原则
  1. 针对于数据量较大,且查询较为频繁的表建立索引。
  2. 针对于常作为查询条件(WHERE)、排序(ORDER BY)、分组(GROUP BY)操作的字段建立索引。
  3. 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高。
  4. 如果是字符串类型的字段,字段的长度较长,可以针对于字段的特点,建立前缀索引。
  5. 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率。
  6. 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价也就越大,会影响增删改的效率。
  7. 如果索引列不能存储NULL值,请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含NULL值时,它可以更好地确定哪个索引最有效地用于查询。
小结
  1. 索引概述

    索引是高效获取数据的数据结构

  2. 索引结构

    B+TREE、HASH

  3. 索引分类

    主键索引、唯一索引、常规索引、全文索引

    聚簇索引、非聚簇索引

  4. 索引语法

    CREATE [UNIQUE] INDEX idx_xxx ON table_name(column,...);
    SHOW INDEX FROM table_name;
    DROP INDEX idx_xxx ON table_name;
    
  5. SQL性能分析

    执行频次、慢查询日志、PROFILE、EXPLAIN

  6. 索引使用

    联合索引、索引失效、SQL提示、覆盖索引、前缀索引

  7. 索引设计原则

    表、字段、索引

SQL优化

插入数据
INSERT优化

如果我们需要一次性往数据库中插入多条记录,可以从一下三个方面进行优化。

insert into tb_test values(1,'tom');
insert into tb_test values(2,'cat');
insert into tb_test values(3,'jerry');
.....

优化方案1:

#批量插入数据

Insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');

优化方案2:

#手动控制事务的提交

start transaction;
insert into tb_test values(1,'Tom'),(2,'Cat'),(3,'Jerry');
insert into tb_test values(4,'Tom'),(5,'Cat'),(6,'Jerry');
insert into tb_test values(7,'Tom'),(8,'Cat'),(9,'Jerry');
commit;

优化方案3:

#主键顺序插入,性能要高于乱序插入

主键乱序插入 : 8 1 9 21 88 2 4 15 89 5 7 3
主键顺序插入 : 1 2 3 4 5 7 8 9 15 21 88 89
大批量插入数据

如果一次性需要插入大批量数据(比如: 几百万的记录),使用insert语句插入性能较低,此时可以使用MySQL数据库提供的load指令进行插入。操作如下:

-- 客户端连接服务端时,加上参数 -–local-infile
mysql –-local-infile -u root -p
-- 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile = 1;
-- 执行load指令将准备好的数据,加载到表结构中
load data local infile '/root/sql1.log' into table tb_user fields
terminated by ',' lines terminated by '\n' ;

顺序插入的性能高于乱序插入

主键优化
数据组织方式

在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(Index Organized Table IOT

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第10张图片

在InnoDB引擎中,数据行是记录在逻辑结构 page 页中的,而每一个页的大小是固定的,默认16K。那也就意味着,一个页中所存储的行也是有限的,如果插入的数据行row在该页存储不小,将会存储到下一个页中,页与页之间会通过指针连接。

页分裂

页可以为空,也可以填充一半,也可以填充100%。每个页包含了2-N行数据(如果一行数据过大,会行溢出),根据主键排列。

页合并

当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用。当页中删除的记录到达MERGE_THRESHOLD(默认为页的50%),InnoDB会开始寻找最靠近的页(前或后)看看是否可以将两个页合并以优化空间使用。

主键设计原则
  1. 满足业务需求的情况下,尽量降低主键的长度
  2. 插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键
  3. 尽量不要使用UUID做主键或者时是其他自然主键,如身份证号。
  4. 业务操作时,避免对主键的修改。
ORDER BY优化

MySQL的排序,有两种方式:

Using Filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫FileSort排序。

Using Index:通过有序索引顺序扫描直接返回有序数据,这种情况即为Using Index,不需要额外排序,操作效率高。对于以上的两种排序方式,Using Index的性能高,而Using Filesort的性能低,我们在优化排序操作时,尽量要优化为Using Index。

实例:

mysql> explain select id,age,phone from tb_user order by age ;
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+----------------+
| id | select_type | table   | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra          |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+----------------+
|  1 | SIMPLE      | tb_user | NULL       | ALL  | NULL          | NULL | NULL    | NULL |   24 |   100.00 | Using filesort |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+----------------+
1 row in set, 1 warning (0.00 sec)



mysql> explain select id,age,phone from tb_user order by age, phone ;
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+----------------+
| id | select_type | table   | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra          |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+----------------+
|  1 | SIMPLE      | tb_user | NULL       | ALL  | NULL          | NULL | NULL    | NULL |   24 |   100.00 | Using filesort |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+----------------+
1 row in set, 1 warning (0.00 sec)

由于 age, phone 都没有索引,所以此时再排序时,出现Using filesort, 排序性能较低。

可以通过创建索引来解决:

#创建索引
mysql> create index idx_user_age_phone_aa on tb_user(age,phone);
Query OK, 0 rows affected (0.02 sec)
Records: 0  Duplicates: 0  Warnings: 0

#再次执行排序语句
mysql> explain select id,age,phone from tb_user order by age;
+----+-------------+---------+------------+-------+---------------+-----------------------+---------+------+------+----------+-------------+
| id | select_type | table   | partitions | type  | possible_keys | key                   | key_len | ref  | rows | filtered | Extra       |
+----+-------------+---------+------------+-------+---------------+-----------------------+---------+------+------+----------+-------------+
|  1 | SIMPLE      | tb_user | NULL       | index | NULL          | idx_user_age_phone_aa | 48      | NULL |   24 |   100.00 | Using index |
+----+-------------+---------+------------+-------+---------------+-----------------------+---------+------+------+----------+-------------+
1 row in set, 1 warning (0.00 sec)

建立索引之后,再次进行排序查询,就由原来的Using filesort, 变为了 Using index,性能 就是比较高的了。

如果我们根据age,phone进行降序排序:

mysql> explain select id,age,phone from tb_user order by age desc , phone desc ;
+----+-------------+---------+------------+-------+---------------+-----------------------+---------+------+------+----------+----------------------------------+
| id | select_type | table   | partitions | type  | possible_keys | key                   | key_len | ref  | rows | filtered | Extra                            |
+----+-------------+---------+------------+-------+---------------+-----------------------+---------+------+------+----------+----------------------------------+
|  1 | SIMPLE      | tb_user | NULL       | index | NULL          | idx_user_age_phone_aa | 48      | NULL |   24 |   100.00 | Backward index scan; Using index |
+----+-------------+---------+------------+-------+---------------+-----------------------+---------+------+------+----------+----------------------------------+
1 row in set, 1 warning (0.00 sec)

也出现 Using index, 但是此时Extra中出现了 Backward index scan,这个代表反向扫描索引,因为在MySQL中我们创建的索引,默认索引的叶子节点是从小到大排序的,而此时我们查询排序时,是从大到小,所以在扫描时就是反向扫描,就会出现Backward index scan。 在MySQL8版本中,支持降序索引,我们也可以创建降序索引。

排序时,也需要满足最左前缀法则,否则也会出现

小结:

  1. 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则。
  2. 尽量使用覆盖索引。
  3. 多字段排序, 一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)。
  4. 如果不可避免的出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256k)。
GROUP BY优化

首先,将表中的索引全部删除。

在没有索引的情况下执行如下SQL并查看执行计划:

mysql> explain select profession , count(*) from tb_user group by profession ;
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-----------------+
| id | select_type | table   | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra           |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-----------------+
|  1 | SIMPLE      | tb_user | NULL       | ALL  | NULL          | NULL | NULL    | NULL |   24 |   100.00 | Using temporary |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-----------------+
1 row in set, 1 warning (0.00 sec)

然后我们再针对与profession,age,status字段创建一个联合索引,并执行上面相同的SQL。

mysql> create index idx_user_pro_age_sta on tb_user(profession , age , status);
Query OK, 0 rows affected (0.02 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> explain select profession , count(*) from tb_user group by profession ;
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+-------------+
| id | select_type | table   | partitions | type  | possible_keys        | key                  | key_len | ref  | rows | filtered | Extra       |
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+-------------+
|  1 | SIMPLE      | tb_user | NULL       | index | idx_user_pro_age_sta | idx_user_pro_age_sta | 54      | NULL |   24 |   100.00 | Using index |
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+-------------+
1 row in set, 1 warning (0.00 sec)

再执行如下的分组查询SQL,查看执行计划:

mysql> explain select profession,count(*) from tb_user group by profession,age;
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+-------------+
| id | select_type | table   | partitions | type  | possible_keys        | key                  | key_len | ref  | rows | filtered | Extra       |
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+-------------+
|  1 | SIMPLE      | tb_user | NULL       | index | idx_user_pro_age_sta | idx_user_pro_age_sta | 54      | NULL |   24 |   100.00 | Using index |
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+-------------+
1 row in set, 1 warning (0.00 sec)

mysql> explain select age,count(*) from tb_user group by age;
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+------------------------------+
| id | select_type | table   | partitions | type  | possible_keys        | key                  | key_len | ref  | rows | filtered | Extra                        |
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+------------------------------+
|  1 | SIMPLE      | tb_user | NULL       | index | idx_user_pro_age_sta | idx_user_pro_age_sta | 54      | NULL |   24 |   100.00 | Using index; Using temporary |
+----+-------------+---------+------------+-------+----------------------+----------------------+---------+------+------+----------+------------------------------+
1 row in set, 1 warning (0.00 sec)

由上述执行计划可以发现,仅仅根据age进行分组,就会出现Using temporary;而如果是根据profession,age两个字段同时分组,则不会出现Using temporary。因为对于分组操作,在联合索引中也是符合索引的最左前缀法则的。

LIMIT优化

在数据量比较大时,如果进行LIMIT分页查询,在查询时,越往后分页查询性能越低。

先来看看不同分页位置查询耗时的对比:

#################################################
mysql> select * from test_squ limit 0,10;
...
10 rows in set (0.01 sec)
#################################################
mysql> select * from test_squ limit 1000000,10;
...
10 rows in set (0.27 sec)
#################################################
mysql> select * from test_squ limit 5000000,10;
...
10 rows in set (0.95 sec)
#################################################
mysql> select * from test_squ limit 9500000,10;
...
10 rows in set (2.58 sec)

通过上述测试可以看到,越往后,分页查询所需要的时间越长。

以最后一条SELECT * FROM test_squ LIMIT 9500000,10;为例,当我们进行分页查询时,MySQL需要先扫描出前9500010条记录,并抛弃9499999条记录再返回第9500000开始到9500010的10条记录。

优化思路:一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化。

COUNT优化

先来回顾以下两个存储引擎MyISAM和InnoDB。

  • MyISAM:MyISAM存储引擎把一个表的总行数存放在了磁盘上,因此在指定了使用MyISAM引擎的表中执行COUNT(*)的时候效率非常高,但如果是带条件的COUNT,MyISAM也慢。
  • InnoDB:InnoDB存储引擎在执行COUNT(*)时需要把数据一行行读出来再进行累加计数。

优化思路:主要可以通过Redis这样的非关系型数据库来辅助。

COUNT用法

COUNT()是一个聚合函数,对于返回的结果集,一行行地判断,如果COUNT函数的参数不是NULL,累计值就加 1,否则不加,最后返回累计值。

COUNT语法 含义
COUNT(主键列) InnoDB引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。服务层拿到主键后,直接按行进行累加。
COUNT(NOT NULL字段) InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,直接按行进行累加。
CONT(没有NOT NULL字段) InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,计数累加。
COUNT(数字) InnoDB引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1” 进去,直接按行进行累加。
COUNT(*) InnoDB引擎并不会把全部字段取出来,而是专门做了优化,不取值,服务层直接 按行进行累加。

按照效率排序的话,COUNT(*)≈COUNT(1)>COUNT(主键列)>COUNT(字段)

UPDATE优化

先回顾一下InnoDB的三大特性:

  • 事务
  • 外键
  • 行级锁

也就是说在MySQL的默认隔离级别Repeatable Read(可重复读)中使用的是行级锁。

现有如下表:

mysql> show create table test_c;
+--------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| Table  | Create Table                                                                                                                                                                                              |
+--------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| test_c | CREATE TABLE `test_c` (
  `id` int NOT NULL AUTO_INCREMENT,
  `course` varchar(10) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci |
+--------+-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
1 row in set (0.00 sec)

有id,course两个字段,id为主键索引,course没有索引。

现在我们模拟开启两个事务

#事务1
update course set name = '学习MySQL' where id = 1;
#事务2
update course set name = 'HTML5' where name id = 2 ;

当我们执行事务1、事务2时是没有问题的,因为事务1使用到了主键索引,只会对id为1的这一行记录加上行级锁,而事务2同样使用到了主键索引,只会对id为2的这一行记录加上行级锁,两个事务互不妨碍。

再次开启两个事务

#事务1
update course set name = '练习MySQL' where name = '学习MySQL';
#事务2
update course set name = 'Redis' where name id = 2 ;

在执行事务1时同样也是可以执行没有问题,但是在执行事务2时会发现,事务2被锁住了。这是因为事务1在执行update操作条件查询时使用的是name字段,而name字段并没有索引从而导致了事务1将行级锁升级为了表锁。

InnoDB的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁。所以我们执行更新的条件一定要有索引。

小结
  1. 插入数据
    • INSERT:批量插入、手动控制事务、主键顺序插入
    • 大批量插入:load data local infile
  2. 主键优化
    • 主键长度尽量短
    • 顺序插入
  3. ORDER BY优化
    • USING INDEX:直接通过索引返回数据,性能高
    • USING FILESORT:需要将返回的数据在排序缓冲区排序,性能低
  4. GROUP BY优化
    • 索引,多字段分组满足最左前缀法则
  5. LIMIT优化
    • 覆盖索引+子查询
  6. COUNT优化
    • COUNT(*)≈COUNT(1)>COUNT(主键列)>COUNT(字段)
  7. UPDATE优化
    • 尽量根据主键/索引字段进行数据更新

视图/存储过程/触发器

视图
介绍

视图(View)是一种虚拟存在的表。视图中的数据并不在数据库中实际存在,行和列数据来自定义视图的查询中使用的表,并且是在使用视图时动态生成的。

通俗的讲,视图只保存了查询的SQL逻辑,不保存查询结果。所以我们在创建视图的时候,主要的工作就落在创建这条SQL查询语句上。

创建视图

CREATE [OR REPLACE] VIEW 视图名称[(列名列表)] AS SELECT语句 [WITH [CASCADED | LOCAL] CHECK OPTION];

查询视图

查看视图的创建语句:SHOW CREATE VIEW 视图名称;

查看视图数据:SELECT * FROM 视图名称;

修改视图

方法一:CREATE [OR REPLACE] VIEW 视图名称[(列名列表)] AS SELECT语句 [WITH[CASCADED | LOCAL] CHECKOPTION]

方法二:ALTER VIEW 视图名称[(列名列表)] AS SELECT语句 [WITH[CASCADED | LOCAL]CHECK OPTION]

删除视图

DROP VIEW [IF EXISTS] 视图名称 [视图名称]

创建、查询、修改、删除实例
#创建视图
CREATE OR REPLACE VIEW emp_v_1 AS SELECT id,name FROM test_emp WHERE id <= 50;
#查询视图
SHOW CREATE VIEW emp_v_1;
SELECT * FROM emp_v_1;
SELECT * FROM emp_v_1 WHERE id < 10;
#修改视图
CREATE OR REPLACE VIEW emp_v_1 AS SELECT id,name,no FROM test_emp WHERE id <= 40;
ALTER VIEW emp_v_1 AS SELECT id,name no FROM test_emp WHERE id < 50;
#删除视图
DROP VIEW IF EXISTS emp_v_1;
检查选项

当我们在创建视图时如果加上了WITH CHECK OPTION,MySQL会通过视图检查正在更改的每个行,比如增删改,以使更新的数据符合视图的定义。MySQL允许基于视图创建新的视图,它还会检查所依赖的视图的规则,以保持一致性。为了确定检查的范围MySQL提供了两个选项:CASCADED和LOCAL,默认值为CASCADED。

CASCADED(级联)

比如,v2视图是基于v1视图的,如果在v2视图创建的时候指定了检查选项为 cascaded,但是v1视图创建时未指定检查选项。 则在执行检查时,不仅会检查v2,还会级联检查v2的关联视图v1。

LOCAL(本地)

比如,v2视图是基于v1视图的,如果在v2视图创建的时候指定了检查选项为 local ,但是v1视图创建时未指定检查选项。 则在执行检查时,只会检查v2,不会检查v2的关联视图v1

视图的更新

要使视图可更新,视图中的行与基础表中的行之间必须存在一对一的关系。如果视图包含以下任何一项,则该视图不可更新:

  • 聚合函数或窗口函数(SUM()、MIN()、MAX()、COUNT()等)
  • DISTINCT
  • GROUP BY
  • HAVING
  • UNION 或 UNION ALL
视图的作用
  1. 简单

    视图不仅可以简化用户对数据的理解,也可以简化他们的操作。那些被经常使用的查询可以被定义为视图,从而使得用户不必为以后的操作每次指定全部的条件。

  2. 安全

    数据库可以授权,但不能授权到数据库特定行和特定的列上。通过视图用户只能查询和修改他们所能见到的数据

  3. 数据独立

    视图可帮助用户屏蔽真实表结构变化带来的影响。

存储过程

存储过程是事先经过编译并存储在数据库中的一段SQL语句的集合,调用存储过程可以简化应用开发人员的很多工作,减少数据在数据库和应用服务器之间的传输,对于提高数据处理的效率是有好处的。存储过程思想上很简单,就是数据库SQL语言层面的代码封装与重用。

其特点是:

  1. 封装,可复用
  2. 可以接受参数,也可以返回数据
  3. 减少网络交互,效率提升
创建存储过程
CREATE PROCEDURE 存储过程名([参数列表])
BEGIN
...SQL语句
END;
调用存储过程
CALL 存储过程名([参数])
查看存储过程
SELECT * FROM INFORMATION_SCHEMA.ROUTINES WHERE ROUTINE_SCHEMA = '数据库名';
SHOW CREATE PROCEDURE 存储过程名;
删除存储过程
DROP PROCEDURE [IF EXISTS] 存储过程名;

注意:在命令行中创建存储过程时,需要通过关键字DELIMITER指定一个结束符以提示;

变量

在MySQL中变量分为三种类型: 系统变量、用户定义变量、局部变量。

系统变量

系统变量是MySQL服务器提供,不是用户定义的,属于服务器层面。系统变量又分为全局变量(GLOBAL)、会话变量(SESSION)。

#查看系统变量
SHOW [SESSION|GLOBAL] VARIABLES;
SHOW [SESSION|GLOBAL] VARIABLES LIKE '...';
SELECT @@[SESSION|GLOBAL] 系统变量名;
#设置系统变量
SET [SESSION|GLOBAL] 系统变量名 = 值;
SET @@[SESSION|GLOBAL] 系统变量名 = 值;
用户自定义变量

用户定义变量 是用户根据需要自己定义的变量,用户变量不用提前声明,在用的时候直接用"@变量名" 使用就可以。其作用域为当前连接。

#赋值
SET @VAR_NAME = EXPR[, @VAR_NAME = EXPR]...;
SET @VAR_NAME := EXPR[, @VAR_NAME := EXPR]...;
SELECT @VAR_NAME := EXPR[, @VAR_NAME := EXPR]...;
SELECT 字段名 INTO @VAR_NAME FROM 表名;
#使用
SELECT @VAR_NAME;
局部变量

局部变量是根据需要定义的在局部生效的变量,访问之前,需要DECLARE声明。可用作存储过程内的局部变量和输入参数,局部变量的范围是在其内声明的BEGIN … END块。

#声明
DECLARE 变量名 类型[DEFAULT ...];
#赋值
SET 变量名 = 值;
SET 变量名 := 值;
SELECT 字段名 INTO 变量名 FROM 表名;
IF条件判断
#语法
IF 条件1 THEN
	...
[ELSE IF 条件2 THEN 
	...
ELSE
	...]
END IF;
参数
类型 说明
IN(默认) 该类参数作为输入,也就是需要调用时传入值
OUT 该类参数作为输出,也就是该参数可以作返回值
INOUT 该类参数既可作为输入也可做为输出
CREATE PROCEDURE 存储过程名([IN\OUT\INOUT 参数名 参数类型])
BEGIN
...SQL语句;
END;
CASE

case结构及作用,和我们在基础篇中所讲解的流程控制函数很类似。有两种语法格式:

#当case_value的值为 when_value1时,执行statement_list1,当值为 when_value2时,执行statement_list2, 否则就执行 statement_list
CASE case_value
	WHEN when_value1 THEN statment_list1
	[WHEN when_value2 THEN statment_list2
     ...
	ELSE statment_list]
END CASE;
#当条件search_condition1成立时,执行statement_list1,当条件search_condition2成立时,执行statement_list2, 否则就执行 statement_list
WHILE

WHILE循环时有条件的循环控制语句。满足条件后才执行循环体中的SQL语句。具体语法:

WHILE 条件 DO
	SQL语句...
END WHILE

案例:

#计算从1到n的累加值,n为输入的数值
CREATE PROCEDURE p3(in n int)
BEGIN
	DECLARE total int default 0;
	WHILE n > 0 DO
		SET total := total + n;
		set n = n -1;
	END WHILE;
	SELECT total;
END
REPEAT

REPEAT是有条件的循环控制语句,当满足条件的时候退出循环。具体语法:

#不管条件如何先执行一次,然后判断逻辑是否满足,如果满足则退出;如果不满足,则进行下一次循环。
REPEAT
	SQL语句...
	UNTIL 条件;
END REPEAT;

案例:

#计算从1到n的累加值,n为输入的数值
CREATE PROCEDURE p4(in n int)
BEGIN
	DECLARE total int DEFAULT 0;
	REPEAT
		SET total = total + n;
		SET n = n - 1;
	UNTIL n = 0 
	END REPEAT;
	SELECT total;
END;
LOOP

LOOP能够实现简单的循环,如果不在SQL语句中增加退出的条件,就可以用来实现简单的死循环。LOOP可以配合以下两个语句使用:

  • LEAVE:配合循环使用,退出循环。
  • ITERATE:必须用在循环中,作用是跳过当前循环剩下的语句,直接进入下一次循环。

语法:

[BEGIN_LABEL] LOOP
	SQL语句...
END LOOP [END_LABEL];
LEVEL LEABEL; #退出指定标记的循环体
INTERATE LABEL; #直接进入下一次循环体
游标

游标(CURSOR)是用来存储查询结果集的数据类型,在存储过程和函数中可以使用游标对结果集进行循环的处理。游标的使用包括游标的声明、OPEN、FETCH 和 CLOSE,其语法分别如下。

声明游标
DECLARE 游标名称 CURSOR FOR 查询语句;
打开游标
OPEN 游标名称;
获取游标记录
FETCH 游标名称 INTO 变量 [,变量];
关闭游标
CLOSE 游标名称;
条件处理程序HANDLE

条件处理程序(Handler)可以用来定义在流程控制结构执行过程中遇到问题时相应的处理步骤。具体语法为:

DELCARE handle_action HANDLER FOR condition_value [,condition_value]... statment;

handler_action
	CONTINUE:继续执行当前程序
	EXIT:终止执行当前程序
condition_value
	SQLSTATE sqlstate_value:状态码,如02000
	SQLWARNING:所有以01开头的SQLSTATE代码的简写
	NOT FOUND:所有以02开头的SQLSTATE代码的简写
	SQLEXCEPTION:所有没有呗SQLWARING 或 NOT FOUND捕获的SQLSTATE代码的简写
存储函数

存储函数是有返回值的存储过程,存储函数的参数只能是IN类型的。语法:

CREATE FUNCTION 存储函数名称([参数列表])
RETURNS type [characteristic ...]
BEGIN
	[SQL语句...]
	RETURN ...;
END;

characteristic:
    DETERMINISTIC:相同的输入参数总是产生相同的结果
    NOSQL:不包含SQL语句
    READS SQL DATA:包含读取数据的语句,但不包含写入数据的语句
触发器

触发器是与表有关的数据库对象,指在insert/update/delete之前(BEFORE)或之后(AFTER),触发并执行触发器中定义的SQL语句集合。触发器的这种特性可以协助应用在数据库端确保数据的完整性,日志记录,数据校验等操作 。

使用别名OLD和NEW来引用触发器中发生变化的记录内容,这与其他的数据库是相似的。现在触发器还

只支持行级触发,不支持语句级触发。触发器类型如下:

触发器类型 NEW和OLD
INSERT触发器 NEW表示将要或者已经新增的数据
UPDATE触发器 OLD表示修改之前的数据,NEW表示将将要或者已经修改之后的数据
DELETE触发器 OLD表示将要或者已经删除的数据

语法:

#创建触发器
CREATE TRIGGER trigger_name
BEFORE/AFTER INSERT/UPDATE/DELETE ON table_name FOR EACH ROW #行级触发器
BEGIN
 	trigger_stmt;
END;

#查看触发器
SHOW TRIGGERS;

#删除触发器
DROP TRIGGER [schema_name.]trigger_name;
小结
  1. 视图(VIEW)
    • 虚拟存在的表,不保存查询结果,只保存查询的SQL逻辑
    • 简单、安全、数据独立
  2. 存储过程
    • 事先定义并存储在数据库中的一段SQL语句的集合
    • 减少网络交互,提高性能、封装、可重用
    • 变量、IF、CASE、参数(IN/OUT/INOUT)、WHILE、REPEAT、LOOP、CURSOR、HANDLER
  3. 存储函数
    • 存储函数是有返回值的存储过程,参数类型只能为IN
    • 存储函数可以被存储过程替代
  4. 触发器
    • 可以在表数据进行INSERT、UPDATE、DELETE之前或之后触发
    • 保证数据完整性、日志记录、数据校验

概述

锁是计算机协调多个进程或线程并发访问某一资源的机制。在数据库中,除传统的计算资源(CPU、RAM、I/O)的争用以外,数据也是一种供许多用户共享的资源。如何保证数据并发访问的一致性、有效性是所有数据库必须解决的一个问题,锁冲突也是影响数据库并发访问性能的一个重要因素。从这个角度来说,锁对数据库而言显得尤其重要,也更加复杂。

在MySQL中,按照粒度可以把锁分为三类:

  1. 全局锁:锁定数据库中的所有表
  2. 表级锁:锁定某个数据库中的一整张表
  3. 行级锁:锁定某个表中对应的某一行数据
全局锁

全局锁就是对整个数据库实例加锁,加锁后整个实例就处于只读状态,后续的DML的写语句,DDL语句,已经更新操作的事务提交语句都将被阻塞。

其典型的使用场景是做全库的逻辑备份,对所有的表进行锁定,从而获取一致性视图,保证数据的完整性。

全库备份语法:

#加锁
FLUSH TABLES WITH READ LOCK;
#数据备份
MYSQLDUMP -uusername -ppassword database > filename.sql
#释放锁
UNLOCK TABLES;

特点:

  1. 如果在主库上进行加全局锁备份,那么在备份期间都不能执行更新,业务基本无法正常进行。
  2. 如果在从库上进行加全局锁备份,那么在备份期间从库就无法与主库进行同步,会导致主从不同步。

在InnoDB引擎中,可以在备份时加上--single-transaction参数来完成不加锁的一致性备份。

MYSQLDUMP --single-transaction -uusername -ppassword database > filename.sql
表级锁

表级锁,每次操作锁住整张表。锁定粒度大,发生锁冲突的概率最高,并发度最低。应用在MyISAM、InnoDB、BDB等存储引擎中。

对于表级锁,主要分为三类:

  1. 表锁
  2. 意向锁
  3. 元数据锁(META DATA LOCK,MDL)
表锁

对于表锁,又可以分为两类:

  1. 表共享读锁(read lock)
  2. 表独占写锁(write lock)

语法:

#加锁
LOCK TABLES 表名... read/write;
#释放锁
UNLOCK TABLES; / 客户端断开连接

读锁不会阻塞其他客户端的读,但是会阻塞写。写锁既会阻塞其他客户端的读,又会阻塞其他客户端的写。

元数据锁(META DATA LOCK,MDL)

MDL加锁过程是系统自动控制,无需显式使用,在访问一张表的时候会自动加上。MDL锁主要作用是维护表元数据的数据一致性,在表上有活动事务的时候,不可以对元数据进行写入操作。为了避免DML与DDL冲突,保证读写的正确性。

在MySQL5.5中引入了MDL,当对一张表进行增删改查的时候,加MDL读锁(共享);当对表结构进行变更操作的时候,加MDL写锁(排他)。

对应SQL 锁类型 说明
LOCK TABLES … READ/WRITE SHARED_READ_ONLY/SHARED_NO_READ_WRITE
SELECT、SELECT … LOCK IN SHARE MODE SHARED_READ 与SHARED_READ、SHARED_WRITE兼容,与EXCLUSIVE互斥
INSERT、UPDATE、DELETE、SELECT … FOR UPDATE SHARED_WRITE 与SHARED_READ、SHARED_WRITE兼容,与EXCLUSIVE互斥
ALTER TABLE … EXCLUSIVE 与其他的MDL都互斥

查看元数据锁:

select object_type,object_schema,object_name,lock_type,lock_duration from performance_schema.metadata_locks ;
意向锁

为了避免DML在执行时,加的行锁与表锁的冲突,在InnoDB中引入了意向锁,使得表锁不用检查每行数据是否加锁,使用意向锁来减少表锁的检查。

意向锁又可以分为两种:

  1. 意向共享锁(IS):由SELECT … LOCK IN SHARE MODE添加
  2. 意向排他锁(IX):由INSERT、UPDATE、DELETE、SELECT … FOR UPDATE添加

而两种锁和表锁的兼容情况如下:

  1. 意向共享锁(IS):与表锁共享锁(read)兼容,与表锁排他锁(write)互斥
  2. 意向排他锁(IX):与表锁共享锁(read)及排他锁(write)都互斥。意向锁之间不会互斥。

可以通过以下语句,查看意向锁及行锁的加锁情况:

select object_schema,object_name,index_name,lock_type,lock_mode,lock_data from performance_schema.data_locks;
行级锁

行级锁,每次操作锁住对应的行数据。锁定粒度最小,发生锁冲突的概率最低,并发度最高。应用在InnoDB存储引擎中。

InnoDB的数据是基于索引组织的,行锁是通过对索引上的索引项加锁来实现的,而不是对记录加的锁。对于行级锁,主要分为以下三类:

  1. 行锁(RECORD LOCK):锁定单个行记录的锁,防止其他事务对此行进行update和delete。在RC、RR隔离级别下都支持。
  2. 间隙锁(GAP LOCK):锁定索引记录间隙(不含该记录),确保索引记录间隙不变,防止其他事务在这个间隙进行insert,产生幻读。在RR隔离级别下都支持。
  3. 临键锁(NEXT-KEY LOCK):行锁和间隙锁组合,同时锁住数据,并锁住数据前面的间隙Gap。 在RR隔离级别下支持。
行锁

InnoDB实现了两种类型的行锁:

  • 共享锁(S):允许一个事务去读一行,阻止其他事务获得相同数据集的排它锁。
  • 排他锁(X):允许获取排他锁的事务更新数据,阻止其他事务获得相同数据集的共享锁和排他锁

两种行锁的兼容情况如下:

共享锁(S) 排他锁(X)
共享锁(S) 兼容 冲突
排他锁(X) 冲突 冲突

常用的SQL语句,在执行时,所加的行锁如下:

语法 类型 说明
INSERT… 排他锁 自动加锁
UPDATE… 排他锁 自动加锁
DELETE… 排他锁 自动加锁
SELECT… 不加锁
SELECT … LOCK IN SHARE MODE 共享锁 手动加锁
SELECT … FOR UPDATE 排他锁 手动加锁

在默认情况下,InnoDB在REPEATABLE READ可重复读的隔离级别下运行,InnoDB使用NEXT-KEY锁进行搜索和索引扫描,以此来防止幻读。

  • 针对唯一索引进行检索时,对已存在的记录进行等值匹配时,将会自动优化为行锁。
  • InnoDB的行锁是针对于索引加的锁,不通过索引条件检索数据,那么InnoDB将对表中的所有记录加锁,此时 就会升级为表锁。

可以通过以下语句,查看意向锁及行锁的加锁情况:

select object_schema,object_name,index_name,lock_type,lock_mode,lock_data from performance_schema.data_locks;
间隙锁/临键锁

默认情况下,InnoDB在 REPEATABLE READ事务隔离级别运行,InnoDB使用 next-key 锁进行搜索和索引扫描,以防止幻读。

  • 索引上的等职查询(唯一索引),给不存在的记录加锁时,优化为间隙锁
  • 索引上的等值查询(非唯一普通索引),向右遍历时最后一个值不满足查询需求时,next-key lock退化为间隙锁
  • 索引上的范围查询(唯一索引)会访问到不满足条件的第一个值为止

间隙锁唯一目的是防止其他事务插入间隙。间隙锁可以共存,一个事务采用的间隙锁不会阻止另一个事务在同一间隙上采用间隙锁。

小结
  1. 概述
    • 在并发访问时,解决数据访问的一致性、有效性问题
    • 全局锁、表级锁、行级锁
  2. 全局锁
    • 对整个数据库实例进行加锁,加锁后整个实例就处于只读状态
    • 性能较差,数据逻辑备份时使用
  3. 表级锁
    • 操作锁住整张表,锁定粒度大,发生锁冲突的概率高
    • 表锁、元数据锁、意向锁
  4. 行级锁
    • 操作锁住对应的行数据,锁定粒度最小,发生锁冲突的概率最低
    • 行锁、间隙锁、临键锁

InnoDB引擎

逻辑存储结构

再次回顾,InnoDB的逻辑存储结构如下所示:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第11张图片

  1. 表空间(Tablespace)

    表空间是InnoDB存储引擎逻辑结构的最高层,如果用户启用了参数innodb_file_per_table(在8.0版本中默认开启),则每张表都会有一个表空间(xxx.ibd)一个mysql实例可以对应多个表空间,用于存储记录、索引等数据。

  2. 段(Seqment)

    段,分为数据段(Leaf node segment)索引段(Non-leaf node segment)回滚段(Rollback segment)InnoDB是索引组织表,数据段就是B+树的叶子节点,索引段即为B+树的非叶子节点。段用来管理多个Extent(区)。

  3. 区(Extent)

    区,表空间的单元结构,每个区的大小为1M。默认情况下,InnoDB存储引擎页大小为16K,即一个区中一共有64个连续的页。

  4. 页(Page)

    页,是InnoDB 存储引擎磁盘管理的最小单元,每个页的大小默认为16KB。为了保证页的连续性,InnoDB 存储引擎每次从磁盘申请4-5个区。

  5. 行(Row)

    行,InnoDB 存储引擎数据是按行进行存放的。

    在行中,默认有两个隐藏字段:

    • Trx_id:每次对某条记录进行改动时,都会把对应的事务id赋值给trx_id隐藏列。
    • Roll_pointer:每次对某条引记录进行改动时,都会把旧的版本写入到undo日志中,然后这个隐藏列就相当于一个指针,可以通过它来找到该记录修改前的信息。
架构

MySQL5.5 版本开始,默认使用InnoDB存储引擎,它擅长事务处理,具有崩溃恢复特性,在日常开发中使用非常广泛。下面是InnoDB架构图,左侧为内存结构,右侧为磁盘结构。

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第12张图片

内存结构

在左侧的内存结构中,主要分为四大块: Buffer Pool、Change Buffer、AdaptiveHash Index、Log Buffer。 接下来介绍一下这四个部分。

  1. Buffer Pool(缓冲池)

    InnoDB存储引擎基于磁盘文件存储,访问物理硬盘和在内存中进行访问,速度相差很大,为了尽可能弥补这两者之间的I/O效率的差值,就需要把经常使用的数据加载到缓冲池中,避免每次访问都进行磁盘I/O。

    在InnoDB的缓冲池中不仅缓存了索引页和数据页,还包含了undo页、插入缓存、自适应哈希索引以及InnoDB的锁信息等等。

    Buffer Pool,是主内存中的一个区域,里面可以缓存磁盘上经常操作的真实数据,在执行增删改查操作时,先操作缓冲池中的数据(若缓冲池没有数据,则从磁盘加载并缓存),然后再以一定频率刷新到磁盘,从而减少磁盘IO,加快处理速度。

    缓冲池以Page页为单位,底层采用链表数据结构管理Page。根据状态,将Page分为三种类型:

    • free page:空闲page,已被申请未被使用。
    • clean page:被使用page,数据没有被修改过。
    • dirty page:脏页,被使用page,数据被修改过,也中数据与磁盘的数据产生了不一致。
    SHOW VARIABLES LIKE 'innodb_buffer_poll_size'
    
  2. Change Buffer

    更改缓冲区(针对于非唯一二级索引页),在执行DML语句时,如果这些数据Page没有在Buffer Pool中,不会直接操作磁盘,而会将数据变更存在更改缓冲区 Change Buffer中,在未来数据被读取时,再将数据合并恢复到Buffer Pool中,再将合并后的数据刷新到磁盘中。

  3. AdaptiveHash Index

    自适应hash索引,用于优化对Buffer Pool数据的查询。MySQL的innoDB引擎中虽然没有直接支持hash索引,但是给我们提供了一个功能就是这个自适应hash索引。因为hash索引在进行等值匹配时,一般性能是要高于B+树的,因为hash索引一般只需要一次IO即可,而B+树,可能需要2-3次匹配,所以hash索引的效率要高,但是hash索引又不适合做范围查询、模糊匹配等。

    InnoDB存储引擎会监控对表上各索引页的查询,如果观察到在特定的条件下hash索引可以提升速度,则建立hash索引,称之为自适应hash索引。

    自适应哈希索引,无需人工干预,是系统根据情况自动完成。

    SHOW VARIABLES LIKE '%hash_index%'
    
  4. Log Buffer

    日志缓冲区,用来保存要写入到磁盘中的log日志数据(redo log 、undo log),默认大小为 16MB,日志缓冲区的日志会定期刷新到磁盘中。如果需要更新、插入或删除许多行的事务,增加日志缓冲区的大小可以节省磁盘 I/O。

    SHOW VARIABLES LIKE 'innodb_log_buffer_size' #查询缓冲区大小
    
    SHOW VARIABLES LIKE 'innodb_flush_log_at_trx_commit' #日志刷新到磁盘时机
    #取值:
    # 0:日志在每次事务提交后写入,并每秒刷新到磁盘一次。
    # 1:日志在每次事务提交时写入并刷新到磁盘,默认值。
    # 2:每秒将日志写入并刷新到磁盘一次。
    
事务原理
事务基础

事务是一组操作的集合,它是一个不可分割的工作单位,事务会把所有的操作作为一个整体一起向系统提交或撤销操作请求,即这些操作要么同时成功,要么同时失败。

事务有四大特性ACID分别是:

  • 原子性(Atomicity):事务是不可分割的最小操作单元,要么全部成功,要么全部失败。
  • 一致性(Consistency):事务完成时,必须使所有的数据都保持一致状态。
  • 隔离性(Isolation):数据库系统提供的隔离机制,保证事务在不受外部并发操作影响的独立环境下运行。
  • 持久性(Durability):事务一旦提交或回滚,它对数据库中的数据的改变就是永久的。

而对于这四大特性,实际上分为两个部分。 其中的原子性、一致性、持久化,实际上是由InnoDB中的两份日志来保证的,一份是redo log日志,一份undo log日志。 而持久性是通过数据库的锁,加上MVCC来保证的。

REDO LOG

重做日志,记录的是事务提交时数据页的物理修改,是用来实现事务的持久性。

该日志文件由两部分组成:重做日志缓冲(redo log buffer)以及重做日志文件(redo logfile),前者是在内存中,后者在磁盘中。当事务提交之后会把所有修改信息都存到该日志文件中, 用于在刷新脏页到磁盘,发生错误时, 进行数据恢复使用。

那为什么每一次提交事务,要刷新redo log到磁盘中呢,而不是直接将buffer pool中的脏页刷新到磁盘呢 ?

因为在业务操作中,我们操作数据一般都是随机读写磁盘的,而不是顺序读写磁盘。而redo log在往磁盘文件中写入数据,由于是日志文件,所以都是顺序写的。顺序写的效率,要远大于随机写。这种先写日志的方式,称之为WAL(Write-Ahead Logging)

UNDO LOG

回滚日志,用于记录数据被修改前的信息,作用包含两个:提供回滚(保证事务的原子性)和MVCC(多版本并发控制) 。

undo log和redo log记录物理日志不一样,它是逻辑日志。可以认为当delete一条记录时,undolog中会记录一条对应的insert记录,反之亦然,当update一条记录时,它记录一条对应相反的update记录。当执行rollback时,就可以从undo log中的逻辑记录读取到相应的内容并进行回滚。

Undo log销毁:undo log在事务执行时产生,事务提交时,并不会立即删除undo log,因为这些日志可能还用于MVCC。

Undo log存储:undo log采用段的方式进行管理和记录,存放在rollback segment回滚段中,内部包含1024个undo log segment。

MVCC
基本概念
当前读

读取的是记录的最新版本,读取时还要保证其他并发事务不能修改当前记录,会对读取的记录进行加锁。对于我们日常的操作,如:select … lock in share mode(共享锁),select …for update、update、insert、delete(排他锁)都是一种当前读。

快照读

简单的select(不加锁)就是快照读,快照读,读取的是记录数据的可见版本,有可能是历史数据,不加锁,是非阻塞读。

  • Read Committed:每次select,都生成一个快照读。
  • Repeatable Read:开启事务后第一个select语句才是快照读的地方。
  • Serializable:快照读会退化为当前读。
MVCC

MVCC全称``Multi-Version Concurrency Control,**多版本并发控制**。指维护一个数据的多个版本,使得读写操作没有冲突,快照读为MySQL实现MVCC提供了一个非阻塞读功能。MVCC的具体实现,还需要依赖于数据库记录中的三个隐式字段、undo log日志、readView`。

隐藏字段

image-20220919103447119

当我们创建了上面的这张表,我们在查看表结构的时候,就可以显式的看到这三个字段。 实际上除了这三个字段以外,InnoDB还会自动的给我们添加三个隐藏字段及其含义分别是:

字段 含义
DB_TRX_ID 最近修改事务ID,记录插入这条记录或最后一次修改该记录的事务ID。
DB_ROLL_PTR 回滚指针,指向这条记录的上一个版本,用于配合undo log,指向上一个版本。
DB_ROW_ID 隐藏主键,如果表结构没有指定主键,将会生成该隐藏字段。

而上述的前两个字段是肯定会添加的, 是否添加最后一个字段DB_ROW_ID,得看当前表有没有主键,如果有主键,则不会添加该隐藏字段。

UNDO LOG

回滚日志,在insert、update、delete的时候产生的便于数据回滚的日志。当insert的时候,产生的undo log日志只在回滚时需要,在事务提交后,可被立即删除。而update、delete的时候,产生的undo log日志不仅在回滚时需要,在快照读时也需要,不会立即被删除。

MVCC版本链

有一张表原始数据为:

image-20220919104904470

现有四个并发事务同时访问这张表:

  1. 第一步

    《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第13张图片

    当事务2执行第一条修改语句时,会记录undo log日志,记录数据变更之前的样子; 然后更新记录,并且记录本次操作的事务ID,回滚指针,回滚指针用来指定如果发生回滚,回滚到哪一个版本。

    《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第14张图片

  2. 第二步

    《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第15张图片

    当事务3执行第一条修改语句时,也会记录undo log日志,记录数据变更之前的样子; 然后更新记录,并且记录本次操作的事务ID,回滚指针,回滚指针用来指定如果发生回滚,回滚到哪一个版本。

    《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第16张图片

  3. 第三步

    《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第17张图片

    当事务4执行第一条修改语句时,也会记录undo log日志,记录数据变更之前的样子; 然后更新记录,并且记录本次操作的事务ID,回滚指针,回滚指针用来指定如果发生回滚,回滚到哪一个版本。

    《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第18张图片

最终我们发现,不同事务或相同事务对同一条记录进行修改,会导致该记录的undolog生成一条记录版本链表,链表的头部是最新的旧记录,链表尾部是最早的旧记录。

ReadView

ReadView(读视图)是 快照读 SQL执行时MVCC提取数据的依据,记录并维护系统当前活跃的事务(未提交的)id。

ReadView中包含了四个核心字段:

字段 含义
m_ids 当前活跃的事务ID集合
min_trx_id 最小活跃事务ID
max_trx_id 预分配事务ID,当前最大事务ID+1(因为事务ID是自增的)
creator_trx_id ReadView创建者的事务ID

而在Readiew中就规定了版本链数据的访问规则:

trx_id 代表当前undolog版本链对应事务ID。

条件 能否访问 说明
trx_id == creatro_trx_id 可以访问该版本 成立,说明数据是当前这个事务更改的。
trx_id < min_trx_id 可以访问该版本 成立,说明数据已经提交了。
trx_id > max_trx_id 不可以访问该版本 成立,说明该事务是在ReadView生成后才开启的。
min_trx_id <= trx_id <= max_trx_id 如果trx_id不在m_ids中,那么可以访问该版本 成立,说明数据已经提交。

不同的隔离级别,生成ReadView的时机不同:

  • READ COMMITTED:在事务中每一次执行快照读的时候生成ReadView。
  • REPEATABLE READ:只在事务第一次执行快照读的时候生成ReadView,后续重复使用该ReadView。
小结
  1. 逻辑存储结构
    • 表空间、段、区、页、行
  2. 架构
    • 内存结构
    • 磁盘结构
  3. 事务原理
    • 原子性-UNDO LOG
    • 持久性-REDO LOG
    • 一致性-UNDO LOG+REDO LOG
    • 隔离性-锁+MVCC
  4. MVCC
    • 记录隐藏字段
    • UNDO LOG版本链
    • Read View

MySQL管理

系统数据库

MySQL数据库在安装完成后,自带了以下四个数据库,具体作用如下表:

数据库 含义
mysql 存储MySQL服务器正常运行所需要的各种信息(时区、主从、用户、权限等)
information_schema 提供了访问数据库元数据的各种表和视图,包含数据库、表、字段类型及访问权限等
performance_schema 为MySQL服务器运行时状态提供了一个底层监控功能,主要用于收集数据库服务器性能参数
sys 包含了一系列方便DBA和开发人员利用performance_schema性能数据库进行性能调优和诊断的视图
常用工具
mysql

此处的mysql并不是指MySQL服务,而是指MySQL的客户端工具。

#语法
mysql [options] [database]
#选项
	-u,--user=name			#指定用户名
	-p,--password[=name]     #指定密码
	-h,--host=name			#指定服务器IP或域名
	-P,--port=port			#指定连接端口
	-e,--execute=name		#执行SQL语句并退出

-e选项可以在MySQL客户端执行SQL语句,而不用连接到MySQL数据库再执行,对于一些批处理脚本,这种方式尤其方便。

#示例
mysql -uroot -p123 testdb -e "SELECT * FROM testtb"
mysqladmin

mysqladmin 是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。

具体选项可以通过查看帮助文档:

《黑马程序员 MySQL数据库入门到精通,从MySQL安装到MySQL高级、MySQL优化全囊括》——学习笔记进阶篇_第19张图片

#语法
mysqladmin [options] command ...
#选项
	-u,--user=name			#指定用户名
	-p,--password[=name]     #指定密码
	-h,--host=name			#指定服务器IP或域名
	-P,--port=port			#指定连接端口
mysqlbinlog

由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog 日志管理工具。

#语法
mysqlbinlog [options] log-files1 [log-files2 ...]
#选项
	-d,--database=name		#指定数据库名称,只列出指定数据库相关操作
	-o,--offset=#			#忽略日志中的前n行
	-r,--result-file=name	#将输出的文本格式日志输出到指定文件
	-s,--short-form			#显示简单格式,省略掉一些信息
	--start-datatime=date1 --stop-datetime=date2		#指定日期间隔内的所有日志
	--start-position=pos1 --stop-position=pos2			#指定位置间隔内的所有日志
mysqlshow

mysqlshow 客户端对象查找工具,用来很快地查找存在哪些数据库、数据库中的表、表中的列或者索引。

#语法
mysqlshow [options] [databasename [tablename [colunmname]]]
#选项
	--count		#显示数据库及表的统计信息(数据库,表均可不指定)
	-i			#显示指定数据库或指定表的状态信息
mysqldump

mysqldump 客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的SQL语句。

#语法
mysqldump [options] db_name [tables] 
mysqldump [options] --database/-B db1 [db2 db3...] 
mysqldump [options] --all-databases/-A
#连接选项
	-u, --user=name 		#指定用户名 
	-p, --password[=name] 	#指定密码 
	-h, --host=name 	    #指定服务器ip或域名 
	-P, --port=# 			#指定连接端口
#输出选项
	--add-drop-database 	#在每个数据库创建语句前加上 drop database 语句 
	--add-drop-table 		#在每个表创建语句前加上 drop table 语句 , 默认开启 ; 不 开启 (--skip-add-drop-table) 
	-n, --no-create-db 		#不包含数据库的创建语句 
	-t, --no-create-info 	#不包含数据表的创建语句 
	-d --no-data 			#不包含数据 
	-T, --tab=name 			#自动生成两个文件:一个.sql文件,创建表结构的语句;一 个.txt文件,数据文件
mysqlimport

mysqlimport 是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。

#语法
mysqlimport [options] databasename textfile1 [textfile2 ...]
#示例
mysqlimport -uroot -p1234 testdb /var/lib/testtb.txt
souce

如果需要导入sql文件,可以使用mysql中的source指令

#语法
source filename
#实例
source /var/lib/testtb.sql

行SQL语句并退出


-e选项可以在MySQL客户端执行SQL语句,而不用连接到MySQL数据库再执行,对于一些批处理脚本,这种方式尤其方便。

```shell
#示例
mysql -uroot -p123 testdb -e "SELECT * FROM testtb"
mysqladmin

mysqladmin 是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。

具体选项可以通过查看帮助文档:

[外链图片转存中…(img-9QBy08ZL-1664172889194)]

#语法
mysqladmin [options] command ...
#选项
	-u,--user=name			#指定用户名
	-p,--password[=name]     #指定密码
	-h,--host=name			#指定服务器IP或域名
	-P,--port=port			#指定连接端口
mysqlbinlog

由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog 日志管理工具。

#语法
mysqlbinlog [options] log-files1 [log-files2 ...]
#选项
	-d,--database=name		#指定数据库名称,只列出指定数据库相关操作
	-o,--offset=#			#忽略日志中的前n行
	-r,--result-file=name	#将输出的文本格式日志输出到指定文件
	-s,--short-form			#显示简单格式,省略掉一些信息
	--start-datatime=date1 --stop-datetime=date2		#指定日期间隔内的所有日志
	--start-position=pos1 --stop-position=pos2			#指定位置间隔内的所有日志
mysqlshow

mysqlshow 客户端对象查找工具,用来很快地查找存在哪些数据库、数据库中的表、表中的列或者索引。

#语法
mysqlshow [options] [databasename [tablename [colunmname]]]
#选项
	--count		#显示数据库及表的统计信息(数据库,表均可不指定)
	-i			#显示指定数据库或指定表的状态信息
mysqldump

mysqldump 客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的SQL语句。

#语法
mysqldump [options] db_name [tables] 
mysqldump [options] --database/-B db1 [db2 db3...] 
mysqldump [options] --all-databases/-A
#连接选项
	-u, --user=name 		#指定用户名 
	-p, --password[=name] 	#指定密码 
	-h, --host=name 	    #指定服务器ip或域名 
	-P, --port=# 			#指定连接端口
#输出选项
	--add-drop-database 	#在每个数据库创建语句前加上 drop database 语句 
	--add-drop-table 		#在每个表创建语句前加上 drop table 语句 , 默认开启 ; 不 开启 (--skip-add-drop-table) 
	-n, --no-create-db 		#不包含数据库的创建语句 
	-t, --no-create-info 	#不包含数据表的创建语句 
	-d --no-data 			#不包含数据 
	-T, --tab=name 			#自动生成两个文件:一个.sql文件,创建表结构的语句;一 个.txt文件,数据文件
mysqlimport

mysqlimport 是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。

#语法
mysqlimport [options] databasename textfile1 [textfile2 ...]
#示例
mysqlimport -uroot -p1234 testdb /var/lib/testtb.txt
souce

如果需要导入sql文件,可以使用mysql中的source指令

#语法
source filename
#实例
source /var/lib/testtb.sql

你可能感兴趣的:(mysql)