正文开始!!!
索引
:提高数据库的性能,索引是物美价廉的东西了.不用加内存,不用改程序,不用调sql,只要执行正确的create index
,查询速度就可能提高成百上千倍.但是天下没有免费的午餐,查询速度的提高是以插入,更新,删除的速度为代价的,这些写操作,增加了大量的IO.所以它的价值,在于提高一个海量数据的检索速度.
常见的索引分为:
案例:
先构建一个海量表,在查询的时候,看看没有索引有什么问题?
--构建一个8000000条记录的数据
--构建的海量表数据需要有差异性,所以使用存储过程来创建, 拷贝下面代码就可以了
-- 产生随机字符串
delimiter $$
create function rand_string(n INT)
returns varchar(255)
begin
declare chars_str varchar(100) default
'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';
declare return_str varchar(255) default '';
declare i int default 0;
while i < n do
set return_str =concat(return_str,substring(chars_str,floor(1+rand()*52),1));
set i = i + 1;
end while;
return return_str;
end $$
delimiter ;
--产生随机数字
delimiter $$
create function rand_num()
returns int(5)
begin
declare i int default 0;
set i = floor(10+rand()*500);
return i;
end $$
delimiter ;
--创建存储过程,向雇员表添加海量数据
delimiter $$
create procedure insert_emp(in start int(10),in max_num int(10))
begin
declare i int default 0;
set autocommit = 0;
repeat
set i = i + 1;
insert into EMP values ((start+i)
,rand_string(6),'SALESMAN',0001,curdate(),2000,400,rand_num());
until i = max_num
end repeat;
commit;
end $$
delimiter ;
-- 执行存储过程,添加8000000条记录
call insert_emp(100001, 8000000);
mysql> select * from EMP where empno=999999;
+--------+--------+----------+------+---------------------+---------+--------+--------+
| empno | ename | job | mgr | hiredate | sal | comm | deptno |
+--------+--------+----------+------+---------------------+---------+--------+--------+
| 999999 | tHezkB | SALESMAN | 0001 | 2023-04-23 00:00:00 | 2000.00 | 400.00 | 17 |
+--------+--------+----------+------+---------------------+---------+--------+--------+
1 row in set (5.22 sec)
mysql> select * from EMP where empno=111111;
+--------+--------+----------+------+---------------------+---------+--------+--------+
| empno | ename | job | mgr | hiredate | sal | comm | deptno |
+--------+--------+----------+------+---------------------+---------+--------+--------+
| 111111 | vJlcFU | SALESMAN | 0001 | 2023-04-23 00:00:00 | 2000.00 | 400.00 | 331 |
+--------+--------+----------+------+---------------------+---------+--------+--------+
1 row in set (4.68 sec)
可以看到耗时5.22s,这还是在本机一个人来操作,在实际项目中,如果放到公网中,加入同时有1000个人并发查询,那很可能就死机了!
mysql> alter table EMP add index(empno);
Query OK, 0 rows affected (20.64 sec)
Records: 0 Duplicates: 0 Warnings: 0
mysql> select * from EMP where empno=999999;
+--------+--------+----------+------+---------------------+---------+--------+--------+
| empno | ename | job | mgr | hiredate | sal | comm | deptno |
+--------+--------+----------+------+---------------------+---------+--------+--------+
| 999999 | tHezkB | SALESMAN | 0001 | 2023-04-23 00:00:00 | 2000.00 | 400.00 | 17 |
+--------+--------+----------+------+---------------------+---------+--------+--------+
1 row in set (0.01 sec)
mysql> select * from EMP where empno=111111;
+--------+--------+----------+------+---------------------+---------+--------+--------+
| empno | ename | job | mgr | hiredate | sal | comm | deptno |
+--------+--------+----------+------+---------------------+---------+--------+--------+
| 111111 | vJlcFU | SALESMAN | 0001 | 2023-04-23 00:00:00 | 2000.00 | 400.00 | 331 |
+--------+--------+----------+------+---------------------+---------+--------+--------+
1 row in set (0.01 sec)
MySQL
给用户提供存储服务,而存储的都是数据,数据在磁盘这个外设之中.磁盘是计算机中的一个机械设备,相当于计算机其他电子元件,磁盘效率是比较低的,在加上IO本身的特性,可以知道,如何提高效率,是MySQL的一个重要话题.
数据库文件,本质其实就是保存在磁盘的盘片当中.也就是上面的一个个小格子中,就是我们经常所说的扇区.当然,数据库文件很大,也很多,一定需要占据多个扇区.
题外话:
我们在使用Linux中所看到的大部分目录或者文件,其实就是保存在硬盘当中的.(当然,有一些内存文件系统,如:proc
,sys
之类,我们不考虑).
#数据库文件,本质其实就是保存在磁盘的盘片当中,就是一个一个的文件
[root@centos7 2023_04_22]# ls /var/lib/mysql -l; #我们目前MySQL中的文件
total 254032
-rw-r----- 1 mysql mysql 56 Apr 6 23:33 auto.cnf
-rw------- 1 mysql mysql 1680 Apr 6 23:33 ca-key.pem
-rw-r--r-- 1 mysql mysql 1112 Apr 6 23:33 ca.pem
-rw-r--r-- 1 mysql mysql 1112 Apr 6 23:33 client-cert.pem
-rw------- 1 mysql mysql 1680 Apr 6 23:33 client-key.pem
drwxr-x--- 2 mysql mysql 4096 Apr 21 14:26 hulu_db
drwxr-x--- 2 mysql mysql 4096 Apr 27 10:12 hulu_index
-rw-r----- 1 mysql mysql 288 Apr 6 23:48 ib_buffer_pool
-rw-r----- 1 mysql mysql 146800640 Apr 27 10:14 ibdata1
-rw-r----- 1 mysql mysql 50331648 Apr 27 10:14 ib_logfile0
-rw-r----- 1 mysql mysql 50331648 Apr 27 10:14 ib_logfile1
-rw-r----- 1 mysql mysql 12582912 Apr 25 23:02 ibtmp1
drwxr-x--- 2 mysql mysql 4096 Apr 20 09:50 mall_db
drwxr-x--- 2 mysql mysql 4096 Apr 6 23:33 mysql
srwxrwxrwx 1 mysql mysql 0 Apr 6 23:49 mysql.sock
-rw------- 1 mysql mysql 5 Apr 6 23:49 mysql.sock.lock
drwxr-x--- 2 mysql mysql 4096 Apr 6 23:33 performance_schema
-rw------- 1 mysql mysql 1676 Apr 6 23:33 private_key.pem
-rw-r--r-- 1 mysql mysql 452 Apr 6 23:33 public_key.pem
drwxr-x--- 2 mysql mysql 4096 Apr 25 22:49 scott
-rw-r--r-- 1 mysql mysql 1112 Apr 6 23:33 server-cert.pem
-rw------- 1 mysql mysql 1676 Apr 6 23:33 server-key.pem
drwxr-x--- 2 mysql mysql 12288 Apr 6 23:33 sys
所以,最基本的找到一个文件的全部.本质就是在磁盘中找到所有保存文件的扇区.
而我们能够定位任何一个扇区,那么便能找到所有的扇区,因此查找的方式是一样的.
我们现在已经能够在硬件层面定位任何一个基本数据块(扇区).那么在系统软件上,就直接按照扇区(512字节,部分4096字节),进行IO交互吗?—>不是!!!
故:系统读取磁盘,是以块为单位的,基本单位是4KB
!
因此尽管相邻的两次IO操作在同一时刻发出,但如果它们的请求的扇区地址相差很大的话也只能称为随机访问,而非连续访问.
磁盘是通过机械运动进行寻址的,连续访问不需要过多的定位,故效率比较高.
MySQL作为一款应用软件,可以想象成一种特殊的文件系统.它有着更高的IO场景.所以,为了提高基本的IO效率,MySQL进行IO的基本单位是16KB
mysql> show global status like 'innodb_page_size';
+------------------+-------+
| Variable_name | Value |
+------------------+-------+
| Innodb_page_size | 16384 | -- 16*1024=16384
+------------------+-------+
1 row in set (0.02 sec)
也就是说,磁盘这个硬件设备的基本单位是512字节
,而MySQL Innode引擎
使用16KB
进行IO交互.
即MySQL
和磁盘进行数据交互的基本单位是16KB
.这个基本数据单位,在MySQL这里叫做page.(注意和系统page的区分)
MySQL
中的数据文件,是以page为单位保存在磁盘当中的.MySQL
中的CURD
操作,都需要通过计算,找到对应的插入位置,或者找到对应要修改或者要查询的数据.MySQL
服务器在内存中运行的时候,在服务器内部,就申请了被称为Buffer Pool
(/etc/my.cnf)对的大内存空间,来进行各种缓存.其实就是很大的内存空间,来和磁盘进行数据IO交互.mysql> create table if not exists user (
-> id int primary key, --一定要添加主键哦,只有这样才会默认生成主键索引
-> age int not null,
-> name varchar(16) not null
-> );
Query OK, 0 rows affected (0.01 sec)
mysql> show create table user\G
*************************** 1. row ***************************
Table: user
Create Table: CREATE TABLE `user` (
`id` int(11) NOT NULL,
`age` int(11) NOT NULL,
`name` varchar(16) NOT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8
1 row in set (0.00 sec)
--插入多条记录,注意,我们并没有按照主键的大小顺序插入哦
mysql> create table if not exists user ( id int primary key,age int not null, name varchar(16) not null );
Query OK, 0 rows affected (0.01 sec)
mysql> insert into user (id, age, name) values(3, 18, '杨过');
Query OK, 1 row affected (0.00 sec)
mysql> insert into user (id, age, name) values(4, 16, '小龙女');
Query OK, 1 row affected (0.00 sec)
mysql> insert into user (id, age, name) values(2, 26, '黄蓉');
Query OK, 1 row affected (0.00 sec)
mysql> insert into user (id, age, name) values(5, 36, '郭靖');
Query OK, 1 row affected (0.01 sec)
mysql> insert into user (id, age, name) values(1, 56, '欧阳锋');
Query OK, 1 row affected (0.00 sec)
mysql> select * from user;
+----+-----+-----------+
| id | age | name |
+----+-----+-----------+
| 1 | 56 | 欧阳锋 |
| 2 | 26 | 黄蓉 |
| 3 | 18 | 杨过 |
| 4 | 16 | 小龙女 |
| 5 | 36 | 郭靖 |
+----+-----+-----------+
5 rows in set (0.00 sec)
# 可以看出我们不是根据id有序插入数据,但是查看的结果确实有序的!!!
# 这是为什么呢???
为何MySQL和磁盘进行IO交互的时候,要采用page的方案进行机交互呢?用多少,加载多少不香吗?
如上面的5条记录,如果MySQL要查找的id=2的记录,第一次加载id=1,第二次加载id=2,一次一条记录,那么就需要2次IO.如果查找id=5,那么就需要5次IO.
但是,如果这5条(或者更多)都被保存在 一个page中(16KKB,能保存很多记录),那么的第一次第一次IO查找id=2的时候,会将整个page加载到MySQL中的Buffer Pool中,这里完成了一次IO.但是往后如果在查找id=1,2,3,4,5的时候,就完全不需要进行IO了,而是直接在内存中进行了.所以就在单page里面,大大减少了IO的次数.
你怎么保证,用户一定下次找的数据就在这个page里面? 当然不能严格保证了,但是有很大的概率,因为有局部性原理.
往往IO效率低下最主要的矛盾不是IO单次数据量的大小,而是IO的次数.
MySQL
中要管理很多数据表文件,而要管理好这些文件,就需要 先描述,在组织
,我们目前可以简单理解成一个个独立文件是有一个或者多个page构成的.
不同的page,在mysql中,都是16KKB,使用prev和next构成双向链表.
因为有主键的问题,mysql会默认按照主键给我们的数据进行排序,从上面的page内数据记录可以看出,数据是有序且彼此关联的.
为什么数据量在插入数据时要对其进行排序呢?我们按照正常顺序插入数据不是也挺好的吗?
插入数据时排序的目的,就是为了优化查询的效率.
页内部存放数据的模块,实质上也是一个链表的结构,链表的特点也就是增删快,查询修改慢,所以优化查询的效率是必须的.
正是因为有序,在查找的时候,从头到后都是有效查找,没有任何一个查找是浪费的.而且,如果运气好,是可以提前结束查询查询过程的.
我们在看一个本书的时候,如果想要单看某个章节,找到该章节有两种做法
针对上面单页Page,我们能否也引入目录呢?当然可以!!!
那么当前,在一个Page内部,我们引入了目录.比如:我们要查找id=4记录,之前必须线性遍历4次,才能拿到结果.现在直接通过目录2[3],直接进行定位新的起始位置,提高了效率.现在我们可以再次正式回答上面的问题了,为了通过键值MySQL
会自动排序呢!!!
MySQL
中每一页的大小只有16KB
,单个Page大小固定,所以随着数据量不断增大,16KB
不可能存在所有的数据,那么必定会有多个页来存储数据.
在单表数据不断被插入的情况下,MySQL
会在容量不足的时候,自动开辟新的Page来保存新的数据,然后通过指针的方式,将所有的Page组织起来.
需要注意,上面的图,是理想结构,大家也知道,目前要保证整体有序,那么新插入的数据,不一定会在新的Page上面.这里仅仅做演示.
这样,我们就可以通过多个Page遍历,Page内部通过目录来快速定位数据.可是,貌似这样也有效率问题,在Page之间,也是需要MySQL
便利的,遍历意味着依旧需要进行大量IO,将下一个Page加载到内存,进行线性检测.这样就显得我们之前的Page内部的目录,有点杯水车薪了.
那么如何解决呢?解决方案,其实就是我们之前的思路,给Page也带上目录.
存在一个目录页来管理页目录,目录页中的数据存放的就是指向的那一页中最小的数据.有数据,就可以通过比较,找到该访问那个Page,进而通过指针,找到一个Page.
其实目录页的本质也是页,普通页中存的数据是用户数据,而目录页中存的数据是普通页的地址.
可是,我们每次检索数据的时候,该从哪里开始呢?虽然顶层的目录页少了,但是还有遍历啊?—>不用担心,可以加在目录页!!!
叶子节点使用双向链表进行链接起来! 所有的数据都存在叶子结点.
上面这棵树就是传说中的B+树啊!!! 没错,至此,我们已经给我们的user表构建完成主键索引.
主键索引
随便找一个id.我们发现,现在查找的Page数一定减少了,也就意味着IO次数减少了,那么效率也就提高了!
MySQL
是支持Hash的,不过InnoDB和MyISAM并不支持.Hash其算法特征,决定虽然有时候也很快(O(1)),不过,在面对范围查找就明显不行,另外还有其他差别,有兴趣可以查一下.数据结构演示链接:https://www.cs.usfca.edu/~galles/visualization/Algorithms.html
目前这两棵树进行区别比较后
为什么选择B+树呢?
MyISAM
存储引擎—主键索引
MyISAM
引擎同样使用B+树作为索引结果,叶节点的data域存放的是数据记录的地址.下图为MyISAM
表的主索引,Col1为主键.
其中,MyISAM
最大的特点是:将索引Page和数据Page分离,也就是叶子节点没有数据,只有对应数据的地址.
相比于InnoDB
索引,InnoDB
是将索引和数据放在一起的.
因为MyISAM数据和索引是分开的,所以创建一个MyISAM的存储引擎,底层对应三个文件.
MyISAM
这种用户数据与索引数据分离的索引方案,叫做非聚簇索引.InnoDB
这种用户数据与索引数据在一起的索引方案,叫做聚簇索引.当然MySQL
除了默认会建立主键索引外,我们用户也有可能建立按照其他列信息建立的索引,一般这种索引可以叫做辅助(普通)索引.
对于MyISAM
,建立辅助(普通)索引和主键索引没有差别,无非就是主键不能重复,而非主键可重复.
一张表,不仅仅只有一个索引结构
当我们建立表结构的时候,如果有主键,默认mysqld会为我们构建主键索引!!!(聚簇索引和非聚簇索引)
下图就是基于MyISAM
的Col2
建立的索引,和主键索引没有差别
同样,InnoDB
除了主键索引,用户也会建立辅助(普通索引),我们以上表中的Col3
建立对应的辅助索引如下图:
可以看到,InnoDB
的非主键索引中叶子节点并没有数据,而只有对应记录的key值.
所以通过辅助(普通)索引,找到目标记录,需要两遍索引:**首先检索辅助索引获得主键,然后用主键岛主索引中检索获得记录.**这个过程就叫做回表查询.
为何InnoDB
针对这种辅助(普通)索引的场景,不给叶子节点也附上数据呢?原因就是太浪费空间了.
MyISAM存储引擎,构建主键或者普通索引就是构建B+,叶子结点保存数据记录的地址即可.
InnoDB存储引擎,构建主键索引,聚簇的.但是普通索引,只需要根据普通列构建B+然后叶子结点上存放的就是该普通数据对应记录的主键ID.后续查找的时候,可以通过徽标的方式进行查找.
InnoDB
主键索引和普通索引MyISAM
主键索引和普通索引-- 在创建表的时候,直接在字段名后指定 primary key
create table user1(id int primary key, name varchar(30));
-- 在创建表的最后,指定某列或某几列为主键索引
create table user2(id int, name varchar(30), primary key(id));
create table user3(id int, name varchar(30));
-- 创建表以后再添加主键
alter table user3 add primary key(id);
主键索引的特点:
-- 在表定义时,在某列后直接指定unique唯一属性。
create table user4(id int primary key, name varchar(30) unique);
-- 创建表时,在表的后面指定某列或某几列为unique
create table user5(id int primary key, name varchar(30), unique(name));
create table user6(id int primary key, name varchar(30));
alter table user6 add unique(name);
唯一索引的特点:
create table user8(id int primary key,
name varchar(20),
email varchar(30),
index(name) --在表的定义最后,指定某列为索引
);
create table user9(id int primary key, name varchar(20), email
varchar(30));
alter table user9 add index(name); --创建完表以后指定某列为普通索引
create table user10(id int primary key,
name varchar(20),
email varchar(30));
-- 创建一个索引名为 idx_name 的索引
create index idx_name on user10(name);
普通索引的特点:
当对文章字段或有大量文字的字段进行检索时,会使用到全文索引.MySQl提供全文索引机制,但是有要求,要求表的存储引擎必须是MyISAM,而且默认的全文索引支持英文,不支持中文.如果对中文进行全文检索,可以使用sphinx的中文版(coreseek).
CREATE TABLE articles (
id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
title VARCHAR(200),
body TEXT,
FULLTEXT (title,body)
)engine=MyISAM;
INSERT INTO articles (title,body) VALUES
('MySQL Tutorial','DBMS stands for DataBase ...'),
('How To Use MySQL Well','After you went through a ...'),
('Optimizing MySQL','In this tutorial we will show ...'),
('1001 MySQL Tricks','1. Never run mysqld as root. 2. ...'),
('MySQL vs. YourSQL','In the following database comparison ...'),
('MySQL Security','When configured properly, MySQL ...');
mysql> select * from articles;
+----+-----------------------+------------------------------------------+
| id | title | body |
+----+-----------------------+------------------------------------------+
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
| 2 | How To Use MySQL Well | After you went through a ... |
| 3 | Optimizing MySQL | In this tutorial we will show ... |
| 4 | 1001 MySQL Tricks | 1. Never run mysqld as root. 2. ... |
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
| 6 | MySQL Security | When configured properly, MySQL ... |
+----+-----------------------+------------------------------------------+
6 rows in set (0.00 sec)
mysql> select * from articles where body like '%database%';
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
+----+-------------------+------------------------------------------+
2 rows in set (0.00 sec)
可以用explain工具看一下,是否使用到索引
mysql> explain select * from articles where body like '%database%'\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: articles
type: ALL
possible_keys: NULL
key: NULL <== key为null表示没有用到索引
key_len: NULL
ref: NULL
rows: 6
Extra: Using where
1 row in set (0.00 sec)
mysql> select * from articles where match (title,body) against ('database');
+----+-------------------+------------------------------------------+
| id | title | body |
+----+-------------------+------------------------------------------+
| 5 | MySQL vs. YourSQL | In the following database comparison ... |
| 1 | MySQL Tutorial | DBMS stands for DataBase ... |
+----+-------------------+------------------------------------------+
2 rows in set (0.00 sec)
mysql> explain select * from articles where match (title,body) against ('database')\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: articles
partitions: NULL
type: fulltext
possible_keys: title
key: title <= key用到了title
key_len: 0
ref: const
rows: 1
filtered: 100.00
Extra: Using where
1 row in set, 1 warning (0.00 sec)
mysql> show keys from user\G
*************************** 1. row ***************************
Table: user
Non_unique: 0
Key_name: PRIMARY
Seq_in_index: 1
Column_name: name
Collation: A
Cardinality: 0
Sub_part: NULL
Packed: NULL
Null:
Index_type: BTREE
Comment:
Index_comment:
1 row in set (0.00 sec)
mysql> show index from user\G
*************************** 1. row ***************************
Table: user
Non_unique: 0
Key_name: PRIMARY
Seq_in_index: 1
Column_name: name
Collation: A
Cardinality: 0
Sub_part: NULL
Packed: NULL
Null:
Index_type: BTREE
Comment:
Index_comment:
1 row in set (0.00 sec)
(本章完!!!)