MySQL与常见面试题

目录

  • 事务
    • 概述
    • ACID
    • AUTOCOMMIT
    • 总结
  • 并发一致性问题
    • 丢失修改
    • 读脏数据
    • 不可重复读
    • 幻读
    • 原因和解决方法
  • 隔离级别
    • 未提交读(READ UNCOMMITTED)
    • 提交读(READ COMMITTED)
    • 可重复读(REPEATABLE READ)
    • 可串行化(SERIALIZABLE)
  • 加锁
    • 封锁粒度
    • 封锁类型
      • 读写锁
      • 意向锁
    • 锁协议
      • 一级封锁协议
    • 二级封锁协议
      • 三级封锁协议
    • MySQL隐式与显示锁定
    • 加锁算法
      • Record Locks
      • Gap Locks
      • Next-Key Locks
  • MVCC
    • 基本思想
    • 版本号
    • uodo log
    • ReadView
    • 快照读与当前读
    • 语句举例
  • MySQL索引
    • MySQL索引类型
      • B+Tree索引
      • 哈希索引
      • 全文索引
    • B+ tree原理
      • 数据结构
      • 查找操作
      • 红黑树比较
    • 索引独立
      • 索引失效
      • 独立的列
      • 多列索引
      • 索引列的顺序
      • 前缀索引
      • 覆盖索引
      • 索引的优点
      • 索引的使用条件
  • 存储引擎
    • InnoDB
    • MyISAM
  • MySQL日志
    • redo log
    • bin log
    • undo log
  • MySQL的主从复制
  • MySQL常见面试问题(未附答案)
    • mysql有关权限的表都有哪几个
    • MySQL的binlog有有几种录入格式?分别有什么区别?
    • mysql有哪些数据类型
    • MySQL存储引擎MyISAM与InnoDB区别
    • MyISAM索引与InnoDB索引的区别?
    • InnoDB引擎的4大特性
    • 存储引擎选择
    • 什么是索引?
    • 索引有哪些优缺点?
    • 索引使用场景(重点)
    • 索引有哪几种类型?
    • 索引的数据结构(b树,hash)
    • 索引的基本原理
    • 索引算法有哪些?
    • 索引设计的原则?
    • 创建索引的原则
    • 创建索引的三种方式,删除索引
    • 创建索引时需要注意什么?
    • 使用索引查询一定能提高查询的性能吗?为什么
    • 百万级别或以上的数据如何删除
    • 前缀索引
    • 什么是最左前缀原则?什么是最左匹配原则
    • B树和B+树的区别
    • 使用B树的好处
    • 使用B+树的好处
    • Hash索引和B+树所有有什么区别或者说优劣呢?
    • 数据库为什么使用B+树而不是B树
    • B+树在满足聚簇索引和覆盖索引的时候不需要回表查询数据,
    • 什么是聚簇索引?何时使用聚簇索引与非聚簇索引
    • 非聚簇索引一定会回表查询吗?
    • 联合索引是什么?为什么需要注意联合索引中的顺序?
    • 什么是数据库事务?
    • 事物的四大特性(ACID)介绍一下?
    • 什么是脏读?幻读?不可重复读?
    • 什么是事务的隔离级别?MySQL的默认隔离级别是什么?
    • 对MySQL的锁了解吗
    • 隔离级别与锁的关系
    • 按照锁的粒度分数据库锁有哪些?锁机制与InnoDB锁算法
    • 从锁的类别上分MySQL都有哪些锁呢?像上面那样子进行锁定岂不是有点阻碍并发效率了
    • MySQL中InnoDB引擎的行锁是怎么实现的?
    • InnoDB存储引擎的锁的算法有三种
    • 什么是死锁?怎么解决?
    • 数据库的乐观锁和悲观锁是什么?怎么实现的?
    • 为什么要使用视图?什么是视图?
    • 视图有哪些特点?
    • 视图的使用场景有哪些?
    • 视图的优点,缺点
    • mysql中 in 和 exists 区别
    • varchar与char的区别
    • FLOAT和DOUBLE的区别是什么?
    • drop、delete与truncate的区别
    • UNION与UNION ALL的区别?
    • 如何定位及优化SQL语句的性能问题?创建的索引有没有被使用到?或者说怎么才可以知道这条语句运行很慢的原因?
    • SQL的生命周期?
    • 大表数据查询,怎么优化
    • 超大分页怎么处理?
    • 慢查询日志怎么看
    • 关心过业务系统里面的sql耗时吗?统计过慢查询吗?对慢查询都怎么优化过?
    • 为什么要尽量设定一个主键?
    • 主键使用自增ID还是UUID?
    • 字段为什么要求定义为not null?
    • 如果要存储用户的密码散列,应该使用什么字段进行存储?
    • 优化查询过程中的数据访问
    • 优化长难的查询语句
    • 优化特定类型的查询语句
    • 优化关联查询
    • 优化子查询
    • 优化LIMIT分页
    • 优化UNION查询
    • 优化WHERE子句
    • MySQL数据库cpu飙升到500%的话他怎么处理?
    • 大表怎么优化?某个表有近千万数据,CRUD比较慢,如何优化?分库分表了是怎么做的?分表分库了有什么问题?有用到中间件么?他们的原理知道么?
    • 垂直分表适用场景
    • 水平分表适用场景
    • 水平切分的缺点
    • MySQL的复制原理以及流程
    • 读写分离有哪些解决方案?
    • 备份计划,mysqldump以及xtranbackup的实现原理
    • 数据表损坏的修复方式有哪些?

事务

概述

事务指的是满足 ACID 特性的一组操作,可以通过 Commit 提交一个事务,也可以使用 Rollback 进行回滚。

MySQL与常见面试题_第1张图片

ACID

原子性

事务被视为不可分割的最小单元,事务的所有操作要么全部提交成功,要么全部失败回滚。

回滚可以用回滚日志(Undo Log)来实现,回滚日志记录着事务所执行的修改操作,在回滚时反向执行这些修改操作即可。

在mysql中,每次更新记录都会先插入一条 undo log 并且持久化,undo log 通过回滚事务指针形成了链表。当系统崩溃时,扫描没有 commit 的事务对应的 undo log,按照类型执行回滚操作

  • insert 类型:undo log 记录了 id ,根据 id delete
  • delete 类型:undo log 记录了删除的数据,执行 insert
  • update 类型:undo log 记录了修改前的数据,执行反向 update

一致性

数据库在事务执行前后都保持一致性状态。在一致性状态下,所有事务对同一个数据的读取结果都是相同的。

隔离性

隔离性是指事务之间应该是隔离的,并发执行的各个事务之间不能互相干扰,一个事务所做的修改在最终提交以前,对其它事务是不可见的。

持久性

一旦事务提交,则其所做的修改将会永远保存到数据库中。即使系统发生崩溃,事务执行的结果也不能丢失。

Mysql为了提高性能,使用了 BufferPool ,读数据时如果内存中不存在,会从磁盘读取到内存 BufferPool 中,增、删、改等操作会先修改 BufferPool 中的数据页,这时候内存中的数据和磁盘不一致,出现了脏页,Mysql 通过其他的机制会将脏页刷到磁盘。

但是万一脏页还没刷到磁盘,Mysql 宕机就会导致数据丢失的问题,Mysql 通过 redolog(重做日志)解决了这个问题,保证了持久性。

Mysql 在 更新记录写入 BufferPool 之前会把记录 先写到 redolog (Write Ahead Logging ),当事务提交时会先将 redolog 持久化到磁盘,如果出现宕机,重启后将 redolog 中的事务重放即可。

redo log 是物理日志 内容是 对 XXX表空间中的XXX数据页XXX偏移量的地方做了XXX更新

同样的为了提高性能,redolog 也是会先写 redolog buffer ,但事务提交时会将涉及的 redolog 写到磁盘,所以不会有持久性问题。

MySQL与常见面试题_第2张图片
redolog 的刷盘策略

  • innodb_flush_log_at_trx_commit=0:每秒将buffer中的数据刷到磁盘 flush+fsync
  • innodb_flush_log_at_trx_commit=1:每次提交 刷到磁盘 flush+fsync
  • innodb_flush_log_at_trx_commit=2:每次提交 刷到系统文件缓存 flush
  • redolog buffer 占用空间(innodb_log_buffer_size 默认8MB)达到一半 刷到文件缓存 flush

系统发生崩溃可以用重做日志(Redo Log)进行恢复,从而实现持久性。与回滚日志记录数据的逻辑修改不同,重做日志记录的是数据页的物理修改。

AUTOCOMMIT

MySQL 默认采用自动提交模式。也就是说,如果不显式使用START TRANSACTION语句来开始一个事务,那么每个查询操作都会被当做一个事务并自动提交。

总结

事务的 ACID 特性概念简单,但不是很好理解,主要是因为这几个特性不是一种平级关系:

  • 只有满足一致性,事务的执行结果才是正确的。

  • 在无并发的情况下,事务串行执行,隔离性一定能够满足。此时只要能满足原子性,就一定能满足一致性。

  • 在并发的情况下,多个事务并行执行,事务不仅要满足原子性,还需要满足隔离性,才能满足一致性。

  • 事务满足持久化是为了能应对系统崩溃的情况。

MySQL与常见面试题_第3张图片

并发一致性问题

丢失修改

丢失修改指一个事务的更新操作被另外一个事务的更新操作替换。一般在现实生活中常会遇到,例如:T1 和 T2 两个事务都对一个数据进行修改,T1 先修改并提交生效,T2 随后修改,T2 的修改覆盖了 T1 的修改。

MySQL与常见面试题_第4张图片

读脏数据

读脏数据指在 不同的事务下,当前事务可以读到另外事务未提交的数据。例如:T1 修改一个数据但未提交,T2 随后读取这个数据。如果 T1 撤销了这次修改,那么 T2 读取的数据是脏数据。

MySQL与常见面试题_第5张图片

不可重复读

不可重复读指在一个事务内多次读取同一数据集合。在这一事务还未结束前,另一事务也访问了该同一数据集合并做了修改,由于第二个事务的修改,第一次事务的两次读取的数据可能不一致。例如:T2 读取一个数据,T1 对该数据做了修改。如果 T2 再次读取这个数据,此时读取的结果和第一次读取的结果不同。

MySQL与常见面试题_第6张图片

幻读

幻读本质上也属于不可重复读的情况,T1 读取某个范围的数据,T2 在这个范围内插入新的数据,T1 再次读取这个范围的数据,此时读取的结果和和第一次读取的结果不同。

MySQL与常见面试题_第7张图片

原因和解决方法

产生并发不一致性问题的主要原因是破坏了事务的隔离性,解决方法是通过并发控制来保证隔离性。并发控制可以通过封锁来实现,但是封锁操作需要用户自己控制,相当复杂。数据库管理系统提供了事务的隔离级别,让用户以一种更轻松的方式处理并发一致性问题。

隔离级别

通过设置隔离级别可以解决对应的并发一致性的问题

未提交读(READ UNCOMMITTED)

事务中的修改,即使没有提交,对其它事务也是可见的。

提交读(READ COMMITTED)

一个事务只能读取已经提交的事务所做的修改。换句话说,一个事务所做的修改在提交之前对其它事务是不可见的。

可重复读(REPEATABLE READ)

保证在同一个事务中多次读取同一数据的结果是一样的。

可串行化(SERIALIZABLE)

强制事务串行执行,这样多个事务互不干扰,不会出现并发一致性问题。
该隔离级别需要加锁实现,因为要使用加锁机制保证同一时间只有一个事务执行,也就是保证事务串行执行。

MySQL与常见面试题_第8张图片

加锁

通过加锁也可以实现隔离级别,来保证并发时,数据是一致的

封锁粒度

MySQL 中提供了两种封锁粒度:行级锁以及表级锁。

应该尽量只锁定需要修改的那部分数据,而不是所有的资源。锁定的数据量越少,发生锁争用的可能就越小,系统的并发程度就越高。但是加锁需要消耗资源,锁的各种操作(包括获取锁、释放锁、以及检查锁状态)都会增加系统开销。因此封锁粒度越小,系统开销就越大。

在选择封锁粒度时,需要在锁开销和并发程度之间做一个权衡。

封锁类型

读写锁

互斥锁(Exclusive),简写为 X 锁,又称写锁。

共享锁(Shared),简写为 S 锁,又称读锁。

针对读写锁有以下两个规定

  • 一个事务对数据对象 A 加了 X 锁,就可以对 A 进行读取和更新。加锁期间其它事务不能对 A 加任何锁。
  • 一个事务对数据对象 A 加了 S 锁,可以对 A 进行读取操作,但是不能进行更新操作。加锁期间其它事务能对 A 加 S 锁,但是不能加 X 锁。

读写锁的兼容关系如下

MySQL与常见面试题_第9张图片

意向锁

使用意向锁(Intention Locks)可以更容易地支持多粒度封锁。

在存在行级锁和表级锁的情况下,事务 T 想要对表 A 加 X 锁,就需要先检测是否有其它事务对表 A 或者表 A 中的任意一行加了锁,那么就需要对表 A 的每一行都检测一次,这是非常耗时的。

意向锁在原来的 X/S 锁之上引入了 IX/IS,IX/IS 都是表锁,用来表示一个事务想要在表中的某个数据行上加 X 锁或 S 锁。有以下两个规定:

  • 一个事务在获得某个数据行对象的 S 锁之前,必须先获得表的 IS 锁或者更强的锁;
  • 一个事务在获得某个数据行对象的 X 锁之前,必须先获得表的 IX 锁。

通过引入意向锁,事务 T 想要对表 A 加 X 锁,只需要先检测是否有其它事务对表 A 加了 X/IX/S/IS 锁,如果加了就表示有其它事务正在使用这个表或者表中某一行的锁,因此事务 T 加 X 锁失败。

各种锁的兼容关系如下:

MySQL与常见面试题_第10张图片
任意 IS/IX 锁之间都是兼容的,因为它们只表示想要对表加锁,而不是真正加锁

这里兼容关系针对的是表级锁,而表级的 IX 锁和行级的 X 锁兼容,两个事务可以对两个数据行加 X 锁。(事务 T1 想要对数据行 R1 加 X 锁,事务 T2 想要对同一个表的数据行 R2 加 X 锁,两个事务都需要对该表加 IX 锁,但是 IX 锁是兼容的,并且 IX 锁与行级的 X 锁也是兼容的,因此两个事务都能加锁成功,对同一个表中的两个数据行做修改)

锁协议

一级封锁协议

事务 T 要修改数据 A 时必须加 X 锁,直到 T 结束才释放锁。

可以解决丢失修改问题,因为不能同时有两个事务对同一个数据进行修改,那么事务的修改就不会被覆盖。

MySQL与常见面试题_第11张图片

二级封锁协议

在一级的基础上,要求读取数据 A 时必须加 S 锁,读取完马上释放 S 锁。

可以解决读脏数据问题,因为如果一个事务在对数据 A 进行修改,根据 1 级封锁协议,会加 X 锁,那么就不能再加 S 锁了,也就是不会读入数据。

MySQL与常见面试题_第12张图片

三级封锁协议

在二级的基础上,要求读取数据 A 时必须加 S 锁,直到事务结束了才能释放 S 锁。

可以解决不可重复读的问题,因为读 A 时,其它事务不能对 A 加 X 锁,从而避免了在读的期间数据发生改变。

MySQL与常见面试题_第13张图片

MySQL隐式与显示锁定

MySQL 的 InnoDB 存储引擎采用两段锁协议,会根据隔离级别在需要的时候自动加锁,并且所有的锁都是在同一时刻被释放,这被称为隐式锁定。

InnoDB 也可以使用特定的语句进行显示锁定:

在这里插入图片描述

加锁算法

InnoDB对于行的查询都是采用了Next-Key Lock的算法,锁定的不是单个值,而是一个范围,按照这个方法是会和第一次测试结果一样。但是,当查询的索引含有唯一属性的时候,Next-Key Lock 会进行优化,将其降级为Record Lock,即仅锁住索引本身,不是范围

Next-Key Locks 是 MySQL 的 InnoDB 存储引擎的一种锁实现。

MVCC 不能解决幻影读问题,,Next-Key Locks 就是为了解决这个问题而存在的。在可重复读(REPEATABLE READ)隔离级别下,使用 MVCC + Next-Key Locks 可以解决幻读问题。

Record Locks

记录锁是对索引记录的锁,锁定一个记录上的索引,而不是记录本身。

SELECT c1 FROM t WHERE c1 = 10 FOR UPDATE;

阻止任何其他事务插入、更新或删除值为 的t.c1行 10。

如果表没有设置索引,InnoDB 会自动在主键上创建隐藏的聚簇索引,因此 Record Locks 依然可以使用。

Gap Locks

锁定索引之间的间隙,但是不包含索引本身。例如当一个事务执行以下语句,其它事务就不能在 t.c 中插入 15。

SELECT c FROM t WHERE c BETWEEN 10 and 20 FOR UPDATE;

间隙可能跨越单个索引值、多个索引值,甚至是空的。

使用唯一索引锁定行以搜索唯一行的语句不需要间隙锁定(不会锁定间隙)

Next-Key Locks

它是 Record Locks 和 Gap Locks 的结合,不仅锁定一个记录上的索引,也锁定索引之间的间隙。它锁定一个前开后闭区间,例如一个索引包含以下值:10, 11, 13, and 20,那么就需要锁定以下区间:

(-∞ ,10]
(10,11]
(11,13]
(13,20]
(20,+∞)

MVCC

多版本并发控制(Multi-Version Concurrency Control, MVCC)是 MySQL 的 InnoDB 存储引擎实现隔离级别的一种具体方式,用于实现提交读和可重复读这两种隔离级别。而未提交读隔离级别总是读取最新的数据行,要求很低,无需使用 MVCC。可串行化隔离级别需要对所有读取的行都加锁,单纯使用 MVCC 无法实现。

基本思想

封锁中提到,加锁能解决多个事务同时执行时出现的并发一致性问题。在实际场景中读操作往往多于写操作,因此又引入了读写锁来避免不必要的加锁操作,例如读和读没有互斥关系。读写锁中读和写操作仍然是互斥的,而 MVCC 利用了多版本的思想,写操作更新最新的版本快照,而读操作去读旧版本快照,没有互斥关系,这一点和 CopyOnWrite 类似。

在 MVCC 中事务的修改操作(DELETE、INSERT、UPDATE)会为数据行新增一个版本快照。

脏读和不可重复读最根本的原因是事务读取到其它事务未提交的修改。在事务进行读取操作时,为了解决脏读和不可重复读问题,MVCC 规定只能读取已经提交的快照。当然一个事务可以读取自身未提交的快照,这不算是脏读。

版本号

系统版本号 SYS_ID:是一个递增的数字,每开始一个新的事务,系统版本号就会自动递增。

事务版本号 TRX_ID :事务开始时的系统版本号。

uodo log

MVCC 的多版本指的是多个版本的快照,快照存储在 Undo 日志中,该日志通过回滚指针 ROLL_PTR 把一个数据行的所有快照连接起来。

例如在 MySQL 创建一个表 t,包含主键 id 和一个字段 x。我们先插入一个数据行,然后对该数据行执行两次更新操作。

在这里插入图片描述
因为没有使用 START TRANSACTION 将上面的操作当成一个事务来执行,根据 MySQL 的 AUTOCOMMIT 机制,每个操作都会被当成一个事务来执行,所以上面的操作总共涉及到三个事务。快照中除了记录事务版本号 TRX_ID 和操作之外,还记录了一个 bit 的 DEL 字段,用于标记是否被删除。

MySQL与常见面试题_第14张图片
INSERT、UPDATE、DELETE 操作会创建一个日志,并将事务版本号 TRX_ID 写入。DELETE 可以看成是一个特殊的 UPDATE,还会额外将 DEL 字段设置为 1。

ReadView

MVCC 维护了一个 ReadView 结构,主要包含了当前系统未提交的事务列表 TRX_IDs {TRX_ID_1, TRX_ID_2, …},还有该列表的最小值 TRX_ID_MIN 和 TRX_ID_MAX。

MySQL与常见面试题_第15张图片
在进行 SELECT 操作时,根据数据行快照的 **TRX_ID **与 TRX_ID_MIN 和 TRX_ID_MAX 之间的关系,从而判断数据行快照是否可以使用:(对于已提交读和可重复读只有小于最小事物版本号才可以使用)

  • TRX_ID < TRX_ID_MIN,表示该数据行快照时在当前所有未提交事务之前进行更改的,因此可以使用。
  • TRX_ID > TRX_ID_MAX,表示该数据行快照是在事务启动之后被更改的,因此不可使用。
  • TRX_ID_MIN <= TRX_ID <= TRX_ID_MAX,需要根据隔离级别再进行判断:
  • 提交读:如果 TRX_ID 在 TRX_IDs 列表中,表示该数据行快照对应的事务还未提交,则该快照不可使用。否则表示已经提交,可以使用。
  • 可重复读:都不可以使用。因为如果可以使用的话,那么其它事务也可以读到这个数据行快照并进行修改,那么当前事务再去读这个数据行得到的值就会发生改变,也就是出现了不可重复读问题。

在数据行快照不可使用的情况下,需要沿着 Undo Log 的回滚指针 ROLL_PTR 找到下一个快照,再进行上面的判断。

快照读与当前读

快照读

MVCC 的 SELECT 操作是快照中的数据,不需要进行加锁操作。

select * from tableA ;

当前读

MVCC 其它会对数据库进行修改的操作(INSERT、UPDATE、DELETE)需要进行加锁操作,从而读取最新的数据。可以看到 MVCC 并不是完全不用加锁,而只是避免了 SELECT 的加锁操作。

Insert .... ;
Update .... ;
Delete .... ;

在进行 SELECT 操作时,可以强制指定进行加锁操作。以下第一个语句需要加 S 锁,第二个需要加 X 锁。

select * from tableA where ... lock in share mode;
select * from tableA where ... for update ;

语句举例

如下三个事务 ,事务A id = 6,事务B id = 7 ,事务C id = 8,在A事务之前有个事务 5 将 k 更新成1 并提交

MySQL与常见面试题_第16张图片
undo log 链如下:

MySQL与常见面试题_第17张图片
在RR的隔离级别,在事务开启时就会创建一致性视图,之后事务的查询都公用这个一致性视图

MySQL与常见面试题_第18张图片
可以看到事务A 读到的数据 是 k = 1,其他事务的修改是不可见的,这里需要注意 update 操作使用的是当前读,读到的是当前读,select 如果加锁 ,也是当前读。

MVCC 快照读解决了幻读问题,对于当前读的 幻读问题 是通过 next-key lock 间隙锁保证了数据读取期间,其他事务不会在该间隙内增加数据,解决幻读问题。

在RC的隔离级别,每个查询语句执行前创建一致性视图。

MySQL与常见面试题_第19张图片

MySQL索引

MySQL索引类型

索引是在存储引擎层实现的,而不是在服务器层实现的,所以不同存储引擎具有不同的索引类型和实现

B+Tree索引

  • 大多数 MySQL 存储引擎的默认索引类型。
  • 因为不再需要进行全表扫描,只需要对树进行搜索即可,所以查找速度快很多。
  • 因为 B+ Tree 的有序性,所以除了用于查找,还可以用于排序和分组。
  • 可以指定多个列作为索引列,多个索引列共同组成键。
  • 适用于全键值、键值范围和键前缀查找,其中键前缀查找只适用于最左前缀查找。如果不是按照索引列的顺序进行查找,则无法使用索引。

InnoDB 的 B+Tree 索引分为主索引和辅助索引。主索引的叶子节点 data 域记录着完整的数据记录,这种索引方式被称为聚簇索引。因为无法把数据行存放在两个不同的地方,所以一个表只能有一个聚簇索引。

MySQL与常见面试题_第20张图片

辅助索引的叶子节点的 data 域记录着主键的值,因此在使用辅助索引进行查找时,需要先查找到主键值,然后再到主索引中进行查找。

MySQL与常见面试题_第21张图片

哈希索引

哈希索引能以 O(1) 时间进行查找,但是失去了有序性:

  • 无法用于排序与分组;
  • 只支持精确查找,无法用于部分查找和范围查找。

InnoDB 存储引擎有一个特殊的功能叫“自适应哈希索引”,当某个索引值被使用的非常频繁时,会在 B+Tree 索引之上再创建一个哈希索引,这样就让 B+Tree 索引具有哈希索引的一些优点,比如快速的哈希查找。

全文索引

MyISAM 存储引擎支持全文索引,用于查找文本中的关键词,而不是直接比较是否相等。

查找条件使用 MATCH AGAINST,而不是普通的 WHERE。

全文索引使用倒排索引实现,它记录着关键词到其所在文档的映射。

InnoDB 存储引擎在 MySQL 5.6.4 版本中也开始支持全文索引。

B+ tree原理

数据结构

  • 最大元素在根节点上
  • B Tree 指的是 Balance Tree,也就是平衡树。平衡树是一颗查找树,并且所有叶子节点位于同一层。
  • B+ Tree 是基于 B Tree 和叶子节点顺序访问指针进行实现,它具有 B Tree 的平衡性,并且通过顺序访问指针来提高区间查询的性能。
  • 在 B+ Tree 中,一个节点中的 key 从左到右非递减排列,如果某个指针的左右相邻 key 分别是 keyi 和 keyi+1,且不为 null,则该指针指向节点的所有 key 大于等于 keyi 且小于等于 keyi+1。

MySQL与常见面试题_第22张图片

查找操作

进行查找操作时,首先在根节点进行二分查找,找到一个 key 所在的指针,然后递归地在指针所指向的节点进行查找。直到查找到叶子节点,然后在叶子节点上进行二分查找,找出 key 所对应的 data。

插入删除操作会破坏平衡树的平衡性,因此在进行插入删除操作之后,需要对树进行分裂、合并、旋转等操作来维护平衡性。

红黑树比较

红黑树等平衡树也可以用来实现索引,但是文件系统及数据库系统普遍采用 B+ Tree 作为索引结构,这是因为使用 B+ 树访问磁盘数据有更高的性能。

B+树有更低的树高

衡树的树高 O(h)=O(logdN),其中 d 为每个节点的出度。红黑树的出度为 2,而 B+ Tree 的出度一般都非常大,所以红黑树的树高 h 很明显比 B+ Tree 大非常多。

磁盘访问原理(I/O次数更少)

操作系统一般将内存和磁盘分割成固定大小的块,每一块称为一页,内存与磁盘以页为单位交换数据。数据库系统将索引的一个节点的大小设置为页的大小,使得一次 I/O 就能完全载入一个节点。

如果数据不在同一个磁盘块上,那么通常需要移动制动手臂进行寻道,而制动手臂因为其物理结构导致了移动效率低下,从而增加磁盘数据读取时间。B+ 树相对于红黑树有更低的树高,进行寻道的次数与树高成正比,在同一个磁盘块上进行访问只需要很短的磁盘旋转时间,所以 B+ 树更适合磁盘数据的读取。

磁盘预读原理

为了减少磁盘 I/O 操作,磁盘往往不是严格按需读取,而是每次都会预读。预读过程中,磁盘进行顺序读取,顺序读取不需要进行磁盘寻道,并且只需要很短的磁盘旋转时间,速度会非常快。并且可以利用预读特性,相邻的节点也能够被预先载入。

索引独立

索引失效

  • 独立的列上存在计算
  • 独立的列上使用了函数
  • 模糊查询
  • or关键字
  • not in

独立的列

在进行查询时,索引列不能是表达式的一部分,也不能是函数的参数,否则无法使用索引。

例如下面的查询不能使用 actor_id 列的索引:
在这里插入图片描述

多列索引

在需要使用多个列作为条件进行查询时,使用多列索引比使用多个单列索引性能更好。例如下面的语句中,最好把 actor_id 和 film_id 设置为多列索引。

在这里插入图片描述

索引列的顺序

  • 让选择性最强的索引列放在前面。
  • 索引的选择性是指:不重复的索引值和记录总数的比值。最大值为 1,此时每个记录都有唯一的索引与其对应。选择性越高,每个记录的区分度越高,查询效率也越高。
  • 例如下面显示的结果中 customer_id 的选择性比 staff_id 更高,因此最好把 customer_id 列放在多列索引的前面。
    MySQL与常见面试题_第23张图片

前缀索引

对于 BLOB、TEXT 和 VARCHAR 类型的列,必须使用前缀索引,只索引开始的部分字符。

前缀长度的选取需要根据索引选择性来确定。

覆盖索引

索引包含所有需要查询的字段的值。

具有以下优点:

  • 索引通常远小于数据行的大小,只读取索引能大大减少数据访问量。
  • 一些存储引擎(例如 MyISAM)在内存中只缓存索引,而数据依赖于操作系统来缓存。因此,只访问索引可以不使用系统调用(通常比较费时)。
  • 对于 InnoDB 引擎,若辅助索引能够覆盖查询,则无需访问主索引。

索引的优点

  • 大大减少了服务器需要扫描的数据行数。
  • 帮助服务器避免进行排序和分组,以及避免创建临时表(B+Tree 索引是有序的,可以用于 ORDER BY 和 GROUP BY 操作。临时表主要是在排序和分组过程中创建,不需要排序和分组,也就不需要创建临时表)。
  • 将随机 I/O 变为顺序 I/O(B+Tree 索引是有序的,会将相邻的数据都存储在一起)。

索引的使用条件

  • 对于非常小的表、大部分情况下简单的全表扫描比建立索引更高效;
  • 对于中到大型的表,索引就非常有效;
  • 但是对于特大型的表,建立和维护索引的代价将会随之增长。这种情况下,需要用到一种技术可以直接区分出需要查询的一组数据,而不是一条记录一条记录地匹配,例如可以使用分区技术。

存储引擎

InnoDB

是 MySQL 默认的事务型存储引擎,只有在需要它不支持的特性时,才考虑使用其它存储引擎。

支持事务

实现了四个标准的隔离级别,默认级别是可重复读(REPEATABLE READ)。在可重复读隔离级别下,通过多版本并发控制(MVCC)+ Next-Key Locking 防止幻影读。

索引

  • B+索引
  • 主索引是聚簇索引,在索引中保存了数据,从而避免直接读取磁盘,因此对查询性能有很大的提升。
  • 内部做了很多优化,包括从磁盘读取数据时采用的可预测性读、能够加快读操作并且自动创建的自适应哈希索引、能够加速插入操作的插入缓冲区等。

锁力度

支持表锁,行锁

表空间

InnoDB将它的表和索引放在一个逻辑表空间中,表空间可以包含多个文件。(MyISAM的每个表都存放在分离的文件中)

备份

支持真正的在线热备份。其它存储引擎不支持在线热备份,要获取一致性视图需要停止对所有表的写入,而在读写混合场景中,停止写入可能也意味着停止读取。

使用InnoDB存储引擎MySQL将在数据目录下创建一个名为ibdata1的10MB大小的自动扩展数据文件,以及两个名为ib_logfile0和ib_logfile1的5MB大小的日志文件

MyISAM

设计简单,数据以紧密格式存储。对于只读数据,或者表比较小、可以容忍修复操作,则依然可以使用它。

索引

  • 提供了大量的特性,包括压缩表、空间数据索引等。

事务

  • 不支持事务。

锁粒度

  • 不支持行级锁,只能对整张表加锁
  • 读取时会对需要读到的所有表加共享锁,写入时则对表加排它锁。
  • 但在表有读取操作的同时,也可以往表中插入新的记录,这被称为并发插入(CONCURRENT INSERT)。

可以手工或者自动执行检查和修复操作,但是和事务恢复以及崩溃恢复不同,可能导致一些数据丢失,而且修复操作是非常慢的。

(插入缓冲区)如果指定了 DELAY_KEY_WRITE 选项,在每次修改执行完成时,不会立即将修改的索引数据写入磁盘,而是会写到内存中的键缓冲区,只有在清理键缓冲区或者关闭表的时候才会将对应的索引块写入磁盘。这种方式可以极大的提升写入性能,但是在数据库或者主机崩溃时会造成索引损坏,需要执行修复操作。

表空间

  • MyISAM引擎创建数据库时,将产生三个文件。文件的名字以表名字开始,扩展名指出文件类型
  • .frm文件存储表定义
  • .MYD文件存储数据(数据文件)
  • .MYI文件存储索引(索引文件)

引擎比较

  • 事务:InnoDB 是事务型的,可以使用 Commit 和 Rollback 语句。
  • 锁粒度:MyISAM 只支持表级锁,而 InnoDB 还支持行级锁。
  • 外键:InnoDB 支持外键。
  • 备份:InnoDB 支持在线热备份。
  • 表空间:InnoDB将它的表和索引放在一个逻辑表空间中, MyISAM引擎创建数据库时,将产生三个文件
  • 崩溃恢复:MyISAM 崩溃后发生损坏的概率比 InnoDB 高很多,而且恢复的速度也更慢。
  • 其它特性:MyISAM 支持压缩表和空间数据索引。

MySQL日志

redo log、binlog、undo log

redo log

确保事务的持久性。防止在发生故障的时间点,尚有脏页未写入磁盘,在重启 mysql 服务的时候,根据 redo log 进行重做,从而达到事务的持久性这一特性。

物理格式的日志,记录的是物理数据页面的修改的信息,其 redo log 是顺序写入 redo log file 的物理文件中去的。

MySQL,如果每次更新操作都要写进磁盘,然后磁盘要找到对应记录,然后再更细,整个过程 io 成本、查找成本都很高

WAL 技术(Write-Ahead Logging)。先写日志,再写磁盘

当有一条记录需要更新的时候,InnoDB 引擎就会先把记录写到 redo log 里面,并更新内存,这个时候更新就算完成了。同时,InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做。InnoDB 的 redo log 是固定大小的,比如可以配置为一组 4 个文件,每个文件的大小是 1GB,那么总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写

MySQL与常见面试题_第24张图片
write pos 是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。

checkpoint 是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。
write pos 和 checkpoint 之间的是 log 上还空着的部分,可以用来记录新的操作。如果 write pos 追上 checkpoint,表示 log 满了,这时候不能再执行新的更新,得停下来先擦掉一些记录,把 checkpoint 推进一下。

有了 redo log,InnoDB 就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为 crash-safe。

bin log

用于复制,在主从复制中,从库利用主库上的 binlog 进行重播,实现主从同步。 用于数据库的基于时间点的还原。

逻辑格式的日志,可以简单认为就是执行过的事务中的 sql 语句。但又不完全是 sql 语句这么简单,而是包括了执行的 sql 语句(增删改)反向的信息,也就意味着 delete 对应着 delete 本身和其反向的 insert;update 对应着 update 执行前后的版本的信息;insert 对应着 delete 和 insert 本身的信息。

binlog 有三种模式:Statement(基于 SQL 语句的复制)、Row(基于行的复制) 以及 Mixed(混合模式)

  • STATMENT模式:基于SQL语句的复制,每一条会修改数据的sql语句会记录到binlog中。
  • ROW模式:基于行的复制,不记录每一条SQL语句的上下文信息,仅记录哪条数据被修改了,修改后的结果是什么
  • MIXED模式,混合模式的复制方式:如上两种模式的混合使用,一般的复制使用STATEMENT模式保存binlog,对于STATEMENT模式无法复制的相关操作使用ROW模式保存binlog,MySQL会根据执行的SQL语句选择日志保存方式

MySQL 整体来看,其实就有两块:一块是 Server 层,它主要做的是 MySQL 功能层面的事情;还有一块是引擎层,负责存储相关的具体事宜。redo log 是 InnoDB 引擎特有的日志,而 Server 层也有自己的日志,称为 binlog(归档日志)。

日志区别

  • redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 层实现的,所有引擎都可以使用。
  • redo log 是物理日志,记录的是 “在某个数据页上做了什么修改”;binlog 是逻辑日志,记录的是这个语句的原始逻辑,比如 “给 ID=2 这一行的 c 字段加 1 ”
  • redo log 是循环写的,空间固定会用完;binlog 是可以追加写入的。“追加写” 是指 binlog
    文件写到一定大小后会切换到下一个,并不会覆盖以前的日志

update 语句时的内部流程

  • 执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2
    这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回

  • 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据

  • 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare
    状态。然后告知执行器执行完成了,随时可以提交事务

  • 执行器生成这个操作的 binlog,并把 binlog 写入磁盘

  • 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。

  • 最后三步,将 redo log 的写入拆成了两个步骤:prepare 和 commit,这就是” 两阶段提交”

MySQL与常见面试题_第25张图片
二阶段提交

两阶段提交,是为了 binlog 和 redolog 两分日志之间的逻辑一致。redo log 和 binlog 都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致。

由于 redo log 和 binlog 是两个独立的逻辑,如果不用两阶段提交,要么就是先写完 redo log 再写 binlog,或者采用反过来的顺序。

update 语句来做例子。假设当前 ID=2 的行,字段 c 的值是 0,再假设执行 update 语句过程中在写完第一个日志后,第二个日志还没有写完期间发生了 crash,会出现什么情况呢?

先写 redo log 后写 binlog

  • 假设在 redo log 写完,binlog 还没有写完的时候,MySQL 进程异常重启。由于,redo log 写完之后,系统即使崩溃,仍然能够把数据恢复回来,所以恢复后这一行 c 的值是 1。但是由于 binlog 没写完就 crash 了,这时候 binlog 里面就没有记录这个语句。因此,之后备份日志的时候,存起来的 binlog 里面就没有这条语句。然后你会发现,如果需要用这个 binlog 来恢复临时库的话,由于这个语句的 binlog 丢失,这个临时库就会少了这一次更新,恢复出来的这一行 c 的值就是 0,与原库的值不同

先写 binlog 后写 redo log

  • 如果在 binlog 写完之后 crash,由于 redo log 还没写,崩溃恢复以后这个事务无效,所以这一行 c 的值是 0。但是 binlog 里面已经记录了 “把 c 从 0 改成 1” 这个日志。所以,在之后用 binlog 来恢复的时候就多了一个事务出来,恢复出来的这一行 c 的值就是 1,与原库的值不同。
  • 如果不使用 “两阶段提交”,那么数据库的状态就有可能和用它的日志恢复出来的库的状态不一致。
  • 扩容的时候,也就是需要再多搭建一些备库来增加系统的读能力的时候,现在常见的做法也是用全量备份加上应用 binlog 来实现的,这个 “不一致” 就会导致线上出现主从数据库不一致的情况。
    MySQL与常见面试题_第26张图片

undo log

保存了事务发生之前的数据的一个版本,可以用于回滚,同时可以提供多版本并发控制下的读(MVCC),也即非锁定读

逻辑格式的日志,在执行 undo 的时候,仅仅是将数据从逻辑上恢复至事务之前的状态,而不是从物理页面上操作实现的,这一点是不同于 redo log

MySQL的主从复制

主从复制
主要涉及三个线程:binlog 线程、I/O 线程和 SQL 线程。(2个I/O线程,1个SQL线程)

  • binlog 线程 :负责将主服务器上的数据更改写入二进制日志(Binary log)中。
  • I/O 线程 :负责从主服务器上读取二进制日志,并写入从服务器的中继日志(Relay log)。
  • SQL 线程 :负责读取中继日志,解析出主服务器已经执行的数据更改并在从服务器中重放(Replay)

MySQL与常见面试题_第27张图片

复制流程

  1. MySQL将数据变化记录到二进制日志中
  2. Slave将MySQL的二进制日志拷贝到Slave的中继日志中
  3. Slave将中继日志中的事件在做一次,将数据变化,反应到自身(Slave)的数据库

读写分离

主服务器处理写操作以及实时性要求比较高的读操作,而从服务器处理读操作。

读写分离能提高性能的原因在于:

  • 主从服务器负责各自的读和写,极大程度缓解了锁的争用;
  • 从服务器可以使用 MyISAM,提升查询性能以及节约系统开销;增加冗余,提高可用性。

读写分离常用代理方式来实现,代理服务器接收应用层传来的读写请求,然后决定转发到哪个服务器

MySQL与常见面试题_第28张图片

MySQL常见面试问题(未附答案)

mysql有关权限的表都有哪几个

MySQL的binlog有有几种录入格式?分别有什么区别?

mysql有哪些数据类型

MySQL存储引擎MyISAM与InnoDB区别

MyISAM索引与InnoDB索引的区别?

InnoDB引擎的4大特性

存储引擎选择

什么是索引?

索引有哪些优缺点?

索引使用场景(重点)

索引有哪几种类型?

索引的数据结构(b树,hash)

索引的基本原理

索引算法有哪些?

索引设计的原则?

创建索引的原则

创建索引的三种方式,删除索引

创建索引时需要注意什么?

使用索引查询一定能提高查询的性能吗?为什么

百万级别或以上的数据如何删除

前缀索引

什么是最左前缀原则?什么是最左匹配原则

B树和B+树的区别

使用B树的好处

使用B+树的好处

Hash索引和B+树所有有什么区别或者说优劣呢?

数据库为什么使用B+树而不是B树

B+树在满足聚簇索引和覆盖索引的时候不需要回表查询数据,

什么是聚簇索引?何时使用聚簇索引与非聚簇索引

非聚簇索引一定会回表查询吗?

联合索引是什么?为什么需要注意联合索引中的顺序?

什么是数据库事务?

事物的四大特性(ACID)介绍一下?

什么是脏读?幻读?不可重复读?

什么是事务的隔离级别?MySQL的默认隔离级别是什么?

对MySQL的锁了解吗

隔离级别与锁的关系

按照锁的粒度分数据库锁有哪些?锁机制与InnoDB锁算法

从锁的类别上分MySQL都有哪些锁呢?像上面那样子进行锁定岂不是有点阻碍并发效率了

MySQL中InnoDB引擎的行锁是怎么实现的?

InnoDB存储引擎的锁的算法有三种

什么是死锁?怎么解决?

数据库的乐观锁和悲观锁是什么?怎么实现的?

为什么要使用视图?什么是视图?

视图有哪些特点?

视图的使用场景有哪些?

视图的优点,缺点

mysql中 in 和 exists 区别

varchar与char的区别

FLOAT和DOUBLE的区别是什么?

drop、delete与truncate的区别

UNION与UNION ALL的区别?

如何定位及优化SQL语句的性能问题?创建的索引有没有被使用到?或者说怎么才可以知道这条语句运行很慢的原因?

SQL的生命周期?

大表数据查询,怎么优化

超大分页怎么处理?

慢查询日志怎么看

关心过业务系统里面的sql耗时吗?统计过慢查询吗?对慢查询都怎么优化过?

为什么要尽量设定一个主键?

主键使用自增ID还是UUID?

字段为什么要求定义为not null?

如果要存储用户的密码散列,应该使用什么字段进行存储?

优化查询过程中的数据访问

优化长难的查询语句

优化特定类型的查询语句

优化关联查询

优化子查询

优化LIMIT分页

优化UNION查询

优化WHERE子句

MySQL数据库cpu飙升到500%的话他怎么处理?

大表怎么优化?某个表有近千万数据,CRUD比较慢,如何优化?分库分表了是怎么做的?分表分库了有什么问题?有用到中间件么?他们的原理知道么?

垂直分表适用场景

水平分表适用场景

水平切分的缺点

MySQL的复制原理以及流程

读写分离有哪些解决方案?

备份计划,mysqldump以及xtranbackup的实现原理

数据表损坏的修复方式有哪些?

你可能感兴趣的:(面试整理,mysql,数据库,面试,关系型数据库)