认真学习MySQL的事务日志-Undo日志

【1】概述

① 如何理解undo log

redo log是事务持久性的保证，undo log是事务原子性的保证。在事务中更新数据的前置操作时要先写入一个undo log。

事务需要保证原子性，也就是事务中的操作要么全部完成，要么什么也不做。但有时候事务执行到一半会出现一些情况，比如：

• 情况一：事务执行过程中可能遇到各种错误，比如服务器本身的错误，操作系统错误，甚至是突然断电导致的错误。
• 情况二：程序员可以在事务执行过程中手动输入ROLLBACK语句结束当前事务的执行。

以上情况出现，我们需要把数据改回原先的样子，这个过程称之为回滚。这样就可以造成一个假象：这个事务看起来什么都没做，所以符合原子性要求。

每当我们要对一条记录做改动时（这里的改动可以指insert、delete、update），都需要“留一手”–把回滚时所需的东西记下来。比如：

• 插入一条记录时，至少要把这条记录的主键值记下来，之后回滚的时候只需要把这个主键值对应的记录删掉就好了。（对于每个insert，InnoDB存储引擎会完成一个delete）
• 删除了一条记录，至少要把这条记录中的内容都记下来，这样之后回滚时再把由这些内容组成的记录插入到表中。（对于每个delete，InnoDB存储引擎会执行一个insert）
• 修改了一条记录，至少要把修改这条记录前的旧值都记录下来，这样之后回滚时再把这条记录更新为旧值就好了。（对于每个update，InnoDB存储引擎会执行一个相反的update，将修改前的行放回去）

MySQL把这些为了回滚而记录的这些内容称之为撤销日志或者回滚日志（即undo log）。 注意，由于查询操作（select）并不会修改任何用户记录，所以在查询操作执行时，并不需要记录相应的undo日志。

此外，undo log会产生redo log，也就是undo log的产生会伴随着redo log的产生，这是因为undo log也需要持久性的保护。

② undo 日志的作用

① 回滚数据

用户对undo 日志可能有误解：undo用于将数据库物理地恢复到执行语句或事务之前的样子。但事实并非如此。undo是逻辑日志，因此只是将数据库逻辑地恢复到原来的样子。所有修改都被逻辑地取消了，但是数据结构和页本身在回滚之后可能大不相同。

这是因为在多用户并发系统中，可能会有数十、数百甚至数千个并发事务。数据库的主要任务就是协调对数据记录的并发访问。比如，一个事务在修改当前一个页中某几条记录，同时还有别的事务在对同一个页中另几条记录进行修改。因此，不能将一个页回滚到事务开始的样子，因为这样会影响其他事务正在进行的工作。

② MVCC

undo的另一个作用是MVCC，即在InnoDB存储引擎中MVCC的实现是通过undo来完成。当用户读取一行记录时，若该记录已经被其他事务占用，当前事务可以通过undo读取之前的行版本信息，以此实现非锁定读取。

【2】undo的存储结构

① 回滚段与undo页

InnoDB对undo log的管理采用段的方式，也就是回滚段（rollback segment）。每个回滚段记录了1024个undo log segment，而在每个undo log segment段中进行undo 页的申请。

• 在InnoDB1.1版本之前（不包括1.1版本），只有一个rollback segment，因此支持同时在线的事务限制为1024。虽然对绝大多数的应用来说都已经够用。
• 从1.1版本开始InnoDB支持最大128个rollback segment，故其支持同时在线的事务限制提高到了128*1024 。

虽然从InnoDB1.1版本支持了128个rollback segment，但是这些rollback segment都存储于共享表空间ibdata中。从InnoDB1.2版本开始，可通过参数对rollback segment做进一步的设置。这些参数包括：

• innodb_undo_directory ：设置rollback segment文件所在的路径。这意味着rollback segment可以存放在共享表空间以外的位置，即可以设置为独立表空间。该参数的默认值为./ ，表示当前InnoDB存储引擎的目录。
• innodb_rollback_segments：设置rollback segment的个数，默认值为128。在InnoDB1.2版本中，该参数用来替换之前版本的参数innodb_undo_logs 。MySQL8.0中存在innodb_rollback_segments，没有innodb_undo_logs 变量。
• innodb_undo_tablespaces：设置构成rollback segment文件的数量，这样rollback segment可以较为平均地分布在多个文件中。设置该参数后，会在路径 innodb_undo_directory 看到undo为前缀的文件，该文件就代表rollback segment文件。

② undo页的重用

当我们开启一个事务需要写undo log的时候，就得先去undo log segment中去找到一个空闲的位置。当有空位的时候，就去申请undo页，在这个申请到的undo页中进行undo log的写入。我们知道MySQL默认一页的大小是16K。

为每一个事务分配一个页，是非常浪费的（除非你的事务非常长）。假设你的应用的TPS（每秒处理的事务数目）为1000，那么1s就需要1000个页，大概需要16M的存储，一分钟大概需要1G的存储。如果照这样下去除非MySQL清理的非常勤快，否则随着时间的推移，磁盘空间会增长的非常快，而且很多空间都是浪费的。

于是undo页就被设计得可以重用了，当事务提交时并不会立刻删除undo页。因为重用，所以这个undo页可能混杂着其他事务的undo log。undo log在commit后，会被放到一个链表中，然后判断undo页的使用空间是否小于3/4，如果小于3/4的话，则表示当前的undo页可以被重用，那么它就不会被回收，其他事务的undo log可以记录在当前undo页的后面。由于undo log是离散的，所以清理对应的磁盘空间时，效率不高。

③ 回滚段与事务

每个事务只会使用一个回滚段，一个回滚段在同一时刻可能会服务于多个事务。

当一个事务开始的时候，会指定一个回滚段。在事务进行的过程中，当数据被修改时，原始的数据会被复制到回滚段。

在回滚段中，事务会不断填充盘区，直到事务结束或所有的空间被用完。如果当前的盘区不够用，事务会在段中请求扩展下一个盘区。如果所有已分配的盘区都被用完，事务会覆盖最初的盘区或者在回滚段允许的情况下扩展新的盘区来使用。

回滚段存在于undo表空间中，在数据库中可以存在多个undo表空间，但同一时刻只能使用一个undo表空间。

当事务提交时，InnoDB存储引擎会做以下两件事情：

• 将undo log放入表中，以供之后的purge操作
• 判断undo log所在页是否可以重用，若可以分配给下个事务使用。

④ 回滚段中的数据分类

未提交的回滚数据（uncommitted undo information）：该数据所关联的事务并未提交，用于实现读一致性，所以该数据不能被其他事务的数据覆盖。

已经提交但未过期的回滚数据（committed undo information）：该数据关联的事务已经提交，但是仍受到undo retention参数的保持时间的影响。

事务已经提交并过期的数据（expired undo information）：事务已经提交，而且数据保存时间已经超过undo retention参数指定的时间，属于已经过期的数据。当回滚段满了之后，会优先覆盖“事务已经提交并过期的数据”。

事务提交后并不能马上删除undo log及undo log所在的页。这是因为可能还有其他事务需要通过undo log来得到行记录之前的版本。故事务提交时将undo log放入一个链表中，是否可以最终删除undo log及undo log所在页由purge线程来判断。

⑤ undo的类型

在InnoDB存储引擎中，undo log分为insert undo log 和 update undo log。

insert undo log

insert undo log是指在insert操作中缠上的undo log。因为insert操作的记录，只对事务本身可见，对其他事务不可见（这是事务隔离性的要求），故该undo log可以在事务提交后直接删除，不需要进行purge操作。

update undo log

update undo log记录的是对delete 和 update操作产生的undo log。该undo log可能需要提供MVCC机制，因此不能在事务提交时就进行删除。提交时放入undo log链表等待purge线程进行最后的删除。

【3】undo log的生命周期

① 简要生成过程

以下是undo+redo事务的简化过程。假设有2个数值，分表为A=1和B=2，然后将A修改为3，B修改为4。

1.start transaction;
2.记录A=1 到undo log ;
3.update A=3;
4.记录A=3 到redo log;
5.记录B=2 到undo log;
6.update B=4 ;
7.记录B=4 到redo log;
8.将redo log刷新到磁盘
9.commit

在1-8步骤的任意一步系统宕机，事务未提交，该事务就不会对磁盘上的数据做任何影响。

如果在8-9之间宕机，恢复之后可以选择回滚，也可以选择继续完成事务提交，因为此时redo log已经持久化。

若在9之后系统宕机，内存映射中变更的数据还来不及刷回磁盘，那么系统恢复之后，可以根据redo log把数据刷回磁盘。

只有Buffer Pool的流程

有了Redo log和Undo log之后

在更新Buffer Pool中的数据之前，我们需要先将该数据事务开始之前的状态写入undo log中。假设更新到一半出错了，我们就可以通过undo log来回滚到事务开始前。

② 详细生成过程

对于InnoDB引擎来说，每个行记录除了记录本身的数据之外，还有几个隐藏的列：

• DB_ROW_ID：如果没有为表显式的定义主键，并且表中也没有定义唯一索引，那么InnoDB会自动为表添加一个row_id的隐藏列作为主键。
• DB_TRX_ID ：每个事务都会分配一个事务ID，当对某条记录发生变更时，就会将这个事务的事务ID写入trx_id中。
• DB_ROLL_PTR：回滚指针，本质上就是指向undo log的指针。
  

当我们执行insert时

begin;
insert into user(name) values('tom');

插入的数据都会生成一条insert undo log，并且数据的回滚指针会指向它。undo log会记录undo log的序号、插入主键的列和值…，那么在进行rollback的时候，通过主键直接把对应的数据删除即可。

---

当我们执行update时

对于更新的操作会产生update undo log，并且会分更新主键和不更新主键的，假设现在执行：

update user set name='Sun' where id =1;

这时会把老的记录写入新的undo log，让回滚指针指向新的undo log，它的undo no是1，并且新的undo log会指向老的undo log（undo no=0）。

假设现在执行(即进行了主键的更新)：

update user set id=2 where id=1;

对于更新主键的操作，会先把原来的数据deletemark标识打开，这时并没有真正的删除数据，真正的删除会交给清理线程去判断。然后在后面插入一条新的数据，新的数据也会产生undo log，并且undo log的序号会递增。

可以发现每次对数据的变更都会产生一个undo log，当一条记录被变更多次时，那么就会产生多条undo log。undo log记录的是变更前的日志，并且每个undo log的序号是递增的，那么当要回滚的时候，按照序号依次向前推，就可以找到我们的原始数据了。

③ undo log是如何回滚的

以上面的例子来说，假设执行rollback，那么对应的流程应该是这样：

• 1.通过undo no=3的日志把id=2的数据删除；
• 2.通过undo no=2的日志把id=1的数据的deletemark还原成0；
• 3.通过undo no=1的日志把id=1的数据的name还原成Tom；
• 4.通过undo no=0的日志把id=1的数据删除

④ undo log的删除

针对于insert undo log

因为insert操作的记录，只对事务本身可见，对其他事务不可见。故该undo log可以在事务提交后直接删除，不需要进行purge操作。

针对于update undo log

该undo log可能需要提供MVCC机制，因此不能在事务提交时就进行删除。提交时放入undo log链表，等待purge线程进行最后的删除。

purge线程的两个主要作用是：清理undo 页 和 清楚page里面带有Delete_Bit标识的数据行。在InnoDB中，事务中的Delete操作实际上并不是真正的删除调数据行，而是一种Delete Mark操作，在记录上标识Delete_Bit，而不删除记录。是一种“假删除”，只是做了个标记，真正的删除工作需要后台purge线程去完成。

最后再次总结下，undo log是逻辑日志，对事务回滚时，只是将数据库逻辑地恢复到原来的样子。redo log是物理日志，记录的是数据页的物理变化，undo log不是redo log的逆过程。