二、 日志系统：redo log和binlog

MySQL是如何做到恢复到半月内任意一秒的状态。

我们从一个表的更新说起，新建一张表：

mysql> create table T(ID int primary key, c int);

如果将id=2这一行的值加1，SQL语句就会这样写：

mysql> update T set c=c+1 where ID=2;

sql语句查询执行的过程更新也同样会再走一遍，

与查询语句不一样的是，更新流程设计两个重要的日志模块：redo log（重做日志）和binglog（归档 日志）redo log和binlog在设计上有很多有意思的地方，这些设计思路可以用到你自己的程序里。

redo log（重做日志）

不知道你是否记得《孔乙己》这篇文章，酒店掌柜有一个粉板，专门记录客人的赊账记录。如果赊账的人不多，他可以将赊账的人姓名和账目写在板上，但是如果赊账的人太多，粉板总会有记不下的时候，这时候掌柜还有一个专门记录赊账的账本。

如果有人要赊账或者还账的时候，掌柜一般有两种方法：

1、一种直接将账本翻出来，把这次账加上或者删除

2、先在粉板上记下这次账，等打烊后再把账本翻出来核算

在生意很忙时，掌柜应该选择后者，第一种方法实在太麻烦了，极大的影响工作效率。

同样，在MySQL里也有这个问题，如果每一次更新操作都写进磁盘，然后磁盘找到对应的那条记录，然后再更新，整个过程的IO成本，查找成本都很高。为了解决这个问题，MySQL的设计者就用了类似酒店掌柜粉板的思路来提升工作效率。

粉板和账本配合的过程，其实就是MySQL里面经常说到的WAL技术，WAL技术全称是Write-Ahead Logging.他的关键点就是先写日志，再写磁盘。

具体来说，当有一条日志需要更新的时候。InnoDB会先把日志写到redo log（粉板）中，并更新内存，这个时候更新就算完成了。同时，InnoDB会在适当的时候将这个操作记录到磁盘中，这个更新往往实在系统比较空闲的时候，这就像打样以后掌柜做的事。

如果今天赊账的不多，掌柜可以打烊后再整理，但是某天赊账的非常多，粉板写满了，又怎么办呢？这个时候掌柜只好放下手中的事，将粉板上的账整理到账本上，再将粉板擦掉，为记录新的赊账腾出空间。

与此类似，InnoDB的redo log是固定大小的，比如可以配置为一组四个文件，每个文件的大小是1G，那么这块粉板共有4G的空间。从头开始写，写到末尾又回到开头循环写，如下图所示：

 

write pos是当前记录的位置，一边写一边后移，写到第3号文件的末尾就回到0号文件开头。checkpoint是当前要擦除的位置，也是往后推移并且魂环的，擦除记录前要将记录更新到数据文件。

wirte和checkpoint之间是粉板空着的部分，可以用来记录新的操作。如果write pos 追上checkpoint，表示粉板满了，这个时候就不能执行新的更新操作，要先停下来擦掉一些记录，把checkpoint推进一下。

有了redo-log，InnoDB就可以保证即使数据库发生异常重启，之前提交的记录就不会丢失。这个能力成为crash-safe。

要理解crash-safe这个概念，可以想想赊账的例子。只要赊账记录记在粉板上或者写在账本上，之后即使掌柜忘记了，比如停业几天，恢复生意后依然可以通过账本和粉板上的数据明确赊账数目。

 

binlog（归档日志）

MySQL整体来看，其实有就有两块：一块是server层，它主要做的是MySQL功能层面的事情；还有一层一引擎层，负责存储相关的事宜。上面说到的redo log是InnoDB引擎特有的日志，server层也有自己的日志，成为binlog（归档日志）。

那为什么会有两份日志呢？

因为最开始MySQL没有InnoDB引擎。MySQL自带的引擎是MyISAM，但是MyISAM没有crash-safe的能力。binlog日志只能用于

归档。而InnoDB是另外的公司以插件的形式引入MySQL的。

两种日志有如下三点不同：

1、redo log是InnoDB特有的；binlog是MySQL的server层实现的，所有引擎都可以使用。

2、redo log是物理日志，记录的是在某个数据页上做了什么修改；binlog是逻辑日志，记录的是这个语句的原始逻辑，比如给ID=2这一行的c字段加1；

3、redo log 是循环写的，空间固定会用完，binlog是可以追加写的，追加写是指binlog文件写到一定大小的时候回切换到下一个，并不会覆盖以前的日志。

有了对这两个日志的概念的理解，我们再来看看执行器和InnoDB引擎在执行这个简单的update语句是的内部流程；

1、执行器先找到ID=2这一行，ID是主键，引擎用树搜索找到这一行，如果ID=2这一行所在的数据页本来就在内存中，就直接返回给执行器。否则需要从磁盘中读入磁盘中，然后再返回。

2、执行器拿到引擎给的行数据，把这个值加上1，得到一行新的数据，再调用引擎接口，写入这行数据。

3、引擎将这行新的数据写入到内存中，同时将这个更新操作记录到redo log里面，此时redo log处于prepare状态，然后告知执行器执行完成了，随时可以提交事务。

4、执行器生成这个操作的binlog日志，并将binlog写入磁盘。

5、执行器调用引擎的提交事务的接口，引擎把刚刚写入的redo log改成提交（commit）状态，更新完成。

下面的是更新的流程图：

 

最后三步看上去有些绕，将redo log写入拆成两个步骤，prepare和commit，就是两阶段提交。

两阶段提交：

为什么必须有两阶段提交？这是为了两份日志之间的逻辑一致。要说明这个问题，必须从文章开头的那个问题说起：怎样让数据库的数据恢复到半月内的任意一秒的状态？

由于redo log 和 binlog是两个独立的逻辑，如果不用两阶段提交，那么就是先写完biinlog在写redo log 或者反过来。我们看看两种方式会有什么问题。

假设当前的ID=2的行，字段c的值是0，再假设执行update语句过程中在子耳湾这一个日志后，第二个日志还没有写就发生crash，这回出现什么情况？

1、先写redo log再写binlog，假设先写redo log ，binlog还没有写完，数据库发生了异常重启，由于前面说过，redo log写完之后，系统即使崩溃，仍然能把数据库恢复回来，所以恢复的值是1.

但是由于binlog没有写完就crash了，这时候binlog里面就没有这个语句，因此，之后备份日志的时候，存起来的binlog里面就没有这条语句。

然后你再用这个binlog恢复临时库的话，由于binlog的语句丢失，这个临时库就会少这一次的更新，恢复出来的c的值就是0，与原库的值不符。

2、先写binlog再写redo log ，如果在写完binlog后crash，语句redo log的日志还没有写，崩溃恢复以后这个事务无效。所以这一行的值是0。但是binlog里面已经记录了“把c从0改为1”这个日志，所以用binlog来恢复的时候就会多一个事务出来，恢复出来的这一行的值就是1，与原库不同。

可以看出，如果不适用两阶段提交，那么数据库的状态与用日志恢复出来的状态不一致。

你可能会说，这个概率是不是很低，平时也没有什么动不动就需要恢复库的场景啊？

其实不是的，不只是误操作后需要用这个来恢复数据，当你需要扩容的时候，也就是需要多搭建一些备库来增加系统的读写能力的时候，现在常见的做法就是用全量备份加上应用binlog来实现的，这个不一致会导致你线上出现主从数据库不一致的情况。

简单说，redo log和binlog都可以用来表示事务的提交状态，两阶段就是让这两个状态保持逻辑上的一致。

 

innodb_flush_log_at_trx_commit这个参数设置成1的时候，表示每次事务的redo log都直接持久化到磁盘，这样保证MySQL异常重启之后数据不丢失。

sync_binlog 这个参数设置成1 的时候，表示每次binlog都持久化到磁盘，这个参数建议也设置成1，保证MySQL异常重启之后binlog不丢失。