MySQL(高级特性篇) 14 章——MySQL事务日志
事务有4种特性:原子性、一致性、隔离性和持久性
- 事务的隔离性由锁机制实现
- 事务的原子性、一致性和持久性由事务的redo日志和undo日志来保证(1)REDO LOG称为重做日志,用来保证事务的持久性(2)UNDO LOG称为回滚日志,用来保证事务的原子性、一致性
有的DBA或许会认为UNDO是REDO的逆过程,其实不然。REDO和UNDO都可以视为是一种恢复操作,但是:
- redo log:是存储引擎层(innodb)生成的日志,记录的是“物理级别” 上的页修改操作,比如页号xx、偏移量yyy写入了'zzz'数据
- undo log:是存储引擎层(innodb)生成的日志,记录的是“逻辑操作”日志,比如对某一行数据进行了INSERT语句操作,那么undo log就记录一条与之相反的DELETE操作
一、redo日志
InnoDB存储引擎是以页为单位来管理存储空间的。在真正访问页面之前,需要(1)把在磁盘上的页缓存到内存中的Buffer Pool之后才可以访问。(2)所有的变更都必须先更新缓冲池中的数据,然后(3)缓冲池中的脏页会以一定的频率被刷入磁盘,通过缓冲池来优化CPU和磁盘之间的鸿沟
(1)为什么需要REDO日志
- 一方面,(1)缓冲池可以帮助我们消除CPU和磁盘之间的鸿沟。(2)checkPoint机制可以保证数据的最终落盘,然而由于checkPoint并不是每次变更的时候就触发的,而是master线程隔一段时间去处理的。所以最坏的情况就是事务提交后,刚写完缓冲池,数据库宕机了,那么这段数据就是丢失的,无法恢复
- 另一方面,事务的持久性,就是说对于一个已经提交的事务,在事务提交后即使系统发生了崩溃,这个事务对数据库中所做的更改也不能丢失
- 如何保证持久性?一个简单的做法:在事务提交完成之前把该事务所修改的所有页面都刷新到磁盘,但是这个简单粗暴的做法有问题
- 修改量与刷新磁盘工作量严重不成比例:有时候我们仅仅修改了某个页面中的一个字节,但是我们知道在InnoDB中是以页为单位来进行磁盘I/O的,也就是说我们在该事务提交时不得不将一个完整的页面从内存中刷新到磁盘,我们又知道一个页面默认是16KB大小,只修改一个字节就要刷新16KB的数据到磁盘上显然是太小题大做了
- 随机IO刷新较慢:一个事务可能包含很多语句,即使是一条语句也可能修改许多页面,假如该事务修改的这些页面可能并不相邻,这就意味着在将某个事务修改的Buffer Pool中的页面刷新到磁盘时,需要进行很多的随机I/O,随机IO比顺序IO要慢,尤其对于传统的机械硬盘来说
- 另一个解决的思路:没有必要在每次事务提交时就把该事务在内存中修改过的全部页面刷新到磁盘,只需要把修改了哪些东西记录一下就好。比如,某个事务将系统表空间中第10号页面中偏移量为100处的那个字节的值1改成2。我们只需要记录一下:将第0号表空间的10号页面的偏移量为100处的值更新为 2
- InnoDB引擎的事务采用了WAL技术(Write-Ahead Logging),这种技术的思想就是先写日志,再写磁盘,只有日志写入成功,才算事务提交成功,这里的日志就是redo log
(2)REDO日志的好处、特点
- 好处:
- 降低了刷盘频率
- 占用的空间非常小(存储表空间ID、页号、偏移量以及需要更新的值,所需的存储空间是很小的)
- 特点:
- redo日志是顺序写入磁盘的,顺序lO效率比随机IO快
- 事务执行过程中,redo log不断记录:redo log跟bin log的区别,redo log是存储引擎层产生的,而bin log是数据库层产生的。假设一个事务,对表做10万行的记录插入,在这个过程中,一直不断的往redo log顺序记录,而bin log不会记录,直到这个事务提交,才会一次写入到bin log文件中
(3)redo的组成
- Redo log可以简单分为以下两个部分:重做日志的缓冲 、 重做日志文件
- 重做日志的缓冲 (redo log buffer),保存在内存中
- 在服务器启动时就向操作系统申请了一大片称之为redo log buffer的连续内存空间,翻译成中文就是redo日志缓冲区。这片内存空间被划分成若干个连续的redo log block。一个redo log block占用512字节大小
- 参数设置:innodb_log_buffer_size。redo log buffer 大小,默认16M,最大值是4096M,最小值为1M
- 重做日志文件 (redo log file),保存在硬盘中
- REDO日志文件默认在数据库的根路径下,其中的ib_logfile0和ib_logfile1即为REDO日志
(4)redo的整体流程
- 以一个更新事务为例,redo log流转过程,如下图所示:
- 第1步:先将原始数据从磁盘中读入内存中来,修改数据的内存拷贝
- 第2步:生成一条重做日志并写入redo log buffer,记录的是数据被修改后的值
- 第3步:当事务commit时,将redo log buffer中的内容刷新到redo log file,对 redo log file采用追加写的方式
- 第4步:定期将内存中修改的数据刷新到磁盘中
- 体会:Write-Ahead Log(预先日志持久化),在持久化一个数据页之前,先将内存中相应的日志页持久化
(5)redo log的刷盘策略
- InnoDB引擎会在写redo log的时候先写redo log buffer,之后以一定的频率刷入到真正的redo log file中。这里的频率就是我们要说的刷盘策略
- 注意:redo log buffer刷盘到redo log file的过程并不是真正的刷到磁盘中去,只是刷入到文件系统缓存(page cache)中去(这是现代操作系统为了提高文件写入效率做的一个优化),真正的写入会交给系统自己来决定(比如page cache足够大了)。那么对于InnoDB来说就存在一个问题,如果交给系统来同步,同样如果系统宕机,那么数据也丢失了(虽然整个系统宕机的概率还是比较小的)
- 针对这种情况,InnoDB给出innodb_flush_log_at_trx_commit参数,该参数控制commit提交事务时,如何将redo log buffer中的日志刷新到redo log file中。它支持三种策略:
- 设置为0:每过一秒,就把redo log buffer中的redo log数据写到文件系统缓存(即page cache,通常是操作系统层面的磁盘缓存),紧接着会调用fsync系统调用,把文件系统缓存里的redo log数据强制刷盘到物理磁盘上(每秒进行一次刷盘,是由后台线程完成的,而事务提交操作本身不会触发输盘)
- 设置为1:每次都要等到事务commit时,才会把redo log buffer中的redo log数据写到文件系统缓存中,然后立即强制调用fsync系统调用,把文件系统缓存中的redo log数据刷盘到物理磁盘上
- 设置为2:每次都要等到事务commit时,才会把redo log buffer中的redo log数据写到文件系统缓存中,但是不会立即调用fsync系统调用,而是由操作系统决定何时把文件系统缓存中的redo log数据刷盘到物理磁盘上
- 当值为0时:InnoDB存储引擎有一个后台线程,它每隔1秒,就会把redo log buffer中的内容写到文件系统缓存(page cache),然后调用刷盘操作
- 后台线程会主动刷盘的两种情况:
- 每秒1次的轮询操作
- 当redo log buffer占用的空间即将达到innodb_log_buffer_size(这个参数默认是16M)的一半的时候
(6)不同刷盘策略演示
- innodb_flush_log_at_trx_commit=1。为1时,只要事务提交成功,redo log记录就一定在硬盘里,不会有任何数据丢失
- innodb_flush_log_at_trx_commit=2。为2时,只要事务提交成功,redo log buffer中的内容只写入文件系统缓存( page cache)。如果仅仅只是MySQL挂了不会有任何数据丢失,但是操作系统宕机可能会有1秒数据的丢失
-
innodb_flush_log_at_trx_commit=0。为0时,master thread(即后台线程)中每1秒进行一次重做日志的刷盘操作,如果数据库发生崩溃,此实例crash最多丢失1秒钟内的事务
- 虽然用户可以通过设置参数innodb_flush_log_at_trx_commit为0或2来提高事务提交的性能,但需清楚,这种设置方法丧失了事务的ACID特性
(7)写入redo log buffer过程
- 补充概念:Mini-Transaction
- MySQL把对底层页面中的一次原子访问的过程称之为一个Mini-Transaction,简称mtr,比如,向某个索引对应的B+树中插入一条记录的过程就是一个Mini-Transaction
- 一个所谓的mtr可以包含一组redo日志,在进行崩溃恢复时这一组redo日志作为一个不可分割的整体
- 一个事务可以包含若干条语句,每一条语句其实是由若干个mtr组成,每一个mtr又可以包含若干条redo日志,画个图表示它们的关系就是这样:
- redo日志写入log buffer:
- 向log buffer中写入redo日志的过程是顺序的,也就是先往前边的block中写,当该block的空闲空间用完之后再往下一个block中写。InnoDB的设计者特意提供了一个称之为buf_free的全局变量,该变量指明后续写入的redo日志应该写入到log buffer中的哪个位置,如图所示:
- 一个mtr执行过程中可能产生若干条redo日志,这些redo日志是一个不可分割的组,所以(1)每个mtr运行过程中产生的日志先暂时存到一个地方,(2)当该mtr结束的时候,将过程中产生的一组redo日志再全部复制到log buffer中
- 我们现在假设有两个名为T1、T2的事务,每个事务都包含2个mtr,我们给这几个mtr命名一下:(1)事务T1的两个mtr分别称为mtr_T1_1和mtr_T1_2(2)事务T2的两个mtr分别称为mtr_T2_1和mtr_T2_2
- 每个mtr都会产生一组redo日志,用示意图来描述一下这些mtr产生的日志情况:
- 不同的事务可能是并发执行的,所以T1、T2之间的mtr可能是交替执行的。我们画个示意图︰
- 有的mtr产生的redo日志量非常大,比如mtr_t1_2产生的redo日志占用空间比较大,占用了3个block来存储
- redo log block的结构图
- 一个redo log block是由日志头、日志体、日志尾组成。日志头占用12字节,日志尾占用8字节,所以一个block真正能存储的数据就是512-12-4=496字节
- 为什么一个block设计成512字节:这个和磁盘的扇区有关,机械磁盘默认的扇区就是512字节,如果你要写入的数据大于512字节,那么要写入的扇区肯定不止一个,这时就要涉及到盘片的转动,找到下一个扇区。假设现在需要写入两个扇区A和B,如果扇区A写入成功,而扇区B写入失败,那么就会出现非原子性的写入
- 真正的redo日志都是存储到占用496字节大小的log block body中,图中的log block header和log block trailer存储的是一些管理信息(不是很重要,用到再来看)
- log block header的属性分别如下:
- LOG_BLOCK_HDR_NO:log buffer是由log block组成,在内部log buffer就好似一个数组,因此LOG_BLOCK_HDR_NO用来标记这个数组中的位置。其是递增并且循环使用的,占用4个字节,但是由于第—位用来判断是否是flush bit,所以最大的值为2G
- LOG_BLOCK_HDR_DATA_LEN:表示block中已经使用了多少字节,初始值为12(因为log block body从第12个字节处开始)。随着往block中写入的redo日志越来也多,本属性值也跟着增长。如果logblock body已经被全部写满。那么本属性的值被设置为512
- LOG_BLOCK_FIRST_REC_GROUP:一条redo日志也可以称之为一条redo日志记录(redo log record),一个mtr会生产多条redo日志记录,这些redo日志记录被称之为一个redo日志记录组(redo log record group)LOG_BLOCK_FIRST_REC_GROUP就代表该block中第一个mtr生成的redo日志记录组的偏移量(其实也就是这个block里第一个mtr生成的第一条redo日志的偏移量)。如果该值的大小和LOG_BLOCK_HDR_DATA_LEN 相同,则表示当前log block不包含新的日志
- LOG_BLOCK_CHECKPOINT_NO:占用4字节,表示该log block最后被写入时的checkpoint
- log block trailer中属性的意思如下:
- LOG_BLOCK_CHECKSUM:表示block的校验值,用于正确性校验〈其值和LOG_BLOCK_HDR_NO相同),我们暂时不关心它
(8)redo log file
1.8.1相关参数设置
- innodb_log_group_home_dir:指定redo log文件组所在的路径,默认值为./,表示在数据库的数据目录下。MySQL的默认数据目录(var/lib/mysql)下默认有两个名为ib_logfile0和ib_logfile1的文件,log buffer中的日志默认情况下就是刷新到这两个磁盘文件中。此redo日志文件位置还可以修改
- innodb_log_files_in_group:指明redo log file的个数,命名方式如:ib_logfile0,ib_logfile1... ib_logfilen。默认2个,最大100个
- innodb_flush_log_at_trx_commit:控制 redo log刷新到磁盘的策略,默认为1
- innodb_log_file_size:单个redo log文件大小,默认值为 48M 。最大值为512G,注意最大值指的是整个redo log系列文件之和,即(innodb_log_files_in_group * innodb_log_file_size )不能大于最大值512G根据业务修改其大小,以便容纳较大的事务。编辑my.cnf文件并重启数据库生效,如下所示
[root@localhost ~]# vim /etc/my.cnf innodb_log_file_size=200M
1.8.2日志文件组
- 从上边的描述中可以看到,磁盘上的redo日志文件不只一个,而是以一个日志文件组的形式出现的。这些文件以ib_logfile[数字](数字可以是0、1、2...)的形式进行命名,每个的redo日志文件大小都是一样的。在将redo日志写入日志文件组时,是从ib_logfile0开始写,如果ib_logfile0写满了,就接着ib_logfile1写。同理,ib_logfile1写满了就去写ib_logfile2,依此类推。如果写到最后一个文件该咋办?那就重新转到ib_logfile0继续写,所以整个过程如下图所示:
- 总共的redo日志文件大小: innodb_log_file_size × innodb_log_files_in_group
- 采用循环使用的方式向redo日志文件组里写数据的话,会导致后写入的redo日志覆盖掉前边写的redo日志。所以InnoDB的设计者提出了checkpoint的概念
1.8.3checkpoint
- 在整个日志文件组中还有两个重要的属性:
- write pos是当前记录的位置,一边写一边后移
- checkpoint是当前要擦除的位置,也是往后推移
- 每次redo log记录被刷盘到日志文件组中,write pos位置就会后移。每次MySQL加载日志文件组恢复数据时,会清空加载过的redo log记录,并把checkpoint后移。write pos和checkpoint之间的还空着的部分可以用来写入新的redo log记录
- 如果write pos追上checkpoint,表示日志文件组满了,这时候不能再写入新的 redo log记录。MySQL 得停下来,清空一些记录,把checkpoint 推进一下
(9)redo log小结
二、Undo日志
redo log是事务持久性的保证,undo log是事务原子性的保证
在事务中更新数据和前置操作其实是要先写入一个undo log
(1)如何理解Undo日志
- 事务的原子性:也就是事务中的操作要么全部完成,要么什么也不做。但有时候事务执行到一半会出现一些情况,比如:
- 情况一:事务执行过程中可能遇到各种错误,比如(1)服务器本身的错误、(2)操作系统错误,(3)甚至是突然断电导致的错误
- 情况二:程序员可以在事务执行过程中手动输入ROLLBACK语句结束当前事务的执行
- 以上情况出现,我们需要把数据改回原先的样子,这个过程称之为回滚
- 每当我们要对一条记录做改动时(INSERT、DELETE、UPDATE),都需要把回滚时所需的东西记下来。比如:
- 你插入一条记录时,至少要把这条记录的主键值记下来,之后回滚的时候只需要把这个主键值对应的记录删掉就好了。(对于每个INSERT,InnoDB存储引擎会完成一个DELETE)
- 你删除一条记录时,至少要把这条记录中的内容都记下来,这样之后回滚时再把由这些内容组成的记录插入到表中就好了。(对于每个DELETE,InnoDB存储引擎会执行一个INSERT)
- 你修改一条记录时,至少要把修改这条记录前的旧值都记录下来,这样之后回滚时再把这条记录更新为旧值就好了。(对于每个UPDATE,InnoDB存储引擎会执行一个相反的UPDATE)
- MySQL把这些为了回滚而记录的这些内容称之为回滚日志(即undo log)。注意,由于查询操作(SELECT)并不会修改任何用户记录,所以在查询操作执行时,并不需要记录相应的undo日志
- 此外,undo log会产生redo log,也就是undo log的产生会伴随着redo log的产生,这是因为undo log也需要持久性的保护
(2)Undo日志的作用
- 作用1:回滚数据
- undo是逻辑日志,因此只是将数据库逻辑地恢复到原来的样子,所有修改都被逻辑地取消了。但是数据结构和页本身在回滚之后可能大不相同
- 这是因为在多用户并发系统中,可能会有数十、数百甚至数千个并发事务。数据库的主要任务就是协调对数据记录的并发访问。比如,一个事务在修改当前一个页中某几条记录,同时还有别的事务在对同一个页中另几条记录进行修改。因此,不能将一个页回滚到事务开始的样子,因为这样会影响其他事务正在进行的工作
- 作用2:MVCC(详情看第16章)
- undo的另一个作用是MVCC。当用户读取一行记录时,若该记录已经被其他事务占用,当前事务可以通过undo读取之前的行版本信息,以此实现非锁定读取
(3)undo的存储结构
2.4.1回滚段与undo页
- InnoDB对undo log的管理采用段的方式,也就是回滚段(rollback segment)。每个回滚段记录了1024个undo log segment,而在每个undo log segment段中进行undo页的申请
- 在InnoDB1.1版本之前(不包括1.1版本),只有一个rollback segment,因此支持同时在线的事务限制为1024
- 从1.1版本开始InnoDB支持最大128个rollback segment,故其支持同时在线的事务限制提高到了128*1024
- 虽然InnoDB1.1版本支持了128个rollback segment,但是这些rollback segment都存储于共享表空间ibdata中。从InnoDB1.2版本开始,可通过参数对rollback segment做进一步的设置。这些参数包括(undo log相关参数一般很少改动)
- innodb_undo_directory:设置rollback segment文件所在的路径。这意味着rollback segment可以存放在共享表空间以外的位置,即可以设置为独立表空间。该参数的默认值为./
- innodb_undo_logs:设置rollback segment的个数,默认值为128。在InnoDB1.2版本中,该参数用来替换之前版本的参数innodb_rollback_segments
- innodb_undo_tablespaces:设置构成rollback segment文件的数量,这样rollback segment可以较为平均地分布在多个文件中。设置该参数后,会在路径innodb_undo_directory看到undo为前缀的文件,该文件就代表构成rollback segment文件
- undo页的重用:
- (1)当我们开启一个事务需要写undo log的时候,就得先去undo log segment中去找到一个空闲的位置,(2)当有空位的时候,就去申请undo页,在这个申请到的undo页中进行undo log的写入
- 我们知道mysql默认一页的大小是16k。为每一个事务分配一个页,是非常浪费的(除非你的事务非常长)。假设你的应用的TPS(每秒处理的事务数目)为1000,那么1s就需要1000个页,大概需要16M的存储,1分钟大概需要1G的存储。如果照这样下去除非MySQL清理的非常勤快,否则随着时间的推移,磁盘空间会增长的非常快,而且很多空间都是浪费的
- 于是undo页就被设计的可以重用了,(1)当事务提交时,并不会立刻删除undo页。(2)因为重用,所以这个undo页可能混杂着其他事务的undo log(3)undo log在commit后,会被放到一个链表中,(4)然后判断undo页的使用空间是否小于3/4,如果小于3/4的话,则表示当前的undo页可以被重用,那么它就不会被回收,其他事务的undo log可以记录在当前undo页的后面。(5)由于undo log是离散的,所以清理对应的磁盘空间时,效率不高
2.4.2回滚段与事务
- 每个事务只会使用一个回滚段rollback segment,一个回滚段在同一时刻可能会服务于多个事务(一个rollback segment由128个undo log segment组成)
- 当事务提交时,InnoDB存储引擎会做以下两件事情:
- 将undo log放入列表中,以供之后的purge操作
- 判断undo log所在的页是否可以重用,若可以分配给下个事务使用
2.4.3回滚段中的数据分类
- 未提交的回滚数据(uncommitted undo information):该数据所关联的事务并未提交,所以该数据不能被其他事务的数据覆盖
- 已经提交但未过期的回滚数据(committed undo information):该数据关联的事务已经提交,但是仍受到undo retention参数的保持时间的影响
- 事务已经提交并过期的数据(expired undo information):事务已经提交,而且数据保存时间已经超过undo retention参数指定的时间。当回滚段满了之后,会优先覆盖"事务已经提交并过期的数据"
事务提交后并不能马上删除undo log及undo log所在的页。这是因为可能还有其他事务需要通过undo log来得到行记录之前的版本(MVCC)。故事务提交时将undo log放入一个链表中,是否可以最终删除undo log及undo log所在页由purge线程来判断
(4)undo log的类型
- 在InnoDB存储引擎中,undo log分为:
- insert undo log:insert undo log是指在insert操作中产生的undo log。因为insert操作的记录,只对事务本身可见,对其他事务不可见(这是事务隔离性的要求,防止幻读),故该undo log可以在事务提交后直接删除。不需要进行purge操作
- update undo log:update undo log记录的是对delete和update操作产生的undo log。该undo log可能需要提供MVCC机制,因此不能在事务提交时就进行删除。提交时放入undo log链表,等待purge线程进行最后的删除
(5)undo log的生命周期
2.5.1简要生成过程
-
以下是undo+redo事务的简化过程。假设有2个数值,分别为A=1和B=2,然后将A修改为3,B修改为4
1.start transaction; 2.记录A=1到undo log; 3.update A = 3; 4.记录A=3 到redo log; 5.记录B=2到undo log; 6.update B = 4; 7.记录B =4到redo log; 8.将redo log刷新到磁盘 9.commit
(1)在1-8步骤的任意一步系统宕机,事务未提交,该事务就不会对磁盘上的数据做任何影 响 (2)如果在8-9之间宕机,恢复之后可以选择回滚,也可以选择继续完成事务提交,因为此 时redo log已经持久化 (3)若在9之后系统宕机,内存映射中变更的数据还来不及刷回磁盘,那么系统恢复之后, 可以根据redo log把数据刷回磁盘
-
只有Buffer Pool的流程:
-
有了Redo Log和Undo Log之后:在更新Buffer Pool中的数据之前,我们需要先将该数据事务开始之前的状态写入Undo Log中。假设更新到一半出错了,我们就可以通过Undo Log来回滚到事务开始前
2.5.2详细生成过程
- 对于InnoDB引擎来说,每个行记录除了记录本身的数据之外,还有几个隐藏的列:
- DB_ROW_ID:(1)如果没有为表显式的定义主键,(2)并且表中也没有定义唯一索引,(3)那么InnoDB会自动为表添加一个row_id的隐藏列作为主键
- DB_TRX_ID:每个事务都会分配一个事务ID,当对某条记录发生变更时,就会将这个事务的事务ID写入trx_id中
- DB_ROLL_PTR:回滚指针,本质上就是指向undo log的指针
- 当我们执行INSERT时:
begin; INSERT INTO user (name) VALUES ("tom");
插入的数据都会生成一条insert undo log,并且数据的回滚指针会指向它。undo log会记录undo log的序号、插入主键的列和值...,那么在进行rollback的时候,通过主键直接把对应的数据删除即可
- 当我们执行UPDATE时:对于更新的操作会产生update undo log,并且会分更新主键的和不更新主键的,假设现在执行: 这时会把老的记录写入新的undo log,让回滚指针指向新的undo log,它的undo no是1,并且新的undo log会指向老的undo log (undo no=0)
UPDATE user SET name="sun" WHERE id=1;
假设现在执行:
UPDATE user SET id=2 WHERE id=1;
(1)对于更新主键的操作,会先把原来的数据deletemark标识打开,(2)这时并没有真正的删除数据,真正的删除会交给清理线程去判断,(3)然后在后面插入一条新的数据,新的数据也会产生undo log,并且undo log的序号会递增。(4)可以发现每次对数据的变更都会产生一个undo log,当一条记录被变更多次时,那么就会产生多条undo log,(5)undo log记录的是变更前的日志,并且每个undo log的序号是递增的,那么当要回滚的时候,按照序号依次向前推,就可以找到我们的原始数据了
2.5.3undo log是如何回滚的
以上面的例子来说,假设执行rollback,那么对应的流程应该是这样:
-
通过undo no=3的日志把id=2的数据删除
-
通过undo no=2的日志把id=1的数据的deletemark还原成0
-
通过undo no=1的日志把id=1的数据的name还原成Tom
-
通过undo no=0的日志把id=1的数据删除
2.5.4undo log的删除
- 针对于insert undo log:因为insert操作的记录,只对事务本身可见,对其他事务不可见。故该undo log可以在事务提交后直接删除,不需要进行purge操作
- 针对于update undo log:该undo log可能需要提供MVCC机制,因此不能在事务提交时就进行删除。提交时放入undo log链表,等待purge线程进行最后的删除
- 补充:
- purge线程两个主要作用是:清理undo页和清除page里面带有Delete_Bit标识的数据行
- 在InnoDB中,事务中的Delete操作实际上并不是真正的删除掉数据行,而是一种Delete Mark操作
- 真正的删除工作需要后台purge线程去完成
(6)小结
undo log是逻辑日志,对事务回滚时,只是将数据库逻辑地恢复到原来的样子
redo log是物理日志,记录的是数据页的物理变化,undo log不是redo log的逆过程
三、总结
(1)三种不同刷盘策略的效率和安全性分析
3.1.1效率
- 效率:0>2>1
- 值为0时效率最高:(1)因为它是每过一秒,就将redo log buffer中的redo log数据写到文件系统缓存中,然后立即调用fsync系统调用,将文件系统缓存中的redo log数据强制刷盘到物理磁盘上,这一系列操作是由后台线程完成的(2)等事务commit时,不会再触发刷盘,因此,无需等待redo log刷盘到磁盘这个耗时的I/O操作(3)数据库可以快速完成事务提交的逻辑,将控制权返回给应用程序,应用程序能迅速发起下一个事务请求(4)虽然每秒会有一次刷盘操作,但这是在后台线程中异步进行的,不会阻塞正常的事务提交流程。即使刷盘操作比较耗时,也不会对事务提交的效率产生直接影响
- 当值为2时:事务提交后,会涉及将redo log buffer中的redo log写到文件系统缓存中的操作,有一定的耗时
- 当值为1时:事务提交后,会涉及将redo log buffer中的redo log写到文件系统缓存中的操作,还会涉及将文件系统缓存中的redo log写到物理磁盘上的操作,因此耗时更多
- 也就是说,效率看的是:从事务提交到开启下一个事务中间的时间
3.1.2安全性
- 安全性:1>2>0
- 值为1时最安全:事务提交时,会立刻将redo log buffer中的redo log数据写到文件系统缓存中,然后立刻将文件系统缓存中的redo log数据写到物理磁盘上。因为已经固化到了磁盘上,所以我们不用担心数据库层面的崩溃,也不用担心操作系统层面的崩溃
- 当值为2时:事务提交时,会立即将redo log buffer中的redo log数据写到文件系统缓存上,因此数据库崩溃,也可以通过文件系统缓存中的redo log数据恢复;但是无法预防操作系统层面崩溃
- 当值为0时:安全系数最低。每秒进行一次redo log的刷盘操作(redo log buffer→文件系统缓存→物理磁盘),但是如果数据库在两次刷盘操作的一秒间隔内发生崩溃,这一秒产生的redo log数据就可能丢失。导致部分已提交的数据无法恢复
(2)undo log流程
- 当我们开启一个事务,需要用到undo log时(INSERT、DELETE、UPDATE),就会去rollback segment中查看是否还有空闲的undo log segemnt。找到一个空闲的undo log segment后,就去申请一个undo页
- 当事务提交后,InnoDB存储引擎首先会把页中的undo log标记为已提交但未超时,不会立即删除
- 然后,将undo页中的undo log加到链表中,方便purge线程进行遍历和处理(INSERT操作对应的undo log不用加到链表,因为它只对事务本身可见)
- 当满足一定条件时,数据库系统会触发对undo log的清理操作。常见的触发条件包括:(1)undo空间不足的时候,会优先清理“已经提交且已经超时”的undo log(3)如果经过分析,确定某个 undo log 不再被任何活动事务引用,即使没有达到时间阈值或者 undo 空间还有剩余,也可能会触发清理操作
- 在清理的时候,purge(1)会把undo log从链表上清理掉,(2)还会从undo页里删除相应的undo log记录,(3)清理完成后,purge 线程会对 undo 页进行标记,表明该页中的部分或全部空间已变为可用状态
- undo页重用过程:
- 空间合并:数据库会尝试将相邻的可用空间进行合并,形成更大的连续可用空间块,这样可以更有效地满足后续事务对undo页空间的需求
- 分配策略:当新的事务需要使用undo页时,数据库会优先从这些标记为可用的undo页中分配空间。可以根据一定的算法,如按页号顺序、按可用空间大小等,选择合适的 undo 页分配给新事务
- 初始化:在分配给新事务之前,可能需要对 undo 页进行一些初始化操作,清除残留的数据或重置相关的元数据,以确保新事务可以正常使用该页来记录新的undo log