假设你在维护一个市民系统,每个人都有一个唯一的身份证号,而且业务代码已经保证了不会写入两个重复的身份证号。如果市民系统需要按照身份证号查姓名,就会执行类似这样的 SQL 语句:
1 | select name from CUser where id_card = 'xxxxxxxyyyyyyzzzzz'; |
所以,你一定会考虑在 id_card 字段上建索引。从性能的角度考虑,你选择唯一索引还是普通索引呢?选择的依据是什么呢?
我们以下图为例,其中 ID 为表的主键,k 为辅助索引字段 k 上的值都不重复。
接下来,我们就从这两种索引对查询语句和更新语句的性能影响来进行分析。
1. 查询过程
假设,执行查询的语句是 select id from T where k=5。这个查询语句在索引树上查找的过程,先是通过 B+ 树从树根开始,按层搜索到叶子节点,也就是图中右下角的这个数据页,然后可以认为数据页内部通过二分法来定位记录。
- 对于普通索引来说,查找到满足条件的第一个记录 (5,500) 后,需要查找下一个记录,直到碰到第一个不满足 k=5 条件的记录。
- 对于唯一索引来说,由于索引定义了唯一性,查找到第一个满足条件的记录后,就会停止继续检索。
由于 InnoDB 的数据是按数据页为单位来读写的,且将其整体读入内存。所以两者在查询过程中的性能差距可以所示微乎其微。
2. 更新过程
为了说明普通索引和唯一索引对更新语句性能的影响这个问题,我需要先跟你介绍一下 change buffer。
2.1 change buffer
当需要更新一个数据页时,如果数据页在内存中就直接更新,而如果这个数据页还没有在内存中的话,在不影响数据一致性的前提下,InooDB 会将这些更新操作缓存在 change buffer 中,这样就不需要从磁盘中读入这个数据页了。在下次查询需要访问这个数据页的时候,将数据页读入内存,然后执行 change buffer 中与这个页有关的操作。通过这种方式就能保证这个数据逻辑的正确性。
将 change buffer 中的操作应用到原数据页,得到最新结果的过程称为 merge。除了访问这个数据页会触发 merge 外,系统有后台线程会定期 merge。在数据库正常关闭(shutdown)的过程中,也会执行 merge 操作。
显然,如果能够将更新操作先记录在 change buffer,减少读磁盘,语句的执行速度会得到明显的提升。而且,数据读入内存是需要占用 buffer pool 的,所以这种方式还能够避免占用内存,提高内存利用率。
2.2 change buffer 使用条件
- 对于唯一索引来说,所有的更新操作都要先判断这个操作是否违反唯一性约束。比如,要插入 (4,400) 这个记录,就要先判断现在表中是否已经存在 k=4 的记录,而这必须要将数据页读入内存才能判断。如果都已经读入到内存了,那直接更新内存会更快,就没必要使用 change buffer 了。
- 对于普通索引,如果需要更新的数据已经存在于内存中,此时直接更新缓存即可,无须使用到 change buffer;如果不在内存,则是将更新记录在 change buffer。change buffer 能够减少随机磁盘访问,所以对更新性能的提升是会很明显的。
综上所述,只有在使用到普通索引且要更新的数据的目标页不在缓存时才会使用到 change buffer。
2.3 change buffer 使用场景
- 对于写多读少的业务来说,页面在写完以后马上被访问到的概率比较小,此时 change buffer 的使用效果最好。这种业务模型常见的就是账单类、日志类的系统。
- 假设一个业务的更新模式是写入之后马上会做查询,那么即使满足了条件,将更新先记录在 change buffer,但之后由于马上要访问这个数据页,会立即触发 merge 过程。这样随机访问 IO 的次数不会减少,反而增加了 change buffer 的维护代价。所以,对于这种业务模式来说,change buffer 反而起到了副作用。
3. 索引选择和实践
回到我们文章开头的问题,普通索引和唯一索引应该怎么选择。其实,这两类索引在查询能力上是没差别的,主要考虑的是对更新性能的影响。所以,我建议你尽量选择普通索引。
如果所有的更新后面,都马上伴随着对这个记录的查询,那么你应该关闭 change buffer。 而在其他情况下,change buffer 都能提升更新性能。
4. change buffer 和 redo log
在 日志系统-SQL更新语句执行流程 我们讲过,在 MySQL 中,为了避免每一次的更新操作都需要写进磁盘,然后磁盘也要找到对应的那条记录,然后再更新导致整个过程 IO 成本、查找成本过高。MySQL 会先数据库操作先存储在日志中再写磁盘来提升更新效率(WAL 技术,全称是 Write-Ahead Logging,它的关键点就是先写日志,再写磁盘)。
具体来说,当有一条记录需要更新的时候,InnoDB 引擎就会先把记录写到 redo log 里面,并更新内存,这个时候更新就算完成了。同时,InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做。
redo log 和 change buffer 这两个概念确实容易混淆。所以,这里我把它们 放到了同一个流程里来说明,便于你区分这两个概念。
现在,我们要在表上执行这个插入语句:
1 | insert into t(id,k) values(id1,k1),(id2,k2); |
这里,我们假设当前 k 索引树的状态,查找到位置后,k1 所在的数据页在内存 (InnoDB buffer pool) 中,k2 所在的数据页不在内存中。如图 2 所示是带 change buffer 的更新状态图。
分析这条更新语句,你会发现它涉及了四个部分:内存、redo log(ib_log_fileX)、 数据表空间(t.ibd)、系统表空间(ibdata1)。
这条更新语句做了如下的操作(按照图中的数字顺序):
- Page 1 在内存中,直接更新内存;
- Page 2 没有在内存中,就在内存的 change buffer 区域,记录下“我要往 Page 2 插入 一行”这个信息
- 将上述两个动作记入 redo log 中(图中 3 和 4)。
针对 Page1, 系统会在空闲的时候根据 redo log 将更新同步到磁盘,而对于内存中的 change buffer 区域,则是在 merge 过程进行磁盘同步的。
比如,我们现在要执行 select * from t where k in (k1, k2)。这里,我画了这两个读请求的流程图。如果读语句发生在更新语句后不久,内存中的数据都还在,那么此时的这两个读操作就与系统表空间(ibdata1)和 redo log(ib_log_fileX)无关了。所以,我在图中就没画出这两部分。
从图中可以看到:
读 Page 1 的时候,直接从内存返回。你可以看一下图 3 的这个状态,虽然磁盘上还是之前的数据,但是这里直接从内存返回结果,结果是正确的。
要读 Page 2 的时候,需要把 Page 2 从磁盘读入内存中,然后应用 change buffer 里面的操作日志,生成一个正确的版本并返回结果。可以看到,直到需要读 Page 2 的时候,这个数据页才会被读入内存。