MySQL-索引的数据结构

为什么使用索引

索引是存储引擎用于快速找到数据记录的一种数据结构，就好比一本字典的目录，通过目录中找到对应的页码，就可以快速定位想要查找的内容。在MySQL中也是类似的原理，在进行数据查找的时候，首先查看查询条件是否命中某条索引，符合则使用索引查找相关数据，如果不符合则需要全表扫描，也就是一条条地查找记录，直到找到与条件符合的记录。

索引的优点和缺点

索引的概述

MySQL官方对索引的定义是：索引（Index）是帮助MySQL高效获取数据的数据结构。

索引的本质：索引是数据结构。可以简单理解为：排好序的快速查找数据结构，满足特定的查找算法。这些数据结构以某种方式指向数据，这样就可以在这些数据结构的基础上实现高级查找算法。

索引实在存储引擎实现的，因此每种存储引擎的索引不一定完全相同，并且每种存储引擎不一定支持所有索引类型。同时存储引擎可以定义每个表的最大索引数和最大索引长度。所有存储引擎支持每个表至少16个索引，总索引的长度至少为256字节。有些存储引擎支持更多的索引数和更大的索引长度。

索引的优点

  1. 可以提高查找的速度，降低IO成本，这也是使用索引的主要原因。
  2. 通过创建唯一索引，可以保证数据库表中每一行的数据的唯一性。
  3. 在实现数据的参考完整性方面，可以加速表和表之间的连接。也就是说，对于有依赖关系的子表和父表的联合查询时，可以提高查询速度。
  4. 在使用分组和排序子句进行数据查询的时候，可以显著减少查询中分组和排序的时间，降低CPU消耗。

索引的缺点

上面说到了索引有很多优点，主要就是提高查询速度，那么索引有哪些缺点呢？

索引的缺点主要体现在下面几个方面：

  1. 创建索引和维护索引需要耗费时间，并且随着数据量的增加，对应耗费的时间也会增加。
  2. 索引需要占用磁盘空间，除了数据表占数据空间之外，每一个索引还要占用一定的物理空间，存储在磁盘上，如果存在大量索引，索引文件可能比数据文件更快到达最大尺寸。
  3. 虽然索引大大提高了查询速度，但是同时也会降低更新表的速度。比如当对表中的数据进行增加、修改、删除的时候，索引也要动态地维护，这样也就是降低了数据地维护速度。

所以在使用索引的时候，需要综合考虑索引的优点以及缺点。

注意：索引可以提高查询速度，但是会影响插入、修改的速度。在这种情况下可以考虑先把索引删除，然后更新数据，最后再创建索引。

InnoDB中索引的推演

在使用索引之前的查找

假设有一个查询的SQL语句，如下：

SELECT 字段列表 FROM 表名 WHERE 字段名 = xxx;

在一个页中的查找

假设目前表中的记录比较少，所有的记录都可以被放到一个页中，在查找记录的时候可以根据搜索条件的不同分为两种情况：

  • 以主键为搜索条件：可以在目录中使用二分法快速定位到对应的槽，然后再遍历该槽对应分组中的记录即可快速找到指定的记录。
  • 以其他列（字段）作为搜索条件：因为在数据页中并没有对非主键列建立所谓的页目录，所以我们无法通过二分法快速定位相应的槽。这种情况下只能从最小记录开始依次遍历单链表中的每条记录，然后对比每条记录是不是符合搜索条件。很显然，这种方式的效率是非常低的。

在很多页中查找

大部分情况下我们表中存放的记录是非常多的，需要很多数据页来存储这些记录。在很多页中查找记录的话大致可以分为两个步骤：

  1. 定位到记录所在的页。
  2. 从所在的页内查找相应的记录。

在没有索引的情况下，不论是根据主键列或者其他非主键列查找，由于我们并不能快速的定位到记录所在的页，所以只能从第一个页沿着双向链表一直往下找，然后根据上面说到的在一个页中查找的方式来查找记录。

因为要遍历所有的数据页，所以这种方式显然是非常耗时的。如果这个表的数据量非常大呢，比如有1亿条记录，那么这个时候索引就应运而生了。

设计索引

首先我们创建一个表index_demo：

mysql> CREATE TABLE index_demo(
  a INT,
  b INT,
  c CHAR(1),
  PRIMARY KEY (`a`)
) ROW_FORMAT=COMPACT;
Query OK, 0 rows affected (1.15 sec)

mysql> DESCRIBE index_demo;
+-------+---------+------+-----+---------+-------+
| Field | Type    | Null | Key | Default | Extra |
+-------+---------+------+-----+---------+-------+
| a     | int     | NO   | PRI | NULL    |       |
| b     | int     | YES  |     | NULL    |       |
| c     | char(1) | YES  |     | NULL    |       |
+-------+---------+------+-----+---------+-------+
3 rows in set (0.17 sec)

这个表中有2个INT类型的列，1个CHAR(1)类型的列，规定字段a为主键，最后这个表使用COMPACT行格式来实际存储记录。那么这个表index_demo的行格式的示意图可以是：

行格式示意图

这些分别代表：

  • record_type：表示记录的类型，比如0表示普通记录、2表示最小记录、3表示最大记录、1暂时没用，后面会说到。
  • next_record：表示下一条记录地址相对于本条记录地址的偏移量，我们用箭头来表明下一条记录。
  • filed：这里只记录了在index_demo这张表中的三个列，分别是a、b、c。
  • Extra：除了上面的3种信息以外的所有信息，包括其他隐藏列的值以及记录的额外信息。

那么对于有一些记录的示意图可以是下面这样：

有一些记录的示意图

一个简单的索引的设计方案

为什么根据一些搜索条件查询时需要遍历所有数据页呢？这是因为每个页中的记录并没有规律，所以并不知道搜索条件会匹配哪些页中的记录，所以不得不依次遍历所有数据页。

那么如果我们想要快速定位到记录在哪些数据页怎么做呢？我们可以建立一个目录来快速定位记录所在的数据页。

建立这个目录必须要完成下面这些事：

  1. 下一个数据页中数据记录的主键值必须大于上一个页中数据记录的主键值：

    这里我们假设每个数据页最多可以存放3条记录（实际上一个数据页很大可以存放很多记录）。此时我们根据这个假设在上面创建的表index_demo中插入3条记录：

    mysql> INSERT INTO index_demo VALUES(1,4,'u'),(3,9,'d'),(5,3,'y');
Query OK, 3 rows affected (1.29 sec)
Records: 3  Duplicates: 0  Warnings: 0

    那么这些记录已经按照主键值的大小串联成了一个单向链表了，那么上面的示意图就可以是：

    插入3条记录后的示意图

    此时我们再来插入一条记录：

    mysql> INSERT INTO index_demo VALUES(4,4,'a');
Query OK, 1 row affected (1.12 sec)

    因为上面我们假设了一个页中最多只能存放3条记录，那么这个时候就不得不再分配一个新的页：

    再新增一条记录

    这里注意一下，新分配的数据页的编号可能并不是连续的。它们只是通过维护着上一个页和下一个页的编号而建立了链表关系。

    另外这里页9中的记录最大主键值是5，而我们新插入的主键值是4，因为4<5，所以这里并不符合下一个数据页中记录的主键值必须大于上一个页的主键值的要求，所以在上面我们插入了一个主键值为4的新纪录的时候需要有一个记录的移动。也就是说要把页9中主键值为5的记录移动到页30中去，然后再把主键值为4的记录插入到页9中去，过程如下：

    记录移动的过程步骤

    这个过程表明了在对页中的记录进行增删改操作的过程中，我们必须通过一些比如记录移动的操作来始终保持这个状态一直成立，这个状态也就是：下一个数据页中记录的主键值必须大于上一个页中记录的主键值。这个过程称为页分裂。

  2. 给所有页建立一个目录项：

由于数据也的编号可能是不连续的，所以在向index_demo表中插入许多条记录后，可能是这样的效果：

插入很多条记录后

因为这些16kb的页在物理存储上是不连续的，所以如果想从这么多页中根据主键值快速定位某些记录所在的页，那么就需要给他做个目录，每个页都对应一个目录项，每个目录项又包括下面两个部分：

  • 页的记录中最小的主键值，用key来表示。
  • 用page_no来表示页号。

所以上面几个页的目录就像这样：

增加目录项

比如这里的页5，对应第三个目录项，在这个目录项中包含这个这个页的页号5还有这个页中最小的主键值12。接下来我们只需要把这几个目录项在物理存储器上连续存储（比如：数组），就可以实现根据主键快速查找某条记录的功能了。比如这里我们想要查找主键值为20的记录，可以分为下面两步：

  1. 先在目录项中根据二分法快速确定出这个记录在第三个目录项，（因为12<20<209），那么它对应的页是页5。
  2. 再根据上面说到的在页中查找记录的方式在页5中定位具体的记录。

InnoDB中的索引方案

迭代1次：目录项记录的页

上面说到了一个简易的索引方案，是因为我们为了根据主键值进行查找时使用二分法快速定位具体的目录项而假设所有目录项都可以在物理存储器上连续存储，但是这样做存在几个问题：

  • InnoDB是使用页来作为管理存储空间的基本单位，最多能保证16kb的连续存储空间，而随着表中记录数量的增多，需要非常大的连续存储空间才能把所有的目录项都放下，这样对于记录数量非常多的表不太现实。
  • 我们常常会对表中的记录进行增删，假如我们把上面页30中的记录都删除了，那也就是说第二个目录项也就没有存在的必要了，这样就需要把后面的目录项全部往前面移动一下，这样做的效率将会非常差。

所以我们需要一种可以灵活管理所有目录项的方式。我们发现目录项其实和记录长的差不多，只不过目录项中的两个页是主键和页号而已，为了和记录做一下区分，我们把这些用来表示目录项的记录称为目录项的记录。

那么InnoDB是怎么区分一条记录是数据记录还是目录项记录的呢？

可以使用记录头信息里的record_type属性，当表示目录项记录的时候，它的每个值表示：

  • 0：普通数据记录。
  • 1：目录项记录。
  • 2：最小记录。
  • 3：最大记录。

那么上面的目录项以及数据记录的结构会变成这样：

目录项记录的页

从图中可以看出来，我们新分配了一个编号为40的页来专门存储目录项记录。这里再次强调目录项记录和普通的数据记录的不同点：

  • 目录项记录的record_type=1，而普通记录的record_typ=0。
  • 目录项记录只有主键值和页的编号两个列，而普通的记录的列是自己定义的，可能存在很多列，另外还有InnoDB自己添加的隐藏列。

记录头信息里还有一个叫min_rec_mask的属性，只有在存储目录项记录的页中的主键值最小的目录项记录的min_rec_mask值为1，其他别的记录的min_rec_mask值都是0。

相同点：两者用的是一样的数据页，都会为主键值生成Page Directory（页目录），从而在按照主键值进行查找时可以使用二分法来加快查询速度。

比如现在以查找主键为20的记录为例，根据某个主键值去查找记录的步骤就可以大致拆分成下边两步：

  1. 先找到存储目录项记录的页，也就是在页40中通过二分法快速定位到对应目录项，因为12<20<209，所以可以定位到对应的记录所在的页就是页5。
  2. 再到存储记录的页5中根据二分法快速定位到主键值为20的记录。
迭代2次：多个目录项记录的页

虽然说目录项记录中只存储主键值和对应的页号，比数据记录需要的存储空间小了很多了，但是不管怎么说一个页只有16kb的大小，能存放的目录项记录也是有限的，那如果表中的数据太多，以至于一个数据页不足以存放所有的目录项记录呢？

这里我们假设一个存储目录项记录的页最多只能存放4条目录项记录，所以如果再向上图中插入一条主键值为350的记录的话，那就需要分配一个新的存储目录项记录的页：

多个目录项记录的页从图中可以看出，我们插入了一条主键值为350的记录之后需要两个新的页：

  • 为存储该数据记录而新生成了页44。
  • 因为原先存储目录项记录的页40的容量已满（前边假设只能存储4条目录项记录），所以不得不需要一个新的页50来存放页44对应的目录项。

现在因为存储目录项记录的页不止一个，所以如果我们想根据主键值查找一条数据记录大致需要3个步骤，还是以查找主键值为20的记录为例：

  1. 确定目录项记录页：我们现在的存储目录项记录的页有两个，即页40和页50，又因为页40表示的目录项的主键值的范围是[1,350)，页50表示的目录项的主键值不小于350，所以主键值为20的记录对应的目录项记录在页5中。
  2. 通过目录项记录页确定数据记录真实所在的页。在一个存储目录项记录的页中通过主键值定位一条目录项记录的方式说过了。
  3. 在真实存储数据记录的页中定位到具体的记录。
迭代3次：目录项记录页的目录页

问题来了，在这个查询步骤的第1步中我们需要定位存储目录项记录的页，但是这些页是不连续的，如果我们表中的数据非常多，则会产生很多存储目录项记录的页，那么我们怎么根据主键值快速定位一个存储目录项记录的页呢？

我们可以为这些存储目录项记录的页在生成一个更高级的目录（开始套娃），就像是一个多级目录一样，大目录里面嵌套小目录，小目录里面才是实际的数据，所以现在每个页的示意图可以是这样的：、

目录项记录页的目录页

如图，我们生成了一个存储更高级目录项的页70，这个页中的两条记录分别代表页40和页50，如果数据记录的主键值在[1,350)之间，则到页40中查找更详细的目录项记录，如果主键值>=350的话，就到页50中查找更详细的目录项记录。

随着表中记录的增加，这个目录的层级会继续增加，如果简化一下，那么我们可以用下边这个图来描述它：

这个数据结构，它的名称是B+树。

B+Tree

不论是存放数据记录的数据页们还是目录项记录的数据页，我们都把它们存放到B+数这个数据结构中了，所以我们页称这些数据页为节点。从上面的图中可以看出，我们的实际数据记录，其实都存放在B+数的最底层的节点上，这些节点也被称为叶子节点，其余用来存放目录项的节点称为非叶子节点或者内节点，其中B+树最上层的节点称为根节点。

一个B+树的节点其实可以分成很多层，规定最下边的那层，也就是存放我们数据记录的那层为第0层，之后依次往上加。之前我们做了一个非常极端的假设：存放数据记录的页最多存放3条记录，存放目录项记录的页最多存放4条记录。但是实际上真实环境中一个页存放的记录数量是非常大的，假设所有存放数据记录的叶子节点代表的数据页可以存放100条数据记录 ，所有存放目录项记录的内节点代表的数据页可以存放1000条目录项记录，那么：

  • 如果B+树有1层：也就是只有1个用于存放数据记录的节点，最多能存放100条记录。
  • 如果B+树有2层：最多能存放1000×100=10,0000条记录。
  • 如果B+树有3层：最多能存放1000×1000×100=1,0000,0000条记录。
  • 如果B+树有4层：最多能存放1000×1000×1000×100=1000,0000,0000条记录。相当多的记录！

你的表里能存放100000000000条记录吗？所以一般情况下，我们用到的B+树都不会超过4层，所以我们通过主键值去查找某条记录最多只需要做4个页面内的查找（查找3个目录项页和一个数据记录页），又因为在每个页面内有所谓的Page Directory（页目录），所以在页面内也可以通过二分法实现快速定位记录。

常见的索引概念

按照物理实现方式，索引可以分为2种，聚簇（聚集）和非聚簇（非聚集）索引。非聚集索引也可以称为二级索引或者辅助索引。

聚簇索引

聚簇索引并不是一种单独的索引类型，而是一种数据存储方式（所有的数据记录都存储在了叶子节点），也就是所谓的索引即数据，数据即索引。

术语“聚簇”表示数据行和相邻的键值聚簇地存储在一起。

特点
  1. 使用记录主键值的大小进行记录和页的排序，这包括三个方面的含义：
    1. 页内的记录是按照主键大小的顺序排成一个单向链表。
    2. 每个存放数据记录的页也是根据页中数据记录的主键大小顺序排成一个双向链表。
    3. 存放目录项记录的页分为不同的层次，在同一层次中的页也是根据页中目录项记录的主键大小顺序排成一个双向链表。
  2. B+树的叶子节点存储的是完整的数据记录，所谓完整的数据记录，就是指这个记录中存储了所有列的值（包括隐藏列）。

我们把具有这两种特性的B+树称为聚簇索引，所有完整的数据记录都存放在这个聚簇索引的叶子节点处。这种聚簇索引并不需要我们在MySQL语句中显式地使用INDEX语句去创建，InnoDB存储引擎会自动地为我们创建聚簇索引。

优点
  • 数据访问更快，因为聚簇索引将索引和数据保存在同一个B+树中，因此从聚簇索引中获取数据比非聚簇索引更加的快。
  • 聚簇索引对于主键的排序查找和范围查找速度非常快。
  • 按照聚簇索引排列顺序，查询显示一定范围数据的时候，由于数据都是紧密相连，数据库不用从多个数据块中提取数据，所以节省了大量的io操作。
缺点
  • 插入速度严重依赖于插入顺序，按照主键的顺序插入是最快的方式，否则将会出现页分裂，严重影响性能。因此，对于InnoDB表，我们一般都会定义一个自增的ID列为主键。
  • 更新主键的代价很高，因为将会导致被更新的行移动。因此，对于InnoDB表，我们一般定义主键为不可更新。
  • 二级索引访问需要两次索引查找 ，第一次找到主键值，第二次根据主键值找到行数据。
限制
  • 对于MySQL数据库来说，目前只有InnoDB存储引擎支持聚簇索引，而MyISAM并不支持聚簇索引。
  • 由于数据物理存储排序方式只能有一种，所以每个MySQL的表只能有一个聚簇索引。一般情况下就是该表的主键。
  • 如果一个表没有定义主键，InnoDB会选择非空的唯一索引代替。如果没有这样的索引，InnoDB会隐式的定义一个主键来作为聚簇索引。
  • 为了充分利用聚簇索引聚簇的特性，所以InnoDB表的主键列尽量选用有序的顺序id，而不建议用无序的id。比如UUID、MD5、HASH、字符串列作为主键从而无法保证数据的顺序增长。

二级索引（辅助索引、非聚簇索引）

上面说到的聚簇索引只能在搜索条件是主键的时候才能发挥作用，因为B+树中的数据都是按照主键进行排序的。那如果想要以别的列作为搜索条件怎么办呢？

我们可以多建几个B+树，不同的B+树中的数据采用不同的排序规则。比如用b列的大小作为数据页、页中记录的排序规则，再建立一个B+树，如下：

以b列作为索引的B+树

这个B+树和上面说到的聚簇索引有几个不一样的地方：

  1. 使用记录b列的大小进行记录和页的排序，这包括三个方面的含义：
    1. 页内的记录是按照b列的大小顺序排成一个单向链表。
    2. 每个存放数据记录的页也是根据页中记录的b列的大小顺序排列成一个双向链表。
    3. 存放目录项记录的页分为不同的层次，在同一层次中的页也是根据页中目录项记录的b列大小顺序排成一个双向链表。
  2. B+树的叶子节点存放的不是完整的数据记录，而只是b列+主键这两个列的值。
  3. 目录项记录不再是主键+页号的搭配，而是变成了b列+页号。

所以如果现在想要通过b列的值查找某些记录的话就可以使用上面刚刚建好的这个B+树了。这里以查找b列的值为4的记录为例，其查找过程如下：

  1. 确定目录项记录页：根据根页面，也就是页33，可以快速定位到目录项记录所在的页为页44（因为2<4<9）。
  2. 通过目录项记录页确定数据记录真实所在的页：在页44中可以快速定位到实际存储数据记录的页，但是由于b列并没有唯一性约束，所以b列值为4的记录可能分布在多个数据页中，又因为2<4<=4，所以确定了实际的记录在页10和页47中.
  3. 在实际存储数据记录的页中定位到具体的记录：在页10和页47中定位到具体的记录。
  4. 回表：但是这个B+树的叶子节点中的记录只存储了b和a（主键）两个列，所以必须还要再根据主键值去聚簇索引中再查找一遍完整的数据记录。
回表

根据上面这个以b列大小排序的B+树只能确定要查找记录的主键值，所以如果想根据b列的值查找到完整的数据记录的话，仍然需要到聚簇索引中再查一遍，这个过程称为回表。也就是根据b列的值查询一条完整的数据记录需要使用到2个B+树。

为什么还需要一次回表操作呢？直接把完整的数据记录放到叶子节点不行吗？

如果把完整的数据记录放到叶子节点确实不用回表了。但是太耗费空间了，相当于每建立一个B+树都需要把所有的数据记录再都拷贝一遍。

因为这种按照非主键列建立的B+树需要一次回表操作才能定位到完整的数据记录，所以这样的B+树才会被称为二级索引，或者辅助索引。由于使用的是b列的大小作为B+树的排序规则，所以也称这个B+树是为b列建立的索引。

非聚簇索引的存在不影响数据在聚簇索引中的组织，所以一张表可以有多个非聚簇索引。

联合索引

也可以同时以多个列的大小作为排序规则，也就是同时为多个列建立索引，比如想让B+树按照b和c列的大小进行排序，这个包含两层含义：

  • 先把每个记录和页按照b列进行排序。
  • 在记录的b列相同的情况下，采用c列进行排序。

具体可以看下面的示意图：

联合索引

如图所示，需要注意下面几点：

  1. 每条目录项记录都是由b，c和页号这三个部分组成，每条记录先按照b列的值排序，如果记录的b列相同，则按照c列排序。
  2. B+树叶子节点处的数据记录是由b，c，和主键a列组成的。

注意一点：以b和c列的大小为排序规则建立的B+树称为联合索引，本质上也是一个二级索引。但是和分别为b，c列建立一个二级索引是不同的，具体如下：

  • 建立联合索引只会建立如上图一样的1个B+树。
  • 为b和c列分别建立二级索引会分别以b和c列的大小为排序规则建立2个B+树。

InnoDB的B+树索引的注意事项

根页面万年不动

在上面介绍B+树索引的时候，是先把数据记录的叶子节点画出来，然后接着往上推画出存储目录项记录的内节点，但是实际上B+树的形成过程是下面这样的：

  1. 每当为某个表创建一个B+树索引（聚簇索引不是人为创建的，是默认就有的）的时候，都会为这个索引创建一个根节点页面。一开始表中没有数据的时候，每个B+树对应的根节点中既没有数据记录，也没有目录项记录。
  2. 随后向表中插入数据记录的时候，先把数据记录存储到这个根节点中。
  3. 当根节点中的可用空间使用完之后继续插入记录，此时会将根节点中的所有记录复制到一个新分配的页，比如页a中，然后对这个新页进行页分裂操作，得到另外一个新页页b，这个时候新插入的记录根据键值（也就是聚簇索引中的主键值，二级索引中对应的索引列的值）的大小就会被分配到页a或者页b中，而根节点便升级为存储目录项记录的页。

特别注意：一个B+树索引的根节点从诞生开始，便不会再移动。这样只要对某个表建立一个索引，那么它的根节点的页号便会被记录到某个地方，然后凡是InnoDB存储引擎需要用到这个索引的时候，都会从这个固定的地方取出根节点的页号，从而使用这个索引。

内节点中目录项记录的唯一性

上面说到了B+树索引的内节点中目录项记录的内容是索引列+页号的搭配，但是这个搭配对于二级索引来说不太严谨，还是以上面的index_demo表为例，假设这个表中的数据是这样的：

a b c
1 1 ‘u’
3 1 ‘d’
5 1 ‘y’
7 1 ‘a’

如果二级索引中目录项记录的内容只是索引列+页号的话，那么为b列建立索引后B+树应该是如下这样：

内节点中目录项记录的唯一性

如果这个时候想插入一个记录的话，比如列a、b、c的值分别为9、1、c，那么在修改这个为b列建立的B+树的时候会出现一个大问题：由于页5中存储的目录项记录是由b列+页号组成的，页5中的两条目录项记录对应的b列的值都是1，而新插入的这个数据的b列也是1，那么这个数据应该放到页11还是页29中呢？

为了解决这个问题，也就是能确定新插入的记录应该插入到哪个页中，则需要保证在B+树的同一层内节点的目录项记录除了页号这个字段以外是唯一的。所以对于二级索引的内节点的目录项记录的内容实际上是由三个部分构成的：

  1. 索引列的值
  2. 主键值
  3. 页号

也就是把主键值也添加到二级索引内节点的目录项记录了，这样就可以保证B+树每一层节点中每条目录项记录除页号这个字段以外是唯一的，所以为b列建立的二级索引实际上应该是这样子的：

二级索引目录项记录加上主键

这样的话再插入记录（9，1，'c'）的时候，由于页5中存储的目录项记录都是由b列+主键+页号的值构成的，可以先把新纪录的b列的值和页5中每个目录项记录的b列值做比较，相同的话，接着再比较主键值，因为B+树同一层中不同目录项记录b列+主键值肯定是不一样的，所以最后肯定能定位唯一的一条目录项记录。最后，上面说到的问题，这个新加入的记录应该被插入到页29中。

一个页最少存储2条记录

一个B+树只需要很少的层级就可以轻松存储数亿条记录，查询速度相当不错，这是因为B+树本质上就是一个大的多层级目录，每经过一个目录时都会过滤掉许多无效的子目录，直到最后访问到存储真实数据的目录。那如果一个大的目录中只存放一个子目录是什么样的效果呢？

也就是目录层级会非常之多，而且最后的那个存放真实数据的目录中只能存放一条记录。所以InnoDB的一个数据页至少可以存放两条记录。

MyISAM中的索引方案

B树索引适用的存储引擎如下：

索引/存储引擎 MyISAM InnoDB Memory
B-Tree索引 ✅ ✅ ✅

即使多个存储引擎支持同一种类型的索引，但是它们的实现原理也是不一样的。InnoDB和MyISAM默认索引是B树索引，而Memory默认的索引是Hash索引。MyISAM引擎适用B+树作为索引的结构，叶子节点的data域存放的是数据记录的地址。

MyISAM索引的原理

上面我们说到了InnoDB中索引即数据，也就是说聚簇索引的那个B+树的叶子节点中已经把所有完整的数据记录都包含了，而MyISAM的索引方案虽然也是使用的树形结构，但是其索引和数据却是分开存储的：

  • 将表中的记录按照记录的插入顺序单独存储在一个文件中，其被称为数据文件。这个文件并不划分为若干个数据页，而是有多少记录就往这个文件中存多少记录就可以了。由于插入数据的时候并没有刻意地按照主键大小排序，所以并不能在这些数据上使用二分法进行查找。
  • 使用MyISAM存储引擎地表会把索引信息另外存储到一个称为索引文件的另外一个文件中。MyISAM会单独为表的主键创建一个索引，只不过在索引的叶子节点中存储的不是完整的数据记录，而是主键值+数据记录地址的组合。

下面是MyISAM索引的原理图：

MyISAM索引原理

这里假设表一共由三列，假设Col1是主键，上图就是MyISAM表的主索引，从图中可以看出MyISAM的索引文件仅仅保存数据记录的地址。在MyISAM中，主键索引和二级索引在结构上没有任何的区别，只是主键索引要求key是唯一的，而二级索引的key则可以重复。如果在Col2上建立一个二级索引，则结构如下：

MyISAM二级索引

同样都是一个B+树，data域保存数据记录的地址。因此MyISAM中索引检索的算法是：

  1. 首先按照B+树搜索算法搜索索引，如果指定的Key存在，则取出其data域的值，然后用data域的值为地址，读取相应的数据记录。

MyISAM和InnoDB对比

MyISAM的索引方式都是非聚簇的，和InnoDB包含1个聚簇索引是不同的。两种引擎中索引的区别：

  1. 在InnoDB存储引擎中，我们只需要根据主键值对聚簇索引进行一次查找就能找到对应的记录，而在MyISAM中却需要进行一次回表操作，意味着MyISAM中建立的索引相当于全部都是二级索引。
  2. InnoDB的数据文件本身就是索引文件，而MyISAM索引文件和数据文件是分离的 ，索引文件仅保存数据记录的地址。
  3. InnoDB的非聚簇索引的data域存储相应记录主键的值，而MyISAM索引记录的是地址。换句话说，InnoDB的所有非聚簇索引都引用主键作为data域。
  4. MyISAM的回表操作是十分快速的，因为是拿着地址偏移量直接到文件中取数据的，反观InnoDB是通过获取主键之后再去聚簇索引里找记录，虽然说也不慢，但还是比不上直接用地址去访问。
  5. InnoDB要求表必须有主键，而MyISAM可以没有。如果没有显式指定，则MySQL系统会自动选择一个可以非空且唯一标识数据记录的列作为主键。如果不存在这种列，则MySQL自动为InnoDB表生成一个隐含字段作为主键，这个字段长度为6个字节，类型为长整型。

总结

通过上面的了解，我们知道了InnoDB的索引实现之后：

  1. 举例1：很容易明白为什么不建议使用过长的字段作为主键，因为所有二级索引都引用主键索引，过长的主键索引会使二级索引变得非常大。
  2. 举例2：用非单调的字段作为主键在InnoDB中不是个好主意，因为InnoDB数据文件本身是一个B+树，非单调的主键会造成在插入新纪录的时候，数据文件为了维持B+树的特性而频繁的分裂调整，十分低效，所以使用自增字段作为主键却是一个很好的选择。

索引的代价

索引虽然是个好东西，但是并不能随便建，它在空间和时间上都有一定的消耗：

  1. 空间上的代价：每建立一个索引都要为它建立一个B+树，每一个B+树的每一个节点都是一个数据页，一个页默认会占用16kb的存储空间，一个很大的B+树由许多数据页组成，也就是很大的一片存储空间。
  2. 时间上的代价：每次对表中的数据进行增、删、改操作时。都需要修改每个B+树索引。且上面说到了B+树的每一层节点都是按照索引列值从小到大顺序排序组成的双向链表。不论是叶子节点中的记录，还是内节点中的记录都是按照索引列的值从小到大的顺序形成的单向链表。而增、删、改操作可能会对节点和记录的排序造成破坏，所以存储引擎需要额外的时间进行一些记录移位、页面分裂、页面回收等操作来维护好节点和记录的排序。如果我们建立了许多索引，每个索引对应的B+树都要进行相关的维护操作，会给性能拖后腿。

MySQL数据结构选择的合理性

从MySQL的角度来说，不得不考虑的一个现实问题就是磁盘I/O。如果能让索引的数据结构尽量减少硬盘的I/O操作，所消耗的时间也就越小。可以说磁盘的I/O操作次数对索引的使用效率至关重要。

查找都是索引操作，一般来说索引非常大，尤其是关系型数据库，当数据量比较大的时候，索引的大小有可能几个G甚至更多，为了减少索引在内存中的占用，数据库索引是存储在外部磁盘上的。当利用索引查询的时候，把索引全部加载到内存是不现实的，所以只能逐一加载，那么MySQL衡量查询效率的标准就是磁盘IO次数。

Hash结构

Hash本身是一个函数，又被称为散列函数，它可以帮助我们大幅提升检索数据的效率。Hash算法是通过某种确定性的算法（比如MD5、SHA1、SHA2、SHA3）将输入变成输出。相同的输入永远可以得到相同的输出，假设输入内容有微小偏差。在输出中通常会有不同的结果。比如想要验证两个文件是否相同，那么不需要把两份文件拿来对比，只需要用Hash函数计算出对应的结果，然后对比两个文件的计算结果即可。

加速查询速度的数据结构，常见的有两类：

  • 树：比如平衡二叉搜索树。查询、插入、修改、删除的平均时间复杂度都是O(log2N)O(log_2^N)。
  • 哈希：比如HashMap，查询、插入、修改、删除的平均时间复杂度都是O(1)O(1)。

采用Hash进行查询的效率非常高，基本上一次查询就可以找到数据，而B+树需要自顶向下一次查找，多次访问节点才能找到数据，中间需要多次IO操作，从效率来说Hash比B+树更快。

既然Hash结构的效率这么高，那为什么MySQL的索引结构还要设计成树形的呢？

  1. Hash索引仅能满足（=、<、>、IN）查询。如果进行范围查询，哈希型的索引，时间复杂度会退化为O(N)O(N)，而树形的有序特性，依然可以保持O(log2N)O(log_2^N)的高效率。
  2. Hash索引还有一个缺陷，数据的存储是没有顺序的，在ORDER BY的情况下，使用Hash索引还需要对数据重新排序。
  3. 对于联合索引的情况，Hash值是将联合索引键合并之后一起计算的，无法对单独的一个键或者几个索引键进行查询。
  4. 对于等值查询来说，通常Hash索引的效率更高，不过也存在一种情况，就是索引列的重复值如果很多（Hash冲突），效率就会降低。这是因为遇到Hash冲突时，需要遍历桶中的行指针来进行比较，找到查询的关键字，非常耗时。所以Hash索引通常不会用到重复值多的列上，比如列为性别、年龄的情况等。

Hash索引适用的存储引擎

索引/存储引擎 MyISAM InnoDB Memory
Hash索引 ❌ ❌ ✅

Hash索引的适用性

Hash索引存在着很多的限制，相比之下在数据库中B+树索引的使用面会更广，不过也有一些场景采用Hash索引效率更高，比如在键值型（key-value）数据库中（Redis存储的核心就是Hash表）。

MySQL中的Memory存储引擎支持Hash索引，如果我需要用到查询临时表时，就可以选择Memory存储引擎，把某个字段设置为Hash索引，比如字符串类型的字段，进行Hash计算后长度可以缩短到几个字节。当字段的重复度低，而且经常需要进行等值查询的时候，采用Hash索引是个不错的选择。

另外InnoDB本身不支持Hash索引，但是提供自适应Hash索引（Adaptive Hash Index）。如果一个数据经常被访问，当满足一定条件时候，就会将这个数据页的地址存放到Hash表中。这样下次查询的时候，就可以直接找到这个页面所在的位置。这样让B+树也具备了一定的Hash索引的优点。

采用自适应Hash索引的目的是方便根据SQL的查询条件加速定位到叶子节点，特别是B+树比较深的时候，通过自适应Hash索引可以明显提高数据的检索效率。

可以通过innodb_adaptive_hash_index变量来查看是否开启了自适应Hash索引，比如：

mysql> SHOW variables LIKE '%adaptive_hash_index';
+----------------------------+-------+
| Variable_name              | Value |
+----------------------------+-------+
| innodb_adaptive_hash_index | ON    |
+----------------------------+-------+
1 row in set (0.01 sec)

二叉搜索树

//TODO