ODERBY的运行原理

今天药忘吃喽~ 2023-10-13 10:09 29阅读 0赞

定义表:

CREATE TABLE `t` (
      `id` int(11) NOT NULL,
      `city` varchar(16) NOT NULL,
      `name` varchar(16) NOT NULL,
      `age` int(11) NOT NULL,
      `addr` varchar(128) DEFAULT NULL,
      PRIMARY KEY (`id`),
      KEY `city` (`city`)
    ) ENGINE=InnoDB;

SQL语句:

select city,name,age from t where city='杭州' order by name limit 1000  ;

查询城市是“杭州”的所有人名字，并且按照姓名排序返回前 1000 个人的城市 姓名年龄。

创建索引:

CREATE INDEX index_city ON `t` (city);

我们来看一看它的执行流程:

## 全字段排序 ##

首先我们看一下它的索引结构

![8d1be3c2a6c74281ad0bef9835b094da.png][]

索引按照city的字段排序

首先,MYSQL会为每个线程分配一块用于排序的空间sort\_buffer

然后这行SQL语句的执行顺序为:

初始化sort\_buffer:里面放city,name,age这三个字段

从索引中找到第一个符合筛选条件的 **主键id** 也就是ID.x

用主键id取出整行,再取出 city,name,age这三个字段 放入sort\_buffer中

从索引中取出下一个记录的主键id

重复以上两步 知道不符合筛选条件

对sort\_buffer中数据按照name做**快速排序**

按照排序结果取前 1000 行返回给客户端

**我们把这种排序手段称为全字段排序**

“按 name 排序”这个动作，可能在内存中完成，也可能需要使用外部排序，这取决于排序所需的内存和参数 sort\_buffer\_size。

sort\_buffer\_size，就是 MySQL 为排序开辟的内存（sort\_buffer）的大小。如果要排序的数据量小于 sort\_buffer\_size，排序就在内存中完成。但如果排序数据量太大，内存放不下，则不得不利用磁盘临时文件辅助排序。也就是外部排序，外部排序一般使用归并排序算法。可以这么简单理解，**MySQL 将需要排序的数据分成 12 份，每一份单独排序后存在这些临时文件中。然后把这 12 个有序文件再合并成一个有序的大文件。(不是说一定要分成12份啊)**

如果 sort\_buffer\_size 超过了需要排序的数据量的大小，number\_of\_tmp\_files 就是 0，表示排序可以直接在内存中完成。

否则就需要放在临时文件中排序。sort\_buffer\_size 越小，需要分成的份数越多，number\_of\_tmp\_files 的值就越大。

## rowid 排序 ##

在上面这个算法过程里面，只对原表的数据读了一遍，剩下的操作都是在 sort\_buffer 和临时文件中执行的。但这个算法有一个问题，就是如果查询要返回的字段很多的话，那么 sort\_buffer 里面要放的字段数太多，这样内存里能够同时放下的行数很少，要分成很多个临时文件，排序的性能会很差。

所以如果单行很大，这个方法效率不够好。

那么，**如果 MySQL 认为排序的单行长度太大会怎么做呢？**

接下来，我来修改一个参数，让 MySQL 采用另外一种算法。

SET max_length_for_sort_data = 16;

max\_length\_for\_sort\_data，是 MySQL 中专门控制用于排序的行数据的长度的一个参数。它的意思是，如果单行的长度超过这个值，MySQL 就认为单行太大，要换一个算法。

city、name、age 这三个字段的定义总长度是 36，我把 max\_length\_for\_sort\_data 设置为 16，我们再来看看计算过程有什么改变。

新的算法放入 sort\_buffer 的字段，只有要排序的列（即 name 字段）和主键 id。

但这时，排序的结果就因为少了 city 和 age 字段的值，不能直接返回了，整个执行流程就变成如下所示的样子：

1.  初始化 sort\_buffer，确定放入两个字段，即 name 和 id；
2.  从索引 city 找到第一个满足 city='杭州’条件的主键 id，也就是图中的 ID\_X；
3.  到主键 id 索引取出整行，取 name、id 这两个字段，存入 sort\_buffer 中；
4.  从索引 city 取下一个记录的主键 id；
5.  重复步骤 3、4 直到不满足 city='杭州’条件为止，也就是图中的 ID\_Y；
6.  对 sort\_buffer 中的数据按照字段 name 进行排序；
7.  遍历排序结果，取前 1000 行，并按照 id 的值回到原表中取出 city、name 和 age 三个字段返回给客户端。

这种算法看起来很节省空间 但是于第七步的时候 要多遍历一次表

## 全字段排序 VS rowid 排序 ##

我们来分析一下，从这两个执行流程里，还能得出什么结论。

如果 MySQL 实在是担心排序内存太小，会影响排序效率，才会采用 rowid 排序算法，这样排序过程中一次可以排序更多行，但是需要再回到原表去取数据。

如果 MySQL 认为内存足够大，会优先选择全字段排序，把需要的字段都放到 sort\_buffer 中，这样排序后就会直接从内存里面返回查询结果了，不用再回到原表去取数据。

这也就体现了 MySQL 的一个设计思想：**如果内存够，就要多利用内存，尽量减少磁盘访问。**

对于 InnoDB 表来说，rowid 排序会要求回表多造成磁盘读，因此不会被优先选择。

看到这里，你就了解了，MySQL 做排序是一个成本比较高的操作。那么你会问，是不是所有的 order by 都需要排序操作呢？如果不排序就能得到正确的结果，那对系统的消耗会小很多，语句的执行时间也会变得更短。

其实，并不是所有的 order by 语句，都需要排序操作的。从上面分析的执行过程，我们可以看到，MySQL 之所以需要生成临时表，并且在临时表上做排序操作，**其原因是原来的数据都是无序的。**

你可以设想下，如果能够保证从 city 这个索引上取出来的行，天然就是按照 name 递增排序的话，是不是就可以不用再排序了呢？

确实是这样的。

所以，我们可以在这个市民表上创建一个 city 和 name 的联合索引，对应的 SQL 语句是：

alter table t add index city_user(city, name);

作为与 city 索引的对比，我们来看看这个索引的示意图。

![9ffc73ceee6c444d8afff6dc0c64339e.png][]

在这个索引里面，我们依然可以用树搜索的方式定位到第一个满足 city='杭州’的记录，并且额外确保了，接下来按顺序取“下一条记录”的遍历过程中，只要 city 的值是杭州，name 的值就一定是有序的。(创建索引的时候已经排序完了)

这样整个查询过程的流程就变成了：

1.  从索引 (city,name) 找到第一个满足 city='杭州’条件的主键 id；
2.  到主键 id 索引取出整行，取 name、city、age 三个字段的值，作为结果集的一部分直接返回；
3.  从索引 (city,name) 取下一个记录主键 id；
4.  重复步骤 2、3，直到查到第 1000 条记录，或者是不满足 city='杭州’条件时循环结束。

**覆盖索引是指，索引上的信息足够满足查询请求，不需要再回到主键索引上去取数据。**

按照覆盖索引的概念，我们可以再优化一下这个查询语句的执行流程。

针对这个查询，我们可以创建一个 city、name 和 age 的联合索引，对应的 SQL 语句就是：

alter table t add index city_user_age(city, name, age);

这时，对于 city 字段的值相同的行来说，还是按照 name 字段的值递增排序的，此时的查询语句也就不再需要排序了。这样整个查询语句的执行流程就变成了：

1.  从索引 (city,name,age) 找到第一个满足 city='杭州’条件的记录，取出其中的 city、name 和 age 这三个字段的值，作为结果集的一部分直接返回；
2.  从索引 (city,name,age) 取下一个记录，同样取出这三个字段的值，作为结果集的一部分直接返回；
3.  重复执行步骤 2，直到查到第 1000 条记录，或者是不满足 city='杭州’条件时循环结束。

(减少了记录id的行为)

[8d1be3c2a6c74281ad0bef9835b094da.png]: https://img-blog.csdnimg.cn/8d1be3c2a6c74281ad0bef9835b094da.png
[9ffc73ceee6c444d8afff6dc0c64339e.png]: https://img-blog.csdnimg.cn/9ffc73ceee6c444d8afff6dc0c64339e.png