技术分享 | MySQL：查询字段数量多少对查询效率的影响

古城微笑少年丶 2023-07-02 03:13 21阅读 0赞

> **作者：****高鹏**  
> 
> 
> 文章末尾有他著作的《深入理解 MySQL 主从原理 32 讲》，深入透彻理解 MySQL 主从，GTID 相关技术知识。

这个问题是最近一个朋友问我的。刚好就好好看了一下，留下这样的记录。

本文给出一些函数接口，末尾给出一些调用堆栈，为感兴趣的朋友做一个参考，也为自己做一个笔记。

**一、问题由来**

我们知道执行计划的不同肯定会带来效率的不同，但是在本例中执行计划完全一致，都是全表扫描，不同的只有字段个数而已。其次，测试中都使用了where 条件进行过滤（Using where），过滤后没有数据返回，我们常说的 where 过滤实际上是在 MySQL 层，当然某些情况下使用 ICP 会提前在 Innodb 层过滤数据，这里我们先不考虑 ICP，我会在后面的文章中详细描述 ICP 的流程，本文也会给出 where 过滤的接口，供大家参考。

下面的截图来自两个朋友，感谢他们的测试和问题提出。另外对于大数据量访问来讲可能涉及到物理 IO，首次访问和随后的访问因为 Innodb buffer 的关系，效率不同是正常，需要多测试几次。

**测试1：**

![format_png][]

![format_png 1][]

![format_png 2][]

**测试2：**

![format_png 3][]

我们通过这两个测试，可以发现随着字段的不断减少，效率越来越高，并且主要的区别都在 sending data 下面，这个状态我曾经大概描述过参考文章：

> https://www.jianshu.com/p/46ad0aaf7ed7
> 
> https://www.jianshu.com/p/4cdec711adef

简单的说 Innodb 数据的获取和 Innodb 数据到 MySQL 层数据的传递都包含在其中。

**二、简单的流程介绍**

下面我主要结合字段多少和全表扫描2个方面做一个简单的流程介绍。实际上其中有一个核心接口就是 row\_search\_mvcc，它大概包含了如下功能：

*  通过预取缓存获取数据
 *  打开事务
 *  定位索引位置（包含使用 AHI 快速定位）
 *  是否开启 readview
 *  通过持久化游标不断访问下一条数据
 *  加 Innodb 表锁、加 Innodb 行锁
 *  可见性判断
 *  根据主键回表（可能回表需要加行锁）
 *  ICP 优化
 *  SEMI update 优化

并且作为访问数据的必须经历的接口，这个函数也是很值得大家细细研读的。

**1. 通过 select 字段构建 readset（MySQL 层）**

首先需要构建一个叫做 read\_set 的位图，来表示访问的字段位置及数量。它和 write set 一起，在记录 binlog 的 Event 的时候也会起着重要作用，可以参考我的《深入理解 MySQL 主从原理》中关于 binlog\_row\_image 参数一节。这里构建的主要接口为 TABLE::mark\_column\_used 函数，每个需要访问的字段都会调用它来设置自己的位图。下面是其中的一段如下：

case MARK_COLUMNS_READ:
        bitmap_set_bit(read_set, field->field_index);

从栈帧来看这个构建 read\_set 的过程位于状态‘init’下面。栈帧见结尾栈帧 1。

**2. 初次访问定位的时候还会构建一个模板（mysql\_row\_templ\_t）（Innodb 层）**

本模板主要用于当 Innodb 层数据到 MySQL 层做转换的时候使用，其中记录了使用的字段数量、字段的字符集、字段的类型等等。接口 build\_template\_field 用于构建这个模板。栈帧见结尾栈帧 2。但是需要注意的是，这里构建模板就会通过我们上面说的 read\_set 去判断到底有多少字段需要构建到模板中，然后才会调用 build\_template\_field 函数。如下是最重要的代码，它位于 build\_template\_needs\_field 接口中。

bitmap_is_set(table->read_set, static_cast<uint>(i)

可以看到这里正在测试本字段是否出现在了 read\_set 中，如果不在则跳过这个字段。下面是函数 build\_template\_needs\_field 的注释：

Determines if a field is needed in a m_prebuilt struct 'template'.
    @return field to use, or NULL if the field is not needed */

**到这里我们需要访问的字段已经确立下来了**

**3. 初次定位数据，定位游标到主键索引的第一行记录，为全表扫描做好准备（Innodb 层）**

对于这种全表扫描的执行方式，定位数据就变得简单了，我们只需要找到主键索引的第一条数据就好了，它和平时我们使用（ref/range）定位方式不同，不需要二分法的支持。因此对于全表扫描的初次定位调用函数为 btr\_cur\_open\_at\_index\_side\_func，而不是通常我们说的 btr\_pcur\_open\_with\_no\_init\_func。

如果大概看一下函数 btr\_cur\_open\_at\_index\_side\_func 的功能，我们很容易看到，它就是通过 B+ 树结构，定位到叶子结点的开头第一个块，然后调用函数 page\_cur\_set\_before\_first，将游标放到了所有记录的开头，目的只有一个为全表扫描做好准备。栈帧见结尾栈帧 3。注意这里正是通过我们 row\_search\_mvcc 调用下去的。

**4. 获取 Innodb 层的第一条数据（Innodb 层）**

拿到了游标过后就可以获取数据了，这里也很简单代码就是一句如下：

rec = btr_pcur_get_rec(pcur);//获取记录 从持久化游标   整行数据

但是需要注意的是这里获取的数据只是一个指针，言外之意可以理解为整行数据，其格式也是原始的 Innodb 数据，其中还包含了一些伪列比如（rollback ptr和trx id）。这里实际上和访问的字段个数无关。

**5. 将第一行记录转换为 MySQL 格式（Innodb 层）**

这一步完成后我们可以认为记录已经返回给了 MySQL 层，这里就是实际的数据拷贝了，并不是指针，整个过程放到了函数 row\_sel\_store\_mysql\_rec 中。

我们前面的模板（mysql\_row\_templ\_t）也会在这里发挥它的作用，这是一个字段过滤的过程，我们先来看一个循环。

for (i = 0; i < prebuilt->ntemplate; i++)

其中 prebuilt->n\_template 就是字段模板的个数，我们前面已经说过了，通过 read\_set 的过滤，对于我们不需要的字段是不会建立模板的。因此这里的模板数量是和我们访问的字段个数一样的。

然后在这个循环下面会调用 row\_sel\_store\_mysql\_field\_func 然后调用 row\_sel\_field\_store\_in\_mysql\_format\_func 将字段一个一个转换为 MySQL 的格式。我们来看一下其中一种类型的转换如下：

case DATA_INT:
        /* Convert integer data from Innobase to a little-endian
        format, sign bit restored to normal */
        ptr = dest + len;
        for (;;) {
            ptr--;
            *ptr = *data;//值拷贝 内存拷贝
            if (ptr == dest) {
                break;
            }
            data++;
        }

我们可以发现这是一种实际的转换，也就是需要花费内存空间的。栈帧见结尾栈帧 4。**到这里我们大概知道了，查询的字段越多那么这里转换的过程越长，并且这里都是实际的内存拷贝，**而非指针指向。

最终这行数据会存储到 row\_search\_mvcc 的形参 buffer 中返回给 MySQL 层，这个形参的注释如下：

@param[out] buf     buffer for the fetched row in MySQL format

**6. 对第一条数据进行 where 过滤（MySQL 层）**

拿到数据后当然还不能作为最终的结果返回给用户，我们需要在 MySQL 层做一个过滤操作，这个条件比较位于函数 evaluate\_join\_record 的开头，其中比较就是下面一句话

found= MY_TEST(condition->val_int()); //进行比较 调用到 条件和 返回会记录的比较

如果和条件不匹配将会返回 False。这里比较会最终调用 Item\_func 的各种方法，如果等于则是 Item\_func\_eq，栈帧见结尾栈帧 5。

**7. 访问下一条数据**

上面我已经展示了访问第一条数据的大体流程，接下面需要做的就是继续访问下去，如下：

*  移动游标到下一行
 *  访问数据
 *  根据模板转换数据返回给 MySQL 层
 *  根据 where 条件过滤

整个过程会持续到全部主键索引数据访问完成。但是需要注意的是上层接口有些变化，由 ha\_innobase::index\_first 会变为 ha\_innobase::rnd\_next，统计数据由 Handler\_read\_first 变为 Handler\_read\_rnd\_next，这点可以参考我的文章：

> https://www.jianshu.com/p/25fed8f1f05e

并且 row\_search\_mvcc 的流程肯定也会有变化。这里不再赘述。但是实际的获取数据转换过程和过滤过程并没有改变。

**注意了这些步骤除了步骤1，基本都处于 sending data 下面。**

**三、回到问题本身**

好了到这里我们大概知道全表扫描的访问数据的流程了，我们就来看看一下在全表扫描流程中字段的多少到底有哪些异同点：

**不同点：**

*  构建的 read\_set 不同，字段越多 read\_set 中为 '1' 的位数越多
 *  建立的模板不同，字段越多模板数量越多
 *  每行数据转换为 MySQL 格式的时候不同，字段越多模板越多，那么循环转换每个字段的循环次数也就越多，并且这是每行都要处理的。

**相同点：**

*  访问的行数一致
 *  访问的流程一致
 *  where 过滤的方式一致

在整个不同点中，我认为最耗时的部分应该是每行数据转换为 MySQL 格式的消耗最大，因为每行每个字段都需要做这样的转换，这也刚好是除以 sending data 状态下面。我们线上大于 10 个字段的表比比皆是，如果我们只需要访问其中的少量字段，我们最好还是写实际的字段而不是 '\*'，来规避这个问题。

**四、写在最后**

虽然本文中以全表扫描为列进行了解释，但是实际上任何情况下我们都应该缩减访问字段的数量，应该只访问需要的字段。

**五、备用栈帧**（下列图片需要点击放大查看）

**栈帧1 read\_set 构建**

![format_png 4][]

**栈帧2 构建模板**

![format_png 5][]

**栈帧3 全表扫描初次定位栈帧**

![format_png 6][]

**栈帧4 MySQL 格式的转换**

![format_png 7][]

**栈帧5 String 的等值比较**

![format_png 8][]

![format_png 9][]

最后推荐高鹏的专栏《深入理解 MySQL 主从原理 32 讲》，想要透彻了解学习 MySQL 主从原理的朋友不容错过。

作者微信：gp\_22389860

![format_png 10][]

最后，广告是不能少滴。

叶老师新课程《**MySQL性能优化**》已经在腾讯课堂发布，本课程讲解读几个MySQL性能优化的核心要素：**合理利用索引，降低锁影响，提高事务并发度**。下面是报名小程序码，厚着脸皮请求大家推荐给需要的小伙伴们。

![format_png 11][]

下面是本课程内容目录

![format_png 12][]

扫码加入MySQL技术Q群

**（群号：****650149401）**

![format_png 13][]

点“在看”给我一朵小黄花![format_png 14][]

![format_png 15][]

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd1NGdEVReTlMOGNYSjdROGF2cDFGVUNOZmxmbUgzeFdVa2lhWnNpYmhPbGNNNkl1NnFPZ3dENmRRLzY0MA?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd2pzS3lXWUNPQU45MW5kVGxjS1ZUcklqNDhaN2NsV0g5SkdWM2pjNURqenYwaWJ6MGppYzQ0dU13LzY0MA?x-oss-process=image/format,png
[format_png 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd0Q1eXBDbWMzaWFla2liOGJzSWljanlpYmQyZ005TXNkaWJwQWlhMUQ4RWZZNUc3THFvOVk2cVJTZ1pBdy82NDA?x-oss-process=image/format,png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqdzF4Y2hYUFlNWExWSFFKSEVLVUZpYVh2YjJvWFA0eFIwRUZzeDBSUHp6cDJpYmg3RGV5aWF5bDFvQS82NDA?x-oss-process=image/format,png
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd3lCaWE5TTQwS09PUjQ0Y3owQ3hGNWNRcktpYTdBZXBpYTA4UDVha3FWMEw1ejE3eFZHaWFjbHA5bUEvNjQw?x-oss-process=image/format,png
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd1pUV1lvR1p2WGJDV1VNQjJpYTFsNEw5WnRpYm50YVVVWVZIOGgxMFFMYTBpYmV5MExpYWw0a0kyT2cvNjQw?x-oss-process=image/format,png
[format_png 6]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd1dZcUhpY1ZNdW5lbXp6MVZFYk5Qc2tWVGNuYzNCaWJjRHVheDRCanRtbG1GbTZhNG45RWtSRUN3LzY0MA?x-oss-process=image/format,png
[format_png 7]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd0l0WXhuZG90bjdlaWJ6M2V2YWJ5Qmd1Y3FhOFp3d2hFNTJpY0dmWlFzTkhVcEk3UWlhYXpaV0J5QS82NDA?x-oss-process=image/format,png
[format_png 8]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeDZ5djUyMVhJem5xR0ZXV2djZVFqd2MzMFVhTTVRaWJVcTd0blJkTWRsSlhIN2dXZkk2aE9LVjVBY1VIZGJHalk4Y2ljUWhBMExoYUhnLzY0MA?x-oss-process=image/format,png
[format_png 9]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeE5NYnlmUzdoRnZRbFdpYUppY0JjNjVLMkpOYzdBNHY3cmljNWlic1NlajZHcTloWW81RVhuT1ZVZmJ5ejhWS0xoNVZ6U1hWNWdpY3h4aWFOQS82NDA?x-oss-process=image/format,png
[format_png 10]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9hNERSbXlKWUhPeHA0MElIa29oRVRsVnUyY2JpYXBacmxTa2lhNVRsZ01zbkVTc0M3QUxLWXExWUNVd2tqZXJtZTJrNG9oZjhhT2lhcDFHZTh0a2licFVMY3cvNjQw?x-oss-process=image/format,png
[format_png 11]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9udHM1Mm5IaGVUeUE0TWRFaWF1UDBlR1lMdVlXNXhORU9tdzNHeHlkWGxiRGcyS0Rrd2liU2lhS0lZS1Y2aFQ5MDNvcnhERmliOVZSYzFTWkRQVXUxTmJvWUEvNjQw?x-oss-process=image/format,png
[format_png 12]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9udHM1Mm5IaGVUeUE0TWRFaWF1UDBlR1lMdVlXNXhORU9QcmRJZXpLRm1wZm1XNWIwQXNVUmxEdnFIOFJUZWliOWY2YjJYRVg0NXZQaWF2UDAxQmZHOHZoUS82NDA?x-oss-process=image/format,png
[format_png 13]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy83aDRpY0o0aWNzSkJqZHlLNEFBWDhDcWhuSkluc0szOGlheGpiaWI5NGF4SlA0Y3NXaWJUdDRwNGJuM2p6SFNLY3RHV3AxaWFpYnIxaWFGVUtiMU9rMUJJbFJ3UmpBLzY0MA?x-oss-process=image/format,png
[format_png 14]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X2dpZi83aDRpY0o0aWNzSkJnZUQyQ2pNaWJ0VThQRXROcW5wSGFpY3FKZHlIUFE0VWxBa1Y4aWF6b1BsRDJITEFOaWFZMWNMN2pVOUtuekhiNFVPNGszOThLazBUdDViQS82NDA?x-oss-process=image/format,png
[format_png 15]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy83aDRpY0o0aWNzSkJnZUQyQ2pNaWJ0VThQRXROcW5wSGFpY3FqSGtXWHBPcGttZG5HMlFXSWxPbjJVeE9KUkNFdDNTVWdGY1FiVTlvNFdHc1p2OTVvRGhZMVEvNjQw?x-oss-process=image/format,png