MySQL优化书写高质量sql语句

Love The Way You Lie 2022-11-12 04:27 190阅读 0赞

### 1. 查询SQL尽量不要使用全查 `select *`，而是 select + 具体字段。 ###

反例：

select * from student;

正例：

select id，name, age from student;

**理由**：

>  *  只取需要的字段，可以节省资源、减少CPU和IO以及网络开销。
>  *  `select *` 进行查询时，**无法使用到覆盖索引，就会造成回表查询**。
>  *  使用具体字段可以减少表结构变动带来的影响。

--------------------

### 2. 使用预编译语句进行数据库操作 ###

**理由**：

>  *  预编译语句可以重复使用计划，减少SQL编译所需要的时间
>  *  可以解决动态SQL所带来的SQL注入的问题
>  *  只传参数，比传递SQL语句更高效
>  *  相同语句可以一次解析，多次使用，提高处理效率

--------------------

### 3. 禁止使用不含字段列表的 insert 语句 ###

反例：

insert into values ('a', 'b', 'c');

正例：

insert into t(a, b, c) values ('a','b','c');

**理由**：

>  *  不含字段名的 insert 语句，很难区分到底对应的是什么字段，而且只能全值插入，可读性差。
>  *  一旦表结构发生改变，很难修改。

--------------------

### 4. 尽量避免在 where 子句中使用 or 来连接条件 ###

案例：新建一个user表，它有一个普通索引userId，表结构如下：

CREATE TABLE `user` (  
    `id` int(11) NOT NULL AUTO_INCREMENT,  
    `user_id` int(11) NOT NULL,  
    `age` int(11) NOT NULL,  
    `name` varchar(30) NOT NULL,  
    PRIMARY KEY (`id`),  
    KEY `idx_userId` (`userId`)
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8;

查询userid为1 或者 年龄为 18 岁的用户  
反例:

select id, user_id, age, name from user where userid=1 or age =18

正例：

# 使用union all 
    select id, user_id, age, name from user where userid=1 union all select * from user where age = 18
    # 或者分开两条sql写
    select id, user_id, age, name from user where userid=1; select * from user where age = 18

理由：

> **使用or可能会使索引失效，从而全表扫描**。  
> 对于 **or + 没有索引** 的字段，如上面的 age 这种情况，假设它走了`userId` 的索引，但是走到 `age` 查询条件时，它还得全表扫描，也就是需要三步过程：**全表扫描+索引扫描+合并**，如果它一开始就走全表扫描，直接一遍扫描就完事。  
> mysql是有优化器的，处于效率与成本考虑，遇到or条件，索引可能失效，看起来也合情合理。

--------------------

### 5. 使用 where 条件查询，要限定要查询的数据，避免返回多余的行，同时避免数据类型的隐式转换 ###

假设 id 为 int 类型，查询 id = 1 的数据  
反例：

select id, name from student where id = '1';

正例：

select id, name from student where id = 1;

**理由**：

>  *  需要什么数据，就去查什么数据，避免返回不必要的数据，节省开销。
>  *  隐式转换会导致索引失效

--------------------

### 6. 静止在 where 子句中对字段进行表达式操作或函数转换，这将导致系统放弃使用索引而进行全表扫描 ###

假设 user 表的 `age` 字段，加了索引，对其进行数据查询

反例：

select name, age from user where age - 1 = 20;

正例：

select name, age from user where age = 21;

**理由**：

>  *  age 加了索引，但是因为对它进行运算查询，导致索引不生效，大大的降低效率。

--------------------

### 7. 尽量避免在 where 子句中使用 != 或 <> 操作符，否则将引擎放弃使用索引而进行全表扫描。（Mysql中适用） ###

反例：

select age,name from user where age <> 18;

正例：

# 可以考虑分开两条sql写 
    select age,name from user where age < 18;
    select age,name from user where age > 18;

理由：

>  *  使用!=和<>很可能会让索引失效

--------------------

### 8. 对查询优化，应考虑在where及order by涉及的列上建立索引，尽量避免全表扫描。 ###

反例：

select name, age, address from user where address ='深圳' order by age ;

正例：添加索引再查询

alter table user add index idx_address_age (address,age)

--------------------

### 9. where子句中考虑使用默认值代替 null ###

反例：(这种会全查所有数据)

select user_id, name, age from user where age is not null;

正例：

# 表字段age设置0为默认值代替null
    select user_id, name, age from user where age > 0;

**理由**：

>  *  并不是说使用了 `is null` 或者 `is not null` 就会不走索引了，这个跟mysql版本以及查询成本都有关。  
>     如果mysql优化器发现，走索引比不走索引成本还要高，肯定会放弃索引，这些条件 `!=，> isnull，is not null` 经常让索引失效，其实是因为一般情况下，查询的成本高，优化器自动放弃索引的。
>  *  如果把 `null` 值，换成默认值，很多时候让走索引成为可能，同时，表达意思会相对清晰一点。

--------------------

### 10. 如果查询结果只有一条或者只需要一条记录（可能最大/小值），建议使用 limit 1 ###

假设现在有student学生表，要找出一个名字叫 Tom 的人.

CREATE TABLE `student` (  
    `id` int(11) NOT NULL,  
    `name` varchar(50) DEFAULT NULL,  
    `age` int(11) DEFAULT NULL,  
    `date` datetime DEFAULT NULL,  
    `sex` int(1) DEFAULT NULL,  
    PRIMARY KEY (`id`)
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

反例：

select id，name from student where name='Tom '

正例

select id，name from employee where name='Tom ' limit 1;

**理由**：

>  *  **加上 `limit 1` 分页后，只要找到了对应的一条记录，就不会继续向下扫描了，效率将会大大提高**。
>  *  **如果name是唯一索引的话，是不必要加上 `limit 1` 了**，因为**limit的存在主要就是为了防止全表扫描**，从而提高性能，如果一个语句本身可以预知不用全表扫描，有没有limit ，性能的差别并不大。

--------------------

### 11. 优化 limit 分页语句 ###

> 我们日常做分页需求时，一般会用 `limit` 实现，但是当偏移量特别大的时候，查询效率就变得低下

反例：

select id，name，age from student limit 10000,10

正例：

# 方案一 ：返回上次查询的最大记录(偏移量)
    select id，name from student where id > 10000 limit 10;

# 方案二：order by + 索引
    select id，name from student order by id  limit 10000,10;

# 方案三：在业务允许的情况下限制页数：

理由：

>  *  当偏移量大的时候，查询效率就会越低，因为**Mysql并非是跳过偏移量直接去取后面的数据，而是先把偏移量 + 要取的条数，然后再把前面偏移量这一段的数据抛弃掉再返回的**。
>  *  如果使用优化方案一，返回上次最大查询记录（偏移量），这样可以跳过偏移量，效率提升不少。
>  *  方案二使用 order by+索引，也是可以提高查询效率的。
>  *  方案三的话，建议跟业务讨论，有没有必要查这么后的分页。因为绝大多数用户都不会往后翻太多页。

--------------------

### 12. 尽量避免向客户端返回过多数据量，使用limit分页 ###

假设业务需求是，用户请求查看自己最近一年观看过的电影数据。  
反例：

# 一次性查询所有数据回来
    select * from LivingInfo 
    where watchId =useId 
    and watchTime >= Date_sub(now(),Interval 1 Y)

正例：

# 分页查询 
    select * from LivingInfo 
    where watchId =useId 
    and watchTime>= Date_sub(now(),Interval 1 Y) 
    limit offset，pageSize
    
    # 如果是前端分页，可以先查询前两百条记录，因为一般用户应该也不会往下翻太多页
    select * from LivingInfo 
    where watchId =useId 
    and watchTime>= Date_sub(now(),Interval 1 Y) 
    limit 200 ;

--------------------

### 13. 优化 like 语句 ###

> 当用到模糊关键字查询使用 `like` 时，**like很可能让索引失效**。

反例：

SELECT * FROM student
    WHERE name LIKE '%strive_day';
    -- 或者使用 % 包裹
    SELECT * FROM student
    WHERE name LIKE '%strive_day%';

正例：

SELECT * FROM student
    WHERE name LIKE 'strive_day%';

**理由**：

>  *  把 `%` 放前面，不会走索引查询。
>  *  把 `%` 放关键字后面，会走索引进行查询。
>  *  将 `%` 包裹关键字，也不会走索引查询。
>  *  **无前置 `%`，只有后置 `%` 才会走索引查询**

--------------------

### 14. 尽量避免在索引列上使用mysql的内置函数 ###

案例：查询最近七天内登陆过的用户(假设 `loginTime` 字段加了索引)

反例：

SELECT * FROM system_user user
    WHERE Date_ADD(user.loginTime,Interval 7 DAY) >= now();

正例：

SELECT * FROM system_user user
    WHERE user.loginTime >=Date_ADD(NOW(),INTERVAL - 7 DAY);

**理由**：

>  *  **索引列上使用mysql的内置函数，索引会失效**
>  *  如果索引列不加内置函数，会走索引查询

--------------------

### 15. 使用联合索引时，注意索引列的顺序，一般遵循 最左匹配原则 ###

假设有一个联合索引 `(user_id, age)`，`user_id` 在前，`age` 在后。

反例：

select user_id, name, age from user where age = 10;

正例：

# 符合最左匹配原则
    select user_id, name, age from user where userid = 1 and age = 21;
    # 符合最左匹配原则
    select user_id, name, age from user where userid = 1;

**理由**：

>  *  **当我们创建一个联合索引的时候，如(k1,k2,k3)，相当于创建了（k1）、（k1,k2）和（k1,k2,k3）三个索引，这就是最左匹配原则**。
>  *  **联合索引不满足最左原则，索引一般会失效**，但是这个还跟Mysql优化器有关的。

--------------------

### 16. 在适当时候，使用覆盖索引。 ###

覆盖索引能够使得你的SQL语句不需要 回表，仅仅访问索引就能够得到所有需要的数据，大大提高了查询效率。

反例：

# like模糊查询，不走索引
    select user_id, name, age from user where user_id like '%123%'

# id为主键，那么为普通索引，即覆盖索引。
    select user_id, name, age from user where userid like '%123%';

--------------------

### 17. 删除冗余和重复索引 ###

反例：

KEY `idx_userId` (`userId`)
      KEY `idx_userId_age` (`userId`,`age`)

正例:

KEY `idx_userId_age` (`userId`,`age`)
    # 删除 userId 的索引（KEY `idx_userId_age` (`userId`,`age`)）
    # 因为组合索引（A，B）相当于创建了（A）和（A，B）索引。

理由：

>  *  重复的索引需要维护，并且优化器在优化查询的时候也需要逐个地进行考虑，这会影响性能

--------------------

### 18. Inner join 、left join、right join，优先使用Inner join，如果是left join，左边表结果尽量小 ###

> **Inner join 内连接**，在两张表进行连接查询时，只保留两张表中**完全匹配的结果集**
> 
> **left join** 在两张表进行连接查询时，**会返回左表所有的行，即使在右表中没有匹配的记录**。
> 
> **right join** 在两张表进行连接查询时，**会返回右表所有的行，即使在左表中没有匹配的记录**。

都满足SQL需求的前提下，**优先使用Inner join（内连接）**，如果要使用left join，左边表数据结果尽量小，如果有条件的尽量放到左边处理。

反例:

select name, age from tab1 t1 left join tab2 t2  on t1.age = t2.age where t1.id = 2;

正例：

select name, age from (select * from tab1 where id = 2) t1 left join tab2 t2 on t1.age = t2.age;

理由：

>  *  如果 inner join 是等值连接，或许返回的行数比较少，所以性能相对会好一点
>  *  使用了左连接，左边表数据结果尽量小，条件尽量放到左边处理，意味着返回的行数可能比较少

--------------------

### 19. 如果插入数据过多，考虑 批量插入 ###

反例：

for(User u :list)
    { INSERT into user(name,age) values(name, age)}

正例：

//一次500批量插入，分批进行
    insert into user(name,age) values
    <foreach collection="list" item="item" index="index" separator=",">
    	(#{item.name},#{item.age})
    </foreach>

**理由**：

>  *  批量插入性能好，减少时间损耗。

--------------------

### 20. 尽量少用 distinct 关键字 ###

`distinct` 关键字一般用来**过滤重复记录，以返回不重复的记录**。在查询一个字段或者很少字段的情况下使用时，给查询带来优化效果。但是**在字段很多的时候使用，却会大大降低查询效率**。

反例：

# 去重多个字段
    SELECT DISTINCT * from  user;

正例：

select DISTINCT name from user;

**理由**：

> 带 `distinct` 的语句 cpu 时间和占用时间都高于不带distinct的语句。  
> 因为当查询很多字段时，如果使用distinct，数据库引擎就会对数据进行比较，过滤掉重复数据，然而这个比较、过滤的过程会占用系统资源，cpu时间。

--------------------

### 21. 不要有超过5个以上的表连接 ###

**理由**：

>  *  连表越多，编译的时间和开销也就越大
>  *  连表可读性差，把连接表拆开成较小的几个执行，可读性更高

--------------------

### 22. 数据量大的时候，如何优化更新语句。 ###

> 数据量大的时候，需要避免同时修改或删除过多数据，同时会造成cpu利用率过高，从而影响别人对数据库的访问。

反例：

# 一次删除10万或者100万+条数据
    delete from user where id < 1000000;
    # 或者采用单一循环操作，效率低，时间漫长
    for（User user：list）{
       delete from user;}

正例：

# 分批进行删除,如每次500 
    delete user where id < 500
    delete user where id >= 500 and id < 1000；
    ...
    delete user where id >= 999500 and id < 1000000;

**理由**：

>  *  一次性 删除/更新 太多数据，可能会有 `lock wait timeout exceed` 的错误，所以建议分批操作。

--------------------

### 23. 合理使用 exist 和 in ###

> 假设表A表示某企业的员工表，表B表示部门表，查询所有部门的所有员工SQL

反例：:

select * from A where deptId in (select deptId from B);

这样写等价于：

> 先查询部门表B  
> `select deptId from B`  
> 再由部门deptId，查询A的员工  
> `select * from A where A.deptId = B.deptId`

可以抽象成这样的一个循环语句：

List<> resultSet ;    
    for(int i = 0; i < B.length; i ++) { 
    	for(int j = 0; j < A.length; j ++) { 
        	if(A[i].id == B[j].id) { 
            	resultSet.add(A[i]);
                break;          
            }       
         }    
     }

我们也可以用exists实现一样的查询功能

select * from A where exists (select 1 from B where A.deptId = B.deptId);

上述代码等价于：

> `select * from A`，先从A表做循环  
> `select * from B where A.deptId = B.deptId`，再从B表做循环.

因为**exists查询的理解就是，先执行主查询，获得数据后，再放到子查询中做条件验证，根据验证结果（true或者false），来决定主查询的数据结果是否得以保留**。

同理，可以抽象成这样一个循环：

List<> resultSet;    
    for(int i = 0; i < A.length; i ++) { 
    	for(int j = 0; j < B.length; j ++) { 
        	if(A[i].deptId == B[j].deptId) { 
            	resultSet.add(A[i]);
                break;          
                }       
            }    
        }

**理由**：

>  *  数据库最费劲的就是跟程序链接释放。假设链接了两次，每次做上百万次的数据集查询，查完就走，这样就只做了两次；相反如果每次单独查询，建立了上百万次链接，申请链接释放反复重复
>  *  mysql优化原则，就是小表驱动大表，小的数据集驱动大的数据集，从而让性能更优
>  *  我们要选择最外层循环小的，也就是，如果B的数据量小于A，适合使用 `in`，如果B的数据量大于A，即适合选择`exist`

--------------------

### 24. 尽量使用数字型字段，若只含数值信息的字段尽量不要设计为字符型 ###

反例：

`king_id` varchar（20） NOT NULL COMMENT '123'

正例：

`king_id` int(11) NOT NULL COMMENT '123'

**理由**：

>  *  相对于数字型字段，字符型会降低查询和连接的性能，并会增加存储开销。

--------------------

### 25. 尽量用 union all 替换 union ###

如果检索结果中不会有重复的记录，推荐 `union all` 替换 `union`

反例：