性能文章>15个必知的Mysql索引失效场景,别再踩坑了!>

15个必知的Mysql索引失效场景,别再踩坑了!原创

299306

背景

无论你是技术大佬,还是刚入行的小白,时不时都会踩到Mysql数据库不走索引的坑。常见的现象就是:明明在字段上添加了索引,但却并未生效。
前些天就遇到一个稍微特殊的场景,同一条SQL语句,在某些参数下生效,在某些参数下不生效,这是为什么呢?


另外,无论是面试或是日常,Mysql索引失效的通常情况都应该了解和学习。


为了方便学习和记忆,这篇文件将常见的15种不走索引情况进行汇总,并以实例展示,帮助大家更好地避免踩坑。建议收藏,以备不时之需。

 

正文

数据库及索引准备

创建表结构

为了逐项验证索引的使用情况,我们先准备一张表t_user:

CREATE TABLE `t_user` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT 'ID',
  `id_no` varchar(18) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '身份编号',
  `username` varchar(32) CHARACTER SET utf8mb4 COLLATE utf8mb4_bin DEFAULT NULL COMMENT '用户名',
  `age` int(11) DEFAULT NULL COMMENT '年龄',
  `create_time` datetime DEFAULT CURRENT_TIMESTAMP COMMENT '创建时间',
  PRIMARY KEY (`id`),
  KEY `union_idx` (`id_no`,`username`,`age`),
  KEY `create_time_idx` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_bin;


在上述表结构中有三个索引:

  • id:为数据库主键;
  • union_idx:为id_no、username、age构成的联合索引;
  • create_time_idx:是由create_time构成的普通索引;

初始化数据

初始化数据分两部分:基础数据和批量导入数据。


基础数据insert了4条数据,其中第4条数据的创建时间为未来的时间,用于后续特殊场景的验证:

 

INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1001', 'Tom1', 11, '2022-02-27 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1002', 'Tom2', 12, '2022-02-26 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1003', 'Tom3', 13, '2022-02-25 09:04:23');
INSERT INTO `t_user` (`id`, `id_no`, `username`, `age`, `create_time`) VALUES (null, '1004', 'Tom4', 14, '2023-02-25 09:04:23');

除了基础数据,还有一条存储过程及其调用的SQL,方便批量插入数据,用来验证数据比较多的场景:

-- 删除历史存储过程
DROP PROCEDURE IF EXISTS `insert_t_user`

-- 创建存储过程
delimiter $

CREATE PROCEDURE insert_t_user(IN limit_num int)
BEGIN
 DECLARE i INT DEFAULT 10;
    DECLARE id_no varchar(18) ;
    DECLARE username varchar(32) ;
    DECLARE age TINYINT DEFAULT 1;
    WHILE i < limit_num DO
        SET id_no = CONCAT("NO", i);
        SET username = CONCAT("Tom",i);
        SET age = FLOOR(10 + RAND()*2);
        INSERT INTO `t_user` VALUES (NULL, id_no, username, age, NOW());
        SET i = i + 1;
    END WHILE;

END $
-- 调用存储过程
call insert_t_user(100);

关于存储过程的创建和存储,可暂时不执行,当用到时再执行。

数据库版本及执行计划

查看当前数据库的版本:

select version();
8.0.18


上述为本人测试的数据库版本:8.0.18。当然,以下的所有示例,大家可在其他版本进行执行验证。
查看SQL语句执行计划,一般我们都采用explain关键字,通过执行结果来判断索引使用情况。


执行示例:

explain select * from t_user where id = 1;


执行结果:

00BBEFCC-B019-4132-8176-206A73272D2D.png


可以看到上述SQL语句使用了主键索引(PRIMARY),key_len为4;


其中key_len的含义为:表示索引使用的字节数,根据这个值可以判断索引的使用情况,特别是在组合索引的时候,判断该索引有多少部分被使用到非常重要。


做好以上数据及知识的准备,下面就开始讲解具体索引失效的实例了。


1、联合索引不满足最左匹配原则

联合索引遵从最左匹配原则,顾名思义,在联合索引中,最左侧的字段优先匹配。因此,在创建联合索引时,where子句中使用最频繁的字段放在组合索引的最左侧。


而在查询时,要想让查询条件走索引,则需满足:最左边的字段要出现在查询条件中。


实例中,union_idx联合索引组成:

KEY `union_idx` (`id_no`,`username`,`age`)


最左边的字段为id_no,一般情况下,只要保证id_no出现在查询条件中,则会走该联合索引。

示例一:

explain select * from t_user where id_no = '1002';

explain结果:

8E15A049-45A7-4394-8071-012A89C0DD96.png


explain-01


通过explain执行结果可以看出,上述SQL语句走了union_idx这条索引。


这里再普及一下key_len的计算:


id_no 类型为varchar(18),字符集为utf8mb4_bin,也就是使用4个字节来表示一个完整的UTF-8。此时,key_len = 18* 4 = 72;
由于该字段类型varchar为变长数据类型,需要再额外添加2个字节。此时,key_len = 72 + 2 = 74;
由于该字段运行为NULL(default NULL),需要再添加1个字节。此时,key_len = 74 + 1 = 75;

上面演示了key_len一种情况的计算过程,后续不再进行逐一推演,知道基本组成和原理即可,更多情况大家可自行查看。
示例二:

explain select * from t_user where id_no = '1002' and username = 'Tom2';

explain结果:

B984FA7A-BEB3-43C5-AC47-5F5E3FA4174F.png


很显然,依旧走了union_idx索引,根据上面key_len的分析,大胆猜测,在使用索引时,不仅使用了id_no列,还使用了username列。

示例三:

explain select * from t_user where id_no = '1002' and age = 12;

explain结果:

86739077-E38D-4E3A-9362-2D8FFD2E8B53.png


走了union_idx索引,但跟示例一一样,只用到了id_no列。


当然,还有三列都在查询条件中的情况,就不再举例了。上面都是走索引的正向例子,也就是满足最左匹配原则的例子,下面来看看,不满足该原则的反向例子。


反向示例:

explain select * from t_user where username = 'Tom2' and age = 12;

explain结果:

75B1616B-2C75-4F7D-9BE4-525846D777D5.png


此时,可以看到未走任何索引,也就是说索引失效了。

同样的,下面只要没出现最左条件的组合,索引也是失效的:

explain select * from t_user where age = 12;
explain select * from t_user where username = 'Tom2';

那么,第一种索引失效的场景就是:在联合索引的场景下,查询条件不满足最左匹配原则。
2 使用了select *

在《阿里巴巴开发手册》的ORM映射章节中有一条【强制】的规范:


【强制】在表查询中,一律不要使用 * 作为查询的字段列表,需要哪些字段必须明确写明。说明:1)增加查询分析器解析成本。2)增减字段容易与 resultMap 配置不一致。3)无用字段增加网络 消耗,尤其是 text 类型的字段。


虽然在规范手册中没有提到索引方面的问题,但禁止使用select * 语句可能会带来的附带好处就是:某些情况下可以走覆盖索引。


比如,在上面的联合索引中,如果查询条件是age或username,当使用了select * ,肯定是不会走索引的。


但如果希望根据username查询出id_no、username、age这三个结果(均为索引字段),明确查询结果字段,是可以走覆盖索引的:

 

explain select id_no, username, age from t_user where username = 'Tom2';
explain select id_no, username, age from t_user where age = 12;


explain结果:

B700763A-A0E5-4DBC-BA21-DFC5D0D0F20A.png


覆盖索引


无论查询条件是username还是age,都走了索引,根据key_len可以看出使用了索引的所有列。
第二种索引失效场景:在联合索引下,尽量使用明确的查询列来趋向于走覆盖索引;
这一条不走索引的情况属于优化项,如果业务场景满足,则进来促使SQL语句走索引。至于阿里巴巴开发手册中的规范,只不过是两者撞到一起了,

规范本身并不是为这条索引规则而定的。

3、索引列参与运算

直接来看示例:

explain select * from t_user where id + 1 = 2 ;

explain结果:

809EDF4A-71D1-4499-A262-6B4D211FC49A.png


索引列计算


可以看到,即便id列有索引,由于进行了计算处理,导致无法正常走索引。


针对这种情况,其实不单单是索引的问题,还会增加数据库的计算负担。就以上述SQL语句为例,数据库需要全表扫描出所有的id字段值,然后对其计算,计算之后再与参数值进行比较。如果每次执行都经历上述步骤,性能损耗可想而知。


建议的使用方式是:先在内存中进行计算好预期的值,或者在SQL语句条件的右侧进行参数值的计算。


针对上述示例的优化如下:

-- 内存计算,得知要查询的id为1
explain select * from t_user where id = 1 ;
-- 参数侧计算
explain select * from t_user where id = 2 - 1 ;

 

4、索引列参使用了函数

示例:

explain select * from t_user where SUBSTR(id_no,1,3) = '100';

explain结果:

FC5AAF4B-7102-4AB9-94AA-24E088A1497B.png
上述示例中,索引列使用了函数(SUBSTR,字符串截取),导致索引失效。


此时,索引失效的原因与第三种情况一样,都是因为数据库要先进行全表扫描,获得数据之后再进行截取、计算,导致索引索引失效。同时,还伴随着性能问题。


示例中只列举了SUBSTR函数,像CONCAT等类似的函数,也都会出现类似的情况。解决方案可参考第三种场景,可考虑先通过内存计算或其他方式减少数据库来进行内容的处理。


第四种索引失效情况:索引列参与了函数处理,会导致全表扫描,索引失效。


5、错误的Like使用

示例:

explain select * from t_user where id_no like '%00%';

explain结果:

1C356B1D-119F-40B8-8B47-1FAB361E59A5.png


针对like的使用非常频繁,但使用不当往往会导致不走索引。常见的like使用方式有:
方式一:like '%abc';
方式二:like 'abc%';
方式三:like '%abc%';


其中方式一和方式三,由于占位符出现在首部,导致无法走索引。这种情况不做索引的原因很容易理解,索引本身就相当于目录,从左到右逐个排序。而条件的左侧使用了占位符,导致无法按照正常的目录进行匹配,导致索引失效就很正常了。

第五种索引失效情况:模糊查询时(like语句),模糊匹配的占位符位于条件的首部。

6、类型隐式转换

示例:

explain select * from t_user where id_no = 1002;

explain结果:

1A705D62-F8EA-4103-94BF-8475F1DCEA7B.png

id_no字段类型为varchar,但在SQL语句中使用了int类型,导致全表扫描。


出现索引失效的原因是:varchar和int是两个种不同的类型。


解决方案就是将参数1002添加上单引号或双引号。


第六种索引失效情况:参数类型与字段类型不匹配,导致类型发生了隐式转换,索引失效。


这种情况还有一个特例,如果字段类型为int类型,而查询条件添加了单引号或双引号,则Mysql会参数转化为int类型,虽然使用了单引号或双引号:

explain select * from t_user where id = '2';

上述语句是依旧会走索引的。


7、使用OR操作

OR是日常使用最多的操作关键字了,但使用不当,也会导致索引失效。


示例:

explain select * from t_user where id = 2 or username = 'Tom2';

explain结果:

BBB94B04-4334-4313-BF79-75B1DE09376D.png


看到上述执行结果是否是很惊奇啊,明明id字段是有索引的,由于使用or关键字,索引竟然失效了。


其实,换一个角度来想,如果单独使用username字段作为条件很显然是全表扫描,既然已经进行了全表扫描了,前面id的条件再走一次索引反而是浪费了。所以,在使用or关键字时,切记两个条件都要添加索引,否则会导致索引失效。


但如果or两边同时使用“>”和“<”,则索引也会失效:

explain select * from t_user where id  > 1 or id  < 80;

explain结果:

29DBB884-74C2-4C8F-A166-2E759A4F3CDD.png


第七种索引失效情况:查询条件使用or关键字,其中一个字段没有创建索引,则会导致整个查询语句索引失效;or两边为“>”和“<”范围查询时,索引失效。


8、两列做比较

如果两个列数据都有索引,但在查询条件中对两列数据进行了对比操作,则会导致索引失效。


这里举个不恰当的示例,比如age小于id这样的两列(真实场景可能是两列同维度的数据比较,这里迁就现有表结构):

explain select * from t_user where id > age;

explain结果:

F0E55C8A-9B3F-4990-923A-23CCEE3F102B.png


这里虽然id有索引,age也可以创建索引,但当两列做比较时,索引还是会失效的。
第八种索引失效情况:两列数据做比较,即便两列都创建了索引,索引也会失效。


9、不等于比较

示例:

explain select * from t_user where id_no <> '1002';

explain结果:

68710D4A-B70F-4EF2-9CE1-845FE8EE4AE3.png


当查询条件为字符串时,使用”<>“或”!=“作为条件查询,有可能不走索引,但也不全是。

explain select * from t_user where create_time != '2022-02-27 09:56:42';

上述SQL中,由于“2022-02-27 09:56:42”是存储过程在同一秒生成的,大量数据是这个时间。执行之后会发现,当查询结果集占比比较小时,会走索引,占比比较大时不会走索引。此处与结果集与总体的占比有关。


需要注意的是:上述语句如果是id进行不等操作,则正常走索引。

explain select * from t_user where id != 2;


explain结果:

B81CFB4F-334A-4DF3-B125-D8A0BE30578A.png


第九种索引失效情况:查询条件使用不等进行比较时,需要慎重,普通索引会查询结果集占比较大时索引会失效。

10、is not null

示例:

explain select * from t_user where id_no is not null;

explain结果:

A1F02A97-A9F4-405D-A58A-31E4384EA618.png


第十种索引失效情况:查询条件使用is null时正常走索引,使用is not null时,不走索引。

11、not in和not exists

在日常中使用比较多的范围查询有in、exists、not in、not exists、between and等。

explain select * from t_user where id in (2,3);

explain select * from t_user where id_no in ('1001','1002');

explain select * from t_user u1 where exists (select 1 from t_user u2 where u2.id  = 2 and u2.id = u1.id);

explain select * from t_user where id_no between '1002' and '1003';


上述四种语句执行时都会正常走索引,具体的explain结果就不再展示。主要看不走索引的情况:

explain select * from t_user where id_no not in('1002' , '1003');


explain结果:

7385EE04-A734-485D-8EDB-DADB0B161120.png


当使用not in时,不走索引?把条件列换成主键试试:

explain select * from t_user where id not in (2,3);

explain结果:

2F7EDC57-E50F-428A-BAEE-A6195A72A854.png


如果是主键,则正常走索引。


第十一种索引失效情况:查询条件使用not in时,如果是主键则走索引,如果是普通索引,则索引失效。


再来看看not exists:

explain select * from t_user u1 where not exists (select 1 from t_user u2 where u2.id  = 2 and u2.id = u1.id);

explain结果:

627A5ADC-AD42-4C92-9CAC-64C5621CF0D2.png


当查询条件使用not exists时,不走索引。


第十二种索引失效情况:查询条件使用not exists时,索引失效。


12、order by导致索引失效

示例:

explain select * from t_user order by id_no ;

explain结果:

999A7C39-9045-4D59-A833-98572E60925B.png


其实这种情况的索引失效很容易理解,毕竟需要对全表数据进行排序处理。

那么,添加删limit关键字是否就走索引了呢?

explain select * from t_user order by id_no limit 10;

explain结果:

130E2B5F-5629-4722-8625-CCB6E663C776.png


结果依旧不走索引。在网络上看到有说如果order by条件满足最左匹配则会正常走索引, 在当前8.0.18版本中并未出现。所以,在基于order by和limit进行使用时,要特别留意。是否走索引不仅涉及到数据库版本,还要看Mysql优化器是如何处理的。


这里还有一个特例,就是主键使用order by时,可以正常走索引。

explain select * from t_user order by id desc;


explain结果:

DD5B5E41-4BEE-455C-963B-18304F32DCDF.png

可以看出针对主键,还是order by可以正常走索引。


另外,笔者测试如下SQL语句:

 

explain select id from t_user order by age;
explain select id , username from t_user order by age;
explain select id_no from t_user order by id_no;


上述三条SQL语句都是走索引的,也就是说覆盖索引的场景也是可以正常走索引的。


现在将id和id_no组合起来进行order by:

explain select * from t_user order by id,id_no desc;
explain select * from t_user order by id,id_no desc limit 10;
explain select * from t_user order by id_no desc,username desc;

explain结果:


上述两个SQL语句,都未走索引。


第十三种索引失效情况:当查询条件涉及到order by、limit等条件时,是否走索引情况比较复杂,而且与Mysql版本有关,通常普通索引,如果未使用limit,则不会走索引。order by多个索引字段时,可能不会走索引。其他情况,建议在使用时进行expain验证。

13、参数不同导致索引失效

此时,如果你还未执行最开始创建的存储过程,建议你先执行一下存储过程,然后执行如下SQL:

explain select * from t_user where create_time > '2023-02-24 09:04:23';

其中,时间是未来的时间,确保能够查到数据。


explain结果:
图片
可以看到,正常走索引。


随后,我们将查询条件的参数换个日期:

explain select * from t_user where create_time > '2022-02-27 09:04:23';


explain结果:

129E2037-CA0C-4874-9189-FED6E566B1CF.png


此时,进行了全表扫描。这也是最开始提到的奇怪的现象。


为什么同样的查询语句,只是查询的参数值不同,却会出现一个走索引,一个不走索引的情况呢?
答案很简单:上述索引失效是因为DBMS发现全表扫描比走索引效率更高,因此就放弃了走索引。


也就是说,当Mysql发现通过索引扫描的行记录数超过全表的10%-30%时,优化器可能会放弃走索引,自动变成全表扫描。某些场景下即便强制SQL语句走索引,也同样会失效。


类似的问题,在进行范围查询(比如>、< 、>=、<=、in等条件)时往往会出现上述情况,而上面提到的临界值根据场景不同也会有所不同。
第十四种索引失效情况:当查询条件为大于等于、in等范围查询时,根据查询结果占全表数据比例的不同,优化器有可能会放弃索引,进行全表扫描。


14、其他

当然,还有其他一些是否走索引的规则,这与索引的类型是B-tree索引还是位图索引也有关系,就不再详细展开。


这里要说的其他,可以总结为第十五种索引失效的情况:Mysql优化器的其他优化策略,比如优化器认为在某些情况下,全表扫描比走索引快,则它就会放弃索引。


针对这种情况,一般不用过多理会,当发现问题时再定点排查即可。


小结

本篇文章为大家总结了15个常见的索引失效的场景,由于不同的Mysql版本,索引失效策略也有所不同。大多数索引失效情况都是明确的,有少部分索引失效会因Mysql的版本不同而有所不同。


因此,建议收藏本文,当在实践的过程中进行对照,如果没办法准确把握,则可直接执行explain进行验证。

 

💥看到这里的你,如果对于我写的内容很感兴趣,有任何疑问,欢迎在下面留言📥,会第一次时间给大家解答,谢谢!

请先登录,感受更多精彩内容
快去登录吧,你将获得
  • 浏览更多精彩评论
  • 和开发者讨论交流,共同进步

为你推荐

MySQL之KEY分区引发的血案
需求背景业务表tb_image部分数据如下所示,其中id唯一,image_no不唯一。image_no表示每个文件的编号,每个文件在业务系统中会生成若干个文件,每个文件的唯一ID就是字段id:业务表t
代码优化日记 ——火焰图找问题代码
一、问题背景- 排序服务,用于推荐item分数预测,详细项目背景及排序请求执行逻辑可参考之前的一篇文章 :《[性能优化:线程资源回收](https://heapdump.cn/user/708
MySQL 死锁套路:一次诡异的批量插入死锁问题分析
线上最近出现了批量insert的死锁,百思不得解。死锁记录如下:```2018-10-26T11:04:41.759589Z 8530809 [Note] InnoDB: (1) TRANSACTI
MySQL 死锁套路:唯一索引下批量插入顺序不一致
死锁的本质是资源竞争,批量插入如果顺序不一致很容易导致死锁,我们来分析一下这个情况。为了方便演示,把批量插入改写为了多条 insert。先来做几个小实验,简化的表结构如下:```CREATE TABL
MySQL 死锁套路:再来看一例走不同索引更新的例子
前面有文章介绍了利用调试MySQL源码的方式来调试锁相关的信息,这里利用这个工具来解决一个比较简单的问题,线上的表字段较多,这里简单成为了一个表:```CREATE TABLE `t3` ( `id
如何在 Mac 下用 Clion 调试 MySQL 源码
前面写了几篇文章来通过调试 MySQL 源码来分析死锁问题,有读者问如何用 IDE 调试源码,这篇文章简单介绍一下如何在 Mac 下调试。之所以使用调试的方式来分析死锁问题是因为在解决 MySQL 死
再聊 TCP backlog
这篇文章我们以 backlog 参数来深入研究一下建连的过程。通过阅读这篇文章,你会了解到下面这些知识:- backlog、半连接队列、全连接队列是什么- linux 内核是如何计算半连接队列、全连接
掉坑了!GROUP_CONCAT函数引发的线上问题
本文分享一篇在工作遇到的一个问题,关于MySQL GROUP_CONCAT函数导致的问题。希望能帮忙到你。 业务场景在说遇到的坑之前,先描述一下大致的业务场景。系统有一个排班的功能,一个医生一天可以排