项目中常用的19条mysql优化技巧(代码片段)

geekdc geekdc     2022-12-08     460

关键词:

原文:https://segmentfault.com/a/1190000012155267

声明一下:下面的优化方案都是基于 “ Mysql-索引-BTree类型 ” 的

一、EXPLAIN

做MySQL优化,我们要善用 EXPLAIN 查看SQL执行计划。

下面来个简单的示例,标注(1,2,3,4,5)我们要重点关注的数据

技术图片

  1. type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别
  2. key列,使用到的索引名。如果没有选择索引,值是NULL。可以采取强制索引方式
  3. key_len列,索引长度
  4. rows列,扫描行数。该值是个预估值
  5. extra列,详细说明。注意常见的不太友好的值有:Using filesort, Using temporary

二、SQL语句中IN包含的值不应过多

MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from table_name where num in(1,2,3) 对于连续的数值,能用 between 就不要用 in 了;再或者使用连接来替换。

三、SELECT语句务必指明字段名称

SELECT *增加很多不必要的消耗(cpu、io、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。

四、当只需要一条数据的时候,使用limit 1

这是为了使EXPLAIN中type列达到const类型

五、如果排序字段没有用到索引,就尽量少排序

六、如果限制条件中其他字段没有索引,尽量少用or

or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用 union all 或者是union(必要的时候)的方式来代替“or”会得到更好的效果

七、尽量用union all代替union

union和union all的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。当然,union all的前提条件是两个结果集没有重复数据。

八、不使用ORDER BY RAND()

select id from `table_name` order by rand() limit 1000;

上面的sql语句,可优化为

select id from `table_name` t1 join (select rand() * (select max(id) from `table_name`) as nid) t2 ont1.id > t2.nid limit 1000;

九、区分in和exists, not in和not exists

select * from 表A where id in (select id from 表B)

上面sql语句相当于

select * from 表A where exists(select * from 表B where 表B.id=表A.id)

区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况。
关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的sql语句?

原sql语句

select colname … from A表 where a.id not in (select b.id from B表)

高效的sql语句

select colname … from A表 Left join B表 on where a.id = b.id where b.id is null

取出的结果集如下图表示,A表不在B表中的数据

技术图片

十、使用合理的分页方式以提高分页的效率

select id,name from table_name limit 866613, 20

使用上述sql语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用limit分页查询会越来越慢。

优化的方法如下:可以取前一页的最大行数的id,然后根据这个最大的id来限制下一页的起点。比如此列中,上一页最大的id是866612。sql可以采用如下的写法:

select id,name from table_name where id> 866612 limit 20

十一、分段查询

在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。

如下图这个sql语句,扫描的行数成百万级以上的时候就可以使用分段查询

技术图片

十二、避免在 where 子句中对字段进行 null 值判断

对于null的判断会导致引擎放弃使用索引而进行全表扫描。

十三、不建议使用%前缀模糊查询

例如LIKE “%name”或者LIKE “%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。

那如何查询%name%?

如下图所示,虽然给secret字段添加了索引,但在explain结果果并没有使用

技术图片

那么如何解决这个问题呢,答案:使用全文索引

在我们查询中经常会用到select id,fnum,fdst from table_name where user_name like ‘%zhangsan%‘; 。这样的语句,普通索引是无法满足查询需求的。庆幸的是在MySQL中,有全文索引来帮助我们。

创建全文索引的sql语法是:

ALTER TABLE `table_name` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);

使用全文索引的sql语句是:

select id,fnum,fdst from table_name where match(user_name) against(‘zhangsan‘ in boolean mode);

注意:在需要创建全文索引之前,请联系DBA确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别

十四、避免在where子句中对字段进行表达式操作

比如

select user_id,user_project from table_name where age*2=36;

中对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成

select user_id,user_project from table_name where age=36/2;

十五、避免隐式类型转换

where 子句中出现 column 字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定where中的参数类型

技术图片

十六、对于联合索引来说,要遵守最左前缀法则

举列来说索引含有字段id,name,school,可以直接用id字段,也可以id,name这样的顺序,但是name;school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面

十七、必要时可以使用force index来强制查询走某个索引

有的时候MySQL优化器采取它认为合适的索引来检索sql语句,但是可能它所采用的索引并不是我们想要的。这时就可以采用force index来强制优化器使用我们制定的索引。

十八、注意范围查询语句

对于联合索引来说,如果存在范围查询,比如between,>,<等条件时,会造成后面的索引字段失效。

十九、关于JOIN优化

技术图片

  • LEFT JOIN A表为驱动表
  • INNER JOIN MySQL会自动找出那个数据少的表作用驱动表
  • RIGHT JOIN B表为驱动表

注意:MySQL中没有full join,可以用以下方式来解决

select * from A left join B on B.name = A.name 
where B.name is null
 union all
select * from B;

尽量使用inner join,避免left join

参与联合查询的表至少为2张表,一般都存在大小之分。如果连接方式是inner join,在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表,但是left join在驱动表的选择上遵循的是左边驱动右边的原则,即left join左边的表名为驱动表。

合理利用索引

被驱动表的索引字段作为on的限制字段。

利用小表去驱动大表

技术图片

从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少 IO总量及CPU运算的次数。

巧用STRAIGHT_JOIN

inner join是由mysql选择驱动表,但是有些特殊情况需要选择另个表作为驱动表,比如有group by、order by等「Using filesort」、「Using temporary」时。STRAIGHT_JOIN来强制连接顺序,在STRAIGHT_JOIN左边的表名就是驱动表,右边则是被驱动表。在使用STRAIGHT_JOIN有个前提条件是该查询是内连接,也就是inner join。其他链接不推荐使用STRAIGHT_JOIN,否则可能造成查询结果不准确。

技术图片

这个方式有时可能减少3倍的时间。

这里只列举了上述优化方案,当然还有其他的优化方式,大家可以去摸索尝试,感谢关注。。

 

项目中常用的19条mysql优化

一、EXPLAIN做MySQL优化,我们要善用EXPLAIN下面来个简单的示例,标注(1,2,3,4,5)我们要重点关注的数据type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别key列,使用到的索引名。如果没有选择索引,值是NULL。... 查看详情

项目中常用的19条mysql优化

一、EXPLAIN做MySQL优化,我们要善用 EXPLAIN 查看SQL执行计划。下面来个简单的示例,标注(1,2,3,4,5)我们要重点关注的数据 type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级别key列,使用到的索... 查看详情

常用的19条mysql优化

链接来源:https://zhuanlan.zhihu.com/p/49888088一、EXPLAIN做MySQL优化,我们要善用EXPLAIN查看SQL执行计划。下面来个简单的示例,标注(1,2,3,4,5)我们要重点关注的数据type列,连接类型。一个好的sql语句至少要达到range级别。杜绝出现all级... 查看详情

项目中常用到的19条mysql优化

点击上方关注“终端研发部”设为“星标”,和你一起掌握更多数据库知识作者| zhangqh链接|segmentfault.com/a/1190000012155267关于MySQL优化方法,网上有不少资料和方法,但是不少质量参差不齐,有些总结的不够到位... 查看详情

getmysql这5个优化技巧(代码片段)

...用不说,大致分为以下五个阶段:阶段一:数据库表设计项目立项后,开发部门根据产品部门需求开发项目。开发工程师在开发项目初期会对表结构设计。对于数据库来说,表结构设计很重要,如果设计不当,会直接影响到用户... 查看详情

数据分析课程笔记-19-hivesql常用优化技巧

参考技术A大家好呀,这节课学习HiveSQL的常用优化技巧。由于Hive主要用来处理非常大的数据,运行过程由于通常要经过MapReduce的过程,因此不像MySQL一样很快出结果。而使用不同方法写出来的HiveSQL语句执行效率也是不一样的,因... 查看详情

mysql优化技巧(代码片段)

MySQL优化三大方向①优化MySQL所在服务器内核(此优化一般由运维人员完成)。②对MySQL配置参数进行优化(my.cnf)此优化需要进行压力测试来进行参数调整。③对SQL语句以及表优化。MySQL参数优化1:MySQL默认的最大连接数为100... 查看详情

做oi题时的一些常用的常数优化小技巧(代码片段)

  注意:本文所介绍的优化并不是算法上的优化,那个就非常复杂了,不同题目有不同的优化。笔者要说的只是一些实用的常数优化小技巧,很简单,虽然效果可能不那么明显,但在对时间复杂度要求十分苛刻的时候,这些小... 查看详情

mysql优化2之sql常用技巧

1、SQL语句中IN包含的值不应过多IN中如果数值较多,产生的消耗会比较大的。再例如:selectidfromtwherenumin(1,2,3)对于连续的数值,能用between就不要用in了;再或者使用连接来替换。 2、SELECT语句务必指明字段名称SELECT*增加很多... 查看详情

常用的sql优化技巧(代码片段)

从使用索引来考虑SQL语句避免索引列上的函数,如SUBSTR/UPPER/NVL/TO_CHAR/TO_DATE/TRUNC避免索引列上的计算公式:如果索引列上使用了计算公式,则索引不能使用,可以通过更改计算公式来避免不使用索引:Selecte.Enam... 查看详情

mysql高级(代码片段)

...介序号01**02**03**04**1基本硬件知识体系结构应用优化MySQL常用工具2索引存储引擎查询缓存优化MySQL日志3视图优化SQL步骤内存管理及优化MySQL主从复制4存储过程和函数索引使用MySQL锁问题5触发器SQL优化常用SQL技巧1.基本硬件知识ÿ... 查看详情

mysql15个有用的mysql/mariadb性能调整和优化技巧(代码片段)

...叫MariaDB的分支。创建该分支的主要原因是为了保持这个项目可以在GPL下的自由。今天,MySQL和MariaDB是用于类似WordPress、Joomla、Magento和其他web应用程序的最流行的RDMS之一(如果不是最多的)。这篇文章将告诉你一些基本的,但非... 查看详情

mysql高级-day01(代码片段)

...号Day01Day02Day03Day041Linux系统安装MySQL体系结构应用优化MySQL常用工具2索引存储引擎查询缓存优化MySQL日志3视图优化SQL步骤内存管理及优化MySQL主从复制4存储过程和函数索引使用MySQL锁问题综合案例5触发器SQL优化常用SQL技巧1.Linux系... 查看详情

mysql18条优化技巧

转---一、索引优化索引的数据结构是B+Tree,而B+Tree的查询性能是比较高的,所以建立索引能提升SQL的查询性能。1、建立普通索引对经常出现在where关键字后面的表字段建立对应的索引。2、建立复合索引如果where关键字后面常出现... 查看详情

mysql数据库day03-数据库mysql的优化(代码片段)

...QL常用技巧SQL执行顺序SQL中的正则表达式MySQL常用函数MySQL项目优化数据库连接池减少数据库访问避免重复查询数据库增加缓存Cache层负载均衡MySQL主从复制分布式数据库架构MySQL查询缓存优化查询缓存操作流程查询缓存配置参数查... 查看详情

mysql性能调优和优化技巧(代码片段)

介绍MySQL是一种流行的开源数据库应用程序,它以一种有意义且易于访问的方式存储和构造数据。对于大型应用程序,庞大的数据量可能会导致性能问题。本指南提供了一些关于如何提高MySQL数据库性能的调优技巧。先决... 查看详情

mysql(19)—join关联查询的原理以及优化手段(代码片段)

MySQL的join关联查询的执行过程以及优化手段。文章目录1关联查询的执行2没有索引的算法1关联查询的执行关联查询的执行过程是:先遍历关联表t1(驱动表,全表扫描),然后根据从表t1中取出的每行数据中的a... 查看详情

react性能优化小技巧(代码片段)

REACT优化性能介绍一些项目中可用于改进React代码的有效技巧。避免在渲染函数中使用内联函数定义原因:如果在JSX属性中使用箭头函数,它将在每次渲染时创建新的函数实例。这可能会为垃圾收集器带来很多工作。可以... 查看详情