ToB企服应用市场:ToB评测及商务社交产业平台

标题: MySQL常规优化操作 [打印本页]

作者: 篮之新喜 时间: 2023-9-26 04:36
标题: MySQL常规优化操作
查询SQL语句执行频率

查询 mysql 服务启动时长

SHOW STATUS LIKE 'uptime';

复制代码

下列输出表示服务启动了276324秒

+---------------+--------+| Variable_name | Value |+---------------+--------+| Uptime | 276324 |+---------------+--------+

复制代码

查询全局SQL执行的频率

-- 执行了多少次selectSHOW GLOBAL STATUS LIKE 'com_select';-- 执行了多少次insertSHOW GLOBAL STATUS LIKE 'com_insert';-- 执行了多少次updateSHOW GLOBAL STATUS LIKE 'com_update';-- 执行了多少次deleteSHOW GLOBAL STATUS LIKE 'com_delete';

复制代码

查询InnoDB引擎的数据库SQL执行频率

SHOW GLOBAL STATUS LIKE 'Innodb_rows_%';

复制代码

输出

+----------------------+---------+| Variable_name | Value |+----------------------+---------+| Innodb_rows_deleted | 0 || Innodb_rows_inserted | 7682 || Innodb_rows_read | 4022470 || Innodb_rows_updated | 0 |+----------------------+---------+

复制代码

定位低效的查询SQL

慢查询记录

查看实时执行进程

mysql> SHOW PROCESSLIST;

复制代码

在执行时，一条sql正在执行中，就可以看到SQL的执行情况：

如果发现正在执行的Time时间过长，我们就可以把这条低效的SQL拿来进行优化。
执行计划EXPLAIN

概述

EXPLAIN是SQL语句执行的分析器，在执行一条SQL语句时，我们可以使用EXPLAIN命令查看SQL语句的执行计划，从而知道SQL语句时如何执行的。
在使用EXPLAIN时，我们只需要在执行的SQL语句前面加上EXPLAIN就可以打印执行计划：

EXPLAIN SELECT * FROM app_user WHERE email = '100@qq.com';

复制代码

在执行查询计划后会输出以上的一条数据，其中：
1）id 序列号

表结构的执行序列号，序号一样就从上而下执行，序号不同值，值越大优先级越高，先执行；
一般简单查询只会有一条记录，连接查询、子查询会根据查询的层次出现多条记录，这时序号就会就会不同。
2）select_type 查询类型

如果是连接查询，嵌套查询的，每层查询的类型可能不一样；
select_type值说明SIMPLE简单查询（不使用UNION或子查询）PRIMARY查询中包含子查询的，最外层标记为PRIMARYUNION第二个SELECT出现在UNION之后，则被标记为UNIONUNION RESULT在UNION结果中查询SUBQUERY在SELECT或者WHERE中包含子查询的查询DERIVED在FROM列表中包含子查询3）table 引用表

输出行所引用的表的名称，可能还会出现以下值：

：引用union结果，M,N表示进行union的两条记录的ID；
：引用了ID为N的派生结果，例如，派生表可能来自FROM中的子查询；
：引用了ID为N的子查询结果。

4）partitions 匹配分区

如果表设置了分区，会显示数据从哪些分区中查询，多个分区使用逗号隔开。
5）type 联结类型

显示查询使用了何种类型，按照从最佳到最坏类型排序；

NULL：不访问任何表，比如直接打印 NOW() 函数，就不查询任何表；
system：一次就查询到了，查询系统表才会出现；
const：通过索引一次就查询到了，通常使用了主键索引、唯一索引的记录查询时会出现；
eq_ref：常见连接查询，查询的结果只出现一条记录；
ref：根据非唯一索引进行条件查询，匹配到查询条件的所有行；
range：根据检索的条件，搜索到指定范围的数据，常见为WHRER出现范围查询；
index：遍历了索引树，但是没有去遍历数据，速度比遍历数据快一点；
all：遍历了全表的数据，查询最慢；

一般保证查询至少达到range级别，最好能达到ref。
6）possible_keys 可使用索引

表示数据可以从哪些索引中检索数据。
7）key 选择索引

MySQL在possible_keys中最终选择了那一key进行检索数据。
8）key_len 键长度

MySQL决定使用的key的长度。
9）ref 比较列

显示将哪些列或常量与键列中命名的索引进行比较，以从表中选择行。
10）rows 查询行数

根据表统计信息以及索引选用情况，大致估算出找到所需的记录所需要扫描的记录数。
11）filtered 过滤百分比

按表条件过滤的表行的估计百分比。最大值为100，这意味着没有发生行过滤，从100开始减小的值表示过滤量增加。
12）Extra 扩展信息

Using filesort：如果MySQL无法使用索引完成排序而使用了文件排序，需要优化；
Using temporary：使用了临时表来来保存了结果，在排序或者分组时没有使用索引，需要优化；
Using index condition：从索引中检索到数据的坐标，需要回表查询到具体数据。
Using index：从索引中检索到数据，一般保持这个，不需要做优化；
Using where：使用了where条件查询到的，但是没有使用索引，建议给查询条件添加索引；

PROFILES 分析

显示当前会话过程中执行的语句资源使用信息，一般在调试中使用，比较耗费资源，生产环境不要使用。
我们先使用have_profiling变量查看mysql是否支持PROFILES，如果输出yes，表示支持：

SELECT @@have_profiling;

复制代码

查看当前回话是否开启了profiling，0表示未开启：

SELECT @@profiling;

复制代码

当前回话开启/关闭profiling

-- 开启profilingSET profiling=1;-- 关闭profilingSET profiling=0;

复制代码

我们先开启profiling，然后执行我们需要分析的SQL语句：

-- 执行SQLSELECT * FROM `app_user` WHERE `name`='用户14' OR `phone`='18620769501';-- 分析SHOW PROFILES;

复制代码

输出内容如下：

由图片我们可知，上面执行的sql语句，耗时约1.045，如果还想查看每一步执行的耗时，可以使用下面语句：

SHOW PROFILE FOR QUERY 930;

复制代码

其中 930 是 SHOW PROFILES 记录的Query_ID。
trace分析

查看优化器如何选择执行计划的，和PROFILES一样，trace分析非常消耗资源，不建议在生产环境开启。
我们先开启trace分析器，把输出的内容改成json字符串：

-- 开启trace分析器SET optimizer_trace="enabled=on",end_markers_in_json=on;-- 设置记录的trace的最大值SET optimizer_trace_max_mem_size=1000000;

复制代码

在调试完成后记得关闭trace分析器：

SET optimizer_trace="enabled=off";

复制代码

我们现在执行一条需要分析的SQL语句，让trace分析器来进行分析：

SELECT * FROM app_user WHERE id = 2;

复制代码

分析结果记录到了 information_schema.optimizer_trace 系统表中，我们查询一下即可得到分析结果：

SELECT * FROM information_schema.optimizer_trace;

复制代码

TRACE 中大概分为3块：

join_preparation：准备阶段，主要包括查询语句转换
join_optimization：优化阶段，处理where条件、依赖检查、索引评估、扫描行数统计，评估执行计划
join_execution：执行阶段，优化后执行

优化 INSERT 语句

在MySQL中，插入多条数据，应该尽量避免使用多个INSERT语句；可以使用多值插入的方式，这种方式大大减少客户端和数据库服务连接的次数，比单独执行多个INSERT语句效率高。

-- 低效的插入INSERT INTO `login_user`(`loginName`,`loginPwd`) VALUES('1014','12134');INSERT INTO `login_user`(`loginName`,`loginPwd`) VALUES('1015','12134');INSERT INTO `login_user`(`loginName`,`loginPwd`) VALUES('1016','12134');-- 高效的插入INSERT INTO `login_user`(`loginName`,`loginPwd`) VALUES('1014','12134'),('1015','12134'),('1016','12134');

复制代码

在事务中进行插入，避免每次插入都进行提交，如果数据量比较大，可进行分段提交。

-- 低效的插入INSERT INTO `login_user`(`loginName`,`loginPwd`) VALUES('1017','12134'),('1018','12134');INSERT INTO `user_info`(`userId`,`mobile`) VALUES(1,'13800001017'),(1,'13800001018');-- 使用手动事务提交，高效的插入BEGIN;INSERT INTO `login_user`(`loginName`,`loginPwd`) VALUES('1019','12134'),('1020','12134');INSERT INTO `user_info`(`userId`,`mobile`) VALUES(1,'13800001019'),(1,'13800001020');COMMIT;

复制代码

ORDER BY 优化

在排序时尽量避免回表查询。在根据索引进行排序时，查询的字段如果没有添加索引，会导致排序使用文件排序，索引失效；

-- 索引失效，进行文件排序EXPLAIN SELECT * FROM `app_user` ORDER BY `name`;

复制代码

如果查询的字段有索引，排序时会直接使用索引，不需要进行文件排序，效率较高。

-- 使用索引排序EXPLAIN SELECT `id`,`name` FROM `app_user` ORDER BY `name`;

复制代码

多字段排序，要么同时使用升序，要么同时使用降序，多字段避免使用不同的排序。

-- 多字段同排序EXPLAIN SELECT `id`,`name`,`phone`,`age` FROM `app_user` ORDER BY `name`,`phone`;EXPLAIN SELECT `id`,`name`,`phone`,`age` FROM `app_user` ORDER BY `name` DESC,`phone` DESC;

复制代码

-- 多字段不同排序，会使用文件排序EXPLAIN SELECT `id`,`name`,`phone`,`age` FROM `app_user` ORDER BY `name` DESC,`phone` ASC;

复制代码

filesort排序优化，MySQL在进行文件排序filesort时，会根据变量max_length_for_sort_data来判断使用什么样的排序算法，小于这个变量使用单路排序，大于这个变量使用双路排序；我们可以在配置文件中适当调大这个值，让filesort更容易使用单路排序，但需要注意的是这会导致消耗资源增加。

-- 查看使用排序算法的分界值，单位：字节SHOW VARIABLES LIKE 'max_length_for_sort_data';-- 查看排序缓存的大小，单位：字节SHOW VARIABLES LIKE 'sort_buffer_size';

复制代码

GROUP BY 优化

MySQL在进行GROUP BY时，会先进行排序操作，我们可以手动禁止排序，让TA直接进行分组操作。

-- 未添加缓存，未去除排序，自动使用了文件排序EXPLAIN SELECT * FROM app_user GROUP BY `age`;

复制代码

-- 未添加缓存，禁止自动排序操作，耗时更短EXPLAIN SELECT * FROM app_user GROUP BY `age` ORDER BY NULL;

复制代码

使用索引字段进行分组和排序，也可避免使用文件排序。

-- 未使用索引字段进行分组EXPLAIN SELECT `password`,COUNT(`password`) FROM app_user GROUP BY `password`;

复制代码

-- 使用了索引字段进行分组EXPLAIN SELECT `name`,COUNT(`name`) FROM app_user GROUP BY `name`;

复制代码

嵌套查询优化

尽量的使用多表连接查询替代子查询，避免子查询产生的中间表。

-- 子查询EXPLAIN SELECT * FROM user_info WHERE userId IN( SELECT id FROM user WHERE dept_id=1);-- 内连接查询替换子查询EXPLAIN SELECT i.* FROM user_info AS iINNER JOIN user AS u ON u.id = i.userIdWHERE u.dept_id=1;

复制代码

优化OR条件

对于包含了OR的查询语句，如果要利用索引，则OR之间的每个条件列都必须使用索引（复合索引也必须满足最左前缀原则）；如果没有索引，则应该考虑添加索引。

-- OR,其中age没有索引，全部索引失效EXPLAIN SELECT * FROM app_user WHERE email='00' OR age=10;

复制代码

-- OR,email单列索引和name复合索引，都有索引，索引生效EXPLAIN SELECT * FROM app_user WHERE email='00' OR name='用户';

复制代码

建议使用UNION替换OR，避免其中有列没有索引，引起全部索引失效。

-- email有索引，age没有索引-- 1层查询走了索引，2层查询没有走索引，避免了全部索引失效EXPLAIN SELECT * FROM app_user WHERE email='19@qq.com' UNION SELECT * FROM app_user WHERE age=10;

复制代码

分页查询优化

在进行分页时，如果在前几页的数据，查询速度还算可以；
但是越往后面，查询的数据就会越慢，这是因为，MySQL会根据条件查询出符合的数据，最后才进行分页操作，而前面查询的记录都被丢弃了，造成了大量的浪费。
假设查询了第9万页的数据，MySQL会查询出9万页的全部数据，然后丢弃前8.9万的数据，返回第9万页的数据。

-- LIMIT 越往后，速度越慢EXPLAIN SELECT * FROM app_user LIMIT 9000,10;

复制代码

针对这种情况我们可以，先在索引上完成分页，然后再使用连接查询筛选出数据，全在索引上进行分页。

-- 把分页操作移到索引上去操作，-- 把以前的993537条记录从数据文件上筛选，修改为在索引上进行筛选EXPLAIN SELECT * FROM app_user AS uINNER JOIN ( SELECT id FROM app_user LIMIT 9000,10) tON t.id = u.id;

复制代码

如果在主键自增的列上，我们可以把分页的页修改为条件，让它直接在条件处就丢弃多余的数据，但是这个情况下，数据顺序不能变动，并且数据自增的序号还不能断层，否则查询的数据就不正确；如果满足条件就使用，此方式查询效率最高。

EXPLAIN SELECT * FROM app_user WHERE id>900000 LIMIT 10;

复制代码

内存优化

MyISAM 引擎内存使用 key_buffer 缓存索引块，数据块则直接读取磁盘文件，我们可以调整以下参数，让MyISAM 能缓存更多的索引。

key_buffer_size：缓存索引区大小，一般设置为MySQL内存的四分之一；
read_buffer_size：每个连接全表扫描缓存；
read_rnd_buffer_size：每个连接多字段排序缓存；

InnoDB用内存区做缓存池，缓存了索引和数据块，占用内存较大。

innodb_buffer_pool_size：缓存池的大小，尽量调大；
innodb_log_buffer_size：用于日志缓存，调大避免在事务期间去进行io操作；

并发参数

max_connections：允许链接MySQL服务的最大连接数，超过最大限制的将被积压到请求栈中；
back_log：积压请求栈大小（连接数），超过这个值，连接会直接返回错误；
table_open_cache：缓存表的数量，一般为 max_connections 乘以关联查询表数；
thread_cache_size：服务端缓存线程池大小，便于客户端快速连接；
innodb_lock_wait_timeout：事务行锁等待时间，快速反应的系统调小，大事务的系统调大，此处单位为秒；

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)