ToB企服应用市场:ToB评测及商务社交产业平台

标题: 索引(MySQL) [打印本页]

作者: 吴旭华    时间: 昨天 16:26
标题: 索引(MySQL)



1. 没有索引,大概会有什么题目

索引:进步数据库的性能,索引是物美价廉的东西了。不消加内存,不消改步伐,不消调sql,只要执行 精确的 create index ,查询速度就大概进步成百上千倍。但是天下没有免费的午餐,查询速度的进步 是以插入、更新、删除的速度为代价的,这些写利用,增加了大量的IO。以是它的代价,在于进步一个 海量数据的检索速度。
常见索引分为:

案例:
先整一个海量表,在查询的时间,看看没有索引时有什么题目?
  1. --构建一个8000000条记录的数据
  2. --构建的海量表数据需要有差异性,所以使用存储过程来创建, 拷贝下面代码就可以了,暂时不用理解
  3. -- 产生随机字符串
  4. delimiter $$
  5. create function rand_string(n INT)
  6. returns varchar(255)
  7. begin
  8. declare chars_str varchar(100) default
  9. ? 'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';
  10. declare return_str varchar(255) default '';
  11. declare i int default 0;
  12. while i < n do
  13. ? set return_str =concat(return_str,substring(chars_str,floor(1+rand()*52),1));
  14. ? set i = i + 1;
  15. ? end while;
  16. return return_str;
  17. end $$
  18. delimiter ;
  19. --产生随机数字
  20. delimiter $$
  21. create function rand_num()
  22. returns int(5)
  23. begin
  24. declare i int default 0;
  25. set i = floor(10+rand()*500);
  26. return i;
  27. end $$
  28. delimiter ;
  29. --创建存储过程,向雇员表添加海量数据
  30. delimiter $$
  31. create procedure insert_emp(in start int(10),in max_num int(10))
  32. begin
  33. declare i int default 0;
  34. set autocommit = 0; ?
  35. repeat
  36. ?set i = i + 1;
  37. ?insert into EMP values ((start+i)
  38. ,rand_string(6),'SALESMAN',0001,curdate(),2000,400,rand_num());
  39. until i = max_num
  40. end repeat;
  41. commit;
  42. end $$
  43. delimiter ;
  44. -- 执行存储过程,添加8000000条记录
  45. call insert_emp(100001, 8000000);
复制代码
到此,已经创建出了海量数据的表了。

可以看到耗时4.93秒,这还是在本机一个人来利用,在现实项目中,如果放在公网中,假如同时有 1000个人并发查询,那很大概就死机。

2. 认识磁盘

MySQL与存储
MySQL 给用户提供存储服务,而存储的都是数据,数据在磁盘这个外设当中。磁盘是计算机中的一个机 械设备,相比于计算机其他电子元件,磁盘服从是比力低的,在加上IO本身的特征,可以知道,如何提交服从,是 MySQL 的一个重要话题。
先来研究一下磁盘:

在看看磁盘中一个盘片

扇区
数据库文件,本质其实就是保存在磁盘的盘片当中。也就是上面的一个个小格子中,就是我们常常所说的扇区。固然,数据库文件很大,也许多,一定需要占据多个扇区。
题外话:

我们在使用Linux,所看到的大部门目次或者文件,其实就是保存在硬盘当中的。(固然,有一些内存文件体系,如:proc,sys之类,我们不思量)
  1. #数据库文件,本质其实就是保存在磁盘的盘片当中,就是一个一个的文件
  2. [root@VM-0-3-centos ~]# ls /var/lib/mysql -l ? #我们目前MySQL中的文件
  3. total 319592
  4. drwxr-x--- 2 mysql mysql ? ? ?4096 Apr 15 21:46 57test
  5. -rw-r----- 1 mysql mysql ? ? ? ?56 Apr 12 15:27 auto.cnf
  6. drwxr-x--- 2 mysql mysql ? ? ?4096 May 17 13:52 bit_index
  7. -rw------- 1 mysql mysql ? ? ?1676 Apr 12 15:27 ca-key.pem
  8. -rw-r--r-- 1 mysql mysql ? ? ?1112 Apr 12 15:27 ca.pem
  9. drwx------ 2 mysql mysql ? ? ?4096 Apr 13 21:26 ccdata_pro
  10. -rw-r--r-- 1 mysql mysql ? ? ?1112 Apr 12 15:27 client-cert.pem
  11. -rw------- 1 mysql mysql ? ? ?1680 Apr 12 15:27 client-key.pem
  12. -rw-r----- 1 mysql mysql ? ? 16958 Jun ?8 15:46 ib_buffer_pool
  13. -rw-r----- 1 mysql mysql 213909504 Jun ?8 16:02 ibdata1
  14. -rw-r----- 1 mysql mysql ?50331648 Jun ?8 16:02 ib_logfile0
  15. -rw-r----- 1 mysql mysql ?50331648 Jun ?8 16:02 ib_logfile1
  16. -rw-r----- 1 mysql mysql ?12582912 Jun ?8 15:46 ibtmp1
  17. drwxr-x--- 2 mysql mysql ? ? ?4096 Apr 28 14:11 musicserver
  18. drwxr-x--- 2 mysql mysql ? ? ?4096 May ?9 09:47 mysql
  19. srwxrwxrwx 1 mysql mysql ? ? ? ? 0 Jun ?8 15:46 mysql.sock
  20. -rw------- 1 mysql mysql ? ? ? ? 5 Jun ?8 15:46 mysql.sock.lock
  21. drwxr-x--- 2 mysql mysql ? ? ?4096 Apr 12 15:27 performance_schema
  22. -rw------- 1 mysql mysql ? ? ?1676 Apr 12 15:27 private_key.pem
  23. -rw-r--r-- 1 mysql mysql ? ? ? 452 Apr 12 15:27 public_key.pem
  24. drwxr-x--- 2 mysql mysql ? ? ?4096 May ?9 09:46 scott
  25. -rw-r--r-- 1 mysql mysql ? ? ?1112 Apr 12 15:27 server-cert.pem
  26. -rw------- 1 mysql mysql ? ? ?1676 Apr 12 15:27 server-key.pem
  27. drwxr-x--- 2 mysql mysql ? ? 12288 Apr 12 15:27 sys
  28. drwxr-x--- 2 mysql mysql ? ? ?4096 Jun ?5 17:13 test ? # 自己定义的数据库,里面有数据
复制代码
以是,最基本的,找到一个文件的全部,本质,就是在磁盘找到所有保存文件的扇区。 而我们能够定位任何一个扇区,那么便能找到所有扇区,因为查找方式是一样的。
定位扇区


结论

故,体系读取磁盘,是以块为单元的,基本单元是 4KB 。
磁盘随机访问(Random Access)与连续访问(Sequential Access)
随机访问:本次IO所给出的扇区地点和上次IO给出扇区地点不连续,如许的话磁头在两次IO利用之间需 要作比力大的移动动作才气重新开始读/写数据。
连续访问:如果当次IO给出的扇区地点与上次IO结束的扇区地点是连续的,那磁头就能很快的开始这次 IO利用,如许的多个IO利用称为连续访问。
因此尽管相邻的两次IO利用在同一时刻发出,但如果它们的请求的扇区地点相差很大的话也只能称为随 机访问,而非连续访问。
磁盘是通过机器活动进行寻址的,随机访问不需要过多的定位,故服从比力高。
3. MySQL 与磁盘交互基本单元

而 MySQL 作为一款应用软件,可以想象成一种特殊的文件体系。它有着更高的IO场景,以是,为了进步 基本的IO服从, MySQL 进行IO的基本单元是 16KB (反面统一使用 InnoDB 存储引擎讲授)
  1. mysql> SHOW GLOBAL STATUS LIKE 'innodb_page_size';
  2. +------------------+-------+
  3. | Variable_name ? | Value |
  4. +------------------+-------+
  5. | Innodb_page_size | 16384 | ? ?-- 16*1024=16384
  6. +------------------+-------+
  7. 1 row in set (0.01 sec)
复制代码
也就是说,磁盘这个硬件设备的基本单元是 512 字节,而 MySQL InnoDB引擎 使用 16KB 进行IO交互。 即, MySQL 和磁盘进行数据交互的基本单元是 16KB 。这个基本数据单元,在 MySQL 这里叫做page(注 意和体系的page区分)
4. 创建共识


5. 索引的理解

创建测试表
  1. create table if not exists user (
  2. ? id int primary key, ? ? --一定要添加主键哦,只有这样才会默认生成主键索引
  3. ? age int not null,
  4. ? name varchar(16) not null
  5. );
  6. mysql> show create table user G
  7. *************************** 1. row ***************************
  8. ? ? ? Table: user
  9. Create Table: CREATE TABLE `user` (
  10. `id` int(11) NOT NULL,
  11. `age` int(11) NOT NULL,
  12. `name` varchar(16) NOT NULL,
  13. PRIMARY KEY (`id`)
  14. ) ENGINE=InnoDB DEFAULT CHARSET=utf8 ?--默认就是InnoDB存储引擎
  15. 1 row in set (0.00 sec)
复制代码
插入多条记载
  1. --插入多条记录,注意,我们并没有按照主键的大小顺序插入哦
  2. mysql> insert into user (id, age, name) values(3, 18, '杨过');
  3. Query OK, 1 row affected (0.01 sec)
  4. mysql> insert into user (id, age, name) values(4, 16, '小龙女');
  5. Query OK, 1 row affected (0.00 sec)
  6. mysql> insert into user (id, age, name) values(2, 26, '黄蓉');
  7. Query OK, 1 row affected (0.01 sec)
  8. mysql> insert into user (id, age, name) values(5, 36, '郭靖');
  9. Query OK, 1 row affected (0.00 sec)
  10. mysql> insert into user (id, age, name) values(1, 56, '欧阳锋');
  11. Query OK, 1 row affected (0.00 sec)
复制代码
查看插入效果
  1. mysql> select * from user; ? ? ?--发现竟然默认是有序的!是谁干的呢?排序有什么好处呢?
  2. +----+-----+-----------+
  3. | id | age | name ? ? |
  4. +----+-----+-----------+
  5. | ?1 | ?56 | 欧阳锋 ? |
  6. | ?2 | ?26 | 黄蓉 ? ? |
  7. | ?3 | ?18 | 杨过 ? ? |
  8. | ?4 | ?16 | 小龙女 ? |
  9. | ?5 | ?36 | 郭靖 ? ? |
  10. +----+-----+-----------+
  11. 5 rows in set (0.00 sec)
复制代码
中断一下—为何IO交互要是 Page
  1. 为何MySQL和磁盘进行IO交互的时候,要采用Page的方案进行交互呢?用多少,加载多少不香吗?
  2. ? ?
  3. 如上面的5条记录,如果MySQL要查找id=2的记录,第一次加载id=1,第二次加载id=2,一次一条记录,那
  4. 么就需要2次IO。如果要找id=5,那么就需要5次IO。
  5. 但,如果这5条(或者更多)都被保存在一个Page中(16KB,能保存很多记录),那么第一次IO查找id=2的时
  6. 候,整个Page会被加载到MySQL的Buffer Pool中,这里完成了一次IO。但是往后如果在查找id=1,3,4,5
  7. 等,完全不需要进行IO了,而是直接在内存中进行了。所以,就在单Page里面,大大减少了IO的次数。
  8. 你怎么保证,用户一定下次找的数据,就在这个Page里面?我们不能严格保证,但是有很大概率,因为有局部
  9. 性原理。
  10. 往往IO效率低下的最主要矛盾不是IO单次数据量的大小,而是IO的次数。
复制代码
理解单个Page
MySQL 中要管理许多数据表文件,而要管理好这些文件,就需要 先描述,在组织 ,我们目前可以简朴理解 成一个个独立文件是有一个或者多个Page构成的。

不同的 Page ,在 MySQL 中,都是 16KB ,使用 prev 和 next 构成双向链表
因为有主键的题目, MySQL 会默认按照主键给我们的数据进行排序,从上面的Page内数据记载可以看出,数据是有序且彼此关联的。
   为什么数据库在插入数据时要对其进行排序呢?我们按正常次序插入数据不是也挺好的吗? 插入数据时排序的目标,就是优化查询的服从。 页内部存放数据的模块,实质上也是一个链表的结构,链表的特点也就是增删快,查询修改慢,以是优化查询 的服从是必须的。 正式因为有序,在查找的时间,从头到后都是有效查找,没有任何一个查找是浪费的,而且,如果运气好,是 可以提前结束查找过程的。
  理解多个Page


单页环境
针对上面的单页Page,我们能否也引入目次呢?固然可以

那么当前,在一个Page内部,我们引入了目次。好比,我们要查找id=4记载,之前必须线性遍历4次, 才气拿到效果。现在直接通过目次2[3],直接进行定位新的起始位置,进步了服从。现在我们可以再次 正式回答上面的题目了,为何通过键值 MySQL 会主动排序?

多页环境
MySQL 中每一页的巨细只有 16KB ,单个Page巨细固定,以是随着数据量不断增大, 16KB 不大概存下 所有的数据,那么肯定会有多个页来存储数据。

在单表数据不断被插入的环境下, MySQL 会在容量不敷的时间,主动开发新的Page来保存新的数据,然 后通过指针的方式,将所有的Page组织起来。
需要注意,上面的图,是理想结构,各人也知道,目前要包管整体有序,那么新插入的数据,不一定会 在新Page上面,这里仅仅做演示。
如许,我们就可以通过多个Page遍历,Page内部通过目次来快速定位数据。可是,貌似如许也有服从问 题,在Page之间,也是需要 MySQL 遍历的,遍历意味着依旧需要进行大量的IO,将下一个Page加载到 内存,进行线性检测。如许就显得我们之前的Page内部的目次,有点杯水车薪了。
那么如何解决呢?解决方案,其实就是我们之前的思路,给Page也带上目次。


存在一个目次页来管理页目次,目次页中的数据存放的就是指向的那一页中最小的数据。有数据,就可 通过比力,找到该访问那个Page,进而通过指针,找到下一个Page。 其实目次页的本质也是页,平凡页中存的数据是用户数据,而目次页中存的数据是平凡页的地点。 可是,我们每次检索数据的时间,该从哪里开始呢?固然顶层的目次页少了,但是还要遍历啊?不消担 心,可以在加目次页

这货就是传说中的B+树啊!没错,至此,我们已经给我们的表user构建完了主键索引。 任意找一个id=?我们发现,现在查找的Page数一定减少了,也就意味着IO次数减少了,那么服从也就 进步了。
复盘一下

InnoDB 在创建索引结构来管理数据的时间,其他数据结构为何不行?



数据结构演示链接:Data Structure Visualization
B+ vs B
B树

B+树

上面的图,是在网上找的,各人也可以搜一下。
目前这两棵树,对我们最故意义的区别是:

为何选择B+

聚簇索引 VS 非聚簇索引
MyISAM 存储引擎-主键索引
MyISAM 引擎同样使用B+树作为索引效果,叶节点的data域存放的是数据记载的地点。下图为 MyISAM 表的主索引, Col1 为主键。

此中, MyISAM 最大的特点是,将索引Page和数据Page分离,也就是叶子节点没有数据,只有对应数据 的地点。
相较于 InnoDB 索引, InnoDB 是将索引和数据放在一起的。
  1. --终端A
  2. mysql> create database myisam_test; ?--创建数据库
  3. Query OK, 1 row affected (0.00 sec)
  4. mysql> use myisam_test;
  5. Database changed
  6. mysql> create table mtest(
  7. ? -> id int primary key,
  8. ? -> name varchar(11) not null
  9. ? -> )engine=MyISAM; ? ? ? ? ? ? ?--使用engine=MyISAM
  10. Query OK, 0 rows affected (0.01 sec)
  11. --终端B
  12. [root@VM-0-3-centos mysql]# ls myisam_test/ -al ?--mysql数据目录下
  13. total 28
  14. drwxr-x--- 2 mysql mysql 4096 Jun 13 13:33 .
  15. drwxr-x--x 13 mysql mysql 4096 Jun 13 13:32 ..
  16. -rw-r----- 1 mysql mysql ? 61 Jun 13 13:32 db.opt
  17. -rw-r----- 1 mysql mysql 8586 Jun 13 13:33 mtest.frm ? --表结构数据
  18. -rw-r----- 1 mysql mysql ? 0 Jun 13 13:33 mtest.MYD ? --该表对应的数据,当前没有数
  19. 据,所以是0
  20. -rw-r----- 1 mysql mysql 1024 Jun 13 13:33 mtest.MYI ? --该表对应的主键索引数据
复制代码
此中, MyISAM 这种用户数据与索引数据分离的索引方案,叫做非聚簇索引
  1. --终端A
  2. mysql> create database innodb_test; ? ? ? --创建数据库
  3. Query OK, 1 row affected (0.00 sec)
  4. mysql> use innodb_test;
  5. Database changed
  6. mysql> create table itest(
  7. ? -> id int primary key,
  8. ? -> name varchar(11) not null
  9. ? -> )engine=InnoDB; ? ? ? ? ? ? ? ? ? ?--使用engine=InnoDB
  10. Query OK, 0 rows affected (0.02 sec)
  11. --终端B
  12. [root@VM-0-3-centos mysql]# ls innodb_test/ -al
  13. total 120
  14. drwxr-x--- 2 mysql mysql 4096 Jun 13 13:39 .
  15. drwxr-x--x 14 mysql mysql 4096 Jun 13 13:38 ..
  16. -rw-r----- 1 mysql mysql ? 61 Jun 13 13:38 db.opt
  17. -rw-r----- 1 mysql mysql 8586 Jun 13 13:39 itest.frm ? ? --表结构数据
  18. -rw-r----- 1 mysql mysql 98304 Jun 13 13:39 itest.ibd ? ? --该表对应的主键索引和用户
  19. 数据,虽然现在一行数据没有,但是该表并不为0,因为有主键索引数据
复制代码
此中, InnoDB 这种用户数据与索引数据在一起索引方案,叫做聚簇索引
固然, MySQL 除了默认会创建主键索引外,我们用户也有大概创建按照其他列信息创建的索引,一样平常这 种索引可以叫做辅助(平凡)索引。
对于 MyISAM ,创建辅助(平凡)索引和主键索引没有差别,无非就是主键不能重复,而非主键可重复。
下图就是基于 MyISAM 的 Col2 创建的索引,和主键索引没有差别

同样, InnoDB 除了主键索引,用户也会创建辅助(平凡)索引,我们以上表中的 Col3 创建对应的辅助 索引如下图:

可以看到, InnoDB 的非主键索引中叶子节点并没有数据,而只有对应记载的key值。
以是通过辅助(平凡)索引,找到目标记载,需要两遍索引:首先检索辅助索引获得主键,然后用主键 到主索引中检索获得记载。这种过程,就叫做回表查询
为何 InnoDB 针对这种辅助(平凡)索引的场景,不给叶子节点也附上数据呢?原因就是太浪费空间了。
总结:

6. 索引利用

创建主键索引

主键索引的特点:

唯一索引的创建

唯一索引的特点:

平凡索引的创建

第二种方式
  1. create table user9(id int primary key, name varchar(20), email
  2. varchar(30));
  3. alter table user9 add index(name); --创建完表以后指定某列为普通索引
复制代码
平凡索引的特点:

全文索引的创建
当对文章字段或有大量笔墨的字段进行检索时,会使用到全文索引。MySQL提供全文索引机制,但是有 要求,要求表的存储引擎必须是MyISAM,而且默认的全文索引支持英文,不支持中文。如果对中文进 行全文检索,可以使用sphinx的中文版(coreseek)。
  1. CREATE TABLE articles (
  2. id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
  3. title VARCHAR(200),
  4. body TEXT,
  5. FULLTEXT (title,body)
  6. )engine=MyISAM;
  7. INSERT INTO articles (title,body) VALUES
  8. ('MySQL Tutorial','DBMS stands for DataBase ...'),
  9. ('How To Use MySQL Well','After you went through a ...'),
  10. ('Optimizing MySQL','In this tutorial we will show ...'),
  11. ('1001 MySQL Tricks','1. Never run mysqld as root. 2. ...'),
  12. ('MySQL vs. YourSQL','In the following database comparison ...'),
  13. ('MySQL Security','When configured properly, MySQL ...');
复制代码

如果使用如下查询方式,固然查询出数据,但是没有使用到全文索引
  1. mysql> select * from articles where body like '%database%';
  2. +----+-------------------+------------------------------------------+
  3. | id | title ? ? ? ? ? ? | body ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? |
  4. +----+-------------------+------------------------------------------+
  5. | ?1 | MySQL Tutorial ? | DBMS stands for DataBase ... ? ? ? ? ? ? |
  6. | ?5 | MySQL vs. YourSQL | In the following database comparison ... |
  7. +----+-------------------+------------------------------------------+
复制代码
可以用explain工具看一下,是否使用到索引
  1. mysql> explain select * from articles where body like '%database%'G
  2. *************************** 1. row ***************************
  3. ? ? ? ? ? id: 1
  4. select_type: SIMPLE
  5. ? ? ? table: articles
  6. ? ? ? ? type: ALL
  7. possible_keys: NULL
  8. ? ? ? ? key: NULL <== key为null表示没有用到索引
  9. ? ? key_len: NULL
  10. ? ? ? ? ref: NULL
  11. ? ? ? ? rows: 6
  12. ? ? ? Extra: Using where
  13. 1 row in set (0.00 sec)
复制代码

通过explain来分析这个sql语句
  1. mysql> explain SELECT * FROM articles WHERE MATCH (title,body) AGAINST
  2. ('database')G
  3. *************************** 1. row ***************************
  4. ? ? ? ? ? id: 1
  5. select_type: SIMPLE
  6. ? ? ? table: articles
  7. ? ? ? ? type: fulltext
  8. possible_keys: title
  9. ? ? ? ? key: title <= key用到了title
  10. ? ? key_len: 0
  11. ? ? ? ? ref:
  12. ? ? ? ? rows: 1
  13. ? ? ? Extra: Using where
复制代码
查询索引

删除索引

索引创建原则


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。




欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4