MySQL 体系结构
- 连接层
最上层是一些客户端和链接服务,主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。 - 服务层
第二层架构主要完成大多数的核心服务功能,如 SQL 接口,并完成缓存的查询, SQL 的分析和优化,部分内置函数的执行。所有跨存储引擎的功能也在这一层实现,如过程、函数等。 - 引擎层
存储引擎真正的负责了 MySQL 中数据的存储和提取,服务器通过 API 和存储引擎进行通信。不同的存储引擎具有不同的功能,这样我们可以根据自己的需要,来选取合适的存储引擎。 - 存储层
主要是将数据存储在文件系统之上,并完成与存储引擎的交互。
show create table account,查看建表语句,engine指定存储引擎。show engins查询支持的引擎。
InnoDB
介绍
InnoDB 是一种兼顾高可靠性和高性能的通用存储引擎,在 MySQL 5.5之后, InnoDB 是默认的 MySQL 存储引擎。
特点
- DML 操作遵循 ACID 模型,支持事务;
- 行级锁,提高并发访问性能;
- 支持外键 FOREIGN KEY 约束,保证数据的完整性和正确性;
文件
xxx.ibd: xxx代表的是表名,innoDB 引擎的每张表都会对应这样一个表空间文件,存储该表的表结构(frm、sdi)、数据和索引。参数:innodb_file_per_table。ibd2sdi可以查看表结构。
MyISAM
MyISAM 是 MySQL 早期的默认存储引擎。
特点
- 不支持事务,不支持外键
- 支持表锁,不支持行锁
- 访问速度快
文件
xxx.sdi:存储表结构信息
xxx.MYD:存储数据
XXX.MYI:存储索引
Memory
介绍
Memory 引擎的表数据时存储在内存中的,由于受到硬件问题、或断电问题的影响,只能将这些表作为临时表或缓存使用。
特点
- 内存存放
- hash 索引(默认)
文件
xxx.sdi:存储表结构信息
存储引擎选择
在选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据实际情况选择多种存储引擎进行组合。
InnoDB:是 Mysql 的默认存储引擎,支持事务、外键。如果应用对事务的完整性有比较高的要求,在并发条件下要求数据的一致性,数据操作除了插入和查询之外,还包含很多的更新、删除操作,那么 InnoDB 存储引擎是比较合适的选择。
MyISAM:如果应用是以读操作和插入操作为主,只有很少的更新和删除操作,并且对事务的完整性、并发性要求不是很高,那么选择这个存储引擎是非常合适的。替代品mongodb
MEMORY:将所有数据保存在内存中,访问速度快,通常用于临时表及缓存。 MEMORY 的缺陷就是对表的大小有限制,太大的表无法缓存在内存中,而且无法保障数据的安全性。替代品redis
索引
优势
- 提高数据检索的效率,降低数据库的 IO 成本
- 通过索引列对数据进行排序,降低数据排序的成本,降低 CPU 的消耗。
劣势 - 索引列也是要占用空间的。
- 索引大大提高了查询效率,同时却也降低更新表的速度,如对表进行 INSERT、UPDATE、DELETE时,效率降低。
二叉树缺点:顺序插入时,会形成一个链表,查询性能大大降低。大数据量情况下,层级较深,检索速度慢。
红黑树:大数据量情况下,层级较深,检索速度慢。
索引结构
B-Tree(多路平衡查找树)
以一颗最大度数(max-degree )为5(5阶)的 b-tree 为例(每个节点最多存储4个key,5个指针):
https://www.cs.usfca.edu/~galles/visualization/BTree.html 可视化数据结构。
B+ Tree
以一颗最大度数(max-degree)为4(4阶)的 b+ tree 为例:
相对于 B-Tree 区别:
①所有的数据都会出现在叶子节点
②叶子节点形成一个单向链表
MySQL 索引数据结构对经典的 B+ Tree 进行了优化。在原 B+ Tree 的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序指针的 B+ Tree,提高区间访问的性能。
Hash
哈希索引就是采用一定的 hash 算法,将键值换算成新的 hash 值,映射到对应的槽位上,然后存储在 hash 表中。
如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了 hash 冲突(也称为 hash 碰撞),可以通过链表来解决。
为什么 InnoDB 存储引擎选择使用 B+ tree 索引结构?
- 相对于二叉树,层级更少,搜索效率高;
- 对于 B-tree ,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储的键值减少,指针跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低;
- 相对 Hash 索引,B+ tree 支持范围匹配及排序操作;
索引选取规则
聚集索引选取规则:
- 如果存在主键,主键索引就是聚集索引。
- 如果不存在主键,将使用第一个唯一( UNIQUE )索引作为聚集索引。
- 如果表没有主键,或没有合适的唯一索引,则 InnoDB 会自动生成一个 rowid 作为隐藏的聚集索引。
InnoDB 主键索引的 B+ tree 高度为多高呢?
假设:一行数据大小为1k,一页中可以存储16行这样的数据。 InnoDB 的指针占用6个字节的空间,主键即使为 bigint ,占用字节数为8。
高度为2:
n*8+(n+1)*6=16*1024,算出n约为1170
1171*16=18736
高度为3:
1171*1171*16=21939856
索引语法
创建索引
CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name ,..);
查看索引
SHOW INDEX FROM table_name;
删除索引
DROP INDEX index_name ON table_name;
SQL 性能分析
SQL 执行频率
MySQL 客户端连接成功后,通过 show [ sessionl global ] status 命令可以提供服务器状态信息。通过如下指令,可以查看当前数据库的INSERT、UPDATE、DELETE、SELECT的访问频次:
SHOW GLOBAL STATUS LIKE ‘com_______’
慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有 SQL 语句的日志。 MySQL 的慢查询日志默认没有开启,需要在 MySQL 的配置文件(/etc/my.cnf )中配置如下信息:1
2
3
4#开启 MySQL 慢日志查询开关
slow_query_log =1
#设置慢日志的时间为2秒,SQL语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
long_query_time =2
配置完毕之后,通过以下指令重新启动 MySQL 服务器进行测试,查看慢日志文件中记录的信息/var/lib/mysql/localhost-slow.log。
profile 详情
show profiles 能够在做 SQL 优化时帮助我们了解时间都耗费到哪里去了。通过 have_profiling 参数,能够看到当前 MySQL 是否支持 profile 操作:1
SELECT @@have_profiling;
默认 profiling 是关闭的,可以通过 set 语句在 session/global 级别开启 profiling:1
SET profiling=1;
执行一系列的业务 SQL 的操作,然后通过如下指令查看指令的执行耗时:1
2
3
4
5
6#查看每一条 SQL 的耗时基本情况
show profiles;
#查看指定 query_id 的 SQL 语句各个阶段的耗时情况
show profile for query query_id;
#查看指定 query_id 的 SQL 语句 CPU 的使用情况
show profile cpu for query query_id;
explain 执行计划
EXPLAIN 或者 DESC 命令获取 MySQL 如何执行 SELECT 语句的信息,包括在 SELECT 语句执行过程中表如何连接和连接的顺序。
语法:
#直接在 select 语句之前加上关键字 explain/desc
EXPLAIN SELECT 字段列表 FROM 表名 WHERE 条件;
EXPLAIN 执行计划各字段含义:
Id
select 查询的序列号,表示查询中执行 select 子句或者是操作表的顺序(id相同,执行顺序从上到下; id不同,值越大,越先执行)。
select_type
表示 SELECT 的类型,常见的取值有 SIMPLE(简单表,即不使用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、 UNION(UNION 中的第二个或者后面的查询语句)、 SUBQUERY(SELECT / WHERE 之后包含了子查询)等
type
表示连接类型,性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、index、all。
possible_key
显示可能应用在这张表上的索引,一个或多个。
Key
实际使用的索引,如果为 NULL ,则没有使用索引。
Key_len
表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好。
rows
MySQL 认为必须要执行查询的行数,在 innodb 引擎的表中,是一个估计值,可能并不总是准确的。
filtered
表示返回结果的行数占需读取行数的百分比,filtered 的值越大越好。
索引使用
最左前缀法则
如果索引了多列(联合索引),要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。如果跳跃某一列,索引将部分失效(后面的字段索引失效),查询顺序没有关系,只要存在即可。
范围查询
联合索引中,出现范围查询(>,<),范围查询右侧的列索引失效,业务允许的情况下,改为大于等于或小于等于即可。
索引列运算
不要在索引列上进行运算操作,索引将失效。1
explain select * from tb_user where substring(phone,10,2)='75';
字符串不加引号
字符串类型字段使用时,不加引号,索引将失效。1
2explain select * from tb_user where profession='软件工程' and age=31 and status = 0;
explain selecl * from tb_user where phone =17799990015;
模糊查询
如是头部模糊匹配,索引失效,尾部索引可以。1
2
3explain select * from tb_user where profession like '软件%'
explain seled * from ib_user where profession like '%工程',
explain select * from tb_user where profession like '%工%;
or连接的条件
用 or 分割开的条件,如果 or 前的条件中的列有索引,而后面的列中没有索引,那么涉及的索引都不会被用到。1
2explain select * from tb_user where id =10 or age =23;
explain select * from th_user where phone ='17799990017' or age =73;
由于 age 没有索引(组合索引的中间列也不行),所以即使 id、phone 有索引,索引也会失效。所以需要针对于 age 也要建立索引。
数据分布影响
如果 MySQL 评估使用索引比全表更慢(看数据量占比的多少),则不使用索引。1
2select * from tb_user where phone >='17799990005';
select * from ib_user where phone >='17799990015';
SQL 提示
SQL 提示,是优化数据库的一个重要手段,简单来说,就是在 SQL 语句中加入一些人为的提示来达到优化操作的目的。1
2
3
4
5
6-- use index :
explain select * from ib_user use index(idx_user_pro) where profession ='软件工程';
-- ignore index :
explain select * from tb_user ignore index(idx_user_pro) where profession ='软件工程';
-- force index :
explain select * from tb_user force index(idx_user_pro) where profession ='软件工程';
覆盖索引
尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到),减少 select *,容易回表查询,除非有一个联合索引包括所有字段。1
2
3
4explain select id, profession from tb_user where profession ='软件工程' and age =31 and status ='0';
explain select id, profession, age, status from tb_user where profession ='软件工程' and age =31 and status ='0';
explain select id, profession, age, status , name from tb_user where profession ='软件工程' and age =31 and stalus ='0'; --name拿不到需要回表
explain select * from tb_user where profession ='软件工程' and age =31 and status ='0';
知识小贴士:
using index condition:查找使用了索引,但是需要回表查询数据
using where; using index:查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询数据
前缀索引
当字段类型为字符串(varchar, text 等)时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘IO ,影响查询效率。此时可以只将字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。
语法
create index idx_xxxx on table_name(column(n));
前级长度
可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值,索引选择性越高则查询效率越高,唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。
1
2 select count(distinct email)/count(*) from tb_user ;
select count(distinct substring(email,1,5))/count(*) from tb_user ;
根据前缀索引找到值后需要回表查询对比全部的值,后面还要继续查辅助索引的下一个匹配项,因为只匹配了前缀。
单列索引与联合索引
- 针对于数据量较大,且查询比较频繁的表建立索引。
- 对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引。
- 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高。
- 如果是字符串类型的字段,字段的长度较长,可以针对于字段的特点,建立前缀索引。
- 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率。
- 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价也就越大,会影响增删改的效率。
- 如果索引列不能存储 NULL 值,请在创建表时使用 NOT NULL 约束它。当优化器知道每列是否包含 NULL 值时,它可以更好地确定哪个索引最有效地用于查询。