MySQL SQL优化
一、插入数据
1. Insert优化
- 批量插入:
insert into table values (数据1),(数据2),(数据3);- 手动提交事务:
start transaction;
insert into table values (数据1),(数据2),(数据3);
insert into table values (数据4),(数据5),(数据6);
commit;- 主键顺序插入:主键顺序插入的性能高于乱序插入
2. 大批量插入数据
如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以
使用MySQL数据库提供的load指令进行插入,操作如下:
第一步:客户端连接服务器时,加上参数 --local-infile
mysql --local-infile -u root -p
第二步:设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile=1;
第三步:执行load指令将准备好的数据,加载到表结构中
load data local_infile '/root/sql.log' into table 'tb_usre' fields terminated by ',' lines terminated by '\n';
二、主键优化
1. 数据组织方式
在InnoDB存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table IOT)
2. 页分裂
页可以为空,也可以填充一半,也可以填充100%。每个页包含了2-N行数据(如果一行数据多大,会行溢出),根据主键排列。
主键顺序插入:
主键乱序插入:可能出现页分裂
3. 页合并
当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用。
当页中删除的记录达到MERGE_THRESHOLD(默认为页50%),InnoDB会开始寻找最靠近的页(前或后)看看是否可以将两个页合并以优化空间使用。
MERGE_THRESHOLD:合并页的阈值,可以自己设置,在创建表或创建索引时指定。
4. 主键设计原则
- 满足业务需求的情况下,尽量降低主键的长度;
- 插入数据时,尽量选择顺序插入,选择使用auto_increment自增主键;
- 尽量不要使用UUID做主键或是其他自然主键,如身份证号;
- 业务操作时,尽量避免对主键的修改。
三、Order By优化
1.Using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓存区sort中完成排序操作,
所有不是通过索引直接返回排序结果的排序都叫File Sort排序。
2.Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为using index,不需要额外排序,操作效率高。
测试:没有创建索引时,根据age,phone进行排序:
explain select age,phone from tb_user order by age,phone;---结果返回using filesort,效率低
创建索引:
creat index idx_user_age_phone_aa on tb_user(age asc,phone asc);---系统默认asc排序可不写
创建索引后,根据age,phone升序排序:
explain select age,phone from tb_user order by age,phone;---结果返using index,效率高
创建索引后,根据age,phone进行降序排列:
explain select age,phone from tb_user order by age desc,phone desc;---结果返回backward index scan(反向扫描索引),using index效率较高,但是出现反向扫描
根据age,phone一个升序,一个降序排序:
explain select age,phone from tb_user order by age asc,phone desc;---返回结果 using index,using filesort
优化方法,创建新的排序索引:
create index idx_user_age_phone_ad on tb_user(age.asc,phone desc);
根据age,phone一个升序,一个降序排序:
explain select age,phone from tb_user order by age asc,phone desc;---返回结果using index
总结:
- 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则;
- 尽量使用覆盖索引;
- 多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC);
- 如果不可避免出现filesort,大数据排序时,可以适当增大排序缓冲区sort_buffer_size(默认256K)
四、Group By优化
没有创建索引直接分组后,结果会返回using temporary(使用临时表),效率较低。
优化方法:创建相关分组字段的联合索引,分组时索引的使用也要满足最左前缀法则。
五、Limit优化
当对数据库庞大数据进行分页操作时,会出现一个问题就是limit 2000000,10,此时需要MySQL排序前2000010记录,
仅仅返回2000000-2000010的记录,其他记录丢弃,查询排序时间非常长,带价很大。
优化方法:一般分页查询时,通过创建覆盖索引能够较好的提高性能,通过覆盖索引+子查询形式进行优化。
例如:select s.* from tb_sku s,(select id from tb_sku order by id limit 2000000,10) a where s.id=a.id;
六、Count优化
- MyISAM引擎会把一个表的总行数存储在磁盘上,因此执行count(*)时会直接返回个数,效率会大大提高,前提是查询时不加任何where条件,就是直接查询总数据量;
- InnoDB执行count(*)时,需要把一行一行从引擎里读出来,然后累计计数。
- 优化思路:自己计数。
Count()是一个聚合函数,对于返回的结果集,一行行判断,如果count函数的参数不是null,累计值就加1,否则不加,最后返回累计值。
Count(*)的用法:
- count(*):InnoDB引擎并不会取出全部字段,而是做了专门优化,不取值,服务层直接按行累加。
- count(主键):InnoDB引擎会遍历整张表,把每一行的主键id值都取出来,返回给服务层。服务层拿到主键后,直接按行累加(主键不可能为null)。
- count(字段):
没有not null约束:InnoDB引擎会遍历整张表把每一行的字段提取出来,返会给服务层,服务层判断是否为null,不为null计数累加;
有not null约束:InnoDB引擎会遍历整张表把每一行的字段提取出来,返会给服务层,直接进行累加。- count(1):InnoDB引擎遍历整张表,但不取值。服务层对于返回的每一行,放一个数字‘1’进去,直接按行进行累加。
按照效率排序:count(字段) < count(主键) < count(1)≈count(),所有尽量使用count(\)。
七、Update优化
执行Update语句时,执行的条件where字段一定要有索引,InnoDB引擎的行锁是针对索引加的锁,不是针对记录加的锁,
并且该索引不能失效,否则会从行锁升级为表锁,把整张表锁住,降低并发执行效率。