常用SQL优化
1. 大批量插入数据
向数据库中新增100万数据时,当使用 load data命令导入数据时,适当的设置可以提高效率。
对于 Innodb 类型的数据引擎:
- 按主键顺序插入,即所导入的数据按照主键的顺序排序,可以有效提高导入数据的效率。
命令:
load data local infile '文件路径' into table '表名' fields terminated by ',' lines terminated by '\n' ;
fields terminated by ',' :字段以 “,” 分割。
lines terminated by '\n' :行 以 “\n” 换行。
2 ) 关闭唯一性校验
在导入数据前,关闭唯一性校验,执行 :set unique_checks=0 ; 在导入结束后,执行:set unique_checks=1 ,恢复唯一性校验,可以提高导入效率。
3 ) 手动提交事务
如果应用使用自动提交的方式,建议在导入前执行 set autocommit=0 ,关闭自动提交。导入数据结束后再执行 set Autocommit=1 ,打开自动提交,可以提高效率。
2. 优化 insert 语句
- 一条SQL语句插入多条数据。
如果需要同时对一张表插入很多行数据时,应该尽量使用多值插入的 insert 语句,这种方式将大大减轻与数据库之间的连接,关闭等消耗。
优化前:
INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0);
INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('1', 'userid_1', 'content_1', 1);
优化后:
INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES
('0', 'userid_0', 'content_0', 0), ('1', 'userid_1', 'content_1', 1);
Java实现:即批量新增数据进行提交,减少数据库连接关闭消耗。
Connection connection = DriverManager.getConnection("jdbc:mysql://localhost:3306/test","root","123");
// 关闭自动提交,默认情况下每执行一条sql提交一次
connection.setAutoCommit(false);
PreparedStatement statement = connection.prepareStatement("INSERT INTO insert_table VALUES(?, ?)");
//记录1
statement.setString(1, "2012-12-27 11:11:11");
statement.setString(2, "userid_0");
statement.setString(3, "content_0");
statement.setInt(4, 0);
statement.addBatch();
//记录2
statement.setString(1, "2012-12-27 12:12:12");
statement.setString(2, "userid_1");
statement.setString(3, "content_1");
statement.setInt(4, 1);
statement.addBatch();
//记录3
statement.setString(1, "2012-12-27 13:13:13");
statement.setString(2, "userid_2");
statement.setString(3, "content_2");
statement.setInt(4, 2);
statement.addBatch();
//批量执行上面3条语句.
int [] counts = statement.executeBatch();
//Commit
connection.commit();
2) 在事务中进行数据插入。
使用事务可以提高数据的插入效率,这是因为进行一个INSERT操作时,MySQL内部会建立一个事务,在事务内才进行真正插入处理操作。通过使用事务可以减少创建事务的消耗,所有插入都在执行后才进行提交操作。
START TRANSACTION;
INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0);
INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('1', 'userid_1', 'content_1', 1);
COMMIT;
- 数据有序插入。
数据有序的插入是指插入记录在主键上是有序排列,由于数据库插入时,需要维护索引数据,无序的记录会增大维护索引的成本。我们可以参照innodb使用的B+tree索引,如果每次插入记录都在索引的最后面,索引的定位效率很高,并且对索引调整较小;
例如 id 是记录的主键:
优化之前:
INSERTINTO insert_table(id,uid,content,type)
VALUES('1','userid_1','content_1',1);INSERTINTO`insert_table`(`datetime`,`uid`,`content`,`type`)
VALUES('0','userid_0','content_0',0);INSERTINTO`insert_table`(`datetime`,`uid`,`content`,`type`)
VALUES('2','userid_2','content_2',2);
优化后:
INSERTINTO insert_table(datetime,uid,content,type)
VALUES('0','userid_0','content_0',0);INSERTINTOinsert_table(datetime,uid,content,type)
VALUES('1','userid_1','content_1',1);INSERTINTOinsert_table(datetime,uid,content,type)
VALUES('2','userid_2','content_2',2);
2. 优化 order by语句
在使用索引时,通过order by 进行排序时,返回的数据 为加索引的列 可以提高效率。否则索引可能失效。