修改一行SQL代码 性能提升了100倍
在PostgreSQL中修改了一行不明显的代码，把（ANY(ARRAY[...]) 改成 ANY(VALUES(...))），结果查询时间从20s变为0.2s。最初我们学习使用EXPLAN ANALYZE来优化代码，到后来，Postgres社区也成为我们学习提升的一个好帮手，付出总会有回报，我们产品的性能也因此得到了极大的提升。
事出有因
我们所开发的产品是Datadog，它是专门为那些编写和运营大规模应用的团队、IT运营商提供监控服务的一个平台，帮助他们把海量的数据转化为切实可行的计划、操作方案。而在这周早些时候，我们的许多数据库所面临的一个性能问题是在一个较小的表上进行大量的key查询。这些查询中的99.9%都是高效灵活的。在极少数实例中，有些数量的性能指标tag查询是费时的，这些查询需要花费20s时间。这也就意味着用户需要在浏览器面前花费这么长的时间来等待图形编辑器做出响应。即使是0.1%，这样的用户体验也显然糟透了，对此，我们进行了监测，探究为何速度会这么慢。
查询与计划
结果令人震惊，罪魁祸首竟然是下面这个简单的查询：
|
1
2
3
4
5
6
7
8
9
10
|
SELECT c.key,
c.x_key,
c.tags,
x.name
FROM context c
JOIN x
ON c.x_key = x.key
WHERE c.key = ANY (ARRAY[
15368196
, --
11
,
000
other keys --)])
AND c.x_key =
1
AND c.tags @> ARRAY[E
'blah'
];
|
X表拥有上千行数据，C表拥有1500万行数据，这两个表的“key”列都带有适当的索引主键。简单地说，它就是一个简单的主键查询。但有趣地是，随着key列中记录的增加，例如在11000行时，我们通过添加EXPLAIN (ANALYZE, BUFFERS)前缀来查看key列的值是否与数组中的值匹配：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
Nested Loop (cost=
6923.33
..
11770.59
rows=
1
width=
362
) (actual time=
17128.188
..
22109.283
rows=
10858
loops=
1
)
Buffers: shared hit=
83494
-> Bitmap Heap Scan on context c (cost=
6923.33
..
11762.31
rows=
1
width=
329
) (actual time=
17128.121
..
22031.783
rows=
10858
loops=
1
)
Recheck Cond: ((tags @>
'{blah}'
::text[]) AND (x_key =
1
))
Filter: (key = ANY (
'{15368196,(a lot more keys here)}'
::integer[]))
Buffers: shared hit=
50919
-> BitmapAnd (cost=
6923.33
..
6923.33
rows=
269
width=
0
) (actual time=
132.910
..
132.910
rows=
0
loops=
1
)
Buffers: shared hit=
1342
-> Bitmap Index Scan on context_tags_idx (cost=
0.00
..
1149.61
rows=
15891
width=
0
) (actual time=
64.614
..
64.614
rows=
264777
loops=
1
)
Index Cond: (tags @>
'{blah}'
::text[])
Buffers: shared hit=
401
-> Bitmap Index Scan on context_x_id_source_type_id_idx (cost=
0.00
..
5773.47
rows=
268667
width=
0
) (actual time=
54.648
..
54.648
rows=
267659
loops=
1
)
Index Cond: (x_id =
1
)
Buffers: shared hit=
941
-> Index Scan using x_pkey on x (cost=
0.00
..
8.27
rows=
1
width=
37
) (actual time=
0.003
..
0.004
rows=
1
loops=
10858
)
Index Cond: (x.key =
1
)
Buffers: shared hit=
32575
Total runtime:
22117.417
ms
|
在最低水平，这些查询看起来就像是这些CPU利用率的峰值。在这里主要是想证实一个关键点：数据库不会等待磁盘去读取数据，而是做排序、散列和行比较这些事。
通过Postgres获取与峰值最接近的行数。
显然，我们的查询在大多数情况下都有条不紊的执行着。
Postgres的性能问题：位图堆扫描
rows_fetched度量与下面的部分计划是一致的：
|
1
2
3
4
5
|
Buffers: shared hit=
83494
-> Bitmap Heap Scan on context c (cost=
6923.33
..
11762.31
rows=
1
width=
329
) (actual time=
17128.121
..
22031.783
rows=
10858
loops=
1
)
Recheck Cond: ((tags @>
'{blah}'
::text[]) AND (x_key =
1
))
Filter: (key = ANY (
'{15368196,(a lot more keys here)}'
::integer[]))
Buffers: shared hit=
50919
|
幸运的是，我们的表有30%都是装载在RAM中，所以在从磁盘上检查行的时候，它不会表现的太糟糕。但在性能上，它仍然存在非常明显的影响。查询过于简单，这是一个非常简单的key查找，所以没有显而易见的数据库或应用重构，它很难找到一些简单的方式来解决这个问题。最后，我们使用PGSQL-Performance邮件向社区求助。
解决方案
开源帮了我们，经验丰富的且代码贡献量非常多的Tom Lane让我们试试这个：
|
1
2
3
4
5
6
7
8
9
10
|
SELECT c.key,
c.x_key,
c.tags,
x.name
FROM context c
JOIN x
ON c.x_key = x.key
WHERE c.key = ANY (VALUES (
15368196
), --
11
,
000
other keys --)
AND c.x_key =
1
AND c.tags @> ARRAY[E
'blah'
];
|
我们使用ARRAY[...]列举出所有的关键字来进行查询，但却欺骗了查询优化器。Values(...)让优化器充分使用关键字索引。仅仅是一行代码的改变，并且没有产生任何语义的改变。
下面是新查询语句的写法，差别就在于第三和第十四行。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
Nested Loop (cost=
168.22
..
2116.29
rows=
148
width=
362
) (actual time=
22.134
..
256.531
rows=
10858
loops=
1
)
Buffers: shared hit=
44967
-> Index Scan using x_pkey on x (cost=
0.00
..
8.27
rows=
1
width=
37
) (actual time=
0.071
..
0.073
rows=
1
loops=
1
)
Index Cond: (id =
1
)
Buffers: shared hit=
4
-> Nested Loop (cost=
168.22
..
2106.54
rows=
148
width=
329
) (actual time=
22.060
..
242.406
rows=
10858
loops=
1
)
Buffers: shared hit=
44963
-> HashAggregate (cost=
168.22
..
170.22
rows=
200
width=
4
) (actual time=
21.529
..
32.820
rows=
11215
loops=
1
)
-> Values Scan on
"*VALUES*"
(cost=
0.00
..
140.19
rows=
11215
width=
4
) (actual time=
0.005
..
9.527
rows=
11215
loops=
1
)
-> Index Scan using context_pkey on context c (cost=
0.00
..
9.67
rows=
1
width=
329
) (actual time=
0.015
..
0.016
rows=
1
loops=
11215
)
Index Cond: (c.key =
"*VALUES*"
.column1)
Filter: ((c.tags @>
'{blah}'
::text[]) AND (c.x_id =
1
))
Buffers: shared hit=
44963
Total runtime:
263.639
ms
|
产品里新的查询
部署后的代码：
数据库看起来更美观
Postgres慢查询将一去不复返了。但有谁愿意因为这个0.1%的倒霉蛋再去折磨呢？我们使用Datadog来验证修改是否正确，它能够做出即时验证。如果你想查看Postgres查询速度的各种影响， 不妨试试Datadog吧。