ORACLE中Scalar subquery Caching的hash table大小测试浅析

 

前阵子总结了这篇ORACLE当中自定义函数性优化浅析博客,里面介绍了标量子查询缓存(scalar subquery caching),如果使用标量子查询缓存,ORACLE会将子查询结果缓存在哈希表中,如果后续的记录出现同样的值,优化器通过缓存在哈希表中的值,判断重复值不用重复调用函数,直接使用上次计算结果即可。从而减少调用函数次数,从而达到优化性能的效果。另外在ORACLE 10和11中, 哈希表只包含了255个Buckets,也就是说它能存储255个不同值,如果超过这个范围,就会出现散列冲突。 更多详细新可以参考我那篇博客

 

当然,哈希表只包含了255个Buckets是怎么来的呢?这个是Tom大神推算而来,我也没有测试过,后面网友lfree反馈他的测试结果跟这个结果不同。他反馈在ORACLE 10g下,测试结果实际上是512, ORACLE 11g为1024。由于前阵子比较忙,拖延症犯了,另外也跟他缺少沟通,不过有个志同道合的人讨论感兴趣的技术话题是一件幸事。最近有时间,看完了他的关于这个问题的多篇文章,学到了不少东西,也咨询了一下他一下具体细节,具体测试了一下,感觉他的测试方法有点复杂,部分结论过早给出定论了! 但是自己也没有一个合理的测试验证方法。遂啃了一下Tom大神的On Caching and Evangelizing SQL这篇雄文。在这里结合自己的理解,重新演示一下,下面测试环境为Oracle 11g,关于Hash Table,估计有些人会比较懵,借用Tom大神的述说:

 

 

You cannot 'see' the hash table anywhere, it is an internal data structure that lives in your session memory for the duration of the query. Once the query is finished - it goes away.

 

It is a cache associated with your query - nothing more, nothing less.

 

You can "see" it in action by measuring how many times your function is called, for example: 

 

 

   

首先,创建这个自定义函数,这个函数是用来验证哈希表大小的关键所在(确实是一个构造很巧妙,而且又简单的函数。大神真不是盖的)。如果对函数dbms_application_info.set_client_info不了解的,自行搜索、学习这个知识点!

 

create or replace function f( x in varchar2 ) return number
as
begin
        dbms_application_info.set_client_info(userenv('client_info')+1 );
        return length(x);
end

 

然后创建测试表,插入测试数据。然后就可以开始我们的测试,

 

 

CREATE TABLE TEST(ID NUMBER);
INSERT INTO TEST
SELECT 1 FROM DUAL UNION ALL
SELECT 1 FROM DUAL UNION ALL
SELECT 1 FROM DUAL UNION ALL
SELECT 2 FROM DUAL UNION ALL
SELECT 2 FROM DUAL UNION ALL
SELECT 2 FROM DUAL UNION ALL
SELECT 3 FROM DUAL UNION ALL
SELECT 3 FROM DUAL;
COMMIT;

 

准备好上述测试环境,我们就可以用下面脚本来测试、验证标量函数被调用了多少次(注意下面这段脚本会被多次使用,下面测试部分会多次使用,后续可能直接称呼其为test.sql,而不会每次贴出这段脚本

 

variable cpu number;
begin
   :cpu := dbms_utility.get_cpu_time; 
      dbms_application_info.set_client_info(0);
end;
select id,(select f(id) from dual) as client_info from test;
select dbms_utility.get_cpu_time- :cpu cpu_hsecs, 
             userenv('client_info') 
from dual;

 

我们可以看到测试结果userenv('client_info')的值为3, 这意味着标量函数被递归调用了3次(如果不理解的话,多补一下基础知识)

 

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第1张图片

 

如果你对这种方式存在质疑的话,也可以使用10046 trace找到SQL的真实执行计划。具体SQL如下所

 

alter session set events '10046 trace name context  forever,level 12'; 
 
select id,(select f(id) from dual) as client_info from test;
 
alter session set events '10046 trace name context off'
 
SELECT T.value 
       || '/' 
       || Lower(Rtrim(I.INSTANCE, Chr(0))) 
       || '_ora_' 
       || P.spid 
       || '.trc' TRACE_FILE_NAME 
FROM   (SELECT P.spid 
        FROM   v$mystat M, 
               v$session S, 
               v$process P 
        WHERE  M.statistic# = 1 
               AND S.sid = M.sid 
               AND P.addr = S.paddr) P, 
       (SELECT T.INSTANCE 
        FROM   v$thread T, 
               v$parameter V 
        WHERE  V.name = 'thread' 
               AND ( V.value = 0 
                      OR T.thread# = To_number(V.value) )) I, 
       (SELECT value 
        FROM   v$parameter 
        WHERE  name = 'user_dump_dest') T;

 

找到测试生成的trace文件,格式化后,如下截图所示,FAST DUAL表示执行子查询的次数,也就是递归调用次数。

 

 

[oracle@DB-Server trace]$ tkprof gsp_ora_11336.trc klb_out.txt

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第2张图片

 

 

删除这个表,然后我们构造一个拥有从1到255的新表,然后执行test.sql,测试看看标量函数会调用多少次,如下所示:

 

 

SQL> drop table test purge;
 
Table dropped.
 
SQL> create table test as select rownum id from dual connect by level<=255;
 
Table created.

 

 

如下所示,可以看到当前情况下,标量函数执行了255次

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第3张图片

 

 

然后插入1、2、 3 三个值,我们再执行一下test.sql,看看优化器是否使用哈希表中缓存的记录,减少函数调用次数。如下所示,函数还是只调用了255次。

 

 

INSERT INTO TEST
SELECT 1 FROM DUAL UNION ALL
SELECT 2 FROM DUAL UNION ALL
SELECT 3 FROM DUAL;
COMMIT;

 

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第4张图片

 

 

 

然后我们清空表TEST中的数据,然后使用下面脚本构造相关数据后, 执行test.sql继续我们的测试。

 

SQL> TRUNCATE TABLE TEST;
 
Table truncated.
 
SQL> DECLARE RowIndex NUMBER;
  2  BEGIN
  3  RowIndex :=1;
  4  WHILE RowIndex <= 255 LOOP
  5      INSERT INTO TEST
  6      SELECT RowIndex  FROM DUAL;
  7      
  8       RowIndex := RowIndex +1;
  9  END LOOP;
 10  COMMIT;
 11  END;
 12  /
 
PL/SQL procedure successfully completed.
 
SQL> DECLARE RowIndex NUMBER;
  2  BEGIN
  3  RowIndex :=1;
  4  WHILE RowIndex <= 255 LOOP
  5      INSERT INTO TEST
  6      SELECT RowIndex  FROM DUAL;
  7      
  8       RowIndex := RowIndex +1;
  9  END LOOP;
 10  COMMIT;
 11  END;
 12  /
 
PL/SQL procedure successfully completed.
 
SQL> 

 

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第5张图片

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第6张图片

 

 

其实这里出现这个问题,是因为1-255中,有些数因为HASH冲突,导致无法缓存到哈希表中,我们来验证测试一下,如下所示,9和16出现HASH冲突(为什么会出现HASH冲突,这个不清楚,因为我们不清楚它的HASH算法),由于9和16出现HASH 冲突,从而导致16无法缓存到哈希表,从而导致两条16的记录调用了两次,所以标量函数被调用了3次。但是如果出现冲突的记录,两次重复出现,那么它会重用上一次的调用函数的结果。如下测试所示:

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第7张图片

 

我们继续往表TEST里面插入一条ID=16的记录, 我们开始测试

 

SQL> INSERT INTO TEST VALUES(16);
 
1 row created.
 
SQL> COMMIT;
 
SQL> select id,(select f(id) from dual) from test where id in (9,16);
 
        ID (SELECTF(ID)FROMDUAL)
---------- ---------------------
         9                     9
        16                    16
         9                     9
        16                    16
        16                    16
 
SQL> select dbms_utility.get_cpu_time- :cpu cpu_hsecs, userenv('client_info') from dual;
 
 CPU_HSECS USERENV('CLIENT_INFO')
---------- ----------------------------------------------------------------
         1 3

 

如上所示,自定义函数调用的次数还是3, 按照推理:ID=9的记录调用一次自定义函数,然后ID=16的记录出现HASH冲突,调用一次自定义函数,然后到记录ID=9,发现可以从内存中的哈希表取值,跳过调用自定义函数,接着到ID=16,由于哈希冲突,哈希表没有缓存相关记录,那么还会调用一次自定义函数,再接下来ID=16的记录,由于两次重复出现,那么它会重用上一次的调用函数的结果。所以调用次数为3

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第8张图片

 

如果我们接下来继续插入两条记录,一条为9,一条为16,那么调用自定义函数的次数就会变为4,如下所示:

 

SQL> insert into test values(9);
 
1 row created.
 
SQL> insert into test values(16);
 
1 row created.
 
SQL> commit;
 
Commit complete.
 
SQL> variable cpu number;
SQL> begin
  2     :cpu := dbms_utility.get_cpu_time; 
  3       dbms_application_info.set_client_info(0);
  4  end;
  5  /
 
PL/SQL procedure successfully completed.
 
SQL>    
SQL> select id,(select f(id) from dual) from test where id in(9,16);
 
 
        ID (SELECTF(ID)FROMDUAL)
---------- ---------------------
         9                     9
        16                    16
         9                     9
        16                    16
        16                    16
         9                     9
        16                    16
 
7 rows selected.
 
SQL> SQL> select dbms_utility.get_cpu_time- :cpu cpu_hsecs, userenv('client_info') from dual;
 
 CPU_HSECS USERENV('CLIENT_INFO')
---------- ----------------------------------------------------------------
         1 4
 
SQL> 

 

 

如果我们插入数据的顺序修改一下,如下所示,此时的测试结果就能理解了(之前我一直没有理解清楚,注意之前的截图,你就能理解一二了,如果插入1~255  然后插入 1~255 这里函数的调用次数为306, 如果插入的记录为1、1、2、2 ....255、255 函数调用次数为255)

 

SQL> TRUNCATE TABLE TEST;
 
Table truncated.
 
SQL> DECLARE RowIndex NUMBER;
  2  BEGIN
  3  RowIndex :=1;
  4  WHILE RowIndex <= 255 LOOP
  5      INSERT INTO TEST
  6      SELECT RowIndex  FROM DUAL UNION ALL
  7      SELECT RowIndex  FROM DUAL;
  8      
  9       RowIndex := RowIndex +1;
 10  END LOOP;
 11  COMMIT;
 12  END;
 13  /
 
PL/SQL procedure successfully completed.

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第9张图片

 

 

那么我们接下来分析一下,标量子查询缓存中生成的哈希表到底能缓存多少条记录呢? 

 

推理如下 306-255 =51  表示1-255 记录里面,有51个记录跟其它记录存在哈希冲突,那么哈希表中实际缓存255-51=204条记录,然后我们将上面实验的值放大到510,继续测试

 

TRUNCATE TABLE TEST;
 
DECLARE RowIndex NUMBER;
BEGIN
RowIndex :=1;
WHILE RowIndex <= 510 LOOP
    INSERT INTO TEST
    SELECT RowIndex  FROM DUAL;
    
     RowIndex := RowIndex +1;
END LOOP;
COMMIT;
END;
/
 
DECLARE RowIndex NUMBER;
BEGIN
RowIndex :=1;
WHILE RowIndex <= 510 LOOP
    INSERT INTO TEST
    SELECT RowIndex  FROM DUAL;
    
     RowIndex := RowIndex +1;
END LOOP;
COMMIT;
END;
/

 

ORACLE中Scalar subquery Caching的hash table大小测试浅析_第10张图片

 

接着分析, 707- 510 = 197  这意味着197个数据存在哈希冲突, 假设内存中的哈希表缓存了510-197=313条记录, 那么313 + 197 + 197 = 707。 假设这个哈希表只能缓存255 bucket的话, 那么按照推理,函数调用次数应该为255 +(510-255)*2 = 765次,显然跟实际次数有出入,那么说明这个值应该大于255。

 

 

SQL> select 313 +197 from dual;

 

   313+197

----------

       510

 

SQL> select 313 + 197 + 197 from dual;

 

313+197+197

-----------

        707

 

我们继续放大插入的值,继续后面测试,后面测试其实我已经无法继续推理,例如,插入2048连续记录,然后插入2048条连续记录,测试发现函数的调用次数为3592

 

假设哈希表只能缓存1024条记录, 那么 1024+ (2048-1024)*2 = 3072  < 3592 ,这是否意味着哈希表不止缓存1024条记录,其实,到目前为止,我们只发现了部分记录存在HASH冲突,上述测试也是存在假设前提的,例如9 跟 16 存在HAST冲突,那么是否还存在其它值跟它们HASH 冲突呢? 测试越来越复杂,个人在这上面花费了大量的时间,其实是有点不划算的。

 

透过现象看本质,有时候,局限于知识、认知、眼界,可能并不能透过现象看到本质,更何况这个也是封闭的,官方没有相关解释。所以我们只能透过现象做出一些推理和论证,而很难跨过现象直至本质。

 

 

 

结论:

 

    网友lfree的反馈是对的。标量子查询缓存(scalar subquery caching)中的哈希表缓存的buckets,在ORACLE 10g / 11g 下面确实不止255, 但是这个值到底是多少,这篇博文无法给出一个确切值!

 

       

 

 

参考资料:

 

https://asktom.oracle.com/pls/apex/f?p=100:11:0::::P11_QUESTION_ID:2683853500346598211

https://blogs.oracle.com/oraclemagazine/on-caching-and-evangelizing-sql

你可能感兴趣的:(ORACLE中Scalar subquery Caching的hash table大小测试浅析)