spark sql基于CBO的优化

前言

spark sql基于CBO的优化是建立在物理计划层面的，原理是计算出所有可能的物理执行计划，并挑选成代价最小的物理执行计划。对于执行计划可以去看我的另一篇博客RBO优化

CBO的话主要用来调整inner join所涉及表的顺序

使用CBO准备

搜集所需表和列的统计信息

• 生成表级别的统计信息
  ANALYZE TABLE 表名 COMPUTE STATISTICS
• 生成列级别的统计信息
  ANALYZE TABLE 表名 COMPUTE STATISTICS FOR COLUMNS 列 1,列 2,列 3
• 显示统计信息
  DESC FORMATTED 表名

CBO相关参数

• spark.sql.cbo.enabled：
  cbo的总开关，默认是false
• spark.sql.cbo.joinReorder.enabled
  来自动调整连续的 inner join 的顺序
• spark.sql.cbo.joinReorder.dp.threshold
  使用 CBO 来自动调整连续 inner join 的表的个数阈值，默认值为12，超过则不会调整