ppg_fdw:如何使用pgsql构建mpp数据仓库(二)

   (前面由于个人事情较多,所以暂停了博客,现在继续)。
    由于PG本身就是个庞大的基础软件,ppg_fdw调用了大量的PG内部的接口,因此很难一行行代码来介绍(上周一个QA同事让我给他讲解代码,被善意的拒绝了。主要是觉得这个完全不可行,因为本身代码比较凌乱,使用了PG的hook机制,目前关于这方面资料比较少,如果没有这方面的基础,很难理解)。因此,在这里,将简单的介绍整体的架构,并且通过TPCH的实例来讲解基本的思想。
   目前,就分布式数据库或是数据仓库来说,扩展能力比较强的就属shared-noting (SN)的架构了。例如mysql cluster以及比较著名的Teradata。(也有人会说还有O记的某款,这里只能呵呵了,其实他是shared-disk的,具体效果去问某东吧)。SN架构在上个世纪就被普遍看好,大家有兴趣可以用google scholar搜索。其实鼻祖要数Wisconsin 的gamma系统,研究人员借助这个系统研究了一系列的算法,比如最经典的分布式join算法,可以搜搜看。时下出现了一系列的mpp系统,例如AsterData、GreenPlum、HadoopDB等,虽然看起来十分高大上,其实追本溯源,万变不离其宗。
  一般来说,这类系统一般有一个分布式的查询引擎,后端有若干个能执行operator的节点,暂且把前者称为DQP(Distributed Query Processor),后者称为 OP (operator Processor),二者之间可以通过约定的协议通信。简单来说如下所示:
  
   DQP接到一条SQL之后,会经历词法语法分析,查询改写之后,在优化器中生成查询计划。查询计划包括两部分,简单来说,一部分是下推到各个OP上的子计划,一部分是需要在某台上执行的全局operator,最典型的就是agg,当然在某些情况下没有全局operator。对于一个并行系统来说,最重要的考评指标就是加速比了,加速比直接反映了系统的扩展能力。根据阿达姆定律,决定系统的加速比最关键的因素是任务的串行部分。串行部分任务越少,并行任务就越多,系统的扩展能力就越强。而对于一个DQP来说,优化能力越强,下推到OP上的operator越多。
   DQP在选择最优查询计划时,一般采用两阶段的优化方式:为全局的operators生成最优的查询计划,对于子查询则下推给OP,让各个OP在本地并行的生成局部最优plan。
   好了,在说了一堆理论之后,就此打住(主要是理论的东西太多了,有兴趣自己去看吧),回到ppg_fdw的话题上来。下图是ppg_fdw的处理SQL工作流程:
   
    前面已经描述过PG处理查询SQL的流程,这里就不重复了。对比pg处理SQL的流程来说,ppg_fdw主要的变化时,使用ppg_planner生成了分布式查询计划,查询计划的每个叶子节点都是ppg_fdw的scan接口。DQP通过ppg_fdw的接口将子查询以SQL的形式发给后台的OP(实际就是pgsql节点),OP并行运行SQL之后将结果返回给ppg_fdw的scan节点。
   具体说来,ppg_planner的工作主要就是尽可能将operator(project, filter, agg)下推给后台的OP。ppg_planner的输入就是PG中的Query这个数据结构,在pull_up了sublink和subquery之后,使用启发式规则生成全局plan,将能下推的操作deparse生成SQL之后,作为ppg_fdw的scan节点的输入参数。整个的全局计划的叶子节点就是ppg_fdw的scan节点,就是一个foreign_scan节点。
   在处理scan的过程中,ppg_fdw主要有四个接口负责处理和OP交互:
  
        postgresBeginForeignScan,
        postgresIterateForeignScan,
        postgresReScanForeignScan,
        postgresEndForeignScan,
   

   其中postgresBeginForeignScan 在整个查询计划初始化被调用,主要负责一些初始化工作,例如申请局部的memcontex、从元信息中解析需要连接的后台的PGSQL的用户名密码等;postgresIterateForeignScan负责从后台的PGSQL获取一条记录,如果没有返回空;postgresReScanForeignScan暂时在ppg_fdw中没有实现,主要是做sublan时使用,To Be Done;postgresEndForeignScan在结束对后台的pgsql时被调用,主要是清理和节点相关的资源等。

你可能感兴趣的:(数据仓库)