一、迭代模型/火山模型(Iterator Model)
又称 Volcano Model 或者 Pipeline Model。
Iterator Model
该计算模型将关系代数中每一种操作抽象为一个 Operator,将整个 SQL 构建成一个 Operator 树,查询树自顶向下的调用next()接口,数据则自底向上的被拉取处理。
火山模型的这种处理方式也称为拉取执行模型(Pull Based)。
大多数关系型数据库都是使用迭代模型的,如 SQLite、MongoDB、Impala、DB2、SQLServer、Greenplum、PostgreSQL、Oracle、MySQL 等。
火山模型的优点在于:简单,每个 Operator 可以单独实现逻辑。
火山模型的缺点:查询树调用next()接口次数太多,并且一次只取一条数据,CPU 执行效率低;而 Joins, Subqueries, Order By 等操作经常会阻塞。
二、物化模型(Materialization Model)
Materialization Model
物化模型的处理方式是:每个 operator 一次处理所有的输入,处理完之后将所有结果一次性输出。
物化模型更适合OLTP负载,这些查询每次只访问小规模的数据,只需要少量的函数调用。
三、向量化/批处理模型(Vectorized / Batch Model)
Batch Model
向量化模型 和 火山模型 类似,每个 operator 需要实现一个 next() 函数,但是每次调用 next() 函数会返回一批的元组(tuples),而不是一个元组,所以向量化模型也可称为批处理模型。
向量化模型是火山模型和物化模型的折衷。
向量化模型比较适合 OLAP 查询,因为其大大减少了每个 operator 的调用次数,也就简单减少了虚函数的调用。
Presto、snowflake、SQLServer、Amazon Redshift等数据库支持这种处理模式。
Spark 2.x 的 SQL 引擎开始也支持向量化执行模型。
在 Hive 中使用 向量化执行的方式:1、必须以 ORC 格式来存储数据,2、将 hive.vectorized.execution.enabled 参数设置为 true
以上为三种常见的数据库查询引擎执行模型,「分布式技术专题」是国产数据库hubble团队精心整编,专题会持续更新,欢迎大家保持关注。