Greenplum数据库集簇初始化——Initdb概述

Greenplum如何从无到有?Greenplum使用PostgreSQL的初始化机制来初始化集群,PostgreSQL使用initdb创建一个PostgreSQL实例。initdb从无到有创建单个空的可用的PostgreSQL数据库,也就是在一个空的目录中创建PostgreSQL运行所需要的所有文件,包括全局数据字典、控制文件和三个数据库:template0、template1、postgres。由于PostgreSQL自身历史的原因,先创建template1数据库,然后拷贝整个目录成为另外两个数据库。为了创建template1,首先initdb以bootstrap模式运行postgres进程,并使用postgres.bki文件的内容进行初始化;也就是创建PostgreSQL运行需要的重要的元数据,然后通过运行SQL以单节点模式初始化更多元数据。

Initdb

Initdb有大量参数,main()函数入口一开始对各种各样的参数进行检查,然后分为5个阶段进行数据库初始化。
第一阶段,设置数据库安装路径、二进制路径、版本、各种数据模板和locale等,主要函数有:get_restricted_token(),Windows平台相关处理,目的是放弃掉管理员权限,以允许Windows的管理员角色运行initdb初始化数据库;setup_pgdata(),设置PGDATA环境变量,为了运行postgres进程做准备,目的是避免命令行参数引起奇怪的特殊字符转义问题,比如路径中包含空格、#等字符;setup_bin_paths(),设置bin路径,否则找不到postgres二进制文件;effective_user()设置owner信息,如果一起ok,会显示一条输出信息"The files belong to this database system will be owned by user ‘yydzero’. This user must also own the server process.";set_info_version(),从PG_VERSION提取版本信息,后面设置Information schema时需要;setup_data_file_paths(),设置初始化过程中使用的主要数据文件的完整路径,所有数据文件都来自于INSTALLPATH,这些文件包括postgres.bki,postgres.description,postgres.shdescription,pg_hba.conf.sample,pg_indent.conf.sample,postgresql.conf.sample,conversioin_create.sql,information_schema.sql,sql_features.txt,system_views.sql(Greenplum还有一个特定的目录cdb_init.d);setup_locale_encoding(),设置locale编码;setup_text_search(),设置full text search配置。
第二阶段,创建PGDATA目录、其子目录以及三个主要的配置文件和version文件。这个阶段为使用bootstrap模式创建template1做好准备。主要函数有:setup_signals(),设置信号处理函数;create_data_directory(),创建PGDATA目录;create_xlog_or_symlink(),创建WAL日志目录pg_wal;创建PGDATA的子目录,包括global、pg_commit_ts、pg_dynshmem、pg_notify、pg_snapshots、pg_twophase、pg_multixact、base、base/1、pg_replslot、pg_tblspc、pg_xact、pg_stat、pg_logical、pg_distributedlog、log等,其中有的目录为greeplum独有,比如pg_distributedlog;write_version_file(),创建PG_VERSION文件,bootstrapper需要这个文件;setup_config(),设置配置文件,主要有三个配置文件postgresql.conf、pg_hba.conf、pg_ident.conf。
第三阶段,也叫bootstrap,这个阶段使用BKI进行最核心的初始化,主要函数为bootstrap_template1(),该函数以bootstrap模式运行postgres进程,并以BKI文件供养postgres进程,首先对BKI文件中的变量进行替换处理,包括NAMEDATALEN、SIZEOF_POINTER、FLOAT4PASSBYVAL、POSTGRES、ENCODING、LC_COLLATE等,然后使用管道执行命令,输入为BKI数据文件的内容,进程启动命令postgres -boot -x1 -k ‘boot_options’ args,逐行处理BKI文件内容foreach lines: PG_CMD_PUTS(*line),这个函数会输出很多内容,如Creating template1 database in %s/base/1 … OK。
第四阶段,也叫post-bootstrap,主要使用SQL完成剩余的元数据的初始化,write_version_file(“base/1”)创建文件base/1/PG_VERSION,可以用这个文件来判断Initdb的进展;Setup_auth()初始化pg_authid表,主要是回收所有权限,使得任何人都不能读这张表REVOKE ALL on pg_authid FROM public;get_set_pwd()处理passwd;Setup_depend()插入元数据到pg_depend和pg_shdepend;setup_sysviews()从system_views文件读取指令,并逐条执行SQL,完成system views的初始化;setup_description()加载系统对象的description信息,主要信息来自于desc_file文件,也是前面提到的那些安装目录下的元数据文件postgres.description;setup_conversion()加载conversion_create.sql文件;setup_dictionary()加载词典文件,比如snowball_create.sql;setup_privileges()为内建的数据库对象设置权限;setup_schema()加载information_schema.sql文件;load_plpgsql()加载plpgsql并CREATE EXTENSION plpgsql;setup_cdb_schema()创建Greenplem特定的schema,源数据位于cdb_init.d目录下;vacuum_db()运行Analyze和Vacuum freeze。
第五阶段,主要是数据的copy&paste,直接拷贝template1,创建template0和postgres数据库:make_tempalte0()、make_postgres()。

PostgreSQL/Greenplum的三种模式

  • Bootstrap模式:从无到有创建数据库的模式,postgres --boot -x1 -k -F
  • Single模式:单用户模式,只允许单个用户执行SQL命令。Bootstrap创建了最核心的元数据之后使用single模式创建其他数据,对应着postbootstrap阶段
  • Normal模式:多用户的正常模式

postgres命令行参数:
-c:设置run-time参数
-d 1-5:设置表示级别
-F:设置fsync为off
-O:允许修改系统表结构
-W:等待n秒,比方便开发者调试
自举模式:
–boot:指定自举模式
-r:发送标准错误和标准输出到文件中
-x NUM:内部使用
单用户模式:
–single:指定单用户模式
-E:执行前echo语句
-j:不适用换行作为交互式查询的分隔符
-r:发送标准错误和标准输出到文件中

管道技术

BKI数据的处理通过管道技术实现:PG_CMD_OPEN、PG_CMD_CLOSE、PG_CMD_PUTS,底层使用标准C库函数popen、pclose。

故障分析

initdb的noclean选型和debug选项对分析数据库初始化过程中发生的错误很有帮助。

你可能感兴趣的:(#,Greenplum)