本文非自创,在前人的基础上进行了修改,以下步骤为本人亲测。改编自:Greenplum 4.3 For Centos 6.5 安装指南,特此感谢作者。
环境:
系统:CentOS 7.3.1611 64位
安装包:Greenplum-4.3.15.0
三台虚拟机:
主机名 | 节点 | IP | 配置 |
---|---|---|---|
mdw | master | 172.16.69.130 | 内存1G、磁盘50GB |
sdw1 | segment | 172.16.69.131 | 内存1G、磁盘50GB |
sdw2 | segment | 172.16.69.132 | 内存1G、磁盘50GB |
环境部署
1、修改/etc/hosts(所有节点)
[root@mdw ~]# vi /etc/hosts
172.16.69.130 mdw
172.16.69.131 sdw1
172.16.69.132 sdw2
2、创建用户和用户组(所有节点)
我设置的密码是gpadmin@123
[root@mdw ~]# groupadd -g 530 gpadmin
[root@mdw ~]# useradd -g 530 -m -d /home/gpadmin -s /bin/bash gpadmin
[root@mdw ~]# passwd gpadmin
更改用户 gpadmin 的密码 。
新的 密码:
无效的密码: 密码包含用户名在某些地方
重新输入新的 密码:
passwd:所有的身份验证令牌已经成功更新。
[root@mdw ~]#
3、修改系统内核(所有节点)
[root@mdw ~]# vi /etc/sysctl.conf
kernel.shmmax = 500000000
kernel.shmmni = 4096
kernel.shmall = 4000000000
kernel.sem = 250 512000 100 2048
kernel.sysrq = 1
kernel.core_uses_pid = 1
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.msgmni = 2048
net.ipv4.tcp_syncookies = 1
net.ipv4.ip_forward = 0
net.ipv4.conf.default.accept_source_route = 0
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_max_syn_backlog = 4096
net.ipv4.conf.all.arp_filter = 1
net.ipv4.ip_local_port_range = 1025 65535
net.core.netdev_max_backlog = 10000
net.core.rmem_max = 2097152
net.core.wmem_max = 2097152
vm.overcommit_memory = 2
执行以下命令使参数生效:
[root@mdw ~]# sysctl -p
4、修改文件打开限制(所有节点)
[root@sdw1 ~]# vi /etc/security/limits.conf
# End of file
* soft nofile 65536
* hard nofile 65536
* soft nproc 131072
* hard nproc 131072
5、关闭防火墙及selinux(所有节点)
[root@mdw ~]# service firewalld stop --关闭防火墙
[root@mdw ~]# systemctl disable firewalld.service --取消开机启动
[root@mdw ~]# vi /etc/selinux/config --关闭selinux
# This file controls the state of SELinux on the system.
# SELINUX= can take one of these three values:
# enforcing - SELinux security policy is enforced.
# permissive - SELinux prints warnings instead of enforcing.
# disabled - No SELinux policy is loaded.
#SELINUX=enforcing
# SELINUXTYPE= can take one of three two values:
# targeted - Targeted processes are protected,
# minimum - Modification of targeted policy. Only selected processes are protected.
# mls - Multi Level Security protection.
SELINUXTYPE=targeted
SELINUX=disabled
修改好以后,重启电脑才能生效
安装Greenplum
1、下载
(1)首先进入Greenplum官网
(2)选择所需版本
(3)选择Greenplum Database Server
(4)点击下载(下载前需要注册)
CSDN也可以下载
2、master安装Greenplum
安装前,所有节点创建安装路径
[root@mdw opt]# mkdir /opt/greenplum
[root@mdw opt]# chown -R gpadmin:gpadmin /opt/greenplum
改变安装路径为/opt/greenplum/greenplum-db-4.3.15.0
********************************************************************************
Do you accept the Pivotal Database license agreement? [yes|no]
********************************************************************************
yes
********************************************************************************
Provide the installation path for Greenplum Database or press ENTER to
accept the default installation path: /usr/local/greenplum-db-4.3.15.0
********************************************************************************
/opt/greenplum/greenplum-db-4.3.15.0
********************************************************************************
Install Greenplum Database into /opt/greenplum/greenplum-db-4.3.15.0? [yes|no]
********************************************************************************
yes
********************************************************************************
/opt/greenplum/greenplum-db-4.3.15.0 does not exist.
Create /opt/greenplum/greenplum-db-4.3.15.0 ? [yes|no]
(Selecting no will exit the installer)
********************************************************************************
yes
Extracting product to /opt/greenplum/greenplum-db-4.3.15.0
********************************************************************************
Installation complete.
Greenplum Database is installed in /opt/greenplum/greenplum-db-4.3.15.0
Pivotal Greenplum documentation is available
for download at http://gpdb.docs.pivotal.io
修改目录文件所有者为gpadmin
[root@mdw soft]# chown -R gpadmin:gpadmin /opt/greenplum
下面开始安装剩余的两个segment节点
3、创建配置文件
hostlist存储所有节点的主机名
seg_hosts存储了所有从节点的主机名
[root@mdw soft]# su - gpadmin
[gpadmin@mdw ~]$ mkdir conf
[gpadmin@mdw ~]$ cd conf
[gpadmin@mdw conf]$ vi hostlist
mdw
sdw1
sdw2
[gpadmin@mdw conf]$ vi seg_hosts
sdw1
sdw2
4、打通所有节点
greenplum_path.sh中保存了运行Greenplum的一些环境变量设置,包括GPHOOME、PYTHONHOME等设置。
[gpadmin@mdw conf]$ source /opt/greenplum/greenplum-db/greenplum_path.sh
[gpadmin@mdw conf]$ gpssh-exkeys -f /home/gpadmin/conf/hostlist
[STEP 1 of 5] create local ID and authorize on local host
[STEP 2 of 5] keyscan all hosts and update known_hosts file
[STEP 3 of 5] authorize current user on remote hosts
... send to sdw1
***
*** Enter password for sdw1:
... send to sdw2
[STEP 4 of 5] determine common authentication file content
[STEP 5 of 5] copy authentication files to all remote hosts
... finished key exchange with sdw1
... finished key exchange with sdw2
[INFO] completed successfully
注意:
(1)首次执行gpssh-exkeys命令时,在[STEP 3 of 5],要输入每个segment节点的gpadmin用户的密码。
(2)gpssh-exkeys命令使用的时候一定要用gpadmin身份,因为这个命令会生成ssh的免密码登录的秘钥,在/home/gpadmin/.ssh这里。如果以root身份使用gpssh-exkeys命令,那么生成的.ssh秘钥在root的home下面或者是在/home/gpadmin下面但是是root的所有者,如果之后使用gpadmin身份执行相应操作的时候就没有权限。
[INFO] completed successfully 这就说明成功打通了,之后就可以使用下面的命令开启批量操作,如下:
[gpadmin@mdw conf]$ gpssh -f /home/gpadmin/conf/hostlist
Note: command history unsupported on this machine ...
=> pwd
[sdw1] /home/gpadmin
[sdw2] /home/gpadmin
[ mdw] /home/gpadmin
=> exit
这里pwd命令是linux中的查看路径命令,这里也是查看一下批量操作时所处的位置,从中可以看到同时连接到了3个节点。这里如果/etc/hosts文件中参数只设置了两个,没有设置主机名,就只能同时连接2个节点,而且是随机的。
这里我们只是测试一下,exit之后先做一些其他的操作。
5、将安装包分发到每个子节点
打通之后需要将master中的greenplum安装包批量复制到各个segment节点上。
[gpadmin@mdw /]$ cd /opt/greenplum/
#打包
[gpadmin@mdw greenplum]$ tar -cf gp.4.3.tar greenplum-db-4.3.15.0/
#利用gpscp命令将这个文件复制到每一台机器上
[gpadmin@mdw greenplum]$ gpscp -f /home/gpadmin/conf/seg_hosts gp.4.3.tar =:/opt/greenplum/
#批量解压
[gpadmin@mdw greenplum]$ cd ~/conf/
[gpadmin@mdw conf]$ gpssh -f seg_hosts
Note: command history unsupported on this machine ...
=> cd /opt/greenplum
[sdw2]
[sdw1]
=> tar -xf gp.4.3.tar
[sdw2]
[sdw1]
建立软连接
=> ln -s ./greenplum-db-4.3.15.0 greenplum-db
[sdw2]
[sdw1]
=> ll
[sdw2] 总用量 402380
[sdw2] -rw-rw-r-- 1 gpadmin gpadmin 412037120 5月 29 15:16 gp.4.3.tar
[sdw2] lrwxrwxrwx 1 gpadmin gpadmin 23 5月 29 15:22 greenplum-db -> ./greenplum-db-4.3.15.0
[sdw2] drwxr-xr-x 11 gpadmin gpadmin 189 5月 29 14:01 greenplum-db-4.3.15.0
[sdw1] 总用量 402380
[sdw1] -rw-rw-r-- 1 gpadmin gpadmin 412037120 5月 29 15:16 gp.4.3.tar
[sdw1] lrwxrwxrwx 1 gpadmin gpadmin 23 5月 29 15:22 greenplum-db -> ./greenplum-db-4.3.15.0
[sdw1] drwxr-xr-x 11 gpadmin gpadmin 189 5月 29 14:01 greenplum-db-4.3.15.0
=> exit
不知道软连接怎么建立的,可以参考我的文章——Linux软连接在pg数据库中的应用
初始化数据库
1、批量创建greenplum数据存放目录
[gpadmin@mdw conf]$ gpssh -f hostlist
Note: command history unsupported on this machine ...
=> mkdir gpdata
[ mdw]
[sdw1]
[sdw2]
=> cd gpdata
[ mdw]
[sdw1]
[sdw2]
=> mkdir gpmaster gpdatap1 gpdatap2 gpdatam1 gpdatam2
[ mdw]
[sdw1]
[sdw2]
=> ll
[ mdw] 总用量 0
[ mdw] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatam2
[ mdw] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatam1
[ mdw] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatap1
[ mdw] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatap2
[ mdw] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpmaster
[sdw1] 总用量 0
[sdw1] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatam2
[sdw1] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatam1
[sdw1] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatap1
[sdw1] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatap2
[sdw1] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpmaster
[sdw2] 总用量 0
[sdw2] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatam2
[sdw2] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatam1
[sdw2] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatap1
[sdw2] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpdatap2
[sdw2] drwxrwxr-x 2 gpadmin gpadmin 6 5月 29 15:31 gpmaster
=> exit
2、配置.bashrc环境变量(每个节点)
编辑.bashrc,添加以下内容:
[gpadmin@mdw conf]$ cd ~
[gpadmin@mdw ~]$ vi .bashrc
PATH=$PATH:$HOME/.local/bin:$HOME/bin
export PATH
source /opt/greenplum/greenplum-db/greenplum_path.sh
export MASTER_DATA_DIRECTORY=/home/gpadmin/gpdata/gpmaster/gpseg-1
export PGPORT=5432
export PGDATABASE=testDB
[gpadmin@mdw ~]$ source .bashrc
注意:PGPORT指的是你安装greenplum数据库的端口号。
3、创建初始化配置文件(只需master即可)
[gpadmin@mdw conf]$ vi /home/gpadmin/conf/gpinitsystem_config
ARRAY_NAME="Greenplum"
SEG_PREFIX=gpseg
PORT_BASE=33000
declare -a DATA_DIRECTORY=(/home/gpadmin/gpdata/gpdatap1 /home/gpadmin/gpdata/gpdatap2)
MASTER_HOSTNAME=mdw
MASTER_DIRECTORY=/home/gpadmin/gpdata/gpmaster
MASTER_PORT=5432
TRUSTED_SHELL=/usr/bin/ssh
MIRROR_PORT_BASE=43000
REPLICATION_PORT_BASE=34000
MIRROR_REPLICATION_PORT_BASE=44000
declare -a MIRROR_DATA_DIRECTORY=(/home/gpadmin/gpdata/gpdatam1 /home/gpadmin/gpdata/gpdatam2)
MACHINE_LIST_FILE=/home/gpadmin/conf/seg_hosts
4、创建初始化配置文件(只需master即可)
[gpadmin@mdw ~]$ gpinitsystem -c /home/gpadmin/conf/gpinitsystem_config -s sdw2
其中sdw2是指master的standby所在的节点,我看书上和网上的一些资料都将standby放在最后一个节点,可能是约定俗成的吧。
注意:如果上面有一些配置有问题,gpinitsystem就不能成功,日志在主节点/home/gpadmin/gpAdminLogs/的gpinitsystem_2018XXXX.log文件中。
需要注意的是如果初始化失败,一定要认真查看这个日志文件,一味重复安装没有太大意义,重要的是要找到主要原因。
测试运行安装的Greenplum数据库
1、启动和停止数据库测试
[gpadmin@mdw conf]$ gpstart
[gpadmin@mdw conf]$ gpstop
2、访问数据库
[gpadmin@mdw conf]$ psql -d postgres
psql (8.2.15)
Type "help" for help.
postgres=#
出现以上界面,恭喜你已经安装成功了。
输入查询语句,查看是否可以执行。
postgres=# select datname,datdba,encoding,datacl from pg_database;
datname | datdba | encoding | datacl
-----------+--------+----------+----------------------------------
postgres | 10 | 6 |
template1 | 10 | 6 | {=c/gpadmin,gpadmin=CTc/gpadmin}
template0 | 10 | 6 | {=c/gpadmin,gpadmin=CTc/gpadmin}
(3 rows)
postgres=# \q(退出)
安装pgadmin lll客户端
安装pgadmin Ⅲ,使用该客户端,连接greenplum 4.3数据库
1、用户创建密码
postgres=# alter role gpadmin with password 'gpadmin';
2、添加新的客户端服务器信息
在master节点的 $MASTER_DATA_DIRECTORY/pg_hba.conf 中添加新的客户端服务器信息。master节点的pg_hba.conf配置文件,控制客户端访问Greenplum系统。
注意:segment节点也有pg_hba.conf配置文件,它只能控制master节点能否访问segment,决不能运行客户端连接。所以不要修改segment的pg_hba.conf文件。
格式:
host database role CIDR-address authentication-method
pg_hba.conf中记录是被顺序读取的,所有记录的顺序是有象征性意义的。
通常前面的记录匹配更少的连接但要求较弱的认证,后面的记录匹配更多的连接但要求更严格的认证。
例如:允许gpadmin用户在192.168.0.x网段访问所有数据库,使用md5验证。
# vi $MASTER_DATA_DIRECTORY/pg_hba.conf
host all gpadmin 172.16.69.0/24 md5
在master重新加载pg_hba.conf文件,需要重启Greenplum数据库。
[gpadmin@mdw conf]$ gpstop -a
[gpadmin@mdw conf]$ gpstart -a
3、验证客户端能否连接数据库
[gpadmin@mdw conf]$ psql -h 172.16.69.130 -p 5432 -d postgres -U gpadmin -W
-h 172.16.69.130是指定连接master的ip地址
-p 5432 是安装greenplum数据库时,设置的端口号
-u gpadmin 是指定连接的用户名