flink集群搭建(standalone 高可用模式)

准备三台互通服务器(关闭防火墙)

192.168.203.139

192.168.203.140

192.168.203.141

一.搭建zookeeper集群

1、在/usr/local目录下解压安装包,

tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz

链接:百度网盘 请输入提取码

提取码:bd2u

2、进入zookeeper目录下新建文件夹zkData

mkdir zkData

3、进入conf目录下修改配置文件

mv zoo_sample.cfg zoo.cfg

vi zoo.cfg

(修改dataDir参数)

dataDir=/usr/local/zookeeper-3.7.1/zkData

(新增下面三行)

server.1=192.168.203.139:2888:3888

server.2=192.168.203.140:2888:3888

server.3=192.168.203.141:2888:3888

保存退出

4、进入zkData目录,将myid文件上传到该目录下(myid中的数字与上面server.1 2 3表示的服务器对应)

5、安装剩余的两台服务器(重复上面操作,myid要修改为对应的数字)

6、依次进入bin目录启动三台zookeeper

./zkServer.sh start (启动)

./zkServer.sh status (查看状态,一主两从即为成功)

flink集群搭建(standalone 高可用模式)_第1张图片

二.搭建flink集群

链接:百度网盘 请输入提取码

提取码:ogkm

1、在/usr/local目录下解压flink包

tar -zxvf flink-1.13.6-bin-scala_2.11.tgz

mv flink-1.13.6-bin-scala_2.11 flink-1.13.6

2、进入flink目录修改配置文件

vi /conf/flink-conf.yaml

high-availability: zookeeper (新增参数)

high-availability.zookeeper.quorum: 192.168.203.139:2181,192.168.203.140:2181,192.168.203.141:2181 (新增参数,IP地址需要修改)

high-availability.storageDir: file:///usr/data/flink/ha/ (新增参数)

high-availability.zookeeper.path.root: /flink (新增参数)

保存退出

vi masters (新增主节点,最少一台,ip地址需要修改)

192.168.203.139:8081

192.168.203.140:8081

192.168.203.141:8081

保存退出

vi workers (新增从节点,IP地址需要修改)

192.168.203.139

192.168.203.140

192.168.203.141

保存退出

3、安装剩余的两台服务器(重复以上操作)

4、进入/bin目录下启动flink集群

./start-cluster.sh

5、jps查看进程(示例)

浏览器访问flink页面192.168.203.139:8081

flink集群搭建(standalone 高可用模式)_第2张图片

6、返回flink目录测试

./bin/flink run examples/streaming/WordCount.jar

你可能感兴趣的:(flink,大数据)