易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)

目录

Flink on Yarn模式:一般企业使用,资源管理交由Yarn来管理

一、使用Flink的前期准备

1.关闭yarn的内存检查

2.配置环境变量

二、使用Flink

1.会话模式

1)启动hadoop集群

2)启动Flink集群:

3)关闭某个Flink集群,kill之后内存会马上释放出来

2.单作业模式

3.应用模式


Flink on Yarn模式:一般企业使用,资源管理交由Yarn来管理

1.会话模式:先在yarn集群上启动Flink集群,后再向Flink集群中提交作业,Flink集群会一直存在,除非用户手动的去关闭Flink集群(同时提交多个任务)

2.单作业模式:Flink不需要提前启动,而是在向Flink提交作业时会自动启动一个Flink集群,一旦作业执行完毕,集群也随之消失

3.应用模式:跟单作业模式类似,也是不需要提前启动Flink集群,而是在向Flink集群提交作业时会自动启动一个Flink集群,一旦作业执行完毕,集群也随之消失

一、使用Flink的前期准备

搭建好hadoop推荐文章

1.在hadoop的yarn-site.xml配置文件关闭yarn的内存检查

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第1张图片

将修改后的yarn-site.xml文件分发到slave2和slave3

 2.配置环境变量,在环境变量中添加上yarn的配置信息

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第2张图片

将修改后的环境变量文件分发到集群的slave2和slave3

分别在每台服务器(slave1slave2slave3)中刷新一下环境变量,让配置的环境变量生效

下载并上传至linux系统

可以去官网下载

Flink下载网盘链接

提取码: 8ifw

解压并重命名

将hadoop依赖的包拷贝到flink的lib目录下

依赖下载网盘链接

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第3张图片

二、使用Flink(即可以向Flink中提交作业)

1.会话模式:

会话模式使用场景:运行执行时间短,规模小的作业

1)启动hadoop集群

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第4张图片

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第5张图片

2)启动Flink集群:

前台进程启动:

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第6张图片

任务槽为0,没有任务所以为0

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第7张图片

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第8张图片

执行计算单词个数的任务

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第9张图片

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第10张图片

计算结果可见

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第11张图片

后台进程挂起:

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第12张图片 

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第13张图片 

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第14张图片 

做一个简单的单词计算

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第15张图片

计算结果(没有全部显示)

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第16张图片 

3)关闭某个Flink集群,kill之后内存会马上释放出来

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第17张图片

 易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第18张图片

 易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第19张图片

2.单作业模式

 一个作业一个集群,任务完成使命终止

-d:后台运行

-t  yarn-per-job单作业模式

 

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第20张图片

 

执行任务时也指定一些参数:

3.应用模式

适用场景:适用大规模、执行时间长的作业(资源回收,释放资源)

易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第21张图片 易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)_第22张图片

 

 

你可能感兴趣的:(flink,flink,大数据,hadoop)