Flink分布式standalone部署方式(第二种方式)

接着上面一节中介绍的,浏览器中输入地址http://swarm-manager:8088/cluster,输出如下:
Flink分布式standalone部署方式(第二种方式)_第1张图片
拿到application_1569070146084_0001,然后在控制台先kill掉:./yarn application -kill application_1569070146084_0001
在这里插入图片描述
Flink分布式standalone部署方式(第二种方式)_第2张图片

Run a single Flink job on YARN

之前介绍了在一个Hadoop Yarn 环境中启动一个Flink集群,此外,还可以仅仅通过执行一个任务来启动一个flink
./bin/flink run -m yarn-cluster -yn 1 ./examples/batch/WordCount.jar
其中-m yarn-cluster表示使用yarn集群,-yn 1表示taskmanager的数量。
这个任务提交后,很快就可以运行完成:
Flink分布式standalone部署方式(第二种方式)_第3张图片

自定义一个任务,并提交到Flink集群中

写一个最简单的代码

public class JavaHDFSBatchApp {
    public static void main(String[] args) throws Exception {
        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
        DataSource dataSource = env.readTextFile("hdfs://swarm-manager:9000/LICENSE-2.0.txt");
        dataSource.print();
    }
}

在原有的maven基础上修改pom.xml文件,指定main class:


				org.apache.maven.plugins
				maven-shade-plugin
				3.0.0
				
					
					
						package
						
							shade
						
						
							
								
									org.apache.flink:force-shading
									com.google.code.findbugs:jsr305
									org.slf4j:*
									log4j:*
								
							
							
								
									
									*:*
									
										META-INF/*.SF
										META-INF/*.DSA
										META-INF/*.RSA
									
								
							
							
								
									com.vincent.course08.JavaHDFSBatchApp
								
							
						
					
				
			

maven install生成文件springboot-flink-train-1.0-shaded.jar,导入到/home/iie4bu/app/flink-1.8.2/examples/batch下,然后运行命令:./bin/flink run -m yarn-cluster -yn 1 ./examples/batch/springboot-flink-train-1.0-shaded.jar

你可能感兴趣的:(Apache,Flink)