Flink 传递优化参数-D不生效

在开发时,有同事遇到一个优化参数-D不生效的问题,定位了问题的原因,写下这篇文章,问题如下

提交的Flink命令,下面命令taskmanager.numberOfTaskSlots不生效

/opt/flink-1.13.6/bin/flink run -d -m yarn-cluster -p 3 -Dtaskmanager.numberOfTaskSlots=2 -c com.flink.example.FlinkKafkaToKafka /root/flink-kafka-to-kafka-1.0-SNAPSHOT-jar-with-dependencies.jar

 Flink 传递优化参数-D不生效_第1张图片

 问题原因,这个问题是Flink提交时三种Cli的滥用导致,具体的源码及使用

FLink源码 1.13 3 种 命令客户端 Generic CLI 、 yarn-cluster、DefaultCLI使用_一杯咖啡半杯糖的博客-CSDN博客

我们需要对提交命令进行修改,修改如下,问题解决

 /opt/flink-1.13.6/bin/flink run -t yarn-per-job -p 3 -Dtaskmanager.numberOfTaskSlots=2 -Dexecution.attached=true -c com.flink.example.FlinkKafkaToKafka /root/flink-kafka-to-kafka-1.0-SNAPSHOT-jar-with-dependencies.jar

 Flink 传递优化参数-D不生效_第2张图片

你可能感兴趣的:(Flink实战,flink,kafka,大数据)