SparkContext did not initialize after waiting for 100000 ms

其他原因比如mater设置的问题这里不赘述,网上查查即可。

 

报这个错还有个很难发现的原因是当我们用:

spark-submit

--class 相关程序

提交程序后报错。

 

如果“相关程序”做了很多其他事情处理之后才运行sparkContext的初始化语句(如

val sc = SparkSession.builder().enableHiveSupport().getOrCreate()

),那么就会报这个超时无法启动的错。

解决方法,把sparkContext或sparkSession初始化语句放在程序的最前面。

因为spark-submit 后,程序在yarn上处于accept状态,等待程序运行初始化语句,如果程序这时候还在做其他事情,没有进行spark初始化,则会在超时后报错。

你可能感兴趣的:(Spark)