启动Spark集群web界面无work信息

借用一下博主的图片 因为我忘记截图了
这个博主用的Spark版本是2.3.0版本的,我用的是Spark2.4.0版本的不过问题都差不多 用同样的方式也解决了 礼貌附上链接
启动Spark集群web界面无work信息_第1张图片
首先主机查看jps发现Master节点是成功启动的,但是web端不显示work节点。
启动Spark集群web界面无work信息_第2张图片
然后去查看log

cd Spark安装目录
cd logs目录
ls 查看日志
vim 【Tab】补全查看日志内容

在这里插入图片描述
启动Spark集群web界面无work信息_第3张图片

发现日志中出现报错
MasterArguments:66 - SPARK MASTER IP is deprecated, please use SPARK MASTER HOST
意思是需要将SPARK_MASTER_IP改为SPARK_MASTER_HOST,同时要用真实的IP地址,不能用/etc/hosts文件中的映射master*
解决:
修改spark-env.sh文件

cd /usr/local/spark/conf  进入spark配置文件目录
vim spark-env.sh 打开并编辑 spark-env.sh文件

启动Spark集群web界面无work信息_第4张图片

修改主机从机的所有的spark-env.sh文件重新启动就行了

/usr/local/spark/sbin/stop-master.sh 
/usr/local/spark/sbin/stop-slaves.sh 
/usr/local/spark/sbin/start-master.sh
/usr/local/spark/sbin/start-slaves.sh

在这里插入图片描述

启动Spark集群web界面无work信息_第5张图片

根据wls博客会发现在他那个时代用SPARK_MASTER_IP是可以的,技术更替太快了?

你可能感兴趣的:(Linux,spark,vim,大数据)