Spark3 on Yarn分布式集群安装部署(YARN模式)

Spark3 on Yarn分布式集群安装部署

  • 一、配置spark-defaults.conf
  • 二、配置spark-env.sh
  • 三、配置yarn-site.xml
  • 四、启动Hadoop和Spark集群
  • 五、基于YARN的client模式提交命令
  • 六、基于YARN的cluster模式提交命令
  • 七、关闭Spark、Hadoop集群

一、配置spark-defaults.conf

vim /moudle/spark-3.0.1/conf/spark-defaults.conf

spark.yarn.historyServer.address bigdata1:18080
spark.history.ui.port 18080
spark.eventLog.enabled true
spark.eventLog.dir hdfs://bigdata1:9000/sparklog
spark.eventLog.compress true

二、配置spark-env.sh

注释SPARK_MASTER_

你可能感兴趣的:(大数据,Spark3.0.1,分布式集群搭建)