spark-submit 参数设置

在使用spark时，根据集群资源情况和任务数据量等，合理设置参数，包括但不限于以下：

参数	说明
master	yarn  E-MapReduce 使用 Yarn 的模式
	yarn-client：等同于 –-master yarn —deploy-mode client， 此时不需要指定deploy-mode。
	yarn-cluster：等同于 –-master yarn —deploy-mode cluster， 此时不需要指定deploy-mode。
class	作业的主类
deploy-mode	client 模式表示作业的 AM 会放在 Master 节点上运行。要注意的是，如果设置这个参数，那么需要同时指定上面 master 为 yarn。
	cluster 模式表示 AM 会随机的在 worker 节点中的任意一台上启动运行。要注意的是，如果设置这个参数，那么需要同时指定上面 master 为yarn。
executor-cores	每个executor使用的内核数,默认为1
num-executors	启动executor的数量,默认为2
executor-memory	executor的内存大小,默认为1G
driver-cores	driver使用的内核数,默认为1
driver-memory	driver的内存大小,默认为1G
queue	指定了放在哪个队列里执行
spark.default.parallelism	该参数用于设置每个stage的默认task数量。这个参数极为重要，如果不设置可能会直接影响你的Spark作业性能，Spark官网建议的设置原则是，设置该参数为num-executors * executor-cores的2~3倍较为合适
spark.storage.memoryFraction	该参数用于设置RDD持久化数据在Executor内存中能占的比例，默认是0.6。也就是说，默认Executor 60%的内存，可以用来保存持久化的RDD数据。根据你选择的不同的持久化策略，如果内存不够时，可能数据就不会持久化，或者数据会写入磁盘。
spark.shuffle.memoryFraction	该参数用于设置shuffle过程中一个task拉取到上个stage的task的输出后，如果发现使用的内存超出了这个20%的限制，那么多余的数据就会溢写到磁盘文件中去，如果发现使用的内存超出了这个20%的限制，那么多余的数据就会溢写到磁盘文件中去，此时就会极大地降低性能。
total-executor-cores	所有executor的总核数

 

(1)executor_cores*num_executors 
     表示的是能够并行执行Task的数目不宜太小或太大！一般不超过总队列 cores 的 25%，比如队列总 cores    400，最大不要超过100，最小不建议低于40，除非日志量很小。

(2)executor_cores 
     不宜为1！否则 work 进程中线程数过少，一般 2~4 为宜。

(3)executor_memory 
     一般 6~10g 为宜，最大不超过20G，否则会导致GC代价过高，或资源浪费严重。

(4)driver-memory 
     driver 不做任何计算和存储，只是下发任务与yarn资源管理器和task交互，除非你是 spark-shell，否则一般 1-2g
     
(5)如果需要对RDD进行cache，那么更多的内存，就可以缓存更多的数据，将更少的数据写入磁盘，甚至不写入磁盘。减少了磁盘IO。

(6)对于shuffle操作，reduce端，会需要内存来存放拉取的数据并进行聚合。如果内存不够，也会写入磁盘。
     如果给executor分配更多内存以后，就有更少的数据，需要写入磁盘，甚至不需要写入磁盘。减少了磁盘IO，提升了性能。

(7)对于task的执行,可能会创建很多对象.如果内存比较小,可能会频繁导致JVM堆内存满了,然后频繁GC,垃圾回收 ,minor GC和full GC.（速度很慢）.内存加大以后，带来更少的GC，垃圾回收，避免了速度变慢，性能提升。