spark源码:SparkContext初始化需要启动的组件

spark源码分析之SparkContext

  • 1.SparkContext简介
  • 2 初始化SparkContext需要启动的组件
    • 2.0 SparkContext私有的可变成员变量
    • 2.1 SpaekEnv
    • 2.2 LiveListenerBus
    • 2.3 SparkUI
    • 2.4 SparkStatusTracker
    • 2.5 ConsoleProgressBar
    • 2.6 DAGScheduler
    • 2.7 TaskScheduler
    • 2.8 HeartbeatReceiver
    • 2.9 ContextCleaner
    • 2.10 JobProgressListener
    • 2.11 EventLoggingListener
    • 2.12 ExecutorAllocationManager
    • 2.13 ShutdownHookManager
  • 3 SparkContext 的其他内部组件
    • 3.1 creationSite
    • 3.2 allowMultioleContext
    • 3.3 startTime
    • 3.4 stopped
    • 3.5 addedFiles
    • 3.6 addedJars
    • 3.7 persistentRdds
    • 3.8 executorEnvs
    • 3.9 sparkUser
    • 3.10 checkPointDir
    • 3.11 localProperties
    • 3.12 _conf
    • 3.13 _jars
    • 3.14 _files
    • 3.15 _eventLogDir
    • 3.16 _eventLogCodec
    • 3.17 _hadoopConfiguration
    • 3.18 _executorMemory
    • 3.19 _applicationId
    • 3.20 _applicationAttemptId
    • 3.21 _listenerBusStarted
    • 3.22 nextShuffleID
    • 3.23 nextRddID

1.SparkContext简介

  • Main entry point for Spark functionality. A SparkContext represents the connection to a Spark
  • spark 程序的主入口。sc 表示 和一个spark集群的连

你可能感兴趣的:(spark)