spark shuffle发展历程

 

spark shuffle发展历程_第1张图片

 

spark shuffle发展历程_第2张图片

spark shuffle发展历程_第3张图片

spark shuffle发展历程_第4张图片

spark shuffle发展历程_第5张图片

spark shuffle发展历程_第6张图片

spark shuffle发展历程_第7张图片

spark shuffle发展历程_第8张图片

 

 spark2.3 shuffle manager,默认sortShuffleManager

    // Let the user specify short names for shuffle managers
    val shortShuffleMgrNames = Map(
      "sort" -> classOf[org.apache.spark.shuffle.sort.SortShuffleManager].getName,
      "tungsten-sort" -> classOf[org.apache.spark.shuffle.sort.SortShuffleManager].getName)
    val shuffleMgrName = conf.get("spark.shuffle.manager", "sort")
    val shuffleMgrClass =
      shortShuffleMgrNames.getOrElse(shuffleMgrName.toLowerCase(Locale.ROOT), shuffleMgrName)
    val shuffleManager = instantiateClass[ShuffleManager](shuffleMgrClass)

你可能感兴趣的:(spark shuffle发展历程)