hadoop&spark mapreduce对比 & 框架设计和理解

Hadoop MapReduce:

hadoop&spark mapreduce对比 & 框架设计和理解_第1张图片

MapReduce在每次执行的时候都要从磁盘读数据,计算完毕后都要把数据放到磁盘

hadoop&spark mapreduce对比 & 框架设计和理解_第2张图片

spark map reduce:

hadoop&spark mapreduce对比 & 框架设计和理解_第3张图片

hadoop&spark mapreduce对比 & 框架设计和理解_第4张图片

hadoop&spark mapreduce对比 & 框架设计和理解_第5张图片

 

 

hadoop&spark mapreduce对比 & 框架设计和理解_第6张图片

RDD is everything for dev:

hadoop&spark mapreduce对比 & 框架设计和理解_第7张图片

Basic Concepts:

hadoop&spark mapreduce对比 & 框架设计和理解_第8张图片

hadoop&spark mapreduce对比 & 框架设计和理解_第9张图片

Graph RDD:

hadoop&spark mapreduce对比 & 框架设计和理解_第10张图片

Spark Runtime:

hadoop&spark mapreduce对比 & 框架设计和理解_第11张图片

schedule:

hadoop&spark mapreduce对比 & 框架设计和理解_第12张图片

Depency Type:

hadoop&spark mapreduce对比 & 框架设计和理解_第13张图片

Scheduler Optimizations:

hadoop&spark mapreduce对比 & 框架设计和理解_第14张图片

Event Flow:

hadoop&spark mapreduce对比 & 框架设计和理解_第15张图片

Submit Job:

hadoop&spark mapreduce对比 & 框架设计和理解_第16张图片

New Job Instance:

hadoop&spark mapreduce对比 & 框架设计和理解_第17张图片

Job In Detail:

hadoop&spark mapreduce对比 & 框架设计和理解_第18张图片

executor.launchTask:

hadoop&spark mapreduce对比 & 框架设计和理解_第19张图片

Standalone:

hadoop&spark mapreduce对比 & 框架设计和理解_第20张图片

 

 

Work Flow:

hadoop&spark mapreduce对比 & 框架设计和理解_第21张图片

Standalone detail:

hadoop&spark mapreduce对比 & 框架设计和理解_第22张图片

Driver application to Clustor:

hadoop&spark mapreduce对比 & 框架设计和理解_第23张图片

Worker Exception:

hadoop&spark mapreduce对比 & 框架设计和理解_第24张图片

Executor Exception:

hadoop&spark mapreduce对比 & 框架设计和理解_第25张图片

Master Exception:

hadoop&spark mapreduce对比 & 框架设计和理解_第26张图片

Master HA:

hadoop&spark mapreduce对比 & 框架设计和理解_第27张图片

hadoop&spark mapreduce对比 & 框架设计和理解_第28张图片

你可能感兴趣的:(mapreduce,hadoop,框架,spark)