2021年大数据Hadoop(五):Hadoop架构

目录

​​​​​​​Hadoop架构

​​​​​​​1.x的版本架构模型介绍

​​​​​​​2.x的版本架构模型介绍

第一种:NameNode与ResourceManager单节点架构模型

第二种:NameNode高可用与ResourceManager单节点架构模型

第三种:NameNode单节点与ResourceManager高可用架构模型

第四种:NameNode与ResourceManager高可用架构模型

​​​​​​​3.x的版本架构模型介绍


Hadoop架构

2021年大数据Hadoop(五):Hadoop架构_第1张图片

 

​​​​​​​1.x的版本架构模型介绍

2021年大数据Hadoop(五):Hadoop架构_第2张图片

 

文件系统核心模块:

NameNode:集群当中的主节点,管理元数据(文件的大小,文件的位置,文件的权限),主要用于管理集群当中的各种数据

SecondaryNameNode:主要能用于hadoop当中元数据信息的辅助管理

DataNode:集群当中的从节点,主要用于存储集群当中的各种数据

数据计算核心模块:

JobTracker:接收用户的计算请求任务,并分配任务给从节点

TaskTracker:负责执行主节点JobTracker分配的任务

 

​​​​​​​2.x的版本架构模型介绍

第一种:NameNode与ResourceManager单节点架构模型

2021年大数据Hadoop(五):Hadoop架构_第3张图片

 

文件系统核心模块:

NameNode:集群当中的主节点,主要用于管理集群当中的各种数据

secondaryNameNode:主要能用于hadoop当中元数据信息的辅助管理

DataNode:集群当中的从节点,主要用于存储集群当中的各种数据

数据计算核心模块:

ResourceManager:接收用户的计算请求任务,并负责集群的资源分配

NodeManager:负责执行主节点APPmaster分配的任务

 

第二种:NameNode高可用与ResourceManager单节点架构模型

2021年大数据Hadoop(五):Hadoop架构_第4张图片

 

文件系统核心模块:

NameNode:集群当中的主节点,主要用于管理集群当中的各种数据,其中NameNode可以有两个,形成高可用状态

DataNode:集群当中的从节点,主要用于存储集群当中的各种数据

JournalNode:文件系统元数据信息管理

数据计算核心模块:

ResourceManager:接收用户的计算请求任务,并负责集群的资源分配,以及计算任务的划分

NodeManager:负责执行主节点ResourceManager分配的任务

 

第三种:NameNode单节点与ResourceManager高可用架构模型

2021年大数据Hadoop(五):Hadoop架构_第5张图片

文件系统核心模块:

NameNode:集群当中的主节点,主要用于管理集群当中的各种数据

secondaryNameNode:主要能用于hadoop当中元数据信息的辅助管理

DataNode:集群当中的从节点,主要用于存储集群当中的各种数据

数据计算核心模块:

ResourceManager:接收用户的计算请求任务,并负责集群的资源分配,以及计算任务的划分,通过zookeeper实现ResourceManager的高可用

NodeManager:负责执行主节点ResourceManager分配的任务

 

第四种:NameNode与ResourceManager高可用架构模型

2021年大数据Hadoop(五):Hadoop架构_第6张图片

 

文件系统核心模块:

NameNode:集群当中的主节点,主要用于管理集群当中的各种数据,一般都是使用两个,实现HA高可用

JournalNode:元数据信息管理进程,一般都是奇数个

DataNode:从节点,用于数据的存储

数据计算核心模块:

ResourceManager:Yarn平台的主节点,主要用于接收各种任务,通过两个,构建成高可用

NodeManager:Yarn平台的从节点,主要用于处理ResourceManager分配的任务

 

​​​​​​​3.x的版本架构模型介绍

Hadoop3.x的基本架构和Hadoop2.x 类似,但是Hadoop3.x加入很多新特性:如支持多NameNode,同时对HDFS和MapReduce也进行了优化。

2021年大数据Hadoop(五):Hadoop架构_第7张图片

 

你可能感兴趣的:(#,Hadoop,Hadoop架构)