目录
一、HDFS 的设计特点是
二、什么零拷贝
2.1 传统情况:
2.2 零拷贝技术:
三、什么是DMA
四、HDFS 的关键元素
五、HDFS 运行原理
六、HDFS 数据合并原理
七、HDFS 写的原理
八、HDFS 读的原理
九、分块存储
十、 安全模式
十一、 MapReduce 核心思想
11.1 MapReduce 进程
十二、 Namenode 故障后,如何恢复
12.1 方法一:
12.2 方法二:
12.3 防止namenode挂掉的办法
1、大数据文件
2、文件分块存储
3、流式数据访问,一次写入可以多次访问
4、不支持动态改变文件内容,而是要求让文件一次写入就不做改变,要变化也只能在文件末添加内容
5、廉价硬件
6、硬件故障
7、利用DMA引擎的零拷贝计数进行文件的传输和同步
没有任何优化技术使用的背景下,操作系统为此会进行4次数据拷贝和4次上下文切换,如下图所示
拷贝步骤如下:
步骤一:Datanode会首先将数据块从磁盘存储(也可能是SSD、内存等异构存储)读入操作系统的内核缓冲区
步骤二:将数据跨内核推到Datanode进行
步骤三:Datanode会再次跨内核将数据推回内核中的套接字缓冲区
步骤四:最后将数据写入网卡缓冲区
Datanode对数据进行了两次多余的数据拷贝操作(步骤二和步骤三),Datanode只是起到缓存数据并将其传回套接字的作用而以,别无他用。这里需要注意的是,步骤一盒步骤四的拷贝发生在外设(列如磁盘和网卡)和内存之间,由DMA(Direct MemoryAccess,直接内存存取)引擎执行,而步骤二和步骤三的拷贝则发生在内存中,由CPU执行。
上述读取方式除了会造成多次数据拷贝操作外, 还会增加内核态与用户态之间的上下文切换
上下文切换:
切换一:Datanode通过read()系统调用将数据块从磁盘(或者其他异构存储)读取到内核缓冲区时,会造成第一次用户态到内核态的上下文
切换二:在系统调用read()返回时,会触发内核态到用户态的上下文切换
切换三:Datanode成功读入数据后,会调用系统调用write()发送数据到socket,也就是在数据块第三次拷贝时,会再次触发用户态到内核的上下文切换
切换四:当系统调用write()返回时,内核态又会重新切换回用户态
一次系统调用代替两次系统调用
拷贝步骤如下:
步骤一:Datanode调用transferTo()方法引用DMA引擎文件内容拷贝到内核缓冲区
步骤二:DMA引擎直接把数据从内核缓冲区传输到网卡缓冲区
使用零拷贝模式的数据块读取, 数据拷贝的次数从4次降低到了2次.
transferTo()方法读取文件通道(FileChannel) 中position参数指定位置处开始的count个字节的数据, 然后将这些数据直接写入目标通道target中。 HDFS的SocketOutputStream对象的transferToFully()方法封装了FileChannel.transferTo()方法, 对Datanode提供支持零拷贝的数据读取功能。
使用零拷贝模式除了降低数据拷贝的次数外, 上下文切换次数也从4次降低到了2次。
当Datanode调用transferTo()方法时会发生用户态到内核态的切换,transferTo()方法执行完毕返回时内核态又会切换回用户态。
DMA将一个内存区从一个设备复制到另外一个。当中央处理器初始化这个传输动作,传输动作本身是由DMA控制器来实行和完成。
Block: 将一个文件进行分块,通常是64M
NameNo: 保存整个文件系统的目录信息、文件信息及分块信息,这是由唯一 一台主机专门保存,如果主NameNode 失效,启动备用主机运行NameNode
DataNode: 分布的廉价的计算器上,用于存储Block块文件
1、NameNode和DataNode节点初始化完成后,采用RPC进行信息交换,采用的机制是心跳机制,即DataNode节点定时向NameNode反馈状态信息,反馈信息如:是否正常、磁盘空间大小、资源消耗情况等信息,以确保NameNode知道DataNode的情况;
2、NameNode会将子节点的相关元数据信息缓存在内存中,对于文件与Block块的信息会通过fsImage和edits文件方式持久化在磁盘上,以确保NameNode知道文件各个块的相关信息;
3、NameNode负责存储fsImage和edits元数据信息,但fsImage和edits元数据文件需要定期进行合并,这时则由SecondNameNode进程对fsImage和edits文件进行定期合并,合并好的文件再交给NameNode存储。
1、NameNode初始化时会产生一个edits文件和一个fsimage文件,edits文件用于记录操作日志,比如文件的删除或添加等操作信息,fsImage用于存储文件与目录对应的信息以及edits合并进来的信息,即相当于fsimage文件在这里是一个总的元数据文件,记录着所有的信息;
2、随着edits文件不断增大,当达到设定的一个阀值的时候,这时SecondaryNameNode会将edits文件和fsImage文件通过采用http的方式进行复制到SecondaryNameNode下(在这里考虑到网络传输,所以一般将NameNode和SecondaryNameNode放在相同的节点上,这样就无需走网络带宽了,以提高运行效率),同时NameNode会产生一个新的edits文件替换掉旧的edits文件,这样以保证数据不会出现冗余;
3、SecondaryNameNode拿到这两个文件后,会在内存中进行合并成一个fsImage.ckpt的文件,合并完成后,再通过http的方式将合并后的文件fsImage.ckpt复制到NameNode下,NameNode文件拿到fsImage.ckpt文件后,会将旧的fsimage文件替换掉,并且改名成fsimage文件。
1、HDFS客户端提交写操作到NameNode上,NameNode收到客户端提交的请求后,会先判断此客户端在此目录下是否有写权限,如果有,然后进行查看,看哪几个DataNode适合存放,再给客户端返回存放数据块的节点信息,即告诉客户端可以把文件存放到相关的DataNode节点下;
2、客户端拿到数据存放节点位置信息后,会和对应的DataNode节点进行直接交互,进行数据写入,由于数据块具有副本replication,在数据写入时采用的方式是先写第一个副本,写完后再从第一个副本的节点将数据拷贝到其它节点,依次类推,直到所有副本都写完了,才算数据成功写入到HDFS上,副本写入采用的是串行,每个副本写的过程中都会逐级向上反馈写进度,以保证实时知道副本的写入情况;
3、随着所有副本写完后,客户端会收到数据节点反馈回来的一个成功状态,成功结束后,关闭与数据节点交互的通道,并反馈状态给NameNode,告诉NameNode文件已成功写入到对应的DataNode。
1、HDFS客户端提交读操作到NameNode上,NameNode收到客户端提交的请求后,会先判断此客户端在此目录下是否有读权限,如果有,则给客户端返回存放数据块的节点信息,即告诉客户端可以到相关的DataNode节点下去读取数据块;
2、客户端拿到块位置信息后,会去和相关的DataNode直接构建读取通道,读取数据块,当所有数据块都读取完成后关闭通道,并给NameNode返回状态信息,告诉NameNode已经读取完毕。
HDFS中文件在物理上是分块存储,通过dfs.blocksize配置,2.x之后的版本默认128M
- HDFS中文件在逻辑上是连续的,提供一个文件目录树
- block块大小计算
- 理想寻址时间为10ms
- 理想读取文件时间为寻址时间的10%
- 市面上磁盘的存储速率为100M/s
因此block块大小:10ms/10% *100M/s = 100M -> 128M
安全模式是HDFS所处的一种特殊状态,在这种状态下,文件系统只接受读数据请求,而不接受创建、删除、修改等变更请求。同时会对数据块进行大量校验,导致资源的分配和申请耗时远超预期。
在NameNode主节点启动时,HDFS首先进入安全模式,DataNode在启动的时候会向namenode汇报可用的block等状态,当整个系统达到安全标准时,HDFS自动离开安全模式。如果HDFS处于安全模式下,则文件block不能进行任何的副本复制操作,hdfs集群刚启动的时候,默认30S钟的时间是出于安全期的,只有过了30S之后,集群脱离了安全期,然后才可以对集群进行操作
MapReduce实现分布式计算分成2个阶段
第一个阶段MapTask并发实例,完全并行运行,互不干扰
第二个阶段ReduceTask并发实例,完全并行运行,数据依赖上一个阶段所有MapTask并发实例输出
MapReduce编程模型只能包含一个Map阶段一个Reduce阶段,但可以实现多个MapReduce串行运行
MrAppMaster:负责整个程序的过程调度及状态协调
MapTask:负责Map阶段整个数据处理流程
ReduceTask:负责Reduce阶段整个数据处理流程
可以采用如下两种方法恢复数据:
将 SecondaryNameNode 中数据拷贝到 namenode 存储数据的目录;
1、删除namenode存储的数据(/home/hadoop/hadoop_tmp/dfs/name/*)
rm -rf /home/hadoop/hadoop_tmp/dfs/name/*
2、把secondarynamenode中的数据拷到原namenode存储数据目录
scp -r hadoop@hadoop102:/home/hadoop/hadoop_tmp/dfs/namesecondary/* /home/hadoop/hadoop_tmp/dfs/name/*
3、重新启动namenode (在启动之前可以删除目录下的锁文件)
hadoop-daemon.sh start namenode
使用 -importCheckpoint 选项 启动 namenode 守 护 进 程 , 从 而 将SecondaryNameNode 中数据拷贝到 namenode 目录中。
- 修改hdfs-site.xml文件:
dfs.namenode.checkpoint.period 120 dfs.namenode.name.dir /home/hadoop/hadoop_tmp/dfs/name 2.删除namenode存储的数据(/home/hadoop/hadoop_tmp/dfs/name/*)
rm -rf /home/hadoop/hadoop_tmp/dfs/name/*
3.将secondarybamenode 存储数据的目录拷贝到 namenode 存储数据的平级目录,并删除锁文件in_use.lock文件
scp -r hadoop@hadoop102:/home/hadoop/hadoop_tmp/dfs/namesecondary/* /home/hadoop/hadoop_tmp/dfs/name/*
rm -rf in_use.lock
4.导入检查点数据
hdfs namenode -importCheckpoint
5.启动namenode
hadoop-daemon.sh start namenode
集群高可用。