Namenode

Hadoop-HDFS角色工作机制

一、角色职责介绍  HadoopDistributedFileSystem(HDFS,分布式文件系统):HDFS是Hadoop应用程序使用分布式存储，HDFS集群主要由管理文件系统元数据的NameNode
H.S.T不想卷·2023-11-30 10:33

【大数据Hadoop】HDFS-Namenode-format格式化的源码步骤分析

Namenodeformat流程格式化命令源码解读初始化操作格式化操作本地写VERSION文件JournalManager的格式化持久化FsImage文件流程根据配置项获取nameserviceId、namenodeId
笑起来贼好看·2023-11-30 10:30

大数据Hadoop-HDFS_架构、读写流程

大数据Hadoop-HDFS基本系统架构HDFS架构包含三个部分：NameNode，DataNode，Client。NameNode：NameNode用于存储、生成文件系统的元数据。运行一个实例。
大沙头三马路·2023-11-30 09:48

大数据Hadoop-HDFS_元数据持久化

大数据Hadoop-HDFS_元数据持久化（1）在HDFS第一次格式化后，NameNode（即图中的主NameNode）就会生成fsimage和editslog两个文件；（2）备用NameNode（即图中的备
大沙头三马路·2023-11-30 09:14

ambari运维问题记录

无法启动错误：2018-04-2514:36:09,293-Retryingafter10seconds.Reason:Executionof'/usr/hdp/current/hadoop-hdfs-namenode
人生匆匆·2023-11-30 03:23

阿里云服务器搭建Hadoop报错“Incompatible clusterIDs”“Excluding datanode”“Cannot assign requested address”

注意：很多错误应去查看相应节点hadoophome下logs文件夹的内容，看具体报错原因1.IncompatibleclusterIDs大致意思是说namenode和datanode的clusterIDs
暮月七·2023-11-29 06:40

hadoop启动datanode报错：Incompatible clusterIDs in

在启动datanode时报错，日志如下:意思是namenode的集群ID和datanode的集群ID不一致。解决方案：将datanode存放数据的文件目录清空。
兔帮大人·2023-11-29 06:09

解决Hadoop DataNode ‘Incompatible clusterIDs‘报错

06,840WARNcommon.Storage:Failedtoaddstoragedirectory[DISK]file:xxxjava.io.IOException:IncompatibleclusterIDsinxxx/dfs/data:namenodeclusterID
gcygeeker·2023-11-29 06:03

一次azkaban-exec某个节点不执行任务的问题总结复盘

1、问题描述先说下我们生产环境的部署情况azkaban-exec部署在prod11、prod12两台机器上，这两台都是物理机，同时还不部署了namenode、resourcemanafer、historyserver
Java小田·2023-11-28 21:24

Elasticsearch配置解析

文章目录简介系统配置最大文件描述符内存锁定限制虚拟内存映射最大数量线程数elasticsearch.ymlcluster.namenode.namepath.data&path.logminimum\_
涛声依旧（竞涛）·2023-11-26 18:21

简析Hadoop的三种运行模式

在这种模式下，Hadoop会完全运行在本地，Hadoop的所有组件，如NameNode、DataNode、ResourceManager、NodeManager等，都运行在同一个Java进程中。
我要下东西噢·2023-11-26 08:13

Apache BookKeeper 简介

Research）开发，旨在实现Hadoop分布式文件系统（HDFS）NameNode的高可用，在此之前，NameNode不具备高可用特性，存在单点故障的问题。
StreamNative·2023-11-25 20:11

Hadoop完全分布式安装（Centos7+Hadoop2.5.0）

区分的依据是NameNode、DataNode、ResourceManager、NodeManager等模块运行在几个JVM进程、几个机器。
fang·up·ad·2023-11-25 09:43

hadoop(6)--NameNode元数据管理(3)

今天分享的的是NameNode中edit日志文件怎么和fsimage合并的，又是什么时候进行合并的，谁负责合并的，好的，带着这几个问题来思考1，先来一张图说明合并过程在这个过程中很好的解释了edit日志文件怎么和
ROCK_杰哥·2023-11-25 07:33

HDFS客户端上传下载文件流程

HDFS客户端上次文件流程1客户端与nameNode通讯1.1客户端像nameNode发送上传文件请求。1.2nameNode返回响应，允许客户端上传文件。
_Kafka_·2023-11-25 05:51

HDFS文件上传和下载流程

1、HDFS上传文件客户端请求上传文件：客户端（通常是Hadoop集群中的一个节点）发出上传文件的请求，改请求包括文件的本地路径、文件名以及在HDFS中的目标路径NameNode验证请求：客户端请求首先到达集群中的
鲸落万物·2023-11-25 05:49

hdfs上传/下载文件过程详解

www.cnblogs.com/kyle-blog/p/14213575.htmlhttps://my.oschina.net/u/2969788/blog/4289020hdfs上传文件过程详解client端通知namenode
吃鱼的羊·2023-11-25 05:47

如何解除hadoop安全模式问题

hadoop安全模式无法关闭问题问题描述：今天在hadoop上传递数据时，由于数据文件太大，运行到一半突然复制中断，导致出现了安全模式，报“namenodeisinsafemode”的错误提示。
青枫浦上看桃花·2023-11-25 03:16

大数据集群报错集锦及解决方案

文章目录前言1Hadoop1.1Yarn上执行MR计算报错空指针1.2NameNode启动失败2Hive2.1Hive数据量过大3Kafka3.1Kafka集群部分机器起不来4Azkaban4.1Azkaban
陈舟的舟·2023-11-24 16:22

ubuntu操作系统中docker下Hadoop分布式前置环境配置实验

版本：centos7hadoop3.1.3javaJDK:1.8集群规划：masterslave1slave2HDFSNameNodeDataNodeDataNodeSecondryNameNodeDataNodeYARNNodeManagerResourceManageNodeManagerNodeManager1
芝士小熊饼干·2023-11-24 09:05

在阿里云服务器上配置Hadoop单机环境无法启动namenode

报错信息如下：Failedtostartnamenode.java.net.BindException:Problembindingto[test01:9000]java.net.BindException
analanxingde·2023-11-23 16:39

伪分布式系列 - 第一篇 - hadoop-3.2.0环境搭建

的三种运行模式单机模式伪分布式模式全分布式集群模式环境准备系统环境ssh免密码连接防火墙关闭jdk安装配置相关环境变量配置安装包下载Hadoop配置解压hadoop文件配置linux环境配置启动服务格式化NameNode
rolin-刘瑞·2023-11-23 15:21

Hadoop学习笔记：运行wordcount对文件字符串进行统计案例

其中，一台服务器作为NameNode，一台作为SecondaryNameNode，剩下两台当做DataNodes节点服务器，类似下面这样一个架构——NameNodeSecondaryNameNodeDataNodesmaster1
朱季谦·2023-11-23 13:38

记录一次因内存不足而导致hiveserver2和namenode进程宕机的排查

背景最近发现集群主节点总有进程宕机，定位了大半天才找到原因，分享一下排查过程查询hiveserver2和namenode日志，都是正常的，突然日志就不记录了，直到我重启之后又恢复工作了。
记录点滴人生·2023-11-23 12:07

hdfs命令行操作摘录

hdfs分布式文件系统优点：一次写多次读；流式数据访问；一次写入、多次读取缺点：高延迟；不适合存储大量小文件NameNode负责管理整个dfs文件系统的元数据，即，存储所有的文件目录、每个文件的具体信息
佛系小懒·2023-11-23 07:01

Kubernetes（k8s）之Pod详解

详解一、Pod介绍pod结构pod定义二、Pod配置pod基本配置镜像拉取策略启动命令环境变量端口设置资源配额三、Pod生命周期创建和终止初始化容器钩子函数容器探测重启策略四、Pod调度定向调度NodeNameNodeSelector
你看月亮好美·2023-11-22 20:24

格式化名称节点，启动Hadoop

/bin/hdfsnamenode-format3.启动所有节点.
北辰Charih·2023-11-22 14:04

hadoop常用端口号

1，namenodehttp端口：500702，datanodehttp端口：500753，secondaryNameNode节点http端口号：500904，datanode后端访问端口号：500105
wangxiaowu_001·2023-11-22 09:43

hadoop常用的端口号

dfs.namenode.http-address（namenodehttp端口）:50070dfs.datanode.http-address（datanodehttp端口）:50075SecondaryNamenode
星空下的那个人影·2023-11-22 09:42

Hadoop之常用端口号

hadoop3.xHDFSNameNode内部通常端口：8020、9000、9820HDFSNameNode对用户的查询端口：9870Yarn查看任务运行情况的端口：8088历史服务器：19888HDFSNameNode
m0_67393828·2023-11-22 09:41

hadoop3.x系列完全分布式集群部署（集群各节点设置与端口号的设置）

（三台虚拟机必须在同一网段）详细配置信息请看hadoop3.x系列完全分布式集群部署（虚拟机网络连接、jdk安装、hadoop安装）_杂乱无章的我的博客-CSDN博客一：集群部署规划NameNode与SecondaryNameNode
杂乱无章的我·2023-11-22 09:10

Hadoop常用端口号及配置文件

端口号Hadoop3.xHDFSNameNode内部通常端口号：8020/9000/9820HDFSNameNode对用户的查询端口：9870Yarn查看任务的运行情况：8088历史服务器：90080Hadoop2
LydiaaLi·2023-11-22 09:09

hadoop常用端口号与配置文件

常用端口号hadoop3.xHDFSNameNode内部通常端口：8020/9000/9820HDFSNameNode对用户的查询端口：9870Yarn查看任务运行情况：8088历史服务器：19888hadoop2
UserOrz·2023-11-22 09:39

Hadoop 3.X 和 2.X 的常用端口号和配置文件

Hadoop常用端口号Hadoop3.XHDFSNameNode内部通信端口：8020/9000/9820HDFSNameNodeHTTPUI：9870HDFSDataNodeHTTPUI：9864Yarn
hmyqwe·2023-11-22 09:38

Hadoop性能调优概要说明

Hadoop容易遇到的问题有：Namenode/jobtracker单点故障、HDFS小文件问题、数据处理性能等。为此“HadoopPerformanceOptimization”(HPO)是必要的。
fjssharpsword·2023-11-22 09:07

Hadoop常用端口号和配置文件

Hadoop常用端口号dfs.namenode.http-address:50070dfs.datanode.http-address:50075SecondaryNameNode辅助名称节点端口号
cipay666·2023-11-22 09:37

hadoop——常用端口号——常用的配置文件,3.x与2.x区别

常用端口号hadoop3.xHDFSNameNode内部通常端口：8020/9000/9820HDFSNameNode对用户的查询端口：9870Yarn查看任务运行情况：8088历史服务器：19888hadoop2
小魏___·2023-11-22 09:37

hadoop常用端口号/常用配置文件

常用端口号hadoop3.xHDFSNameNode内部通常端口：8020/9000/9820HDFSNameNode对用户的查询端口：9870yarn查看任务允许情况的:8088历史服务器：19888hadoop2
asd623444055·2023-11-22 09:06

Hadoop学习-常用端口和配置文件

一、常用端口号hadoop3.xHDFSNameNode内部通常端口：8020/9000/9820HDFSNameNode对用户的查询端口：9870Yarn查看任务运行情况：8088历史服务器：19888hadoop2
HaveAGoodDay.·2023-11-22 09:34

hadoop 常用端口号，常用配置文件都有哪些？hadoop3.x端口号 hadoop(十二)

1.hadoop3.x系列常用端口号：类型desc端口hdfsNameNode内部通常端口号8020/9000/9820hdfsNameNode对用户的查询端口9870yarn查看历史任务运行情况8088
不努力就种地~·2023-11-22 09:34

hadoop、hive、DBeaver的环境搭建及使用

hadoop、hive的结构及使用，具体的操作步骤见最后的附件；hadoop提供大数据的存储、资源调度、计算，分为三个模块：HDFS、YRAN、MapReduceHDFS提供数据的分布式存储，分为三个节点NameNode
骑士999111·2023-11-22 03:14

Hadoop-- hdfs

1、HDFS中的三个进程：NameNode（NN）、DataNode(DN)、SecondNameNode(SNN)2、NameNode（NN）1、作用：1、接收客户端的一个读、写的服务，在namenode
新手小农·2023-11-21 11:11

HDFS常见面试题

主要是NameNode内存会受限。由于NameNode会将文件系统的元数据都存储在内存中，因此所能存储的文件总量受限于NameNode的内存总容量。
海中大咸鱼·2023-11-20 12:02

dfs hdfs 修改文件名称_第五讲：hadoop的分布式存储HDFS常见操作

首先启动hdfs，启动方式可见上一个博文，或者单独启动hdfs，方式就是运行start-dfs.sh启动成功后，输入jps可以看到至少一个namenode和至少一个datanode和一个jps一、创建路径
西岸先生·2023-11-20 12:31

hdfs集群启动的常见问题

hdfs集群启动的常见问题1、用浏览器访问namenode的50070端口，不正常，需要诊断问题出在哪里：a、在服务器的终端命令行使用jps查看相关进程观察节点是否存活b、如果已经知道了启动失败的服务进程
一溪云~·2023-11-20 12:27

大数据基础——HDFS（分布式文件系统）

分布式文件系统——HDFS文章目录分布式文件系统——HDFSHDFS概述HDFS发展历史HDFS的设计目标HDSF应用场景适合的应用场景不适合的应用场景HDFS架构HDFS的基本原理NameNode概念
我菜的要死·2023-11-20 02:49

大数据学长面试之华为面试题

2）外包总部d1区：（1）namenode内存满了，如何进行扩容，调什么参数。（2）linux命令怎么查看mr任务的jobid（3）kafka消费者消费数据的流程，细节到进程和线程这一层。
大数据小理·2023-11-20 01:15

9 HDFS架构剖析

128MB一块128MB8=1GB1288*1024=1TB5T数据分成的128MB的块数=8192*5客户端(client)代表用户通过与namenode和datanode交互来访问整个文件系统。
水无痕simon·2023-11-19 23:41

大数据之hadoop-hdfs知识通俗详解

目录疑问存储模型（重要）架构设计角色功能NameNodeDataNode元数据持久化安全模式HDFS中的SNNSecondaryNameNode（SNN）Block的副本放置策略HDFS写流程HDFS读流程总结疑问分布式文件系统那么多
shw12357·2023-11-19 10:27

hdfs多用户读写权限设置

多个用户都能对文件有操作(读写)权限.1》在hdfs中设置umask为002,则新目录的权限为775,新文件的权限为664,只要都是supergroup组的用户都有权限进行读写2》在namenode上创建
飞有飞言·2023-11-19 09:35
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他