namenode

HDFS最基础使用

简介1、定义2、HDFS优缺点3、HDFS组成架构4、HDFS文件块大小二、HDFS的读写流程1、HDFS写数据流程2、HDFS读数据流程3、网络拓扑-节点距离计算4、机架感知（副本存储节点选择）三、NameNode
ha_lydms·2023-10-04 16:24

Hadoop启动后jps发现没有DateNode解决办法

多次使用Hadoopnamenode-format格式化节点后DateNode丢失找到hadoop配置文件core-site.xml查找tmp路径进入该路径，使用rm-rfdata删除data文件再次使用
马龙强_·2023-10-04 14:56

hadoop 小文件处理方案

文件由一个或多个block组成，文件的元数据信息由namenode记录，因此如果hd
Ivan_030c·2023-10-03 23:49

Ubuntu中启动HDFS后没有NameNode解决办法

关闭进程：stop-dfs.sh格式化：hadoopnamenode-format出现报错信息：23/10/0322:27:04WARNfs.FileUtil:Failedtodeletefileordir
马龙强_·2023-10-03 23:13

HDFS真死和假死

/start-dfs.sh将hdfs启动，这时候有一个NameNode，一个SecondaryNameNode，一个DataNode。
怀夕·2023-10-01 18:28

Hadoop 系列（一）—— 分布式文件系统 HDFS

二、HDFS设计原理https://github.com/heibaiying2.1HDFS架构HDFS遵循主/从架构，由单个NameNode(NN)和多个DataNode(DN)组成：NameNode
heibaiying·2023-10-01 13:27

zookeeper理论学习（paxos和Zab协议）

动物园管理员协调分布式环境下的服务解决分布式环境中的问题分布式环境下无法保证顺序执行分布式环境下无法明确执行结果（可能由于网络的波动,无法判断结果是否执行成功）无法保证数据一致性应用和dubbo配合保证多点服务的可用性hadoop确保整个集群只有一个NameNode
qtshe·2023-10-01 12:06

kubernetes获取所有POD的IP信息

kubectlgetpods-nxxxx-o=custom-columns=NAME:.metadata.name,Node-IP:.status.hostIP,Pod-IP:.status.podIPNAMENode-IPPod-IPxxxx
海盗巨人·2023-09-29 08:21

2023年大数据面试题--转载

HDFS采用了主（NameNode）从（DataNode）结构
李先生真号·2023-09-29 01:22

Hadoop集群配置HA，开启故障自动转移后NameNode未正常切换问题解决

集群做了HA，bigdata01机器默认为active，bigdata02机器为standby，为了测试高可用，认为kill掉bigdata01节点的Namenode进程，发现bigdata02上的NameNode
Java_rainbow·2023-09-28 19:44

hadoop3.1.4 完全分布式搭建HA（namenode resourcemanager高可用）保姆级教程-详细步骤-快速搭建-详解配置-历史服务器

一.集群规划ip主机名安装进程192.168.204.14hdp14namenode,ZKFC,resourcemanager192.168.204.15hdp15namenode,ZKFC,resourcemanager192.168.204.16hdp16natanode
薛定谔的猫不吃猫粮·2023-09-28 17:05

一、大数据技术基础——分布式文件系统HDFS

目录1.引入1.1.传统存储系统面临的难题1.2.解决之道2.Hadoop集群架构3.HDFS1.03.1.概念3.2.Block块3.3.NameNode维护文件：fsimage与editlog3.4
百颂伊·2023-09-28 02:48

Hadoop NameNode 高可用 (High Availability) 实现解析

转至：https://www.ibm.com/developerworks/cn/opensource/os-cn-hadoop-name-node/NameNode高可用整体架构概述在Hadoop1.0
AlexYao·2023-09-27 16:58

大数据技术Hadoop笔试题

a)NameNodeb)Jobtrackerc)Datanoded)secondaryNameNodee)tasktracker2.HDfS中的block默认保存几份?a)3份b)2份c)1份
weixin_34235105·2023-09-27 07:51

大数据技术Hadoop面试题

a)NameNodeb)Jobtrackerc)Datanoded)secondaryNameNodee)taskt
IT时代周刊·2023-09-27 07:19

启动HDFS时报错ERROR: Attempting to operate on hdfs namenode as root

企图用root用户，在hdfs的namenode中进行操作，但是呢，HDFS_NAMENODE_USER相关没有定义。网上查询了一下，大概就是我们用root用户操作，没有在环境变量中定义变量。
白鸽呀·2023-09-26 12:33

Hadoop(HDFS,YARN)的HA集群安装

安装规划角色规划IP/机器名安装软件运行进程namenode1zdh-240hadoopNameNode、DFSZKFailoverController、ResourceManagernamenode2zdh
木木与呆呆·2023-09-26 08:49

hadoop组件HDFS

Namenode:主角色,负责和客户端进行沟通.Datanode:从角色,负责存储数据Secondarynamenode:秘书,服务器数据的收集，将信息传递给namenode注：Namenode宕机时集群会通过选举机制
枯河垂钓·2023-09-26 06:01

Hadoop Cluster Setup

通常，cluster内的一台作为NameNode，另一台作为ResourceManager。这些都是masters角色。
偷油考拉·2023-09-25 19:16

查看java进程gc频率和堆内存信息

hadoop@node1~]$jps26276nimbus27238Logstash31017RunJar13579AzkabanExecutorServer7307Jps27180Logstash22799NameNode23025SecondaryNameNode232
IT_小白·2023-09-25 16:17

ros2的humble版本设置日志打印级别

总共有3个方法1.在命令行中设置ros2runpkg_namenode_name--ros-args--log-levelWARN2.在源文件中设置#include"rcutils/error_handling.h"autoret
饕餮ing·2023-09-24 23:11

大数据开发工程师面试题

默认3份3、哪个程序通常与NameNode在一个节点启动？Jobtracker4、HDFS默认BlockSize是多少？
完美屁桃·2023-09-24 08:27

k8s核心概念 pod调度和生命周期

文章目录调度约束方法nodeNamenodeSelectorPod调度流程pod生命周期生命周期概述pod生命周期流程容器启动容器终止容器重启策略回顾容器生命周期健康检查健康检查方式Probe探测方式探测方式举例
double_happiness·2023-09-24 00:36

HDFS 底层交互原理，看这篇就够了！

本篇文章概览如下图：1.HA架构组成1.1HA架构模型在HDFS1.X时，NameNode是HDFS集群中可能发
小林玩大数据·2023-09-23 21:13

hadoop之旅3-centerOS7： 搭建hadoop免密集群启动

[root@localhostmmcc]#hadoop-daemon.shstartnamenode//主节点master[root@localhostmmcc]#hadoop-daemon.shstartdatanode
尔以凡·2023-09-23 16:25

HDFS文件系统中，Fsimage和Edits

文件块位置信息只存储在内存中，是在DataNode加入集群的时候，NameNode询问DataNode得到的，并且间断的更新。
bankq·2023-09-23 15:30

Java大数据学习~Hadoop初识二读取与写入流程

HDFS的写入流程在HDFS客户端想要往HDFS写入文件，流程如下写入数据流程图首先客户端发送请求，携带者配置文件信息，还有文件的路径访问到NameNode后，NameNode根据文件路径，去查看该路径是否存在
胖琪的升级之路·2023-09-23 00:04

k8s学习(12)--在linux上直接安装kubesphere集群版

，其中128为master节点，129为node1，130为node2，修改主机名并关闭三台机子的防火墙hostnamectlset-hostnamemasterhostnamectlset-hostnamenode1hostnamectlset-hostnam
mac文的java路·2023-09-22 23:11

大数据-hadoop

Cloudera在大型互联网企业中用的较多Hortonworks文档较好1.4架构hadoop由三个模块组成分布式存储HDFS分布式计算MapReduce资源调度引擎Yarn分布式文件存储系统HDFSNameNode
highly2009·2023-09-22 10:59

Hadoop集群之HDFS

架构介绍HDFS采用的是主从架构(Master/Slave)，其中namenode是
风起云端·2023-09-22 03:33

大数据学习之Hadoop

HDFS：HDFS是由Namenode和Datanode组成。Namenode负责管理文件系统的namespace和客户端对文件的访问。Datanode负责管理节点上的存储。
我问你瓜保熟吗·2023-09-21 04:40

Hadoop集群--(2)启动&初体验

本质上是一些清理和准备工作，因为此时的HDFS在物理上还是不存在的hdfsnamenode-format或者hadoopnamenode-format1.1.单节点逐个启动在主节点上使用以下命令启动HDFSNameNode
周凡_07b2·2023-09-21 02:06

centos7 mysql集群搭建

mysql集群前置条件修改集群节点设备计算机名称hostnamectlset-hostnamenode1#以此类推node2,3实现集群节点之间的ssh互信功能functionssh_trust(){result
祈心无尘·2023-09-20 15:59

开源分布式存储系统（HDFS、Ceph）架构分析

文章目录中间控制节点架构-HDFSNameNode节点分析DataNode节点分析SecondNameNode节点分析Client分析完全无中心架构-CephCephMonitor分析CephOSD分析
gengduc·2023-09-20 05:25

[hive]搭建hive3.1.2hiveserver2高可用可hive metastore高可用

hiveonsparkhiveserver2webUI高可用集群启动脚本_薛定谔的猫不吃猫粮的博客-CSDN博客没用里头的hiveonspark,测试后发现版本冲突一、Hive集群规划(蓝色部分)ck1ck2ck3SecondaryNameNodeNameNodeDataNodeDataNod
胖胖学编程·2023-09-20 05:34

Hadoop的HDFS高可用方案

一、Hadoop高可用简介Hadoop高可用(HighAvailability)分为HDFS高可用和YARN高可用，两者的实现基本类似，但HDFSNameNode对数据存储及其一致性的要求比YARNResourceManger
万里长江横渡·2023-09-19 20:55

Hadoop2.0 HDFS高可用架构

上图是一个典型的HA集群，NameNode会被配置在两台独立的机器上，在任何时间上，一个NameNode处于活动状态，而另一个NameNode处于备份状态，活动状态的NameNode会响应集群中所有的客户端
truezqx·2023-09-19 09:35

Hadoop NameNode执行命令工作流程

HadoopNameNode执行命令工作流程客户端API或者CLI与NameNode的交互命令数据的格式(1)预处理流程(2)创建NameNode与NameNodePrcServer流程(3)HDFSAPI
lastembryoXX·2023-09-19 07:27

macOS Big Sur系统基于docker部署Hadoop集群

macOSBigSur11.3.11.集群环境要求类别版本OScentos7jdkjdk1.8hadoopHadoop2.9.22.集群规划集群服务器名称IP集群规划linux001172.16.0.2namenode
回笼觉觉猪·2023-09-19 05:48

Centos7服务器初始化

一.修改主机名修改所有三个主机名：静态、瞬态和灵活主机名：[root@localhost~]#hostnamectlset-hostnamenode001[root@localhost~]#hostnamectlset-hostname
攻城狮悠扬·2023-09-18 10:37

MapReduce & YARN 的部署

1、部署说明HadoopHDFS分布式文件系统，我们会启动：NameNode进程作为管理节点DataNode进程作为工作节点SecondaryNamenode作为辅助同理，HadoopYARN分布式资源调度
新征程，再出发·2023-09-18 03:30

安装伪分布的Hadoop时SHUTDOWN_MSG: Shutting down NameNode at master及Hadoop namenode节点无法启动的问题解决

系统提示且namenode一直无法启动如果是这种情况就去看虚拟机的hostname的名称是否和虚拟机的vi/etc/hosts中的ip是否配的一致，如果没有的话，就修改下名称或者ip然后重启网络namenode
zhaozuoyou·2023-09-17 22:46

大规模数据处理之架构图

①NameNode：维护文件元数据FsImage和操作日志EditLog。②SecondaryNameNode：NameNode的备份的进程。
JerryTom·2023-09-17 20:19

HDFS的Shell操作

1.1.1、一键启动HDFS集群$HADOOP_HOME/sbin/start-dfs.sh，一键启动HDFS集群start-dfs.sh执行原理：在执行此脚本的机器上，启动SecondaryNameNode
新征程，再出发·2023-09-17 09:23

六、HADOOP-HA(zookeeper之后)

一、HDFS的HAHSFS传统集群只有一个NameNode，当此Manager宕机后，整个集群就宕机了，只有等管理员手动重启修复了NameNode之后，才会恢复。
一种依耐丶从未离开·2023-09-17 08:17

企业级数据仓库-数仓实战

1、设置每个虚拟机的hostnamevi/etc/sysconfig/network修改HOSTNAME=node02修改hostnamehostnamectlset-hostnamenode022、设置每个虚拟机的
beyond_champion·2023-09-17 03:06

prometheus day06

nameprometheus_serverprom/prometheus:v2.37.02.部署nodeexporter:dockerrun-d--networkhost--restartalways--namenode-expor
港南四大炮亡·2023-09-17 00:01

【问题解决】Hadoop集群启动后执行JPS没有DataNode或NameNode

引言最近在尝试在搭建Hadoop集群并测试集群是否搭建成功，但是第一次格式化NameNode并启动HDFS和YARN时发现一会儿有DataNode或者NameNode但是后面就没有了，二者没有同时存在，
wydxry·2023-09-16 07:27

hadoop启动报错：Attempting to operate on hdfs namenode as root

/usr/bin/envbashHDFS_DATANODE_USER=rootHADOOP_SECURE_DN_USER=hdfsHDFS_NAMENODE_USER=rootHDFS_SECONDARYNAMENODE_USER
Agatha方艺璇·2023-09-16 02:44

来了来了，2023年某中大厂真实面经！

Hdfs小文件危害，元数据压垮namenode，怎么处理？5. 为什么开启map—join后会减小
王知无(import_bigdata)·2023-09-15 16:40
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他