E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
NameNode启动慢
大数据基础——HDFS(分布式文件系统)
分布式文件系统——HDFS文章目录分布式文件系统——HDFSHDFS概述HDFS发展历史HDFS的设计目标HDSF应用场景适合的应用场景不适合的应用场景HDFS架构HDFS的基本原理
NameNode
概念
我菜的要死
·
2023-11-20 02:49
大数据
hdfs
big
data
hadoop
大数据学长面试之华为面试题
2)外包总部d1区:(1)
namenode
内存满了,如何进行扩容,调什么参数。(2)linux命令怎么查看mr任务的jobid(3)kafka消费者消费数据的流程,细节到进程和线程这一层。
大数据小理
·
2023-11-20 01:15
大数据
大数据1
大数据
面试
华为
9 HDFS架构剖析
128MB一块128MB8=1GB1288*1024=1TB5T数据分成的128MB的块数=8192*5客户端(client)代表用户通过与
namenode
和datanode交互来访问整个文件系统。
水无痕simon
·
2023-11-19 23:41
Hadoop
hdfs
架构
hadoop
大数据之hadoop-hdfs知识通俗详解
目录疑问存储模型(重要)架构设计角色功能
NameNode
DataNode元数据持久化安全模式HDFS中的SNNSecondary
NameNode
(SNN)Block的副本放置策略HDFS写流程HDFS读流程总结疑问分布式文件系统那么多
shw12357
·
2023-11-19 10:27
hadoop
hdfs多用户读写权限设置
多个用户都能对文件有操作(读写)权限.1》在hdfs中设置umask为002,则新目录的权限为775,新文件的权限为664,只要都是supergroup组的用户都有权限进行读写2》在
namenode
上创建
飞有飞言
·
2023-11-19 09:35
2023.11.17 hadoop之HDFS进阶
目录HDFS的机制元数据简介元数据存储流程:
namenode
生成了多个edits文件和一个fsimage文件edits和fsimage文件Secondary
NameNode
辅助
NameNode
的方式:HDFS
白白的wj
·
2023-11-19 08:35
hdfs
hadoop
大数据
sql
database
hive
Hadoop面试题
Hadoop要点1、Hadoop运行模式2、Hadoop的组成4、block份数和大小默认配置5、HDFS读写数据流程(★)6、节点距离和机架感知(副本存储节点选择)(☆)7、Secondary
NameNode
8
果子哥丶
·
2023-11-19 02:45
#
Hadoop
大数据
hadoop
CentOS7基于Hadoop 2.7.3安装Hive 2.1.1
1.前言说明:安装hive前提是要先安装hadoop集群,并且hive只需要再hadoop的
namenode
节点集群里安装即可(需要再所有
namenode
上安装),可以不在datanode节点的机器上安装
李天泉
·
2023-11-19 00:14
Hive
hadoop学习笔记1了解流程大概
海量数据的存储hdfs海量数据的计算:mapreducehdfs概述
namenode
:元数据,存储在哪个节点,存储什么信息datanode:存储数据2nn:备份
namenode
的信息yarn概述负责集群资源的管理
小美元
·
2023-11-18 20:06
hadoop
学习
大数据
mysql开启binlog
启动慢
_mysql开启binlog日志和慢查询日志
1)首先,为什么要开启binlog日志和慢查询日志呢?binlog日志会记录下数据库的所以增删改操作,当不小心删除、清空数据,或数据库系统出错,这时候就可以使用binlog日志来还原数据库,简单来说就是一个记录备份的东西慢查询日志slow_query_log,这个东西是用来记录查询比较慢的sql语句,通过查询日志来查找哪条sql语句比较慢,然后就可以进行数据库或sql语句或程序上的优化,简单来说就
李南孚
·
2023-11-17 02:21
学习大数据过程中遇到的奇葩问题
hadoop主节点开启的集群居然把DataNode和NodeManager都开启了错误:62099Jps61284ResourceManager61127Secondary
NameNode
56570NodeManager60927
NameNode
63421DataNode
weixin_44864919
·
2023-11-16 20:12
大数据
大数据
3. hdfs概述与高可用原理
架构hdfs由四大组件组成,分别是
NameNode
、DataNode、ZKFC,journalnode
NameNode
:管理所有文
shura1014
·
2023-11-16 20:35
hadoop
hdfs
hadoop
Hadoop-HDFS架构与设计
HDFS概述1.设计原则1.1硬件错误1.2流水访问1.3海量数据1.4简单一致性模型1.5移动计算而不是移动数据1.6平台兼容性2.HDFS适用场景3.HDFS不适用场景三、HDFS架构图1.架构图2.
Namenode
3
临江蓑笠翁
·
2023-11-16 06:15
大数据
#
Hadoop
hadoop
hdfs
架构
hadoop学习10
Hadoop学习(十)1.HDFS核心参数1.
NameNode
内存生产配置(1)
NameNode
内存计算每个文件块大概占用150byte,一台服务器128G内存为例,能存储多少文件块呢?
StopM
·
2023-11-15 20:12
hadoop
学习
大数据
微服务架构及nacos集群的搭建
缺点:1:系统
启动慢
,一个进程包含了所有的业务逻辑,涉及到的启动模块过多,导致系统的启动、重启时间周期过长;2:系统错误隔离性差、可用性差,任何一个约块
2301_77560707
·
2023-11-15 08:53
架构
微服务
java
CentOS7 Hadoop 3.3.4 集群安装(1
NameNode
,3 DataNode)
集群网络配置:准备三台CentOS7的服务器:IP服务器名称192.168.21.25Master192.168.21.26Slave01192.168.21.27Slave02修改hosts#Master服务器vi/etc/hosts192.168.21.26Slave01192.168.21.27Slave02192.168.21.25Master#Slave01服务器vi/etc/hosts
YuG丶
·
2023-11-15 05:48
大数据
hadoop
大数据
分布式
Centos7搭建hadoop3.3.4分布式集群
2.1hdfs集群规划ip地址主机名部署服务192.168.121.140hadoop01
NameNode
,DataNode,JobHistoryServer192.168.121.141
JAVA序码
·
2023-11-15 04:10
java
Hadoop3.3.4分布式安装
注意:下文中的flinkv1、flinkv2、flinkv3是三台服务器的别名1.集群部署规划注意:
NameNode
和Secondary
NameNode
不要安装在同一台服务器注意:ResourceManager
Appreciate(欣赏)
·
2023-11-15 04:39
分布式
hadoop 如何关闭集群 hadoop使用脚本关闭集群 hadoop(八)
1.hadoop22,hadoop23,hadoop24三台机器2.
namenode
所在hadoop22关闭hdfs:#找到/etc/hadoop位置cd/opt/module/hadoop-3.3.4
不努力就种地~
·
2023-11-14 21:39
大数据
hadoop
java
eclipse
hive on spark调优学习笔记
1集群环境概述1.1集群配置概述:所用集群由5台节点构成,其中2台为master节点,用于部署HDFS的
NameNode
,Yarn的ResourceManager等角色,另外3台为worker节点,用于部署
一只友
·
2023-11-14 06:39
hive
spark
学习
国企项目就用国产的 Solon Java Framework,v2.5.12 发布
与其他框架相比,解决了两个重要的痛点:
启动慢
,费内存。解决痛点?由于SolonBean容器的独特设计,不会因为扩展依赖变多而启动很慢(开发调试时,省时、爽快)!
组合缺一
·
2023-11-14 03:04
Solon
Java
Framework
java
信创
国产化
开源
solon
一、Hadoop3.1.3集群搭建
一、集群规划hadoop01(209.2)hadoop02(209.3)hadoop03(209.4)HDFS
NameNode
DataNodeDataNodeSecondary
NameNode
DataNodeYARNNodeManagerResourceManagerNodeManagerNodeManager
NameNode
Dream答案
·
2023-11-14 00:18
Hadoop
hadoop
大数据
hdfs
yarn
mapreduce
大数据
,ssh免密登录(2)修改配置文件:hadoop-env.sh,core-site.xml,hdfs-site.xml,mapre-site.xml(3)分发hadoop目录到各机器(4)hadoop
namenode
-format
叫我小王
·
2023-11-13 21:06
linux 多个ip问题解决 系统设置了静态IP之后还会获取动态IP的问题解决
linux多个ip问题解决系统设置了静态IP之后还会获取动态IP的问题解决问题描述自己已经明明设置过静态ip但是重启之后还是会动态的获取一个ip,导致大数据集群中的
namenode
不知道连接不上datanode
潘小磊
·
2023-11-13 14:31
bug记录
linux
tcp/ip
运维
企业运维实战--k8s学习笔记9.k8s调度
企业运维实战--k8s学习笔记9.k8s调度(上)前言--调度器简介k8s调度Node
Namenode
Selector亲和节点亲和pod亲和Taints污点与容忍前言–调度器简介调度器通过kubernetes
Rabbitgo_hyl
·
2023-11-12 22:08
运维
kubernetes
k8s
调度
如何监控MongoDB数据库性能
一、MongoDB
启动慢
1、启动日常卡住根本不用为了截屏而快速操作,MongoDB启动真的超级慢。2、启动MongoDB配
Linux小百科
·
2023-11-12 13:49
mongodb
数据库
nosql
EXPRESS项目PM2启动NODE_ENV传参数不生效问题解决方法
expree项目开发完,涉及到不同环境,要在启动到时候就要配置好环境变量,packge.json文件如下:"scripts":{"dev":"NODE_ENV=developmentDEBUG=
namenode
mon
weixin_30555753
·
2023-11-12 04:45
json
Hadoop架构、Hive相关知识点及Hive执行流程
Hadoop架构Hadoop由三大部分组成:HDFS、MapReduce、yarnHDFS:负责数据的存储其中包括:
namenode
:主节点,用来分配任务给从节点secondary
namenode
:副节点
LKL1026
·
2023-11-12 00:09
Python大数据学习笔记
hadoop
hive
core-site.xml,yarn-site.xml,hdfs-site.xml,mapred-site.xml配置
hadoop-3.3.3/datayarn-site.xmlyarn.nodemanager.aux-servicesmapreduce_shuffleyarn.resourcemanager.host
namenode
03yarn.nodemanager.env
芝士小熊饼干
·
2023-11-11 15:47
xml
hdfs
hadoop
spark on yarn实战 +HA
1启用
namenode
HA选择hdfs-serviceactions-enable
namenode
HA,提前关闭hbase,nameserviceID:BFDcluster;如图所示:2选择主机3开始启动
人生匆匆
·
2023-11-10 22:59
ambari
Hadoop相关
hdfsgetconf-confKeydfs.
namenode
.http-address查看Hadoop工作端口的信息hdfsgetconf-confKeydfs.datanode.http.address
小美美大白蛋
·
2023-11-09 23:56
hadoop
大数据
分布式
HarmonyOS NEXT 调优工具 Smart Perf Host 高效使用指南
在软件开发的过程中,很多开发者都经常会遇到一些性能问题,比如应用
启动慢
、点击滑动卡顿、应用后台被杀等,想要解决这些问题势必需要收集大量系统数据。
HarmonyOS开发者
·
2023-11-09 11:00
华为
HarmonyOS
Hadoop学习笔记(持续更新中)
文章目录HadoopHadoop的组成HDFS特点
NameNode
和DataNode文件系统命名空间数据块块缓存MapReducejob、task、inputsplitcombiner其他示例HadoopHadoop
东河西
·
2023-11-09 09:19
大数据
hadoop
HBase-2.4.17集群部署安装
masterwork01work02zookeeperzookeeperzookeeperdatanodedatanodedatanoderegionseverregionseverregionsever
namenode
hmaster2
nice白白
·
2023-11-09 08:13
hbase
启动hive时报: Call From hadoop /192.168.1.128 to hadoop :9000 failed on connection
core-site.xml文件配置时,目录写错,导致无法正确找到
namenode
相关信息,修改后保存解决办法:格式化
namenode
进入hadoop/bin输入命令格式化hadoop
namenode
-format
M_y_y
·
2023-11-08 23:58
linux
异常解决
Android性能优化一绘制原理分析
Android应用
启动慢
,使用时经常卡顿,是非常影响用户体验的,应该尽量避免出现。
若之灵动
·
2023-11-08 18:24
Android
性能优化
android
绘制优化
绘制分析
卡顿原因
Automatic failover is enabled for
NameNode
at PS-DEVICE-ID-YDGZ-112012/10.198.112.12:8020 Refusing t
记一次
namenode
主备节点中主节点的数据盘的磁盘坏掉,备份节点并没有自动切换为active的处理一,情况二,执行强制转换为active.
不吃饭的猪
·
2023-11-08 16:20
hadoop
Hadoop从入门到入土(第五天)
目录一、集群部署规划二、群起集群一、集群部署规划
namenode
和Scondary
NameNode
不要装在同一服务器ResourceManager也消耗内存,不要和
NameNode
.Secondary
NameNode
南城守护
·
2023-11-07 22:56
hadoop
hdfs
big
data
Hadoop知识点全面总结
文章目录什么是HadoopHadoop发行版介绍Hadoop版本演变历史Hadoop3.x的细节优化Hadoop三大核心组件介绍HDFS体系结构
NameNode
介绍总结Secondary
NameNode
小崔的技术博客
·
2023-11-07 08:40
大数据学习
hadoop
大数据
分布式
游戏服务器集群维护,游戏服务器集群
为了确保
NameNode
日常数据安全,或
weixin_39621860
·
2023-11-06 17:29
游戏服务器集群维护
Zookeeper监控机制
Zookeeper是有⼀个⼼跳监控机制存在的,⼀般都是每隔2秒就⼼跳⼀下来确认Controller是否还存活,如果不存在的话就会把资源节点让给其他的Controller,这个⼼跳检测机制是⽐较常⻅的,⽐如HDFS的
NameNode
冷艳无情的小妈
·
2023-11-06 11:23
java
大数据
开发语言
zookeeper
kafka
2020-04-21
setrep设置HDFS中文件的副本数量[
[email protected]
]$hadoopfs-setrep10/sanguo/shuguo/kongming.txt这里设置的副本数只是记录在
NameNode
Map_Reduce
·
2023-11-06 02:57
Connection refused; For more details see: http://wiki.apache.org/hadoop/ConnectionRefused
jps下发现
namenode
在启动时出错了,没有启动起来jps2627DataNode2884Secondary
NameNode
3267NodeManager3042ResourceManager3891Jps
weixin_30329623
·
2023-11-05 23:16
大数据
操作系统
运维
windows 10系统下安装Hadoop
解压hadooponwindows-master4、将hadooponwindows-master的文件夹bin和etc直接覆盖hadoop的文件夹bin和etc5、新建data(里面再建2个子文件夹
namenode
qq_52771580
·
2023-11-05 23:44
hadoop
hadoop
windows
10
关于出现hadoop102拒绝连接
自己通过使用jps查看到hadoop102上没有
namenode
服务启动然后自己通过使用myhadoop.shstop停止hdfs和yarn(myhadoop.sh是自己编写启动和关闭hdfs和yarn
总会有天明
·
2023-11-05 22:28
问题报错
hadoop
big
data
hadoop启动出错 The value of property bind.address must not be null
hadoop安装************************************************************/21/11/1715:15:56INFO
namenode
.
NameNode
我从远处聆听你
·
2023-11-05 20:17
大数据
测试用例
单元测试
大数据
hadoop
【云原生 | kubernetes】kubeadm部署kubernetes(k8s)1.25.2基于containerd
kubernetes(k8s)1.25.2基于containerd所有节点修改主机映射master节点hostnamectlset-hostnamemasterbashnode节点hostnamectlset-host
namenode
01bashnode
啥也学不会的鸣
·
2023-11-05 19:52
kubernetes运维
1024程序员节
云原生
kubernetes
containerd
kubeadm
java.lang.IllegalArgumentException: java.net.UnknownHostException:XXX 已解决
在安装过程中出现这样的问题,主要是在HDFS的hdfs-site.xml中添加相应的参数:dfs.client.failover.proxy.provider.nsorg.apache.hadoop.hdfs.server.
namenode
.ha.ConfiguredFailoverProxyProvider
Han_Lin_
·
2023-11-05 03:21
java
hive
hadoop
HDFS Yarn HA架构图及架构区别
HDFSHA架构图HDFSHA架构图.jpg1.各组件说明activenn(
NameNode
)接收client的rpc请求并处理,同时自己editlog写一份,也向JN的共享存储上的editlog写一份
cllblogs
·
2023-11-04 18:36
tomcat7/8/9在linux环境下
启动慢
的优化办法
云服务器:阿里云CentOS7.364,Tomcat:9.0.14.0tomcatwebapps下的项目tomcat启动耗时现象:如上图所示,tomcat官网下载的压缩包,未做任何添加,启动耗时11分34秒原因Tomcat7/8都使用org.apache.catalina.util.SessionIdGeneratorBase.createSecureRandom类产生安全随机类SecureRan
司寒_2019
·
2023-11-04 12:19
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他