E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
NameNode启动慢
Hadoop期末复习城科专用
:1.Yarn简答题1.Hadoop集群6个核心配置文件以及它的作用2.Hadoop集群部署方式以及各方式使用场景3.Hadoop版本的区别4.大数据的意义(围绕这个写就行)二、HDFS概念解释:1.
NameNode
2
今日重到苏澜桥
·
2023-07-15 07:09
笔记
hadoop
hdfs
java
大数据
docker和k8s的学习介绍
docker:出现是因为相比于虚拟机,资源复用更加灵活,虚拟机是一个完整的操作系统,占用空间大,
启动慢
;docker容器技术可以根据也无需求,配置不同的环境,不会互相影响。
explore翔
·
2023-07-15 06:39
docker
kubernetes
学习
HDFS的读写流程步骤(附图文解析)
1、HDFS的写入流程:详细步骤:client发起文件上传请求,通过RPC与
NameNode
建立通讯,
NameNode
检查目标文件是否已存在,父目录是否存在,返回是否可以上传;client请求第一个block
奇迹虎虎
·
2023-07-15 04:45
#
Hadoop
hdfs
hadoop
big
data
大数据
分布式
oracle 监听器(listener)
启动慢
的处理
文章目录1.问题描叙2.启动过程追踪3.查看追踪log4.确认端口用途5.查看监听监听端口对应的pid6.原因分析1.问题描叙启动Oracle监听器非常慢,达2分钟之久2.启动过程追踪strace-f-t-o~/listener.trclsnrctlstart3.查看追踪logvi~/listener.trc输出如下:356417:47:12recvmsg(14,{msg_name=NULL,ms
老年DBA
·
2023-07-15 01:02
Oracle
oracle
数据库
hadoop集群搭建教程
jdk1.8hadoop集群篇安装zookeeper安装hadoophbase安装hive安装hue安装集群规划ip主机名hadoopjournalnodezookeeperhbase192.168.1.130hd.m1
namenode
journalnod
冰帆<
·
2023-07-15 01:09
大数据
hbase
hadoop
大数据
分布式
实训笔记7.13
二、Hadoop的安装配置九个核心文件的修改三、Hadoop的HDFS的基本操作3.1HDFS的组成
NameNode
DataNod
cai-4
·
2023-07-14 21:38
实训
笔记
精讲单例设计模式与单例防御
什么是单例保证一个虚拟机中的类中只有一个实例加载类型立即加载:项目启动就加载懒加载:需要使用到的时候才加载static修饰的变量或代码块为项目启动就加载,且只会加载一次单例的七种模式饿汉式项目启动就立即加载导致项目
启动慢
FnTop
·
2023-07-14 18:30
设计模式系列
shell脚本——服务器巡检(自动化运维)
在同一个网段(互相能ping通)虚拟主机都有公钥免登录修改主机IPvi/etc/sysconfig/netwoek-scripts/ifcfg-ens160设置主机名hostnamectlset-host
namenode
1
老穆雷
·
2023-07-14 15:45
自动化运维
服务器
运维
自动化
35.安装CDH环境准备
测试环境CentOS6.5使用root用户操作操作系统CentOS6.535.1环境前置节点数量最小规模,建议最少4台服务器,一台用作管理节点ClouderaManager和
NameNode
等,另外三台用作工作节点
大勇任卷舒
·
2023-07-14 13:39
hadoop 自己的部署
stop-all.sh
namenode
http:/
添柴少年yyds
·
2023-07-14 13:48
大数据
Hadoop启动关闭命令
1、启动主节点HDFS
NameNode
进程hadoop-daemon.shstart
namenode
hadoop-daemon.shstartdatanode查看进程jps2、启动从节点的HDFSDataNode
redstone618
·
2023-07-14 12:15
Hadoop
hadoop
大数据
分布式
【Hadoop 01】简介
1Hadoop简介Hadoop适合海量数据分布式存储和分布式计算Hadoop3.x的细节优化:Java改为支持8及以上HDFS支持纠删码HDFS支持多
NameNode
MR任务级本地优化多重服务默认端口变更
不菜不菜
·
2023-07-14 11:56
大数据
hadoop
大数据
分布式
NameNode
and Secondary
NameNode
have different heapsizes
NameNode
andSecondary
NameNode
havedifferentheapsizesCDHmanager页面警告
NameNode
andSecondary
NameNode
havedifferentheapsizes
BarryAllenx
·
2023-07-14 07:47
Couudea
Manager
HDFS
大数据
cloudera
hdfs
hadoop
大数据
Hadoop
Hadoop1.请说下HDFS读写流程HDFS写流程:HDFS读流程:2.HDFS在读取文件的时候,如果其中一个块突然损坏了怎么办3.HDFS在上传文件的时候,如果其中一个DataNode突然挂掉了怎么办4.
NameNode
芝麻仗剑走天涯
·
2023-07-14 00:50
hadoop
大数据
分布式
Hadoop基础——HDFS知识点梳理
组成部分:HDFSClient,
NameNode
,DataNodeSecondary
NameNode
(HA模式下是StandBy
NameNode
)Client:客户端文件切分,文件上传HDFS时,client
YuannaY
·
2023-07-13 21:02
大数据组件
hdfs
hadoop
大数据
【精】彻底吃透HDFS写流程(4)-- 输出流DFSOutputStream#write方法分析
有关HDFS写流程的系列文章:【精】彻底吃透HDFS写流程(1)–BlockConstructionStage【精】彻底吃透HDFS写流程(2)--
Namenode
侧create文件【精】彻底吃透HDFS
叹了口丶气
·
2023-07-13 19:26
HDFS全方位实战
hdfs
hadoop
big
data
spring boot 引入hive
org.springframework.bootspring-boot-starter-data-hadoop然后,在application.properties中配置Hive相关信息:spring.hadoop.config.fs.defaultFS=hdfs://
namenode
、小H
·
2023-07-13 19:36
spring
boot
hive
后端
checkpoint 机制具体实现示例详解
目录checkpoint机制的具体实现BackNode节点冷备份checkpoint的实现checkpoint机制的具体实现我们都知道为了优化分布式存储系统中
NameNode
的重启性能,我们引进了checkpoint
·
2023-07-13 16:20
HDFS的高可用工作原理(HA)的最权威分析
HA首先是启动两个
nameNode
,一个是active状态,一个是standby,当active挂掉后,standby通过zookeepe会自动迅速的替代上。这样集群就会非常的可靠。
SmartBrain
·
2023-06-24 10:59
Hadoop生态核心技术
HDFS的工作原理是怎么样的?是如何实现HA模式?
作为集群老大的
NameNode
当出现服务不可用的情况,HDFS又如何启用备用节点来实现HA的呢
熊小哥~
·
2023-06-24 10:58
hdfs
hadoop
java
HDFS 写流程源码分析
HDFS写流程源码分析一、客户端(一)文件创建及Pipeline构建阶段(二)数据写入(三)输出流关闭二、
NameNode
端(一)create环境为hadoop3.1.3一、客户端以下代码创建并写入文件
冲鸭hhh
·
2023-06-24 08:45
hdfs
hadoop
大数据
HDFS基础
文章目录HDFS基础块HDFS的特点HDFS的组成fsimage和editlogHDFS的读写流程HDFS的数据完整性HDFS的可靠性保证HDFS的高可用HA的系统配置
NameNode
Federation
最美的愿望一定最疯狂
·
2023-06-24 08:09
hadoop
hdfs
hadoop
大数据
Hadoop 系列(八)—— 基于 ZooKeeper 搭建 Hadoop 高可用集群
一、高可用简介Hadoop高可用(HighAvailability)分为HDFS高可用和YARN高可用,两者的实现基本类似,但HDFS
NameNode
对数据存储及其一致性的要求比YARNResourceManger
heibaiying
·
2023-06-24 04:25
【Hadoop_exporter】prometheus监控hadoop
0.15.0.jarhttps://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.15.0/写需要监控的角色专属yaml
namenode
.yamlstartDelaySeconds
BIG*BOSS
·
2023-06-24 04:06
hadoop
大数据基础平台实施及运维进阶
2、
nameNode
HA+完全分布式部署2.1、
nameNode
切换方法分别处于Active和Standby中hadoop可以创建多个副本到各个datanode中实现高可用,但是如果要防止出现问题必须给
CCTVZHENG
·
2023-06-23 06:40
大数据
运维
linux
1.5.5 HDFS读写解析-hadoop-最全最完整的保姆级的java大数据学习资料
1.5.5HDFS读写解析1.5.5.1HDFS读数据流程1.5.5.2HDFS写数据流程1.5.5HDFS读写解析1.5.5.1HDFS读数据流程客户端通过DistributedFileSystem向
NameNode
假装文艺范儿
·
2023-06-22 16:33
java大数据
hadoop
大数据
hdfs
拉勾大数据开发高薪训练营
java
1.5.6 NN与2NN-hadoop-最全最完整的保姆级的java大数据学习资料
与Edits文件解析1.5.6.2.1Fsimage文件内容1.5.6.2.2Edits文件内容1.5.6.3checkpoint周期1.5.6NN与2NN1.5.6.1HDFS元数据管理机制问题1:
NameNode
假装文艺范儿
·
2023-06-22 16:33
java大数据
大数据
hadoop
java
拉勾大数据开发高薪训练营
hdfs
webpack5-基础入门-03-修改打包资源路径 处理 图片 字体资源
1.打包路径修改图片路径修改修改webpack.config.js//输出output:{//所有文件输出路径//__dir
namenode
.js的变量。
长沙xtt
·
2023-06-22 10:58
webpack
webpack
【HDFS篇11】HA高可用
Hadoop2.0之前,在HDFS集群中
NameNode
存在单点故障(SPOF)。
NameNode
主要在以下两个方面影响HDFS集群
NameNode
机器发生意外,如宕机,集
focusbigdata
·
2023-06-22 07:38
dfs.nameservices参数
该参数用于指定HDFS集群的名称服务(
NameNode
),它是一个逻辑名称,用于标识整个HDFS集群。名称服务(
NameNode
)是HDFS的关键组件之一,负责维护文件系统的命名空间和元数据信息。
sun13047140038
·
2023-06-22 00:42
深度优先
hadoop
hdfs
GraalVM简介
启动慢
,体积大,需要搭建基础环境(jdk),你有想过有一天java程序部署摆脱jdk环境搭建,可以像QQ这些客户端一样简单部署启动吗?
二爵爷点灯
·
2023-06-22 00:38
java
开发语言
HDFS读写流程
读数据流程客户端向
NameNode
请求文件的位置:客户端想要访问一个文件时,会向
NameNode
发送一个请求,要求获取该文件在HDFS上的位置信息。
daladalabao
·
2023-06-21 05:36
hadoop
hdfs
hadoop
大数据
HDFS
NameNode
重启优化
一、背景在Hadoop集群整个生命周期里,由于调整参数、Patch、升级等多种场景需要频繁操作
NameNode
重启,不论采用何种架构,重启期间集群整体存在可用性和可靠性的风险,所以优化
NameNode
重启非常关键
shining_yyds
·
2023-06-21 04:48
大数据
hadoop
hdfs
大数据
k8s containerd集群配置安装完整踩坑教程
完整踩坑和精简内容k8scontainerd配置containerd安装参考k8s安装参考环境两台机器hostnamectlset-hostnamemasterhostnamectlset-host
namenode
1
大囚长
·
2023-06-20 20:16
容器技术
Linux
运维人生
kubernetes
docker
容器
在 VSCode 里写Java 项目(持续更新)
但是缺点也是明显的,占内存很大,
启动慢
,在单个项目开发的时候可能能运行流畅,但是同时打开多个IDEA,内存过小的电脑可能扛不住,我打开同一个项目不运行,VSCode只占用了350M,而IDEA占用了1200M
爱唱歌的瓜皮
·
2023-06-20 19:09
VScode_Java环境配置
java
vscode
idea
通过Java client远程访问Hadoop Hdfs
PrerequisiteOnehadoop-2.8.0serverhasstartedonaremoteubuntuserver$netstat-lnpt|grep-iTCP|grep`jps|grep-w
NameNode
sun_xo
·
2023-06-20 18:09
hadoop
java
hdfs
5.Hadoop之生产调优
1.HDFS——核心参数1.1
NameNode
内存生产配置1)
NameNode
内存计算每个文件块大概占用150byte,一台服务器128G内存为例,能存储多少文件块呢?
hutc_Alan
·
2023-06-20 17:24
linux
hadoop
服务器
java
HDFS初认识
HDFS的假想和设计目标HDFS的优缺点优点缺点HDFS的架构组成客户端
NameNode
DataNodeSecondary
NameNode
职责checkpoint机制参考HDFS是什么?
WHYBIGDATA
·
2023-06-20 09:42
大数据技术栈文档
Hadoop
hdfs
hadoop
大数据
datanode启动后,在web50070端口发现不到datanode节点(能力工场)
直接上问题:这两天为了试验,安装了两套集群:(1)32位hadoop1集群(5个节点);(2)64位hadoop2集群(6个节点)两个集群中都遇到过这样的问题:在
namenode
正常启动hadoop集群后
能力工场小马哥
·
2023-06-20 09:37
Hadoop
hadoop集群
datanode
namenode
Java
离线分析fsimage文件进行数据深度分析
以离线分析FsImage文件进行数据深度分析整个方案的基本架构: FsImage文件时HDFS存放在
NameNode
中的镜像文件,里面包括了整个HDFS集群的目录和文件信息,(类似于一个索引目录+部分数据的文件
顧棟
·
2023-06-20 09:08
hadoop
Hive
hadoop
hdfs
大数据
HDFS常用命令及使用Big Data Tools操作HDFS
一键启动和停止#一键启动start-dfs.sh#一键停止stop-dfs.sh单进程启动和停止#格式hdfs--daemon(start|status|stop)(
namenode
|datanoded
皮皮虾不皮呀
·
2023-06-19 16:50
hdfs
hadoop
大数据
hdfs集群的扩容和缩容
黑名单:该文件包含不允许连接到
namenode
的主机列表。必须指定文件的完整路径名。如果该值为空,则表示不排除任何主机。白名单:该文件包含允许连接
·
2023-06-19 12:55
Docker-Hadoop ALL-IN-ONE
自带的容器有
namenode
、datanode、resourcemanager、nodem
xi4okv
·
2023-06-19 04:38
Android性能测试
Android应用性能测试Android用户也许会经常碰到以下的问题:1)应用后台开着,手机很快没电了——应用耗电大2)首次/非首次启动应用,进入应用特别慢——应用
启动慢
3)应用使用过程中,越来越卡——
甲壳虫师
·
2023-06-18 08:53
性能测试
软件测试
测试工程师
HDFS 的健壮性体现在哪里?
常见的三种出错情况是
Namenode
出错、Datanode出错和网络割裂,HDFS提供了多种错误恢复手段,保障了系统的健壮性。1.磁盘数据错误,心跳检测和重新复制每个Datan
Shockang
·
2023-06-18 07:35
hdfs
hadoop
大数据
Hbase启动没有HMaster进程问题解决
目录1.问题2.解决2.1启动的报错(警告)2.2
NameNode
状态问题2.3日志机架感知报错3.问题解决1.问题之前已在虚拟机安装好了zookeeper和hdfs2.3.6,并确认这两个东西能正常使用
mizuhokaga
·
2023-06-18 07:30
报错集合
java
hadoop
hdfs
hadoop本地化windows部署
文章目录前言1.hadooponwindows1.1安装jdk1.2安装hadoop1.2.1解压1.2.2备用目录1.2.3修改配置1.2.4安装winutils-master1.2.5格式化
namenode
1.2.6
陈舟的舟
·
2023-06-17 23:03
大数据
hadoop
windows
大数据
【干货】ArcGIS的一些小技巧分享,值得学习!
2、ArcMap一些功能突然不能用卸载安装的第三方插件,参见上一个问题3、ArcMap
启动慢
删除Normal.mxt文件,具体方法:(1)删除地图模板,默认模板Win7路径:C:Users【当前登录用户名
树谷-胡老师
·
2023-06-17 19:24
教程
arcgis
学习
使用Kubeadm 部署 K8S 1.17.1
设置系统主机名以及hosts文件hostnamectlset-hostnamemasterhostnamectlset-host
namenode
01hostnamectlset-host
namenode
02
·
2023-06-17 13:38
万物云原生下的服务进化 | 京东云技术团队
导读:在万物云原生下的环境下,Java的市场份额也因耗资源、
启动慢
等缺点,导致在云原生环境里被放大而降低,通过这篇文章,读者可以更好地了解如何在云原生环境下通过升级相关版本和使用GraalVM打出原生镜像到方式
京东云技术团队
·
2023-06-17 07:25
云服务
云原生
京东云
java
GraalVM
镜像
上一页
15
16
17
18
19
20
21
22
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他