E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
namenode双机热备
启动hive时报: Call From hadoop /192.168.1.128 to hadoop :9000 failed on connection
core-site.xml文件配置时,目录写错,导致无法正确找到
namenode
相关信息,修改后保存解决办法:格式化
namenode
进入hadoop/bin输入命令格式化hadoop
namenode
-format
M_y_y
·
2023-11-08 23:58
linux
异常解决
Automatic failover is enabled for
NameNode
at PS-DEVICE-ID-YDGZ-112012/10.198.112.12:8020 Refusing t
记一次
namenode
主备节点中主节点的数据盘的磁盘坏掉,备份节点并没有自动切换为active的处理一,情况二,执行强制转换为active.
不吃饭的猪
·
2023-11-08 16:20
hadoop
利用Keepalived实现
双机热备
详解
一、Keepalived
双机热备
基础知识1.Keepalived概述Keepalived起初是专门针对LVS设计的一款强大的辅助工具,主要用来提供故障切换和健康检查功能——判断LVS负载调度器、节点服
人间不值得-
·
2023-11-08 01:10
Linux群集
监控及自动化运维
linux脚本实现
双机热备
,Keepalived 实现
双机热备
原理首先有一个虚拟ip暴露给客户端,虚拟ip对应的mac地址为一台真实服务器,即用户向虚拟ip发送一个请求,该请求会被分发到真实服务器上。现在有2台真实服务器,一台master,一台backup,master和backup上都运行着keepalived,当master挂了的时候,backup检测之后,自己成为master,且arp缓存虚拟ip对应的mac地址将变为backup的mac地址,这样请求
jie sherry
·
2023-11-08 01:40
linux脚本实现双机热备
centos7双机搭建_CentOS 7 配置 Keepalived 实现
双机热备
前言Keepalived是集群管理中保证集群高可用的一个服务软件,其功能类似于heartbeat,用来防止单点故障。本例演示CentOS7下安装和配置Keepalived的基本步骤。Keepalived是以VRRP(VirtualRouterRedundancyProtocol,虚拟路由冗余协议)协议为实现基础的,这个协议可以认为是实现了路由器高可用的协议,将多台提供相同功能的路由器组成一个路由器
weixin_39965490
·
2023-11-08 01:10
centos7双机搭建
Nginx + keepalived 实现
双机热备
Nginx+keepalivedkeepalived简介Keepalived是一个基于VRRP协议来实现的服务高可用方案,可以利用其来避免IP单点故障,类似的工具还有heartbeat、corosync、pacemaker。但是它一般不会单独出现,而是与其它负载均衡技术(如lvs、haproxy、nginx)一起工作来达到集群的高可用。VRRP协议VRRP全称VirtualRouterRedund
无与伦比jia
·
2023-11-08 01:09
linux
Nginx
服务器
Nginx
Keepalived
嵌入式系统使用keepalived实现
双机热备
功能
嵌入式系统使用keepalived实现
双机热备
功能
双机热备
双机热备
指基于高可用系统中的两台服务器的热备(或高可用),其工作原理是实现故障隔离,简单的讲,高可用(热备)就是一种利用故障点转移的方式来保障业务连续性
YuChaoGO
·
2023-11-08 01:09
嵌入式系统
嵌入式系统
keepalived
双机热备
xilinx
交叉编译
java教程keepalived实现
双机热备
Keepalived是Linux下一个轻量级别的高可用解决方案。高可用(HighAvalilability,HA),其实两种不同的含义:广义来讲,是指整个系统的高可用行,狭义的来讲就是之主机的冗余和接管,它与HeartBeatRoseHA实现相同类似的功能,都可以实现服务或者网络的高可用,但是又有差别,HeartBeat是一个专业的、功能完善的高可用软件,它提供了HA软件所需的基本功能,比如:心跳
重庆千锋
·
2023-11-08 01:37
Java技术
编程程序
IT行业
浅入浅出keepalived+mysql实现高可用
双机热备
当数据库发生宕机的情况,要求应用系统实现高可用,应用系统不会受到影响,需要对mysql进行
双机热备
实现数据库的高可用。
ldcaws
·
2023-11-08 01:06
mysql
mysql
双机热备
keepalived
使用Keepalived实现
双机热备
,实现服务高可用
安装(所有节点)yum-yinstallkeepalived修改配置vi/etc/keepalived/keepalived.conf:setnu//显示行号:35dG//删除35行以后的所有行ipa将master1虚拟机挂起,再次执行ipa看vip是否漂移到另一台虚拟机worker1漂移了,表示keepalived配置启动成功了!Nginx整合keepalived让keepalived除了监控网
Sunny_yiyi
·
2023-11-08 01:33
Linux
Nginx
Shell脚本
linux
运维
Hadoop从入门到入土(第五天)
目录一、集群部署规划二、群起集群一、集群部署规划
namenode
和Scondary
NameNode
不要装在同一服务器ResourceManager也消耗内存,不要和
NameNode
.Secondary
NameNode
南城守护
·
2023-11-07 22:56
hadoop
hdfs
big
data
Hadoop知识点全面总结
文章目录什么是HadoopHadoop发行版介绍Hadoop版本演变历史Hadoop3.x的细节优化Hadoop三大核心组件介绍HDFS体系结构
NameNode
介绍总结Secondary
NameNode
小崔的技术博客
·
2023-11-07 08:40
大数据学习
hadoop
大数据
分布式
游戏服务器集群维护,游戏服务器集群
为了确保
NameNode
日常数据安全,或
weixin_39621860
·
2023-11-06 17:29
游戏服务器集群维护
Zookeeper监控机制
Zookeeper是有⼀个⼼跳监控机制存在的,⼀般都是每隔2秒就⼼跳⼀下来确认Controller是否还存活,如果不存在的话就会把资源节点让给其他的Controller,这个⼼跳检测机制是⽐较常⻅的,⽐如HDFS的
NameNode
冷艳无情的小妈
·
2023-11-06 11:23
java
大数据
开发语言
zookeeper
kafka
2020-04-21
setrep设置HDFS中文件的副本数量[
[email protected]
]$hadoopfs-setrep10/sanguo/shuguo/kongming.txt这里设置的副本数只是记录在
NameNode
Map_Reduce
·
2023-11-06 02:57
Connection refused; For more details see: http://wiki.apache.org/hadoop/ConnectionRefused
jps下发现
namenode
在启动时出错了,没有启动起来jps2627DataNode2884Secondary
NameNode
3267NodeManager3042ResourceManager3891Jps
weixin_30329623
·
2023-11-05 23:16
大数据
操作系统
运维
windows 10系统下安装Hadoop
解压hadooponwindows-master4、将hadooponwindows-master的文件夹bin和etc直接覆盖hadoop的文件夹bin和etc5、新建data(里面再建2个子文件夹
namenode
qq_52771580
·
2023-11-05 23:44
hadoop
hadoop
windows
10
关于出现hadoop102拒绝连接
自己通过使用jps查看到hadoop102上没有
namenode
服务启动然后自己通过使用myhadoop.shstop停止hdfs和yarn(myhadoop.sh是自己编写启动和关闭hdfs和yarn
总会有天明
·
2023-11-05 22:28
问题报错
hadoop
big
data
hadoop启动出错 The value of property bind.address must not be null
hadoop安装************************************************************/21/11/1715:15:56INFO
namenode
.
NameNode
我从远处聆听你
·
2023-11-05 20:17
大数据
测试用例
单元测试
大数据
hadoop
【云原生 | kubernetes】kubeadm部署kubernetes(k8s)1.25.2基于containerd
kubernetes(k8s)1.25.2基于containerd所有节点修改主机映射master节点hostnamectlset-hostnamemasterbashnode节点hostnamectlset-host
namenode
01bashnode
啥也学不会的鸣
·
2023-11-05 19:52
kubernetes运维
1024程序员节
云原生
kubernetes
containerd
kubeadm
java.lang.IllegalArgumentException: java.net.UnknownHostException:XXX 已解决
在安装过程中出现这样的问题,主要是在HDFS的hdfs-site.xml中添加相应的参数:dfs.client.failover.proxy.provider.nsorg.apache.hadoop.hdfs.server.
namenode
.ha.ConfiguredFailoverProxyProvider
Han_Lin_
·
2023-11-05 03:21
java
hive
hadoop
HDFS Yarn HA架构图及架构区别
HDFSHA架构图HDFSHA架构图.jpg1.各组件说明activenn(
NameNode
)接收client的rpc请求并处理,同时自己editlog写一份,也向JN的共享存储上的editlog写一份
cllblogs
·
2023-11-04 18:36
超详解Hadoop集群环境配置,步步附有截图,一篇讲解清楚
,并且已经在机器上安装完了Hadoop,以及编写了一些必要的集群脚本,具体操作详情见这两篇文章Hadoop安装及集群脚本编写Hadoop集群准备环境搭建一、Hadoop集群配置1)集群部署规划注意:①
NameNode
牧码文
·
2023-11-04 11:27
hadoop
hadoop
big
data
hadoop配置文件自检查(解决常见报错问题,超级详细!)
2.是否遗的将文件夹(Hadoop安装文件夹,/data数据文件夹)chown授权到hadoop用户这个操作3.是否遗忘了格式化hadoop这一步(hadoop
namenode
-format)4.是否是以
syst1m'
·
2023-11-04 11:55
大数据
hadoop
eclipse
java
hadoop进程启停管理(看这一篇就足够了!)
一键启停脚本HadoopHDFS组件内置了HDFS集群的一键启停脚本$HADOP_HOME/sbin/start-all.sh,一键启动HDFS集群执行原理:在执行此脚本的机器上,启动Secondary
NameNode
syst1m'
·
2023-11-04 11:54
大数据
hadoop
大数据
分布式
企业网络安全架构设计之IPSec VPN应用配置举例
分支机构外网配置防火墙外网地址配置防火墙NAT配置防火墙安全策略配置防火墙路由配置6.互联网路由器配置【R1】接口IP地址配置7.总部内外网配置LSW3交换机配置FW2防火墙基础配置FW3防火墙基础配置防火墙
双机热备
配置
Dark Apostle
·
2023-11-04 09:36
web安全
网络
安全
一、修改Ubuntu的IP
node2、node3,内存分别为4G、2G、2G,现存最好为(>40G),如下:2、修改主机名分别打开三台虚拟机,root用户输入一下命令:node1虚拟机输入:hostnamectlset-host
namenode
1node2
弦之森
·
2023-11-04 05:14
Hadoop
hadoop
大数据
分布式
HDFS原理篇
要想将技术准确用在恰当的地方,必须对技术有深刻的理解4.1概述HDFS集群分为两大角色:
NameNode
、DataNode
NameNode
负责管理整个文件系统的元数据D
NickYS
·
2023-11-04 01:50
大数据Hadoop面试题(二)——HDFS
DataNode负责数据存储4、Secondary
NameNode
的目的是什么?他的目的使帮助
NameNode
合并编辑日志,减少
NameNode
启动时间5、文件大小设置,增大有什么影响?
蓦然1607
·
2023-11-02 22:53
Kubernetes(K8S)之学废了(五):Pod详解
imagePullPolicy启动命令command环境变量ENV(了解)端口设置containerPort资源配置resourcesPod的生命周期创建和终止初始化容器钩子函数容器探测重启策略Pod的调度概述定向调度Node
NameNode
Selector
lonTano_cx330
·
2023-11-02 19:55
kubenetes
Docker
kubernetes
docker
HDFS- 架构图详细解析
HDFS:我们至少应该学习以下内容Hdfs架构设计Hdfs优缺点Hdfs如何读取文件Hdfs如何写入文件Hdfs副本存放策略hdfs访问命令Hdfs数据复制Hdfs空间回收
Namenode
的热备NN&2NN
piepis
·
2023-11-02 15:00
大数据-Hadoop脉络
hdfs
架构图
hadoop
HDFS 读写架构
一、组成架构1、
NameNode
(NN):集群的Master,它是一个主管,管理者(1)管理HDFS的命名空间(2)配置副本策略(3)管理数据块(Block)映射信息(4)处理客户端读写请求2、DataNode
Agatha方艺璇
·
2023-11-02 15:55
大数据
Hadoop
hdfs
架构
hadoop
简单了解
NameNode
的ZKFC机制
[HADOOP]简单了解
NameNode
的ZKFC机制
NameNode
的HA可以个人认为简单分为共享editLog机制和ZKFC对
NameNode
状态的控制问题:一般导致
NameNode
切换的原因ZKFC
songsongJ
·
2023-11-02 10:07
4 HDFS常用命令 2018-05-24
1.jps命令,查看进程[hadoop@hadoop003~]$jps2034
NameNode
2148DataNode2633NodeManager5129Jps2521ResourceManager2364Secondary
NameNode
lizhigang
·
2023-11-02 05:28
Hadoop PseudoDistributed Mode 伪分布式
HadoopPseudoDistributedMode伪分布式加粗样式hadoop101hadoop102hadoop103192.168.171.101192.168.171.102192.168.171.103
namenode
secondary
namenode
recourcemanagerdatanodedatanodedatanodenodemanagernodemanagernodeman
李昊哲小课
·
2023-11-02 05:06
数据分析
大数据
Hadoop
分布式
hadoop
大数据
CentOS 搭建 Hadoop3 高可用集群
HadoopFullyDistributedMode完全分布式spark101spark102spark103192.168.171.101192.168.171.102192.168.171.103
namenode
namenode
journalnodejournalnodejournalnodedatanodedatanodedatanodenodemanagernodemanagernodem
李昊哲小课
·
2023-11-02 05:58
Hadoop
大数据
数据分析
centos
linux
运维
大数据
hadoop
基于Mysql与Redis数据库集群的前端项目搭载与负载均衡
文章目录前言部署配置创建3节点的Nginx,部署前端项目节点1节点2节点3配置负载均衡宿主机/home/ff1/nginx.conf配置文件宿主机/home/ff2/nginx.conf配置文件配置
双机热备
黛色翩翩
·
2023-11-02 04:23
基于Mysql与Redis集群上的后端项目搭载与负载均衡
文章目录前言部署数据库部署tomcat部署Maven进行工程的打包运行java容器部署后台项目nginx单个nginx多nginx使用keepalived来实现nginx的
双机热备
后记结语前言前面完成了对
黛色翩翩
·
2023-11-02 04:52
MySQL
spring
boot
Hadoop 面试知识点整理
3538154.htmlhttp://www.aboutyun.com/thread-5337-1-1.html一句话知识点负责HDFS数据存储:DatanodeHDfS中的block默认保存几份:默认3份通常与
NameNode
hakase_nano
·
2023-11-02 02:39
hdfs 读写过程
hdfs文件写入过程Client发起文件上传请求,通过RPC与
NameNode
建立通讯,
NameNode
检查目标文件是否已存在,父目录是否存在,返回是否可以上传Client请求第一个block该传输到哪些
吾为天帝乎
·
2023-10-30 16:36
spark集群配置
目录1.集群部署规划2.安装Spark3.文件配置4.分发文件5.启动集群6.查看集群1.集群部署规划表1-1集群部署规划主机名masterslave1slave2HDFS
NameNode
DataNodeSecondary
NameNode
DataNodeDataNodeYARNResourceManagerNodeManageNodeManageNodeManagerSparkMasterWork
EsmeZhao
·
2023-10-30 08:39
Spark
spark
HDFS(一)HDFS基本介绍
HDFS基本介绍HDFS的Master-Slave结构HDFS角色作用简介HDFS分块存储抽象成数据块的好处HDFS副本机制名字空间(NameSpace)
NameNode
功能DataNode功能机架感知原理
红叶゜
·
2023-10-30 07:27
学习笔记
#
HDFS
大数据
hdfs
大数据笔记-关于Cassandra的删除问题
Cassandra是Facebook开源的一个NoSQL数据库,它除了具备一般的NoSQL分布式数据库特点以外,最大的一个特点是去中心化架构设计,这和HadoopHDFS/HBase等不一样,比如HDFS分为
NameNode
鬓戈
·
2023-10-30 06:48
大数据
大数据
笔记
Elasticsearch (优化)重要配置
Elasticsearch一些参数参数名参数值说明cluster.nameelasticsearch配置ES的集群名称,默认值是ES,建议改成与所存数据相关的名称,ES会自动发现在同一网段下的集群名称相同的节点node.
namenode
Alienware^
·
2023-10-30 06:53
Elasticsearch
elasticsearch
Docker环境下的前后端分离部署与运维 脚本
《Docker环境下的前后端分离部署与运维》脚本文章目录《Docker环境下的前后端分离部署与运维》脚本一、Docker虚拟机常用命令二、安装PXC集群,负载均衡,
双机热备
三、PXC特别注意事项PXC的主节点和从节点分别代表什么意义
萧曵 丶
·
2023-10-30 03:23
Docker
Docker
Hadoop的一些常见错误解决方案
1、启动hadoop时没有
NameNode
的可能原因:(1)
NameNode
没有格式化(2)环境变量配置错误(3)Ip和hostname绑定失败2、搭建hadoop集群使用ssh不成功①查看防火墙②检查用户权限
魂落忘川犹在川
·
2023-10-30 00:00
大数据
Hadoop
Ambari删除节点
Decommissioned查看HDFSWEB页面,等待完成之前的数据之后的数据2.停止节点上所有组件3.删除节点在删除节点的命令行执行ambari-agentstop4.重启HDFS所有组件重启过程中可以看到
NameNode
字节侠
·
2023-10-29 22:10
大数据
Ambari
hdfs读写过程是怎样的?
.客户端通过调用FileSyste对象的open()方法来打开希望读取的文件,对于Hdfs来说,这个对象是DistributedFileSystem的一个实例,2.通过使用远程过程调用(RPC)来调用
namenode
乌拉乌拉儿
·
2023-10-29 14:34
Docker swarm 集群搭建
master10.10.10.32c2gnode0110.10.10.42c2gnode0210.10.10.52c2g主机名配置#master[root@master~]#hostnamectlset-hostnamemaster#node01[root@node01~]#hostnamectlset-host
namenode
01
萬萬萬v7
·
2023-10-29 08:42
docker
eureka
容器
大数据Hadoop、Hive、Kafka、Hbase、Spark等框架面经
大数据组件学习路线:阶段1:学习绿色箭头的知识点;阶段2:学习红色箭头的知识点;阶段3:学习蓝色箭头的知识点;1Hadoop1.1Hadoop1.x与Hadoop2.x的区别1.2HDFS架构(1)
NameNode
For Coding
·
2023-10-28 21:50
大数据
hadoop
hive
spark
flume
zookeeper
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他