E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hdfs挂载
RHCE第一次作业
实验4:nfs自动
挂载
实验原理:当客户端有使用NFS文件系统的需求时才让系统自动
挂载
,而当NFS文件系统使用完毕后,让NFS自动卸载。
岩魈云散
·
2025-01-19 05:15
服务器
linux
网络
k8s mysql数据目录
挂载
_【kubernetes】k8s数据卷,pod
挂载
本地路径
环境:Linux服务器配置
挂载
目录思路:在部署pod的节点(宿主机)配置同样的
挂载
路径到一个固定的服务器(目标服务器),这样不管pod在哪里跑,文件的保存路径都是不变的1.安装sshfsyuminstall-ysshfs2
九罭之魚
·
2025-01-19 02:14
k8s
mysql数据目录挂载
使用 Hadoop 实现大数据的高效存储与查询
大数据技术:涵盖Hadoop(
HDFS
)、Hive、Spark、Fli
王子良.
·
2025-01-18 23:24
经验分享
大数据
hadoop
分布式
如何在服务器同一个端口下根据路径区分不同的应用
但一个主站下面可能有好几个子网站,我们如何通过路径来
挂载
子网站呢?nginx.conf配置使用nginx代理能够实现根据不同的路径,访问同一端口下的子网站。
三爷麋了鹿
·
2025-01-18 20:55
服务器
运维
hdfs
和hive对于小文件的处理方案
一、
hdfs
如何处理小文件小文件问题的危害小文件问题对
HDFS
的性能和稳定性产生显著影响,主要包括:占用过多的存储空间:每个小文件都会占用一个独立的Block,导致存储资源的浪费。
二进制_博客
·
2025-01-18 19:35
大数据
大数据-257 离线数仓 - 数据质量监控 监控方法 Griffin架构
目前已经更新到了:Hadoop(已更完)
HDFS
(已更完)MapReduce(已更完)Hive(已更完)Flume(已更完)Sqoop(已更完)Zookeeper(已更完)HBase(已更完)Redis
武子康
·
2025-01-18 10:29
大数据
离线数仓
大数据
数据仓库
java
后端
hadoop
hive
pyspark 中删除
hdfs
的文件夹
搜索了下资料,发现pyspark并没有提供直接管理
hdfs
文件系统的功能。寻找到一个删除的方法,是通过调用shell命令hadoopfs-rm-f来删除,这个方法感觉不怎么好,所以继续找。
TDengine (老段)
·
2025-01-18 09:21
大数据
spark
hadoop
hdfs
mapreduce
Python 爬虫:获取网页数据的 5 种方法
大数据技术:涵盖Hadoop(
HDFS
)、Hive、Spark、Fli
王子良.
·
2025-01-18 07:35
经验分享
python
python
开发语言
爬虫
Pinia的使用(VUE3+VITE)
官方地址https://pinia.vuejs.org/zh/安装npminstallpinia
挂载
插件import{createApp}from'vue'import{createPinia
itwlz
·
2025-01-18 03:03
vue.js
前端
javascript
采用海豚调度器+Doris开发数仓保姆级教程(满满是踩坑干货细节,持续更新)
目录一、采用海豚调度器+Doris开发平替CDH
Hdfs
+Yarn+Hive+Oozie的理由。
大模型大数据攻城狮
·
2025-01-17 19:56
海豚调度器从入门到精通
doris
海豚调度器
离线数仓
实时数仓
国产代替
信创大数据
flink数仓
vue 如何判断每次进入都会刷新页面
其中mounted钩子是在实例被
挂载
到DOM后调用的。可以在这个钩子中设置一个标志来标记页面是否已经被初始化。expo
东锋1.3
·
2025-01-17 18:18
vue.js
javascript
开发语言
ecmascript
深入
HDFS
——DataNode启动源码
首先,自然还是从元数据管理篇提到的DataNode类(org.apache.hadoop.
hdfs
.server.datanode.DataNode)开始。
黄雪超
·
2025-01-17 12:26
大数据基础
#
深入HDFS
hdfs
hadoop
大数据
深入
HDFS
——NameNode启动源码
引入前面我们已经对
HDFS
有了很多了解,但是光说不练假把式,今天开启深入源码的纯享模式,先来看看NameNode启动流程,在代码层面,到底是如何实现的。
黄雪超
·
2025-01-17 12:25
大数据基础
#
深入HDFS
hdfs
hadoop
大数据
Gitlab Runner安装与配置
Docker安装Gitlabrunner请确保runner版本和gitlab版本兼容以及docker相关版本兼容问题下载镜像dockerpullgitlab/gitlab-runner:v14.6.0创建
挂载
卷
·
2025-01-17 10:27
Spring Boot 和微服务:快速入门指南
大数据技术:涵盖Hadoop(
HDFS
)、Hive、Spark、Fli
王子良.
·
2025-01-17 09:56
Java
经验分享
spring
boot
微服务
后端
HDFS
在上传文件的时候,如果其中一个 DataNode 突然挂掉了怎么办? 思维导图 代码示例(java 架构)
当在
HDFS
中上传文件时,如果其中一个DataNode突然挂掉,
HDFS
有内置的机制来确保数据的完整性和可靠性。以下是详细的处理流程、Java架构代码示例以及创建思维导图的建议。
用心去追梦
·
2025-01-17 03:37
hdfs
java
架构
初学者如何用 Python 写第一个爬虫?
大数据技术:涵盖Hadoop(
HDFS
)、Hive、Spark、Fli
王子良.
·
2025-01-16 23:27
python
经验分享
python
开发语言
爬虫
一文教你实现前端自定义浮窗
这是因为文字提示框组件是直接
挂载
在body下的,所以它不受页面布局的影响,其它的弹窗组件也是类似的原理,例如:modal组件、对话框组件、mask组件、toast组件等。
·
2025-01-16 19:26
vue表单案例练习:vue表单创建一行数据及删除数据的实现与理解
==如何使用Vue:基本结构:1、引入Vue的核心JS文件2、准备Dom结构3、实例化组件通过el属性,
挂载
元素,绑定id为app的html元素通过data属性,定义数据,可以在html代码段中显示的数据
·
2025-01-16 15:30
nfs-ganesha(用户态NFS)编译、安装和使用
本篇介绍使用nfs-ganesha源码编译、安装,客户端使用用户态nfs协议
挂载
使用Ceph文件存储和对象存储的方法。
沙拉OK
·
2025-01-16 15:15
Ceph分布式存储
运维
ceph
nfs
经验分享
docker
Docker容器的文件系统是隔离的,但是可以通过
挂载
卷(Volumes)或绑定
挂载
(BindMounts)将宿主机的文件系统目录映射到容器内部。
igotyback
·
2024-09-16 09:43
eureka
云原生
nosql数据库技术与应用知识点
Nosql知识回顾大数据处理流程数据采集(flume、爬虫、传感器)数据存储(本门课程NoSQL所处的阶段)
Hdfs
、MongoDB、HBase等数据清洗(入仓)Hive等数据处理、分析(Spark、Flink
皆过客,揽星河
·
2024-09-16 08:42
NoSQL
nosql
数据库
大数据
数据分析
数据结构
非关系型数据库
CentOS 7官方源停服,配置本机光盘yum源
1、
挂载
系统光盘mkdir/mnt/isomount-oloop/tools/CentOS-7-x86_64-DVD-1810.iso/mnt/isocd/mnt/iso/Packages/rpm-ivh
码哝小鱼
·
2024-09-16 07:34
linux运维
centos
linux
运维
最简单将静态网页
挂载
到服务器上(不用nginx)
最简单将静态网页
挂载
到服务器上(不用nginx)如果随便弄个静态网页挂在服务器都要用nignx就太麻烦了,所以直接使用Apache来搭建一些简单前端静态网页会相对方便很多检查Web服务器服务状态:sudosystemctlstatushttpd
全能全知者
·
2024-09-16 05:46
服务器
nginx
运维
前端
html
笔记
浅谈MapReduce
但是Hadoop作为Apache的一个开源项目,在下面有非常多的子项目,比如
HDFS
,HBase,Hive,Pig,等等,要先彻底学习整个Hadoop,仅仅凭借一个的力量,是远远不够的。
Android路上的人
·
2024-09-16 04:40
Hadoop
分布式计算
mapreduce
分布式
框架
hadoop
Hadoop
Hadoop核心由四个主要模块组成,分别是
HDFS
(分布式文件系统)、MapReduce(分布式计算框架)、YARN(资源管理)和HadoopCommon(公共工具和库)。
傲雪凌霜,松柏长青
·
2024-09-16 00:16
后端
大数据
hadoop
大数据
分布式
Hadoop架构
HDFS
顺应时代出现,在解决大数据存储和计算方面有很多的优势。1.2案列前置知识点1.什么是大数据大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的大量数据集合,
henan程序媛
·
2024-09-16 00:14
hadoop
大数据
分布式
从单体到微服务:FastAPI ‘
挂载
’子应用程序的转变
通过“
挂载
”子应用程序,我们可以为不同的功能区域(如前端接口、管理员接口和用户中心)创建独立的应用程序,并将它们整合到一个主应用程序中。本文将详细介绍如何在FastAPI中使用“
挂载
”子应用程序的方
黑金IT
·
2024-09-15 21:36
fastapi
微服务
fastapi
架构
linux
挂载
文件夹
1.使用NFS(NetworkFileSystem)NFS是一种分布式文件系统协议,允许一个系统将其文件系统的一部分共享给其他系统。检查是否安装NFSrpm-qa|grepnfs2.启动和启用NFS服务假设服务名称为nfs-server.service,你可以使用以下命令启动和启用它:sudosystemctlstartnfs-server.servicesudosystemctlenablenf
小码快撩
·
2024-09-15 19:58
linux
hbase介绍
hbase是一个分布式的、多版本的、面向列的开源数据库hbase利用hadoop
hdfs
作为其文件存储系统,提供高可靠性、高性能、列存储、可伸缩、实时读写、适用于非结构化数据存储的数据库系统hbase利用
CrazyL-
·
2024-09-15 13:06
云计算+大数据
hbase
vue 两个弹窗时出现,打开第二个弹窗 是灰色的,再点击才是正常
如果你使用的是ElementUI,el-dialog组件有一个append-to-body属性,这个属性可以将弹窗的DOM直接
挂载
到body标签上,这样可以避免一些层级嵌套问题:
光影3415
·
2024-09-15 07:28
vue.js
javascript
前端
HBase介绍
HBase是GoogleBigtable的开源实现,它利用Hadoop
HDFS
作为其文件存储系统,利用HadoopMapReduce来处理HBase中的海量数据,利用Zookeeper作为协同服务。
mingyu1016
·
2024-09-14 21:47
数据库
配置 yum本地源
1.
挂载
mount/dev/sr0/mnt2.创建centos目录mkdir/opt/centos3.将
挂载
内容复制到centos目录下cp-rfv/mnt/*/opt/centos4.创建yum备份目录
linnux领域
·
2024-09-14 21:15
linux
vue3 内置组件<Teleport>
官方文档:Teleport内置组件将一个组件的模板内容渲染到指定的DOM节点位置,而不是在组件自身的
挂载
点。组件的参数说明:to:必填项。指定目标容器。可以是选择器或实际元素。
fishmemory7sec
·
2024-09-14 21:45
vue3
vue.js
前端
Tapable
Tapable库暴露了很多Hook(钩子)类,为插件提供
挂载
的钩子const{SyncHook,//同步钩子SyncBailHook,//同步熔断钩子即return一个非undefined的值,则不再继续执行后面的监听函数
信海利世
·
2024-09-14 19:33
webpack
webpack
前端
Linux+Docker:3分钟实现MinIO在线部署与Java集成
Linux下使用Docker安装MinIO1.拉取MinIO镜像dockerpullminio/minio2.创建
挂载
目录mkdir-p/opt/minio/datamkdir-p/optl/minio
码龄23年
·
2024-09-14 14:29
linux
docker
java
[ docker-ce源码分析系列 ] 修改resolv.conf文件被还原的原因
v18.09.22resolv.conf文件被还原的现象:容器中的/etc/resolv.conf文件,是由宿主机/var/lib/docker/containers/xxxx/resolv.conf文件
挂载
nangonghen
·
2024-09-14 07:18
docker
docker
【
HDFS
】【
HDFS
架构】【
HDFS
Architecture】【架构】
目录1Introduction介绍2AssumptionsandGoals假设和目标HardwareFailure硬件故障StreamingDataAccess流式数据访问LargeDataSets大型数据集SimpleCoherencyModel简单凝聚力模型“MovingComputationisCheaperthanMovingData”“移动计算比移动数据更便宜”PortabilityAc
资源存储库
·
2024-09-14 04:53
hdfs
架构
hadoop
Hadoop学习第三课(
HDFS
架构--读、写流程)
1.块概念举例1:一桶水1000ml,瓶子的规格100ml=>需要10个瓶子装完一桶水1010ml,瓶子的规格100ml=>需要11个瓶子装完一桶水1010ml,瓶子的规格200ml=>需要6个瓶子装完块的大小规格,只要是需要存储,哪怕一点点,也是要占用一个块的块大小的参数:dfs.blocksize官方默认的大小为128M官网:https://hadoop.apache.org/docs/r3.
小小程序员呀~
·
2024-09-14 03:53
数据库
hadoop
架构
big
data
hdfs
启动流程
Namenode1.init()namenode初始化,执行加载配置文件等操作2.loadFsImage()开始加载元数据将FsImage护额徐为目录树,保存在内存中FsImage中主要包含了问价你和数据块的对应关系3.loadEditlog()加载Editlog,将Editlog中记录的元数据修改应用到内存中;4.saveCheckpoint()将内存中最新的目录树持久化为新的FsImage到磁
weixin_44352020
·
2024-09-14 03:52
hadoop
hdfs
hadoop
hdfs
开机启动流程
第一步:加载name目录下最新的那个fsimage_xxx019文件,将里面存储的元数据(目录树结构)维护到内存中,但是还不是关机前的状态第二步:将关机前的最后使用的edits_inprogress_xxxx0160进行重命名edits_0000000000000000160-0000000000000000169操作,然后生成一个最新的edits_inprogress_xxx170文件,并修改s
鸭梨山大哎
·
2024-09-14 03:51
hadoop
hdfs
hadoop启动
HDFS
命令
启动命令:/hadoop/sbin/start-dfs.sh停止命令:/hadoop/sbin/stop-dfs.sh
m0_67401228
·
2024-09-14 03:49
java
搜索引擎
linux
后端
【
HDFS
主从集群】存在两个独立的问题和解决方案
主从集群存在两个独立的问题和解决方案单点“主”的两个独立的问题以下是解决方案HA高可用方案:解决单点故障导致集群整体不可用问题Federation联邦机制:解决NN压力过大问题总结一般很多技术都是主从结构(最简单的结构)优点:结构相对简单,主与从协作“主”是单点,好处有,缺点也有好处:单点NameNode,数据一致性好掌握 因为一个人管,说一不二的单点“主”的两个独立的问题关键词:独立:两套独立
流辉fglow
·
2024-09-14 03:48
大数据
#
HDFS
hdfs
java
hadoop
大数据
分布式
学习
【
HDFS
】角色的架构设计
HDFS
角色的架构设计前置知识:Windows与Linux文件系统的差异
HDFS
中的角色及功能
HDFS
的架构NameNodeDataNodeNameNode元数据的持久化说明:/表示两个词是同一语义,方便你理解的前置知识
流辉fglow
·
2024-09-14 03:47
#
HDFS
大数据
hdfs
hadoop
大数据
学习
分布式
HDFS
的启动过程
HDFS
的启动过程
HDFS
的启动过程分为四个阶段:第一阶段:NameNode读取包含元数据信息的fsimage文件,并加载到内存;第二阶段:NameNode读取体现
HDFS
最新状态的edits日志文件,
ffbc2020
·
2024-09-14 03:47
HDFS
HDFS
集群
hdfs
启动
1)各个模块分开启动/停止(配置ssh是前提)常用(1)整体启动/停止
HDFS
start-dfs.sh/stop-dfs.sh(2)整体启动/停止YARNstart-yarn.sh/stop-yarn.sh2
sxu~源
·
2024-09-14 03:46
hdfs
hadoop
big
data
spark常用命令
查看报错日志:yarnlogsapplicationIDspark2-submit--masteryarn--classcom.hik.Read
Hdfs
test-1.0-SNAPSHOT.jar进入$SPARK_HOME
我是浣熊的微笑
·
2024-09-13 10:38
spark
Docker启动Elasticsearch(
挂载
数据、配置文件、插件)
Docker启动Elasticsearch拉取镜像dockerpullelasticsearch:7.4.2修改配置文件mkdir-p/mydata/elasticsearch/configmkdir-p/mydata/elasticsearch/data/mkdir-p/mydata/elasticsearch/pluginsecho"http.host:0.0.0.0">>/mydata/el
程序员迪迦
·
2024-09-13 03:13
项目实战
Java
elasticsearch
docker
编程常用命令总结
编程命令大全1.软件环境变量的配置JavaScalaSparkHadoopHive2.大数据软件常用命令Spark基本命令Spark-SQL命令Hive命令
HDFS
命令YARN命令Zookeeper命令
Yellow0523
·
2024-09-13 02:42
Linux
BigData
大数据
Docker安装elasticsearch和kibana
1、首先拉取elasticsearch镜像dockerpullelasticsearch:7.9.12、创建docker
挂载
的目录我这里将docker环境下挂在的目录统一放在了/dockerdata目录下
viego1999
·
2024-09-13 02:38
elasticsearch
docker
大数据
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他