E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
ftp+分布式文件系统
实现分布式架构与云原生的操作流程--干货分享
3、分布式数据存储:采用分布式数据库或
分布式文件系统
来存储数据,避免单点故障。4、负载均衡和容错:采用负载均衡和容错机制,使得
奔向理想的星辰大海
·
2023-09-15 17:58
Docker
分布式存储
技术工具
分布式
架构
云原生
GFS
分布式文件系统
目录一、GlusterFS简介二、GlusterFS特点三、GlusterFS专业术语四、GFS的工作原理2、分布式gfs服务器存储五、GlusterFS的卷类型1、分布式卷2、条带卷3、复制卷4、分布式条带卷5、分布式复制卷六、部署GlusterFS集群实验1、准备环境(所有node节点上操作)2、安装、启动GlusterFS(所有node节点上操作)3、添加节点到存储信任池中(在node1节点
@_Orange—
·
2023-09-15 10:52
数据库
《十小时入门大数据》学习笔记之初识Hadoop
笔记内容概括Hadoop概述1.1Hadoop名字的由来1.2Hadoop介绍1.3Hadoop能做什么Hadoop核心组件2.1HDFS(
分布式文件系统
)2.2YARN(资源调度系统)2.3MapReduce
腊月的梅花
·
2023-09-15 08:36
SpringBoot整合minio
分布式文件系统
如果SpringBoot搭建还有问题,可以参考我的文章:https://blog.csdn.net/m0_51510236/article/details/113967278minio官方网站:https://min.io/程序包可以官网下载,本次演示的版本下载:https://download.csdn.net/download/m0_51510236/46165373运行步骤linux:#!/
XiaoHH Superme
·
2023-09-15 07:30
框架
文件系统
spring
boot
spring
Hadoop下载安装及HDFS配置教程
Hadoop实现了一个
分布式文件系统
(HadoopDistributedFileSystem),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供
Mekeater
·
2023-09-14 19:16
大数据
hadoop下载安装
hadoop配置
hdfs配置
hadoop单机版集群配置
hadoop安装教程
GFS
分布式文件系统
1、GlusterFS简介GlusterFS(GFS)是一个开源的
分布式文件系统
由存储服务器、客户端以及NFS/Samba存储网关(可选,根据需要选择使用)组成。
Mo_nor
·
2023-09-14 18:49
数据库
大数据上机基础—HDFS文件操作
本文为在校学习大数据课程期间,对厦门大学林子雨老师大数据技术原理与应用第三章
分布式文件系统
HDFS学习指南一文进行的整理,方便自己学习查看原文地址为大数据技术原理与应用第三章
分布式文件系统
HDFS学习指南操作系统为
Lucky-Niu
·
2023-09-14 17:14
hdfs
big
data
hadoop
实现fastdfs防盗链功能
1、背景我们可以通过fastdfs实现一个
分布式文件系统
,如果我们的fastdfs部署在外网,那么任何一个人知道了我们的上传接口,那么它就可以文件的上传和访问。
huan1993
·
2023-09-14 11:56
什么是Ulord的分布式存储?
Ulord网络中的所有节点构成一个面向全球的、点对点的
分布式文件系统
,将所有具有相同文件系统的计算设备连接在一起。每个文件及其中的所有分块都被赋予一个称为加密散列的唯一指纹。
yinyuanlin
·
2023-09-14 04:43
Java中的分布式计算框架有哪些?
它包括Hadoop
分布式文件系统
(HDFS)和MapReduce计算模型。ApacheSpark:一个快速、通用的大规模数据处理框架。它支持内存计算,可以在磁盘和内存中同时进行数
玥沐春风
·
2023-09-13 23:54
java
开发语言
揭秘
分布式文件系统
大规模元数据管理机制——以Alluxio文件系统为例
揭秘
分布式文件系统
大规模元数据管理机制1.
分布式文件系统
元数据的常见类型1.1文件(inode)元数据1.2数据块(block)元数据1.3MountTable1.4Worker元数据2.
分布式文件系统
元数据的存储模式
辭七七
·
2023-09-13 21:21
七七的闲谈
运维
网络
云原生
分布式
数据库管理员
GFS分布式存储
glusterFS简介GFS是一个
分布式文件系统
,只在扩展存储容量,提高性能,并且通过多个互联网络的存储节点的数据进行冗余,以确保数据的可用性和一致性GFS由三个部分组成:存储服务器客户端以及FNS/Samba
dkvhr
·
2023-09-13 13:55
分布式
GFS
分布式文件系统
GlusterFS概述:1.GlusterFS简介GlusterFS(GFS)是一个开源的
分布式文件系统
。由存储服务器、客户端以及NFS/Samba存储网关(可选,根据需要选择使用)组成。
M上去学习
·
2023-09-13 13:53
linux
Hadoop
Hadoop主要由HDFS(HadoopDistributedFileSystemHadoop
分布式文件系统
)、MapReduce和HBase组成Hadoop的初衷是为解决Nutch的海量数据爬取和存储的需要
凤舞飘伶
·
2023-09-12 23:16
Go
hadoop
HDFS常用命令操作
HDFS(HadoopDistributedFileSystem)是一种
分布式文件系统
,它具有高容错的特点,并且可以部署在廉价的通用硬件上,提高吞吐率的数据访问,适合那些需要处理海量数据集的应用程序。
lizb
·
2023-09-12 09:13
Hadoop的安装和使用,Windows使用shell命令简单操作HDFS
,2,
分布式文件系统
HDFS2,
分布式文件系统
HDFS1.HDFS简介Hadoop
分布式文件系统
(HadoopDistributedFileSystem,HD
星星失眠️
·
2023-09-12 08:16
大数据采集与预处理
hdfs
hadoop
大数据
Hadoop生态概述及常见报错
它包含两个模块,一个是MapReduce,另外一个是Hadoop
分布式文件系统
(HDFS)。MapReduce:它是一种并行编程模型在大型集群普通硬件可用于处理大型结构化,半结构化和非结构化数据。
WilenWu
·
2023-09-12 08:43
数据分析(Data
Analysis)
上传视频文件,基于断点续传(整合Minio)
目录1、什么是断点续传2、分块文件3、合并文件4、Minio
分布式文件系统
整合断点续传4.1进行文件分块上传到Minio4.2进行Minio中分块文件的合并5、使用Minio进行断点续传的注意事项相信很多小伙伴在上传下载图片或者视频的时候
迷迷的k
·
2023-09-11 09:10
Java
SpringCloud
java
spring
cloud
hadoop生态
分布式文件系统
管理网络中跨多台计算机存储的文件系统被称为
分布式文件系统
。注意:使文件系统能够容忍节点故障且不丢失任何数据应该如何做?H
今天比昨天努力
·
2023-09-11 09:07
【送书活动】揭秘
分布式文件系统
大规模元数据管理机制——以Alluxio文件系统为例
★★从0到英雄,vue成神之路★★uniapp-从构建到提升★★从0到英雄,vue成神之路★★解决算法,一个专栏就够了★★架构咱们从0说★★数据流通的精妙之道★★后端进阶之路★文章目录前言送书福利01
分布式文件系统
元数据的常见类型文件
雪碧有白泡泡
·
2023-09-10 23:18
粉丝福利活动
大数据
python
分布式文件系统
-Facebook haystack
0、
分布式文件系统
分布式文件系统
很常见,主要功能:存储文档、视频、图像等作为分布式表格系统的存储层这类系统很多,比如:国外系统:GFS-(GoogleFileSystem)、haystack(Fackbook
~千溪杂谈(随风而逝)~
·
2023-09-10 22:32
分布式系统与数据库理论
分布式
系统架构
【山河送书第九期】:揭秘
分布式文件系统
大规模元数据管理机制——以Alluxio文件系统为例
揭秘
分布式文件系统
大规模元数据管理机制——以Alluxio文件系统为例01
分布式文件系统
元数据的常见类型文件(inode)元数据数据块(block)元数据MountTableWorker元数据02
分布式文件系统
元数据的存储模式
以山河作礼。
·
2023-09-10 02:13
活动文章
python
分布式
大数据处理架构Hadoop生态系统,在各个模块的作用是什么?
之前一直以为大数据的东西就是来取代传统的Web应用的,其实并不是这样;即使是大数据的架构,应用层依然会是传统的web应用,但是会根据数据特点对数据存储(结构化数据依然会保存在传统的关系型数据库——如MySql,日志等非结构数据会保存在
分布式文件系统
qunqun8889
·
2023-09-09 21:46
大数据
大数据
大数据开发
大数据分析
大数据入门
Hadoop
大数据入门之基础知识
之前一直以为大数据的东西就是来取代传统的Web应用的,其实并不是这样;即使是大数据的架构,应用层依然会是传统的web应用,但是会根据数据特点对数据存储(结构化数据依然会保存在传统的关系型数据库——如MySql,日志等非结构数据会保存在
分布式文件系统
qq_44682761
·
2023-09-09 21:15
大数据学习
大数据开发
大数据
大数据入门
大数据工程师
大数据学习
大数据开发
大数据入门
大数据工程师
大数据学习 第一篇--基础知识入门篇
之前一直以为大数据的东西就是来取代传统的Web应用的,其实并不是这样;即使是大数据的架构,应用层依然会是传统的web应用,但是会根据数据特点对数据存储(结构化数据依然会保存在传统的关系型数据库--如MySql,日志等非结构数据会保存在
分布式文件系统
juan777
·
2023-09-09 21:14
大数据开发
Hadoop
编程语言
大数据开发
大数据分析
编程语言
大数据
Hadoop
HDFS:Hadoop文件系统(HDFS)
Hadoop文件系统(HDFS)是一个
分布式文件系统
,主要用于存储和处理大规模的数据集。HDFS是ApacheHadoop的核心组件之一,能够支持上千个节点的集群,并能够处理PB级别的数据。
Solitary_孤影照惊鸿
·
2023-09-09 06:39
Apache
Spark
计算机
/
人工智能
hadoop
hdfs
大数据
大数据技术之Hadoop:Yarn集群部署(七)
部署说明二、集群规划三、开始配置3.1MapReduce配置文件3.2YARN配置文件3.3分发配置文件四、集群启停4.1命令介绍4.2演示4.3查看YARN的WEBUI页面一、部署说明HadoopHDFS
分布式文件系统
何苏三月
·
2023-09-09 04:19
大数据技术
大数据
hadoop
分布式
java
揭秘
分布式文件系统
大规模元数据管理机制——以Alluxio文件系统为例
目录一、前言二、什么是
分布式文件系统
三、
分布式文件系统
元数据的常见类型3.1文件(inode)元数据3.2数据块(block)元数据3.3MountTable3.4Worker元数据四、
分布式文件系统
元数据的存储模式
Designer 小郑
·
2023-09-08 21:56
Flag
&
经验分享
分布式
云原生
元数据
大数据
文件系统
数据管理
浅谈数据仓库工具——Hive
前言Hadoop
分布式文件系统
(HDFS)因其高容错性、高吞吐量的特点,且适合部署在廉价的机器上,使其非常适合大批量数据的存储,但是如何快速地对HDFS上的文件进行统计分析操作呢?
数新网络
·
2023-09-08 04:04
hive
数据仓库
hadoop
Linux文件系统管理基础
reiserfs,jfs,swapswap:交换分区'光盘:isoWindows:fat32,ntfsUnix:FFS,UFS,JFS2网络文件系统:NFS,CIFS集群文件系统:GFS2,OCFS2
分布式文件系统
极地冰凌_25bf
·
2023-09-07 17:12
Ceph:一个 Linux PB 级
分布式文件系统
Ceph最初是一项关于存储系统的PhD研究项目,由SageWeil在UniversityofCalifornia,SantaCruz(UCSC)实施。但是到了2010年3月底,您可以在主线Linux内核(从2.6.34版开始)中找到Ceph的身影。虽然Ceph可能还不适用于生产环境,但它对测试目的还是非常有用的。本文探讨了Ceph文件系统及其独有的功能,这些功能让它成为可扩展分布式存储的最有吸引力
天狐云通讯八度
·
2023-09-07 08:50
大数据组件系列-Hadoop每日小问
HDFS即HadoopDistributedFileSystem,Hadoop
分布式文件系统
。
躺平的赶海人
·
2023-09-06 15:55
hadoop
hadoop
zookeeper
Chubby就是一个
分布式文件系统
,可解决分布式系统中的数据不一致问题。特性:1、最终一致性:为客户端展示统一视图,即所有客户端看到的数据都一致;2
Rcfee
·
2023-09-06 12:19
中间件
zookeeper
事务的优化
例子:举例:假设我们有一个文件上传的uploadFile方法,在这个方法中我们会先执行上传一个文件到
分布式文件系统
中的方法addMediaFilesToMinIO(),上传成功后执行文件资源数据入库的addMediaFilesToDb
那山川
·
2023-09-06 04:25
spring
数据库
解读MapReduce程序实例
MapReduce采用“分而治之”策略,一个存储在
分布式文件系统
中的大规模数据集,会被切分成许多独立的分片(split),这些分片可以被多个Map任务并行处理。
大禹编程扛把子
·
2023-09-05 14:03
关于hiveonSpark的错误问题
spark-env.sh.template/opt/module/spark/conf/spark-env.sh添加内容//有了SPARK_DIST_CLASSPATH配置信息以后,//Spark就可以把数据存储到Hadoop
分布式文件系统
叫我莫言鸭
·
2023-09-05 14:49
采集项目学习
Spark
hive
hive
spark
FastDFS
分布式文件系统
_Linux
文章目录一、
分布式文件系统
概述1.单机时代2.独立文件服务器3.
分布式文件系统
4.FastDFS5.FastDFS核心概念6.上传机制7.下载机制二、
分布式文件系统
实践1.环境搭建2.FastDFS指令操作总结
帅得真的是无敌了
·
2023-09-05 05:31
分布式
Linux部署安装
linux
服务器
运维
Java开发环境系列:FastDFS
分布式文件系统
搭建(linux)
libfastcommon3、下载安装FastDFS4、配置FastDFS跟踪器(Tracker)5、配置FastDFS存储(Storage)6、文件上传测试7、安装NGINXFastDFS是一个开源的高性能
分布式文件系统
codernavcom
·
2023-09-05 05:29
分布式文件服务器安装步骤,架构之路搭建FastDFS
分布式文件系统
原标题:架构之路搭建FastDFS
分布式文件系统
概述
分布式文件系统
:Distributedfilesystem,DFS,又叫做网络文件系统:NetworkFileSystem。
詹于
·
2023-09-05 05:29
分布式文件服务器安装步骤
FastDFS
分布式文件系统
(单机版)
2.FastDFS介绍FastDFSFastDFS是用c语言编写的一款开源的
分布式文件系统
。
Strugglezs
·
2023-09-05 05:29
java
Linux
fastdfs
基于Ubuntu搭建FastDFS
分布式文件系统
基于Ubuntu搭建FastDFS
分布式文件系统
)一、FastDFS简介二、FastDFS上传流程三、FastDFS下载流程四、FastDFS的单节点安装前准备五、开始安装1、环境搭建及核心包安装2、配置
ReoShine
·
2023-09-05 04:59
fastdfs
Java
分布式文件系统
linux
centos7 搭建 FastDFS
分布式文件系统
FastDFS
分布式文件系统
简介:FastDFS是一个开源的轻量级
分布式文件系统
,由跟踪服务器(trackerserver)、存储服务器(storageserver)和客户端(client)三个部分组成
♪生活有点甜
·
2023-09-05 04:58
linux
fastdfs
FastDFS
分布式文件系统
介绍及单机版安装
一、
分布式文件系统
分布式文件系统
(DistributedFileSystem)是一个软件/软件服务器,这个软件可以用来管理文件,但这个软件所管理的文件通常不是在一个服务器节点上,而是在多个服务器节点上,
生出来,我养!
·
2023-09-05 04:27
FastDFS
Spring Boot手把手教学(22): 如何从零搭建一个FastDFS
分布式文件系统
这个章节我们介绍如何搭建一个FastDFS
分布式文件系统
。FastDFS是一个开源的高性能
分布式文件系统
(DFS)。它的主要功能包括:文件存储,文件同步和文件访问,以及高容量和负载平衡。
解忧杂货铺Q
·
2023-09-05 04:55
大后端
大运维
spring
boot
fastdfs
java
分布式
nginx
FastDFS分布式文件存储服务器和Nginx
什么是FastDFSFastDFS是用C语言编写的一款开源的
分布式文件系统
。
strive_one
·
2023-09-05 04:53
fastdfs
【go-fastdfs】go-fastdfs
分布式文件系统
搭建
文章目录【go-fastdfs】go-fastdfs
分布式文件系统
搭建〇、缘起一、从头开始:FastDFS简介二、主角出场:go-fastdfs(go语言版本的FastDFS)1.介绍2.安装3.配置4
Richardlygo
·
2023-09-05 04:53
linux
golang
hadoop
大数据
FastDFS
分布式文件系统
简介及单机版安装步骤详解
FastDFS是一个开源的轻量级
分布式文件系统
,它对文件进行管理,功能包括:文件存储,文件同步,文件访问(文件上传,文件下载)等,解决了大容量存储和负载均衡的问题。
RobertoHuang
·
2023-09-05 04:53
FastDFS学习笔记
分布式文件系统
FastDFS
高性能
大数据-玩转数据-Hadoop+Storm与Spark架构方案比较
大数据-玩转数据-Hadoop+Storm与Spark架构方案比较Hadoop+Storm方案结构图Spark方案结构图Hadoop的数据处理工作在硬盘层面,借助HDFS(
分布式文件系统
),可以将架构下每一台电脑中的硬盘资源聚集起来
web17886480312
·
2023-09-04 22:46
java
hadoop
大数据
spark
分布式
mybatis
hadoop核心架构
通过对Hadoop分布式计算平台最核心的
分布式文件系统
HDFS、MapReduce处理过程,以及数据仓库工具Hive和分布式数据库Hbase的介绍,基本涵盖了Hadoop分布式平台的所有技术核心。
凉意先生
·
2023-09-04 06:38
分布式计算在云计算中的作用
本文主要从云计算分布式架构、
分布式文件系统
、分布式表格系统和分布式计算系统来讲述实现云计算特点的分布式计算。关键词:云计算,分布式计算,
EmmauelZ
·
2023-09-03 22:54
分布式
hadoop
上一页
7
8
9
10
11
12
13
14
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他