E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
ftp+分布式文件系统
一、什么是ceph以及ceph的应用
什么是ceph以及ceph的应用一、Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、
分布式文件系统
。
Hello world9212
·
2023-10-15 12:24
分布式
运维
大数据技术Hive详解
说明:Hive处理的数据存储在HDFS;Hive分析数据底层的实现是MapReduce;执行程序运行在Yarn上;1.
分布式文件系统
HDFS存储架构与
wespten
·
2023-10-15 12:04
Hadoop
Hive
Spark
大数据安全
hive
大数据
hadoop
Hadoop Hive sql 语法详解
Hive是基于Hadoop构建的一套数据仓库分析系统,它提供了丰富的SQL查询方式来分析存储在Hadoop
分布式文件系统
中的数据,可以将结构化的数据文件映射为一张数据库表,并提供完整的SQL查询功能,可以将
hong2511
·
2023-10-15 12:30
hive
语法
hadoop
详解
sql
走进HBase
什么是Hbase建立在Hadoop之上HDFS
分布式文件系统
,面向列的存储系统列式数据库是针对行数据库而言的,行式数据库是以一行数据作为一个存储单元,而列式数据库是以一列数据为一个存储单元,针对HBase
、小H
·
2023-10-15 09:41
hbase
TFS文件系统
TFS(TaobaoFileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的
分布式文件系统
,其设计目标是支持海量的非结构化数据的存储;TFS使用C++语言开发,需要运行在64bitLinuxOS
梦里花又落
·
2023-10-14 13:00
TFS
Hadoop生态圈:Hadoop的发展及其模块架构解析
Hadoop的设计目标是将存储和计算分离,并通过高容错性的
分布式文件系统
HDFS(HadoopDistributedFileSyst
禅与计算机程序设计艺术
·
2023-10-14 09:24
大数据AI人工智能
机器学习
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
【大数据】HDFS概述(学习笔记)
一、文件系统、
分布式文件系统
1、传统文件系统文件系统是一种存储和组织数据的方法,实现了数据的存储、分级组织、访问和获取等操作。文件系统使用树形目录的抽象逻辑概念代替了硬盘等物理设备使用数据块的概念。
rexhao_wmh
·
2023-10-14 08:45
大数据
hadoop
学习
【大数据】HDFS的使用与集群角色(学习笔记)
Hadoop提供了文件系统的shell命令行客户端hadoopfs[genericoptions]2、文件系统协议HDFSShellCLI支持操作多种文件系统,包括本地文件系统(file:///)、
分布式文件系统
rexhao_wmh
·
2023-10-14 08:45
大数据
hdfs
学习
【云计算】相关解决方案介绍
文章目录1.1云服务环境Eucalyptus1.1.1介绍1.1.2开源协议及语言1.1.3官方网站1.2开源云计算平台abiCloud1.2.1开源协议及语言1.2.2官方网站1.3
分布式文件系统
Hadoop1.3.1
软泡芙
·
2023-10-14 07:35
开发
云计算
解决方案
大数据Hadoop集群搭建-04安装配置HDFS
Hadoop集群搭建-03编译安装hadoopHadoop集群搭建-02安装配置ZookeeperHadoop集群搭建-01前期准备HDFS是配合Hadoop使用的
分布式文件系统
,分为namenode:
叫我懒猫
·
2023-10-14 04:32
Ceph初步了解和ceph集群搭建测试
Ceph初步了解和ceph集群搭建测试常用
分布式文件系统
HadoopFastDFSCephGlusterFSLustre(太老了)Ceph概述Ceph是一个
分布式文件系统
具有高扩展、高可用(默认3副本存储数据一个挂了还有两个
icnvd
·
2023-10-13 22:32
Linux
ceph
解读Genaro黄皮书之存储网络:分布式存储,让搜索更精准节能
他们通过集群应用、网络技术或
分布式文件系统
等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能。在互联网时期,这些功能给大家带来了很多便利。
rainy_he
·
2023-10-13 21:14
基于QKFile的闪电盘应用
QKFile的中文翻译为“夸克
分布式文件系统
”,是一种全新的超媒体分发协议,通过内容和标识来寻址,并支持创建完全分布式应用程序,旨在使全球网络更快,更安全,更开放。
少年已不年少201901
·
2023-10-13 20:27
Minio
分布式文件系统
学习笔记
docker单机安装服务端dockerrun-p9000:9000-p50000:50000--nameminio\-d--restart=always\-e"MINIO_ROOT_USER=admin"\-e"MINIO_ROOT_PASSWORD=xie@1234"\-v/opt/software/minio/data:/data\-v/opt/software/config:/root/.m
Gene兵
·
2023-10-13 13:25
java
学习笔记
minio
RDD(python
RDD创建从文件系统加载.textFile()支持本地文件系统
分布式文件系统
HDFS云端文件>>lines=sc.textFile("file:///usr/local/spark/mycode/rdd
KwokWyman
·
2023-10-12 21:01
python
hdfs
big
data
4-17(NFS深入学习)
NFS(networkfilesystem)主要用于不同网络之间用作数据共享的文件系统@@@@@NFS一般应用于中小型企业,大型企业一般使用更加复杂的
分布式文件系统
,如:MoosefsFlusterFSFastDFS
轨_迹
·
2023-10-12 00:32
阿里云——云数据库RDS
基于阿里云
分布式文件系统
和SSD盘高性能存储,RDS支持MySQL、SQLServer、PostgreSQL和MariaDBTX引擎,并且提供了容灾、备份、恢复、监控、迁移等方面的全套解决方案,帮助您解决数据库运维的烦恼
aliyunduoduo
·
2023-10-11 02:30
阿里云
数据库
mysql
服务器
网络
林子雨 慕课答案2021新版
CSDN博客第二章大数据技术原理与应用—第2讲大数据处理架构Hadoop(林子雨老师)课后习题_努力搬砖头的博客-CSDN博客_hadoop大数据技术原理与应用课后答案第三章大数据技术原理与应用—第3讲
分布式文件系统
S_h_a_
·
2023-10-10 23:40
计算机本科课程
大数据
go-fastdfs安装
go-fastdfs最简单、可靠、高效的
分布式文件系统
官方文档installdockergo-fastdfs安装#search命查找镜像dockersearchgo-fastdfs#pull镜像dockerpullgo-fasdfs
GUIN蚂蚁
·
2023-10-09 14:28
分布式文件系统
HDFS(林子雨慕课课程)
文章目录3.
分布式文件系统
HDFS3.1
分布式文件系统
HDFS简介3.2HDFS相关概念3.3HDFS的体系结构3.4HDFS的存储原理3.5HDFS数据读写3.5.1HDFS的读数据过程3.5.2HDFS
几窗花鸢
·
2023-10-09 00:47
大数据应用
hadoop
hdfs
hadoop
大数据
【Hadoop】HDFS——
分布式文件系统
文章目录一、Hadoop
分布式文件系统
架构1概念1.1文件存放在一个磁盘上效率低1.2字节数组1.3切分数据1.4拼接数据1.5偏移量1.6数据存储的原理2.Block拆分标准2.1拆分的数据块需要等大
嗯,哦,呵呵。
·
2023-10-08 07:21
大数据
fastFDS概述和使用
SpringBoot-fastFDS是一个集成了FastDFS
分布式文件系统
的框架,可以方便地实现文件上传和下载。
wenyqing
·
2023-10-07 20:08
后端
java
开发语言
spring
大数据软件系统开发框架
1.ApacheHadoop:Hadoop是一个开源的分布式数据存储和处理框架,它包括Hadoop
分布式文件系统
(HDFS)和MapReduce编程模型。Hadoop可以处理大规模数据集的
defdsdddev
·
2023-10-07 15:54
大数据
大数据的生态圈
首先,我先带大家看下整个的hadoop的生态圈2针对每一个组件,我们进行详细的介绍:1、HDFS(Hadoop
分布式文件系统
)源自于Google的GFS论文,发表于2003年10月,HDFS是GFS克隆版
myHope2017
·
2023-10-06 18:41
T-12-云计算 | Google
分布式文件系统
GFS
1.GFS的系统架构GFS的系统架构GFS将系统节点分为三个部分:GFS系统节点2.GFS的实现机制:客户端首先访问Master节点,获取交互的ChunkServer信息,然后访问这些ChunkServer,完成数据存取工作。这种设计方法实现了控制流和数据流的分离。Client与Master之间只有控制流,而无数据流,极大地降低了Master的负载。Client与ChunkServer之间直接传输
月影诉残心
·
2023-10-05 20:04
在大数据相关技术中,HBase是个分布的、面向列的开源数据库,是一个适合于非结构化数据存储的数据库。
HDFS,适合运行在通用硬件上的
分布式文件系统
,是一个高度容错性的系统,适合部署在廉价的机器上。Hbase,是一个分布式的、面向列的开源数据库,适合于非结构化数据存储。
晨晨渝奇
·
2023-10-05 09:18
大数据
数据库
hbase
大数据学习之HDFS基础
一、HDFS介绍基本介绍HDFS的全称是HadoopDistributedFileSystem,Hadoop的
分布式文件系统
是一种允许文件通过网络在多台主机上分享的文件系统,可以让多台机器上的多个用户分享文件和存储空间
不是毛毛虫cl
·
2023-10-05 05:41
大数据
hdfs
big
data
hadoop
【译】Apache Hadoop 系列之三(用户指南)
目的该文档是用户使用Hadpoop
分布式文件系统
(HDFS)的起点,不管是作为hadoop集群的一部分来使用还是独立的通用
分布式文件系统
。
Kooola大数据
·
2023-10-04 16:02
BigData导论
发展历史2004年,Google三驾马车,
分布式文件系统
GFS、大数据分布式计算框架MapReduce、NoSQL数据库系统BigTable2006年,DougCutting(lucene的作者)根据论文原理初步实现了类似
Youth_C&B
·
2023-10-04 14:41
大数据
big
data
hadoop
mapreduce
hadoop面试题!这6个!经常问!
简而言之,Hadoop由以下部分组成:HDFS(Hadoop
分布式文件系统
):HDFS允许您以分布式和冗余的方式存储大量数据。
yoku酱
·
2023-10-03 17:41
GFS
分布式文件系统
目录GlusterFS概述GlusterFS简介GlusterFS特点GlusterFS术语模块化堆栈式架构GlusterFS的工作流程弹性HASH算法GlusterFS的卷类型部署GlusterFS群集关闭防火墙磁盘分区,并挂载修改主机名,配置/etc/hosts文件安装、启动GlusterFS(所有node节点上操作)创建分布式卷创建条带卷创建复制卷创建分布式条带卷创建分布式复制卷部署Glus
风落成风寻未至
·
2023-10-03 17:12
服务器
数据库
大数据
转载:如何提升磁盘IO性能
FastDFS是一个开源且高效的
分布式文件系统
。它的初始实现,文件以散列模式随机分布到多个目录,后来又添加了顺序存储实践。通
微微笑_198111
·
2023-10-03 15:34
分布式文件存储系统Minio实战
分布式文件系统
应用场景互联网海量非结构化数据的存储需求电商网站:海量商品图片视频网站:海量视频文件网盘:海量文件社交网站:海量图片1.Minio介绍MinIO是一个基于ApacheLicensev2.0
小鱼儿&
·
2023-10-03 08:53
分布式
架构师必读:
分布式文件系统
原理与架构
为了解决这一难题,
分布式文件系统
(DistributedFileSystem)应运而生。
分布式文件系统
是指将存储文件的方式从单个服务器扩展到多台服务器上,解决文件存储和处理的性能
禅与计算机程序设计艺术
·
2023-10-03 03:33
Python
机器学习
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
配置 FastDFS Java 客户端
学习完整课程请移步互联网Java全栈工程师本节视频【视频】Dubbo实现微服务架构-
分布式文件系统
-FastDFSJava客户端创建项目创建一个名为myshop-service-upload的服务提供者项目安装
撸帝
·
2023-10-03 02:31
组件分享之后端组件——一个简单且高度可扩展的
分布式文件系统
seaweedfs
组件分享之后端组件——一个简单且高度可扩展的
分布式文件系统
seaweedfs背景近期正在探索前端、后端、系统端各类常用组件与工具,对其一些常见的组件进行再次整理一下,形成标准化组件专题,后续该专题将包含各类语言中的一些常用组件
cn華少
·
2023-10-02 04:55
Gluster Fs(一)基础知识介绍
基础知识铺垫(什么是
分布式文件系统
?)
frederickhou
·
2023-10-02 02:33
Hadoop 系列(一)——
分布式文件系统
HDFS
一、介绍HDFS(HadoopDistributedFileSystem)是Hadoop下的
分布式文件系统
,具有高容错、高吞吐量等特性,可以部署在低成本的硬件上。
heibaiying
·
2023-10-01 13:27
基于夸克区块链的QKFile带来全新解决方案
QKFile的中文翻译为“夸克
分布式文件系统
”,是一种全新的超媒体分发协议,通过内容和标识来寻址,并支持创建完全分布式应用程序,旨在使全球网络更快,更安全,更开放。
少年已不年少201901
·
2023-10-01 03:27
Hadoop3.x组件HDFS入门
HDFS主要为了解决大数据如何存储的问题,是一种能够在普通硬件上运行的
分布式文件系统
。
文景大大
·
2023-09-30 21:06
大数据知识图谱笔记
没有什么是一张图解决不了的,如果有就再画一张目录1集成平台2
分布式文件系统
3Hadoop生态圈4Spark生态圈5数据存储访问6实时流处理7搜索引擎(Lucence)8文件格式9压缩
*沧海明月*
·
2023-09-29 06:59
大数据
hadoop
spark
大数据
hive
hdfs
介绍大数据处理架构Hadoop以及其生态系统
Hadoop简介Hadoop是一个开源的、可运行于大规模集群上的分布式计算平台,它实现了MapReduce计算模型和
分布式文件系统
HDFS等功能,在业内得到了广泛的应用,同时也成为大数据的代名词,借助于
转身丶即天涯
·
2023-09-29 04:40
FastDFS详解
FastDFS是一个开源的高性能
分布式文件系统
(DFS),主要解决海量数据存储问题,特别适合中小文件(建议范围:400K~500M)为载体的在线服务。
hadoop_a9bb
·
2023-09-28 21:35
分享55个C源码源代码总有一个是你想要的
pwd=8888提取码:88881.项目名称apachesubversion版本控制系统v1.10.3Ceph
分布式文件系统
v17.2.5clip命令行插图处理器v0.8curve分布式存储系统v1.2.6curve
zdh13370188237
·
2023-09-28 14:34
源码
开发语言
分享55个C源码源代码总有一个是你想要的
pwd=8888提取码:88881.项目名称apachesubversion版本控制系统v1.10.3Ceph
分布式文件系统
v17.2.5clip命令行插图处理器v0.8curve分布式存储系统v1.2.6curve
zdh13370188237
·
2023-09-28 14:34
c语言
开发语言
一、大数据技术基础——
分布式文件系统
HDFS
目录1.引入1.1.传统存储系统面临的难题1.2.解决之道2.Hadoop集群架构3.HDFS1.03.1.概念3.2.Block块3.3.NameNode维护文件:fsimage与editlog3.4.DataNode3.5.HDFS1.0架构的局限性3.6.SecondaryNamenode4.HDFS2.04.1.HA架构4.2.联邦架构5.HDFS读写入数据流程5.1.写入数据流程5.2.
百颂伊
·
2023-09-28 02:48
大数据技术基础学习笔记
hadoop
大数据
HDFS 基础
HDFSHDFShadoop
分布式文件系统
解决目标超大文件流式数据访问商用软件(兼容廉价的硬件设备/强大的跨平台兼容性)HDFS局限性不适合低延迟数据访问(实时性不高)无法高效存储大量小文件(索引结构庞大后搜索效率降低
JM68
·
2023-09-27 13:44
Hadoop笔记(一)
在大数据领域提出了两个概念:
分布式文件系统
,用于存储大量的数据分布式计算框架MapReduce,高效地分析数据以上两个概念组成了一个名词叫HadoopHadoop的起源谷歌发布了三篇论文:GFS分布式存储系统
lew1sss
·
2023-09-27 08:50
云计算与大数据第12章 商用云计算平台习题带答案
第12章商用云计算平台习题选择题1、下面不属于AWS云计算平台的组件的是(D)A.Amazon弹性计算云B.
分布式文件系统
DynamoC.简单存储服务S3D.PolarDB数据库2、AWS云计算平台中的组件
高校知识店铺合集汇总
·
2023-09-27 07:17
云计算
数据库
java
HDFS数据读写过程及编程实例
1°FileSystem被
分布式文件系统
HDFS继承,实现DistributedFileSystem子类;2°通过Http的方式去访问相关文件;3°通过FTP的方式去读写文件。
浅沫~
·
2023-09-27 06:15
hdfs
hadoop
big
data
上一页
5
6
7
8
9
10
11
12
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他