E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
分布式文件
FastDFS
分布式文件
系统就是解决这些问题的!1.1什么是文件系统文件数据是如何存储的1.png1.2
分布式文件
系统一台电脑存储量有限,并且并发吞吐量也有限,如何提高性能?一吨货物,我要运送到吐
Yuanc丶
·
2023-10-30 17:21
hadoop组件及各自的功能
Hadoop=HDFS+Yarn+MapReduce+Hbase+Hive+Pig+…1.HDFS:
分布式文件
系统2.Yarn:分布式资源管理系统,3.MapReduce:Hadoop的编程框架4.Pig
ZK_0705
·
2023-10-30 10:17
大数据
hadoop
大数据
HDFS(一)HDFS基本介绍
分块存储抽象成数据块的好处HDFS副本机制名字空间(NameSpace)NameNode功能DataNode功能机架感知原理HDFS是HadoopDistributeFileSystem的简称,意为:Hadoop
分布式文件
系统
红叶゜
·
2023-10-30 07:27
学习笔记
#
HDFS
大数据
hdfs
大数据之 impala教程
换句话说,Impala是性能最高的SQL引擎(提供类似RDBMS的体验),它提供了访问存储在Hadoop
分布式文件
系统中的数据的最快方法。二、为什么选择Impala?Impal
种麦南山下
·
2023-10-30 07:45
hadoop
大数据
hadoop
hive
MongoDB简介
简介MongoDB是一个基于
分布式文件
存储的NoSQL数据库由C++语言编写,运行稳定,性能高旨在为WEB应用提供可扩展的高性能数据存储解决方案MongoDB特点模式自由:可以把不同结构的文档存储在同一个数据库里面向集合的存储
指尖舞者_3f01
·
2023-10-30 05:37
Mysql数据库分库分表实践
目前应用系统的最大瓶颈出现在数据库,主要是基于数据库的逻辑存储结构,和磁盘的物理特性决定了随机读取效率低下,无法靠简单磁盘阵列的扩展或者
分布式文件
系统,来提升性能。
Wengy.Xu
·
2023-10-29 15:31
数据库
mysql
数据库
MongoDB 的优点
文档结构的存储方式,能够更便捷地获取数据内置GridFS,支持大容量存储GridFS是一个出色的
分布式文件
系统,可以支持海量的数据存储。
65649e6a691f
·
2023-10-28 08:53
hadoop详解
HDFS:1.HDFS文件系统:HDFS是大数据开源框架hadoop的组件之一,全称(HadoopDistributedFileSystem),它是一个
分布式文件
系统,由多台服务器联合起来实现文件存储功能
不吃饭的猪
·
2023-10-28 07:46
hadoop
大数据
分布式
hadoop--HDFS基础(适合初学者)
文章目录1HDFS
分布式文件
系统基础1.1文件系统1.2
分布式文件
系统1.3HDFS简介1.4HDFS起源发展1.5HDFS设计目标1.6HDFS应用场景1.7HDFS重要特性2HDFSshell操作2.1HDFSshell
火 玄
·
2023-10-28 04:07
hadoop
hadoop
hdfs
大数据
Flink Streaming-Sink
文件系统连接器支持对本地文件系统或
分布式文件
系统的读取和写入。可以通过
hyunbar
·
2023-10-28 02:49
Flink
大数据
flink
big
data
hadoop
NVMe End-to-End Protection Information
NVMe协议里定义SSD控制器可以支持给每个逻辑块(也就是用户数据)增加额外的元数据,主机如何使用元数据区域自定义(如
分布式文件
系统的元数据),元数据最常见的用途之一是传递PI端到端保护信息(end-to-endprotectioninformation
eaglelau
·
2023-10-27 18:03
NVMe
SSD
服务器
淘宝
分布式文件
系统(四)-索引文件的定义
淘宝
分布式文件
系统(四)–>索引头文件的定义目录:1.简单说明整个模块各功能的实现2.具体的实现过程一、块的初始化1、生成主块文件根据id创建文件预分配空间2、生成索引文件根据id创建文件头部初始化-》
零二年的冬
·
2023-10-27 08:34
淘宝分布式文件存储系统
数据库
分布式
tfs
linux
服务器
c++
mongodb转实体对像_MongoDB DBObject和JavaBean实体转换
MongoDB是一个基于
分布式文件
存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。它的特点是高性能、易部署、易使用,存储数据非常方便。
霏阳
·
2023-10-27 02:46
mongodb转实体对像
Node学习笔记之MongoDB
一、简介1.1Mongodb是什么MongoDB是一个基于
分布式文件
存储的数据库,官方地址MongoDB:TheDeveloperDataPlatform|MongoDB1.2为什么选择Mongodb操作语法与
LL1018。
·
2023-10-26 16:53
Node学习
mongodb
node.js
javascript
前端框架
Hadoop3.0大数据处理学习2(HDFS)
两大特性:通透性、容错性
分布式文件
管理系统的实现很多,HDFS只是其中一种,HDSF不适合存储小文件。GFS、TFS。
Huathy-雨落江南,浮生若梦
·
2023-10-26 07:25
Hadoop
大数据
hdfs
hadoop
存储与数据库 | 字节青训营笔记
技术RAID出现的背景RAID0RAID1RAID0+1二、数据库1、难道数据库和存储系统不一样吗2、数据库vs经典存储三、主流产品剖析1、单机存储本地文件系统key-value存储2、分布式存储系统
分布式文件
系统分布式对象存储
卒获有所闻
·
2023-10-25 09:57
字节跳动青训营
数据库
缓存
后端
你想了解的
分布式文件
系统HDFS,看这一篇就够了
1、
分布式文件
系统计算机集群结构
分布式文件
系统把文件分布存储到多个节点(计算机)上,成千上万的计算机节点构成计算机集群。
与李_han
·
2023-10-25 01:48
学习笔记-MongoDB(命令增删改查,聚合,权限管理,索引,java使用)
MongoDB是一个基于
分布式文件
/文档存储的数据库,由C++编写,可以为Web应用提供可扩展、高性能、易部署的数据存储解决方案。
njnu@liyong
·
2023-10-24 20:12
学习笔记
Java
学习
笔记
mongodb
mongo
java使用
mogo
权限管理
mongo
命令
HDFS
分布式文件
系统设计原理
Hadoop
分布式文件
系统(HDFS)是一种被设计成适合运行在通用硬件上的
分布式文件
系统。HDFS是一个高度容错性的系统,适合部署在廉价的机器上。
zhaohong_bo
·
2023-10-24 19:34
学习笔记
HDFS
分布式文件系统
设计原理
分布式文件
系统设计主要关注几个方面
分布式文件
系统设计主要关注几个方面:设计特点、分布式能力、性能、容灾、维护和扩展、成本
分布式文件
系统主要关键技术:全局名字空间、缓存一致性、安全性、可用性、可扩展性其他关键技术:文件系统的快照和备份技术
iCoding91
·
2023-10-24 19:30
分布式
分布式文件系统
分布式
设计
Hadoop伪分布式集群笔记
1、基本介绍以下是从其他地方抄过来了,目的是对即将要学的东西做一个基本的了解HDFS(
分布式文件
系统):解决海量数据存储YARN(作业调度和集群资源管理框架):解决资源任务调度MAPREDUCE(分布式运算变成框架
爆炒八酱
·
2023-10-24 16:40
hadoop
hadoop
分布式
大数据
共享文件:硬链接和软链接
这些文件的分享是通过
分布式文件
系统、远程文件系统、分布式信息系统实现的。这些系统允许多个客户通过C/S模型共享网络中的服务器文件。现代常用的两
晚安丶
·
2023-10-24 15:58
操作系统
操作系统知识点总结(十三)共享文件(硬链接和软链接)
这些文件的分享是通过
分布式文件
系统、远程文件系统、分布式信息系统实现的。这些系统允许多个客户通过C/S模型共享网络中的服务器文件。现代常用的两
Wimb
·
2023-10-24 15:23
基础理论
操作系统
文件管理
【hadoop——HDFS操作常用的Shell命令】
1.Hadoop
分布式文件
系统(HadoopDistributedFileSystem,HDFS)是Hadoop核心组件之一,我们已经安装好了Hadoop2.7.1,其中已经包含了HDFS组件,不需要另外安装最基本的
所 爱
·
2023-10-24 14:34
hadoop
hadoop
hdfs
大数据中的
分布式文件
系统HDFS的选择题
一.单选题(共10题,50分)(单选题)
分布式文件
系统指的是什么?
不想做程序猿的员
·
2023-10-24 02:39
大数据
hdfs
hadoop
MinIO 介绍 与 FastDFS 对比
官网:https://www.minio.org.cn
分布式文件
系统概念
分布式文件
系统具有冗余性,大量数据分
一只小毛驴
·
2023-10-24 00:49
博客
spring
boot
go-fastdfs安装(国产
分布式文件
系统)
开源协议:Unlicense官网地址:https://sjqzhang.github.io/go-fastdfs/#vision安装:wget--no-check-certificatehttps://github.com/sjqzhang/go-fastdfs/releases/download/v1.3.1/fileserver-Ofileserver&&chmod+xfileserver&&
bj_wasin
·
2023-10-24 00:48
开发语言
后端
Redis学习笔记——NoSQL
商品的图片:采用
分布式文件
系统,如淘宝的TFS、Hadoop的HDFS、Google的GFS等。商品的关键字(搜索引擎):淘宝内用ISearch。商品的波段性的热点高频信息:内存数据库
从程序猿到程序员
·
2023-10-23 06:51
Redis
Hadoop HDFS
分布式文件
系统(介绍以及基础操作命令)
目录一、为什么需要分布式存储?二、分布式的基础架构分析三、HDFS基础架构1.HDFS简介四、HDFS集群启停命令1.一键启停脚本2.单进程启停五、HDFS基本操作命令1.创建文件夹2.查看指定目录下内容3.上传文件到HDFS指定目录下4.查看HDFS文件内容5.下载HDFS文件6.拷贝HDFS文件7.追加数据到HDFS文件中8.HDFS数据移动操作9.HDFS数据删除操作六、HDFS权限不足解决
菜鸟一千零八十六号
·
2023-10-23 05:25
大数据
hadoop
hdfs
大数据
高效存储大规模数据
分布式文件
系统
分布式文件
系统是一种将数据分布在多个节点上的存储系统。它提供了高可用性、可扩展性和容错性。
心之所向,或千或百
·
2023-10-23 01:47
大数据
大数据
分布式文件
系统介绍与minio介绍与使用(附minio java client 使用)
分布式文件
系统-minio:第一章:
分布式文件
系统介绍与minio介绍与使用(附miniojavaclient使用)第二章:minio&前后端分离上传视频/上传大文件——前后端分离断点续传&minio分片上传实现文章目录
是谢添啊
·
2023-10-22 21:24
#
java开发实战知识
java
网络
对象存储
linux
go
常用
分布式文件
系统(对象存储)对比-SeaweedFS、Minio
常用
分布式文件
系统,相对比较热门的有Minio,SeaweedFS,FastDFS,ceph。主要对比一下Minio,SeaweedFS。什么是SeaweedFS?
振宅的博客
·
2023-10-22 21:20
分布式文件系统
dfs
使用 MinIO 构建高性能云原生对象存储
MinIO英文官网地址[1]MinIO中文官网地址[2]MinIO
分布式文件
存储1.MinIO的应用场景MinIO是一个非常轻量的服务,可以很简单的和其他应用的结合。
米开朗基杨
·
2023-10-22 21:19
分布式
大数据
linux
java
docker
FastDFS(
分布式文件
系统)
Tracker:标准服务端口22122、HTTP端口8080Storage:标准服务端口23000、HTTP端口8888文章目录一、架构二、文件上传、下载、删除1时序图2流程说明3代码实现一、架构架构图:Client:客户端。使用java语言编写的项目属于客户端。TrackerServer:跟踪服务器,主要做调度工作,在访问上起负载均衡的作用。在内存中记录集群中group和storageserve
AloneDrifters
·
2023-10-22 18:08
分布式
微服务
中间件
java
linux
hadoop完全分布式搭建与集群测试
Hadoop实现了一个
分布式文件
系统(DistributedFileSystem),其中一个组件是HDFS(HadoopDistributed
青春的样子1
·
2023-10-21 19:39
大数据
大数据
hadoop
分布式
hdfs
mapreduce
分布式文件
系统FastDFS实战
1.
分布式文件
系统应用场景互联网海量非结构化数据的存储需求:电商网站:海量商品图片视频网站:海量视频文件网盘:海量文件社交网站:海量图片2.FastDFS介绍https://github.com/happyfish100
小鱼儿&
·
2023-10-21 17:34
dfs
MongoDB初体验
MongoDB是基于
分布式文件
存储的数据库,介于关系型数据库和非关系型数据库之间,是非关系数据库当中功能最丰富,最像关系数据库的。
一蓑烟雨任平生_cui
·
2023-10-21 17:44
1.MongoDB介绍
1.MongoDB介绍(1)什么是MongoDBMongoDB是由C++语言编写的,是一个基于
分布式文件
存储的开源数据库系统。在高负载的情况下,添加更多的节点,可以保证服务器性能。
如果我是周杰伦
·
2023-10-21 09:45
MongoDB 未授权访问漏洞学习
漏洞简介MongoDB是一个基于
分布式文件
存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
「已注销」
·
2023-10-20 16:21
未授权访问
安全漏洞
MongoDB 未授权访问漏洞复现
0x00前言--学如逆水行舟,不进则退0x01简介MongoDB是一个基于
分布式文件
存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
种树人1
·
2023-10-20 16:20
漏洞
mongodb
安全
web安全
MongoDB 未授权访问漏洞
简介MongoDB是一个基于
分布式文件
存储的数据库,是一个介于关系数据库和非关系数据库之间的产品,它的特点是高性能、易部署、易使用,存储数据非常方便,默认情况下是没有认证的这就导致不熟悉它的研发人员部署后没有做访问控制导致可以未授权登录
zxl2605
·
2023-10-20 16:48
web安全
web安全
安全
DFS(
分布式文件
系统)与 DFSR(
分布式文件
系统复制)的区别
DFS(
分布式文件
系统)和DFSR(
分布式文件
系统复制)是两种不同的技术,尽管它们在名称上有一些相似之处,但它们的用途和功能有所不同。
Par@ish
·
2023-10-20 14:04
系统运维管理
深度优先
算法
DFS
DFSR
Sqoop技术文档笔记
它可以将结构化数据从关系型数据库(如MySQL、Oracle、SQLServer等)导入到Hadoop的
分布式文件
系统(HDFS)或hive中,并且可以将数据从HDFS、hive导出到关系型数据库中。
小辉懂编程
·
2023-10-20 11:30
sqoop
sqoop
hadoop
hive
必看的11个开源项目
SagooIOT-轻量级的物联网平台管理系统Mars3D-三维地球平台软件系统JuiceFS-为云环境设计,兼容POSIX、HDFS和S3协议的
分布式文件
系统fsr-集资产管理系统+监控系统+简单自愈系统为一体的运维管理故障自愈系统
少壮不努力老大敲代码
·
2023-10-20 06:46
开源
hive数据仓库安装与使用
hive的元数据存放在mysql(或者derby)中,真正的数据存放在dfs
分布式文件
系统内,hive底层封装了很多mapreduce的任务,通过sql语句调度相应的任务。
rose and war
·
2023-10-20 01:24
大数据
hive
数据仓库
hadoop
MapReduce面试题+详解
“MapReduce”框架中用户需要指定的主要配置参数有:
分布式文件
系统中作业的输入位置作业在
分布式文件
系统中的输出位置数据输入格式数据输出格式包含地图功能的类包含reduce函数的类包含映射器、减速器和驱动程序类的
Young_IT
·
2023-10-19 22:13
大数据开发
hadoop
大数据
分布式
mapreduce
Hive篇面试题+详解
Hive的主要功能是将结构化数据映射到Hadoop的
分布式文件
系统(HDFS)上,并提供高级查询和分析功能。2.Hive与传统关系型数据库的区别是什么?
Young_IT
·
2023-10-19 22:39
大数据开发
hadoop
hive
大数据
湖仓一体架构的特性
湖仓一体架构是一种数据架构模式,具有以下特性:统一存储:湖仓一体架构将数据湖和数据仓库合并为一个整体,将结构化数据和非结构化数据存储在同一个存储系统中,如Hadoop
分布式文件
系统(HDFS)或云存储服务
abckingaa
·
2023-10-19 17:55
DB
DB
FastDFS、pojo
FastDFSdistributedfilesystem
分布式文件
系统pojoplainordinaryjavaobject简单的Java对象
Tree27th
·
2023-10-19 12:29
大规模数据处理中心:构建高效的数据处理架构
以下是一个示例的Python代码,用于演示如何使用Hadoop
分布式文件
系统(HDFS)进行数据存储和管理。
抱紧大佬大腿不松开
·
2023-10-19 02:57
大数据
架构
大数据
上一页
7
8
9
10
11
12
13
14
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他