fastDFS分布式文件系统

HDFS

HDFS入门1.1.HDFS介绍HDFS是HadoopDistributeFileSystem的简称，意为：Hadoop分布式文件系统。是Hadoop核心组件之一，作为最底层的分布式存储服务而存在。
VincentLeon·2024-01-29 08:44

SpringBoot中实现阿里云OSS对象存储

实现文件上传服务，需要有存储的支持，那么我们的解决方案将以下几种：直接将图片保存到服务的硬盘（springmvc中的文件上传）优点：开发便捷，成本低缺点：扩容困难使用分布式文件系统进行存储优点：
努力学习的小飞侠·2024-01-28 18:33

分布式数据实现跨设备数据同步的N个秘密 | 分布式数据管理解析（二）

这都得益于分布式数据管理平台抽象出的三大关键技术——分布式数据库，分布式文件系统和融合搜索。那么这三大技术究竟如何具体实现全场景多设备上的数据保存，数据同步，数据访问，让我们一一来详细解读。
码中之牛·2024-01-28 03:10

1分钟了解基于Hadoop的数据仓库工具Hive(附超实用示例)

Hive功能Hive是基于Hadoop构建的一套数据仓库分析系统，它提供了丰富的SQL查询方式来分析存储在Hadoop分布式文件系统中的数据：可以将结构化的数据文件映射为一张数据库表，并提供完整的SQL
yuyuyuyo·2024-01-27 05:53

[AIGC 大数据基础] 浅谈hdfs

HDFS（HadoopDistributedFileSystem）是ApacheHadoop生态系统的一部分，是一个分布式文件系统。
程序员三木·2024-01-27 01:00

大数据开发必备工具——Hadoop及整体架构介绍

它由几个关键的组件组成，其中最核心的是Hadoop分布式文件系统（HDFS）和MapReduce计算模型。
love6a6·2024-01-26 21:03

一文了解Ceph原理以及常见ceph指令

涉及初衷是成为一个可避免单点故障的分布式文件系统，提供较好的性能、可靠性和可扩展性。通过网络将数据分散存储在多台独
听说唐僧不吃肉·2024-01-26 13:08

FastDFS整合SpringBoot实现图片上传功能

FastDFS简介FastDFS是淘宝开源的文件服务器，支持文件上传、下载，文件同步和存储。使用分组group存储方式，一个group可以包含多个服务器。只有组里的服务器才会互相通信。
HannahLi_9f1c·2024-01-25 23:19

CalvinFS: Consistent WAN Replication and Scalable Metadata Management for Distributed File...——论文泛读

尽管已经开发了许多分布式文件系统以扩展到数千台计算机的集群，但由于在地理距离上提供期望的文件系统语义和工具（如线性化操作、分层访问控制、标准命令行工具等）的困难，这些
妙BOOK言·2024-01-25 14:02

使用docker安装fastDFS

使用Docker安装FastDFS获取镜像可以利用已有的FastDFSDocker镜像来运行FastDFS。
MkTom·2024-01-25 11:03

如何使用静态化freemarker和分布式文件系统minIO去存储静态文件 增强访问效率

有的时候把网页文章根据id查询出来可能更快一些但是如果作为静态化处理的话效率可能更好一点目录一、freemarker1.freemarker介绍2、环境搭建&&快速入门2.1pom文件2.2配置文件2.3创建模型类2.4创建模板2.5创建controller2.6测试3.freemarker基础3.1)基础语法种类3.2)集合指令（List和Map）3.3)if指令3.4)运算符3.5)空值处理3
学习中的程序媛~·2024-01-25 10:31

Hudi学习笔记(一)

大数据发展背景Hudi用于管理分布式文件系统上大型分析数据集存储，支持Spark和Flink整合。它能够是DFS数据集在分钟级时延内支持变更，也支持下游系统对这个数据集的增量处理。
一一|一一一亅·2024-01-25 09:37

Hadoop HDFS 实现原理图文详解

一、HDFS体系结构1.1HDFS简介Hadoop分布式文件系统(HDFS)是运行在通用硬件(commodityhardware)上的分布式文件系统（DistributedFileSystem）。
禅与计算机程序设计艺术·2024-01-25 07:49

go-fastdfs安装以及python调用

上一篇Centos7下FastDFS从安装到入门中讲述了FastDFS的安装以及概念。但是这个服务不是基于http上传的方式，还需要特定去安装客户端，这个就不是很方便了。
Devops海洋的渔夫·2024-01-24 10:33

hbase 总结

HBase什么是HBasehbase是一个基于java、开源、NoSql、非关系型、面向列的、构建与hadoop分布式文件系统（HDFS）上的、仿照谷歌的BigTable的论文开发的分布式数据库。
l靠近一点点l·2024-01-24 08:24

分布式文件系统代码详解

全局设置Dataserver定义proto远程调用函数serviceDataServer{//创建文件，对应touch命令rpcCreateFile(CreateFileRequest)returns(BaseResponse){}//创建文件夹，对应mkdir命令rpcCreateDirectory(CreateDirectoryRequest)returns(BaseResponse){}//
误伤这又何妨·2024-01-24 07:24

【架构】分布式系统及相关技术栈初了解

1.3分布式系统的功能解耦分布式系统按层次划分：2）分布式架构的演变1、初始阶段架构2、应用服务和数据服务分离3、使用缓存改善性能4、使用应用服务器集群5、数据库读写分离6、反向代理和CDN加速7、分布式文件系统和分布式数据库
黑黑白白君·2024-01-23 15:14

FastDFS分布式文件存储

为什么会有分布式文件系统？分布式文件系统是面对互联网的需求而产生。因为互联网时代要对海量数据进行存储。很显然靠简单的增加硬盘个数已经满足不了我们的要求。
愚人钊呀·2024-01-23 09:12

CentOS 7部署 Ceph分布式存储架构

Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。
大帅同学·2024-01-23 09:48

Hadoop -- HDFS

1.什么是Hadoophadoop中有3个核心组件：分布式文件系统：HDFS——实现将文件分布式存储在很多的服务器上分布式运算编程框架：MAPREDUCE——实现在很多机器上分布式并行运算分布式资源调度平台
Cool_Pepsi·2024-01-23 02:42

Hadooop和Hbase是什么关系

HBase通过Hadoop的HDFS(Hadoop分布式文件系统)和MapReduce实现了水平扩展和处理分布式数据。本文将详细介绍hbase和hadoop有什么关系。
wwwyx12138·2024-01-22 17:50

数据库查询百万级数据导出excel功能优化

数据库查询数据导出excel功能优化需求1.根据sql语句从数据库查询到数据2.将数据写入excel2.1获取列头信息2.2根据列头信息存放列数据3.excel文件打包压缩4.文件上传fastdfs服务器
小科粒·2024-01-22 17:57

1.使用分布式文件系统Minio管理文件

分布式文件系统DFS分类文件系统文件系统是操作系统用于组织管理存储设备(磁盘)或分区上文件信息的方法和数据结构,负责对文件存储设备空间进行组织和分配,并对存入文件进行保护和检索文件系统是负责管理和存储文件的系统软件
echo 云清·2024-01-22 15:39

【GitHub项目推荐--不错的 C 开源项目】【转载】

今天老逛盘点GitHub上不错的C语言开源项目，分别是：1.云存储系统2.分布式文件系统3.太空侵略者复刻版4.C语言教程5.Nginx、Redis01.云存储系统Seafile是一个用C语言编写的云存储系统
旅之灵夫·2024-01-21 22:19

大数据导论（3）---大数据技术

文章目录1.大数据技术概述2.数据采集与预处理2.1数据采集2.2预处理3.数据存储和管理3.1分布式基础架构Hadoop3.2分布式文件系统HDFS3.3分布式数据库HBase3.4非关系型数据库NoSQL4
冒冒菜菜·2024-01-20 21:28

Docker部署高性能分布式存储MinIO

文件存储系统，相比FastDFS使用MinIO易上手，可扩展，非常适合于存储大容量非结构化的数据，例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等，而一个对象文件可以是任意大小，从几kb到最大5T
抹香鲸之海·2024-01-20 21:27

Docker Desktop 部署单机minio节点

命令都是可以复用的分布式文件系统概念分布式文件系统具有冗余性，大量数据分散到不同的节点上存储。
xxx-xail·2024-01-20 21:57

大数据Hadoop入门——HDFS分布式文件系统基础

HDFS总结在现代的企业环境中，海量数据超过单台物理计算机的存储能力，分布式文件系统应运而生，对数据分区存储于若干物理主机，管理网络中跨多台计算机存储的文件系统。
nucty·2024-01-20 16:00

fdfs分布式文件存储----安装FastDFS（三十六）

一、FastDFS的介绍1、TrackerServer跟踪（调度）服务器，主要做调度工作，起到均衡的作用；负责管理所有的storageserver和group，每个storage在启动后会连接Tracker
梦捷者·2024-01-20 14:31

Linux环境搭建FastDFS文件服务器（附带Nginx安装）

本文主要介绍在linux服务器如何搭建FastDFS文件服务器。大概分为9个步骤，由于内容较为繁琐。下面带你入坑！
liaozk_c·2024-01-20 13:55

CentOS7安装go-fastdfs1.4.1

CentOS7安装go-fastdfs1.4.2文章目录CentOS7安装go-fastdfs1.4.2一、安装规划二、安装准备2.1清理环境2.2同步时间2.3关闭防火墙2.4关闭selinux2.5
三径就荒·2024-01-20 13:22

FastDFS之快速入门、上手

知识概念分布式文件系统通过计算机网络将各个物理存储资源连接起来。通过分布式文件系统，将网络上任意资源以逻辑上的树形结构展现，让用户访问网络上的共享文件更见简便。
微风至夏·2024-01-20 12:03

Hadoop基础知识

狭义上说，Hadoop指Apache这款开源框架，它的核心组件有：HDFS（分布式文件系统）：解决海量数据存储YARN（作业调度和集群资源管理的框架）：解决资源任务调度MAPREDUCE（分布式运算编程框架
坐在风口上de猪·2024-01-20 10:10

centos中安装nfs实现服务器文件共享

如果一个服务使用集群方式部署，在文件读写时就需要考虑多个服务之间文件共享的问题，在共享文件时可以考虑部署一个单独的文件服务器，比如hdfs、minio、fastdfs等，也可以使用简单的文件目录共享方式实现
腊笔不小新xingo·2024-01-19 09:18

信息系统项目管理---范围管理论文草稿

人力资源管理，成本管理范围管理项目背景项目规模发起单位目的项目内容组织结构项目周期交付段产品等我的指责，切入论文的题目；项目范围管理2800400字摘要本文讨论了中国xx研究院开发的大型规模标准型号车载分布式文件系统的范围管理
禾乃儿_xiuer·2024-01-19 05:29

【SpringBoot框架篇】24.集成FastDFS实现文件的分布式存储

文章目录1.简介2.添加配置2.1.在maven的pom.xml中添加fastDfs依赖包2.2.修改应用配置文件3.添加工具类4.测试接口编写5.测试5.1.上传图片5.2.下载图片5.3.删除图片6
皓亮君·2024-01-18 03:10

HDFS 系统架构

HDFSArchitectureIntroductionHadoopDistributedFileSystem(HDFS)是设计可以运行于普通商业硬件上的分布式文件系统。
偷油考拉·2024-01-18 03:52

Ceph分布式文件系统集群搭建详解

1、Ceph分布式文件系统简介Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。Ceph独一无二地在一个统一的系统中同时提供了对象、块、和文件存储功能。
蔚蓝色天空sky·2024-01-18 00:11

Ceph分布式文件系统集群搭建

目录一、规划设计二、环境准备三、部署ceph集群四、开启Dashboard一、规划设计准备四台虚拟机（部署三台服务器和一台计算机更好）,分别安装centos-7-x86_64操作系统，使用的ceph的版本minic版，网络地址及规划随机。节点名称IP地址系统版本部署进程数据盘Ceph1192.168.239.150Centos-7-x86_64MON+mgr+OSD/dev/sdbCeph2192
疯狂运维的树懒·2024-01-18 00:10

Ceph 分布式文件系统

Ceph是加州大学SantaCruz分校的SageWeil（DreamHost的联合创始人）专为博士论文设计的新一代自由软件分布式文件系统。
ejinxian·2024-01-18 00:40

部署ceph分布式文件系统

部署ceph分布式文件系统1.配置ceph环境系统2.创建ceph集群监控mon3.创建存储设备osd4.查看集群状态,验证5.部署ceph文件系统使用一台服务器作为主服务器,其他可以通过for循环来整体实现
NJ诶·2024-01-18 00:10

Ceph分布式文件系统

目录1.存储基础单机DAS存储设备DASNASSAN单机存储的问题分布式存储分布式存储的类型2.Ceph简介Ceph优势Ceph架构Ceph组件OSD(ceph-osd)Monitor(ceph-mon)Manager(ceph-mgr)MDS(ceph-mds)PG(归置组)Pool(存储池/资源池/数据池)OSD存储后端FilestoreBluestoreBlueStore的主要功能Ceph数
Ybaocheng·2024-01-18 00:39

FastDFS 环境搭建及使用详解

文章目录1、简介1.1分布式文件系统1.2FastDFS1.3FastDFS架构2、环境搭建2.1FastDFS安装2.1.1安装前准备2.1.2安装包下载2.1.3安装libfastcommon2.1.4
程序员大佬超·2024-01-17 16:19

编译 FastDFS 时报错 fatal error: sf/sf_global.h: No such file or directory 解决办法

编译FastDFS时，报错如下gcc-Wall-D_FILE_OFFSET_BITS=64-D_GNU_SOURCE-g-O1-DDEBUG_FLAG-c-o..
程序员大佬超·2024-01-17 16:49

Docker安装各种软件

目录一.Nacos二.MySQL5.7三.Tomcat四.Clickhouse五.Redis六.Zookeeper七.Kafka八.Flink九.Fastdfs十.RabbitMQ十一.Elasticsearch
黑暗对我避而远之·2024-01-16 20:37

你其实并不懂分布式文件系统

一、概述分布式文件系统是分布式领域的一个基础应用，其中最著名的毫无疑问是HDFS/GFS。如今该领域已经趋向于成熟，但了解它的设计要点和思想，对我们将来面临类似场景/问题时，具有借鉴意义。
王知无(import_bigdata)·2024-01-16 13:14

分布式文件系统应该从哪些方面考虑

分布式文件系统是分布式领域的一个基础应用，其中最著名的毫无疑问是HDFS/GFS。如今该领域已经趋向于成熟，但了解它的设计要点和思想，对我们将来面临类似场景/问题时，具有借鉴意义。
吃胖点儿·2024-01-16 13:44

Hive知识点

（面向分析的存储系统）主要特征：面向主题的，集成的，非易失的和时变的数据集合，用以支持管理决策HIve与Hadoop的关系：Hive需要构建在Hadoop基础上；Hive中所有数据都存储在Hadoop分布式文件系统中
꧁༺朝花夕逝༻꧂·2024-01-16 07:25

HDFS HA 集群搭建 - 基于Quorum Journal Manager（hadoop2.7.1）

0、前置概念0.1checkpoint检查点在Hadoop分布式文件系统（HDFS）中，检查点（Checkpointing）是一个关键的过程，它涉及到将文件系统的命名空间状态持久化到磁盘。
Studying！！！·2024-01-16 06:36

mac上搭建 hadoop 伪集群

它主要由以下几个部分组成：HDFS(HadoopDistributedFileSystem)：HDFS是Hadoop的分布式文件系统，具有较高的读写速度，很好的容错性和可伸缩性，为海量的数据提供了分布式存储
寂夜了无痕·2024-01-16 06:30
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他