分布式文件系统(FastDFS

分布式文件系统的介绍

什么是分布式文件系统跨越多个服务器或者多个位置的文件系统。
旅僧·2024-01-01 07:27

缘起：BigTable

2003年的GFS：GFS是一个可扩展的分布式文件系统，主要解决传统单机文件系统中磁盘小，数据存储无冗余等问题
一纸微言·2024-01-01 03:22

sqoop的导入命令详解

sqoop的背景sqoop是一个配合大数据hadoop做数据底层的导入导出操作，需要配合hive及分布式文件系统（hdfs或blob）一起使用，在大数据ETL应用领域，sqoop占据主流。
夜空痕·2023-12-31 13:55

Docker 搭建FastDFS文件系统

1、检索和拉取fastDFS镜像#检索fastdfsdockersearchfastdfs#拉取fastdfsdockerpulldelron/fastdfs2、使用docker镜像构建tracker容器跟踪服务器
在奋斗的大道·2023-12-31 05:14

FastDFS集群搭建

简介FastDFS是什么？我们这里可以看一下度娘的解释。
fanlcwowo·2023-12-31 03:39

架构 - 理解架构的演进

架构-理解架构的演进架构演进初始阶段的网站架构应用服务和数据服务分离使用缓存改善网站性能使用应用服务器集群改善网站的并发处理能力数据库读写分离使用反向代理和CDN加上网站相应使用分布式文件系统和分布式数据库使用
小小兔在普陀山走神啊·2023-12-31 00:30

GFS分布式文件系统（详解与配置）

存储存储是计算机系统中用于保留数据、程序和信息的过程和设备。它包括了数据的永久性保存，以便在需要时可以检索、读取和操作。存储可以分为多种类型，包括：存储类型主存储(RAM-RandomAccessMemory)用于存储正在运行的程序、操作系统和当前需要的数据。是临时性的，失去电源时数据会丢失。辅助存储硬盘驱动器(HDD)：常见的机械式存储设备，以磁盘存储数据。固态驱动器(SSD)：使用闪存技术，速
木合杉·2023-12-30 01:32

开源轻量级分布式文件系统FastDFS本地部署并实现远程访问服务器

文章目录前言1.本地搭建FastDFS文件系统1.1环境安装1.2安装libfastcommon1.3安装FastDFS1.4配置Tracker1.5配置Storage1.6测试上传下载1.7与Nginx
一棵西兰花·2023-12-29 23:38

FastDFS工作原理图

Client:客户端TrackerServer:跟踪器StorageServer:存储节点1559117994668.png
月哥说了算·2023-12-29 21:38

分布式存储考点梳理 + 高频面试题

面试中如何考察分布式存储广义的分布式存储根据不同的应用领域，划分为以下的类别：分布式协同系统分布式文件系统分布式任务调度框架分布式NoSQL存储分布式关系数据库各种消息队列MQ流式计算框架当然，这只是一种划分方式
小小哭包·2023-12-29 21:15

还不清楚SpringBoot整合fastDFS过程的，一定得看看！

新建SpringBoot项目项目依赖com.github.tobatofastdfs-client1.26.4org.springframework.bootspring-boot-starter-test
程序员伟杰·2023-12-28 15:39

百度沧海文件存储CFS推出新一代Namespace架构

随着移动互联网、物联网、AI计算等技术和市场的迅速发展，数据规模指数级膨胀，对于分布式文件系统作为大规模数据场景的存储底座提出了更高的要求。
大隐隐于野·2023-12-28 15:48

Hadoop之HDFS 详细教程

首要的基础功能就是文件系统，在Hadoop中使用FileSystem这个抽象类来表示我们的文件系统，这个抽象类下面有很多子实现类，究竟使用哪一种，需要看我们具体的实现类，在我们实际工作中，用到的最多的就是HDFS(分布式文件系统
白鸽呀·2023-12-28 11:29

阿里云分布式文件系统OSS实现文件上传、删除与下载

介绍OSS：阿里云分布式文件系统网址：OSS控制台作用如果在应用程序所在服务器上做文件上传与下载会给服务器造成很大压力，所以项目会使用独立的文件系统。
龙域、白泽·2023-12-28 07:46

PathManager功能

在很多深度学习框架和工具中，PathManager被用作一个文件路径的管理器，它可以自动适应不同的文件系统，包括本地文件系统和分布式文件系统。以下是一些PathManager类可能提供的基本功能
何处不逢君·2023-12-27 15:45

Spark与Hadoop的关系和区别

它包括两个核心组件：Hadoop分布式文件系统（HDFS）：用于存储大规模数据的分布式文件系统。H
晓之以理的喵~~·2023-12-27 12:13

[spark] DataFrame 的 checkpoint

在ApacheSpark中，DataFrame的checkpoint方法用于强制执行一个物理计划并将结果缓存到分布式文件系统，以防止在计算过程中临时数据丢失。
言之。·2023-12-27 06:29

Hadoop大数据实战系列文章之HDFS文件系统

Hadoop附带了一个名为HDFS(Hadoop分布式文件系统)的分布式文件系统，专门存储超大数据文件，为整个Hadoop生态圈提供了基础的存储服务。
测试帮日记·2023-12-26 21:39

修改nfs服务的依赖服务rpcbind的111端口

NFS和rpcbind的关系NFS（NetworkFileSystem）是一种分布式文件系统，它允许在不同的计算机之间共享文件。在进行NFS共享之前，需要先启动RPCbind服务。
花蹦蹦精他哥·2023-12-26 13:32

如何准备系统设计面试？

2：设计一个框架比如RPC框架、消息队列、缓存框架、分布式文件系统等等。3：设计某某系统中的一个功能比如哔哩哔哩的点赞功能。
_River_·2023-12-26 04:16

大数据技术——处理架构Hadoop

软件基金会旗下的一个开源分布式计算平台，为用户提供了系统底层细节透明的分布式基础架构•Hadoop是基于Java语言开发的，具有很好的跨平台特性，并且可以部署在廉价的计算机集群中•Hadoop的核心是分布式文件系统
Imrea·2023-12-26 01:55

架构设计内容分享(七十六)：分布式存储架构分析

目录一、集中存储结构二、分布式存储三、分布式理论浅析四、分布式文件系统五、分布式键值系统一、集中存储结构说到分布式存储，我们先来看一下传统的存储是怎么个样子。
之乎者也··2023-12-25 20:01

【Hadoop】HDFS shell操作与管理工具

HDFSshell操作HDFS管理工具dfsadminfsck均衡器HDFSshell操作HDFS是存取数据的分布式文件系统，对HDFS的操作就是文件系统的基本操作，如文件的创建、修改、删除、修改权限，
不怕娜·2023-12-24 18:41

【Hadoop】HDFS简介——是什么/优缺点/适用场景

HDFS不适用场景HDFS是什么源自Google的GFS论文Google于2003年10月发表HDFS是GFS的一个克隆版HDFS(HadoopDistributedFileSystem)是易于扩展的分布式文件系统
不怕娜·2023-12-24 18:11

文章分享-1周-怎么理解分布式、高并发、多线程？

涉及领域非常多，例如分布式文件系统（例如fast
庄泽锐·2023-12-24 16:07

Hadoop学习笔记（一）分布式文件存储系统 —— HDFS

概念HDFS（HadoopDistributedFileSystem），Hadoop分布式文件系统，用来存超大文件的。
zhang35·2023-12-24 08:54

Hadoop学习之HDFS——小白入门笔记

一、分布式文件系统1.分布式文件系统解决问题：海量数据的高效存储2.分布式文件系统是将文件分布存储到多个计算机节点上。
cainiao22222·2023-12-24 08:52

Java从入门到入坑（架构篇）

Dubbo服务注册、服务发现，服务治理http://dubbo.apache.org/zh-cn/3：分布式数据库怎样打造一个分布式数据库、什么时候需要分布式数据库、mycat、otter、HBase4：分布式文件系统
小小弓长张·2023-12-23 15:07

minio 分布式对象存储

分布式文件系统应用1.1、Minlo介绍Minlo是一个基于ApacheLicensev2.0开源协议的对象存储服务。
锅锅嗨·2023-12-23 09:55

解决文件导出过大-＞java压缩zip文件--封装工具类

阿丹：在业务逻辑中的数据存在一部分业务场景，在导出文件或者视频的时候需要将文件暂存在服务器上再上传到oss对象存储或者fastdfs中让用户来下载使用。
一单成·2023-12-22 13:42

大数据指标中台构建核心技术解析

主要围绕以下四个方面展开：1.网易数帆大数据产品介绍2.网易数帆指标中台3.指标中台核心技术解析4.未来规划及展望01网易数帆大数据产品介绍1.网易数据分析的发展历史网易自2006年开始使用大数据技术组件，如分布式数据库、分布式文件系统
王知无(import_bigdata)·2023-12-22 11:56

大数据---33.HBase数据结构

一、HBase简介HBase是一个开源的、分布式的、版本化的NoSQL数据库（即非关系型数据库），依托Hadoop分布式文件系统HDFS提供分布式数据存储，利用MapReduce来处理海量数据，用Zookeeper
学无止境的大象·2023-12-21 19:07

计算机毕业设计hadoop+spark+hive直播可视化分析大屏 直播推荐系统 数据仓库 体育赛事分析 足球分析 推荐系统 体育赛事推荐系统 大数据毕业设计

spark、hadoop、scala、hive、sqoop、Flask、echarts、mysql分析流程：python爬取直播数据存到.csv文件、mysql数据库(备份数据集)，上传CSV到hdfs分布式文件系统上
计算机毕业设计大神·2023-12-21 19:26

Flume多路复用模式把接收数据注入kafka 的同时，将数据备份到HDFS目录

示例配置如下：fs.defaultFShdfs://localhost:9000hdfs-site.xml：设置HDFS（Hadoop分布式文件系统）的参数，例如数据块复制因子、NameNode的存储路径等
HaveAGoodDay.·2023-12-21 17:52

hdfs如何把一整个目录都复制到本地, 包括目录中的子目录和子文件

在Hadoop分布式文件系统（HDFS）中，你可以使用hadoopfs-copyToLocal命令将整个目录复制到本地。该命令支持递归复制，包括目录中的子目录和子文件。
言之。·2023-12-21 14:27

分享65个Python管理系统源代码总有一个是你想要的

8888提取码：8888项目名称获取青果软件的教育网络管理系统的教师信息的Python脚本CP聚合博客——pythonDjangoRESTframework以及xadmin管理后台+Sentry日记监控系统FastDFS
MonkT·2023-12-20 22:20

GFS分布式文件系统

gfdglusterFS开源的分布式文件系统存储服务器客户端以及网络（NFS/samba）网关传统式老的分布式系统是依赖于元服务器，元服务器保存存储节点的目录树信息。
早上的星星·2023-12-20 20:22

SeaweedFS介绍安装集群部署总结

什么是SeaweedFSSeaweedFS是一种简单的、高度可扩展的分布式文件系统。SeaweedFS是一个非常优秀的由go语言开发的分布式存储开源项目。
编程无霸哥·2023-12-20 17:07

HDFS工作机制和原理

HDFS是一种分部式的文件系统，在他出现以前就已经存在了很多中分布式文件系统，但是他们都是部署在服务器上，需要高的POSIX接口，同时他们默认服务器是稳定的可以提供大量资源。
Tim在路上·2023-12-20 15:36

ceph存储服务结构介绍以及速度优化的方法

以下是这些存储服务的简要介绍和结构：CephFS（Ceph文件系统）：结构：CephFS是Ceph提供的分布式文件系统，它基于RADOS（可扩展自动分布式对象存储）构建。
小果运维·2023-12-20 14:19

运维笔记之centos部署Go-FastDfs

安装Go-FastDfs当前最新版本为1.4.5，但发布的最新版本为1.4.4#下载文件wget--no-check-certificatehttps://github.com/sjqzhang/go-fastdfs
一起种梧桐吧·2023-12-20 07:09

go-fastdfs

go-fastdfs是一个基于http协议的分布式文件系统，它基于大道至简的设计理念，一切从简设计，使得它的运维及扩展变得更加简单，它具有高性能、高可靠、无中心、免维护等优点。
芋头哥·2023-12-19 20:41

从零开始了解大数据(三)：HDFS分布式文件系统篇

目录前言一、HDFS分布式文件系统基础1.数据与元数据2.分布式存储系统的核心属性3.HDFS的设计目标4.HDFS的重要特性二、HDFSShell操作1.HDFSShell命令行简介2.HDFSShell
橘子-青衫·2023-12-19 13:23

短视频矩阵系统多账号搭建技术源码（源头3年开发者技术独立搭建）

通过使用分布式文件系统（例如AWSS3）和自动化上传工具，可以实现批量上传功能，并通过设置定时任务和
云罗互动yx898978·2023-12-19 13:52

springboot2.X手册：放弃fastdfs，整合Minio做文件服务器真香

什么是MinioMinio是Apcche旗下的一款开源的轻量级文件服务器，基于对象存储，协议是基于ApacheLicensev2.0，开源可用于商务。Minio主要用来存储非结构化的数据，类似文件，图片，照片，日志文件，各类备份文件等，按照官网描述，文件的大小从几KB到5TB。Minio提供了非常方便，友好的界面，并且文档也是非常丰富，具体可以参考它的docshttps://docs.min.io
程序员闪充宝·2023-12-19 07:46

大数据技术11：Hadoop 原理与运行机制

前言：HDFS（HadoopDistributedFileSystem）是Hadoop下的分布式文件系统，具有高容错、高吞吐量等特性，可以部署在低成本的硬件上。
Java架构何哥·2023-12-18 21:56

SpringBoot集成分布式对象存储(分布式文件)MinIO

你可以把它和FastDFS、HDFS作为类比，但它比其它都更简单，极简是MinIO的设计初衷之一，而且他的性能很好。
小虎哥的技术博客·2023-12-18 19:11

Hadoop Single Node Cluster的安装

安装位置设置SSH无密码登录安装hadoop下载安装设置hadoop环境变量修改hadoop配置设置文件设置core-site.xml设置YARN-site.xml设置mapred-site.xml设置HDFS分布式文件系统创建并格式化
艾醒(AiXing-w)·2023-12-18 16:50

Ceph存储

没有冗余，不具备容错功能raid1100%容错raid5最少三块性能不如raid0容错不如raid1raid0+raid1性能+容错raid时代-->分布式存储（ceph）时代1PB级别用raid很难实现分布式文件系统文件系统管理的物理存储资源不一定直接连接在本地节点上
叫我家驹范·2023-12-18 15:15

GFS分布式文件系统

GFS分布式文件系统：全称：gfdglusterFS开源的分布式的文件系统存储服务器客户端以及网络（NFS/samba）网关传统式老的分布式系统元服务器，元服务器保存存储节点的目录树信息。
DDYYmmm·2023-12-18 05:26
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他