fastdfs分布式存储

浅析大数据汇总

传统的数据库技术已经无法满足对这些海量数据的存储和处理需求，因此出现了分布式存储和计算技术，如Hadoop、HBase等。
shinelord明·2024-01-29 19:10

HDFS

是Hadoop核心组件之一，作为最底层的分布式存储服务而存在。
VincentLeon·2024-01-29 08:44

redis cluster水平扩容中的客户端处理逻辑

作为一个分布式K-V存储，rediscluster通过将数据切分为16384个slot进行分布式存储，用公式表示如下：作为一个支持水平扩容的分布式系统，redis集群在扩容时通常遵循如下步骤：1.在新节点启动
kakaweb·2024-01-28 22:15

大数据处理系统的架构

Lambda架构的主要组成部分包括：批处理层（BatchLayer）：存储：使用分布式存储系统（如ApacheHadoopHDFS）
demo123567·2024-01-28 14:58

etcd技术解析：构建高可用分布式系统的利器

2.etcd简介etcd是一个开源的、分布式的键值存储系统，使用Go语言编写，基于Raft一致性算法实现数据的分布式存储和管理。它主要用于在分布式系统中存储配置信息、元数据等关键数据，提供了强
Memory_2020·2024-01-27 20:38

apache 前30个开源项目

个具有代表性的项目序号项目名称功能描述业务范围活跃度（参考性描述）1ApacheHTTPServer高性能Web服务器提供HTTP服务支持非常活跃2ApacheTomcatJava应用服务器部署JavaWeb应用程序非常活跃3ApacheHadoop分布式存储和计算框架大数据处理非常活跃
临水逸·2024-01-27 17:35

Ceph分布式存储自动化运维平台开发实践

文章目录1.背景介绍1.1什么是Ceph？1.1.1Ceph的核心组件1.1.2Ceph的优势1.2自动化运维的需求目标2.平台架构设计和组件版本2.1平台架构设计2.2组件版本2.3模块划分（已经脱敏处理）2.3.1当前版本V1.0支持功能2.3.2前后端代码结构tree图2.3.3工作流程2.3.4模块算法和处理逻辑（举几个典型场景）2.3.4.1自动对因高危场景停止的osd降低权重至x%2.
抛物线.·2024-01-27 12:34

一文了解Ceph原理以及常见ceph指令

一、Ceph介绍什么是分布式存储？与集中式存储相反，分布式存储通常采用存储单元集群的形式。并且具有在集群节点之间进行数据同步和协调的机制。
听说唐僧不吃肉·2024-01-26 13:08

二 Ceph存储工作原理及实现

认识Cephceph是一个能提供文件存储，快存储和对象存储的分布式存储系统。
假面生·2024-01-26 13:38

什么是超融合？

二、超融合原理2.1、超融合三大组件2.2、超融合和传统架构对比2.3、传统方案和超融合软件架构与资源管理模式对比三、超融合与SDS、分布式存储关系3.1、SDS是什么？3.2、分布式存储是什么？
IT搬砖我最拿手·2024-01-26 11:27

从Elasticsearch来看分布式系统架构设计

这篇文章中，重点会讨论下分布式数据系统的设计，比如分布式存储系统，分布式搜索系统，分布式分析系统等。我们先来简单看下Elasticsearch的架构。
大叶子不小·2024-01-26 10:11

教你三步实现CDH到星环TDH的平滑迁移

TranswarpDataHub（TDH）是星环科技自主研发的企业级一站式多模型大数据基础平台，其领先的多模型技术架构提供统一的接口层，统一的计算引擎层，统一的分布式存储管理层，统一的资源调度层，以及异构存储引擎层
星环科技·2024-01-26 07:08

FastDFS整合SpringBoot实现图片上传功能

FastDFS简介FastDFS是淘宝开源的文件服务器，支持文件上传、下载，文件同步和存储。使用分组group存储方式，一个group可以包含多个服务器。只有组里的服务器才会互相通信。
HannahLi_9f1c·2024-01-25 23:19

使用docker安装fastDFS

使用Docker安装FastDFS获取镜像可以利用已有的FastDFSDocker镜像来运行FastDFS。
MkTom·2024-01-25 11:03

2023年第十六届中国系统架构师大会（SACC2023）：核心内容与学习收获（附大会核心PPT下载）

大会按照技术主线分为传统架构与运维技术发展（高可用架构、云架构、分布式存储、预测性智能运维）、数字化转型企业架构应用（金融行业与制造业）、IT技术前瞻架构（分布式与微服务架构、
百家峰会·2024-01-25 07:57

万物皆世界，人人得智慧

我对王欣师兄的“一图显世界”的思考：图片发自App《万物皆世界人人悟智慧》在大数据、云计算、AI、物联网、区块链的深度普及基础上，区块链作为一个“分布式存储与个体价值体现”的最好技术革新，以比特币为载体迅猛的来到了人们面前
众心无相·2024-01-24 18:02

从数据处理到规模化应用

HashData等现代数据仓库解决方案具有以下特点：高性能：通过分布式存储和计算技术，HashData能够提供高吞吐量和低
百度_开发者中心·2024-01-24 16:14

ELK 企业级日志分析系统

ElasticSearch：是基于Lucene（一个全文检索引擎的架构）开发的分布式存储检索引擎，用来存储各类日志。
睡美人章繁·2024-01-24 14:54

Mysql数据库主从复制和分库分表浅析

内容提供：李智慧，前阿里巴巴技术专家，《大型网站技术架构》作者分布式数据库和分布式存储是分布式系统中难度最大、挑战最大，也是最容易出问题的地方。
一颗向上的草莓·2024-01-24 11:30

go-fastdfs安装以及python调用

上一篇Centos7下FastDFS从安装到入门中讲述了FastDFS的安装以及概念。但是这个服务不是基于http上传的方式，还需要特定去安装客户端，这个就不是很方便了。
Devops海洋的渔夫·2024-01-24 10:33

分布式存储mysql

搭建两从两主服务器再搭建一台mycat启动mycat1.创建添加数据源将后端数据库服务器添加到mycat上面,以便管理和代理,让mycat和mysql建立连接添加方法如下59只实现写60只实现读61实现写62实现读MySQL>/*+mycat:createdatasource{"name":"dw0","url":"jdbc:mysql://192.168.88.59:3306","user":"
CN_HW·2024-01-24 08:47

从字节跳动面试中快速胜出：五天三面，这份Java面试笔记功不可没

（开放地址法，不是很了解，听过）如果使用hash进行分布式存储有什么弊端？（可扩展性不强，例如增加节点和节点宕机的情况）如何解决？
技术琐事·2024-01-24 01:16

分布式存储

1存储基础1.1单机存储设备DAS（直接附加存储，是直接接到计算机打的主板总线上去的存储）UDE、SATA、SCSI、SAS、USB接口的磁盘所谓的接口就是一种存储设备驱动下的磁盘设备，提供块级别的存储NAS（网络附加存储，是通过网络附加到当前主机文件系统之上的存储NFS、CIFS、FTP文件系统级别的存储，本身就是一个做好的文件系统，通过nfs接口在用户空间输出后，客户端基于内核模块与远程主机进
王德发666·2024-01-23 16:16

FastDFS分布式文件存储

为什么会有分布式文件系统？分布式文件系统是面对互联网的需求而产生。因为互联网时代要对海量数据进行存储。很显然靠简单的增加硬盘个数已经满足不了我们的要求。因为硬盘传输速度有限但是数据在急剧增长，另外我们还要要做好数据备份、数据安全等。采用分布式文件系统可以将多个地点的文件系统通过网络连接起来，组成一个文件系统网络，结点之间通过网络进行通信，一台文件系统的存储和传输能力有限，我们让文件在多台计算机上存
愚人钊呀·2024-01-23 09:12

CentOS 7部署 Ceph分布式存储架构

SE4nJH1.概述随着OpenStack日渐成为开源云计算的标准软件栈，Ceph也已经成为OpenStack的首选后端存储。Ceph是一种为优秀的性能、可靠性和可扩展性而设计的统一的、分布式文件系统。ceph官方文档http://docs.ceph.org.cn/ceph中文开源社区http://ceph.org.cn/Ceph是一个开源的分布式文件系统。因为它还支持块存储、对象存储，所以很自然
大帅同学·2024-01-23 09:48

Hadoop -- HDFS

1.什么是Hadoophadoop中有3个核心组件：分布式文件系统：HDFS——实现将文件分布式存储在很多的服务器上分布式运算编程框架：MAPREDUCE——实现在很多机器上分布式并行运算分布式资源调度平台
Cool_Pepsi·2024-01-23 02:42

关于云计算你必须知道的一些事（一）

软件定义分布式存储是
money666·2024-01-22 19:17

架构师的36项修炼-09架构实战案例分析

2.分析一个分布式存储的架构案例，看如何去设计一个分布式存储系统，底层存储系统的架构是如何设计的。3.分析一个反应式编程框架的架构案例，看开发框架的架构是如何设计的。这三类系统架
机智阳·2024-01-22 18:07

数据库查询百万级数据导出excel功能优化

数据库查询数据导出excel功能优化需求1.根据sql语句从数据库查询到数据2.将数据写入excel2.1获取列头信息2.2根据列头信息存放列数据3.excel文件打包压缩4.文件上传fastdfs服务器
小科粒·2024-01-22 17:57

容器与持久化存储:容器的开源分布式存储方案选型

导读：容器得到了越来越广泛的使用，以下问题困扰架构师：容器正逐渐成为云上应用的标准部署单元，容器该如何解决持久化存储的需求？容器编排系统已成当红炸子鸡，在无状态的容器中，存储系统面临哪些新的挑战？容器与持久化存储系统是融合架构还是分离架构？本文探讨了容器和持久化存储相关知识，由张朝潞在高可用架构群分享，转载请注明来自高可用架构公众号ArchNotes。张朝潞有容云平台存储架构师张朝潞，有容云平台存
高可用架构·2024-01-22 14:50

容器与持久化存储：容器的开源分布式存储方案选型

曾工作于UIT、华三、腾讯、专注分布式存储的研究和开发，对云计算存储解决方案方面有很深的技术造诣和行业理解。一．容器对存储插件的定义以Docker为例，Doc
weixin_33805743·2024-01-22 14:48

看看关系型数据库是怎么吊打Hadoop的

所以在不少架构中，会看到使用ETL的方式将数据库送到Hadoop中，使用其分布式存储和分布式计算的特点来进行分析。
薛晓刚·2024-01-22 02:58

Hbase笔记

ApacheHBase是一个开源的，分布式的，版本化的非关系数据库，模仿Google的Bigtable：Chang等人的结构化数据分布式存储系统。正
MFRain·2024-01-21 20:24

消息中间件之Kafka(二)

1.commitlog文件会受到所在机器的文件系统大小的限制，分区之后可以将不同的分区放在不同的机器上，相当于对数据做了分布式存储，理论上一个topic可以处理任意数量的数据2.提高并行度1.2如何在多个
coffee_babe·2024-01-21 16:04

Ceph分布式存储部署

目录一、存储1、存储基础2、NAS（网络附加存储，是通过网络附加到当前主机文件系统之上的存储）3、SAN（存储区域网络）4、单机存储的问题5、商业存储解决方案6、分布式存储（软件定义的存储SDS）7、分布式存储的类型二
睡美人章繁·2024-01-21 16:26

分布式存储赛道群雄逐鹿：Filecoin「友商」盘点

Crust实现了去中心化存储的激励层协议，适配包括IPFS在内的多种存储层协议，并对应用层提供支持。同时Crust的架构也有能力对去中心化计算层提供支持，构建分布式云生态。有市无币的FIL一路高涨。据MyToken数据显示，FIL近3月涨幅达308.19%。在主网上线时间几经推迟后，据Filecoin最新的官方回应，「预产期」定在了8月31日——9月21日，这个预期带动了整个市场。目前，包括Gat
Crust分布式云·2024-01-21 09:40

Docker部署高性能分布式存储MinIO

文件存储系统，相比FastDFS使用MinIO易上手，可扩展，非常适合于存储大容量非结构化的数据，例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等，而一个对象文件可以是任意大小，从几kb到最大5T
抹香鲸之海·2024-01-20 21:27

fdfs分布式文件存储----安装FastDFS（三十六）

一、FastDFS的介绍1、TrackerServer跟踪（调度）服务器，主要做调度工作，起到均衡的作用；负责管理所有的storageserver和group，每个storage在启动后会连接Tracker
梦捷者·2024-01-20 14:31

Linux环境搭建FastDFS文件服务器（附带Nginx安装）

本文主要介绍在linux服务器如何搭建FastDFS文件服务器。大概分为9个步骤，由于内容较为繁琐。下面带你入坑！
liaozk_c·2024-01-20 13:55

CentOS7安装go-fastdfs1.4.1

CentOS7安装go-fastdfs1.4.2文章目录CentOS7安装go-fastdfs1.4.2一、安装规划二、安装准备2.1清理环境2.2同步时间2.3关闭防火墙2.4关闭selinux2.5
三径就荒·2024-01-20 13:22

[ELK] ELK企业级日志分析系统

●ElasticSearch：是基于Lucene（一个全文检索引擎的架构）开发的分布式存储检索引擎，用来存储各类日志。Elasticsearch是用Java开发的，可通过RESTfulWeb
为什么老是名字被占用·2024-01-20 12:34

FastDFS之快速入门、上手

分布式存储：资源存储在多个服务器，这个存储资源构成一个虚拟的存储设备。常见的DFSFastDFS：开源的轻量级分布式文件系统；HD
微风至夏·2024-01-20 12:03

GZ036 区块链技术应用赛项赛题第3套

作为数字经济时代的前沿产物，区块链以其分布式存储、不可伪造和防篡改、透明可信、高可靠性和可追溯等优势，区块
嘿哈小将·2024-01-20 11:42

【Redis】三种集群模式（主从复制、哨兵模式、Cluster）

cluster模式是redis官方提供的集群模式，使用了Sharding技术，不仅实现了高可用、读写分离、也实现了真正的分布式存储。一、主从复制Redis的主从复制是一
hope笔记·2024-01-20 10:34

大数据导论（2）---大数据与云计算、物联网、人工智能

2.云计算是一种全新的技术，包含了虚拟化、分布式存储、分布式计
冒冒菜菜·2024-01-20 07:49

亚信安慧AntDB数据库：揭开性能与效率提升的奥秘

它采用了先进的数据库分片技术，使得数据在多个节点间进行分布式存储和处理，从而大幅提升数据库的性能和吞吐量。AntDB数据库的分片技术可以根据数据的特点和访问模式进行灵活
亚信安慧AntDB数据库·2024-01-20 01:31

ELK日志分析

ElasticSearch是基于Lucene（一个全文检索引擎的架构）开发的分布式存储检索引擎，用来存储各类日志。
lelelele798·2024-01-19 21:12

华为云计算IE面试笔记-fusionstorage相对于传统集中式存储的优势

fusionstorage是华为研发的一款分布式存储软件，可以将X86架构的服务器组成一个存储池，向上提供统一的存储能力。
魔仙堡的仙女·2024-01-19 20:19

centos中安装nfs实现服务器文件共享

如果一个服务使用集群方式部署，在文件读写时就需要考虑多个服务之间文件共享的问题，在共享文件时可以考虑部署一个单独的文件服务器，比如hdfs、minio、fastdfs等，也可以使用简单的文件目录共享方式实现
腊笔不小新xingo·2024-01-19 09:18

【分布式技术】分布式存储ceph之RBD块存储部署

目录创建Ceph块存储系统RBD接口服务端操作1、创建一个名为rbd-demo的专门用于RBD的存储池2、将存储池转换为RBD模式3、初始化存储池4、创建镜像5、在管理节点创建并授权一个用户可访问指定的RBD存储池6、修改RBD镜像特性，CentOS7默认情况下只支持layering和striping特性，需要将其它的特性关闭7、将用户的keyring文件和ceph.conf文件发送到客户端的/e
liu_xueyin·2024-01-19 04:17
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他