E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
ceph-分布式存储
【分布式技术专题】「OSS中间件系列」Minio的Server端服务的架构和实战搭建
Minio的介绍说明Minio是目前githug上star最多的ObjectStorage框架,这里ObjectStorage我目前的理解就是数据存储,minio可以用来搭建
分布式存储
服务Minio是ApacheLicensev2.0
洛神灬殇
·
2023-04-02 05:06
实战指南之分布式/微服务
分布式
中间件
架构
Hadoop - HDFS文件系统
3、
分布式存储
系统的核心属性及功能含义一、
分布式存储
的优点二、元数据记录的功能三、分块存储好处四、副本机制的作用4、HDFS简介HDFS适用场景5、HDFS主从架构分块存储副本机制元数据管理数据块存储6
Wangsh@
·
2023-04-02 03:54
大数据
hdfs
大数据
hadoop
一文理解Hadoop
分布式存储
和计算框架入门基础
文章目录概述定义发展历史发行版本优势生态项目架构组成模块HDFS架构YARN架构部署部署规划前置条件部署步骤下载文件(三台都执行)创建目录(三台都执行)配置环境变量(三台都执行)安装和配置(hadoop1上执行)启动和停止HadoopHDFS环境测试计算和资源环境测试概述定义Hadoop官网地址https://hadoop.apache.org/HadoopGitHub地址https://gith
IT小神
·
2023-04-02 00:23
大数据
Java
hadoop
分布式
大数据
强一致、高可用、高性能分布式Log存储系统的设计与实现
在
分布式存储
系统的设计研发和工程化实践方面,有较丰富经验。摘要:本次分享将从实战经验出发,详细介绍从0开始开发一个强
cuichun6294
·
2023-04-01 23:30
SpringCloud微服务实战——搭建企业级开发框架(二十九):集成对象存储服务MinIO+七牛云+阿里云+腾讯云
微服务应用中图片、文件等存储区别于单体应用,单体应用可以放到本地读写磁盘文件,微服务应用必需用到
分布式存储
,将图片、文件等存储到服务稳定的
分布式存储
服务器。
全栈程序猿
·
2023-04-01 17:23
小滴课堂-项目大课学习笔记(2)海量数据存储-分布式文件存储系统
在了解分布式文件存储之前,我们可以先来了解一下什么是
分布式存储
,
分布式存储
的系统又分为哪些什么是
分布式存储
在近些年来,随着各大的互联网公司的大数据应用的崛起,分布式系统被广泛的投入到实践当中。
小滴课堂
·
2023-04-01 17:22
java
分布式存储
认知
1.
分布式存储
认知总览这里说的
分布式存储
,不是特指某个系统,而是泛指具有以下两个特性的组件:•具备对某种数据模型进行存储的功能(增删改查)•分布式已有的常见数据模型有:表模型、文档模型、kv模型、消息模型
黄禄福
·
2023-04-01 12:05
TiDB学习笔记(一)-PCTA
一、
分布式存储
系统TiDB使用LSMTree数据结构。
404Rapper..
·
2023-04-01 11:54
TiDB
数据库
dba
在k8s高可用集群上用ROOK部署ceph集群并创建PVC
Rook概述Ceph简介Ceph是一种高度可扩展的
分布式存储
解决方案,提供对象、文件和块存储。在每个存储节点上,将找到Ceph存储对象的文件系统和CephOSD(对象存储守护程序)进程。
Jacket Li
·
2023-04-01 10:52
docker
kubernetes
java
python
分布式
使用Rook+Ceph在Kubernetes上作持久存储
Ceph是一个
分布式存储
系统,提供对象、文件
王伯爵
·
2023-04-01 10:52
云原生存储
kubernetes
持久化
数据持久化
k8s源码分析 pdf_rook源码分析之一:rook架构解析
rook简介Rook是一款云原生环境下的开源
分布式存储
编排系统,目前支持Ceph、NFS、Edegefs、Cassandra、CockroachDB等存储系统。
逢考必挂的拉格朗日
·
2023-04-01 10:48
k8s源码分析
pdf
Rook 1.5.1 部署Ceph实操经验分享
它实现了一个自我管理的、自我扩容的、自我修复的
分布式存储
服务。Rook支持自动部署、启动、配置、分配(provisioning)、扩容/缩容、升级、迁移
victoruu
·
2023-04-01 10:47
K8S
基于Rook+Ceph的云原生存储架构剖析
【摘要】Rook是一款云原生存储编排服务工具,Ceph是一种广泛使用的开源
分布式存储
方案,通过Rook可以大大简化Ceph在Kubernetes集群中的部署和维护工作。
宋罗世家技术屋
·
2023-04-01 09:00
大数据及数据管理(治理)专栏
云原生
ceph
架构
大数据原理-关键技术
大数据时代大数据的由来关键核心技术计算模式大数据的由来关键核心技术计算模式大数据的由来:4V大数据量、繁多的数据类型、处理数据的速度快、价值密度低使得出现了大数据时代关键核心技术:
分布式存储
(HDFS、
monster++
·
2023-04-01 08:19
大数据原理
大数据
hadoop
hive
spark
java
软考高级系统架构设计师:MemCache和Redis
软考高级系统架构设计师:MemCache和Redis一、Redis和MemCache的区别二、Redis与关系型数据库同步方案三、Redis
分布式存储
常见方案四、Redis集群切片的几种常见方式一、Redis
最笨的羊羊
·
2023-04-01 06:37
软考高级系统架构设计师考试
redis
软考高级系统架构设计师
MemCache
架构 对话架构师:亿级短视频社交美拍架构实战
个人擅长性能调优、高可用中间件、
分布式存储
、IM等相关领域。“在美拍的服务化过程中,主要基于etcd来实现我们的
yicaifenchen8
·
2023-04-01 04:15
架构
架构
大数据Hadoop入门03——HDFS分布式文件系统基础
是ApacheHadoop核心组件之一,作为大数据生态圈最底层的
分布式存储
服务而存在。也可以说大数据首先要解决的问题就是海量数据的存储问题。HDFS主要是解决大数据如何存储问题的。
程序猿七度
·
2023-04-01 02:55
大数据技术
hadoop
大数据
hdfs
OSS对象存储是什么?
对象存储OSS是在云上提供无层次结构的
分布式存储
产品,为用户提供单价较低且快速可靠的数据存储方案。用户可通过云服务器实例或互联网使用WebAPI接口存储和检索数据。
xiaoqingkkidc
·
2023-03-31 23:37
云计算
云存储
Hbase存储原理 - Region/Store/StoreFile/Hfile之间的关系
Region是HBase中
分布式存储
和负载均衡的最小单元,即不同的region可以分别在不同的RegionServer上,但同一个Region是不会拆分到多个server上。
ratnik
·
2023-03-31 22:28
Hbase
hbase
大数据
分布式数据库Hbase
HBase来源Hbase是BigTable的开源实现BigTable:
分布式存储
系统,最初是为了解决在大量数据下互联网的搜索问题特点:(1)架构在GFS上,使用GFS作为底层数据存储;(2)利用谷歌的MapReduce
雨漪人
·
2023-03-31 22:26
HBase
大数据技术
分布式数据库
背后的力量 | 加强数字政府建设 华云数据助力华中某省民政厅提升便民服务能力
华云数据(微信号:chinac_com)作为中国领先的综合云计算专家,为其打造新一代
分布式存储
体系,依托华云
分布式存储
软件,助
互联网科技、
·
2023-03-31 18:07
服务器
数据库
运维
手摸手部署IPFS(星际文件系统)
也要看一看备受推崇的IPFS,UniSwap的前端项目uniswap-interface就是基于此部署的简介官网地址,星际文件系统(InterPlanetaryFileSystem,缩写IPFS)是一个旨在创建持久且
分布式存储
和共享文件的网络传输协议
小僵尸打字员
·
2023-03-31 16:17
区块链
区块链
IPFS
http
IPFS - 可快速索引的版本化的点对点文件系统(草稿3)
在某些方面,IPFS类似于web,但web是中心化的,而IPFS是一个单一的Bittorrent群集,用git仓库
分布式存储
。
weixin_30398227
·
2023-03-31 15:54
git
大数据
运维
使用 Docker 安装 IPFS 星际文件系统
IPFS简介IPFS:InterPlanetaryFileSystem,星际文件系统.技术关键词:持久化
分布式存储
去中心化共享文件节点GitDHTs哈希区块链P2PBitTorrent存储特性使用存储对象的哈希值来获取对象内容
李苏珂
·
2023-03-31 15:48
docker
网络
docker
区块链
IPFS
分布式
存储
星际文件系统(InterPlanetary File System,缩写IPFS)
星际文件系统(InterPlanetaryFileSystem,缩写IPFS)是个旨在创建持久且
分布式存储
和共享文件的络传输协议。它是一种内容可寻址的对等超媒体分发协议。
噫嘘嘻
·
2023-03-31 15:07
区块链
区块链
比特币
数字货币
区块链:一种新的数据传输方式
分布式存储
、加密算法、共识机制,作为一种集成融合创新技术,区块链的本质是什么?可能到现在在很多人心中还是充满争论。
BSN研习社
·
2023-03-31 15:33
区块链
Clickhouse架构与设计
多个节点通过网络进行连接,协同工作,完成相同的任务(
分布式存储
,分布式计算)每个节点只访问自己的本地资源(内存、存储等)它
大数据研习社
·
2023-03-31 14:59
大数据实战精英+架构师
数据库
大数据
hadoop
分布式存储
学习——HDFS
简介 HDFS(HadoopDistributedFileSystem)是一种分布式文件系统,属于非结构化的
分布式存储
类型。
yindarui
·
2023-03-31 09:37
分布式存储
Hadoop
分布式
大数据
hadoop
java
hdfs
分布式存储
之GlusterFS
1.glusterfs概述GlusterFS系统是一个可扩展的网络文件系统,相比其他分布式文件系统,GlusterFS具有高扩展性、高可用性、高性能、可横向扩展等特点,并且其没有元数据服务器的设计,让整个服务没有单点故障的隐患。当客户端访问GlusterFS存储时,首先程序通过访问挂载点的形式读写数据,对于用户和程序而言,集群文件系统是透明的,用户和程序根本感觉不到文件系统是本地还是在远程服务器上
学有境
·
2023-03-31 09:00
HDFS原理与应用
其中Client端通过协议访问层与Server端通讯
分布式存储
系统有对象存储、文件存储、块存储和数据库HDFS功能特性:分布式:受GFS启发,用Ja
Popcorn丶30
·
2023-03-31 09:10
hadoop
hdfs
大数据
ELK-B简述和架构分析
是一个轻量型的日志收集处理工具,FileBeat占用的资源少,适合在各个服务器上搜集日志后传输给Logstash;二、ELK-B介绍Elasticsearch简称ES,是一个基于Lucene的、支持全文索引的
分布式存储
和索引引擎
Sinder_小德
·
2023-03-31 07:32
elk
架构
java
elasticsearch
搜索引擎
Prometheus 简介与架构
操作简单,可以随时随地部署监控服务,甚至在本地工作站上,而无需设置
分布式存储
后端或重新配置环境。可扩展的数据收集和分散的架构,以便于可以可靠的监控服务的许多实例,独立团队可以
富士康质检员张全蛋
·
2023-03-31 03:52
Prometheus
prometheus
Prometheus组件详解
Prometheus简介Prometheus的主要特征有:1.多维度数据模型2.灵活的查询语言3.不依赖
分布式存储
,单个服务器节点是自主的4.以HTTP方式,通过pull模型拉去时间序列数据5.也通过中间网关支持
我的紫霞辣辣
·
2023-03-31 03:30
监控
Prometheus
大数据技术及应用—Hadoop 基础 笔记
Hadoop采用
分布式存储
和并行执行机制,为整个数据群带来了非常高的宽带,因此能大大提高效率。Hadoop事实上是用大量的廉价机器组成的集群去执行大规模运算,这包括大规模的计算和大规模的存储。
佳钰小甜心
·
2023-03-30 23:59
hadoop
spark
分布式
大数据
大数据技术原理与应用(第一章,大数据概述)
目录1.1大数据时代1.2大数据的概念和影响1.3大数据的应用1.4大数据的关键技术
分布式存储
分布式并行处理技术1.5大数据与云计算、物联网的关系1.5.1云计算云计算数据中心1.5.2物联网(TheInternetofThings
m0_37607242
·
2023-03-30 23:18
大数据
Redis分布式缓存集群环境搭建(手动搭建)
Redis集群简介RedisCluster即Redis集群,是Redis官方在3.0版本推出的一套
分布式存储
方案。完全去中心化,由多个节点组成,所有节点彼此互联。
程序小达人
·
2023-03-30 20:03
Redis
redis
数据库
nosql
Hadoop概述以及HDFS、YARN、MapReduce的架构分析和Hadoop的特点
文章目录Hadoop概述什么是Hadoop:
分布式存储
框架:HDFS分布式计算框架:MapReduce资源调度和管理平台:YARNHadoop的版本HDFS架构
分布式存储
介绍HDFS架构分析YARN架构分析
被迫内卷的学习记录
·
2023-03-30 20:12
hadoop
hdfs
mapreduce
分布式架构
对大型互联网系统而言,主要包括缓存、异步、
分布式存储
、微服务等;第三、架构方面:考虑点主要包括高可用、高性能、高扩展这三
你是怎么睡得着觉的
·
2023-03-30 20:37
架构
微服务
分布式
ceph简介
ceph是⼀种
分布式存储
系统,可以将多台服务器组成⼀个超⼤集群,把这些机器中的磁盘资源整合到⼀块⼉,形成⼀个⼤的资源池(⽀持PB级别,大厂用得多),然后按需分配给客户端应⽤使⽤。
唏噗
·
2023-03-30 19:44
笔记
后端
分布式
你一定要了解的分布式储存
最近
分布式存储
项目频繁出现在我们的视野中,分布式储存指的是什么?有什么优点值得大家关注?分布式储存项目值得我们的期待吗?
BB小九菜123
·
2023-03-30 18:37
连你女朋友都能看懂的分布式架构原理!
黄金搭档:
分布式存储
+分布式计算这篇文章聊一个话题:什么是分布式计算系统?一、从一个新闻门户网站案例引入现在很多同学经常会看到一些名词,比如分布式服务框架,分布式系统,
分布式存储
系统,分布式消息系统。
石杉的架构笔记
·
2023-03-30 15:56
面试求职
分布式
Java
分布式
架构
数据库
面试官让我聊聊 MQ 的数据丢失问题,没想到水这么深。。。
目录一、背景引入二、Kafka
分布式存储
架构三、Kafka高可用架构四、画图复现Kafka的写入数据丢失问题五、Kafka的ISR机制是什么?六、Kafka写入的数据如何保证不丢失?
石杉的架构笔记
·
2023-03-30 15:56
面试求职
MQ
Java
java
面试
rabbitmq
Alluxio安装部署
简介Alluxio是世界上第一个虚拟的
分布式存储
系统,以内存速度统一了数据访问。它为计算框架和存储系统构建了桥梁,使应用程序能够通过一个公共接口连接到许多存储系统。
weixin_47924795
·
2023-03-30 14:20
大数据
hdfs
flink
hadoop
数据仓库
Alluxio-基于内存的虚拟
分布式存储
系统
什么是AlluxioAlluxio是世界上第一个虚拟的
分布式存储
系统,它为计算框架和存储系统构建了桥梁,使计算框架能够通过一个公共接口连接到多个独立的存储系统,使计算与存储隔离。
机器爱上学习
·
2023-03-30 13:53
数据库
hadoop
服务器
alluxio
分布式内存文件系统
hadoop
hdfs
hive
你不知道的开源
分布式存储
系统 Alluxio 源码完整解析(下篇)
在《Alluxio-源码简述-上》主要讲述了Alluxio本地环境搭建,源码项目结构,服务进程的启动流程和服务间RPC调用。本篇将在上篇的基础上,继续为大家讲述Alluxio中重点类详解,Alluxio中Block底层读写流程,AlluxioClient调用流程和Alluxo内置的轻量级调度框架。PARTONE重点类详述1.1.JournaledJournaled接口定义可被Journaled持久
腾源会
·
2023-03-30 13:09
hadoop
linux
java
大数据
数据库
Alluxio架构、场景与部分配置参数详解
Alluxio架构、场景与部分配置参数Alluxio:架构及数据流-简书(jianshu.com)Alluxio-基于内存的虚拟
分布式存储
系统_机器爱上学习的博客-CSDN博客_alluxio1架构1.1
气运联盟
·
2023-03-30 13:59
Alluxio
架构
big
data
云计算
HBase基本概念与基本使用
1.HBase简介1.1什么是HBaseHBASE是一个高可靠性、高性能、面向列、可伸缩的
分布式存储
系统,利用HBASE技术可在廉价PCServer上搭建起大规模结构化存储集群。
Swordfall
·
2023-03-30 10:13
HDFS-GFS HBASE-BigTable
SecondaryNameNode,DataNodeBigtable是Google为了其搜索引擎应用推出的一种基于GFS的分布式数据模型,能够存储海量的结构化数据HBase对标于Goole的Bigtable,是基于HDFS
分布式存储
的面向列存储的数据库
高级cv算法设计师
·
2023-03-30 10:10
hbase
主流
分布式存储
技术对比分析:GFS、HDFS、GlusterFS、Ceph、Swift | 架构进阶
引言目前市面上各个厂家的
分布式存储
产品五花八门,但是如果透过产品本身的包装看到其背后的核心技术体系,基本上会分为两种架构,一种是有中心架构的分布式文件系统架构,以GFS、HDFS为代表;另外一种是完全无中心的
分布式存储
架构
爱写代码的小白.
·
2023-03-30 08:33
云计算
swift
分布式
hdfs
linux
Windows Server搭建SAN存储服务(一)
以数据中心网络为基础的
分布式存储
是构建云计算的物理实体。
南海有鹏
·
2023-03-30 06:55
云计算
云存储
上一页
22
23
24
25
26
27
28
29
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他