E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
分布式存储CEPH
OpenStack部署(五)
创建块设备存储11.8创建实例12.资源整理12.1用到的端口12.2openstack各组件常用命令1.openstack命令2.nova的常用命令3.neutron常用命令4.cinder命令5.
ceph
壹只菜鸟
·
2023-06-09 19:01
#
openstack
openstack
bash
linux
Clickhouse系列之整合Hive数仓
ApacheHive数据仓库软件便于使用SQL读取、写入和管理驻留在
分布式存储
中的大型数据集。结构可以投射到已存储的数据上。提供了一个命令行工具和JDBC驱动程序,用于将用户连接到Hive。
小二上酒8
·
2023-06-09 19:22
hive
clickhouse
数据库
中间件
开发语言
spark复习重点
大数据的处理需要使用特殊的技术和工具,如
分布式存储
、分布式计算、数据挖掘、机器学习等。大数据的特性大数据具有以下特性:Volume(数据量大):大数据的数据量通常以TB、PB、EB等计量单位来衡量。
浩茫
·
2023-06-09 12:48
spark
大数据
hadoop
Spark运行原理
1.BlockManagerBlockManager是Spark的
分布式存储
系统主从结构:BlockManagerMaster/BlockManager(Slave)BlockManagerMaster
不会编程的小小怪
·
2023-06-09 09:15
Spark
大数据
spark
分布式
快速搭建测
ceph
一、
ceph
adm介绍
Ceph
adm是一个由
Ceph
社区维护的工具,它用于在
Ceph
集群中管理和部署
Ceph
服务。它是一个基于容器化的工具,使用了容器技术来部署
Ceph
集群的不同组件。
高龄码农创业
·
2023-06-09 08:32
docker
运维
linux
聊聊分布式锁——Redis和Redisson的方式
一、什么是分布式锁分布式~~锁,要这么念,首先得是『分布式』,然后才是『锁』分布式:这里的分布式指的是分布式系统,涉及到好多技术和理论,包括CAP理论、
分布式存储
、分布式事务、分布式锁...分布式系统是由一组通过网络进行通信
小小怪下士 XIA
·
2023-06-09 06:56
Java
分布式
redis
java
从绿色节能趋势看存储资源盘活系统HBlock
数据中心约超过一半的成本是电费,数据存储系统作为数据中心三大件之一,能耗也约占三分之一,面对非结构化数据量的快速增长挑战,以及国家对数据中心绿色节能要求的提高,
分布式存储
的绿色节能愈来愈加重要。
存储-小白
·
2023-06-08 20:47
存储
从
分布式存储
管理功能发展趋势看存储资源盘活系统HBlock
随着企业IT的架构复杂化、多样化,非结构化数据进入到企业生产决策流程,企业对非结构数据的安全可靠、自动化管理、跨云共享提出了新的要求,为满足新的数据管理需要,
分布式存储
正向着硬件异构、多数据中心容灾、智能化运维的方向创新演进
存储-小白
·
2023-06-08 20:16
分布式
大数据
数据库
Centos stream 8 使用
ceph
adm 安装
Ceph
(17.2.6 quincy)集群
一、环境1、机器列表名称IP角色备注
ceph
node12010.0.49.120_admin双网卡双硬盘/sda/60G/sdb/160G
ceph
node12110.0.49.121_storage双网卡双硬盘
阿波罗.2012
·
2023-06-08 16:39
openstack
软件安装
ceph
运维
centos
Ceph
应用
创建
Ceph
FS文件系统MDS接口1.服务端操作1)在管理节点创建mds服务cd/etc/
ceph
ceph
-deploymdscreatenode01node02node032)查看各个节点的mds服务
Yuzhang2046
·
2023-06-08 16:27
ceph
【Raft】分布式一致性算法Raft和zab、paxos
Paxos知名分布式系统
ceph
的monitor集群使用的算法太复杂了面试官自己也搞不懂,所以没必要深究。Raft算法Raft动画教程http://thesecretlivesofdata.com
bandaoyu
·
2023-06-08 08:18
数据结构
算法
设计模式
分布式
算法
zookeeper
分布式存储
Ceph
的部署及应用(创建MDS、RBD、RGW 接口)
目录一、存储基础1.1单机存储设备1.2单机存储的问题二、
分布式存储
(软件定义的存储SDS)2.1
分布式存储
的类型三、
Ceph
简介3.1
Ceph
优势3.2
Ceph
架构3.3
Ceph
核心组件3.4Pool
橘淮南枳
·
2023-06-08 07:24
Linux
分布式
ceph
网络
运维
服务器
初学者学习微服务 需要了解哪些知识?该如何入门微服务?有哪些优质的教程可以学习?
终于有人把tcp、http、rpc和grpc总结完整了微服务知识点总览学习微服务,需要了解以下几个方面的知识:分布式系统:微服务是一种分布式系统架构模式,因此需要对分布式系统有一定的了解,包括分布式计算、
分布式存储
7small7
·
2023-06-08 04:18
后端开发-Golang
微服务
学习
java
微服务架构案例(03):数据库选型简介,业务数据规划设计
分布式存储
Cassandra、Hbase、MongodDB等。键值存储Memcached、Redis、MemcacheDB等。图形
知了一笑
·
2023-06-08 02:23
SpringCloud
微服务
微服务架构
数据库
数据库架构
ceph
分布式存储
一、存储基础1.1单机存储设备●DAS(直接附加存储,是直接接到计算机的主板总线上去的存储)IDE、SATA、SCSI、SAS、USB接口的磁盘所谓接口就是一种存储设备驱动下的磁盘设备,提供块级别的存储●NAS(网络附加存储,是通过网络附加到当前主机文件系统之上的存储)NFS、CIFS、FTP文件系统级别的存储,本身就是一个做好的文件系统,通过nfs接口在用户空间输出后,客户端基于内核模块与远程主
宇航员殿
·
2023-06-07 23:51
ceph
分布式
网络
CEPH
分布式存储
部署
ceph
支持块存储、对象存储、
ceph
fs文件共享系统,概念性的东西这里不过多介绍,请自行查阅
ceph
分布式存储
相关资料,本文主要介绍
ceph
分布式集群部署操作系统:centos7.9最小安装节点配置:
旅途丶
·
2023-06-07 22:08
linux
分布式
服务器
linux
ceph
Ceph
分布式存储
Ceph
概述存储基础单机存储设备●DAS(直接附加存储,是直接接到计算机的主板总线上去的存储)IDE、SATA、SCSI、SAS、USB接口的磁盘所谓接口就是一种存储设备驱动下的磁盘设备,提供块级别的存储
仙女爱硬拉
·
2023-06-07 22:55
ceph
运维
什么是数藏,数藏适用于什么样配置服务器
数藏的概念:数藏是一种基于
分布式存储
和计算的架构,它采用分布式文件系统和分布式数据库等技术,将数据分散存储在多个节点上,并通过数据冗余和数据分片等方式来保证数据的可靠性和可用性。
潘潘潘潘panpan
·
2023-06-07 20:25
服务器
CSI架构和原理
CSICSI简介CSI的诞生背景K8s原生支持一些存储类型的PV,如iSCSI、NFS、
Ceph
FS等等,这些in-tree类型的存储代码放在Kubernetes代码仓库中。
Praywu
·
2023-06-07 18:00
Hbase安装指南
Hbase简介HBase是一个高可靠性、高性能、面向列、可伸缩的
分布式存储
系统,利用HBase技术可在廉价PCServer上搭建起大规模结构化存储集群。
小小哭包
·
2023-06-07 18:59
大数据
计算机
Java
hbase
hadoop
大数据
【云原生|Kubernetes】05-Pod的存储卷(Volume)
)文章目录【云原生Kubernetes】05-Pod的存储卷(Volume)简介Volume类型解析emptyDirHostPathgcePersistentDiskNFSiscsiglusterfs
ceph
小肖同学..
·
2023-06-07 16:41
kubernetes
云原生
容器
网工内推 | 云方向招运维,云计算HCIE认证优先,最高22k
01东华软件股份公司招聘岗位:运维系统工程师(云平台)职责描述:1、负责华为云平台HuaweiCloudStack,FusionStorage
分布式存储
的维护,优化和故障处理;2、负责云平台上VDC、ECS
HCIE考证研究所
·
2023-06-07 13:31
hcie
华为认证
网络工程师
运维
ccie
数据结构与算法08:二分查找和哈希算法
目录【二分查找】二分查找的特殊情况【哈希算法】应用一:安全加密应用二:唯一标识应用三:数据校验应用四:散列函数应用五:负载均衡应用六:数据分片应用七:
分布式存储
(一致性哈希算法)每日一练:搜索旋转排序数组
浮尘笔记
·
2023-06-07 10:26
数据结构与算法
算法
数据结构
哈希算法
golang
几种分布式文件系统的优缺点归纳与总结
2.
Ceph
:
Ceph
是一个开源的
分布式存储
系统,提供了高可用性、高性能和可扩展性。3
水云间月掌柜
·
2023-06-07 08:00
CEPH
部署
//存储类型块存储一对一,只能被一个主机挂载使用,数据以块为单位进行存储,典型代表:硬盘文件存储一对多,能被多个主机同时挂载使用,数据以文件的形式存储的(元数据和实际数据是分开存储的),并且有目录的层级关系,典型代表:NFS对象存储一对多,能被多个主机通过API接口访问使用,数据以文件进行存储,一个文件即一个对象,元数据和实际数据是存储在一起的,文件是扁平化的存储,没有目录的层级关系,典型代表:O
StarkDD1127
·
2023-06-07 05:34
ceph
ELK 企业级日志分析系统
●ElasticSearch:是基于Lucene(一个全文检索引擎的架构)开发的
分布式存储
检索引擎,用来存储各类日志。
StarkDD1127
·
2023-06-07 05:33
elk
java
开发语言
CEPH
分布式文件系统
一存储基础//单机存储设备●DAS(直接附加存储,是直接接到计算机的主板总线上去的存储)IDE、SATA、SCSI、SAS、USB接口的磁盘所谓接口就是一种存储设备驱动下的磁盘设备,提供块级别的存储●NAS(网络附加存储,是通过网络附加到当前主机文件系统之上的存储)NFS、CIFS、FTP文件系统级别的存储,本身就是一个做好的文件系统,通过nfs接口在用户空间输出后,客户端基于内核模块与远程主机进
竹流清水
·
2023-06-07 04:22
ceph
网络
【存储方式】
存储方式1.顺序存储2.链式存储3.哈希存储4.树形存储5.关系式存储6.
分布式存储
7.对象存储结论不同的存储方式在不同的场景下拥有各自的优势和适用性。
MarcoAI
·
2023-06-07 03:51
数据结构
数据结构
SpringBoot整合Minio实现文件上传、下载
SpringBoot整合Minio实现文件上传、下载:1,介绍高性能
分布式存储
文件服务Minio:Minio是基于Go语言编写的对象存储服务,适合于存储大容量非结构化的数据,例如图片、音频、视频、日志文件
【JAVA】玩家
·
2023-06-07 02:03
中间件
文件存储
minio
debian11快速
ceph
集群17.2.6(Quincy版)
由于网友跟我讲Pacific版快到期了,所以出一个Quincy版的部署文档配置一下源echo"debhttp://mirrors.163.com/
ceph
/debian-quincy/bullseyemain
野猪佩挤
·
2023-06-06 22:43
存储
system
ceph
debian
运维
harbor GC优化(
ceph
后端)
distribution(原来的名字叫registry)版本为2.7.1,存储后端对接
ceph
(s3),线上环境
ceph
存储性能一般。应用会定期删除不需要的镜像,每个镜像只保留一定个数的tag数。
免帅叫哥
·
2023-04-21 13:26
hadoop集群基础配置
hadoop1.0mapreduce+HDFShadoop2.0mapreduce+HDFS+YARN加入YARN使得hadoop更加包容,其他的组件也可以在hadoop生态系统中运行hadoop3.0HDFS(
分布式存储
February13
·
2023-04-21 13:11
hadoop
hdfs
大数据
Ceph
之父Sage Weil携团队走进XSKY
在
Ceph
aloconAPAC2018的前夕,有着“
Ceph
之父”美誉的SageWeil,以及来自Intel,RedHat等合作伙伴的资深技术专家,齐齐走进XSKY,探讨与交流SDS的发展,共赴一场春天的约会
XSKY融合存储
·
2023-04-21 10:19
叶工好容1-kubernetes存储
根据真实存储位置与Node的关系分为本地存储(emptyDir/hostPath)和外部存储(NFS/
Ceph
)。本地存储:emptyDir:与Pod同生同死的pod内使用的空存储。
牛麦康纳
·
2023-04-21 06:01
kubernetes-叶工好容
kubernetes
运维
云原生
linux搭建hadoop集群及MapReduce使用
1Hadoop
分布式存储
介绍2搭建Hadoop集群本次实验将搭建一个含有三节点的hadoop集群。
沐岩:)
·
2023-04-21 05:17
hadoop
linux
mapreduce
Ubuntu部署
Ceph
1
Ceph
简介
ceph
是一个分布式文件存储系统
ceph
的主要组成部分包括:Monitors:监视器,主要负责监视整个集群的健康状况OSDs:存储数据、处理数据ManagersMDSs:元数据服务器,为
ceph
沐岩:)
·
2023-04-21 05:46
ubuntu
ceph
linux
Ceph
RGW bucket 自动分片介绍和存在的问题
resharding工作中存储集群使用了
Ceph
技术,所用的是版本是Luminous12.2.4,因为刚刚上手
Ceph
,不少概念和问题也都是头一次听说,比如这次的自动分片(autoresharding)
blackpiglet
·
2023-04-20 23:07
ceph
设计原理与实现(CRUSH算法)
1、
ceph
架构image.png2、CRUSH基于哈希的数据分布算法image.png3、straw算法straw2算法image.pngstraw2在新osd加入时不会引起其他osd的迁移4、CRUSH
SkTj
·
2023-04-20 21:00
区块链共识机制怎么解释?
项目名称:DitoChian官网:www.ditochain.org丨白皮书区块链,是一种拥有
分布式存储
、共识机制、点对点传输、安全加密等特性的集成应用。
RcardoMS
·
2023-04-20 20:21
ceph
bluestore直接管理裸设备,实现在用户态下使用linuxaio直接对裸设备进行I/O操作image.png写IO流程:一个I/O在bluestore里经历了多个线程和队列才最终完成,对于非WAL的写,比如对齐写、写到新的blob里等,I/O先写到块设备上,然后元数据提交到rocksdb并sync了,才返回客户端写完成(在STATE_KV_QUEUED状态的处理);对于WAL(即覆盖写),没有
滩主
·
2023-04-20 18:41
数据中心厂商超云加入龙蜥社区,多款服务器完成与龙蜥操作系统适配
超云是由CEC中国电子、云基地产业基金联合注资成立的国家高新技术企业,其专注于云基础架构、云系统、云服务三大产业布局,现已形成了覆盖X86服务器、整机、超融合、
分布式存储
等产品领域的完善业务体系,是国内专业的数据中心
·
2023-04-20 18:25
数据服务器操作系统开源
Ceph
入门到精通-
Ceph
adm安装
Ceph
(v17.2.5 Quincy)全网最全版本
Deploy
Ceph
(v17.2.5Quincy)clustertouse
Ceph
adm-DevOps-dbaselifeInstall
ceph
adm
Ceph
admcreatesanew
Ceph
clusterby
瓦哥架构实战
·
2023-04-20 16:57
Ceph入门到精通
运维
linux
centos
Ceph
入门到精通-
Ceph
版本升级命令
升级
CEPH
Ceph
adm可以安全地将
Ceph
从一个错误修复版本升级到下一个错误修复版本。为例如,你可以从v15.2.0(第一个八达通版本)升级到下一个点发布,v15.2.1。
瓦哥架构实战
·
2023-04-20 16:27
Ceph入门到精通
docker
容器
运维
Ceph
入门到精通-
Ceph
服务管理之OSD服务
Ceph
服务管理之OSD服务列出设备
ceph
-volume不时扫描集群中的每个主机,以确定哪些设备存在以及它们是否有资格用作OSD。
瓦哥架构实战
·
2023-04-20 16:27
java
linux
运维
ceph
CentOS8使用
ceph
adm部署和配置
Ceph
Octopus
部署工具:
ceph
adm操作系统:CentOS8
Ceph
版本:Octopus操作用户:root部署前,请注意:根据目前(2020年8月)
Ceph
官方文档的介绍,
ceph
adm的对各服务的支持情况如下:完全支持
瓦哥架构实战
·
2023-04-20 16:53
ceph
centos
docker
Ceph
CRUSH算法
1.数据分布算法挑战数据分布和负载均衡:a.数据分布均衡,使数据能均匀的分布到各个节点上。b.负载均衡,使数据访问读写操作的负载在各个节点和磁盘的负载均衡。灵活应对集群伸缩a.系统可以方便的增加或者删除节点设备,并且对节点失效进行处理。b.增加或者删除节点设备后,能自动实现数据的均衡,并且尽可能少的迁移数据。支持大规模集群a.要求数据分布算法维护的元数据相对较小,并且计算量不能太大。随着集群规模的
lihanglucien
·
2023-04-20 14:17
Ceph
Luminous librbd & librados 解析 -- 代码概述
1.librbd&librados介绍Librbd模块实现了RBD接口,其基于Librados实现了对RBD的基本操作。1.1架构概述上层应用访问RBD块设备有两种途径:librbd和krbd。其中librbd是一个基于librados的用户态接口库,而krbd是继承在GNU/Linux内核中的一个内核模块,通过用户态的rbd命令行工具,可以将RBD块设备映射为本地的一个块设备文件。从RBD的架构
KidneyBro
·
2023-04-20 13:38
小白入门---从0开始学习区块链---词汇篇08
分布式存储
听说共识机制,
分布式存储
是区块链核心技术的精华所在。今天学习的内容就是
分布式存储
。
成长为价值投资者
·
2023-04-20 07:50
ceph
维护系列(二)--卸载osd
一摘要本文主要介绍从
ceph
某台节点上卸载一块或者多块osd(硬盘)二环境信息2.1操作系统版本[root@pro
ceph
05~]#cat/etc/centos-releaseCentOSLinuxrelease7.6.1810
tobias.b
·
2023-04-19 22:37
ceph
「扫盲」 Elasticsearch
Elasticsearchisareal-time,distributedstorage,search,andanalyticsengineElasticsearch是一个实时的
分布式存储
、搜索、分析的引擎
chen_chen_chen_
·
2023-04-19 21:30
上一页
36
37
38
39
40
41
42
43
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他