E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hbase集群安装
K8S
集群安装
1、k8s快速入门1)、简介Kubernetes简介k8s。是用于自动部署,扩展和管理容器化应用程序的开源系统。中文官网:https://kubernetes.io/zh/中文社区:https://www.kubernetes.org.cn/官方文档:https://kubernetes.io/zh/docs/home/社区文档:http://docs.kubernetes.org.cn/部署方式
施小赞
·
2023-11-16 21:01
运维
k8s
java
k8s
关系型数据库与非关系型数据库的详细对比和说明
OracleSQLServerSybaseInformixAccessDB2mysqlvfpIngersFoxPro非关系型数据库:MongoDBCassandraCouchDBHypertableRedisRiakNeo4jHadoop
HBase
Couc
hbase
MemcacheDBREVENDBVoldemort
CharsonYang
·
2023-11-16 20:48
数据库专栏
mongodb
redis
mysql
nosql
Kubernetes(k8s)
集群安装
部署
一.环境说明名称IP系统配置主控节点192.168.202.101CentOS7.9.20092核4G工作节点1192.168.202.102CentOS7.9.20092核4G工作节点2192.168.202.103CentOS7.9.20092核4G二.先决条件配置(所有节点)2.1升级操作系统内核导入elrepogpgkeyrpm--importhttps://www.elrepo.org/
千月落
·
2023-11-16 13:01
云原生
kubernetes
docker
容器
ubuntu22.04下hadoop3.3.6+
hbase
2.5.6+phoenix5.1.3开发环境搭建
一、涉及软件包资源清单1、java这里使用的是openjdk2、hadoop-3.3.6.tar.gz3、
hbase
-2.5.6-hadoop3-bin.tar.gz4、phoenix-
hbase
-2.5
ls_elect
·
2023-11-16 07:31
linux
hbase
hadoop
zookeeper
phoenix
数据的存储--MongoDB文档存储
列存储数据库:代表有Cassandra、
HBase
和Riak等。文档型数据库:代表有CouchDB和Mon
Bruce_Liuxiaowei
·
2023-11-16 02:32
总结经验
笔记
python
mongodb
关系型数据库的瓶颈 与 优化
SQLServer以及PostgreSQL;MySQL是国内使用最广泛的数据库,Oracle在传统行业应用最为广泛,PostgreSQL性能和功能都比较完善,但目前文档和社区还有待成长.非关系型数据库,如
HBase
BUG弄潮儿
·
2023-11-15 23:12
数据库
中间件
redis
mysql
java
DM8读写分离
集群安装
部署_手动切换
一、安装前准备1.1硬件环境建议读写分离
集群安装
部署前需要额外注意网络环境和磁盘IO配置情况,其他环境配置项建议请参考安装前准备工作。
福娃筱欢
·
2023-11-15 22:38
DM集群
DM8读写分离集群安装部署
DM8数据守护
集群安装
部署_手动切换
一.安装前准备1.1硬件环境建议数据守护
集群安装
部署前需要额外注意网络环境和磁盘IO配置情况,其他环境配置项建议请参考安装前准备工作。
福娃筱欢
·
2023-11-15 22:34
DM集群
达梦数据守护集群
zookeeper的安装部署
Zookeeper定义2.Zookeeper的特点3.Zookeeper的基本架构4.Zookeeper的工作原理5.Zookeeper的数据模型(1)临时节点(2)顺序节点(3)观察机制Zookeeper
集群安装
前的准备工作
necessary653
·
2023-11-15 21:32
zookeeper
分布式
云原生
ssh
linux
运维
数据库架构
HBase
的Compaction理解
本文是对自己了解到的
HBase
Compaction机制做个总结。为什么需要Compaction:因为
HBase
使用了LSM树,将写数据和索引时的随机写转变成了顺序写磁盘,提高了写入时的性能。
淡定一生2333
·
2023-11-15 17:25
HBase使用
HBase
之WAL与Flush
目录WriteAheadLog(WAL)WALProviderWALSplittingsplitting步骤Flush触发条件相关参数WriteAheadLog(WAL)用于记录所有数据的更改。正常写入流程下,不需要wal,因为数据会通过memstoreflush成storefile,但如果在memstoreflush时RegionServer崩溃或不可用,WAL此时会确保可以回放整个数据的更改。
zincooo
·
2023-11-15 17:25
HBase
hbase
大数据
WAL
Compaction的原理与
Hbase
Compaction实现
HBase
中的用户数据在LSM树体系架构中最终会形成一个一个小的HFile文件。我们知道,HFile小文件如果数量太多会导致读取低效。
晓之以理的喵~~
·
2023-11-15 17:52
Hadoop
Hbase
大数据
hbase
大数据
hadoop
HBase
—Compaction之详解
1.概述Compaction核心功能是合并小文件,
HBase
的Compaction分为MinorCompaction和majorCompaction两类MinorCompaction选取部分小的,相邻的
大树1993
·
2023-11-15 17:19
hadoop生态
hadoop
HBase
Compaction机制
Compaction介绍Compaction是buffer->flush->merge的Log-StructuredMerge-Tree模型的关键操作,主要起到如下几个作用:1)合并文件2)清除删除、过期、多余版本的数据3)提高读写数据的效率Minor&MajorCompaction的区别1)Minor操作只用来做部分文件的合并操作以及包括minVersion=0并且设置ttl的过期版本清理,不做
小东升职记
·
2023-11-15 17:48
Hbase
大数据
HBase
Compaction
文章目录1.Compaction1.1.基本原理1.2.Compaction的核心作用1.2.1.副作用1.3.Compaction基本流程1.3.1.Compaction触发时机1.3.2.待合并HFile集合选择策略1.3.2.1.RatioBasedCompactionPolicy1.3.2.2.ExploringCompactionPolicy1.3.3.挑选合适的执行线程池1.3.4.H
初阳zz
·
2023-11-15 17:18
HBase
HBASE
Compaction 简介
HBASE
Compaction简介序since:2021年4月8日9:43auth:Hadi参考:https://blog.csdn.net/u011598442/article/details/90632702http
青冬
·
2023-11-15 17:18
Hbase
hbase
hbase
compaction
minorcompaction删除TTL过期数据majorcompaction被删除的数据(打了Delete标记的数据)、TTL过期数据、版本号超过设定版本号的数据MinorCompaction:指选取一些小的、相邻的HFile将他们合并成一个更大的HFile。默认情况下,minorcompaction会删除选取HFile中的TTL过期数据。MajorCompaction:指将一个Store中所有
longlovefilm
·
2023-11-15 17:46
hbase
hbase
HBase
Minor Compaction和Major Compaction
背景
HBase
在将数据落盘到HDFS上之后,为了解决小文件并提高数据访问效率,定义了两种方式来合并HFile文件。
筑梦之人
·
2023-11-15 17:45
大数据
HBase
Hbase
之四 Compaction & Split
前言本篇是
HBase
相关内容的第四篇,上一篇我们整理了一下
HBase
的读写过程,这一篇继续来略微的探究一下
HBase
保存性能的关键HFileCompaction和RegionSplit,文中如有错误欢迎指正
薇安娜
·
2023-11-15 17:14
HBase
hbase
大数据
java
hbase
之 compaction
0.94.17一、compaction触发点1.1memstoreflush完成之后回见检查是不是需要compaction1.2基于Chore(子类CompactionChecker)的检查时间,时间间隔
hbase
.server.thread.wakefrequency
_牧童
·
2023-11-15 17:14
hbase
HBase
源码之Compaction的执行策略分析
HBase
的Compaction操作一般都是表粒度的,该操作会将合并HStore下的storefile文件,具体应该合并哪些storefile文件则是由compaction的筛选算法决定的。
bryceforphy
·
2023-11-15 17:14
hbase
hbase
源码
compact策略
合并
Hbase
的 Compaction
了解
HBase
的童鞋都知道,
HBase
是一种LSM(Log-StructuredMergeTree)架构模式,用户数据写入先写WAL,再写缓存,满足一定条件后缓存数据会执行flush操作真正落盘,形成一个数据文件
a447942008
·
2023-11-15 17:44
大数据
HBase
原理 |
HBase
Compaction介绍与参数调优
我们知道,数据达到
HBase
服务端会写WAL-写Memstore,然后定期或满足一定条件时刷写磁盘生成一个HFile文件,随着时间推移生成的HFile会越来越多,将会影响
HBase
查询性能,同时会对HDFS
create17
·
2023-11-15 17:13
java
python
大数据
hbase
mysql
HBase
的compaction和split流程总结
目录
HBase
的compaction和split总结1、compaction介绍2、compaction方式MinorcompactionMajorcompaction3、split介绍参考
HBase
的
Stray_Lambs
·
2023-11-15 17:13
hbase
大数据
hbase
HBase
之Compaction
目录Compaction触发条件相关参数文件选取策略ExploringCompactionPolicy常见优化Compaction随着memstore的不断flush,storefile的数量将会不断增加。compaction将通过合并storefile来减少文件数量,并提高读性能。conpaction以store为单位Compaction分为两种,minor和major。minor通过选择较小的
zincooo
·
2023-11-15 17:42
HBase
hbase
大数据
Compaction
从0开始学大数据16-ZooKeeper是如何保证数据一致性的?
你可能还记得,我们在讲HDFS和
HBase
架构分析时都提到了ZooKeeper。
源码头
·
2023-11-15 15:18
大数据
大数据
java-zookeeper
zookeeper
从0开始学大数据14-BigTable的开源实现:
HBase
14|BigTable的开源实现:
HBase
我们知道,Google发表GFS、MapReduce、BigTable三篇论文,号称“三驾马车”,开启了大数据的时代。
源码头
·
2023-11-15 15:48
大数据
hbase
大数据
开源
【云原生 | Kubernetes 系列】---Ceph
集群安装
部署
1.Ceph版本选择由于15已经在2022年6月1日终止更新了,且一般选择稳定版小版本大于5的.所以选择安装Ceph16.2.10PacificNameInitialreleaseLatestEndoflifeQuincy2022-04-1917.2.32024-06-01Pacific2021-03-3116.2.102023-06-01Octopus2020-03-2315.2.172022-
上海运维Q先生
·
2023-11-15 15:44
Linux
Ceph
K8s
云原生
kubernetes
ceph
CentOS7 Hadoop 3.3.4
集群安装
(1 NameNode,3 DataNode)
集群网络配置:准备三台CentOS7的服务器:IP服务器名称192.168.21.25Master192.168.21.26Slave01192.168.21.27Slave02修改hosts#Master服务器vi/etc/hosts192.168.21.26Slave01192.168.21.27Slave02192.168.21.25Master#Slave01服务器vi/etc/hosts
YuG丶
·
2023-11-15 05:48
大数据
hadoop
大数据
分布式
Ubuntu22.04 Hadoop3.3.4 jdk18.02 安装配置
Hadoop安装阅读推荐(105条消息)大数据安装之hadoop-3.3.4_x_y_z423的博客-CSDN博客(112条消息)hadoop3.3.4
集群安装
部署_hwbays的博客-CSDN博客加倍推荐
落非
·
2023-11-15 05:15
hadoop
大数据
分布式
【k8s集群搭建(一):基于虚拟机的linux的k8s集群搭建_超详细_解决并记录全过程步骤以及自己的踩坑记录】
虚拟机准备3台Linux系统k8s
集群安装
每一台机器需要安装以下内容:docker:容器运行环境kubelet:控制机器中所有资源bubelctl:命令行kubeladm:初始化集群的工具Docker安装安装一些必要的包
2020. 12.13
·
2023-11-15 02:50
k8s
Docker
kubernetes
linux
容器
开源时序数据库学习
InfluxDBTimescaleDBOpenTSDBQuestDB数据模型Key-ValueRelationalKey-ValueRelational存储引擎自主开发的TSIPostgreSQL扩展程序Apache
HBase
11eleven
·
2023-11-14 17:37
开源
时序数据库
学习
HBase
学习笔记(3)——
HBase
整合Phoenix
目录PhoenixShell操作PhoenixJDBC操作Phoenix二级索引
HBase
整合PhoenixPhoenix简介Phoenix是
HBase
的开源SQL皮肤。
THE WHY
·
2023-11-14 16:42
数据库
大数据
hbase
学习
笔记
sql
k8s实践笔记
文章目录第二天Kubernetes落地实践之旅纯容器模式的问题容器调度管理平台架构图核心组件工作流程架构设计的几点思考实践--
集群安装
k8s集群主流安装方式对比分析核心组件理解集群资源kubectl的使用实践
泰裤啦!
·
2023-11-14 13:03
笔记
kubernetes
容器
docker
大数据环境通信不稳定
1,节点之间部署的机房不通2,host中配置自动配置了127.0.0.1回环地址---去了,改为域名配置导致
hbase
regionserver无法启动一例尤其是装
hbase
的时候指定了回环地址3,尤其是删除引起的全表扫描会容易出现业务服务日志
yuhui66666688gfbfdy
·
2023-11-14 12:10
geomesa
ZooKeeper学习笔记
Zookeeper入门1.1概述1.2特点1.3数据结构1.4应用场景1.5下载地址第2章Zookeeper本地安装2.1本地模式安装2.2配置参数解读第3章Zookeeper集群操作3.1集群操作3.1.1
集群安装
基础不牢,地动山摇...
·
2023-11-14 09:28
中间件
zookeeper
Hdoop安装配置学习笔记(HDP)
Ambari已支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、
Hbase
、Zookeeper、Sqoop和Hcatalog等。
glisten0317
·
2023-11-14 08:50
运维
hadoop
使用Flink读取
HBase
数据
使用FlinkDataStreamAPI进行相关操作,依赖包如下:org.apache.
hbase
hbase
-client${
hbase
.version}org.apache.
hbase
hbase
-common
柏舟飞流
·
2023-11-14 01:14
大数据
flink
flink
hbase
R01 - 005、
HBase
实时查询的原理
一、
HBase
实时查询的原理记忆词: ...
会飞还得了
·
2023-11-12 21:52
HBase实时查询的原理
Hive的表操作2
系列注:大家觉得博客好的话,别忘了点赞收藏呀,本人每周都会更新关于人工智能和大数据相关的内容,内容多为原创,PythonJavaScalaSQL代码,CVNLP推荐系统等,SparkFlinkKafka
Hbase
HiveFlume
陈万君Allen
·
2023-11-12 16:00
Java和大数据
hive
大数据
hadoop
HBase
Java API 开发:批量操作 第1关:批量获取数据
在上次实训中我们是这样获取数据的:Getget=newGet(Bytes.toBytes("row1"));//定义get对象Resultresult=table.get(get);//通过table对象获取数据那么问题来了,我们想要获取多条数据,比如说查询1万条数据怎么办呢?可能我们第一时间就会想到循环,例如:StringtableName="test";Tabletable=connectio
是草莓熊吖
·
2023-11-12 15:53
hadoop
hbase
Educoder
hbase
java
数据库
hadoop
大数据
HBase
开发:使用Java操作
HBase
第3关:获取数据
获取指定行的数据我们使用Get对象与Table对象就可以获取到表中的数据了。//获取数据Getget=newGet(Bytes.toBytes("row1"));//定义get对象Resultresult=table.get(get);//通过table对象获取数据System.out.println("Result:"+result);//很多时候我们只需要获取“值”这里表示获取data:1列族
是草莓熊吖
·
2023-11-12 15:52
hbase
Educoder
大数据
hbase
hadoop
大数据
hbase
查询性对比 mysql_查询MYSQL和查询
HBASE
速度比较
上一篇文章:我要上谷歌Mysql,关系型数据库;
HBase
,NoSql数据库。查询Mysql和查询
HBase
,到底哪个速度快呢?与一些真正的大牛讨论时,他们说
HBase
写入速度,可以达到每秒1W。
weixin_39761573
·
2023-11-12 14:20
hbase查询性对比
mysql
Redis快速入门
语法存储结构跟传统关系型数据库中的那种关系表完全不同,nosql中存储的数据都是KV形式NoSQL的世界中没有一种通用的语言,每种nosql数据库都有自己的api和语法,以及擅长的业务场景NoSQL中的产品种类相当多:MongodbRedis
Hbase
hadoopCassandrahadoopn
weixin_33885676
·
2023-11-12 04:35
python
ruby
开发工具
CDH6.3.1安装指南
CDH简介CDH基于Web的用户界面,支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、
HBase
、Zookeeper、Sqoop,简化了大数据平台的安装、使用难度。
H.20
·
2023-11-12 03:27
大数据
大数据
cloudera
linux
服务器
大数据博文列表
文章目录说明分享大数据简述搭建hadoop平台单机版集群版安装优化组件hadoophdfsyarnflink
Hbase
Elasticsearchkafkasparkhiveoozie其他vmwaredocker
羽落风起
·
2023-11-12 01:05
大数据
kafka
flink
hadoop
Java工程师必备-一些资料的整理
包含计算机网络知识、JavaSE、JVM、Spring、Springboot、SpringCloud、Mybatis、多线程并发、netty、MySQL、MongoDB、Elasticsearch、Redis、
HBASE
敲代码的小小芮
·
2023-11-11 18:25
JAVA
jenkins持续构建k8s服务
jenkins持续构建k8s服务本文默认您已经完成以下步骤:k8s
集群安装
(本司使用rancher部署k8s)jenkins自动化部署工具安装harbor镜像仓库安装一、准备工作1.1自动化部署流程1.2jenkins
易佰菜鸟
·
2023-11-11 10:28
技术文档
kubernetes
docker
jenkins
harbor
gitlab
Hbase
迁移小结:从实践中总结出的最佳迁移策略
在数据存储和处理领域,
HBase
作为一种分布式、可扩展的NoSQL数据库,被广泛应用于大规模数据的存储和分析。
涤生大数据
·
2023-11-11 09:25
hbase
数据库
大数据
kubernetes1——k8s
集群安装
部署
目录一、kubernetes二、安装配置k8s1、环境配置2、禁用所有节点的swap分区3、设定dockercgroupdriver为systemd4、配置网桥5、安装6、生成密钥7、harbor中创建k8s项目8、镜像上传到仓库9、初始化10、配置环境变量与kubectl补齐11、安装flannel网络组件12、编写kube-flannel.yml应用配置文件13、节点扩容(其他节点加入集群)1
贾几人要努力
·
2023-11-11 07:00
企业实战系列
运维
docker
kubernetes
上一页
18
19
20
21
22
23
24
25
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他