E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
【hbase】
常见的实时数仓方案
实时部分以消息队列的方式实时增量消费,一般以Flink+Kafka的组合实现,维度表存在关系型数据库或者
HBase
;离线部分一般采用T+1周期调度分析历史存量数据,每天凌晨产出,更新覆盖前一天的结果数据
北极冰雨
·
2024-08-30 05:27
大数据
大数据
虚拟机安装hadoop,
hbase
(单机伪集群模式)
虚拟机安装Hadoop,
Hbase
工作中遇到了大数据方面的一些技术栈,没有退路可言,只能去学习掌握它,就像当初做爬虫一样(虽然很简单),在数据爆发的现在,传统的数据库mysql,oracle显然在处理大数据量级的数据时显得力不从心
流~星~雨
·
2024-08-29 21:31
大数据相关
hadoop
hbase
大数据
hive中的数据同步到
hbase
hive中的数据同步到
hbase
工作中遇到了这个工作,就是将hive中的数据同步到
hbase
中,然后java通过
hbase
相关的API来访问
hbase
中的数据。
流~星~雨
·
2024-08-29 21:31
大数据相关
hive
hbase
hadoop
HBase
体系架构与环境搭建
这里写目录标题一、常见的NoSQL数据库二、
HBase
的体系架构和表结构三、搭建HBasa环境1.本地模式2.伪分布模式全分布模式HA模式一、常见的NoSQL数据库NoSQL数据库的说明与定义NoSQL
无奈ieq
·
2024-08-29 20:18
HBase
hbase
架构
数据库
hbase
ExportSnapshot迁移
hbase
表
在源集群上准备快照:snapshot'credit_dict','credit_dict_snapshot20221117'list_snapshots复制快照到目标集群:
hbase
org.apache.hadoop.
hbase
.snapshot.ExportSnapshot
Rjunxiang
·
2024-08-29 16:56
hbase
hbase
大数据
hadoop
HBase
数据迁移实战
本文来自网易云社区最近为产品做了一次
HBase
的数据迁移操作,学习了一些相关的技术和实现方案。现整理出来,作为今后
HBase
数据迁移的参考。如有纰漏,欢迎指正。
网易数帆大数据
·
2024-08-29 16:25
大数据
HBase
网易云
全量、增量数据在
HBase
迁移的多种技巧实践
作者经历了多次基于
HBase
实现全量与增量数据的迁移测试,总结了在使用
HBase
进行数据迁移的多种实践,本文针对全量与增量数据迁移的场景不同,提供了1+2的技巧分享。
华为云技术精粹
·
2024-08-29 15:52
云计算
华为云
Hbase
离线迁移
假设是
hbase
集群,那么数据存储在hdfs上。1.关闭2个
hbase
2.使用distcp将hdfs上的
hbase
数据迁移到另一个【相同路径】的hdfs上。
我要用代码向我喜欢的女孩表白
·
2024-08-29 15:22
hbase
数据库
大数据
Python知识点:如何使用
HBase
与HappyBase进行分布式存储
使用
HBase
与HappyBase进行分布式存储是处理大规模数据的有效方式。
HBase
是一个基于Hadoop的开源分布式数据库,可以处理非常大的表。
杰哥在此
·
2024-08-29 15:51
Python系列
分布式
python
hbase
编程
面试
Java高级技术day75:Zookeeper与Dubbo
一、Zookeeper的介绍1.Zookeeper介绍:顾名思义zookeeper就是动物园管理员,他是用来管hadoop(大象)、Hive(蜜蜂)、pig(小猪)的管理员,Apache
Hbase
和ApacheSolr
开源oo柒
·
2024-08-28 20:54
Hbase
BulkLoad用法
要导入大量数据,
Hbase
的BulkLoad是必不可少的,在导入历史数据的时候,我们一般会选择使用BulkLoad方式,我们还可以借助Spark的计算能力将数据快速地导入。
kikiki4
·
2024-08-27 15:42
HBase
原理和操作
目录一、
HBase
在Zookeeper中的存储元数据信息集群状态信息二、
HBase
的操作WebConsole命令行操作三、
HBase
中数据的保存过程一、
HBase
在Zookeeper中的存储元数据信息
HBase
无奈ieq
·
2024-08-27 08:16
HBase
hbase
linux
数据库
Hbase
BulkLoad用法
要导入大量数据,
Hbase
的BulkLoad是必不可少的,在导入历史数据的时候,我们一般会选择使用BulkLoad方式,我们还可以借助Spark的计算能力将数据快速地导入。
kikiki1
·
2024-08-27 04:22
zookeeper+KAFKA 集群搭建
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和
Hbase
的重要组件。
懵逼的运维弟弟
·
2024-08-26 16:28
Linux
zookeeper+KAFKA
集群搭建
Kylin系列-入门
它基于Hadoop和
HBase
构建,通过预计算数据立方体(Cube)来加速查询,使得复杂查询可以在亚
Dingdangr
·
2024-08-26 13:34
kylin
创业生态报告:中国崛起美国衰退
今年,该组织在Crunc
hBase
和Dealroom等合
飞猪share
·
2024-08-26 07:01
HBase
数据访问的几种方式
1Python访问
HBase
RestServer
HBase
RestServer
HBase
RESTServer是Apache
HBase
提供的一个RESTful接口,用于通过HTTP协议与
HBase
进行交互
木亦汐丫
·
2024-08-26 00:45
#
HBase仙逆之路
hbase
数据库
大数据
从零到一建设数据中台 - 关键技术汇总
kettle数据分布式存储:HadoopHDFS离线批处理计算:MapReduce、Spark、Flink实时流式计算:Storm/SparkStreaming、Flink批处理消息队列:Kafka查询分析:
Hbase
我码玄黄
·
2024-08-24 12:09
数据中台
数据挖掘
数据分析
大数据
Hbase
BulkLoad用法
要导入大量数据,
Hbase
的BulkLoad是必不可少的,在导入历史数据的时候,我们一般会选择使用BulkLoad方式,我们还可以借助Spark的计算能力将数据快速地导入。
kikiki2
·
2024-08-24 09:57
大数据技术--实验03-
HBase
的安装与使用【实测可行】
虚拟机配置好后,配置
Hbase
参考下表的服务分配来配置
HBase
。
doublexiao79
·
2024-08-24 08:08
大数据技术
大数据
hbase
数据库
基于Hadoop平台的电信客服数据的处理与分析④项目实现:任务16:数据采集/消费/存储
接下来,我们需要将这些实时的数据通过Flume采集到Kafka集群中,然后提供给
HBase
消费。
我非夏日
·
2024-08-23 06:28
大数据开发---电信项目
大数据
大数据技术开发
hadoop
autodeploy.sh- 一个简单的shell脚本
/bin/bas
hBASE
_DIR='/opt/basedir'DEPLOY_DIR='/opt/upay/deploydir'echo"开始创建本地文件系统..."
ouanui
·
2024-08-22 22:35
shell
linux
linux
shell
《Linux运维总结:基于银河麒麟V10+ARM64架构CPU部署zookeeper 3.8.4二进制分布式集群》
它是Google的Chubby项目的开源实现之一,并且是Hadoop和
HBase
等项目的重要组成部分。ZooKeeper提供的功能包括配置维护
东城绝神
·
2024-08-22 16:35
《Linux运维实战总结》
运维
分布式
linux
zookeeper
HBase
入门教程
1.1
Hbase
概念术语1、行键RowKey:主键是用来检索记录的主键,访问
hbase
table中的行。
xmvip01
·
2024-08-22 10:08
关于HDP的20道高级运维面试题
HDP(HortonworksDataPlatform)的主要组件包括Hadoop框架、HDFS、MapReduce、YARN以及Hadoop生态系统中的其他关键工具,如Spark、Flink、Hive、
HBase
编织幻境的妖
·
2024-03-26 15:34
运维
HBase
入门教程
1.1
Hbase
概念术语1、行键RowKey:主键是用来检索记录的主键,访问
hbase
table中的行。
xmvip01
·
2024-03-26 03:04
HBase
常用命令
简介:
HBase
Shell是一种操作
HBase
的交互模式,支持完整的
HBase
命令集。
叶域
·
2024-03-18 23:35
大数据
HBase
hbase
数据库
大数据
Flink异步io关联
Hbase
主程序publicstaticvoidmain(String[]args)throwsException{//1.获取流执行环境StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment();env.setParallelism(1);SimpleDateFormatformatter=newSi
//承续缘_纪录片
·
2024-03-16 05:06
#
Flink
flink
hbase
大数据
Hbase
集群搭建超详细教程
Hbase
集群搭建前言详细步骤1、下载安装包2、解压3、修改配置文件3.1修改
hbase
-env.sh文件3.2修改
hbase
-site.xml3.3修改regionservers文件4、分发
hbase
笑看风云路
·
2024-03-13 09:02
集群搭建系列
hbase
hbase
hadoop
大数据
基于
HBase
和Spark构建企业级数据处理平台
摘要:在中国
HBase
技术社区第十届Meetup杭州站上,阿里云数据库技术专家李伟为大家分享了如何基于当下流行的
HBase
和Spark体系构建企业级数据处理平台,并且针对于一些具体落地场景进行了介绍。
weixin_34071713
·
2024-03-12 22:44
大数据
数据库
爬虫
大数据开发(Hadoop面试真题-卷九)
2、既然
HBase
底层数据是存储在HDFS上,为什么不直接使用HDFS,而还要用
HBase
?3、Sparkmapjoin的实现原理?4、Spark的stage如何划分?
Key-Key
·
2024-03-09 10:06
大数据
hadoop
面试
hbase
、hive、clickhouse对比
概念架构
hbase
master存储元数据、regionServer实际控制表数据,存储单位是Region,底层数据存储使用HDFShive通过driver将sql分解成mapreduce任务元数据需要单独存储到一个关系型数据库
freshrookie
·
2024-03-05 16:40
hbase
hive
hadoop
openeuler20.03在线安装docker最新版
Docker的官方仓库源:sudotee/etc/yum.repos.d/docker-ce.repo<
hbaseurl
·
2024-02-27 20:48
openeulerdocker
Kafka痛点与Puslar介绍
隔离,写高了读不动,读高了写不动没有多租户IO模型过于简单,面对大量topic时性能下降严重消费模型有限,无法利用部分业务可以接受消息无序的特点Puslar是一个非常优秀的开源系统,它的整体框架偏向于
HBase
weidajiangjiang
·
2024-02-20 19:34
kafka痛点
Puslar
Hadoop生态圈
生态圈1.
HBase
的数据存储在HDFS里2.MapReduce可以计算
HBase
里的数据,也可以计算HDFS里的数据3.Hive是数据分析数据引擎,也是MapReduce模型,支持SQL4.Pig也是一个数据分析引擎
陈超Terry的技术屋
·
2024-02-20 19:47
HBase
进阶
参考来源:B站尚硅谷
HBase
2.x目录Master架构RegionServer架构写流程MemStoreFlush读流程HFile结构读流程合并读取数据优化StoreFileCompactionRegionSplit
魅美
·
2024-02-20 08:11
笔记
大数据基础
hbase
数据库
大数据
Hbase
API
hbase
API方法:API本质就是调用对象的方法去实现的。ddl的概念是对表的操作和对外面的大的操作,ddl都是去调用admin对象的方法实现的admin对象通过连接.getAdmin获取。
astudybear
·
2024-02-20 08:40
hbase
数据库
database
HBase
API
参考来源:B站尚硅谷
HBase
2.x环境准备新建Maven项目后在pom.xml中添加依赖:注意:会报错javax.el包不存在,是一个测试用的依赖,不影响使用org.apache.
hbase
hbase
-server2.4.11org.glassfishjavax.elorg.glassfishjavax.el3.0.1
魅美
·
2024-02-20 08:37
大数据基础
笔记
hbase
数据库
大数据
Hbase
- 自定义Rowkey规则
>在Flink中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢,这时候我们就可以定制`TableInputFormat`来实现我们的需求了,我们还可以采用Flink的`DataSet`的方式读取,另外下面还有`Spark`读取的例子。##使用教程Md5Util.java```importorg.apache.commons.codec.binary.Hex;importjav
kikiki5
·
2024-02-20 07:17
HBase
——基础概念介绍
一、初识
HBase
HBase
是一个面向列式存储的分布式数据库,其设计思想来源于Google的BigTable论文。
HBase
底层存储基于HDFS实现,集群的管理基于ZooKeeper实现。
zhanglf1016
·
2024-02-20 04:43
#
HBase
hbase
数据库
大数据
Hbase
- 自定义Rowkey规则
在Flink中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢,这时候我们就可以定制TableInputFormat来实现我们的需求了,我们还可以采用Flink的DataSet的方式读取,另外下面还有Spark读取的例子。使用教程Md5Util.javaimportorg.apache.commons.codec.binary.Hex;importjava.security.M
kikiki2
·
2024-02-15 06:39
大数据开发之Sqoop详细介绍
用户可以在Sqoop的帮助下,轻松地把关系型数据库的数据导入到Hadoop与其相关的系统(如
HBase
和Hive)中;同时也可以把数据从Hadoop系统里抽取并导出到关系型数据库里。
只是甲
·
2024-02-14 01:17
Ubuntu16.04下
HBase
安装笔记
基础准备JDKHadoopSSHServer下载
HBase
https://
hbase
.apache.org/tar-zxvf
hbase
-1.4.2-bin.tar.gzsudomv
hbase
-1.4.2
bluexiii
·
2024-02-13 22:48
HBase
过滤器
HBase
过滤器Get和Scan都支持过滤器,这些类提供的接口不能对行键、列名和列值进行过滤,但过滤器可以实现。过滤器的接口为Filter。
橙汁啤酒厂
·
2024-02-13 16:28
大数据
hbase
python
数据库
HBase
Shell操作命令
一、general操作1.1获取帮助#引号不能省略help'status'1.2查询服务器状态1.status
hbase
(main):002:0>status1activemaster,0backupmasters
橙汁啤酒厂
·
2024-02-13 16:58
大数据
hbase
数据库
大数据
zookeeper
hadoop
学习笔记12-zookeeper
提供一种集中式信息存储服务特点:数据存在内存中,类似文件系统的树形结构(文件和目录),高吞吐和低延迟,集群高可靠作用:基于zookeeper可以实现分布式统一配置中心,服务注册中心,分布式锁等功能1.zookeeper的应用案例
Hbase
在知识的海洋里遨游
·
2024-02-12 19:09
Hbase
- 迁移数据[导出,导入]
>有没有这样一样情况,把一个集群中的某个表导到另一个群集中,或者
hbase
的表结构发生了更改,但是数据还要,比如预分区没做,导致某台RegionServer很吃紧,
Hbase
的导出导出都可以很快的完成这些操作
kikiki5
·
2024-02-12 16:55
Hbase
- 自定义Rowkey规则
在Flink中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢,这时候我们就可以定制TableInputFormat来实现我们的需求了,我们还可以采用Flink的DataSet的方式读取,另外下面还有Spark读取的例子。使用教程Md5Util.javaimportorg.apache.commons.codec.binary.Hex;importjava.security.M
大猪大猪
·
2024-02-12 15:45
zk01
zookeeper基础ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Hadoop和
Hbase
的重要组件。提供的功能包括:命名服务、配置管理、集群管理、分布式锁、队列管理。
矮肥
·
2024-02-12 11:41
Python爬虫之非关系型数据库存储#5
列存储数据库:代表有Cassandra、
HBase
和Riak等。文档型数据库:代表有CouchDB和MongoDB等。图形数据库:
仲君Johnny
·
2024-02-12 07:59
python爬虫逆向教程
python
爬虫
nosql
数据库
网络爬虫
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他