E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
HBase、Parrot
hive shell中有许多日志信息的解决办法
记录一下解决hiveshell中有许多日志信息的方法首先,我的配置有:hadoop-3.2.1、
hbase
-2.4.13、mysql-5.7.18、hive-3.1.2启动hive后,输入showdatabases
W~J~L
·
2023-07-22 14:25
Big
Data
hive
hadoop
大数据
hbase
hbase
启动失败的解决办法
记录问题,以便于自己加深印象,巩固自己的基础。前一天还可以正常使用,但是第二天就用不了了。开启时会显示如下(记住方框中的报错信息,这就是原因所在):进入shell时会报错如下:shell能进入,但是不可以进行操作,会报错:于是根据报错提示,去查找问题。查看进程:kill掉了一些进程(主要是前面方框中的),因为有些进程不受控制,就将其kill掉。再查看:这下应该可以了,再次启动:启动没问题,OK进入
W~J~L
·
2023-07-22 14:24
Big
Data
hbase
hadoop
Hive和Spark
(当使用hive的
hbase
映射表时,有一定的实时能力;
万里长江横渡
·
2023-07-22 14:22
大数据
hive
脚本调度Kylin之销毁篇
Kylin的内容层级为:projectdatasourcemodelcubejob因为大量的数据是存储在
HBase
之
JackKuang
·
2023-07-22 12:15
大数据_
HBase
_
HBase
中的 bloom-filter
参考文章:1.详解布隆过滤器的原理、使用场景和注意事项https://www.jianshu.com/p/2104d11ee0a22.数学之美:布隆过滤器https://zhuanlan.zhihu.com/p/72378274什么是布隆过滤器本质上布隆过滤器是一种数据结构,比较巧妙的概率型数据结构(probabilisticdatastructure),特点是高效地插入和查询,可以用来告诉你“某
高达一号
·
2023-07-22 08:07
大数据
HBase
大数据_面试_OLAP&数据存储
问题列表回答
hbase
memorystoreblockcachehdfs文件的常见压缩算法
hbase
的数据倾斜,rowkey分布导致的
高达一号
·
2023-07-22 08:07
大数据
大数据_面试_ETL组件常见问题_spark&flink
问题列表回答spark与flink的主要区别flinkcdc如何确保幂等与一致性FlinkSQLCDC实践以及一致性分析-阿里云开发者社区spark3.0AQE动态优化
hbase
memorystoreblockcachesparksql
高达一号
·
2023-07-22 08:37
大数据
Spark
Flink
大数据
etl
spark
深入学习Spark SQL :SparkSQL执行流程
主要参考书籍:《SparkSQL内核剖析》(资源见评论)参考博客:http://
hbase
fly.com/2017/03/01/sparksql-catalyst/http://www.uml.org.cn
Icedzzz
·
2023-07-21 23:42
Spark
大数据
spark
sql
centos7启动
hbase
1.1.6后不久Hmaster挂掉
查看日志,得到关键错误信息2021-02-0120:37:33,784FATAL[vm002:16000.activeMasterManager]master.HMaster:Failedtobecomeactivemasterjava.net.ConnectException:CallFromvm002/192.168.11.131tovm002:9000failedonconnectionex
pluo1717
·
2023-07-21 23:27
在Hadoop上搭建Hive
一、概述这是Hadoop之旅的第二站,之前我们已经搭好了Hadoop和
HBase
,今天我们在此基础上建立Hive。我们接着之前的架构图进行补充我们假设只有三台服务器,并且要在三台服务器上做高可用。
若罗
·
2023-07-21 21:07
HBase
作为JanusGraph图数据库存储
这里将介绍运用
HBase
作为JanusGraph的存储数据库。JanusGraph&
HBase
优点能够很好的和ApacheHadoop生态圈进行融合。对强一致性有很好的支持。
娃娃学软件
·
2023-07-21 14:58
Java面试题(Zookeeper)
zookeeper是一个分布式的,开放源码的分布式应用程序协调服务,是googlechubby的开源实现,是hadoop和
hbase
的重要组件。
我最酷_b537
·
2023-07-21 12:18
合并日志树——LSM Tree
他在大数据的存储上广泛引用(
HBase
,Kudu,Clickhouse的MergeTree等),它的处理情景是将随机读写操作变成顺序读写操作,从而提高IO
龟速扣代码
·
2023-07-21 02:50
大数据
数据库
数据结构
LSM树
分布式天花板?阿里百万架构师的ZK+Dubbo笔记,颠覆认知
ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和
Hbase
的重要组件。
老王420
·
2023-07-21 01:56
启动hive报错:java.net.ConnectException: 拒绝连接;
问题描述完成初始化元数据后,即可启动hive了,但是在启动hive遇到如下情况:[root@centos7hive]$hivewhich:no
hbase
in(/usr/local/java/jdk1.8.0
歪~懒羊羊
·
2023-07-21 00:59
hive
java
数据库
数据分析
hadoop
期末复习-大数据技术原理与应用
大数据的发展进程大数据的4V概念大数据的计算模式云计算HadoopHadoop的生态系统Hadoop安装和使用大数据存储和管理分布式文件系统DFSHDFS数据块计算集群中元数据需要的内存
HBase
shell
coffee_mao
·
2023-07-21 00:27
LeetCode
大数据
hadoop
hdfs
当
HBase
遇上MapReduce头歌答案
文章目录第1关:
HBase
的MapReduce快速入门第2关:
HBase
的MapReduce使用第1关:
HBase
的MapReduce快速入门packagecom.processdata;importjava.io.IOException
随兴随缘
·
2023-07-21 00:27
hadoop
mapreduce
hbase
hadoop
kafka topic 发送消息到
hbase
目录一、配置kafka信息二、配置
hbase
信息,连接
hbase
数据库需要先在
hbase
创建对应的命令空间和tablePut对象,按照不同需求,从文件中截取对应字段三、完整代码一、配置kafka信息Propertiesproperties
Xiayebuliang
·
2023-07-21 00:22
hbase
kafka
大数据
java
大数据技术原理与应用(第3版)期末复习
(单选30判断10简答10操作30编程20)编程掌握:HDFS文件操作MapReduce程序
HBase
数据库命令操作U1大数据的4v特征数据量大、处理快、数据类型多、价值密度低大数据完全颠覆了传统的思维方式
Blancness
·
2023-07-21 00:21
big
data
大数据
数据仓库
HBase
写流程基本概念
在
HBase
写入的过程中,要从client和server端两部分来看。在client端,会将写入的数据添加到本地缓冲区中,符合一定条件就会通过AsyncProcess异步批量提交。
掩流年
·
2023-07-20 20:18
HBase
Client无法连接
HBase
Server
HBase
Client成功与Zookeeper连接,但是无法与
HBase
Server连接问题分析
HBase
启动之后会将Master的信息存储在Zookeeper的/
hbase
/master中,然后
HBase
Client
SolidHeart
·
2023-07-20 17:36
HBase
一
HBase
简介与环境部署1.1
HBase
简介&在Hadoop生态中的地位1.1.1什么是
HBase
HBase
是一个分布式的、面向列的开源数据库
HBase
是GoogleBigTable的开源实现
HBase
Wzideng
·
2023-07-20 15:18
#
hive
#
HBase
hbase
数据库
hive
基于大数据架构实现景点游客数据分析平台,全国景点游客数据管理系统
本次毕业设计景点游客数据分析平台,采用springboot、springcloud,hadoop,
hbase
,es等技
Q计算机程序优异哥_2934918046
·
2023-07-20 12:46
程序设计
大数据
架构
数据分析
hbase
中列簇和列_
HBase
表、行与列族
HBase
表
HBase
中表是在schema定义时被预先声明的。可以使用以下的命令来创建一个表,在这里必须指定表名和列族名。
weixin_39983383
·
2023-07-20 08:36
hbase中列簇和列
hbase
java操作api - nameSpace,表,列族,列的操作 代码示例
maven依赖org.apache.
hbase
hbase
-client1.3.1org.apache.hadoophadoop-hdfs2.2.0代码示例有很多的代码是重复的,只是为形成记忆,见谅,另外需要将
小哇666
·
2023-07-20 08:05
#
Hbase
hbase
HBASE
获取表格的所有列族(java API)
前言:安装好
hbase
之后进入其lib文件夹,将所需要的jar包拷贝到web项目的lib文件夹之下,这样就不会出现jar包版本不同导致的相关问题。
行思坐忆,志凌云
·
2023-07-20 08:04
HBase
hbase列族
hbase
表查看列族
hbase
shell表查看列族echo"scan‘p_face_dossier’"|
hbase
shell|awk-F’=’‘{print$2}’|sort|uniq
海水孤独
·
2023-07-20 08:03
Hbase
hbase
大数据
数据库
HBase
API设置列族的VERSION【留给有缘人】
前言关于如何使用
hbase
api去设置
hbase
中数据的version这个问题,本人浏览器都快搜烂了,没找到!无奈只能找找源码,有所得,遂记录,留给有缘人。
清雨夜
·
2023-07-20 08:33
hbase
数据库
VERSION
列族
Column
大数据
api
Centos7手动升级glibc导致系统异常(无法开机)
出现问题原因:在调优
hbase
的时候,查资料发现可以升级hadoop本地库来对
hbase
进行优化处理。
Ramos17
·
2023-07-20 06:01
话单分析之PropertiesUtil
objectPropertiesUtil{valis:InputStream=ClassLoader.getSystemResourceAsStream("
hbase
_consumer.properties
刚入门的程序猿
·
2023-07-19 18:36
【
HBASE
】记一次
HBase
进行数据迁移,重建元数据
记一次
HBase
进行数据迁移,重建元数据前情提要正文数据迁移重建元数据测试查询后续的表修复MultipleregionshavethesamestartkeyRegionnotlistedin
hbase
Meepoljd
·
2023-07-19 17:10
运维
大数据
hbase
big
data
hadoop
【Go】实现一个代理Kerberos环境部分组件控制台的Web服务
实现一个代理Kerberos环境部分组件控制台的Web服务背景安全措施引入的问题SSO单点登录过程整体设计路由反向代理登录会话组件代理Yarn
Hbase
结果背景首先要说明下我们目前有部分集群的环境使用的是
Meepoljd
·
2023-07-19 17:38
大数据
运维
Golang
golang
前端
开发语言
hadoop
后端
运维开发
Scala函数综合练习 - WordCount
期望输出结果:List((Hello,4),(Scala,3),(
Hbase
,2))待处理集合:valstringList=List("HelloScala
Hbase
kafka","HelloScala
Hbase
阿年、嗯啊
·
2023-07-19 17:33
Scala
scala
开发语言
函数练习
WordCount
HBase
过滤器查询
、多过滤器综合查询FilterList1、过滤器过滤器的作用是在服务端判断数据是否满足条件,然后只将满足条件的数据返回给客户端过滤器的类型很多,但是可以分为两大类比较过滤器专用过滤器2、比较过滤器使用
HBase
皮哥四月红
·
2023-07-19 17:10
HBase
hbase
过滤器
filter
sqoop实战:sqlserver导入
hbase
命令
sqoop-list-databases--connect'jdbc:sqlserver://192.168.1.107;username=sa;password=********;'sqoop-list-tables--connect'jdbc:sqlserver://192.168.1.107;username=sa;password=*******;database=********;tab
sfrem
·
2023-07-19 11:26
大数据
hadoop
sqoop
Hbase
事务
HBase
提供了各种锁机制和MVCC机制来保证数据的原子性、一致性等特性,其中使用互斥锁实现的行锁保证了行级数据的原子性,使用JDK提供的读写锁实现了Store级别、Region级别的数据一致性,同时使用行锁
青云游子
·
2023-07-19 06:00
大数据
hbase
java
数据库
推荐系统论文阅读(五十)-基于用户检索序列的点击率预估模型
arxiv.org/pdf/2005.14171.pdf之前我们讲过一篇阿里妈妈关于如何从长序列中选取跟target最相关的item的子序列的方法,今天我们就来讲一下另一篇论文UBR4CTR中是如何使用这种searc
hbase
dmethod
推荐系统论文阅读
·
2023-07-19 06:34
pinpoint本地调试环境(win7)搭建
1.首先本地安装单机版
Hbase
,这里下载的是
hbase
-1.2.6.1-bin.tar.gz,然后在本地解压缩,配置conf文件夹下的
hbase
-site.xml如下:
hbase
.rootdirfile
我是嘻哈大哥
·
2023-07-19 01:47
Springboot整合
HBase
开发
操作
hbase
的客户端有以下几种方式:1、原生
HBase
API:
hbase
-client比较底层,需要自己进一步封装api,而且版本号和安装的
hbase
也要匹配,否则会报错2、Spring's
HBase
API
csdnzh365
·
2023-07-18 22:12
#
hbase
spring
boot
hbase
后端
关于
HBase
元数据cache的一个小坑
问题过程描述最近在做关于
HBase
相关的工作,刚接入了1个关于数字证书的表,业务在灰度的时候发现有大量的超时的请求(备注:默认3秒超时),如下图,基本所有的请求都出现失败:这个问题有点奇怪,在测试环境测试的时候没有出现过这种超时的问题
飞鸿无痕
·
2023-07-18 22:48
Spark:Core(三)
目录01:上篇回顾02:学习目标03:外部数据源:场景04:外部数据源:写
Hbase
05:外部数据源:读
Hbase
06:外部数据源:写MySQL07:广播变量:BroadcastVariables08:
多么哇塞的陈哇塞
·
2023-07-18 15:40
spark
RDD
大数据
spark
SparkSession和
Hbase
交互
1、利用SparkSession从
Hbase
中读取数据,转换为DataFramepackagecom.yyds.tags.toolsimportorg.apache.hadoop.conf.Configurationimportorg.apache.hadoop.
hbase
.util.Base64importorg.apache.hadoop.
hbase
.
HBase
Configurationimp
undo_try
·
2023-07-18 13:42
#
spark
spark
sparksql自定义数据源
(1)DefaultSourcepackagecom.yyds.tags.spark.
hbase
importorg.apache.spark.sql.{DataFrame,SQLContext,Sav
undo_try
·
2023-07-18 13:42
#
spark
hbase
spark
scala
spark-core从
hbase
中读写数据
spark交互
HBase
Spark可以从
HBase
表中读写(Read/Write)数据,底层采用TableInputFormat和TableOutputFormat方式,与MapReduce与
HBase
undo_try
·
2023-07-18 13:12
#
spark
spark
big
data
redis各种场景下疑难杂症 (rust)
ConthDB,没用过,不知道列存储数据库
HBase
Cass
此人未设置昵称
·
2023-07-18 11:24
架构
rust
redis
rust
数据库与缓存一致性
分布式锁
缓存
HBase
HFileV2 Data Block 分析
从
hbase
0.92版本后,
hbase
HFile格式变为2.0,对应的写对象为HFileWriterV2,
hbase
写hfile是一个一个KeyValue来写的。
绝尘驹
·
2023-07-18 11:41
Linux多虚拟机集群化配置详解(Zookeeper集群、Kafka集群、Hadoop集群、
HBase
集群、Spark集群、Flink集群、Zabbix、Grafana部署)
Linxu集群化环境前置前面安装的软件,都是以单机模式运行的,学习大数据相关的软件部署,后续安装软件服务,大多数都是以集群化(多台服务器共同工作)模式运行的。所以,需要完成集群化环境的前置准备,包括创建多台虚拟机,配置主机名映射,SSH免密登录等等。配置多台Linux虚拟机我们可以使用VMware提供的克隆功能,将我们的虚拟机额外克隆出3台来使用。首先,关机当前CentOS系统虚拟机(可以使用ro
xy294636185
·
2023-07-18 10:42
Linux
linux
zookeeper
kafka
HBase
探索篇 _ OpenJdk15编译并部署CDH版
HBase
[toc]1.前言为探索JDK15的ZGC特性在
HBase
中的表现力是否犹如传言中的那么优秀,我用AdoptOpenJDK15重新编译了社区版本的
hbase
-1.4.8,接着完成了编译之后,
HBase
完全分布式的部署和功能上的测试
大猿小猿向前冲
·
2023-07-18 10:06
hbase
安装
Linux安装
Hbase
的三种安装模式:本地安装,伪分布安装,全分布安装本地安装准备工作安装jdk;(本地模式不需要HDFS,保存在Linux文件系统中)安装包上传及解压上传
hbase
-2.4.17-bin.tar.gz
csdnzh365
·
2023-07-18 08:05
#
hbase
大数据
分布式NoSQL数据库
HBase
介绍
1.
HBase
数据库介绍
HBase
产生背景自1970年以来,关系数据库用于数据存储和维护有关问题的解决方案。大数据的出现后,好多公司实现处理大数据并从中受益,并开始选择像Hadoop的解决方案。
顾子豪
·
2023-07-17 22:24
上一页
36
37
38
39
40
41
42
43
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他