E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hbase集群安装
大数据学习之一文学会Spark【Spark知识点总结】
文章目录什么是SparkSpark的特点SparkvsHadoopSpark+HadoopSpark
集群安装
部署Spark
集群安装
部署StandaloneONYARNSpark的工作原理什么是RDDRDD
小崔的技术博客
·
2023-11-08 06:37
大数据学习
大数据
学习
spark
大数据学习之Spark性能优化
文章目录Spark三种任务提交模式宽依赖和窄依赖StageSparkJob的三种提交模式Shuffle机制分析未优化的Has
hBase
dShuffle优化后的Has
hBase
dShuffleSort-BasedShuffleSpark
小崔的技术博客
·
2023-11-08 05:02
大数据学习
大数据
学习
spark
k8s
集群安装
metrics-server
前言环境:k8sv1.22.6centos7.9kubeadm安装的k8s集群Metrics-Server是k8s集群采集监控数据的聚合器,如采集node、pod的cpu、内存等数据,从Kubernetes1.8开始默认使用Metrics-Server采集数据,并通过MetricsAPI的形式提供查询,但是,kubeadm安装的k8s集群默认是没有安装Metrics-Server的,所以我们来安装
MssGuo
·
2023-11-08 02:16
kubernetes
kubernetes
docker
容器
2、k8s
集群安装
1、kubeadmkubeadm是官方社区推出的一个用于快速部署kubernetes集群的工具。这个工具能通过两条指令完成一个kubernetes集群的部署:#创建一个Master节点$kubeadminit#将一个Node节点加入到当前集群中$kubeadmjoin2、前置要求一台或多台机器,操作系统CentOS7.x-86_x64硬件配置:2GB或更多RAM,2个CPU或更多CPU,硬盘30G
myprince003
·
2023-11-08 02:45
k8s&docker
kubernetes
容器
云原生
DataX数据同步工具
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、
HBase
、TableStore(OTS)、MaxCompute(ODPS
躺着听Jay
·
2023-11-07 17:23
大数据
数据仓库
基于Hadoop与Electron的京东商品评论词云统计系统
爬取京东或淘宝某一商品的评论1000条,统计词频(使用MapReduce或
HBase
或Hive),并以词云的方式可视化呈现,最后设计为一套可以操作的系统。
没头发的米糊
·
2023-11-07 15:06
瞎折腾
Java
大数据
hadoop
hbase
数据库基础
Oracle、DB2、Access、PostgreSQL、SqLite、OceanBase、GaussDB、TDSQL、DM非关系型数据库---->Redis、Mongodb、CouchDB、Couc
hbase
AnotherMoon_
·
2023-11-07 09:50
数据库
Ubuntu环境下Hadoop1.2.1,
HBase
0.94.25, nutch2.2.1各个配置文件一览
http://www.cnblogs.com/xxx0624//×××××××××××××××××××××××××××××××××××××××××/Hadoop伪分布式配置过程:Hadoop:1.2.1
Hbase
weixin_30491641
·
2023-11-07 09:10
大数据
java
runtime
flinksql如何关联mysql维表_Flink实战(八十三):flink-sql使用(十)维表join(五)Flink SQL之维表join之Temporal Table Join...
在实时数仓中,同样也有维表与事实表的概念,其中事实表通常存储在kafka中,维表通常存储在外部设备中(比如MySQL,
HBase
)。对于每条流式数据,可以关联一个外部维表数据
axiao2
·
2023-11-07 05:39
实时数仓|Flink SQL之维表join
在实时数仓中,同样也有维表与事实表的概念,其中事实表通常存储在kafka中,维表通常存储在外部设备中(比如MySQL,
HBase
)。
大数据技术与数仓
·
2023-11-07 05:05
Flink
flink
保姆级k8s
集群安装
教程
作者:liugp出处:https://www.cnblogs.com/liugp/p/16357445.html一、前言二、基础环境部署1)前期准备(所有节点)2)安装容器docker(所有节点)3)配置k8syum源(所有节点)4)将sandbox_image镜像源设置为阿里云google_containers镜像源(所有节点)5)配置containerdcgroup驱动程序systemd(所有
a...Z
·
2023-11-07 05:06
后端
大数据从入门到实战 -
HBase
开发:使用Java操作
HBase
大数据从入门到实战-
HBase
开发:使用Java操作
HBase
一、关于此次实践1、实战简介2、全部任务二、实践详解1、第1关:创建表2、第2关:添加数据3、第3关:获取数据4、第4关:删除表叮嘟!
发芽ing的小啊呜
·
2023-11-06 23:07
#
大数据&云计算基础
大数据
hbase
hadoop
java
flink-connector-
hbase
任务提交yarn出现类冲突bugfix
第一种报错信息:java.lang.RuntimeException:Cannotcreateconnectionto
HBase
.atorg.apache.flink.connector.
hbase
.sink.
HBase
SinkFunction.open
TreeCode
·
2023-11-06 23:35
flink
flink
hbase
java
Java-
Hbase
介绍
HDFS为
Hbase
提供可靠的底层数据存储服务,MapReduce为
Hbase
提供高性能的计算能力,Zookeeper为
Hbase
提供稳定服务和Failover机制,因此我们说
Hbase
是一个通过大量廉价的机器解决海量数据的高速存储和读取的分布式数据库解决方案
狠情
·
2023-11-06 23:05
hbase
数据库
大数据
HBase
+ElasticSearch二级索引实践总结
前言:还记得那是2018年的一个夏天,天气特别热,我一边擦汗一边听领导大刀阔斧的讲述自己未来的改革蓝图。会议开完了,核心思想就是:我们要搞一个数据大池子,要把公司能灌的数据都灌入这个大池子,然后让别人用各种姿势来捞这些数据。系统从开始打造到上线差不多花了半年多不到一年的时间,线上稳定运行也有一年多的时间。今天想简单做个总结。一、背景介绍公司成立差不多十五六年了,老公司了。也正是因为资格老,业务迭代
大数据技术架构
·
2023-11-06 23:56
HBase
Elasticsearch
ceph-deploy在线安装ceph(Ubuntu18)
文章目录准备安装出错重来方法安装ceph-deploy配置各节点的静态IP和hosts安装chrony和openssh-server(所有节点)创建有sudo权限的用户(所有节点)免密登陆配置关闭防火墙安装ceph集群创建
集群安装
包初始化
零起跑线
·
2023-11-06 21:04
ceph
ubuntu
linux
ubuntu
ceph
linux
交叉编译ffmpeg+x264+x265 (x86、arm-linux双版本)亲测有效
/bin/s
hBASE
爱学习的诸葛铁锤
·
2023-11-06 13:25
音视频学习
arm
linux
arm开发
FlinkSQL - 级联窗口计算并Sink2
Hbase
一、背景说明背景来源为一个实时指标计算的需求:实时计算过去一小时订单配对数。订单配对的口径是用户下单后司机接单,且后续没有发生订单取消则定义为配对订单(基于打车场景)。该口径在计算上,需要实现两次聚合,即对过去一小时窗口的订单进行计算,对后续发生取消的订单打上标签,下一个窗口对上一层基础上,剔除取消的订单,计算出配对单的数量。在此该需求可以再往上抽象一层:对过去N小时的窗口数据,做级联GoupBy
Rango_lhl
·
2023-11-06 13:50
大数据
sql
大数据
flink
监控jira license 证书过期时间
/bin/bas
hbase
_auth="https://jira.web.
tony_wzx
·
2023-11-06 12:30
Linux
bash
linux
监控类
脚本语言
运维
hbase
安装
这里安装0.99版本,如果hadoop为2.7可以换为更高版本
hbase
下载(当前目录有安装包)
Hbase
下载官网mkdir/opt/
hbase
tar-zxvf
hbase
-0.99.2-bin.tar.gzip
比基尼海滩章鱼哥
·
2023-11-06 09:49
理解索引(上)
最近有个需求,要修改现有存储结构,涉及查询条件和查询效率的考量,看了几篇索引和
HBase
相关的文章,回忆了相关知识,结合项目需求,说说自己的理解和总结。
情情说
·
2023-11-06 06:57
ActiveMQ-5.15基于zookeeper+levelDB的Master-Slave
集群安装
配置
安装目标:服务器tcp链接端口管控台端口集群通信端口192.168.1.11161616816162621192.168.1.11261616816162621192.168.1.11361616816162621前提条件:各服务器安装jre环境(这里装的activemq5.15.9需要jre1.8环境)zookeeper集群环境安装步骤:1增加activemq用户:(分别在192.168.1.1
灯塔kg
·
2023-11-06 05:09
消息队列
activemq
消息队列
Scala - shell 使用外部包方法
我们可以使用scalashell做很多事情,比如测试一些demo,不用再打开idea那类那么重的编辑器,当然还有其它用法,像我们使用
hbase
有这样的问题,只是想测试
hbase
一些东西,但是每次连接
hbase
kikiki5
·
2023-11-06 05:28
hadoop
集群安装
_已搭建好_可直接使用
已经搭建好的三台hadoop集群,下载可直接使用的hadoop完全分布式集群,环境搭建、集群配置已完成。学自尚硅谷_大海哥(集群资源会放在文章末尾的百度网盘链接中,可直接下载使用,有71.3个G)下好之后用VMwareWorkstationPro打开该文件夹密码为:2435huang4a4!(用户名和密码可自行修改)登入到虚拟机主页面后,我们需要打开虚拟机终端进行以下操作:(1)修改克隆虚拟机的静
hys_guff
·
2023-11-06 05:15
大数据开发学习
hadoop
java
linux
大数据
分布式
python
hdfs
【基础篇】大数据学习笔记(4)相关名词解释
GoogleFileSystemGoogle文件系统HDFS:HadoopDsitributedFileSystemHadoop分布式文件系统Zookeeper:分布式应用程序协调服务,是Hadoop和
Hbase
风也醉
·
2023-11-06 02:54
pyarrow读写hdfs
https://arrow.apache.org/docs/python/index.html1、测试服务器能够正确连接hdfs:>hadoopfs-ls/Found5itemsdrwxrwxrwx-
hbase
supergroup02021
影子飞扬
·
2023-11-06 00:19
python基础教程
hdfs
hadoop
big
data
python
kafka
集群安装
部署(最详细 zookeeper+kafka+生产者消费者验证)
目录Kafka集群规划一.Zookeeper集群准备1.下载2.解压并修改目录名称3.创建data和dataLog目录4.创建myid文件5.修改配置文件zoo.cfg6.赋权7.把修改的zookeeper目录复制到另外两个节点上8.启动和测试集群9.故障排查二.安装Kafka1.下载2.解压3.修改配置文件4.将kafka目录分发到另外两台服务器上5.启动集群6.验证Kafka集群规划Zooke
BoomLee
·
2023-11-05 23:53
kafka
大数据
kafka
zookeeper
【项目实战】在win10上安装配置Hadoop的环境变量
一、说明注意:该教程适用于:远程连接Linux上的Hadoop集群,因此本步骤是不需要在本地再下载hadoop的在win10操作系统上,运行Hadoop以及其相关依赖包(比如
Hbase
依赖包)时,我遇到的情况是
本本本添哥
·
2023-11-05 22:57
009
-大数据
AI人工智能
AR&VR
hadoop
hbase
大数据
hbase
数据迁移
hbase
数据迁移前提2套集群的hosts文件内容都需要包含对方的主机地址配置hosts在源集群所有机器的hosts中配置目标集群的hostname与ip快照方式
hbase
snapshot数据迁移问题不需要提前建表
邵红晓
·
2023-11-05 20:08
使用Hadoop命令行执行jar包详解(生成jar、将文件上传到dfs、执行命令、下载dfs文件至本地)
中使用Hadoop伪分布模式开发配置及简单程序示例(Linux下)2、使用Hadoop命令行执行jar包详解(生成jar、将文件上传到dfs、执行命令、下载dfs文件至本地)3、Hadoop完全分布式
集群安装
及配置
nana-li
·
2023-11-05 20:20
Hadoop
hadoop
jar包执行
dfs文件上传
dfs文件下载
K8S知识点(四)
(1)环境搭建-
集群安装
查看所需镜像定义下载镜像循环下载镜像:下载完成之后:查看一下镜像,名字也已经改成了k8s的名字集群初始化只在master节点上运行,出现sucessfully表示成功,提示要运行几条命令
喵俺第一专栏
·
2023-11-05 18:03
#
kubernetes
容器
云原生
关于代码迁移到androidx后,语言环境失效的问题
@Overrideprotectedvoidattac
hBase
Context(ContextnewBase){StringselectedLanguage=AccountPreference.getLanguage
Guow110
·
2023-11-05 17:32
HBase
的详细介绍(概念以及特性)
1什么是
hbase
HBASE
是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用
HBASE
技术可在廉价PCServer上搭建起大规模结构化存储集群。
随风奔跑之水
·
2023-11-05 16:35
Hadoop
minio之
集群安装
docker版
一、环境介绍采用两台linux机器,安装集群版本minio。docker安装的minio集群,可以使用文件夹代替磁盘,原生安装minio集群数据目录必须使用空的整块磁盘。集群版本也使用的纠删码维护数据,保证了数据备份(虽然只是在文件夹中),单机版本不会使用纠删码。生产环境建议还是使用一个数据目录一块磁盘。机器IP数据目录192.168.75.124/data1/data2192.168.75.12
神云瑟瑟
·
2023-11-05 15:14
minio
docker
容器
minio
集群
9、
hbase
第十(九)天:
hbase
一、简介(一)概述(Ⅰ)概述(Ⅱ)行存储和列存储(二)基本概念(Ⅰ)概述(Ⅱ)RowKey:行键(Ⅲ)列族(列簇)(Ⅳ)Cell与时间戳二、安装(一)单机安装(Ⅰ)特点(Ⅱ)安装步骤
qq_44304788
·
2023-11-05 13:35
大数据实训
hbase
2021-02-08a
impala/hdfs/kudu的区别hive和impala则更偏向于查询分析,需要基于hdfs或kuduImpala即可操作hdfs上的数据,又可操作kudu上的数据Hive只可操作hdfs上的数据30.
hbase
saluch
·
2023-11-05 11:10
HBase
优化
1高可用在
HBase
中HMaster负责监控RegionServer的生命周期,均衡RegionServer的负载,如果HMaster挂掉了,那么整个
HBase
集群将陷入不健康的状态,并且此时的工作状态并不会维持太久
djm猿
·
2023-11-05 03:11
Hbase
- 表导出CSV数据
MR考查了
Hbase
的各种MR,没有发现哪一个是能实现的,如果有请通知我,我给他发红包。所以我们只能自己来写一个MR了,编写一个
Hbase
的MR,官方文档上也有相应的例子。
大猪大猪
·
2023-11-05 00:37
Hbase
客户端批量写入数据
hbase
新版本中引入了BufferedMutator,可以提供更加高效清晰的写操作。
xhh199090
·
2023-11-04 23:28
Phoenix编译支持cdh5.10.2
前言由于Phoenix还没有发布支持cdh5.10以上的版本,这里在在4.9-
HBase
-1.2-cdh5.9的基础上修改cdh版本为cdh5.10.2,我这边分别编译了Phoenix支持cdh5.9.3
荒野雄兵
·
2023-11-04 19:25
数据仓库Hive安装部署与测试练习
master10.176.2.103zjx0310.176.2.105zjx05cent-os6.5zookeepercdh3.4.5hadoopapache2.7.7jdk1.8.191mysql5.17sqoop1.4.7
hbase
1.2.7hiveapache2.3.4
zwb_jianshu
·
2023-11-04 15:21
sqoop数据迁移
导入数据:MySQL,Oracle导入数据到Hadoop的HDFS、HIVE、
HBASE
等数据存储系统;导出数据:从Hadoop的文件系统中导出数据到关系数据库mysql等工作机制:是将导入和导出的命令翻译成
lsy107816
·
2023-11-04 14:04
大数据
sqoop
sqoop
数据迁移
表导入导出
大数据技能竞赛(需要提供相关答疑私信)
可视化,综合分析)大数据平台搭建大数据技术与应用技能竞赛题目解析及代码分析实验Hadoop完全分布式安装配置/伪分布式安装配置Spark、Zookeeper、Flink、Hive、Kafka、Flume、
HBase
笨鸟先-森
·
2023-11-04 13:03
hbase
scala
大数据
kafka
flink
2018-06-12
GO一些常见的并发编程错误onelangOhcount:源代码行计数器和分析器
HBase
,Phoenix,andJava—Part1
HBase
,Phoenix,andJava—Part2【
HBase
从入门到精通系列
baitu
·
2023-11-04 10:54
Ubuntu18安装Hadoop,zookeeper,
hbase
--记录
安装的版本如上:三台电脑都需要统一安装首先安装hadoop下载:Indexof/dist/hadoop/common/hadoop-2.7.7上传文件,并解压cd到haddop目标,创建目录Haddop配置:保存退出:fs.defaultFShdfs://master:9000io.file.buffer.size131072hadoop.tmp.dirfile:/opt/hadoop-2.7.7
嘟嘟Listing
·
2023-11-04 09:33
解决问题
hbase
hadoop
java-zookeeper
数据转换工具sqoop安装和使用
一、Sqoop概述Sqoop是Apache一款开源工具,主要用于在HDFS、Hive、
HBase
等数据存储系统与关系性数据库之间传输数据。
七羽319
·
2023-11-04 09:03
大数据
sqoop
hive
mysql
hadoop
CentOS7 Sqoop 安装和使用
核心的功能有两个:导入、迁入导出、迁出导入数据:MySQL,Oracle导入数据到Hadoop的HDFS、HIVE、
HBASE
等数据存储系统导出数据:从Hadoop的文件系统中导出数据到关系数据库mysql
fangwei1234
·
2023-11-04 09:01
sqoop
Impala 入门
Cloudera公司推出,提供对HDFS、
Hbase
数据的高性能、低延迟的交互式SQL查询功能。基于Hive,使用内存计算,兼顾数据仓库、具有实时、批处理、多并发等优点。
djm猿
·
2023-11-04 09:26
使用 Spark-
HBase
-Connector 读取
HBase
{Level,Logger}importorg.apache.spark.sql.execution.datasources.
hbase
.
焉知非鱼
·
2023-11-04 04:58
Kafka实战:集群SSL加密认证和配置(最新版kafka-2.4.0)
请公众号留言;如果您觉得“大数据开发运维架构”对你有帮助,欢迎转发朋友圈从微信公众号拷贝过来,格式有些错乱,建议直接去公众号阅读一、概述:Kafka集群的安装配置请参考我的上一篇文章:Kafka入门:
集群安装
部署
大数据开发运维架构
·
2023-11-04 01:22
上一页
20
21
22
23
24
25
26
27
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他