E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
CDH集群安装
hadoop、ZooKeeper、hbase
集群安装
史上最全流程(亲测有效)
配置集群:主机master、从机s1、s2```一、安装hadoop需要的文件VMwareXshelljdk1.8.0_171CentOS-7-x86_64-DVD-2003.isohadoop2.7.7zookeeper3.6.3hbase1.3.1文件已上传百度网盘,密码1024CentOS-7-x86_64-DVD-2003.iso文件清华镜像网下载注意hadoop、ZooKeeper和hb
词一丶
·
2022-12-20 15:09
hadoop
hbase
hadoop
zookeeper
生产环境二进制部署高可用Kubernetes V1.20
集群的两种方式1.2环境准备1.3操作系统初始化配置(三台操作一致)二、部署Etcd集群2.1准备cfssl证书生成工具2.2生成Etcd证书2.2.1自签证书颁发机构(CA)2.2.2使用自签CA签发Et
cdH
TTPS
勇敢的打工人.
·
2022-12-19 13:16
kubernetes
云原生
容器
端口号及作用
CDH
端口说明7180ClouderaManager前端端口7182ClouderaManagerServer与Agent通讯端口8888Hue前端端口Hadoop端口说明9870HDFS前端端口8020NameNode
Kazi_1024
·
2022-12-19 09:10
Hadoop
hive
hadoop
大数据
大数据中hadoop中yarn的调度算法
CDH
框架默认调度器是FairScheduler。不同的设置可以在yarn-default.xml文件中查看。1、先进先出调度器(FIFO)FIFO调度器(FirstInFirstO
独创之上
·
2022-12-18 22:47
大数据
big
data
hadoop
yarn
ubuntu 运行scrapy 报错 AttributeError: module 'OpenSSL.SSL' has no attribute 'OP_SINGLE_E
CDH
_USE'
解决办法:执行命令sudoapt-getinstalllibssl-devpipinstallpyopenssl--upgrade
吕海洋
·
2022-12-18 14:18
python
Python
Ubuntu
scrapy
【大数据开发】ClickHouse——深入ClickHouse
应用领域1.4clickhouse存储层1.5clickhouse优点1.6clickhouse缺点第二章单机版安装2.1rpm安装(也可以在线yum安装)2.2配置2.3服务启动2.4客户端连接第三章
集群安装
这个妹妹我见过
·
2022-12-18 08:53
#
ClickHouse
数据库
hadoop
大数据
基于CM管理的
CDH
集群集成Phoenix
基于CM管理的
CDH
集群集成Phoenix背景介绍:原有的
CDH
集群,以Hive+Hbase+Impala进行数据处理查询,Hbase而言语法难懂,不同于寻常的SQL,Impala而言速度查询速度太慢且无法进行记录的修改
百夜﹍悠ゼ
·
2022-12-17 10:57
大数据
hadoop
云计算-基于hadoop-2.7.7从0开始搭建
二、Hadoop的组成三、关于hadoop
集群安装
的三种方式对比四、主要名词解释三、开始安装hadoop-2.7.7初始环境配置3.安装好用的vimVimForCpp6.SSH配置单机模式安装单机模式-
Python-AI Xenon
·
2022-12-15 15:58
学习笔记
大数据和云计算
hadoop
云计算
大数据
1024程序员节
09.大数据技术之Spark
文章目录一、Spark概述1、概述2、Spark特点二、Spark角色介绍及运行模式1、集群角色2、运行模式三、Spark
集群安装
1.Local模式1.下载文件2.解压缩3、修改配置文件4.配置环境变量
数据带你飞
·
2022-12-15 12:12
唐山师范学院
spark
大数据
hadoop
自编译Spark3.X,支持
CDH
5.16.2(hadoop-2.6.0-
cdh
5.16.2)
参考文章Kyuubi实践|编译Spark3.1以适配
CDH
5并集成Kyuubi-技术圈(proginn.com)https://jishuin.proginn.com/p/763bfbd67cf6https
四木の君
·
2022-12-15 12:12
spark
jira
big
data
hadoop
编译适合
CDH
6.3.2的spark3.3.2
版本对应Spark版本3以上不再支持scala2.11环境:jdk:1.8.0_181maven:3.6.3scala2.12.0配置环境变量#jdkexport JAVA_HOME=/usr/java/jdk1.8.0_181-amd64export JRE_HOME=${JAVA_HOME}/jreexport CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/
东北偏西
·
2022-12-15 11:07
spark
scala
java
spark
大数据
使用spark源码脚本编译
CDH
版本spark
需求描述个人开发环境中大数据所有软件版本都是基于
CDH
5.15.1版本安装,但是
CDH
版本spark还停留在1.x版本,并且
CDH
版本的spark不支持sparkSQL的功能。
weixin_44641024
·
2022-12-15 11:06
环境部署
安装
CDH
6.3.2(
cdh
5适用)集成自制Kyuubi Parcel(自定义parcel部署到CM)
CDH
6.3.2(
cdh
5适用)集成自制KyuubiParcel(自定义parcel部署到CM)前言参考文章一、部署前准备1.maven2.cm_ext-master二、环境安装1.maven环境2.上传并解压文件
佑白4399
·
2022-12-15 11:06
编译
自定义parcel
大数据
hive
hadoop
spark
exists hive中如何使用_0644-5.16.1-如何在
CDH
5中使用Spark2.4 Thrift
1.文档编写目的Fayson在前面的文章中介绍过什么是SparkThrift,SparkThrift的缺陷,以及SparkThrift在
CDH
5中的使用情况,参考《0643-SparkSQLThrift
weixin_39902545
·
2022-12-15 11:33
exists
hive中如何使用
CDH
Parcel包制作流程详解
CDH
Parcel包制作流程详解背景介绍
CDH
可以很方便的添加一些大数据相关服务,但这仅限于cloudera公司提供。
诸葛余
·
2022-12-15 11:02
cloudera
manger
打包
CDH
6.3.2版本的pyspark到conda中进行日常开发
注意关于
CDH
6.3.2源码打包相关博客请看以下链接https://editor.csdn.net/md/?
sunnyboy_4
·
2022-12-15 11:28
Python机器学习
spark
Kyuubi 实践 | Apache Kyuubi on Spark 在
CDH
上的深度实践
Kyuubi简介Kyuubi是网易有数的大数据开源项目,于2021年6月全票通过进入世界顶级开源基金会ApacheSoftwareFoundation孵化器。Kyuubi的命名源自中国神话《山海经》,意为“九尾狐”。狐会喷火,象征Spark;狐有九尾,类比多租户,在Spark上实现多租户是系统设计之初的主要目的。然后取了动漫《火影忍者》中角色九尾的罗马音['kju:bi:],作为项目名称。Kyuu
大数据技术架构
·
2022-12-15 11:27
大数据
hadoop
java
mysql
zookeeper
Spark-3.1.2编译适应
CDH
-5.16.2
Spark-3.1.2编译适应
CDH
-5.16.2这是仓库地址:gitee3.1.2-
cdh
5.16.2,下载完成后直接运行build-run.sh即可编译教程pom.xml配置修改修改Spark根目录下的
ZackYoungH
·
2022-12-15 11:22
CDH
SPARK
spark
大数据
分布式
Kyuubi1.4.0集成spark3.2.0
集群模式部署三、Kyuubi问题四、参数解释五、KyuubiMetrics六、参考网址一、Kyuubi1.4.0集成spark3.2.0单机部署1、编译spark3.2.0基于hadoop3.0.0-
cdh
6.0.1
咖啡加冰不加糖~
·
2022-12-15 11:21
Spark
python
开发语言
spark3.3.1 for
CDH
6.3.2 打包
spark3.3.1
CDH
打包因为
CDH
在6.3.2之后开始收费,而自带的spark版本太低,还阉割了spark-sql功能。
青冬
·
2022-12-15 11:51
cdh
hadoop
spark
cdh
CDH
6.3.2集成spark-sql完整版本
/spark/spark-2.4.0/spark-2.4.0-bin-hadoop2.7.tgz解压spark-4.0-bin-hadoop2.7.tgz到/opt/cloudera/parcels/
CDH
奇科.zhang
·
2022-12-15 11:50
CDH
spark
sql
hadoop
cdh
3.6.2集成kylin3.0.2及简单使用
前提准备自行安装好
cdh
6.3.2集群一.集成★★注意版本兼容问题,楼主开始用的最新的4.X的版本,页面加载hive数据死活出不来,所以改用3.0.2
cdh
60的版本1.下载kylinhttps://archive.apache.org
52fighting
·
2022-12-15 11:49
组件
大数据
kylin
Spark3.0.1 结合
CDH
6.1.0 编译打包
0.下载spark代码gitclonehttps://github.com/apache/spark.gitcdsparkgitcheckout-bv3.0.1_
cdh
6.1.0v3.0.1#新开一个分支
屋顶看飞机
·
2022-12-15 11:05
Spark3.0
spark
CDH
5适配spark3.0集成kyuubi详细教程
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档
CDH
5适配spark3.0集成kyuubi详细教程前言参考文章一、编译环境准备二、环境安装1.maven环境(Java和Scala环境这里就不说了
佑白4399
·
2022-12-15 11:33
编译
hive
hadoop
spark
大数据
服务器编译spark3.3.1源码支持
CDH
6.3.2
1、一定要注意编译环境的配置mvn:3.6.3scala:2.12.17JDK:1.8spark:3.3.1服务器内存至少需要8G重点2、下载连接wgethttps://dlcdn.apache.org/maven/maven-3/3.6.3/binaries/apache-maven-3.6.3-bin.zipwgethttps://downloads.lightbend.com/scala/2
sunnyboy_4
·
2022-12-15 11:32
hadoop
服务器
scala
spark
Hadoop启动错误: log4j.properties is not found...core-site.xml not found的解决办法
描述:在禁用
CDH
集群的Kerberos认证后,进行服务功能验证,查看HDFS文件系统时出现core-site.xml找不到错误[root@utility~]#hadoopfs-ls/WARNING:log4j.propertiesisnotfound.HADOOP_CONF_DIRmaybeincomplete.Exceptioninthread"main"java.lang.RuntimeEx
jaysen1005
·
2022-12-15 10:22
CDHErratum
core-site.xml
not
found
Spark独立
集群安装
Spark独立
集群安装
配置并启动Spark集群配置免密登录配置环境变量配置workers配置spark-default.conf配置spark-env.sh启动Spark独立集群使用spark-submit
wux_labs
·
2022-12-14 22:22
#
Spark环境安装
spark
hadoop
大数据
大数据之Azkaban部署
目录一、Azkaban概论1.1为什么需要工作流调度系统1.2常见工作流调度系统1.3Azkaban与Oozie对比二、Azkaban
集群安装
2.1集群模式安装2.1.1安装包准备2.1.2配置MySQL2.1.3
FunnyPrince_
·
2022-12-13 14:08
#
数据仓库
#
Hadoop
大数据
big
data
大数据
Azkaban
CentOS-7中Hive的安装教程
安装环境:CentOS-7、JDK1.8、Hadoop2.6Hive版本:hive-1.1.0-
cdh
5.14.2资源路径:百度网盘请输入提取码提取码:zzzz1、将软件安装包移动至/opt目录下,这里我用的是
笑面天下
·
2022-12-13 13:35
hive
linux
centos
【深入理解】Redis高可用架构之集群架构
高可用之哨兵架构实战文章目录系列文章目录前言一、为什么需要Redis集群二、Redis集群的优势三、集群原理1、数据的分片2、节点的通信3、集群选举4、访问重定向四、集群中的瓶颈1、节点通信的成本2、数据倾斜五、
集群安装
中的注意点
程序员小圆
·
2022-12-13 08:49
Redis
redis
架构
缓存
redis集群
redis高可用
TF模型tensorrt C++ API搭建部署
PS该文章主要参考了基于TensorRTC++API加速TF模型以及tensorrtx,记录face_landmarktf模型的tensorrt部署,具体代码参考https://github.com/y
cdh
qzhiai
yang_njupt
·
2022-12-12 04:22
NVIDIA
嵌入式算法移植
Flume监听上传Hive日志文件到HDFS-02
拷贝Hadoop相关jar到Flume的lib目录下share/hadoop/common/lib/hadoop-auth-2.5.0-
cdh
5.3.6.jarshare/hadoop/common/lib
kxj19980524
·
2022-12-11 11:20
flume
hadoop
分布式协调服务-ZooKeeper
1、ZooKeeper设计目标2、ZooKeeper核心概念Session会话ZNode数据节点WatcherACL3、ZooKeeper应用场景4、Paxos算法与Zab协议二、ZooKeeper
集群安装
普通网友
·
2022-12-11 10:46
面试
学习路线
阿里巴巴
java-zookeeper
zookeeper
分布式
database
ui
ROS roslaunch启动节点 - 报错找不到节点
Sensorscatkin_make-DCATKIN_WHITELIST_PACKAGES=""sourcedevel/setup.bashroslaunchhardware_trigger_camcamera.launch报错:二、问题解决方法1:修改权限
cdh
ardware_trig
他人是一面镜子,保持谦虚的态度
·
2022-12-10 11:57
ROS系统学习
【无标题】
gcc与makefile进行C程序编译一、使用gcc编译程序(1)编写程序1.打开Ubuntu系统下的终端2.新建文件夹helloworldmkdirhelloworld3.打开helloworld文件
cdh
elloworld4
GGbondping
·
2022-12-10 10:10
ubuntu
【云原生·k8s】k8s
集群安装
部署
带着理论,再去部署,验证你的理论文章目录1、环境准备2、环境初始化3、防火墙初始化3、关闭swap4、yum源配置5、ntp配置6、修改linux内核参数,开启数据包转发功能7、安装docker基础环境()8、安装k8s的初始化工具kubeadm命令(所有节点执行)9、初始化k8s-master主节点(只在主节点执行)1、环境准备准备3台机器,注意配置,别太低,否则跑不起来。系统初始化配置,如nt
亮点菌
·
2022-12-08 10:35
【云原生】
kubernetes
云原生
docker
redis6.2(一)安装、配置、常用数据类型
yuminstallcentos-release-sclscl-utils-buildyuminstall-ydevtoolset-8-toolchainsclenabledevtoolset-8bash测试gcc版本[root@bigdata-
cdh
01bin
undo_try
·
2022-12-07 19:39
java
数据库
redis
缓存
ElasticSearch(七):集群架构
ElasticSearch集群架构核心概念集群节点分片(PrimaryShard&ReplicaShard)搭建三节点ES
集群安装
Cerebro客户端安装kibanaES安全认证ES敏感信息泄露的原因免费的方案集群内部安全通信开启并配置
Men-DD
·
2022-12-07 13:05
ElasticSearch
elasticsearch
Hbase的安装及配置
hbase二、修改系统配置三、修改hbase-env.sh四、修改hbase-site.xml五、启动hbase一、安装hbase将Hbase安装包拖入虚拟机输入:tar-zxvfhbase-1.2.0-
cdh
5.14.2
youzi-qiu7
·
2022-12-07 09:48
Linux
Hadoop
HBASE的安装与配置的步骤详解
以及配置hbase-site.xml文件:hbase.tmp.dir/opt/
cdh
5.7.6/hbase-1.2.0-
cdh
5
xiaoyaGrace
·
2022-12-07 09:18
Hbase 的安装与配置
需要安装zookeeper,单节点hbase集成了单zk,故一个机器不需要再安装#:先把解压,记住路径.1.添加环境变量HBASE_HOME=/home/candle/module/hbase-1.2.0-
cdh
5.15.0PATH
HJX147258
·
2022-12-07 08:40
大数据
java
shell
jenkins(相关理论 集群搭建 创建任务 权限控制 插件安装 企业实战之备份与恢复 pipeline)
ContinuousIntergration)持续交付(ContinuousDelivery)持续部署(ContinuousDeployment)持续集成DevOps小结jenkins集群搭建关于jenkins主从
集群安装
Ybb_studyRecord
·
2022-12-07 00:17
jenkins
jenkins
集群搭建
权限控制
备份与恢复
pipeline
hadoop2.6.0(单节点)下Sqoop-1.4.6安装与配置(数据读取涉及hadoop、hbase和hive)
下载Sqoophttp://sqoop.apache.org/或http://archive-primary.cloudera.com/
cdh
5/
cdh
/5/(这个就是版本已经对应好了,不需去弄版本兼容问题了
weixin_33921089
·
2022-12-05 17:03
大数据
数据库
python
hadoop-2.5.0,hbase,hive,pig,sqoop,zookeeper
集群安装
1.准备工作软件准备:1)Hadoop:hadoop-2.5.0.tar.gz2)Jdk:jdk-7u71-linux-x64.tar.gz3)Hive:apache-hive-0.13.1-bin.tar.gz4)Hbase:hbase-0.98.8-hadoop2-bin.tar.gz5)Sqoop:sqoop-1.99.4-bin-hadoop200.tar.gz6)Zookeeper:zo
帅气小马哥
·
2022-12-05 17:45
hadoop
hadoop集群配置
hadoop
linux
eclipse
安装
linux
mysql
安装
第4节 hive spark 查询hudi 数据 环境
cdh
6.3.2
使用hive带where条件查询发生错误selectuid,fullnamefrommember_rowhereuid>=0anduid(MapTask.java:175)在源码中查询该类HoodieParquetRealtimeInputFormat是应该是在第3节中引入到hivelib下的hudi-hadoop-mr-bundle-0.9.0.jar尝试在hivequery中加入addjarh
第一次看海
·
2022-12-04 18:12
hudi
hive
spark
big
data
安装dolphinscheduler
四种安装方式,机器有限,最后选的伪
集群安装
,所有都装在一台机器上。
ooyyaa6561
·
2022-12-03 23:28
技术
DolphinSchedule
centos7
etcd
集群安装
和单机安装
etcd
集群安装
和单机安装etcd介绍etcd是基于Raft的分布式key-value存储系统,由CoreOS开发,常用于服务发现、共享配置以及并发控制(如leader选举、分布式锁等)。
·
2022-12-03 11:09
etcd
hadoop-2.6.0
集群安装
配置
1.1hadoop的安装1.1.1hadoop需重新编译我们在官网下载的hadoop是32位的,但是我们的操作系统是64位的(CentOs),所以我们下载源码从新编译,这里有一份编译好的链接:http://pan.baidu.com/s/1sl97QDv密码:i2hy1.1.2版本介绍JDK版本:javaversion"1.7.0_79"hadoop版本:2.6.01.1.3虚拟机的准备第一步:准
wallfeacers
·
2022-12-02 13:00
hadoop
hadoop
2.6.0
安装
Flink系列之Flink集群搭建
title:Flink系列二、Flink集群搭建2.1Flink的Standalone模式
集群安装
1、上传解压重命名[root@hadoop10software]#tar-zxvfflink-1.14.3
落叶飘雪2014
·
2022-12-02 12:30
Flink
数据计算
Flink
大数据
Hadoop之伪分布式配置安装
本地模式,在系统中下载Hadoop,默认情况下,它会被配置为一个独立的模式,用于运行Java程序;伪分布式模式,这是在单台机器上的分布式模拟,这种模式对开发非常有用:完全分布式模式,又叫
集群安装
,Hadoop
神奇的布欧
·
2022-12-01 13:19
hadoop
分布式
hdfs
上一页
29
30
31
32
33
34
35
36
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他