E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
cdh5.16.2
如何在
CDH5.16.2
中部署海豚调度器Apache Dolphin Scheduler 1.2.0
ApacheDolphinScheduler组件介绍分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。官网:https://dolphinscheduler.apache.org/en-us/Github:https://github.com/apache/incubator-dolphinscheduler部署环境CDH
青年夏日科技
·
2023-10-18 01:46
big
data
spark消费kafka(cdh启用kerberos)
不生产博客,只是别人博客的裁缝一入kerberos深似海,从此节操是个玩意儿之前写过一篇spark消费kafka问题记录(
cdh5.16.2
),主要记录了安装spark2后,spark的问题,和本地可以执行
hadoop程序猿
·
2023-03-28 22:10
spark
kafka
spark
kafka
kerberos
CDH 5.16.2 部署
部署初始化集群4.部署JDK5.部署Mysql6.部署ClouderaManager6.1部署ClouderaManager前置条件6.2部署ClouderaManagerCloudera官网本次我们部署环境为
CDH5.16.2
XK&RM
·
2021-02-10 14:04
CDH
大数据
cdh
CDH5.16.2
三节点安装部署
一.安装虚拟机,最小化安装vm设置好虚拟网络之后,先去电脑网络设置,将vmnet8的属性中Ipv4协议进行更改dns设置为先前设置的网关192.168.253.2配置好后进行虚拟机安装安装好后在hosts下配置映射二.安装cdh:设置ip地址:vi/etc/sysconfig/network-scripts/ifcfg-ens33删除默认路由:DEFROUTE=yes删除UUID设置开机启动ONB
酒伴果粒橙
·
2021-01-09 12:44
CDH安装
cloudera
hadoop
hdfs
大数据
CDH5.16.2
离线安装(详细)
目录01CouderaManager02环境准备03CM安装01CouderaManager概念:拥有集群自动化安装、中心化管理、集群监控、报警功能的一个工具,使集群安装从几天时间缩短到几个小时,运维人员从几十人降低到几人,极大的提高集群管理的效率功能管理,对集群进行管理,如添加节点、删除节点监控,监控集群的健康情况,对设置的各种指标和系统运行情况进行全面监控诊断,对集群出现的问题进行诊断,对出现
Bingmous
·
2020-12-29 18:29
Hadoop
hadoop伪分布式安装yarn(
CDH5.16.2
版本)
yarn安装配置etc/hadoop/mapred-site.xmlmapreduce.framework.nameyarn配置etc/hadoop/yarn-site.xmlyarn.nodemanager.aux-servicesmapreduce_shuffleyarn.resourcemanager.webapp.addressruozedata001:38088启动yarn:start-
jim8973
·
2020-09-16 05:52
hadoop
五、
CDH5.16.2
集群之集群的安装配置
说明:【一、
CDH5.16.2
集群之VMware-workstation-14安装】【二、
CDH5.16.2
集群之三台虚拟机安装】【三、
CDH5.16.2
集群之三台虚拟机配置网络配置】【四、
CDH5.16.2
斗罗昊天锤
·
2020-09-16 05:46
#
Hadoop安装
大数据
四、
CDH5.16.2
集群之XShell连接虚拟机
说明:【一、
CDH5.16.2
集群之VMware-workstation-14安装】【二、
CDH5.16.2
集群之三台虚拟机安装】【三、
CDH5.16.2
集群之三台虚拟机配置网络配置】一、通过XShell
斗罗昊天锤
·
2020-09-16 05:14
#
Hadoop安装
linux
hadoop
一、
CDH5.16.2
集群之VMware-workstation-14安装
说明:【Centos7下载】【Win10系统上安装VMware-workstation14PRO关闭Hyper-v的系统】一、安装VMware-workstation-141、启动下载的VMware-workstation-14软件并点击下一步2、接收许可协议并点击下一步3、在“1”中修改安装目录并点击下一步4、在“1”中可以取消勾选不要检查版本更新并点击下一步5、勾选创建桌面快捷方式开始菜单程序
斗罗昊天锤
·
2020-09-16 05:14
#
Hadoop安装
vmware
CDH5.16.2
单机安装(开启kerberos验证)
前言:公司需求,之前做的impala单机安装并不满足需求,负责人叙述需求没有说清楚,还要过kerberos验证,导致最后需要单独在部署CDH并开启kerberos验证,当然,不装CDH独立部署也能够开启kerberos,不过那个麻烦一点,就不弄麻烦的那个方案了,就从新搞个CDH,弄一弄简单的,以后有时间可以给大家单独出一个教程,独立安装的impala集成kerberos。CDH()是什么:CDH是
小刘同学爱study
·
2020-09-16 05:08
Hadoop安装
cloudera
安装
CDH5.16.2
+ centos7.7 + VM
目录1.在自己电脑上用VM搭建跟公司一样的CDH集群 1.1公司集群的配置清单2.下载 2.1centos7.7 2.2jdk 2.3CDHCDH总共要下4个文件,注意版本匹配: 2.4mysql的驱动jar3.centos7的常用命令,跟6不同的地方4.创建standard虚拟机,用来提供克隆虚拟机的模板。在standard完成安装前的准备工作。4.1虚拟机的资源设置4.2安装centos7`跟
zdkdchao
·
2020-09-16 05:02
CDH
linux
linux
centos
vmware
hadoop伪分布式安装HDFS(
CDH5.16.2
版本)
安装步骤root用户安装JDK创建目录:mkdir/usr/java,上传jdk-8u45-linux-x64.gz包到该目录解压tar-zxvfjdk-8u45-linux-x64.gz修改用户和用户组:chown-Rroot:rootjdk1.8.0_45建立软连接:ln-sjdk1.8.0_45jdk修改环境变量:vi/etc/profileexportJAVA_HOME=/usr/java
jim8973
·
2020-09-16 05:17
hadoop
CDH5.16.2
安装Phoenix
1、下载所需的包http://archive.cloudera.com/cloudera-labs/phoenix/parcels/latest/2、上传至/cloudera/parcel-repo/3、分配激活4、启动:不用添加服务,激活就行了服务里就没有/cloudera/parcels/CLABS_PHOENIX/bin/phoenix-sqlline.pyhadoop300,hadoop3
hyunbar
·
2020-09-16 05:16
CDH5.16.2
离线安装spark2.1
目录一、简介:二、安装装备二、开始安装三、添加和启动spark2服务一、简介:在我的CDH5.16集群中,默认安装的spark是1.6版本,这里需要将其升级为spark2.x版本。经查阅官方文档,发现spark1.6和2.x是可以并行安装的,也就是说可以不用删除默认的1.6版本,可以直接安装2.x版本,它们各自用的端口也是不一样的。我尝试了安装spark2.0版本和spark2.1版本,均告成功。
小姚同學
·
2020-09-16 05:35
大数据
CDH
spark2
二、
CDH5.16.2
集群之三台虚拟机安装
说明:【一、
CDH5.16.2
集群之VMware-workstation-14安装】一、虚拟的基本内存分配总共安装三台虚拟机,每台虚拟机的内存分配如下:第一台:内存8G,存储500G,2个处理器4Core
斗罗昊天锤
·
2020-09-16 05:35
#
Hadoop安装
linux
大数据
CDH5.16.2
下载安装
1,CM和CDH下载以及JDK和java驱动(手动安装)ClouderaManager下载地址:http://archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.16.2_x86_64.tar.gzCDH安装包地址:http://archive.cloudera.com/cdh5/parcels/5.16.2/CDH-5.16.2-
ywl470812087
·
2020-09-14 01:54
大数据
hadoop
史上最全的手动 CentOS6.5
CDH5.16.2
离线安装
史上最全的手动CentOS6.5CDH5.16.2离线安装文章目录史上最全的手动CentOS6.5CDH5.16.2离线安装1.集群环境及安装包1.1.集群环境1.2.准备安装包2.环境准备2.1.配置hosts映射2.2.配置SSH免密登录2.3.配置时间同步2.4.关闭防火墙2.5.关闭SELINUX2.6.修改Linux内核参数2.7.关闭大页面压缩2.8.修改linux文件最大打开数2.9
屌丝骑象看世界
·
2020-09-14 01:11
CDH
centos7离线部署
CDH5.16.2
一个文档,里面是部署步骤:https://download.csdn.net/download/qq_40131121/11897302cloudera-manger版本和下载网址:cloudera-manager-centos7-cm5.16.2_x86_64.tar.gzCDH版本和下载网址:下载CDH5.16.2-1.cdh5.16.2.p0.8-el7.parcel.sha1CDH5.16
yszhong123
·
2020-09-14 00:20
CDH
hadoop
Flink on Yarn - CDH5
本篇文章大概2892字,阅读时间约8分钟根据Flink官网资料,实操
CDH5.16.2
上配置Flinkonyarn,给出了flinkonyarn的集成方式和HA的配置方式1文档编写目的记录Flinkonyarn
Eights-Li
·
2020-09-13 18:15
Hive集成ElasticSearch
环境操作系统:Centos7集群:
CDH5.16.2
安装将elasticsearch-hadoop.jar添加到hive的classpath路径中方法1(此方法支持HDFS路径)addjar/path/
fengfengzai0101
·
2020-08-20 16:48
Hive
如何在CDH5上部署Dolphin Scheduler 1.3.1
本篇文章大概8440字,阅读时间大约20分钟本文记录了在
CDH5.16.2
集群上集成DolphinScheduler1.3.1的详细流程,特别注意一下MySQL数据库的连接串!
Eights-Li
·
2020-08-14 15:17
hive数据导入ElasticSearch坑记录
环境:
CDH5.16.2
(hive1.1.0)、ES6.7.21、关于拼音分词org.elasticsearch.hadoop.rest.EsHadoopRemoteException:illegal_argument_exception
且插梅花醉平阳
·
2020-07-28 06:05
ES
Flink 1.10.1源码编译(
CDH5.16.2
)
1文档编写目的Flink1.10.1版本编译集成
CDH5.16.2
前置条件jdkmavennvm2源码编译拉取flink1.10.1的代码后,idea中全局查找一下flink.shaded.version
Eights-Li
·
2020-07-14 07:48
CDH-hive的引擎换为spark:hive on spark
cdh5.16.2
虽然用的是hive1.1但可以简便的配置hos,不需要升级hive或降级spark。
zdkdchao
·
2020-07-07 22:45
CDH
运维
spark
Flink如何连接hive
为了兼容目前版本,笔者基于
CDH5.16.2
环境,对Flink代码进行了修改,重新打包并部署。其实经过很多开源项目的实战,比如ApacheAtlas,ApacheSpark等,Hi
贝拉美
·
2020-07-06 20:11
Apache
Flink
Zk学习笔记——读取节点
参考:从Paxos到Zookeeper分布式一致性原理和实践使用的zk依赖是
cdh5.16.2
的3.4.5org.apache.zookeeperzookeeper3.4.5-cdh5.16.2代码,在初始化
tonglin0325
·
2020-07-05 23:00
(一)离线快速部署
cdh5.16.2
文章目录阿里云机器购买环境准备域名配置主机名修改关闭防火墙禁用selinux配置ssh免密登录安装jdk制作本地镜像安装httpd软件安装createrepo软件配置ntp服务器关闭透明大页安装mysqlmysql5.7安装Mysql5.5安装配置CM元数据库安装cm安装CDH问题清单安装好mysql未卸载干净,导致重新安装不能启动阿里云机器购买购买云ESC,选择按量付费并且为按量付费,对于按量付
_张不帅
·
2020-06-29 22:40
cdh
CDH5.16.2
安装Hue、kylin、spark2遇到的坑
环境:centos7#uname-aLinuxhadoop0013.10.0-957.el7.x86_64#1SMPThuNov823:39:32UTC2018x86_64x86_64x86_64GNU/Linux1、socket.error:[Errno98]Addressalreadyinuse找了很久到底是哪个和hue冲突,原来是我们的一个小工具“宝塔linux面板”的端口号也是8888,。
且插梅花醉平阳
·
2020-06-25 06:26
hadoop集群安装
CDH5.16.2
安装部署(三) CDH部署
一、离线部署cmserver及agent1.1拷贝cm包到其他节点[root@hadoop001cdh5162]#scpcloudera-manager-centos7-cm5.16.2_x86_64.tar.gzhadoop002:~/cdh5162/[root@hadoop001cdh5162]#scpcloudera-manager-centos7-cm5.16.2_x86_64.tar.g
番茄炒蛋213
·
2020-06-24 14:55
大数据
CDH
CDH5.16.2
安装部署(二)MySQL5.7.11离线部署
一、MySQL离线安装1、解压及创建目录[root@hadoop001cdh5162]#tar-xfmysql-5.7.11-linux-glibc2.5-x86_64.tar.gz/usr/local/[root@hadoop001local]#mvmysql-5.7.11-linux-glibc2.5-x86_64mysql[root@hadoop001local]#mkdirmysql/ar
番茄炒蛋213
·
2020-06-24 14:24
大数据
CDH
CDH5.16.2
安装部署(一)准备工作
一、集群规划离线部署:mysqlcm(serveragent主从架构)parcel文件规划:hadoop001:mysqlcm-servercm-agentnnsnndnrmnmzkhadoop002:cm-agentdnnmbrokerzkhadoop003:cm-agentdnnmbrokerzk原则:选择第一台配置不是太强的做为工具节点mysqlcm-servercm-agent选择2台专门
番茄炒蛋213
·
2020-06-24 14:24
大数据
CDH
如何在
CDH5.16.2
中部署Apache Dolphin Scheduler 1.2.0
作者:黄立,长安汽车ApacheDolphinScheduler组件介绍分布式易扩展的可视化DAG工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。官网:https://dolphinscheduler.apache.org/en-us/Github:https://github.com/apache/incubator-dolphinschedu
Hadoop_SC
·
2020-06-21 21:24
Hadoop实操
Flink 与 Hive 的磨合期
为了兼容目前版本,笔者基于
CDH5.16.2
环境,对Flink代码进行了修改,重新打包并部署。有不少读者反馈,参考上篇文章《Hive终于等来了Flink》部署Flink并集成Hive时
ApacheFlink
·
2020-05-28 00:06
flink
大数据
实时计算
流计算-storm
大数据处理
大数据平台
CDH5.16.2
安装配置
大数据平台
CDH5.16.2
安装配置标签(空格分隔):大数据平台构建一:环境初始化二:安装CDH5.16.21.1:系统环境介绍系统:RHEL7.7X64cat/etc/hosts---192.168.100.21rhel01
flyfish225
·
2020-04-25 21:24
cdh
cdh5.16.2
大数据平台构建
大数据技术
上一页
1
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他