E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
cdh5
CDH5
.16.1部署spark2.4
CDH管理集群中带的默认的spark服务为1.x,想要给集群中安装或者升级至2.x思路同CDH集群部署时一样,默认服务的包都封装在parcel包中,以部署集群时的步骤,分配,解压,激活再添加spark服务即可。一.下载需要的包实际情况是现在的很多CDH集群都处在未开放公网的环境当中,可在本地下载然后上传至Linux上wgethttp://archive.cloudera.com/spark2/cs
綮地
·
2020-09-16 05:09
大数据
CDH5
.16.1安装过程
感谢若泽数据J哥附上包有需自提:链接:https://pan.baidu.com/s/1CQbeMkj9osR9ooqFEZK43A提取码:b173复制这段内容后打开百度网盘手机App,操作更方便哦1.修改主机名:以hadoop3为例:[root@localhost~]#echo“hadoop003”>/etc/hostname[root@localhost~]#vim/etc/hostname[
綮地
·
2020-09-16 05:05
大数据
cloudera
CDH 5.8 离线安装
本文介绍在CentOS6环境下离线安装
CDH5
.8(两个节点)。
post_yuan
·
2020-09-16 05:03
大数据
Cloudera
Hadoop
CDH 5.16.1集群环境搭建
CDH5
.16.1集群环境搭建集群节点192.168.10.1hadoop01235G+4T192.168.10.2hadoop02235G+4T192.168.10.3hadoop03235G+4T192.168.10.4hadoop04235G
Mars_sock
·
2020-09-16 05:57
hadoop
spark
hadoop
spark
cloudera
大数据
CDH安装部署步骤
CDH下载地址:
CDH5
.4:http://archive.cloudera.com/
cdh5
/ClouderaManager5.4.3:http://www.cloudera.com/downloads
MrZhangBaby
·
2020-09-16 05:57
大数据
集群搭建
CDH
CDH部署
CENTOS7.2 安装
CDH5
.16 集群二ClouderaManager安装和
CDH5
.16安装
CENTOS7.2安装
CDH5
.16集群二ClouderaManager安装和
CDH5
.16安装一ClouderaManager安装1先将cm安装需要的rpm刚刚本地yum源配置的路径下,sudocreaterepo
时间的对手
·
2020-09-16 05:38
CDH5.16搭建
Cloudera
CDH5
.16安装
1.安装文件下载**CDH下载地址:**http://archive.cloudera.com/
cdh5
/parcels/**ClouderaManage下载:**http://archive.cloudera.com
奥特慢-QM
·
2020-09-16 05:38
软件安装
CDH5
.16:离线安装部署
1、准备工作1.1离线部署主要分为三块MySQL离线部署元数据CM离线部署tar闭源cloudera公司核心产品主从架构主要包括server以及agentParcel包裹文件离线源部署hdfs/yarn/hive/hbase/zk压缩在一起的包裹文件1.2规划节点MySQL部署组件Parcel文件离线源CM服务进程大数据组件hadoop001MySQLParcelActivityMonitorha
Try Everything、
·
2020-09-16 05:37
CDH
离线搭建
CDH5
.16.1大数据平台
市场上免费大数据框架主要有三个版本,原生的Apache版本,Cloudera公司研发的(ClouderaDistributionHadoop,简称“CDH”)CDH版本(最新6.1),也是市场上使用最多的,Hortonworks版本(HortonworksDataPlatform,简称“HDP”)ClouderaManager相关介绍cloudera公司开源大数据框架管理集群的使用CM可以对大数据
tianqin_data
·
2020-09-16 05:05
学习经历
CDH5
.16.1 安装 Spark2
documentation/index.htmlhttp://archive.cloudera.com/spark2/parcels/2.4.0.cloudera2/下载包裹[root@hadoop001
cdh5
.16.1
袁河之滨
·
2020-09-16 05:48
大数据入门实践
大数据环境准备
CDH
Spark2
CDH5
.16.2单机安装(开启kerberos验证)
前言:公司需求,之前做的impala单机安装并不满足需求,负责人叙述需求没有说清楚,还要过kerberos验证,导致最后需要单独在部署CDH并开启kerberos验证,当然,不装CDH独立部署也能够开启kerberos,不过那个麻烦一点,就不弄麻烦的那个方案了,就从新搞个CDH,弄一弄简单的,以后有时间可以给大家单独出一个教程,独立安装的impala集成kerberos。CDH()是什么:CDH是
小刘同学爱study
·
2020-09-16 05:08
Hadoop安装
cloudera
hadoop-2.6.0-
cdh5
.16.2部署
hadoop-2.6.0-
cdh5
.16.2部署1.首先先下载tar包并解压[hadoop@xkhadoopsoftware]$wgethttp://archive.cloudera.com/
cdh5
/
XK&RM
·
2020-09-16 05:35
Hadoop
安装
CDH5
.16.2 + centos7.7 + VM
目录1.在自己电脑上用VM搭建跟公司一样的CDH集群 1.1公司集群的配置清单2.下载 2.1centos7.7 2.2jdk 2.3CDHCDH总共要下4个文件,注意版本匹配: 2.4mysql的驱动jar3.centos7的常用命令,跟6不同的地方4.创建standard虚拟机,用来提供克隆虚拟机的模板。在standard完成安装前的准备工作。4.1虚拟机的资源设置4.2安装centos7`跟
zdkdchao
·
2020-09-16 05:02
CDH
linux
linux
centos
vmware
CDH5
.16安装
文章目录安装步骤一、硬件准备二、软件准备三、准备环境查看linux版本关闭selinux安装ntp禁用防火墙安装JDK网络设置四、MySQL安装(主节点)五、集群安装安装CM安装CDH调优安装步骤一、硬件准备阿里三台4h32g云主机外网39.102.36.16239.102.37.22939.102.38.17内网:172.17.96.141master172.17.96.140slave0117
qq_36065938
·
2020-09-16 05:31
hadoop
hadoop伪分布式安装HDFS(
CDH5
.16.2版本)
安装步骤root用户安装JDK创建目录:mkdir/usr/java,上传jdk-8u45-linux-x64.gz包到该目录解压tar-zxvfjdk-8u45-linux-x64.gz修改用户和用户组:chown-Rroot:rootjdk1.8.0_45建立软连接:ln-sjdk1.8.0_45jdk修改环境变量:vi/etc/profileexportJAVA_HOME=/usr/java
jim8973
·
2020-09-16 05:17
hadoop
CDH5
.16.2安装Phoenix
1、下载所需的包http://archive.cloudera.com/cloudera-labs/phoenix/parcels/latest/2、上传至/cloudera/parcel-repo/3、分配激活4、启动:不用添加服务,激活就行了服务里就没有/cloudera/parcels/CLABS_PHOENIX/bin/phoenix-sqlline.pyhadoop300,hadoop3
hyunbar
·
2020-09-16 05:16
CDH5
.16下载
CDH5
.16下载环境centos71下载cloudera-managerhttp://archive-primary.cloudera.com/cm5/cm/5/选择下面的地址下载cloudera-manager-centos7
hsg77
·
2020-09-16 05:44
云平台
hadoop
CDH5
.16.2离线安装spark2.1
目录一、简介:二、安装装备二、开始安装三、添加和启动spark2服务一、简介:在我的
CDH5
.16集群中,默认安装的spark是1.6版本,这里需要将其升级为spark2.x版本。
小姚同學
·
2020-09-16 05:35
大数据
CDH
spark2
二、
CDH5
.16.2集群之三台虚拟机安装
说明:【一、
CDH5
.16.2集群之VMware-workstation-14安装】一、虚拟的基本内存分配总共安装三台虚拟机,每台虚拟机的内存分配如下:第一台:内存8G,存储500G,2个处理器4Core
斗罗昊天锤
·
2020-09-16 05:35
#
Hadoop安装
linux
大数据
升级Cloudera Manager 5 到最新版本(官方文档翻译)
升级过程并不会影响CDH的安装,升级完clouderamanager后最好升级cdh4集群到
cdh5
集群。升级clo
老枣树
·
2020-09-16 02:05
Cloudera Manager和CDH升级流程
ClouderaManager6.0可以管理运行
CDH5
.7到
CDH5
.14的集群,只要Clouder
caibian0371
·
2020-09-16 02:49
数据库
java
大数据
CDH5
安装过程中的一些问题总结
在安装过程中出错,或者中断,想从头再来安装的,可执行下面的一些操作:master节点:关闭server、agent/opt/cm-5.5.0/etc/init.d/cloudera-scm-serverstop/opt/cm-5.5.0/etc/init.d/cloudera-scm-agentstoprm-rf/opt/cloudera/parcel-cacherm-rf/opt/clouder
撸依天
·
2020-09-15 19:57
hadoop
hadoop-
CDH5
.3 集群搭建(详细)
一.准备工作规划:1.
CDH5
的YUM源设置:安装httpd作为http的yum源服务[root@JXQ-23-27-48~]#yuminstallhttpd配置yum源(需要开通网络80端口)[root
撸依天
·
2020-09-15 19:56
hadoop
报错:(未解决)Opening socket connection to server master/192.168.52.26:2181. Will not attempt to authentic...
报错现象:DH-5.15.1-1.
cdh5
.15.1.p0.4/lib/hadoop/lib/native:/opt/cloudera/parcels/CDH-5.15.1-1.
cdh5
.15.1.p0.4
weixin_30307267
·
2020-09-15 15:01
大数据
java
大数据入门:Spark+Kudu的广告业务项目实战笔记(六)
将数据放在HDFS上先把Hadoop启动起来:[hadoop@hadoop000~]$cdapp/[hadoop@hadoop000app]$lsapache-maven-3.6.3hive-1.1.0-
cdh5
.15.1spark
Tai_Park
·
2020-09-15 14:05
spark
kudu
crontab
大数据
SparkSQL部署与简单使用
一、运行环境ØJDK:1.8.0_4564位Øhadoop-2.6.0-
cdh5
.7.0ØScala:2.11.8Øspark-2.3.1-bin-2.6.0-
cdh5
.7.0(需要自己编译)Øhive
csdn3993023
·
2020-09-15 13:01
大数据
操作系统
java
hadoop-2.7.3+hive-2.3.4+sqoop-1.4.7
为了方便和统一开发环境,一些基础配置如修改主机名和用户名,hosts的ip和主机名映射,配置SSH无密码连接,jdk安装和系统环境变量配置,可参考上一篇文章:腾讯云服务器搭建hadoop-2.6.0-
cdh5
.6.0
尘埃落定0_0
·
2020-09-15 09:41
hadoop
hadoop 找不到或无法加载主类org.apache.hadoop.mapreduce.v2.app.MRAppMaster
的使用找不到hadoop的classpath一般在shell中输入hadoopclasspath输出为/etc/hadoop/conf:/opt/cloudera/parcels/CDH-5.14.2-1.
cdh5
.14.2
JIU_9527
·
2020-09-15 03:12
hadoop
Hadoop之wordcount性能测试
概述:利用wordcount做hadoop性能测试,依据count的数据规模增长进行性能分析评测版本:bin/hadoopversionHadoop2.3.0-
cdh5
.0.0测试步骤:1.利用randomtextwriter
小网客
·
2020-09-15 03:38
Hadoop
spark on yarn-消除警告
sparkonyarnlog-yarn.sh脚本exportHADOOP_ROOT_LOGGER=DEBUG,consoleexportHADOOP_CONF_DIR=/home/hadoop/app/hadoop-2.6.0-
cdh5
.7.0
Deng_huakai
·
2020-09-15 03:38
yarn
spark
大数据
大数据+零基础+大数据入门(一)
搜藏网站:1.阿帕奇官网:www.apache.org2.cdhhadoop:http://archive.cloudera.com/
cdh5
/cdh/5/CDH:每个组件都会对应一个用户组件用户hdfshdfsyarnyarnzookeeperzookeeperhbasehbase
running_water
·
2020-09-15 02:53
零基础
Flume之Taildir Source二次开发实现迭代读取目录下文件
文章目录1、下载源码包2、导入IDEA3、修改源码4、上传到服务器,编译5、新建conf文件,测试TaildirSource1、下载源码包注意这是源码文件flume-ng-1.6.0-
cdh5
.7.0-
11号车厢
·
2020-09-14 22:24
Flume1.6
Flume
Sqoop将SQLServer数据导入Hive表中
这里我使用的的
CDH5
.15.0对应的sqoop版本1.4.6java使用的是jdk1.8正常的安装配置完sqoop之后,并不能通过sqoop将SQLServer数据导入到Hive或HDFS中,还需要三个
一只行走在闹市的猪
·
2020-09-14 19:16
大数据
sqoop2 使用实例
启动Client/usr/hadoop/sqoop-1.99.5-
cdh5
.5.1-bin-hadoop200/bin/sqoop.shclient为客户端配置服务器:setserver--hostnode3
iteye_17645
·
2020-09-14 14:36
hadoop
sqoop2
CDH5
.13离线并行安装Spark2.3
2019独角兽企业重金招聘Python工程师标准>>>简介:在我的
CDH5
.13集群中,默认安装的spark是1.6版本,这里需要将其升级为spark2.x版本。
weixin_33979363
·
2020-09-14 11:09
cdh5
.13.1 升/降级SPARK2 (parcel安装的同理)
下载相关的CSD包与parcel包、parcel包SHA放置在相关位置。注意:重启cloudera-scm-server从parcel里删除旧包,启用新包csd目录里其它JAR包要删除转载于:https://www.cnblogs.com/net2817/p/9120870.html
weixin_30340819
·
2020-09-14 11:28
[CDH]
CDH5
.13.1集成 Apache Spark2.3.4(CDS 2.3.4)
背景:已有
CDH5
.13.1,集成CDS2.3.4(ApacheSpark2.3.4)。
cindysz110
·
2020-09-14 11:54
CDH5
Spark
CDH5
.13.3部署并升级Spark2.x
前言:网上也有很多关于CDH部署的相关文档,但由于基础环境的差异和软件安装方式的不同,其部署方式也大同小异,每篇文章都值得借鉴,但都不能完全照搬,只有自己亲自做了才知道所以然。建议在部署的时候遇到问题第一时间不是搜索而是先去看日志,提高自己解决问题的能力。唯有实践才能出真理!!!一、基础环境规划1.1软件版本操作系统:Centos7.4 64位 JDK:jdk1.8.0_181Clouder Ma
御剑江湖载酒行
·
2020-09-14 11:42
大数据
Linux
hadoop
spark
hdfs
cloudera
mapreduce
【CDH CM版本5.13以下】解决「通过Parcel对spark2版本升级无法发现服务」问题
【CDHCM版本5.13以下】解决「通过Parcel对spark2版本升级无法发现服务」问题前言现象报错报错原因新升级方案操作留档准备版本升级升级验证版本回退回退验证后记前言公司对于
CDH5
.10(注意这个版本
Jack_Roy
·
2020-09-14 09:08
Spark
CDH
大数据
spark
Maven项目中引入CDH jar包
的中央仓库CDH提供了中央仓库,官方文档参考:https://docs.cloudera.com/documentation/enterprise/release-notes/topics/cdh_vd_
cdh5
天一涯
·
2020-09-14 09:56
大数据学习之路
java
CDH5
.14操作指南
1、
Cdh5
.14介绍2、版本发布概要3、安装要求4、ClouderaManager介绍5、Cloudera安装6、Cloudera管理7、ClouderaNavigatorClouderaNavigator
weixin_30950237
·
2020-09-14 09:37
CDH版本的Maven依赖
文章源自:http://www.th7.cn/Program/java/201411/316694.shtml之前一直结合Maven开发Hadoop2.2.0的程序,环境换成
CDH5
.2后报错,发现是Maven
alphabeta12345
·
2020-09-14 09:49
Hadoop
CDH5
.11环境下用java的API操作hive
创建一个maven项目,pom.xml文件配置如下eccomhive1.0-SNAPSHOT-->UTF-8-->-->org.apache.hivehive-jdbc1.1.0junitjunit4.9org.apache.hadoophadoop-core1.1.0HiveJdbcClientorg.apache.maven.pluginsmaven-compiler-plugin1.81.8
麻雀加
·
2020-09-14 08:12
Hive
Hadoop退出安全模式(Name node is in safe mode)
核心报错信息:[root@lee000mapreduce]#hadoopjarhadoop-mapreduce-examples-2.6.0-
cdh5
.15.1.jarpi23NumberofMaps=
Stackflowed
·
2020-09-14 08:47
Hadoop
CDH5
.16.2下载安装
archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.16.2_x86_64.tar.gzCDH安装包地址:http://archive.cloudera.com/
cdh5
ywl470812087
·
2020-09-14 01:54
大数据
hadoop
HDFS的shell常用命令大全
在Linux中Hadoop的安装目录下,执行如下命令:[
[email protected]
cdh5
.14.0]#bin/hdfsdfs将显示shell命令的参数大全Usage:Hadoopfs
Alice菌
·
2020-09-14 01:46
Hadoop
#
HDFS
HDFS
shell
史上最全的手动 CentOS6.5
CDH5
.16.2离线安装
史上最全的手动CentOS6.5
CDH5
.16.2离线安装文章目录史上最全的手动CentOS6.5
CDH5
.16.2离线安装1.集群环境及安装包1.1.集群环境1.2.准备安装包2.环境准备2.1.配置
屌丝骑象看世界
·
2020-09-14 01:11
CDH
运行hadoop fs -ls 命令显示本地目录问题
环境CentOS6.4
CDH5
.2安装完成后发生如下问题[hdfs@hadoop01~]$hadoopfs-ls/Found25items-rw-r--r--1rootroot02016-08-1710
丑大狗
·
2020-09-14 01:01
Apache
Hadoop
CentOS 7 配置CDH 5.16教程
预先需要下载的安装包二、关闭防火墙和SELINUX三、配置本地SSH免密钥登录四、安装JDK五、安装MySQL六、安装cloudera-manager七、CDH集群的配置一、预先需要下载的安装包CDH-5.16.1-1.
cdh5
.16.1
jackandsnow
·
2020-09-14 00:06
CDH
分布式
HDFS的shell命令操作
目标:掌握HDFS操作数据的命令1)基本语法bin/hdfsdfs具体命令2)参数大全[
[email protected]
cdh5
.14.0]#bin/hdfsdfsUsage:Hadoopfs
彭于晏郑州分晏
·
2020-09-14 00:59
hadoop
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他