E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
CDH5
在linux机器中安装配置hadoop
(我们可以看到红色字体的hadoop包已经上传成功)2.进行解压,运用命令:tar-zxvfhadoop-2.6.0-
cdh5
.7.6.tar.gz进行解压,解压后
BigData_C
·
2024-08-26 14:40
linux
hadoop
16.用Hadoop命令向CDH集群提交MR作业
16.1实验环境介绍内容概述环境准备Kerberos环境和非Kerberos集群测试环境Kerberos集群
CDH5
.11.2,OS为Redhat7.2非Kerberos集群
CDH5
.13,OS为CentOS6.5
大勇任卷舒
·
2024-02-20 19:27
69.Kudu、Spark2、Kafka安装—CDH
69.2操作演示Kudu安装Kudu的Parcel部署下载Kudu的Parcel包:http://archive.cloudera.com/kudu/parcels/5.12.1/KUDU-1.4.0-1.
cdh5
.12.1
大勇任卷舒
·
2024-02-09 14:55
CDH使用Disk Balancer平衡磁盘HDFS数据
从
CDH5
.8.2开始,ClouderaManager提供了一个全面的存储容量管理解决方
Alderaan
·
2024-02-05 16:05
Cloudera
CDH
cloudera
hdfs
disk
balancer
CDH5
.X中使用Sqoop导数据报Cannot run program “mysqldump“: error=2, No such file or director
一、背景CHD5.16环境中,使用sqoop从MySQL中进行ETL导数据到hdfs过程中,报了如下错误:20/12/2213:58:48INFOmapreduce.Job:TaskId:attempt_1607676109057_0133_m_000000_2,Status:FAILEDError:java.io.IOException:Cannotrunprogram"mysqldump":e
江畔独步
·
2024-02-05 01:49
hadoop
HIVE
GZIPLZOSnappyBZIP2等存储TextFileSequenceFileRCFileORCParquetUDF自定义函数环境搭建1)hive下载http://archive.clordera.com/
cdh5
Yagami_
·
2024-02-05 00:23
45.使用Sentry授权—Kudu
45.1演示环境
CDH5
.11.2和
CDH5
.13两个集群运行正常两个集群Kudu已经安装,且已集成Impala,操作正常两个集群都已启用Sentry并且配置正确
CDH5
.11.2和
CDH5
.13集群用
大勇任卷舒
·
2024-02-04 18:30
CDH5
部署三部曲之二:部署和设置
GitHubhttps://github.com/zq2599/blog_demos内容:所有原创文章分类汇总及配套源码,涉及Java、Docker、Kubernetes、DevOPS等;本篇概览本文是《
CDH5
程序员欣宸
·
2024-01-31 23:19
103.Flume对Kafka数据采集并写入HBase
操作演示1.HBaseSink开发示例开发HBaseSink需要添加HBase相关的依赖包org.apache.flume.flume-ng-sinksflume-ng-hbase-sink1.6.0-
cdh5
.12.1org.apache.hbasehbase
大勇任卷舒
·
2024-01-29 21:54
Cloudera5 安装 CDH 卡住 报 Failure due to stall on seeded torrent
Failureduetostallonseededtorrent屏幕快照2017-12-1021.47.53.png可以用curl-vhttp://localhost:7180/cmf/parcel/download/CDH-5.13.1-1.
cdh5
.13.1
TreviD
·
2024-01-27 06:21
Hbase集群安装部署
hadoop集群,并启动安装好对应版本的zookeeper集群,并启动HBase集群安装部署下载安装包并上传到node01服务器安装包下载地址:http://archive.cloudera.com/
cdh5
我还不够强
·
2024-01-25 12:02
HBase详细概述
不过在此之前,你可以先了解Hadoop生态系统,若想运行HBase,则需要先搭建好Hadoop集群环境,可以参考此文搭建5个节点的hadoop集群环境(
CDH5
)。好了,让我们来学习HBase吧!
a867901084
·
2024-01-24 08:49
大数据
数据库
运维
【大数据】HBase集群安装部署
并启动安装好对应版本的zookeeper集群,并启动1.HBase集群安装部署1.1准备安装包下载安装包并上传到node01服务器安装包下载地址:http://archive.cloudera.com/
cdh5
橙子园
·
2024-01-19 00:51
大数据工程师成神之路
hbase
big
data
hadoop
安装部署
[
CDH5
] Oozie web console is disabled 问题解决
CDH5
安装完成以后OozieWebUI点开显示Ooziewebconsoleisdisabled.问题解决:下载ExtJS2.2:下载地址:http://archive.cloudera.com/gplextras
尼小摩
·
2024-01-17 19:12
Kafka部署及使用
kafka四个核心概念:producer、consumer、broker、topic启动zk下载zkzookeeper-3.4.5-
cdh5
.7.0.tar.gz解压:tar-zxvfzookeeper
Sx_Ren
·
2024-01-16 05:15
CDH5
x离线安装+解决报错教程
CDH5
x离线安装+解决报错教程本章为云服务器
CDH5
.12.1基于HTTP离线源完全搭建。前言CDH集成了ApacheHadoop中各种相关组件,提供的CM服务提高了我们对于集群管理与安装的便捷性。
李指导、
·
2024-01-11 01:09
大数据
Linux
CDH安装
CDH基于http搭建
cdh5.12.1
linux
cloudera
Oozie WorkFlow中Shell Action使用案例
/usr/bin/envbash+##studentselect/opt/
cdh5
.3.6/hive-0.13.1-
cdh5
.3.6/bin/hive-fstudent-select.sqlvistudent-select.sqlins
明明德撩码
·
2024-01-10 05:56
sqoop的安装与使用
Sqoop是一个用于在hadoop与mysql之间传输数据的工具Sqoop环境搭建(1)上传安装包:sqoop-1.4.6-
cdh5
.14.2.tar.gz到/opt/software(2)解压安装包:
xinxinyydss
·
2024-01-09 15:23
sqoop
hadoop
hive
Pentaho Kettle 6.1连接
CDH5
.4.0集群
最近把之前写的HadoopMapReduce程序又总结了下,发现很多逻辑基本都是大致相同的,于是想到能不能利用ETL工具来进行配置相关逻辑来实现MapReduce代码自动生成并执行,这样可以简化现有以及之后的一部分工作.于是选取了上手容易并对Hadoop支持的比较成熟的PentahoKettle来测试,把一些配置过程和遇到的坑记录下来.Kettle可以在官网下载到,但是官网会让你注册才能下载而且速
香山上的麻雀
·
2024-01-05 16:43
CloudManager大数据本地环境标准部署文档
二、安装介质FTP服务器:http://172.16.246.252:81/hadoopteam/cloudmanager/CDH-5.8.2-1.
cdh5
.8.2.p0.3-el7.parcelhttp
有语忆语
·
2024-01-04 04:29
大数据之数据仓库
项目
大数据
关于Cloudera Hadoop的安装(CentOS)- 官文标注(待完成)
CDH5
andClouderaManager5RequirementsandSupportedVersionsInanenterprisedatahub,ClouderaManagerandCDHinteractwithseveralproductssuchasApacheAccumulo
DazzlingTiger
·
2024-01-03 21:15
Hadoop
Linux
hadoop
cloudera
安装
HBASE基础
hbase的逻辑结构是由行与列族构成的,其中的行是由rowkey(行键唯一确定),列族是由多个列构成的6、hbase中的数据都是以字节的形式存储7、伪分布式安装Hbase:(1)将hbase-1.2.0-
cdh5
.14
xinxinyydss
·
2024-01-03 12:25
hbase
数据库
大数据
Trino兼容Hive SQL方案探索
应用场景公司的经营分析使用的数据仓库是基于开源
CDH5
.12.6自带的Hive(1.1.6版本)实现的。数据仓库的开发平台使用的是数澜科技的数栖平台(4.8.4版本)。
DawsonSally
·
2024-01-03 11:15
大数据
Trino
java
数据库
大数据
数据仓库
Hive(二)之bash群起脚本
集群的启动启动HDFS启动namenode$/opt/modules/cdh/hadoop-2.5.0-
cdh5
.3.6/sbin/hadoop-daemon.shstartnamenode2.启动datanode
DarrenmondZhang
·
2024-01-02 07:45
Linux Hadoop安装
Hadoop下载地址:http://archive.cloudera.com/
cdh5
/cdh/5/hadoop-2.6.0-
cdh5
.7.0.tar.gz
神游御风
·
2024-01-01 14:08
CDH5
到CDH6都更新了些什么?
为了方便比较,本文内容主要基于
CDH5
.16.1和CDH6.1.1进行说明。
ClouderaHadoop
·
2023-12-30 14:18
23.Kudu表插入中文字符
测试环境:
CDH5
.12.0Kudu1.4.0ImpalaJDBC41_2.5.35使用ImpalaJDBC代码进行测试,测试代码staticStringJDBC_DRIVER="com.cloudera.impala.jdbc41
大勇任卷舒
·
2023-12-29 09:17
Hadoop-Hbase集群搭建
1.下载http://archive.cloudera.com/
cdh5
/cdh/5/hbase-1.2.0-
cdh5
.7.0.tar.gz2.解压#解压到指定的文件夹tarxzvfhbase-1.2.0
GuangHui
·
2023-12-27 07:17
CDH安装
https://www.linuxidc.com/Linux/2018-03/151491.htmCentOS7下ClouderaManager及
CDH5
.14.0安装过程详解1.系统环境搭建1.1下载
Hanson_Huang
·
2023-12-27 00:03
在自己电脑配置cdh 版 hadoop 提交mr job客户端
image.png1.首先下载与我们cdhhadoop集群对应的hadoop安装文件hadoop-2.6.0-
cdh5
.14.2.tar.gz链接:https://pan.baidu.com/s/1iHm5M-gGZRWLKbzVjbYJmA
Helen_Cat
·
2023-12-23 04:51
2.CENTOS安装CDH和Kudu-1
版本:CENTOS7.2
CDH5
.10Kudu1.22.1概述本文CENTOS7.2操作系统部署CDH企业版的过程。
大勇任卷舒
·
2023-12-15 01:40
一劳永逸办法 Intellij idea 报错:Error : java 不支持发行版本5
在settings中找到FileandCodeTemplates在找到Mavenimage.png在pom.xml中添加此配置UTF-8UTF-89
cdh5
.5.299UTF-82.102.10.4添加这个配置
落雪无尘V
·
2023-12-03 21:42
大数据技术学习笔记之hive框架基础3-sqoop工具的使用及具体业务分析
-》ApacheHadoop-》clouderaHadoop:CDH-》Hortonworks:HDP-》选用CDH版本的好处-》解决每个框架之间的兼容性问题-》不需要对其他框架进行对应版本的编译-》
cdh5
黄剑锋1996
·
2023-12-02 19:50
技术学习笔记
Spark写入es:EsHadoopRemoteException: version_conflict_engine_exception
背景介绍业务场景:spark批量写入es,基于es-hadoop组件实现批处理任务定时调度
cdh5
.5.3集群,spark2.3,elasticsearch6.4.3es中对应索引的_id由程序控制,保证全局唯一仅测试环境出现
weixin_34117522
·
2023-12-01 09:59
大数据
java
scala
大数据学习-离线数仓项目实战笔记(上)
1.1.软件版本产品版本Hadoop2.9.2Hive2.3.7Flume1.9DataX3.0Airflow1.10Atlas1.2.0Griffin0.4.0Impalaimpala-2.3.0-
cdh5
.5.0MySQL5.71.2
ys4tnaf
·
2023-11-30 15:24
hadoop
大数据
数据仓库
hive
flume
Linux安装flume并实现监控文件
flume的安装1.找到flume的安装包并复制到/usr目录下sudocpflume-ng-1.6.0-
cdh5
.6.0.tar.gz/usr步骤2.解压缩sudotar-zxvfflume-ng-1.6.0
思君_4cd3
·
2023-11-29 02:56
0592-5.16.1-如何配置Kerberos高可用
本文主要讲述如何在
CDH5
.16.1中配置Kerberos服务的高可用。
Hadoop_SC
·
2023-11-28 23:54
Hadoop实操
环境准备(06)YARN环境搭建 & 提交作业到YARN
1.配置文件目录/home/hadoop/app/hadoop-2.6.0-
cdh5
.7.0/etc/hadoop2.mapred-site.xml[hadoop@hadoop001hadoop]$cpmapred-site.xml.templatemapred-site.xmlmapreduce.framework.nameyarn3
乌鲁木齐001号程序员
·
2023-11-28 15:13
3.CENTOS安装CDH和Kudu-2
版本:CENTOS7.2
CDH5
.10Kudu1.23.1Kudu安装CDH从5.10开始,打包集成Kudu1.2,并且Cloudera正式提供支持。
大勇任卷舒
·
2023-11-26 07:24
HBase本地安装Snappy
环境HBase
cdh5
-1.2.0_5.12.1环境特别重要。它直接关系到需要使用的Snappy以及Hadoop的版本。如果版本对不上,很可能出现链接本地动态链接库时的错误。操作操作其
AlstonWilliams
·
2023-11-24 09:08
如何优雅地使用 java 连接 HBase 客户端
放弃不难,但坚持很酷~HBase版本:1.2.0-
cdh5
.7.0一、客户端的长短连接java远程连接HBase客户端,大体分为两种方式。一种是长连接,一种是短连接。
create17
·
2023-11-23 20:37
java
hive
设计模式
redis
epoll
Hive在SQL标准权限模式下创建UDF失败的问题排查
环境:
CDH5
.16Hive1.1.0已开启KerberosHive授权使用SQLStandardsBasedAuthorization模式(以下简称SSBA模式)症状表现:在编译好UDF的jar包之后
咕噜咕噜大数据
·
2023-11-19 00:48
大数据安全
Hive
CDH
大数据
hive
【KeyarchOS】安装部署CM5.13.0和
CDH5
.13.0实践
目录1概述2安装准备2.1操作系统环境2.2CM版本3安装3.1安装CM5.13.04运行CM安装CDH4.1启动CM服务4.2初始化CM并安装
CDH5
.13.01概述浪潮信息KOS是浪潮信息基于LinuxKernel
KeyarchOS
·
2023-11-16 10:03
软件兼容性
linux
ZooKeeper安装部署和客户端连接
zookeeper的注意事项:安装前需要安装好jdk检测集群时间是否同步检测防火墙是否关闭检测主机ip映射有没有配置##下载安装包、解压下载地址:CDH版本:http://archive.cloudera.com/
cdh5
a大数据yyds
·
2023-11-15 21:35
ZooKeeper
Flume写入hive错误记录
Flume1.9
cdh5
.16.2错误1、Failedtostartagentbecausedependencieswerenotfoundinclasspath.Errorfollows.具体错误:24Mar202210
蜗牛@漫步
·
2023-11-12 16:59
Flume
flume
hive
flume
sink
flume
hive
Phoenix编译支持
cdh5
.10.2
前言由于Phoenix还没有发布支持
cdh5
.10以上的版本,这里在在4.9-HBase-1.2-
cdh5
.9的基础上修改cdh版本为
cdh5
.10.2,我这边分别编译了Phoenix支持
cdh5
.9.3
荒野雄兵
·
2023-11-04 19:25
CentOS7+
CDH5
.14.0安装CDH错误排查:该主机与 Cloudera Manager Server 失去联系的时间过长。 该主机未与 Host Monitor 建立联系...
主机错误:该主机与ClouderaManagerServer失去联系的时间过长。该主机未与HostMonitor建立联系解决办法:首先查看该主机NTP服务是否启动:https://www.cnblogs.com/sisimi/p/7698452.html如果已经启动,请查看客户端服务是否启动:/opt/cm-5.14.0/etc/init.d/cloudera-scm-agentstart启动之后
weixin_34146410
·
2023-11-04 15:16
运维
大数据
windows下火狐浏览器中配置kerberos客户端
1.环境1.操作系统:windows2.CDH版本信息:5.16.2-1.
cdh5
.16.2.p0.83.浏览器:火狐浏览器4.kdc客户端:kfw-4.1-amd642.安装火狐浏览器与kdc2.1火狐浏览器略
脸ル粉嘟嘟
·
2023-11-04 08:18
▼安装
——软件
windows
java
火狐
kdc
UDF 编写与注册
功能对数据加解密方式处理环境hadoop2.6.0+
cdh5
.11.2hive1.1.0+
cdh5
.11.2java1.8.xxx配置新加入hadoop集群的服务器需要放/opt/logs/env.properties
大怀特
·
2023-11-01 07:20
bigdata
hive
spark
java.lang.RuntimeException: The root scratch dir: /tmp/hive on HDFS should be writable.
Therootscratchdir:/tmp/hiveonHDFSshouldbewritable.Currentpermissionsare:rwx------启动Hive时报错[
[email protected]
cdh5
.14.0
红叶゜
·
2023-10-30 07:57
报错
hadoop
linux
大数据
hive
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他