E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
cdh5
Apache Kylin: OOPS!Failed to Take Actions
环境:
CDH5
.8.0,ApacheKylin2.0.0在使用ApacheKylin时遇到一个棘手的问题。安装之后运行示例文件,并初始化元数据信息,但是启动ky
我是康小小
·
2020-07-12 01:05
数据库
Hive 1.1.0 集群安装配置
versionHadoop2.6.0Zookeeper3.4.6Hive1.1.0Hive配置解压这里就不讲解了进入Hive根目录cd/home/hadoop/development/src/hive-1.1.0-
cdh5
.6.0
ZeroTeam_麒麟
·
2020-07-11 16:58
apache
hive
CDH5
.4.0安装中,Validations界面提示修改swappiness
安装
CDH5
.4.0的时候,Validations界面中有以下提示内容,意思是需要在/etc/sysctl.conf中设置swappiness值为10,Clouderarecommendssetting
levy_cui
·
2020-07-11 10:41
CDH
Lily HBase Indexer使用整理
关于Key-ValueIndexer组件
CDH5
.3.2中的Key-ValueIndexer使用的是LilyHBaseNRTIndexer服务,LilyHBaseIndexer是一款灵活的、可扩展的、高容错的
kissmelove01
·
2020-07-11 10:37
hadoop
MacOS 下hive的安装与配置
环境和软件版本说明系统:MacOS终端:iterms2+zshHadoop:hadoop-2.6.0-
cdh5
.7.0.tar.gz下载地址:http://archive.cloudera.com/cdh
hitchenghengchao
·
2020-07-11 07:45
写了shell脚本想一键启动三台虚拟机的Zookeeper,却不知道为啥总是启动不了
/bin/bashcase$1in"start"){foriinnode01node02node03dossh$i"/opt/module/zookeeper-3.4.5-
cdh5
.14.0/bin/zkServer.shstart"done
sqlBoy_
·
2020-07-10 20:30
各种报错
2020-07-10 java采用jdbc方式连接hive
org.apache.hivehive-jdbc1.0.0org.apache.hadoophadoop-common2.4.1jdk.toolsjdk.tools1.8system${JAVA_HOME}/lib/tools.jar需要注意的是,包的版本一定要确认好,切勿版本过高我采用的是
CDH5
.12.0
zhengqianjin608
·
2020-07-10 17:01
CDH5
.7/5.8离线安装-使用CM5,基于CentOS 6.7
截至到2016年5月30日,在网上都没有找到离线安装
CDH5
.6的文章,最新的就是5.6,经过各种试验,总算装好了,记录如下。
jd29323
·
2020-07-10 16:47
大数据
hadoop
cdh
单机模式
cdh5
.14.2 hadoop+hbase+zookeeper+phoenix+hive 安装及配置
文章目录参考文档下载地址先决条件时间配置jdk一些软件hostnamehadoop环境变量配置配置配置ssh免密登录执行YARN配置Zookeeper环境变量ZOOKEEP_HOME配置配置HBaseHBASE_HOME`hbase-env.sh`hbase-site.xml连接hbasephoenix环境变量配置配置hbase-site.xmlHive安装安装pg11初始化脚本日志文件修改启动测
titvax
·
2020-07-10 14:34
大数据
Hadoop ha
CDH5
.15.1-hadoop集群启动后,两个namenode都是standby模式
Hadoopha
CDH5
.15.1-hadoop集群启动后,两个namenode都是standby模式作者:尹正杰版权声明:原创作品,谢绝转载!否则将追究法律责任。一说起周五,想必大家都特别开心对吧?
weixin_33724570
·
2020-07-10 07:18
设置Hadoop的 dataNode的单个Map的内存配置
的配置目录,找到环境变量的$HADOOP_HOMEcd$HADOOP_HOME2、修改dataNode节点的单个map的能使用的内存配置找到配置的文件:/opt/aisc/app/hadoop-2.3.0-
cdh5
.1.2
weixin_30894583
·
2020-07-10 07:19
Centos7.5安装分布式Hadoop2.6.0+Hbase+Hive(
CDH5
.14.2离线安装tar包)
Tags:HadoopCentos7.5安装分布式Hadoop2.6.0+Hbase+Hive(
CDH5
.14.2离线安装tar包)Centos7.5安装分布式Hadoop2.6.0+Hbase+Hive
weixin_30639719
·
2020-07-10 06:25
执行格式化bin/hdfs namenode -format 报错
报错:Causedby:org.xml.sax.SAXParseException;systemId:file:/home/hadoop/app/hadoop-2.6.0-
cdh5
.7.0/etc/hadoop
weixin_30299709
·
2020-07-10 06:15
Linux 使用alias 自定义快捷命令
bin/oozie-setup.shsharelibcreate-fshdfs://hadoop102:8020-localliboozie-sharelib-4.0.0-
cdh5
.3.6-yarn.tar.gzalias"oozie
君子志邦
·
2020-07-10 04:33
linux
问题总结
解决Cloudera-Manager搭建CDH集群时hue数据库连接失败问题(二)
给出如下错误:[21/Feb/201915:21:36+0000]settingsDEBUGDESKTOP_DB_TEST_NAMESET:/opt/cloudera/parcels/CDH-5.8.0-1.
cdh5
.8.0
xiaowei_582648206
·
2020-07-10 02:49
大数据
解决Cloudera-Manager搭建CDH集群时hue数据库连接失败问题
数据库连接失败主要是由于缺少一个libmysqlclient.so.20这个库文件Traceback(mostrecentcalllast):File"/opt/cloudera/parcels/CDH-5.13.0-1.
cdh5
.13.0
xiaowei_582648206
·
2020-07-10 02:48
大数据
Spark环境搭建(运行模式)
一、local本地模式解压重命名cd/export/serverstarspark-2.2.0-bin-2.6.0-
cdh5
.14.0.tgzmvspark-2.2.0-bin-2.6.0-
cdh5
.14.0spark
依旧ฅ=ฅ
·
2020-07-10 01:12
spark
Hadoop完全分布式 -- HA配置
以3台机器配置hadoopHA为例hadoopCDH版本:hadoop-2.6.0-
cdh5
.15.0.tar.gzzookeeperCDH版本:zookeeper-3.4.5-
cdh5
.15.0.tar.gz
WarmthYan
·
2020-07-09 22:52
HADOOP
使用eclipse远程连接hbase
[size=small]基础环境:
CDH5
.4.10hadoop2.6.0hive1.1.0hbase1.0.0zookeeper3.4.5sqoop1.4.5jdk1.7.0_67oscentos6.5
lt89102476
·
2020-07-09 19:37
hadoop
CDH5
.5.X安装及出现的问题解决
一定要细心CDH:(Cloudera`sDistribution,inclludingApacheHadoop),是Hadoop众多分支中的一个,由Cloudera维护,基于稳定版本的ApacheHadoop构建,并集成了很多的补丁,稳定ClouderaManager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控管理的组件,对集群中主机、Hadoop、Hive、Spark等服
kangaroojie
·
2020-07-09 18:50
配置shell脚本启动hdfs集群,crontab定时启动shell脚本
-ne0]thenforhostinnode01dossh$host"source/etc/profile;nohup/root/export/servers/hadoop-2.6.0-
cdh5
.14.0
韩风666
·
2020-07-09 17:31
大数据相关组件调优参数
3)调整yarn的堆内存大小(4)调整yarn内存大小2、flume组件内存调优3、Hbase内存调优1、hadoop调优实战(1)调整namenode启动的堆内存大小cd/hadoop-2.6.0-
cdh5
.14.2
fengge18306
·
2020-07-09 15:56
Hadoop yarn log简单分析
测试环境:
CDH5
.0(Hadoop2.3)在前一篇博客中,使用windows提交任务到linuxHadoop平台,出现错误,想去看看日志,但是发现没有找到日志,所以就在linuxHadoop平台所在的机器使用命令行运行任务
fansy1990
·
2020-07-09 15:57
yarn
log
/bin/bash: line 0: fg: no job control一般解决方法
测试版本:
CDH5
.0,(Hadoop2.3)在使用windows调用Hadoopyarn平台的时候,一般都会遇到如下的错误:2014-05-2817:32:19,761WARNorg.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor
fansy1990
·
2020-07-09 15:56
yarn
HDFS的垃圾回收机制
垃圾回收机制何为垃圾回收开启垃圾回收站把删除的文件首先放置在回收站中等待配置的时间结束进行真正的数据删除如何开始vimcore-site.xmlfs.trash.interval1440把配置文件scp给其他节点上scp-r/export/servers/hadoop-2.6.0-
cdh5
.14.0
dingqiu6346
·
2020-07-09 15:03
hadoop+zookeeper+hbase伪分布式安装
基本安装步骤安装包下载从大数据组件下载地址下载以下组件安装包hadoop-2.6.0-
cdh5
.6.0.tar.gzhbase-1.0.0-
cdh5
.6.0.tar.gzzookeeper-3.4.5-
dengjiyu8406
·
2020-07-09 15:50
Spark 安装部署
local本地模式-Spark初体验:开箱即用解压即用(不需要修改任何配置)解压:tarzxvfspark-2.2.0-bin-2.6.0-
cdh5
.14.0.tgz-C..
神说要有光,于是就有了我
·
2020-07-09 13:54
大数据
#
Spark
Hadoop单机环境搭建
本文章采用Hadoop版本为hadoop-2.6.0-
cdh5
.7.0,jdk版本为1.7Hadoop环境搭建下载Hadoop下载地址:http://archive.cloudera.com/
cdh5
/
Sx_Ren
·
2020-07-09 09:29
CDH5
.13.1安装kafka服务
CDH5
.13.1安装kafka服务安装环境:
CDH5
.13.1kafka3.1.1-1.3.1.1.p0.2CentOSrelease6.10(Final)javaversion"1.8.0_131"
爱码师
·
2020-07-09 06:04
Kafka
Cloudera
Hive安装教程与配置详情,以及Zookeeper安装
tar-zxfhive-1.1.0-
cdh5
.14.2.tar.gz2.解压完后放到指定文件夹下并简写解压后的文件名称mvhive-1.1.0-
cdh5
.14.2/o
天ヾ道℡酬勤
·
2020-07-09 06:12
hive
大数据
重新编译spark 增加spark-sql适配CDH
可能是因为cloudera在推自己的impala;如果上线spark却不能使用sql这种结构化语言,对于大部分分析人员其实是有一定的门槛的准备环境maven等相关环境安装scala安装下载spark源码
cdh5
.5
Dino系我
·
2020-07-09 05:12
spark
CDH5
上安装Hive,HBase,Impala,Spark等服务
ApacheHadoop的服务的部署比较繁琐,需要手工编辑配置文件、下载依赖包等。ClouderaManager以GUI的方式的管理CDH集群,提供向导式的安装步骤。由于需要对Hive,HBase,Impala,Spark进行功能测试,就采用了ClouderaManager方式进行安装。ClouderaManager提供两种软件包安装源,Package和Parcel:Package就是一个个rpm
Andy_Yang
·
2020-07-09 03:42
Cloudera
sqoop mysql 导入hive CDH
mysql驱动jar包使用版本CDHsqooplib包路径,sqoop需要找到jar包联接mysql/opt/cloudera/parcels/CDH-5.8.0-1.
cdh5
.8.0.p0.42/lib
fanscode
·
2020-07-09 01:49
org.apache.hadoop.io.nativeio.NativeIO Windows.createDirectoryWithMode0(LjavalangString I)V
解决方式hadoop版本:hadoop-2.6.0-
cdh5
.15.2连接下载winutils:https://github.com/stevelough
kukufufu
·
2020-07-08 19:06
环境配置
CDH 使用Spark MLlib
翻译:https://www.cloudera.com/documentation/enterprise/latest/topics/spark_mllib.html版本:5.14.2
CDH5
.5支持Spark
金刚_30bf
·
2020-07-08 18:59
cdh5
.13 spark连接hive数据源
1通过hive直接连接cdh拷贝的客户端文件缺少相关配置需要修改hive-site.xml添加javax.jdo.option.ConnectionURLjdbc:mysql://master01:3306/hive?createDatabaseIfNotExist=trueJDBCconnectstringforaJDBCmetastorejavax.jdo.option.ConnectionD
浮生若梦1379
·
2020-07-08 18:06
spark
[Hadoop] Zookeeper伪分布式集群部署
伪分布式集群部署伪分布式:1台机器上面搭建多个ZK节点2.1解压安装zk解压zookeeper安装包并拷贝成三份,也就是三个zk节点[hadoop@hadoop000app]$cp-rzookeeper-3.4.5-
cdh5
.7.0zk001
cindysz110
·
2020-07-08 12:04
Hadoop
CDH5
.7快速离线安装教程
一、简介CDH是cloudera公司开发的一个快速部署、高效管理Hadoop和其各种组件的一个商业化产品。主要分为两部分,分别为ClouderaManager和CDH软件包。其中ClouderaManager负责集群的部署与管理。CDH软件包囊括了hdaoop各类的组件的安装包,例如hive、hdfs、spark等等。由于实验室服务器集群实现了硬件虚拟化,要在虚拟资源重新搭建CDH集群。cloud
四木夕宁
·
2020-07-08 08:28
hadoop
CDH
cdh5
.9添加sparksql cli直接操作hive
由于项目需要,需要在cloudera的spark中直接用sparksql操作hive,但是cloudera的spark中没有sparksqlcli(也就是没有spark-sql命令),有关解决方案网上比较多。cloudera的安装参照这篇博客基本上就可以离线安装好cloudera我在自己笔记本的虚拟机上装了一天半的时间,最后还是部分框架没有安装成功,总结的经验就是cloudera通过cm来安装对内
tianjun2012
·
2020-07-08 07:19
cdh
Hadoop 原理学习(1)Hadoop 各服务的作用简述
注:以下服务为基于安装Hadoop2.6.0-
cdh5
.8.3后的所得服务,但并不是全部。
BarackHusseinObama
·
2020-07-08 07:17
Hadoop
原理学习
通过maven-shade-plugin 解决Elasticsearch与hbase的jar包冲突问题
今天在项目中集成hbase1.0.0-
cdh5
.5.2和ElasticSearch2.2.0时出现了问题,原先在集成hbase时,引入了架包com.google.guava(16.0版本),后来在集成ES
笨小葱
·
2020-07-08 06:55
ElasticSearch
javaweb
HDFS benchmark 基准测试
本文主要是cloudera版本测试[hsu@server01~]$ls/opt/cloudera/parcels/CDH-5.2.0-1.
cdh5
.2.0.p0.36/lib/hadoop-0.20-mapreduce
sparkjvm
·
2020-07-08 06:02
Cloudera
性能
测试
cloudera
hadoop
Flume的安装与综合使用
本篇文章基于Flume-ng-1.6.0-
cdh5
.7.0+CentOS6.7+JDK1.6+下载,安装JDK1.解压到~/app2.将java配置系统环境变量中:vi~/.bash_profileexportJAVA_HOME
sparkle123
·
2020-07-08 04:14
(9) Hadoop HDFS Java API使用 之 获取FileSystem对象 读取HDFS文件 写文件到HDFS
(1)pom.xml(2)创建类编写内容1)复制配置文件到项目中cp/opt/modules/hadoop-2.5.0-
cdh5
.3.6/etc/hadoop/core-site.xml/opt/modules
grace.liming
·
2020-07-07 23:45
hadoop
cdh Hbase安装部署
wgethttp://archive.cloudera.com/
cdh5
/cdh/5/hbase-1.2.0-
cdh5
.7.0.tar.gztar-zxvfhbase-1.2.0-
cdh5
.7.0.tar.gz-C
潇洒-人生
·
2020-07-07 22:59
大数据
hbase
CDH-hive的引擎换为spark:hive on spark
cdh5
.16.2虽然用的是hive1.1但可以简便的配置hos,不需要升级hive或降级spark。
zdkdchao
·
2020-07-07 22:45
CDH
运维
spark
从零开始搭建hadoop集群
一、软件准备
cdh5
.13.3-centos7.tar.gzcm5.13.3-centos7.tar.gzSPARK2_ON_YARN-2.3.0.cloudera3.jarSPARK2-2.3.0.cloudera3
飞天大漠
·
2020-07-07 19:02
cloudera
CDH5
.13.1 Hadoop2.6.0 测试运行wordcount大数据统计作业
cloudea大数据实验平台安装好了,做点什么呢?还是从helloworld开始吧1.查看hadoop版本root@cdh01:~#hadoopversion如果能如上正常显示,说明可以使用hadoop测试程序了2.查看有哪些测试程序可用root@cdh01:~#hadoopjar/opt/cloudera/parcels/CDH/jars/hadoop-examples.jar运行该程序会介绍有
领尚
·
2020-07-07 18:18
系统集成
java
hadoop学习之使用HDFS API的方式来操作HDFS文件系统-1-项目环境
IDEA中:1.创建工程不要选错差不多就是这个亚子2.添加hadoop依赖包org.apache.hadoophadoop-client2.6.0-
cdh5
.15.1但是由于库里没有cdh,所以需要添加
level_Tiller
·
2020-07-07 13:47
hadoop
大数据
hadoop学习之hadoop安装--HDFS安装
http://archive.cloudera.com/
cdh5
/cdh/5/1.下载:拷贝本地安装包hadoop-2.6.0-
cdh5
.15.1.tar.gz到服务器的software安装包目录使用gitbashscpscphadoop
level_Tiller
·
2020-07-07 13:15
hadoop
大数据
linux
hadoop
大数据
hdfs
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他