E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
CDH
CentOS 7 配置
CDH
5.16教程
文章目录一、预先需要下载的安装包二、关闭防火墙和SELINUX三、配置本地SSH免密钥登录四、安装JDK五、安装MySQL六、安装cloudera-manager七、
CDH
集群的配置一、预先需要下载的安装包
jackandsnow
·
2020-09-14 00:06
CDH
分布式
HDFS的shell命令操作
目标:掌握HDFS操作数据的命令1)基本语法bin/hdfsdfs具体命令2)参数大全[
[email protected]
cdh
5.14.0]#bin/hdfsdfsUsage:Hadoopfs
彭于晏郑州分晏
·
2020-09-14 00:59
hadoop
centos7离线部署
CDH
5.16.2
/download/qq_40131121/11897302cloudera-manger版本和下载网址:cloudera-manager-centos7-cm5.16.2_x86_64.tar.gz
CDH
yszhong123
·
2020-09-14 00:20
CDH
hadoop
java 正则匹配 HDFS路径后获取目录下文件
publicstaticvoidmain(String[]args){URIuri=URI.create("hdfs://
cdh
-master:8020");FileSystemhdfs=null;Pathpath
龍尐
·
2020-09-14 00:48
java
hadoop
[kmx转mp4]MacOS下优酷缓存文件kmx转mp4
github上下载python文件#安装Python3环境#使用kmx_to_mp4.py-i文件名转换文件#使用kmxs_to_mp4s.py-i路径名转换文件夹下所有文件#输出文件在原目录下#示例
cdh
bchen
RememberUrHeart
·
2020-09-13 22:04
TOOLS
flume搭建调试
Installing
CDH
3https://ccp.cloudera.com/display/
CDH
DOC/
CDH
3+Installationwgethttp://archive.cloudera.com
yydcj
·
2020-09-13 20:40
flume
日志系统
Cloudera Manager集群搭建
ClouderaManager集群搭建环境说明:Linux版本Centos6.5
CDH
版本
CDH
5linux操作用户root一、安装包下载?
yuxiaojianran
·
2020-09-13 20:39
CDH
6.3.2集群启用授权
本文描述
CDH
6.3.2集群安装Sentry及配置。
邢为栋
·
2020-09-13 20:08
大数据
大数据
运维
cloudera
Cloudera Manager 5和
CDH
5离线安装
ClouderaManager5和
CDH
5离线安装前期准备:13台centos6.7(虚拟机部署)=12台(
CDH
集群)+1台(LAMP展示机器)HostNameIPmaster0110.255.184.32master0210.255.184.33slave0110.255.184.34slave0210.255.184.35slave0310.255.184.36slave0410.255.1
十色花
·
2020-09-13 20:28
集群部署
Hadoop
CDH
7180界面打不开
问题描述:之前正常,今天突然打不开解决步骤:查看全部进程service--status-all定位到
cdh
服务没启动servicecloudera-scm-serverstatus查看日志/var/log
wisdom_c_1010
·
2020-09-13 20:13
CDH
cdh
集群hdfs namenode HA
hdfsnamenode的健康关系整个集群是否能正常运行,生产为了集群的高可用必须开启HA。社区版需要手动修改配置文件进行开启。使用clouderamanager只需在界面根据向导执行即可。操作步骤:1.在hdfs-操作-选择启用HA2.填写nameservice名称3.选择另外一台服务器安装namenode,三个或5个节点安装journalnode4.配置namenode,journalnode
kevin_wf
·
2020-09-13 20:40
CDH
HA
hadoop
离线安装Cloudera Manager 5和
CDH
5及与遇到的问题总结
今天介绍一下:在linux系统下,如何搭建
CDH
集群.1.1ClouderaManager简介ClouderaManager是一个拥有集群自动化安装、中心化管理、集群监控、报警功能的一个工具(软件),使得安装集群从几天的时间缩短在几个小时内
new个对象先
·
2020-09-13 20:10
开发环境搭建
cdh5
cloudera
Manager
linux
hadoop集群
集群安装
CDH
集群中HDFS单点故障解决方案:HA模式(High Availability)
CDH
集群开发HDFS的HighAvaliability模式Step1什么是单点故障?Step2HDFS为什么会出现单点故障?它是怎么解决的?
weixin_316529
·
2020-09-13 20:27
CDH
6.0.0详细安装教程及所遇到的问题
关于
CDH
和ClouderaManager
CDH
(Cloudera’sDistribution,includingApacheHadoop),是Hadoop众多分支中的一种,由Cloudera维护,基于稳定版本的
weixin_34378767
·
2020-09-13 20:55
01搭建
cdh
前硬件资源的选型和操作系统配置
01搭建
cdh
前硬件资源的选型这里就要针对hadoop生态圈去选择什么样的硬件cpu硬盘厂家等其实,hadoop生态圈一开始的主旨是用廉价的服务器去分布式的存储处理数据。
weixin_34049948
·
2020-09-13 20:35
CDH
5.16.1集群企业真正离线部署
⼀.准备⼯作1.离线部署大纲MySQL离线部署CM离线部署Parcel⽂件离线源部署2.规划linux版本:CentOS7.2节点MySQL组件Parcel⽂件离线源CM服务进程⼤数据组件hadoop001MySQLParcelAlertPublisherEventServerNNRMDNNMZKhadoop002AlertPublisherEventServerDNNMZKhadoop003Ho
b10l07
·
2020-09-13 20:55
java
数据库
开发工具
CDH
平台部署参考手册
1.1cloudera架构如上图所示,ClouderaManager的核心是ClouderaManagerServer(服务名:cloudera-scm-server),它承载着整个平台的管理控制台和应用程序逻辑,并负责
CDH
weixin_33775582
·
2020-09-13 20:54
大数据
python
ui
Ubuntu14.04离线安装
CDH
5.6.0
enterprise/5-6-x/topics/installation.html相关包的下载地址:ClouderaManager地址:http://archive.cloudera.com/cm5/cm/5/
CDH
洽洽老大
·
2020-09-13 20:09
hadoop
CDH
集群环境要求
CDH
5.x集群
CDH
5.X集群如下图所示:由于集群使用yarn的高可用机制,一般选择奇数台主机,所以,最小集群主机数要求应为3台。
WorkWorship
·
2020-09-13 19:02
大数据
cdh
集群安装sqoop
sqoop-
cdh
安装:1、上传sqoop-1.4.6-
cdh
5.10.1.tar.gz包到/opt/sqoop目录2、解压缩文件:tar-zxfsqoop-1.4.6-
cdh
5.10.1.tar.gz3
1057718341_h
·
2020-09-13 19:02
mysql
sqoop
大数据-hadoop
CDH
集成LDAP配置
转载自JavaChenBlog,作者:JavaChen原文链接地址:http://blog.javachen.com/2014/11/12/config-ldap-with-kerberos-in-
cdh
-hadoop.html
101之歌
·
2020-09-13 19:50
大数据
flume实时写数据到HA模式下的hdfs
上一篇文章写到flume实时抽取mysql数据到kafka和hdfs,但是之前没有考虑到在hdfs是在HA模式下的情况,如果在HA模式下,我们指定了写入地址为:hdfs://
cdh
2:8020/flume
戚xq
·
2020-09-13 19:37
CDH
5.10 HDFS 配置HA
选择hdfs选择下面的下一步继续下一步JournalNodeHosts是日志级别,所有的机器都选下一步安装点击继续成功会在那里显示,会多出那些进程,会有standby和active两个进程。根据进程查找端口号看看第二台,这个错误是正常的,只能去主节点,其他的都是只读的。
nszkadrgg
·
2020-09-13 19:26
CDH
离线安装Cloudera Manager 5和
CDH
5(最新版5.9.3) 完全教程(一)环境说明
系统环境实验环境:Windowsserver2008下VMware虚拟机操作系统:CentOS6.5x64ClouderaManager:5.9.3
CDH
:5.9.3安装说明由于处于数据安全保障,整个集群处于内网环境
Lv_Hulk
·
2020-09-13 19:10
Cloudera(CDH)
基于Cloudera Manager配置Impala的资源管理
Impala包含一些特性,可以在
CDH
集群中平衡和最大化资源。本章将说明如何使用Impala提升
CDH
集群的利用效率。
DataFlow范式
·
2020-09-13 19:19
Impala
cdh
安装hadoop平台根目录空间不足如何解决
目前大部分公司安装操作系统时给根仅有50G,但是
cdh
的lib和日志都放在/var下,时间长了空间会爆解决方法:1.至少给根100G的空间2.只能做软连接连到其他盘阵下具体操作步骤如下:/data是外挂的盘阵后者你自己大的路径
蘑菇丁
·
2020-09-13 18:37
经验
hadoop
大数据+机器学习+oracle
【Spark】Apache 及
CDH
Spark 源码编译
1、ApacheSpark源码编译软件版本:JDK:1.7.0_67Scala:2.10.4Hadoop:2.5.0Spark:1.6.1Maven:3.3.3Zinc:0.3.5.3(1)搭建Maven环境1)解压Maven安装包maven安装包下载地址:http://archive.apache.org/dist/maven/maven-3/3.3.3/binaries/cd/opt/soft
魏晓蕾
·
2020-09-13 18:30
BigData
Components
BigData
Cloudera Manager5之安装部署
CDH
5.X
本文章介绍ClouderaManager的安装以及部署
CDH
5.X。主要分如下章节介绍。
邹中凡
·
2020-09-13 18:50
Hadoop
Cloudera
Flink on Yarn -
CDH
5
本篇文章大概2892字,阅读时间约8分钟根据Flink官网资料,实操
CDH
5.16.2上配置Flinkonyarn,给出了flinkonyarn的集成方式和HA的配置方式1文档编写目的记录Flinkonyarn
Eights-Li
·
2020-09-13 18:15
CDH
修改配置注意事项
cdh
在使用时如果修改了配置文件,需要重启过时服务,而不是重启,重启过时服务才会修改配置文件转载于:https://www.cnblogs.com/rocky-AGE-24/p/7468765.html
afei2530
·
2020-09-13 18:01
实现
CDH
支持Spark SQL功能
CDH
内嵌spark版本不支持spark-sql,可能是因为cloudera在推自己的impala;如果上线spark却不能使用sql这种结构化语言,对于大部分分析人员其实是很不爽的!
sunyang098
·
2020-09-13 18:22
spark
CDH
5和Cloudera Manager5对环境的要求
enterprise/release-notes/topics/rn_consolidated_pcm.html#xd_583c10bfdbd326ba--5a52cca-1476e7473cd--7f8d
CDH
wsppstwo
·
2020-09-13 18:34
大数据
Cloudera Manager进行
CDH
生产环境集群配置及相关功能示例
目录主页主机角色Parcel配置-非默认值动态资源池静态服务池HDFSHiveImpalaKafkaSpark2YARNZooKeeperClouderaManagerService主页主机
ddttoop
·
2020-09-13 18:02
Hadoop
大数据
分布式
CDH
提供的推荐配置
HBase的两个参数,解释如下:hbase.hregion.preclose.flush.size默认值:5M建议值:5M含义:如果在关闭Region时,某个Region内的memstore大小超过此大小,会先运行pre-flush以清除memstore,然后再放置Region关闭标记并使Region脱机。关闭时,在关闭标志下运行刷新以清空内存。在此期间,该Region处于离线状态,没有进行任何写
老余不爱吃鱼
·
2020-09-13 18:55
大数据
05搭建
cdh
生产环境搭建(生产可用)
自己一直没有时间去写,安装
cdh
的博客,看到几个大神写的安装
cdh
比较完整,这里做一个记录
CDH
安装包下载地址http://archive.cloudera.com/
cdh
5/parcels/5.13.3.2
weixin_34265814
·
2020-09-13 18:44
【基本知识】Flume基本环境搭建以及原理
系统:CentOS6.5JDK:1.8.0_144Flume:flume-ng-1.6.0-
cdh
5.12.0一、什么是Flumeflume作为cloudera开发的实时日志收集系统,受到了业界的认可与广泛应用
weixin_33958366
·
2020-09-13 18:42
大数据集群
常见搭建方式:一、使用框架进行快速搭建,常见
CDH
(ClouderaManager)和HDP(Ambari)https://www.ibm.com/developerworks/cn/opensource
weixin_30437847
·
2020-09-13 18:07
数据采集工具flume
概述flume是在2011年被首次引入到Cloudera的
CDH
3分发中,2011年6月,Cloudera将flume项目捐献给Apache基金会。
weixin_30445169
·
2020-09-13 18:07
大数据
java
Cloudera Manager
CDH
5.12 大数据处理平台部署指南
ClouderaManager
CDH
5.12部署指南官方共给出了3中安装方式。第一种方法必须要求所有机器都能连网,由于各种网络超时错误,基本没法用。
运维个西瓜
·
2020-09-13 18:34
cdh
-HDFS HA配置硬件
要使用基于Quorum的存储部署HA群集,您应该准备以下内容:1.NameNodehosts:这些是您在其上运行活动和备用NameNode的主机。它们应该具有相同的硬件,以及与非HA集群中使用的硬件等效的硬件。2.JournalNodehosts:这些是您运行JournalNodes的主机。Cloudera建议您在“主”主机或主机上部署JournalNode守护程序(NameNode,Standb
lisery_nj
·
2020-09-13 17:55
hdfs
cdh
在生产环境部署
CDH
集群遇到的问题
机器都是新购置的,75台联想机器:型号ThinkserverRD640结构2U高度机架式服务器(2.5寸16盘位)*1CPUIntelXeonE5-2630v2(2.6GHz/6C/15Mcache)*2内存16GBR-ECCDDR31600内存*8硬盘600GBSAS10000rpm热插拔硬盘*12网卡双口Intel百兆/千兆自适应电口网卡(板载)*1双口Intel万兆光口网卡(外插,满配多模光
sunyang098
·
2020-09-13 17:11
那些年
趟过的坑
Bigdata-Cloudera
CDH
5生产环境推荐的硬件配置
Bigdata-Cloudera
CDH
5生产环境推荐的硬件配置MasterNodeHardwareRecommendationsTypicalconfigurationsforworkernodesWorkerNodes—CPUWorkerNodes—RAMWorkerNodes—Disk
adson1987
·
2020-09-13 17:58
BigData
用 Arthas 神器来诊断 HBase 异常进程
2.异常之上的现象
CDH
监控页面来看,除CPU之外的几乎所有核心指标都是正常的,磁盘和网络IO都很
阿里云云栖号
·
2020-09-13 14:26
我是程序员
云栖号技术分享
队列
python
java
数据库
TDH与
CDH
简介
TDH与
CDH
简介hadoop是一个开源项目,所以很多公司在这个基础进行商业化,下面简单介绍下应用比较广泛的TDH和
CDH
两个版本【TDH】TDH:TranswarpDataHub1TranswarpInceptor
三房头o
·
2020-09-13 13:09
大数据
TDH
CDH
java.io.IOException: Mkdirs failed to create /flume/hdfs2 (exists=false, cwd=file:/opt/
cdh
5.7.
在flume中报这样的错,说无法创建/flume/hdfs2这个是往hadoop上写hdfs的时候找不到,我的原因是没有把Hadoop集群的hdfs-site.xml、core-site.xml两个配置文件复制到flume安装目录的conf目录去,移进去就好了
三房头o
·
2020-09-13 13:38
spark on yarn container exited with a non-zero exited code 1 error file :prelaunch。err
在
cdh
集群上执行spark的demo可以跑通,但是在执行脚本跑jar包读写数据的时候,报错,请各位大佬帮忙看看报错信息见图
宇泽9527
·
2020-09-13 12:14
bug
spark
hadoop
cloudera
hadoop编译
本次编译的版本为hadoop-2.6.0-
cdh
5.7.0,从官网下载好源码和需要的工具等一,准备好工具,并上传至Linuxsoftware目录下#先安装好上传文件的命令rzyuminstalllrzsz-rw-r
冬瓜螺旋雪碧
·
2020-09-13 12:05
Hadoop
自己踩得坑
hadoop发行商介绍:Cloudera
现在国内很多公司也都选用他们的发行版本(
CDH
)。
jiezhu2007
·
2020-09-13 12:49
hadoop技术专栏
CDH
配置 Sentry 服务
1.启用Sentry服务前设置HiveWarehouse目录权限要点:启用HDFS/Sentry同步无需在Hive仓库目录上显式设置权限。启用同步后,所有Hive数据库和表在HDFS底层文件系统上都归属hive:hive。Sentry会把表的权限自动转换为HDFS底层文件的ACL。Hive的仓库目录/user/hive/warehouse或者在hive-site.xml中指定的hive.metas
javastart
·
2020-09-13 12:11
hive
clouderamanger
Prometheus监控工具安装部署
详细介绍见官网:https://prometheus.io/docs/introduction/overview/部署环境
CDH
5.16.2CentOS7Prometheus部署在
CDH
集群的
Eights-Li
·
2020-09-13 11:14
上一页
29
30
31
32
33
34
35
36
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他