CDH

windows 配置 Kerberos客户端访问CDH组件

0.背景想在window机器上访问内网集群的CDH组件(如solr的webui),由于集群配置了Kerberos验证,所以需要配置相关,否则打开webui会有401未授权错误1.流程1.1windows
mizuhokaga·2023-08-19 23:22

一张图告诉你为什么Hadoop要选第三方发行版

真的就是一张图哈哈哈哈BTW如果你在厂商选型的话我们可以愉快地交流一下~CDH和HDP虽然合并了但是它们原先的版本还是会存在很长一段时间的至于现在要不要用新的CDP，看企业自身的目标、预算、团队了~
ClouderaHadoop·2023-08-19 14:09

linux 安装hue

http://archive.cloudera.com/cdh5/cdh/5/hue-3.7.0-cdh5.3.6/Hue的版本：cdh5.3.6-hue-3.7.0->需要编译才能使用->联网pingwww.baidu.com
小赖同学啊·2023-08-19 05:49

cloudera-manager-agent-5

在配置cdh集群时候，以rpm包的方式安装cloudera-manager-agent-5....的时候一直报错无法安装，网上找了很多方法我自己的办法是：在后面加上"--nogpgcheck"参数，以强制安装
在朝阳寺树下·2023-08-19 02:31

Unrecognized Hadoop major version number: 3.0.0-cdh6.3.2

一.环境描述spark提交job到yarn报错，业务代码比较简单，通过接口调用获取数据，将数据通过sparksql将数据写入hive中，尝试各种替换hadoop版本，最后拿下1.hadoop环境2.项目pom.xmlspark-submit\--nameGridCorrelationMain\--masteryarn\--deploy-modecluster\--executor-cores2\-
远方有海，小样不乖·2023-08-18 21:24

CDH遇到的坑

启动datanode报错，由于该主机之前安装过CDH，需要清空原有的datanode配置Failedtoaddstoragedirectory[DISK]file:/dfs/dnorg.apache.hadoop.hdfs.server.common.InconsistentFSStateException
行动家嘘嘘·2023-08-18 19:31

cdh6.3.2 Flink On Yarn taskmanager任务分配倾斜问题的解决办法

业务场景：FlinkOnYarn任务启动组件版本：CDH：6.3.2Flink：1.13.2Hadoop：3.0.0问题描述：在使用FLinkonYarn调度过程中，发现taskmanager总是分配在集中的几个节点上
日复一日伐树的熊哥·2023-08-18 17:15

Linux完全卸载某应用

背景：这两天安装cdh，重新温习了下linux的使用，关于卸载应用，特记录强制删除已安装程序及其关联：rpm-qa|greppython|xargsrpm-ev--allmatches--nodeps删除所有残余文件
安申·2023-08-18 16:58

CDH6.3配置安装实操

环境要求Redhat7.4安装CDH6.3。
MrGrant·2023-08-18 06:57

存算分离实践：构建轻量、云中立的大数据平台

计算资源冗余浪费、所依靠的CDH发行版技术栈复杂、部署运维困难及计算资源潮汐现象严重等问题，迫使多点启动架构升级的进程。同时，为满足B端客户多样化的需求，多点需要构建一个可以在多云环境下
Juicedata·2023-08-17 22:48

阿里云服务区ECS，申请免费的服务器之后，如何使用xshell 登陆，找不到匹配的host key 算法

问题当在阿里云免费领取服务器之后，使用xshell登陆不上，提示找不到匹配的hostkey算法或者找不到匹配的keyexchange算法咋解决2解决在在服务器端配置文件：/etc/ssh/sshd_config#在行尾增加",ecdh-sha2
一写代码就开心·2023-08-17 20:15

CDH Hadoop 3.0 使用OSS作为储存 2021-09-07

简介：CDH和CM(ClouderaManager)CDH(Cloudera’sDistribution,includingApacheHadoop)是众多Hadoop发行版本中的一种，由Cloudera
迷藏_·2023-08-17 16:41

使用FIFO的文件控制shell的线程数

/bin/bashdate+'%Y/%m/%d%H:%M:%S'HADOOP_CONF_DIR=/opt/cloudera/parcels/SPARK2-2.1.0.cloudera1-1.cdh5.7.0
飞天大漠·2023-08-17 12:17

Cloudera 管理Hadoop API 依赖

翻译：https://www.cloudera.com/documentation/enterprise/release-notes/topics/cdh_vd_hadoop_api_dependencies.html
金刚_30bf·2023-08-17 10:25

存算分离实践：构建轻量、云中立的大数据平台

计算资源冗余浪费、所依靠的CDH发行版技术栈复杂、部署运维困难及计算资源潮汐现象严重等问题，迫使多点启动架构升级的进程。同时，为满足B端客户多样化的需求，多点需要构建一个可以在多云环境下
·2023-08-16 18:28

CDH6.3.2搭建HIVE ON TEZ

参考https://blog.csdn.net/ly8951677/article/details/124152987----配置hive运行引擎在/etc/hive/conf/hive-site.xml中修改如下：hive.execution.enginemr–>tezhive.execution.engine设为tez或者运行代码的时候：sethive.execution.engine=tez
小亚文·2023-08-15 11:56

【openwrt学习笔记】dnsmasq源码阅读

目录一、DHCP(DynamicHostConfigurationProtocol)1.1前置知识1.2参考链接1.3IP地址分配代码分析rfc2131.cdhcp-common.cdhcp.c1.4几个小问题
瓜洲大大·2023-08-14 21:26

CDH6.3应知应会

文章目录1.CDH简介1.1CDH版本2.CDH集群的优势是什么？3.CDH集群的部署方式有哪些？4.CDH集群中如何进行故障排除和监控？5.你有使用CDH部署集群的经验吗？
程序终结者·2023-08-14 07:47

Nginx配置(ngx_http_ssl_module)

Directivessslssl_buffer_sizessl_certificatessl_certificate_keyssl_ciphersssl_client_certificatessl_conf_commandssl_crlssl_dhparamssl_early_datassl_ecdh_curvessl_ocspssl_ocsp_cachessl_ocsp_responderssl
PurelightMe·2023-08-14 00:02

Centos 7 离线安装Cloudera Manager6 和CDH6.3.1

零、前言之前写过一篇CDH5的，本文是在之前操作基础上进行的Centos7离线安装ClouderaManager5和CDH5.13.0CDH6与CDH5安装的整体流程基本一致，而且简单了不少。
LY丶Smile·2023-08-13 19:59

MapReduce任务报错：Unrecognized Hadoop major version number: 3.0.0-cdh6.2.1

现在放到测试集群上报错了错误信息：Error:java.lang.IllegalArgumentException:UnrecognizedHadoopmajorversionnumber:3.0.0-cdh6.2.1atorg.apache.hadoop.hive.shims.ShimLoader.getMajorVersion
ustbxyls·2023-08-12 16:34

史上最全！大数据开源框架技术扫盲

一目录系统平台（Hadoop、CDH、HDP）监控管理（CM、Hue、Ambari、Dr.Elephant、Ganglia、Zabbix、Eagle）文件系统（HDFS、GPFS、Ceph、GlusterFS
hanxiaolaa·2023-08-12 16:22

监控工具htop安装和使用

直接使用命令安装我这里换了yum源，仓库无此安装包，故使用站点下载地址：Indexof/htop/releases(hisham.hm)image.png直接解压、编译tarxzvfhtop-2.2.0.tar.gzcdhtop
十三_0223·2023-08-12 08:43

Airflow集群搭建

部署节点cdhnode1：webserverschedulerworkercdhnode2：workerflowercdhnode3：worker访问地址Airflow：xxxFlower：xxx同步物料
哥本哈登_sketch·2023-08-11 23:41

hadoop集群的安装

1、CDH软件版本重新进行编译1、编译hadoop的原因，需要对hadoop安装包中添加以下C程序库2、编译环境的准备2.1：准备Linux环境准备一台linux环境，内存4G或以上，硬盘40G或以上，
我还不够强·2023-08-11 16:28

CDH6.3.2搭建HIVE ON TEZ步骤

|引言参考：CDH6.3.2hiveontez搭建过程_我不是橙子的博客-CSDN博客CDH6.3.2版本搭建Tez执行引擎过程-虎啸千峰-博客园hiveontez集成完整采坑指南(含tez-ui及安全环境
ly8951677·2023-08-11 14:16

hadoop与第三方（CDH等）的比较

文章来源：https://blog.csdn.net/wdr2003/article/details/80248147CDH：全称Cloudera’sDistributionIncludingApacheHadoopCDH
你的努力时光不会辜负·2023-08-11 11:52

centos6 启动cloudera-scm-agent失败

背景：最近准备在自己的虚拟机上搭一个cdh的集群，在启动cloudera-scm-agent失败排查思路：进去log日志查看报错信息：/usr/bin/env:python2.7:没有那个文件或目录参考技术链接
安申·2023-08-11 06:46

基于阿里云服务器搭建CDH之后Hadoop50070页面访问不了

在CDH5.12搭建完成之后NameNode的WebUI50070访问不了。遇到这个其实不难解决！首先一定确保hadoop搭建无误。
李指导、·2023-08-11 06:19

从0到1搭建数据仓库流程

Deloitte已经选好用CDH，这步可以不考虑三、规范制定在数仓建设阶段，我们只需要制定数仓相关的规范。如：分层设计规范、表命名规范、字段命名规范、
夜希辰·2023-08-11 00:17

千云物流 -安装企业CM&CDH6.3.2

基础环境准备cloudera官网下载需要的包自2021年1月31日起，所有Cloudera软件都需要订阅https://www.cloudera.com/downloads.htmlhttps://www.cloudera.com/downloads/cdp-private-cloud-trial.html这里官网不提供免费版本了。环境准备ssh配置服务器准备mysql数据库准备#获取mysqlr
青0721松·2023-08-10 21:39

解决python3和jupyter-notebook中的报错No module named pyspark和No module named ‘py4j’

背景描述：在centos7–CDH6下配置了spark2.4和hive2.3，在linux-shell中输入pyspark可以正常启动，执行下列语句可正常显示frompyspark.sqlimportSparkSessionspark
Nancy_张·2023-08-10 20:16

0483-如何指定PySpark的Python运行环境

Fayson的github：https://github.com/fayson/cdhproject提示：代码块部分可以左右滑动查看噢1文档编写目的在使用PySpark进行开发时，由于不同的用户使用的Python
zuoseve01·2023-08-10 18:28

2.3 DIY Base Image

，以后使用docker不用再加sudo$sudogroupadddocker$sudogpasswd-ausernamedocker#完成后重启命令行接下来建立自己的docker$mkdirhalo$cdhalo
ouchaochao·2023-08-10 17:33

【Hadoop-HDFS压测】针对HDFS进行读写性能测试

测试工具Hadoop自身集成的工具包：hadoop-mapreduce-client-jobclient-3.1.1.jar注意：1、如果是Apache版本安装的Hadoop默认在lib目录下，如果是CDH
bmyyyyyy·2023-08-09 08:53

rust web框架actix （快速入门文档译）----基础（第一节）

首先创建一个新的基于二进制的Cargo项目并切换到新目录：cargonewhello-worldcdhello-world现在，通过确保您的Cargo.toml包含以下内容，将actix-web添加为项目的依赖项
rgwu·2023-08-09 07:54

cdh5.15.1集成flink说明

本文说明如何在已有的cdh集群上添加flink服务。
Demo_zfs·2023-08-09 04:54

CDH测试环境搭建

CDH测试环境搭建需要的软件及包的地址：Centos镜像：http://mirror.nsc.liu.se/centos-store/7.3.1611/isos/x86_64/CDH5.15.1-1parcel
圈半球·2023-08-09 02:11

React脚手架搭建项目

create-react-app一、项目的搭建第一步：全局安装npmi-gcreate-react-app第二步：切换到准备创建项目的目录，使用命令：create-react-apphello-react第三步：进入项目文件夹：cdhello-react
Jayson柴·2023-08-08 15:02

CDH6.3.2 启用Kerberos 认证

一.Kerberos概述强大的身份验证和建立用户身份是Hadoop安全访问的基础。用户需要能够可靠地“识别”自己，然后在整个Hadoop集群中传播该身份。完成此操作后，这些用户可以访问资源（例如文件或目录）或与集群交互（如运行MapReduce作业）。除了用户之外，Hadoop集群资源本身（例如主机和服务）需要相互进行身份验证，以避免潜在的恶意系统或守护程序“冒充”受信任的集群组件来获取数据访问权
格格巫 MMQ!!·2023-08-08 13:24

CDH配置Kerberos和Sentry详解

1.安全之Kerberos安全认证1Kerberos概述1.1什么是KerberosKerberos是一种计算机网络授权协议，用来在非安全网络中，对个人通信以安全的手段进行身份认证。这个词又指麻省理工学院为这个协议开发的一套计算机软件。软件设计上采用客户端/服务器结构，并且能够进行相互认证，即客户端和服务器端均可对对方进行身份认证。可以用于防止窃听、防止重放攻击、保护数据完整性等场合，是一种应用对
Mumunu-·2023-08-08 13:24

0628-6.2-如何在CDH6.2中启用Kerberos

Fayson的github：https://github.com/fayson/cdhproject推荐关注微信公众号：“Hadoop实操”，ID：gh_c4c535955d0f1文档编写目的在前面的文章中
Hadoop_SC·2023-08-08 13:52

vcode开发go

配置环境变量goenv-wGO111MODULE=ongoenv-wGOPROXY=https://goproxy.cn,direct创建文件夹mkdirhellocdhellogomodinithello
yyyyjinying·2023-08-08 07:58

SSH免密登录_Permission denied (publickey,gssapi-keyex,gssapi-with-mic)

背景：三台服务器（cdh-dev1，cdh-dev2，cdh-dev3），现新建了用户：dolphinscheduler（原cloud用户已做SSH免密登录），那么，我新建的用户：dolphinscheduler
灿彬垂死挣扎ing·2023-08-07 05:56

Linux常用命令

如：cd/home进入根目录下面的home目录cdhome
weixin_48628145·2023-08-06 21:02

CDH6.1安装部署

CDH6.1安装部署一、安装前的准备二、ClouderaManager安装三、安装CDH6.1.0一、安装前的准备虚拟机的创建及centos7的安装克隆虚拟机：采用完整克隆模式对克隆的虚拟机进行必要的修改
若兰幽竹·2023-08-05 08:34

CDH集群日志清理

一.查看磁盘占用情况df-h二.查看日志占用情况1.1cdh的各组件的日志一般在/var/log目录下(最好前面加上/data)，因此主要关注“/”查看/data/var/log下使用空间较大的文件夹，
csdn-延·2023-08-03 20:52

CDH集群各组件配置

目录技术组件FlumeHiveHueSparkYarn其他3台4核32G机器技术组件Flume代理名称agent1配置文件#设置代理命令agent1.sources=r1agent1.sinks=k1agent1.channels=c1#设置数据源agent1.sources.r1.type=org.apache.flume.source.kafka.KafkaSourceagent1.sourc
csdn-延·2023-08-03 20:21

DH算法、DHE算法、ECDHE算法演进

ECDHE算法解决了RSA算法不具备前向安全的性质和DH算法效率低下的问题。ECDHE算法具有前向安全。所以被广泛使用。
小金子的夏天·2023-08-03 17:32

Hbase pe 压测 OOM问题解决

说明：本人使用CDH虚拟机搭建了Hbase集群，但是在压测的时发现线程多个的时候直接回OOM,记录一下执行命令hbasepe--nomapred--oneCon=true--table=rw_test_
小gu·2023-08-02 21:17
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他