云计算平台hadoop 第49页

Apache BookKeeper 简介

Research）开发，旨在实现Hadoop分布式文件系统（HDFS）NameNode的高可用，在此之前，NameNode不具备高可用特性，存在单点故障的问题。

StreamNative·2023-11-25 20:11

KVM虚拟机网络模式探讨

深信服的超融合HCI便是基于KVM的云计算平台解决方案。KVM的虚拟化需要硬件支持（如IntelVT技术或者AMDV技术)

sangfor_edu·2023-11-25 20:39

hadoop hive 常见问题解决持续更新

安装过程中，由于网络终端，导致下面问题：问题1：安装停止在获取安装锁/tmp/scm_prepare_node.tYlmPfrTusingSSH_CLIENTtogettheSCMhostname:172.16.77.203395022openingloggingfiledescriptor正在启动安装脚本...正在获取安装锁...BEGINflock4这段大概过了半个小时，一次卸载，一次等了快1

weixin_34122604·2023-11-25 19:46

SQL on Hadoop在快手大数据平台的实践与优化 | 分享实录

快手大数据架构工程师钟靓本文是根据快手大数据架构工程师钟靓于5月18-19日在A2M人工智能与机器学习创新峰会《SQLonHadoop在快手大数据平台的实践与优化》演讲中的分享内容整理而成。

weixin_34292959·2023-11-25 19:46

基于centos7的hadoop2.7、zookeeper3.5、hbase1.3、spark2.3、scala2.11、kafka2.11、hive3.1、flume1.8、sqoop1.4组件部署

部署前准备修改主机名1、修改主机名（6台机器都要操作,以Master为举例）hostnamectlset-hostnameMaster（永久修改主机名）reboot（重启系统）修改hosts将第一行127.0.0.1xxxx注释掉，加上：195.168.2.127master195.168.2.128slave1195.168.2.129slave2确认网卡信息vi/etc/sysconfig/n

luoz_python·2023-11-25 19:42

hadoop-kerbero等相关搭建可能遇到的问题和排查

/datapool/loongoop/tmp/hadoop-yarn/staging/yarntest/.staging/job_1537338393901_0001/job.jardoesnotexist

Winhole·2023-11-25 19:10

hive 报错return code 40000 from org.apache.hadoop.hive.ql.exec.MoveTask解决思路

https://github.com/apache/hive/blob/2b57dd27ad61e552f93817ac69313066af6562d9/ql/src/java/org/apache/hadoop

cclovezbf·2023-11-25 19:10

Scala深海奇遇记-当case class遇到了Spark的聚集函数

致谢在调试的过程中，得到了我们Hadoop组老大，项目组老大，以及其他同事的深度支持与帮助，非常感谢他们。结论先说结论。如果有朋友不感兴趣，不想深究原理，只是想知道怎么

AlstonWilliams·2023-11-25 18:58

在dss中运行scala任务报java.lang.NullPointerException: null

版本信息：dss:1.1.1linkis1.1.1hadoop:3.1.3hive:3.1.2spark:3.0.0修改文件：SparkScalaExecutor.scala修改文件内容如下：上图红色标记内容

heheha_zj·2023-11-25 18:18

hive 数据导入和导出

hive命令数据导入与导出数据导入●本地文件导入●HDFS文件导入●表数据导入●创建表的时候导入--本地文件导入(local)LOADDATAlocalINPATH'/home/hadoop/sourceA.txt'INTOTABLEtestAPARTITION

heheha_zj·2023-11-25 18:48

Hadoop集群升级（3.1.3 -＞ 3.2.4）

升级前确认旧版本：3.1.3升级版本：3.2.4旧版本安装路径：/ddhome/bin/hadoop/新版本安装路径：/ddhome/bin/hadoop-3.2.4安装新版本hadoop解压安装#解压安装包到相应目录下

heheha_zj·2023-11-25 18:09

关于Hadoop12个事实

现如今，ApacheHadoop已经无人不知无人不晓。

丨程序之道丨·2023-11-25 17:53

基于 Flink SQL 和 Paimon 构建流式湖仓新方案

传统数仓包括Hive、Hadoop正在往湖、Lakehouse架构上演进，L

阿里云大数据AI技术·2023-11-25 15:52

Java、Redis、Jackson序列化与反序列化

例如Java中的ObjectOutputStream、Python中的pickle是专门的序列化类、Hadoop中各节点数据传输。反序列化：将序列化对象从磁盘、网络等位置重新转化

__如风__·2023-11-25 15:54

问题org.apache.hadoop.io.nativeio.NativeIO$Windows.createDirectoryWithMode0(Ljava/lang/String；I)V的解决方案

前提条件：Hadoop集群（hadoop2.7.3）Java编译环境（jdk1.8）操作系统：win7IDE：eclipsehadoop插件下载附件链接：https

一朝风月S·2023-11-25 14:55

mapreducer 分布式计算框架

mapreducer是经典的计算框架，是学习大数据处理的基础，请带着这句话“化大为小，分而治之”点击下面连接按笔记顺序进行学习mapreducer原理hadoop的Windows伪分布式环境部署Windows

海牛大数据_青牛老师·2023-11-25 14:21

cdh亲测2022/11/12

一、Hadoop大数据平台1、Hadoop发行版(1)完全开源的原生的ApacheHadoop(2)Cloudera与Hortonworks公司的CDH和HDP：在Cloudera和Hortonworks

Tian.Mrs·2023-11-25 14:18

CDH6安装教程(亲自测试越坑版)

一、Hadoop大数据平台1、Hadoop发行版(1)完全开源的原生的ApacheHadoop(2)Cloudera与Hortonworks公司的CDH和HDP：在Cloudera和Hortonworks

inrgihc·2023-11-25 14:14

分布式计算第五章大数据多机计算：Hadoop

文章目录分布式计算第五章大数据多机计算：Hadoop5.2大数据和分布式的基础概念5.2.1从硬件思考大数据5.1.2从软件角度看大数据5.1.3分布式DISTRIBUTED5.1.4谷歌“三驾马车”5.1.5

一只大小菜·2023-11-25 14:42

Hadoop发行版 Cloudera CDH 6.3.2及CM 安装包下载（阿里云盘不限速）

CDH（全称Cloudera’sDistribution,includingApacheHadoop）是由Cloudera公司构建的Hadoop稳定发行版，不仅含有ApacheHadoop，还整合了Hive

风情客家__·2023-11-25 14:11

使用DolphinScheduler调度DataX完成Mysql到Mysql的数据同步

DataX完成Mysql到Mysql的数据同步DolphinScheduler集群的部署基础环境：Mysql（5.7.25）JDK（1.8.0_144）Zookeeper（3.4.10）节点部署安排三台主机hadoop01

下雨不撑伞丶·2023-11-25 13:35

关于大数据的一些拙见

大数据是一个概念也是一个技术，是在以Hadoop为代表的大数据平台框架上进行各种数

weixin_30384217·2023-11-25 13:52

【玩转云服务器】搭建自己专属的云笔记Leanote(开源部署)

leanote官网https://leanote.com/【蚂蚁笔记=笔记+博客+协作+私有云】私有部署：阿里云/腾讯云/华为云（随意选一个云计算平台进行部署）特点：Leanote云笔记产品包括:LeanoteWeb

JunyouYH·2023-11-25 12:46

运行Hbase提示SLF4J: Class path contains multiple SLF4J bindings

运行Hbase提示SLF4J:ClasspathcontainsmultipleSLF4Jbindings在实际启用HBase的时候，因为Hadoop中的jar包和HBase中的包版本不一致，就会出现对应的

6个日的梦想·2023-11-25 11:41

关于Hbase启动报SLF4J: Class path contains multiple SLF4J bindings.冲突问题

出现这个问题，是路径下两个jar包的.class文件冲突了分别是hadoop和hbase的。

今天博学了吗？·2023-11-25 11:11

Hadoop(5-1) HBase 提示SLF4J: Class path contains multiple SLF4J bindings.

SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/usr/local/hadoop-3.3.6/share

Eufeo·2023-11-25 11:10

关于UnsupportedOperationException: Constructor threw an exception for org.apache.hadoop.hbase.ipc的问题

今天在搭建hbase的环境的时候正常配置了hbase-env.sh,hbase-site.xml文件后，先启动HDFS环境和Zookeeper环境之后，启动hbase，启动之后发现我们的进程HRegionServer并没有出现，我就回去查日志发现报错：UnsupportedOperationException:Constructorthrewanexceptionfororg.apache.had

holywangle·2023-11-25 11:36

关于提示SLF4J: Class path contains multiple SLF4J bindings的问题解决

...........SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/opt/software/hadoop

holywangle·2023-11-25 11:03

Android手机上使用MATLAB

有两种模式，一种是手机与装有MATLAB的电脑连接，通过电脑上的MATLAB进行运算；第二种模式是使用MathWorks公司的云计算平台进行计算；个人感觉第一种模式的意义不大。

Jimyang1ssa·2023-11-25 11:58

少见的hive集群时间不同步报错。

DiagnosticMessagesforthisTask:Containerlaunchfailedforcontainer_1603712387555_0006_02_000006:org.apache.hadoop.yarn.exceptions.YarnException

Kris林·2023-11-25 10:13

数据仓库 Hive

Hive3.1.2目录Hive3.1.21、数据仓库概念1.2、传统仓库面临的挑战2、Hive简介2.1、Hive的特点2.2、Hive的优缺点2.3、Hive与Hadoop生态系统中的关系2.4、Hive

忄凝^·2023-11-25 09:48

Zookeeper+Hadoop+Hbase+Hive+Kylin+Nginx集群搭建

Zookeeper+Hadoop+Hbase+Hive+Kylin+Nginx集群搭建一、虚拟机安装Centos71.准备工作2.centos7安装过程3.关闭防火墙(关键)二、安装jdk1.卸载镜像自带

桃橙柳·2023-11-25 09:15

Hive数据仓库工具基本架构和入门部署详解

Python量化交易实战入门级手把手带你打造一个易扩展、更安全、效率更高的量化交易系统@目录*概述+定义+本质+特点+Hive与Hadoop关系+Hive与关系型数据库区别+优缺点+其他说明架构组成部分数据模

虚幻私塾·2023-11-25 09:15

完全分布式安装Hadoop,Hive,Hbase,Hwi,Zookeeper

完全分布式安装Hadoop,Hive,Hbase,Hwi,Zookeeper其他部分见：HDFSYARNzookeeperHBASEHIVEHIVEhwi的启动HDFS和HBASE动态增加和减少节点一.

ljtyxl·2023-11-25 09:45

Hadoop完全分布式安装（Centos7+Hadoop2.5.0）

Hadoop部署模式Hadoop部署模式有：本地模式、伪分布模式、完全分布式模式、HA完全分布式模式。

fang·up·ad·2023-11-25 09:43

hadoop(6)--NameNode元数据管理(3)

今天分享的的是NameNode中edit日志文件怎么和fsimage合并的，又是什么时候进行合并的，谁负责合并的，好的，带着这几个问题来思考1，先来一张图说明合并过程在这个过程中很好的解释了edit日志文件怎么和fsimage合并的，又是什么时候进行合并的，谁负责合并的，下来我在用文字描述一下1，默认情况下，当3600秒/edits文件达到64M的时候，要进行合并（checkPoint）操作，这时

ROCK_杰哥·2023-11-25 07:33

玩转人工智能（11）使用Pyspark上手机器学习

文件系统HDFSHadoopDistributedFileSystem，简称HDFS，是一个分布式文件系统。HDFS是一个高度容错性的系统，适合部署在廉价的机器上。

Moscar_M·2023-11-25 07:10

大数据组件图谱

大数据组件图谱文件系统数据存储内存技术数据搜集消息系统数据处理查询引擎分析和报告工具调度与管理服务机器学习开发平台文件系统HDFSHadoopDistributedFileSystem，简称HDFS，是一个分布式文件系统

饮水思源09·2023-11-25 07:40

18-Sqoop、DataX和Azkaban的介绍

Sqoop10.4Sqoop的简介10.4.1Sqoop产生背景对于工作中经常遇到的问题的提出如何将关系型数据库中某张表的数据抽取到Hadoop（HDFS/Hive/HBase）上；如何将Hadoop上的数据导出到关系型数据库中对于问题的传统的解决通常情况下是通过开发

大数据下的画像人·2023-11-25 07:07

（二）大数据---Hadoop组件介绍，区别

YARN:分布式资源管理MapReduce、Spark、Flink:分布式计算框架Yarn/Mesos：分布式资源管理器zookeeper：分布式协作服务sqoop：数据同步工具hive/Impala基于Hadoop

（─__─）·2023-11-25 07:37

Flume采集Kafka并把数据sink到OSS

安装环境Java环境,略(Flume依赖Java)Flume下载,略Scala环境,略(Kafka依赖Scala)Kafak下载,略Hadoop下载,略(不需要启动,写OSS依赖)配置Hadoop下载JindoSDK

不住在隔壁的老王·2023-11-25 07:34

Flink物理分区

默认策略轮询，会将数据轮询发送给下游任务valfsEnv=StreamExecutionEnvironment.getExecutionEnvironmentfsEnv.socketTextStream("HadoopNode00

深夜的星星·2023-11-25 06:07

常用的HDFS操作

常用的HDFS操作利用Hadoop提供的shell命令完成任务(1)向HDFS中上传任意文本文件，如果指定的文件在HDFS中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有文件(2)从HDFS中下载指定文件

TheHuan_9·2023-11-25 05:55

HDFS客户端上传下载文件流程

1.3客户端根据配置（dfs.blocksize-块大少、hadoop2.x默认为128M）将文件切成N个block。

_Kafka_·2023-11-25 05:51

HDFS文件上传和下载流程

1、HDFS上传文件客户端请求上传文件：客户端（通常是Hadoop集群中的一个节点）发出上传文件的请求，改请求包括文件的本地路径、文件名以及在HDFS中的目标路径NameNode验证请求：客户端请求首先到达集群中的

鲸落万物·2023-11-25 05:49

3.hadoop系列之HDFS架构及文件上传下载

本文我们学习Hadoop中HDFS架构、优缺点、文件块大小、通过shell命令文件上传下载1.HDFS使用场景适合一次写入，多次读取。

沈健_算法小生·2023-11-25 05:43

Hadoop之MapReduce

文章目录概要整体架构流程技术名词解释技术细节小结MadReduce概要定义：是一个分布式运算程序的编程框架，是Hadoop内部编写的。

僖僖cc·2023-11-25 04:41

搜狗日志查询分析 (MapReduce+Hive+idea综合实验）

前提条件：安装好hadoop2.7.3（Linux系统下）安装好MySQL（Windows或Linux系统下）安装好Hive（Linux系统下）参考：Hive安装配置题目：从搜狗实验室下载搜索数据进行分析下载的数据包含

CrazyHacking望·2023-11-25 04:41

Hadoop平台搭建与数据分析实验报告

目录Hadoop简介实验一：构建虚拟机网络（一）VirtualBox的安装及配置（二）Ubuntu虚拟机的安装及配置（三）修改Ubuntu系统内的网络配置1.查看网卡状态2.更改配置文件3.启动网卡4.

椅糖·2023-11-25 04:09

如何解除hadoop安全模式问题

hadoop安全模式无法关闭问题问题描述：今天在hadoop上传递数据时，由于数据文件太大，运行到一半突然复制中断，导致出现了安全模式，报“namenodeisinsafemode”的错误提示。

青枫浦上看桃花·2023-11-25 03:16

推荐频道

云计算平台hadoop