hadoop学习积累

Windows上运行第一个wordCount的时候报错Exception in thread “main“ 0: No such file or directory

水善利万物而不争，处众人之所恶，故几于道文章目录完整报错如下：解决方案：原因分析：完整报错如下：2023-12-2210:51:50,402WARN[org.apache.hadoop.metrics2
阿年、嗯啊·2023-12-25 00:03

YARN Hadoop2.0 区别

Hadoop2.0与HAdoop1.0的区别：Hadoop1.0主要由HDFS和MapReduce两个系统够长，但在Hadoop2.0中主要由HadoopCommon、HDFS、HadoopYARN和HadoopMapReduce2.0
omygodvv·2023-12-24 23:01

Java技术专题-Lombok插件开发实践必知必会操作！

前言在目前众多编程语言中，Java语言的表现还是抢眼，不论是企业级服务端开发，还是Andorid客户端开发，都是作为开发语言的首选，甚至在大数据开发领域，Java语言也能占有一席之地，如Hadoop，Spark
洛神灬殇·2023-12-24 23:17

【Hadoop学习笔记】（二）——Hive的原理及使用

一、Hive概述Hive是一个在Hadoop中用来处理结构化数据的数据仓库基础工具。
wanger61·2023-12-24 23:25

四、Hadoop学习笔记————各种工具用法

hive基本hql语法Sqoop(发音：skup)是一款开源的工具，主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递，可以将一个关系型数据库（例如
weixin_30528371·2023-12-24 23:25

Hive学习笔记（1）——Hive原理初探

文章目录前言一、hive的特点二、hive体系架构及基本原理三、Hive的存储四、总结前言相信大家通过学习MapReduce，已经认识到hadoop利用多台廉价机器集群进行并行计算的优势，了解了HDFS
Zhou.Y.M·2023-12-24 23:55

Hadoop基础学习十一（hive语法）

文章目录1.map阶段2.reduce阶段3.where2.join3.groupby4.orderby5.sortby6.if（判断条件，成立的返回值，否则的返回值）7.casewhenxxthenyyelsezzend8、函数1）split2）concat_ws3）datediff4）concat5）向下取整函数floor6）日期增加函数date_add7）类型转换函数cast8）explod
一只小呆呆·2023-12-24 23:55

【Hive笔记】1——Hive入门

1.什么是Hivehive是由Facebook开源用于解决海量结构化日志的数据统计Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供sql查询功能。
sdut菜鸟·2023-12-24 23:55

Hadoop学习笔记（17）Hive的数据类型和文件编码

一、Hive的常用内部命令1、有好几种方式可以与Hive进行交互。此处主要是命令行界面（CLI）。2、$HIVE_HOME/bin目录下包含了可以执行各种各样Hive服务的可执行文件，包括hive命令行界面（CLI是使用Hive的最常用方式）。[admin@master~]$cdapache-hive-1.2.2-bin/bin[admin@masterbin]$lsbeelineexthiveh
柏冉看世界·2023-12-24 23:24

Flink知识点

Flink1.简单介绍一下Flink2.Flink的运行必须依赖Hadoop组件吗3.Flink集群运行时角色4.Flink相比SparkStreaming的区别4.1、什么是两阶段提交协议？
芝麻仗剑走天涯·2023-12-24 22:26

Apache Spark简介与历史发展

与传统的大数据处理框架相比，Spark具有很多优势，其中包括：高性能Spark通过内存计算来提高性能，比HadoopMapR
晓之以理的喵~~·2023-12-24 22:55

阿里巴巴内部：全技术栈PPT分享（架构篇+算法篇+大数据）

大数据：Spark、Hadoop添加图片注释，不
写代码的珏秒秒·2023-12-24 22:48

hadoop集群坏块处理

hadoop之hdfs数据块修复方法：1、手动修复#检查集群的健康状态hdfsfsck/#修复指定的hdfs数据块。也就是关闭打开的文件。
运维仙人·2023-12-24 21:39

docker搭建hadoop集群、hbase、postgresql

docker搭建hadoop集群、hbase、postgresql镜像包内容：1、安装包下载：2、创建镜像：dockerbuild-thadoop.3、查看镜像：dockerimages4、docker
Run不动了·2023-12-24 21:38

Linux 查看当前目录及子目录文件及文件夹占用存储大小

/hadoop-bin/data395M./had
承诺一时的华丽·2023-12-24 21:48

3.使用xshell进行配置Hadoop

systemctlstopfirewalld.service关闭防火墙的开机自启systemctldisablefirewalld.service2.新建文件夹（放置安装好的文件）mkdir-p/opt/apps/opt/3.解压文件输入命令解压java和Hadooptar-zxvf
唐-import-某人·2023-12-24 20:01

Linux环境安装JDK

[root@hadoop100~]#rpm-qa|grep-ijava|xargs-n1rpm-e--nodeps命令说明：rpm-qa：查询所安装的所有rpm软件包grep-i：忽略大小写xargs-n1
程序员储物箱·2023-12-24 19:27

【Hadoop】HDFS shell操作与管理工具

HDFSshell操作HDFS管理工具dfsadminfsck均衡器HDFSshell操作HDFS是存取数据的分布式文件系统，对HDFS的操作就是文件系统的基本操作，如文件的创建、修改、删除、修改权限，目录的创建、删除、重命名等。对HDFS的操作命令类似于Linux的shell对文件的操作，如ls、mkdir、rm等。所有的FSshell命令使用URI路径作为参数，URI格式是scheme://a
不怕娜·2023-12-24 18:41

【Hadoop】YARN简介（YARN产生的技术需求/YARN的基本架构）

YARN产生的技术需求YARN的基本架构ResourceManagerNodeManagerApplicationMasterContainerHDFS与YARNYARN产生的技术需求YARN是Hadoopv2.0
不怕娜·2023-12-24 18:41

【Hadoop】 YARN 运行过程/YARN设计目标

YARN运行过程剖析YARN设计目标YARN运行过程剖析一个Job在YARN中的处理过程：客户端向RM提交一个job，进入RM中的调度器队列以供调度RM中的AppManager与NM协商协商好一个容器，以启动一个AppMaster实例AppMaster启动之后向RM注册并根据Job的task情况来请求容器NM启动容器运行task，运行过程中向AppMaster回报进度状态信息，同时NM也会定时地向
不怕娜·2023-12-24 18:41

【Hadoop】Zookeeper是什么？怎么理解它的工作机制？

Zookeeper是什么Zookeeper工作机制Zookeeper是什么Zookeeper是一个开源的分布式的，为别的分布式矿建提供协调服务的Apache项目。分布式简单地理解就是多台机器共同完成一个任务。Zookeeper工作机制从设计模式的角度来理解，是一个基于观察者模式设计的分布式服务管理框架。它扶着存储和管理大家都关心的数据，然后接受观察者的注册。一旦这些数据的状态发生变化，Zookee
不怕娜·2023-12-24 18:11

【Hadoop】HDFS简介——是什么/优缺点/适用场景

HDFS是什么HDFS的优点/特性HDFS适用场景HDFS的缺点与不足HDFS不适用场景HDFS是什么源自Google的GFS论文Google于2003年10月发表HDFS是GFS的一个克隆版HDFS(HadoopDistributedFileSystem
不怕娜·2023-12-24 18:11

hive tez出现java堆内存溢出进行调优

运行hive任务的时候出现了错误，日志如下：ERROR:FAILED:ExecutionError,returncode2fromorg.apache.hadoop.hive.ql.exec.tez.TezTask.Vertexfailed
旺旺_865f·2023-12-24 17:36

【Hive_04】分区分桶表以及文件格式

1、分区表1.1分区表基本语法（1）创建分区表（2）分区表读写数据（3）分区表基本操作1.2二级分区1.3动态分区2、分桶表2.1分桶表的基本语法2.2分桶排序表3、文件格式与压缩3.1Hadoop压缩概述
温欣2030·2023-12-24 16:41

大数据开发都要学习什么？什么是大数据平台？

大数据平台知识：是大数据开发的基础，在学习期间，往往以搭建Hadoop、Spark平台为主，一方面Hadoop对机器的硬件要求不高，另一方面Hadoo
金光闪闪耶·2023-12-24 14:49

WARNING: HADOOP_SECURE_DN_USER has been replaced by HDFS_DATANODE_SECURE_USER.

Hadoop启动时警告，但不影响使用，强迫症的我还是决定寻找解决办法WARNING:HADOOP_SECURE_DN_USERhasbeenreplacedbyHDFS_DATANODE_SECURE_USER.UsingvalueofHADOOP_SECURE_DN_USER
玖玖1704·2023-12-24 12:59

hdfs.DataStreamer: Exception in createBlockOutputStream XXXXX

java.io.IOException:Goterror,status=ERROR,statusmessage,ackwithfirstBadLinkas192.168.100.13:9866atorg.apache.hadoop.hdfs.protocol.datatransfer.DataTransferProtoUtil.checkBlockOpStatus
玖玖1704·2023-12-24 12:28

【Hadoop篇08】Hadoop数据压缩

简洁而不简单Hadoop数据压缩数据压缩优点和缺点压缩技术能够有效减少底层存储系统（HDFS）读写字节数。压缩提高了网络带宽和磁盘空间的效率。
focusbigdata·2023-12-24 10:00

《PySpark大数据分析实战》-04.了解Spark

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:32

《PySpark大数据分析实战》-06.安装环境准备

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:32

《PySpark大数据分析实战》-17.云服务模式Databricks介绍运行作业

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:32

《PySpark大数据分析实战》-02.了解Hadoop

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:02

《PySpark大数据分析实战》-01.关于数据

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:01

《PySpark大数据分析实战》-18.什么是数据分析

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:01

Flink数据类型&&序列化&&序列化器

2、一些RPC框架也提供序列化功能，比如：（1）最初用于Hadoop的【ApacheAvro】（2）Facebook开发
@可能·2023-12-24 08:50

大数据高级开发工程师——Hadoop学习笔记（7）

文章目录Hadoop进阶篇YARN：Hadoop资源调度系统什么是YARNYARN架构剖析1.ResourceManager2.NodeManager3.Container4.ApplicationMaster5
讲文明的喜羊羊拒绝pua·2023-12-24 08:24

Hadoop学习笔记（一）分布式文件存储系统 —— HDFS

概念HDFS（HadoopDistributedFileSystem），Hadoop分布式文件系统，用来存超大文件的。
zhang35·2023-12-24 08:54

大数据高级开发工程师——Hadoop学习笔记（1）

文章目录Hadoop基础篇Hadoop集群安装环境准备服务器准备设置时钟同步三台虚拟机添加普通用户三台虚拟机定义统一目录三台虚拟机hadoop用户设置免密登录三台虚拟机安装jdkhadoop集群安装环境部署规划安装包下载查看
讲文明的喜羊羊拒绝pua·2023-12-24 08:53

Hadoop入门学习笔记——二、在虚拟机里部署HDFS集群

pwd=5ay8Hadoop入门学习笔记（汇总）目录二、在虚拟机里部署HDFS集群2.1.部署node1虚拟机2.2.部署node2和node3虚拟机2.3.初始化并启动Hadoop集群（格
faith瑞诚·2023-12-24 08:23

Hadoop学习笔记(3)——MapReduce入门

一、MapReduce介绍MapReduce思想在生活中处处可见。或多或少都曾接触过这种思想。MapReduce的思想核心是“分而治之”，适用于大量复杂的任务处理场景（大规模数据处理场景）。”map"负责分，即把复杂的任务分解为若干简单的任务来处理。前提是这些小任务可以并行计算，彼此间几乎没有依赖关系“Redude”负责合，即对map阶段的结果进行全局汇总1.MapReduce设计构思MapRed
今天有没有写代码·2023-12-24 08:53

hadoop大数据学习笔记

一、Hadoop的作用本质来说hadoop的作用是在多计算机集群环境中营造一个统一而稳定的存储和计算环境，并能为其他分布式应用服务提供平台支持。
驰宇爱吃鱼·2023-12-24 08:53

在虚拟机中执行Hive命令该如何操作呢？

前期准备配置hive环境启动hive#输入用户名密码，登录hadoop⽤户#启动集群[hadoop@node100hadoop]$start-all.sh#进⼊到hive安装⽬录[hadoop@node100ha
纪筱白·2023-12-24 08:53

linux及hadoop入门,Hadoop学习全程记录——Hadoop入门

开始学习Hadoop，从今天起，想把我学习hadoop全过程记录一下。我会记录在学习过程中碰到的问题、困难以及解决方法等等，如果你也是刚学hadoop，我们可以一起讨论。
weixin_39675926·2023-12-24 08:23

Hadoop+Hive学习笔记-4

Hadoop集群搭建配置三台虚拟机之间的免密登录1切换到root用户：crontab-e在第一行写入：*/5****/usr/sbin/ntpdatentp1.aliyun.com三台机器都一同操作，这一步让三台机器的时间服务器一致
fwings260·2023-12-24 08:22

hadoop学习笔记(五)Hive安装部署

Hive安装部署Hive安装及配置配置已经完成,在此处启动hadoop集群Hive常用命令将本地文件导入Hive案例安装MySqlHive元数据配置到MySqlHive安装及配置下载地址:https:/
So.j·2023-12-24 08:22

Hadoop学习之HDFS——小白入门笔记

一、分布式文件系统1.分布式文件系统解决问题：海量数据的高效存储2.分布式文件系统是将文件分布存储到多个计算机节点上。（此处的计算机为普通计算机）3.分布式文件系统的多个节点分为两类：名称节点（主节点）：文件、目录的操作（创建、删除、重命名等），数据节点与文件块的映射关系数据节点（从节点）：数据的读取与存储二、HDFS概念1.名称节点：管理分布式文件的命名空间。包含FsImage，Editlog两
cainiao22222·2023-12-24 08:52

SpringBoot 3 集成Hive 3

前提条件:运行环境：Hadoop3.*+Hive3.
在奋斗的大道·2023-12-24 07:46

Hadoop入门学习笔记——六、连接到Hive

pwd=5ay8Hadoop入门学习笔记（汇总）目录六、连接到Hive6.1.使用Hive的Shell客户端6.2.使用Beeline客户端连接HiveServer2操作Hive6.3.使用
faith瑞诚·2023-12-24 07:10

Hadoop入门学习笔记——五、在虚拟机中部署Hive

pwd=5ay8Hadoop入门学习笔记（汇总）目录五、在虚拟机中部署Hive5.1.在node1虚拟机安装MySQL5.2.配置Hadoop5.3.下载并加压Hive5.4.下载MySQL
faith瑞诚·2023-12-24 07:09

Hadoop入门学习笔记——三、使用HDFS文件系统

pwd=5ay8Hadoop入门学习笔记（汇总）目录三、使用HDFS文件系统3.1.使用命令操作HDFS文件系统3.1.1.HDFS文件系统基本信息3.1.2.HDFS文件系统的2套命令体系
faith瑞诚·2023-12-24 07:39
上一页 28 29 30 31 32 33 34 35 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他