E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop教程
Mac 安装
Hadoop教程
(HomeBrew安装)
1.引言本教程旨在介绍在Mac电脑上安装Hadoop,便于编程开发人员对大数据技术的熟悉和掌握。2.前提条件2.1安装JDK想要在你的Mac电脑上安装Hadoop,你必须首先安装JDK。具体安装步骤这里就不详细描述了。你可参考Mac安装JDK8。2.2配置ssh环境在Mac下配置ssh环境,防止后面启动hadoop时出现Connectionrefused连接被拒绝的错误。sshlocalhost执
追光天使
·
2024-09-04 22:21
macos
hadoop
大数据
HIve项目入门 环境部署遇到的问题及解决方案
环境布置的步骤建议是jdk,hadoophive这几个分别去下载,参考以下几个安装教程:【主要参考:傻瓜式教程】Windows下安装HiveMySQL版【附安装
Hadoop教程
】全网最详细的图文教程【有一些补充的内容
Manchesterr
·
2024-01-16 09:47
数据分析岗位
hive
hadoop
数据仓库
【学习笔记】尚硅谷Hadoop大数据教程笔记
本文是尚硅谷
Hadoop教程
的学习笔记,由于个人的需要,只致力于搞清楚Hadoop是什么,它可以解决什么问题,以及它的原理是什么。至于具体怎么安装、使用和编写代码不在我考虑的范围内。
棉花糖灬
·
2024-01-09 23:17
大数据
大数据
hadoop
MapReduce
yarn
hdfs
从零开始学Hadoop,这些网站助你轻松掌握大数据技能!
1、w3schools.cn网站网址:
Hadoop教程
_w3cschool1.1基础语法3、Had
知识分享小能手
·
2023-12-19 22:56
大数据
大数据
hadoop
分布式
Hadoop-学习笔记-黑马程序员
2022最新黑马程序员大数据Hadoop入门视频教程,最适合零基础自学的大数据
Hadoop教程
_哔哩哔哩_bilibili资料链接:https://pan.baidu.com/s/11au8SBZGE-iUaWBGbg
暗河、
·
2023-10-09 05:41
大数据
hadoop
学习
分布式
hadoop环境搭建———Hadoop安装教程_伪分布式配置_CentOS6.4/Hadoop2.6.0【转载搬运】
本
Hadoop教程
由厦门大学数据库实验室出品,转载请注明。本教程适合于在CentOS
JYeontu
·
2023-10-09 00:09
hadoop
伪分布
大数据
hadoop环境配置
hdfs
Hadoop教程
_编程入门自学教程_菜鸟教程-免费教程分享
教程简介Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(DistributedFileSystem),其中一个组件是HDFS(HadoopDistributedFileSystem)。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cos
IT民工爱搬砖
·
2023-07-26 07:31
笔记
大数据开发之windows安装
hadoop教程
第一步安装JDK第二步安装Hadoop下载hadoop地址:http://archive.apache.org/dist/hadoop/common/hadoop-3.2.2/2.下载hadoop-winutilshttps://github.com/cdarlint/winutils将红色方框里面的文件复制到hadoop-3.2.2\bin目录中,hadoop主要基于linux编写,这个winu
茅草屋的屋
·
2023-07-15 10:34
大数据开发教程
hadoop
大数据
尚硅谷大数据
hadoop教程
_HDFS
P40hdfs产生背景和定义p41优缺点p42组成p43文件块大小p4445shell命令p46api环境准备p47api创建文件夹新建maven项目pom.xmlorg.apache.hadoophadoop-client3.1.3junitjunit4.12org.slf4jslf4j-log4j121.7.30log4j.propertieslog4j.rootLogger=INFO,std
莫等闲 白了少年头
·
2023-06-12 20:18
学习
尚硅谷大数据
hadoop教程
_yarn
p125课程介绍p126yarn基础架构YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等组件构成。p127工作机制(1)MR程序提交到客户端所在的节点。(2)YarnRunner向ResourceManager申请一个Application。(3)RM将该应用程序的资源路径返回给YarnRunner。(4)该程序将运行所
莫等闲 白了少年头
·
2023-06-12 20:45
hadoop
大数据
hdfs
尚硅谷大数据
hadoop教程
_mapReduce
p67课程介绍p68概述p69mapreduce核心思想p70wordcount源码序列化类型mapReduce三类进程p71编程规范用户编写的程序分成三个部分:Mapper、Reducer和Driver。P72wordcount需求案例分析p73-78案例环境准备(1)创建maven工程,MapReduceDemo(2)在pom.xml文件中添加如下依赖org.apache.hadoophado
莫等闲 白了少年头
·
2023-06-07 02:48
大数据
hadoop
mapreduce
Hadoop教程
第一章之Hadoop简介
1.Hadoop是什么Hadoop是一个由Apache基金会所开发的分布式系统基础架构。主要解决,海量数据的存储和海量数据的分析计算问题。广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈。2.Hadoop的三大发行版本Apache版本最原始(最基础)的版本,对于入门学习最好。2006年Cloudera内部集成了很多大数据框架,对应产品CDH,2008年Hortonworks文
爱吃糖的靓仔
·
2023-06-07 02:16
hadoop
大数据
分布式
Hadoop教程
day05 HDFS入门
HDFS入门第1章HDFS概述1.1HDFS产出背景及定义1.2HDFS优缺点1.3HDFS组成架构1.4HDFS文件块大小❤第2章HDFS的shell操作(命令)第3章HDFS客户端操作第4章HDFS的数据流(面试重点)4.1HDFS写数据流程4.1.1剖析文件写入4.1.2网络拓扑-节点距离计算4.2HDFS读数据流程第1章HDFS概述1.1HDFS产出背景及定义1、HDFS产生背景随着数据量
果子哥丶
·
2023-04-19 03:40
#
Hadoop
大数据
hadoop
Hadoop架构、组件、及其术语汇总和理解
Hadoop教程
|
Hadoop教程
HDFS教程|HDFS教程MapReduce教程|MapReduce教程或者51CTO的这个Ha
Just Jump
·
2023-04-09 15:35
Hive
&
Hadoop
hadoop
MapReduce
HDFS
YARN
【学习笔记】尚硅谷Hadoop大数据教程笔记
本文是尚硅谷
Hadoop教程
的学习笔记,由于个人的需要,只致力于搞清楚Hadoop是什么,它可以解决什么问题,以及它的原理是什么。至于具体怎么安装、使用和编写代码不在我考虑的范围内。
m0_67403013
·
2023-04-09 07:19
面试
学习路线
阿里巴巴
java
java进阶
后端
尚硅谷大数据技术
Hadoop教程
-笔记03【Hadoop-HDFS】
视频地址:尚硅谷大数据
Hadoop教程
(Hadoop3.x安装搭建到集群调优)尚硅谷大数据技术
Hadoop教程
-笔记01【大数据概论】尚硅谷大数据技术
Hadoop教程
-笔记02【Hadoop-入门】尚硅谷大数据技术
延锋L
·
2023-04-09 07:45
#
Hadoop
大数据
hadoop
hdfs
linux
分布式
Hadoop MapReduce各阶段执行过程以及Python代码实现简单的WordCount程序
视频资料:黑马程序员大数据Hadoop入门视频教程,适合零基础自学的大数据
Hadoop教程
文章目录Map阶段执行过程Reduce阶段执行过程Python代码实现MapReduce的WordCount实例
VenYy
·
2023-04-09 05:09
大数据平台
hadoop
mapreduce
python
尚硅谷大数据技术
Hadoop教程
-笔记04【Hadoop-MapReduce】
视频地址:尚硅谷大数据
Hadoop教程
(Hadoop3.x安装搭建到集群调优)尚硅谷大数据技术
Hadoop教程
-笔记01【大数据概论】尚硅谷大数据技术
Hadoop教程
-笔记02【Hadoop-入门】尚硅谷大数据技术
延锋L
·
2023-04-06 14:43
#
Hadoop
大数据
hadoop
linux
mapReduce
分布式
Hadoop目录
阅读导航1、课程视频教程来源:尚硅谷大数据
Hadoop教程
(Hadoop3.x安装搭建到集群调优)教程视频地址:https://www.bilibili.com/video/BV1Qp4y1n7EN课程视频代码
大数据之负
·
2023-04-03 23:15
Hadoop
hdfs
大数据
hadoop
尚硅谷大数据技术
Hadoop教程
-笔记06【Hadoop-生产调优手册】
视频地址:尚硅谷大数据
Hadoop教程
(Hadoop3.x安装搭建到集群调优)尚硅谷大数据技术
Hadoop教程
-笔记01【大数据概论】尚硅谷大数据技术
Hadoop教程
-笔记02【Hadoop-入门】尚硅谷大数据技术
延锋L
·
2023-04-03 23:32
#
Hadoop
hadoop
生产调优
mapReduce
hdfs
yarn
Hadoop教程
(HDFS)(三)
HDFS1、HDFS概述1.1、HDFS背景及定义1.2、HDFS的优缺点1.3、HDFS组成架构1.4、HDFS文件块大小2、HDFS的Shell操作2.1、基本语法2.2、命令大全2.3、常用命令3、HDFS的API操作3.1、客户端环境准备3.2、项目搭建3.3、HDFS的API案例操作3.3.1、HDFS文件下载3.3.2HDFS文件更名和移动3.3.3、HDFS删除文件和目录3.3.4、
90后的包子
·
2023-04-03 20:54
大数据
hadoop
hdfs
big
data
Hadoop系列-Hadoop架构、组件和生态简介(一)
Hadoop教程
|
Hadoop教程
什么是HadoopHadoop是使用Java编写,允许分布在集群,使用简单的编程模型的计算机大型数据集处理的Apache的开源框架。
Just Jump
·
2023-04-03 20:28
Hive
&
Hadoop
hadoop
架构
《尚硅谷大数据Hadoop》教程
尚硅谷大数据
Hadoop教程
概论入门HDFSMapReduceYARN由于对这方面的知识只是做一个了解,所以详细的东西并不会做笔记。
Wanncye
·
2023-03-09 11:56
零散知识
书籍
课程笔记
hadoop
大数据
hdfs
Linux常用命令(Hadoop)
命令行显示磁盘使用率查看并输出文件末尾1kb的数据查看系统中的目录和文件创建文件上传文件下载文件删除文件移动文件夹在master启动Hadoop集群[zkpk@master~]$start-all.shhdfs命令行
Hadoop
CMCJR
·
2023-02-07 11:25
hadoop
linux
hdfs
尚硅谷大数据
hadoop教程
p01课程整体介绍p02大数据的概念p03大数据的特点p0405大数据应用场景p06未来工作内容p07hadoop入门课程介绍p0809hadoop是什么p10hadoop3大发行版本p11hadoop优势p12hadoop123版本区别p13HDFS概述NameNodeDataNodeSecondNameNodep14Hadoop入门YARN概述ResourceManagerNodeManage
莫等闲 白了少年头
·
2022-11-19 08:25
笔记
java
hadoop教程
目录一、大数据1、概念2、特点3、应用场景目录一、大数据1、概念2、特点3、应用场景二、Hadoop1、概述2、优势3、Hadoop1.x、2.x、3.x区别4、组成①HDFS架构概述编辑②YARN架构概述③MapReduce架构概述5、大数据技术生态体系二、Hadoop1、概述2、优势3、Hadoop1.x、2.x、3.x区别4、组成①HDFS架构概述编辑②YARN架构概述一、大数据1、概念2、
ONLYYD
·
2022-11-19 08:09
hadoop
hadoop
大数据
分布式
hadoop2和hadoop3的比较
客观性在这个
hadoop教程
中,我们将要讨论hadoop2.x和hadoop3.x版本之间的比较,在hadoop3版本中加入了哪些新特性,在hadoop2版本中的程序是否兼容hadoop3,hadoop2
chenzuoli
·
2022-03-25 07:08
大数据
hadoop
大数据
hadoop
Hadoop教程
:Hadoop介绍
Hadoop是一个用java编写的Apache开源框架,它允许使用简单的编程模型跨计算机集群分布式处理大型数据集。Hadoop框架工作的应用程序工作在一个跨计算机集群提供分布式存储和计算的环境中。Hadoop被设计成从单个服务器扩展到数千台机器,每台机器都提供本地计算和存储。Hadoop架构Hadoop框架包括以下四个模块:HadoopCommon:这是其他Hadoop模块依赖的Java库和工具。
逍遥ii
·
2022-02-06 03:30
Python基础(一):python和vscode环境安装
文字目录前言Python安装Vscode安装前言小袁最近开始实习了,公司要求转Python,有半年多没用过了(之前也只学完基础和爬虫库),开始记笔记和大家一起进步,
Hadoop教程
就先鸽一下了Python
大数据_小袁
·
2021-11-03 09:30
#
Python基础
Python
python
Hadoop教程
day01 初识Hadoop
Hadoop基础知识分治思想大数据部门第一章Hadoop概念1、核心组件2、hadoop关联项目第二章Hadoop架构1、前提和设计目标2、HDFS架构3、YARN架构4、MapReduce架构大数据技术生态体系分治思想单机处理大数据的问题需求:有一个非常大的文本文件(1TB),里面有几百亿行,只有两行内容一样,它们出现在未知的位置,需要查找到它们。硬件:单台机器,而且可用的内存很少,只有500M
果子哥丶
·
2021-02-17 16:49
#
Hadoop
大数据
hadoop
hadoop教程
-MapReduce
什么是MapReduceMapReduce是hadoop进行多节点计算时采用的计算模型,说白了就是hadoop拆分任务的一套方法论,刚接触MapReduce这个概念时,一时很难理解,也查了很多资料,因为每个人理解不一样,反而看的越多越糊涂,其实本质是很简单的东西,这里举一个例子帮助理解,因为网上大部分是hadoop官方计算单词(wordcount)的例子,这里就换一个场景举例。假设有以下一份成绩单
wls1036
·
2021-01-02 19:54
hadoop
mapreduce
hadoop教程
-hdfs客户端开发
hadoop环境hadoop版本为hadoopversionHadoop2.10.1Subversionhttps://github.com/apache/hadoop-r1827467c9a56f133025f28557bfc2c562d78e816Compiledbycentoson2020-09-14T13:17ZCompiledwithprotoc2.5.0Fromsourcewithch
wls1036
·
2021-01-02 19:53
hadoop
hdfs
hadoop教程
-MapReduce
什么是MapReduceMapReduce是hadoop进行多节点计算时采用的计算模型,说白了就是hadoop拆分任务的一套方法论,刚接触MapReduce这个概念时,一时很难理解,也查了很多资料,因为每个人理解不一样,反而看的越多越糊涂,其实本质是很简单的东西,这里举一个例子帮助理解,因为网上大部分是hadoop官方计算单词(wordcount)的例子,这里就换一个场景举例。假设有以下一份成绩单
wls1036
·
2020-12-21 11:41
hadoop
mapreduce
hadoop教程
-hdfs客户端开发
hadoop环境hadoop版本为hadoopversionHadoop2.10.1Subversionhttps://github.com/apache/hadoop-r1827467c9a56f133025f28557bfc2c562d78e816Compiledbycentoson2020-09-14T13:17ZCompiledwithprotoc2.5.0Fromsourcewithch
wls1036
·
2020-12-21 11:40
hadoop
hdfs
SSh无密码登陆不成功的问题,跟Home目录权限相关
由于采用Rocks集群,所以对于Home目录权限的设置就有一些奇怪今天按照一些
Hadoop教程
更改了.sshauthorizedkey的权限,发现还是不行最后用查看家目录的所有者是root,果断chown
weixin_30911451
·
2020-08-23 20:58
运维
大数据
Hadoop教程
(四)HDFS文件系统JavaAPI接口
Hadoop教程
(四)HDFS文件系统JavaAPI接口HDFS是存取数据的分布式文件系统,HDFS文件操作常有两种方式,一种是命令行方式,即Hadoop提供了一套与Linux文件命令类似的命令行工具。
_否极泰来_
·
2020-08-20 14:40
Hadoop教程
Hadoop教程
(三):HDFS、MapReduce、程序入门实践
Hadoop附带了一个名为HDFS(Hadoop分布式文件系统)的分布式文件系统,基于Hadoop的应用程序使用HDFS。HDFS是专为存储超大数据文件,运行在集群的商品硬件上。它是容错的,可伸缩的,并且非常易于扩展。你知道吗?当数据超过一个单个物理机器上存储的容量,除以跨独立机器数。管理跨越机器的网络存储特定操作被称为分布式文件系统。HDFS集群主要由NameNode管理文件系统Metadata
GarfieldEr007
·
2020-08-19 06:45
Hadoop
Centos7安装
Hadoop教程
一:安装SSH1,执行下面的命令安装sshyuminstallopenssh-clientsyuminstallopenssh-server2,执行如下命令测试一下SSH是否可用(SSH首次登陆提示yes/no信息,输入yes即可,然后按照提示输入root用户的密码,这样就登录到本机了),如下图所示。3,执行以下命令exit#退出刚才的sshlocalhostcd~/.ssh/#若提示没有该目录,
一念永恒
·
2020-08-09 13:37
centos
hadoop
Hapdoop试玩
Hadoop安装主要分为两步:1)安装cygwin,ssh2)安装hadoop《Hadoop开发者入门专刊》的《在Windows上安装
Hadoop教程
》写得比较详细,我这里细节上就不再重复,只是把遇到的问题
cnhappier
·
2020-08-09 07:49
阿里云Spark安装教程_完全分布式_Spark-2.2.0_CentOS7.4
安装方法请查看阿里云安装
hadoop教程
_完全分布式_Hadoop2.7.4_Centos7.4。使用scala-2.11.8及spark-2.2.0。
BQW_
·
2020-08-08 14:00
spark
windows下安装
hadoop教程
Win10_x64位配置hadoop-2.7.5开发环境在安装配置hadoop-2.7.5的环境时必须要配置好Java开发环境才能安装hadoop。第一部分:下载安装Java,配置其开发环境1、下载Java下载网站:http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html2、下载安装在D盘
青阳不会被占用
·
2020-08-01 14:04
SecureCRT+Notepad++ 安装
hadoop教程
文章目录1基本配置2配置JDK3配置MAVEN4配置findbugs5配置protobuf6hadoop配置7打开NotePad++1基本配置1、清除/home目录下所有内容2、关闭防火墙chkconfigiptablesoff3、修改seLinux状态为disabled(移动上下光标,再按i表示写入)(按esc键,再输入:wq表示退出)vim/etc/sysconfig/selinux4、修改机
波点兔
·
2020-07-14 20:24
大数据
hadoop 2.6.0伪分布式安装
如果用的是CentOS/RedHat系统,请查看相应的CentOS安装
Hadoop教程
_单机伪分布式配置。
ladeng5225
·
2020-07-14 13:35
hadoop
hbase
zookeeper
(11.1.6)
Hadoop教程
之编写HelloWorld(2)
前面我们写了一个Hadoop程序,并让它跑起来了。但想想不对啊,Hadoop不是有两块功能么,DFS和MapReduce。没错,上一节我们写了一个MapReduce的HelloWorld程序,那这一节,我们就也学一学DFS程序的编写。DFS是什么,之前已经了解过,它是一个分布式文件存储系统。不管是远程或本地的文件系统,其实从接口上讲,应该是一至的,不然很难处理。同时在第2节的最后,我们列出了很多一
fei20121106
·
2020-07-14 10:10
11.1-大数据
Hadoop教程
_Hive环境搭建(伪分布式/MySQL/Ubuntu)
1.安装MySQL在Ubuntu下安装MySQL十分简单,只需要运行几行命令即可。sudoapt-getinstallmysql-server#需要输入root用户的密码sudoapt-getisntallmysql-clientsudoapt-getinstalllibmysqlclient-devsudonetstat-tap|grepmysql#查看MySQL进程是否运行mysql-uroo
LuckyZZR
·
2020-07-10 12:19
linux
学习
hadoop学习
史上超详细基于Ubuntu搭建分布式
Hadoop教程
在进行此教程之前,请确保伪分布式Hadoop已搭建完成。若没有搭建完成,请浏览上一篇博文1、环境说明Ubuntu14.0.4Hadoop2.6.4java-7-openjdk-amd64VirtualBox四个节点:masternode1node2node3内存分别为4GB2GB2GB2GB伪分布Hadoop主机,用于复制2、设置node1主机在原主机上单击右键复制如下图所示:注意MAC地址的选择
王小明爱吃大菠萝
·
2020-07-08 02:15
Hadoop
Linux
原创
Hadoop从入门到上手工作视频
查看地址http://www.java110.com/yunjisuanshipin/hadoopshipin/25.html传智播客
hadoop教程
01-课程介绍以及hadoop的国内外发展状况传智播客
吴学文
·
2020-07-06 08:32
hadoop
Hadoop安装教程_单机/伪分布式配置
如果用的是Ubuntu系统,请查看相应的Ubuntu安装
Hadoop教程
。
Claire_ljy
·
2020-07-05 20:33
hadoop教程
一
Hadoop分布式文件系统(HDFS)是一种分布式文件系统,设计用于在商品硬件上运行。它与现有的分布式文件系统有许多相似之处。但是,与其他分布式文件系统的差异很大。HDFS具有高度容错能力,旨在部署在低成本硬件上。HDFS提供对应用程序数据的高吞吐量访问,适用于具有大型数据集的应用程序。HDFS是主/从架构。一个HDFS集群保护一个NameNode,一个主服务器,还有多个DataNode。Name
山间明月江上清风_
·
2020-07-05 16:00
Hadoop3.1.3安装教程_单机/伪分布式配置_Hadoop3.1.3/Ubuntu18.04(16.04)
如果用的是CentOS/RedHat系统,请查看相应的CentOS安装
Hadoop教程
_单机伪分布式配置。使用本教程请确保系统处于联网状态下,部分高校使用星网锐捷连接网络,可能导致虚拟机无法联网,那么
计忆芳华
·
2020-07-05 10:45
hadoop
大数据学习
上一页
1
2
3
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他