E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop环境搭建
Hadoop环境搭建
前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础,对Hadoop基础知识的掌握的扎实程度,会决定在大数据技术道路上走多远。这是一篇入门文章,Hadoop的学习方法很多,网上也有很多学习路线图。本文的思路是:以安装部署ApacheHadoop2.x版本为主线,来介绍Hadoop2.x的架构组成、各模块协同工作原理、技术细节。安装不是目的,通过安装认识Hadoop才是目
李佳良
·
2018-10-31 17:32
Hadoop环境搭建
linux搭建单机版和伪分布式hadoop
单机版
hadoop环境搭建
首先我们用VMware创建一个新的虚拟机。创建过程不在细说了。创建完成后,useraddhadoop添加用户,并添加密码。
孙喔喔的gorilla
·
2018-10-25 20:37
hadoop
Hadoop系列之
hadoop环境搭建
本地模式
1.1
Hadoop环境搭建
Hadoop的环境可以有多种方式,比如本地模式(standalone)、伪分布式、完全分布式以及HA模式。
搬砖学习
·
2018-10-07 15:40
hadoop
Hadoop环境搭建
中遇到的问题
简单说一下这几天搭建开源的Hadoop环境时遇到的问题吧!至于安装的过程,按照书上的一步一步配置就可以了,只要细心一点,没有什么问题。一、linux操作系统的选择:一般选择用centos、redhat和ubuntu,我推荐用centos。redhat:因为付费之后有售后的,公司选用的比较多,当然也有破解版也很容易下载,我在最早的时候学习linux,用的就是redhat,然而在这个配置ntp时,yu
wang__xg
·
2018-09-28 22:37
Hadoop
大数据
Hadoop
大数据
转 史上最详细的
Hadoop环境搭建
转载的文章,请告知侵删。本人只是做个记录,一面以后找不到。前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础,对Hadoop基础知识的掌握的扎实程度,会决定在大数据技术道路上走多远。这是一篇入门文章,Hadoop的学习方法很多,网上也有很多学习路线图。本文的思路是:以安装部署ApacheHadoop2.x版本为主线,来介绍Hadoop2.x的架构组成、各模块协同工作原
_幻林_
·
2018-09-07 22:16
Hadoop
单机
分布
windows下eclipse项目KPIUrlViewerCounter操作hadoop2.8.3 mapreduce(4)
hadoop环境搭建
详情见hadoop系列第一篇与第三篇博客(hadoop配置直接影响到本程序的运行)数据准备(https://download.csdn.net/download/elmo66/10636257
_lichaoxi
·
2018-08-31 11:24
hadoop
windows下eclipse项目wordcount操作hadoop2.8.3 mapreduce(3)
hadoop环境搭建
详情见hadoop系列第一篇博客(hadoop配置直接影响到本程序的运行)另外,windows环境下运行mapreduce程序需要hadoop.dll与winutils.exe的支持
_lichaoxi
·
2018-08-30 09:37
hadoop
windows下eclipse项目java客户端远程操作hadoop2.8.3文件系统dfs(2)
hadoop环境搭建
详情见上一篇博客(上一篇中的配置直接影响到本程序的运行)值得注意的有:hadoop-eclipse插件的设置、虚拟机中主机名和IP的映射关系、hadoop5个配置文件、设置系统变量HADOOP_USER_NAMEpackagecom.hadoop.test
_lichaoxi
·
2018-08-29 19:03
hadoop
Hadoop 基础命令总结
HDFS命令总结前文连接:
Hadoop环境搭建
说明:通过前面三篇文章的介绍,我们已经可以顺利运行Hadoop服务,接下来我们可以通过如下命令来使用我们的Hadoop服务一、运维命令start-dfs.sh
canjian215215
·
2018-08-21 17:26
大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)
引言在大数据学习系列之一-----
Hadoop环境搭建
(单机)成功的搭建了Hadoop的环境,在大数据学习系列之二-----HBa
虚无境
·
2018-08-18 10:36
hadoop
hive
hadoop
Hadoop环境搭建
教程
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的硬件上;而且它提供高吞吐量(highthroughput)来访问应用程序的数据,
_酒酿芋圆
·
2018-08-01 01:36
Hadoop环境搭建
中的问题
在搭建好环境之后,输入JPS命令查看目前进程,在主节点包含JPS、NameNode、DataNode、NodeManager、ResourceManager、SecondaryNamenode进程。在从节点中,包含DataNode、JPS、NodeManage进程。这一切似乎是正确的,但是当过一段时间继续使用JPS命令时,发现NodeManager进程被中断,重新启动Hadoop之后NodeMan
詹姆斯迷妹
·
2018-07-31 19:39
centOS7集群
hadoop环境搭建
今天安装了下hadoop,感觉网上的教程还有几点要注意的地方,我把它总结在写一下。一、准备工作准备3台centOS7虚拟机的安装我这边就不写了,给两个教程链接把:centOS7安装教程:https://www.centos.net.cn/archive/1518centOS7下载:https://www.centoschina.cn/downloads(Tip:安装完一个虚拟机之后,剩下的两个可以
小小猪0904
·
2018-07-12 18:00
集群搭建
大数据之
hadoop环境搭建
Hadoop的环境搭建1.安装虚拟机将事先准备好的虚拟机导入这时虚拟机就启动了。为了职业化:我们就创建一个普通用户Useraddusername(名字可以随意取)设置密码:passwd密码不会显示用户和密码创建好以后下面进行虚拟机的配置了修改主机名:通过vi/etc/sysconfig/network你会进入以下页面然后设置你的主机名配置ip和主机名映射主机名映射:vi/etc/hosts添加好以
double_lifly
·
2018-06-10 23:16
大数据
大数据
Hadoop环境搭建
HDFS
虚拟机的环境配置
hadoop环境搭建
一hadoop简介1Hadoop整体框架Hadoop由HDFS、MapReduce、HBASE、hive和zookeeper等成员组成,其中最基础最重要的元素是底层用于存储集群中所有存储节点文件的文件系统HDFS来执行MapReduce程序的MapReduce引擎1pig是一个基于Hadoop的大规模数据分析平台,pig为复杂的海量数据并行计算提供了一个简单的操作和编程接口2hive是基于Hado
长跑者1号
·
2018-05-28 17:58
hadoop
简介
单节点
自动化运维
云计算
大数据
hadoop2.7.6 hdfs 命令测试
hadoop环境搭建
参见hadoop2.7.6环境配置列出所有目录hdfsdfs-ls/创建目录hadoopfs-mkdirhdfs://localhost:9000/chy-data/创建目录hadoopfs-mkdirhdfs
黑暗行动
·
2018-05-28 17:38
大数据
VMware 下Hadoop集群环境搭建之虚拟机克隆,Hadoop环境配置
在上一篇我们完成了ContOS网络配置以及JDK的安装,这一篇将在上一篇的基础上继续讲解虚拟机的克隆,
hadoop环境搭建
传送门:VMware下Hadoop集群环境搭建之新建虚拟机VMware下Hadoop
TMH_ITBOY
·
2018-05-05 15:47
大数据-hadoop
Cloudera
Hadoop环境搭建
之一:环境准备与搭建cloudera manager软件
Cloudera
Hadoop环境搭建
之一:环境准备本系列笔记基于Hadoop发行版本CDH5.12.2,CDH相关组件采用手动下载离线本地离线安装的方式,另外的全在线安装以及yum源下载软件包的安装方式没有进行测试过
毛小威
·
2018-04-27 15:45
Hadoop
Hadoop搭建部署
GitChat作者:鸣宇淳原文:史上最详细的
Hadoop环境搭建
关注公众号:GitChat技术杂谈,一本正经的讲技术【不要错过文末活动哦】前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础
马帅的博客
·
2018-04-26 17:19
大数据
Hadoop
笔记 - Java多线程
本来是打算学习下
Hadoop环境搭建
,然后开始后续的大数据学习的。在浏览微信推送时,看到了跳槽经验分享一文,对里面提到的知识点进行了查缺补漏,开始了今天的学习。
弥宣
·
2018-04-09 00:27
Linux搭建Hadoop开发环境
阅读更多Linux搭建Hadoop开发环境
Hadoop环境搭建
安装配置:[1].官网下载Hadoop-2.7.5安装包:hadoop-2.7.5/hadoop-2.7.5.tar.gz[2].把Hadoop
马智霖
·
2018-03-31 01:00
Hadoop
大数据环境搭建
Liunx
Linux搭建Hadoop开发环境
阅读更多Linux搭建Hadoop开发环境
Hadoop环境搭建
安装配置:[1].官网下载Hadoop-2.7.5安装包:hadoop-2.7.5/hadoop-2.7.5.tar.gz[2].把Hadoop
马智霖
·
2018-03-31 01:00
Hadoop
大数据环境搭建
Liunx
hadoop环境搭建
之 linux CENTOS6.5 最小化安装步骤
安装VmwareWorkStation下载CentOS6.5iso镜像文件点击创建新的虚拟机,选择典型,点下一步选择稍后安装操作系统选择LinuxCentOS64为选择安装路径和虚拟机名称分配50G磁盘空间,选择将虚拟磁盘拆分多个文件选择自定义硬件安装过程先分配4G内存,网络适配器选择NAT模式(这样IP地址不会应为外网IP改变而改变)选择CentOS6.5镜像文件,并勾选启动时连接,然后点击完成
D调的Stanley
·
2018-03-23 16:12
详细记录
Hadoop环境搭建
和安装过程(伪分布式)
一、闲言最近看到大神说,坚持写博客对于技术上有一定的提升,正好本人最近准备要学习大数据技术,于是兴致冲冲的跑道上注册了一个博客账号,也不知道自己能坚持多长时间。本人博客只记录自己的学习过程,如果有小伙伴看到我的博客不小心被误导了,你来打我呀!!本篇记录在搭建Hadoop环境及安装Hadoop的详细过程,如果对小伙伴们有一些帮助,本人实在是荣幸之至。话不多说,开始正题!二、搭建准备我的环境是VMwa
不会飞的程序员
·
2018-03-14 13:13
Hadoop完全分布式集群搭建(三个节点)
Hadoop环境搭建
:版本介绍:Jdk:1.8.144VMware12.xCentos6.5Hadoop2.7.1准备工作:1.jdk的安装:下载安装包:jdk-8u144-linux-x64.rpm,
猿说新宇
·
2018-02-01 15:51
Hadoop
hadoop环境搭建
和在本地用虚拟机模拟分布式集群的搭建
由于老师布置的大作业,以及对于想深入的实践下课堂学到的知识,记录下步骤,写了本篇文章。当然也走了一些弯路,希望大家能够一次成功吧。需要的工具:1:VMwave2:centOS可能会用到的东西:1:centos的yum出现Couldnotretrievemirrorlist解决方法Centos7安装wget报错,couldnotretrievemirrorlisthttp://mirrorlist.
qiurongfeng
·
2017-12-25 19:53
hadoop
大数据学习系列之六 ----- Hadoop+Spark环境搭建
在之前的大数据学习系列之一-----
Hadoop环境搭建
(单机):http://www.panchengming.com/2017/11/26/pancm55/中成功的搭建了Hadoop
虚无境
·
2017-12-19 19:00
大数据学习系列之六 ----- Hadoop+Spark环境搭建
在之前的大数据学习系列之一—–
Hadoop环境搭建
(单机):http://www.panchengming.com/2017/11/26/pancm55/中成功的搭建了Hadoop的环境,本文
虚无境
·
2017-12-19 19:05
hadoop
大数据
spark
大数据(Hadoop
Spark)学习
大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)
引言在大数据学习系列之一-----
Hadoop环境搭建
(单机)成功的搭建了Hadoop的环境,在大数据学习系列之二-----HBase环境搭建(单机)成功搭建了HBase的环境以及相关使用介绍。
虚无境
·
2017-12-16 09:00
大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)
引言在大数据学习系列之一—–
Hadoop环境搭建
(单机)成功的搭建了Hadoop的环境,在大数据学习系列之二—–HBase环境搭建
虚无境
·
2017-12-16 09:36
hadoop
大数据
hive
大数据(Hadoop
Spark)学习
大数据学习系列之一 -----
Hadoop环境搭建
(单机)
一、环境选择1,服务器选择阿里云服务器:入门型(按量付费)操作系统:linuxCentOS6.8Cpu:1核内存:1G硬盘:40Gip:39.108.77.2502,配置选择JDK:1.8(jdk-8u144-linux-x64.tar.gz)Hadoop:2.8.2(hadoop-2.8.2.tar.gz)3,下载地址官网地址:JDK:http://www.oracle.com/technetw
虚无境
·
2017-12-10 15:00
Hadoop入门学习之(二):Intellij 开发
Hadoop环境搭建
环境要求1、jdk1.8(Hadoop官方推荐1.7)2、intellijidea3、windows下需要安装x64cygwin,否则会出现如下错误:Cannotrunprogram"chmod":CreateProcesserror=2解决方法:到cygwin官网下载setup-x86_64.exe安装之后,把bin目录配置到windows的环境变量path中,记得重启intellijidea。
staconfree
·
2017-12-06 14:49
Java/Web调用Hadoop进行MapReduce示例代码
Hadoop环境搭建
详见此文章//www.jb51.net/article/33649.htm。
土豆拍死马铃薯
·
2017-11-27 14:17
大数据学习系列之一 -----
Hadoop环境搭建
(单机)
一、环境选择1,服务器选择阿里云服务器:入门型(按量付费)操作系统:linuxCentOS6.8Cpu:1核内存:1G硬盘:40Gip:39.108.77.2502,配置选择JDK:1.8(jdk-8u144-linux-x64.tar.gz)Hadoop:2.8.2(hadoop-2.8.2.tar.gz)3,下载地址官网地址:JDK:http://www.oracle.com/technetw
虚无境
·
2017-11-26 16:38
hadoop
大数据
大数据(Hadoop
Spark)学习
hadoop环境搭建
这里用到是centos6.4与hadoop1.2.1版本1.下载安装文件,使用wget命令wgethttp://mirror.bit.edu.cn/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1.tar.gz2.解压安装文件[root@localhostopt]#tar-zxfhadoop-1.2.1.tar.gz3.需要修改配置(1)修改hadoop
想念最初的美好
·
2017-11-18 19:24
hadoop
linux
hadoop
有价值的文章收录(好好学习,天天向上)
细化到每一步操作关键字:JenkinsDjango部署配置环境搭建2.http://blog.csdn.net/gitchat/article/details/77849331GitChat·大数据|史上最详细的
Hadoop
dmmjsjcsdn
·
2017-10-21 14:01
Linux相关
史上最详细的
Hadoop环境搭建
GitChat作者:鸣宇淳原文:史上最详细的
Hadoop环境搭建
关注公众号:GitChat技术杂谈,一本正经的讲技术【不要错过文末活动哦】前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础
似水流年
·
2017-10-10 15:59
软件架构
Hadoop环境搭建
GitChat作者:鸣宇淳原文:史上最详细的
Hadoop环境搭建
关注公众号:GitChat技术杂谈,一本正经的讲技术【不要错过文末活动哦】前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础
筱白to
·
2017-09-27 15:55
hadoop
Hadoop2.7.4在Windows 7(64位)详细配置(完美版)
hadoop环境搭建
相对麻烦,需要安装虚拟机过着cygwin什么的,所以通过查资料和摸索,在window上搭建了一个,不需要虚拟机和cygwin依赖,相对简便很多。
风灵使
·
2017-09-21 10:52
大数据+云计算
大数据之Hadoop
GitChat·大数据 | 史上最详细的
Hadoop环境搭建
GitChat作者:鸣宇淳原文:史上最详细的
Hadoop环境搭建
关注公众号:GitChat技术杂谈,一本正经的讲技术【不要错过文末彩蛋】前言Hadoop在大数据技术体系中的地位至关重要,Hadoop是大数据技术的基础
GitChat技术杂谈
·
2017-09-05 11:44
大数据
hadoop2.6.5+sqoop1.4.6环境部署与测试(三)
在
hadoop环境搭建
完成后,接下来就是要把sqoop整合进来,使其可以利用hadoop和mysql-connector-java来从MySQL中抽取数据并转存到hdfs上。
琴里伊始
·
2017-08-08 21:47
mapreduce
hadoop
sqoop
Hadoop
搭建分布式Hadoop环境
搭建分布式
Hadoop环境搭建
HDFSHDFS是一个高度容错性的系统,适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应用。
xdlkc
·
2017-06-11 23:04
Hbase+zookeeper环境搭建
2.在
hadoop环境搭建
好了之后,再搭建的hbase。3.记得关防火墙、修改免密登录。
Jeson卡
·
2017-06-02 14:58
hbase
Hadoop环境搭建
(ubuntu+hadoop2.7 - 伪分布式)
Hadoop简介在进行环境搭建之前,先简要回顾一下Hadoop的基本知识。Hadoop背景Hadoop是面向集群的分布式并行计算框架(cluster、distributed、parallel),其核心组成是HDFS分布式文件系统和MapReduce并行编程模型。在开发者的业务背景下(如数据分析项目),Hadoop可被视为一套工具,它解决了并行计算中的种种复杂问题(如分布式存储,任务调度,负载均衡,
Snoopy_Yuan
·
2017-05-22 22:16
Hadoop
Java/Web调用Hadoop进行MapReduce示例
Hadoop环境搭建
见前面的帖子。Hadoop下进行MapReduce见前面的帖子。
土豆拍死马铃薯
·
2017-05-13 10:43
大数据
Hadoop环境搭建
软件以及工具软件jdk1.7.0hadoop-2.7.3hive-2.1.1hbase-1.2.5zookeeper-3.4.10phoenix-4.10.0获取软件包请点击工具文件上传工具Windows推荐secureCRT下使用rz、sz上传下载文件,rz、sz需要下载软件包lrzszMac同样也可以使用lrzsz具体配置请点击远程文件修改工具SublimeText或者NotePad++安装S
忘净空
·
2017-04-07 19:15
hadoop环境搭建
阅读更多192.168.23.231server1192.168.23.234server2192.168.23.239server3http://mirrors.163.com/centos/6/isos/关闭防火墙serviceiptablesstopchkconfigiptablesoff停闭selinuxvim/etc/sysconfig/selinuxSELINUX=disablesex
h_1_y_m
·
2017-01-23 17:00
mapreduce
hadoop
hadoop的伪分布环境安装
作为一个hadoop的初学者,我觉得写一篇入门级别的
hadoop环境搭建
分布很有必要,记录一下.另外本人第一次书写这样的blog.希望各路大神多多指教.首先,准备好相关系统软件vmware14(大小140M
Em_dark
·
2016-12-06 10:37
hadoop
hadoop环境搭建
之制作本地yum源
因为需要的三个安装包都在国外服务器,切最大的超过5G。如果不是对网络特别有自信,最好确认完整下载后制作本地yum源安装(推荐)。一、安装ApacheHTTP服务器直接yum安装即可yuminstallhttpd因为前面已经关闭了防火墙,不需要额外添加信任。如果没有关闭请使用以下命令信任firewall-cmd--add-service=httpfirewall-cmd--permanent--ad
我是知青
·
2016-12-05 20:34
linux
hadoop
hadoop环境搭建
之关闭防火墙和SELinux
每一台服务器上都要做1、21、关闭防火墙查看防火墙状态:systemctlstatusfirewalld关闭防火墙:systemctldisablefirewalldsystemctlstopfirewalld查看防火墙状态2、关闭SELinux查看SELinux状态:sestatus关闭SELinux#临时关闭,不用重启机器:setenforce0#永久关闭,需要重启机器:vi/etc/sysc
我是知青
·
2016-12-05 14:45
linux
hadoop
上一页
1
2
3
4
5
6
7
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他