E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop2.6.0
安装
hadoop2.6.0
前的linux环境准备
hadoop要求jdk必须是oracle版的,而且不低于1.7。我使用的linux是centos6.5默认安装了openjdk而且版本为1.6。所有要先卸载自带的openjdk、再安装高版本的jdk、除此之外、由于hadoop生态圈需要使用的端口很多,为了方便我是直接关闭防火墙,并修改selinux配置文件、配置ssh免密码登录等等、修改主机名、配置hosts文件等等。
usure_liunian
·
2016-03-30 14:00
Hadoop 2.6.0 HBase 0.98 VMware单机伪分布式式环境搭建(作业用)
部分参考Hadoop安装教程_单机/伪分布式配置_
Hadoop2.6.0
/Ubuntu14.04,部分地方作了修正从头开始,从虚拟机开始安装Ubuntu14.04文件->新建虚拟机->自定义直接默认下一步即可选择
Crystal_Zero
·
2016-03-29 22:00
vmware
hadoop
分布式
ubuntu
hbase
hadoop集群配置之hive1.2.0安装部署(远程mysql)
hadoop的版本是2.6.0根据hive的源数据不同分为三种模式 1、内嵌模式,使用自带的derby 2、本地独立模式,本地mysql库 3、远程模式,远程mysql库这里主要将第三种模式#假设
hadoop2.6.0
vfgbv
·
2016-03-29 10:00
Spark-1.6.1 Hadoop-2.6.4 VMware Ubuntu 分布式集群搭建 全过程
部分内容参考Hadoop安装教程_单机/伪分布式配置_
Hadoop2.6.0
/Ubuntu14.04本文从头开始零基础完全配置,适合小白。
zekizz
·
2016-03-24 10:35
2016Spark
Spark-1.6.1 Hadoop-2.6.4 VMware Ubuntu 分布式集群搭建 全过程
部分内容参考Hadoop安装教程_单机/伪分布式配置_
Hadoop2.6.0
/Ubuntu14.04本文从头开始零基础完全配置,适合小白。
Crystal_Zero
·
2016-03-24 10:00
vmware
hadoop
spark
分布式
ubuntu
Hbase完全分布式集群安装配置
(Hbase1.0.0,
Hadoop2.6.0
)1.安装软件 OS:centos6.5 Hadoop:
hadoop2.6.0
Hbase:hbase.1.0.0 JDK:jdk1.7.0_
jackwxh
·
2016-03-11 10:00
hbase
安装配置
Hadoop集群安装与配置
本教程适合于原生Hadoop2,包括
Hadoop2.6.0
,Hadoop2
u012877472
·
2016-03-07 18:00
hadoop
Hadoop安装教程_单机/伪分布式配置
转载自Hadoop安装教程_单机/伪分布式配置_CentOS6.4/
Hadoop2.6.0
本Hadoop教程由厦门大学数据库实验室出品,转载请注明。
u012877472
·
2016-03-07 18:00
hadoop
Hive1.2.1安装和使用(基于
Hadoop2.6.0
)
安装hive,这里使用mysql作为hive的metastore;Ubuntu15.10虚拟机中安装mysql方法请看:http://kevin12.iteye.com/admin/blogs/2280771Hadoop2.6.0集群安装:http://kevin12.iteye.com/blog/22735321.查看spark1.6.0版本支持hive的版本从0.12.0~1.2.1,这里选择
Kevin12
·
2016-03-07 16:49
hadoop
mysql
虚拟机
hive
Hive1.2.1安装和使用(基于
Hadoop2.6.0
)
阅读更多安装hive,这里使用mysql作为hive的metastore;Ubuntu15.10虚拟机中安装mysql方法请看:http://kevin12.iteye.com/admin/blogs/2280771Hadoop2.6.0集群安装:http://kevin12.iteye.com/blog/22735321.查看spark1.6.0版本支持hive的版本从0.12.0~1.2.1,
Kevin12
·
2016-03-05 20:00
hive
hadoop
mysql
虚拟机
hadoop2.6.0
集群配置
1、虚拟机准备虚拟机准备的为VMware12.0.1 build-3160714镜像为rhel-server-6.5-x86_64-dvd.isojava环境为1.7hadoop为2.6.02、环境准备 a、网络配置主机名网卡名称IP地址子网掩码mastereth0192.168.1.248255.255.255.0slaver1eth0192.168.1.248255.255.255.0slav
wqetfg
·
2016-02-19 14:00
java
hadoop
linux
大数据
eclipse开发hadoop环境搭建
Hadoop2.6.0
集群搭建完毕后,下面介绍一下eclipse是如何开发hadoop程序(即MapReduce程序)的。
Kevin12
·
2016-02-14 12:00
java
eclipse
hadoop
eclipse开发hadoop环境搭建
阅读更多
Hadoop2.6.0
集群搭建完毕后,下面介绍一下eclipse是如何开发hadoop程序(即MapReduce程序)的。
Kevin12
·
2016-02-13 14:00
eclipse
hadoop
java
开启
Hadoop2.6.0
出现ssh无法解析主机名等错误提示的解决办法!
问题描述:开启Hadoop时,出现如下信息:[root@hd-m1/]#./hadoop/hadoop-2.6.0/sbin/start-all.shThisscriptisDeprecated.Insteadusestart-dfs.shandstart-yarn.sh15/01/2320:23:41WARNutil.NativeCodeLoader:Unabletoloadnative-had
kernel_32
·
2016-02-04 18:00
Hadoop2.6.0
上的spark1.5.2集群搭建
一、Spark安装前提安装Spark之前需要先安装Hadoop集群,因为之前已经安装了hadoop,所以我直接在之前的hadoop集群上安装spark,但是因为机器内存不够,我只选择master以及slave01安装spark集群,而不要slave02了。hadoop集群的安装参考之前的博文:http://my.oschina.net/amui/blog/610288二、Spark安装步骤:1.下
Amui
·
2016-01-27 13:00
spark1.5.2集群搭建
Scala安装
Hadoop2.6.0
集群搭建
一、Hadoop简述 Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(highthroughput)来访问应用程序的数据,适合那些有着超大数据集(largedataset)的应用程序。HDFS放宽了(relax)POSIX的要求,
Amui
·
2016-01-27 12:00
hadoop2.6.0
window上连接集群跑hadoop问题之java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$Windows.
环境:window764位集群
hadoop2.6.0
,ubuntuwindow上连接集群跑hadoop问题之java.lang.UnsatisfiedLinkError:org.apache.hadoop.io.nativeio
KeepLearningBigData
·
2016-01-26 15:51
hadoop
window上连接集群跑hadoop问题之java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$Windows.
环境:window764位集群
hadoop2.6.0
,ubuntuwindow上连接集群跑hadoop问题之java.lang.UnsatisfiedLinkError:org.apache.hadoop.io.nativeio
bob601450868
·
2016-01-26 15:00
hadoop
window
wordcount
基于Hadoop 2.6.0运行数字排序的计算
上个博客写了
Hadoop2.6.0
的环境部署,下面写一个简单的基于数字排序的小程序,真正实现分布式的计算,原理就是对多个文件中的数字进行排序,每个文件中每个数字占一行,排序原理是按行读取后分块进行排序,
自由的web
·
2016-01-25 18:00
spark1.6.0搭建(基于
hadoop2.6.0
分布式)
阅读更多本文是基于
hadoop2.6.0
的分布式环境搭建spark1.6.0的分布式集群。
Kevin12
·
2016-01-24 10:00
spark
hadoop
虚拟机
spark1.6.0搭建(基于
hadoop2.6.0
分布式)
本文是基于
hadoop2.6.0
的分布式环境搭建spark1.6.0的分布式集群。
Kevin12
·
2016-01-24 10:00
hadoop
虚拟机
spark
Oozie4.2.0配置安装实战
软件版本:Oozie4.2.0,
Hadoop2.6.0
,Spark1.4.1,Hive0.14,Pig0.15.0,Maven3.2,JDK1.7,zookeeper3.4.6,HBase1.1.2,MySQL5.6
fansy1990
·
2016-01-23 23:00
spark
spark
hive
pig
on
yarn
oozie
hadoop2.6.0
集群的搭建方法
阅读更多1.集群环境的安装1.1工具软件版本说明(软件尽量去官网下载):VMwareWorkstation:10.0.0build-1295980Ubuntn:Ubuntn15.10JDK:jdk-8u60-linux-x64.tar.gzHadoop:hadoop-2.6.0.tar.gzSecureCRT:Version6.2.3(build313)WinSCP:5.1.6(build3394
Kevin12
·
2016-01-23 22:00
hadoop
ubuntu
vmware
hadoop2.6.0
集群的搭建方法
阅读更多1.集群环境的安装1.1工具软件版本说明(软件尽量去官网下载):VMwareWorkstation:10.0.0build-1295980Ubuntn:Ubuntn15.10JDK:jdk-8u60-linux-x64.tar.gzHadoop:hadoop-2.6.0.tar.gzSecureCRT:Version6.2.3(build313)WinSCP:5.1.6(build3394
Kevin12
·
2016-01-23 22:00
hadoop
ubuntu
vmware
hadoop2.6.0
集群的搭建方法
阅读更多1.集群环境的安装1.1工具软件版本说明(软件尽量去官网下载):VMwareWorkstation:10.0.0build-1295980Ubuntn:Ubuntn15.10JDK:jdk-8u60-linux-x64.tar.gzHadoop:hadoop-2.6.0.tar.gzSecureCRT:Version6.2.3(build313)WinSCP:5.1.6(build3394
Kevin12
·
2016-01-23 22:00
hadoop
ubuntu
vmware
hadoop2.6.0
集群的搭建方法
1.集群环境的安装1.1工具软件版本说明(软件尽量去官网下载):VMwareWorkstation:10.0.0build-1295980Ubuntn:Ubuntn15.10JDK:jdk-8u60-linux-x64.tar.gzHadoop:hadoop-2.6.0.tar.gzSecureCRT:Version6.2.3(build313)WinSCP:5.1.6(build3394)VM先
Kevin12
·
2016-01-23 22:00
vmware
hadoop
ubuntu
hadoop2.6.0
Win7 环境下myeclipse插件安装
一、环境: Win764位,java环境变量先前已经配置好了,myeclipse10。二、配置hadoop-2.6.0环境变量 下载hadoop-2.6.0.tar.gz,解压。配置环境变量HADOOP_HOME为hadoop-2.6.0解压路径,path添加%HADOOP_HOME%/bin;配置完重启电脑。三、下载hadoop-eclipse-plugin-2.6.0.jar,插件一
Linn_y
·
2016-01-16 16:00
Hadoop2.6.0
伪分布安装配置(centos6.4环境下)
一、安装JDK、配置环境变量java-version查看是否系统已经安装openJDK,如果安装openJDK,则将其卸载。[root@Master~]#java-version javaversion"1.6.0" OpenJDKRuntimeEnvironment(build1.6.0-b09) OpenJDK64-BitServerVM(build1.6.0-b09,mixedmode)[r
Linn_y
·
2016-01-16 15:00
在Win7虚拟机下搭建
Hadoop2.6.0
伪分布式环境
Hadoop的安装和配置可以参考我之前的文章:在Win7虚拟机下搭建
Hadoop2.6.0
伪分布式环境 http://www.linuxidc.com/Linux/2015-08/120942.htm
xiaqian0917
·
2016-01-15 16:00
hadoop2.6.0
版本搭建伪分布式环境
由于个人需要在自己的笔记本上搭建hadoop伪分布环境,为了方便自己使用一台虚拟机,配置信息如下:内存:1G,cpu:一个core,硬盘:15G1、修改下主机名为mastersudovi/etc/sysconfig/network修改结果后:重启电脑后再查看结果:修改主机名成功2、修改hosts中的主机名:修改后:3、配置SSH进入.ssh目录并生成authorized_keys文件:授权.ssh
xiaqian0917
·
2016-01-14 15:00
Hadoop集群安装部署
1.安装软件 OS:centos6.5 Hadoop:
hadoop2.6.0
JDK:jdk1.7.0_51集群机器: 192.168.0.208(主节点) 192.168.0.209 (从节点
51zhangyanfeng
·
2016-01-13 00:15
it
Hadoop2.6.0
集群安装
环境本教程使用 Ubuntu14.0464位 作为系统环境,基于原生Hadoop2,在
Hadoop2.6.0
(stable) 版本下验证通过,可适合任何Hadoop2.x.y版本,例如Hadoop2.7.1
benladeng5225
·
2016-01-08 11:00
hadoop 2.6.0伪分布式安装
本教程基于原生Hadoop2,在
Hadoop2.6.0
(stable) 版本下验证通过,可适合任何Hadoop2.x
benladeng5225
·
2016-01-08 11:00
DT大数据梦工厂- 第6课 精通Spark集群搭建与测试
Tachyon+HDFSTachyon:基于内存的分布式文件系统,不同来源的数据,安装VMWare软件电脑推荐16G:两个KINGSTON8G,至少8G内存系统推荐UbantuKylinSecureCRT工具使用
Hadoop2.6.0
chinsun_1
·
2016-01-06 23:09
DT大数据梦工厂- 第6课 精通Spark集群搭建与测试
HDFSTachyon: 基于内存的分布式文件系统,不同来源的数据,安装VMWare软件电脑推荐16G:两个KINGSTON8G,至少8G内存系统推荐UbantuKylinSecureCRT工具 使用
Hadoop2.6.0
chinsun_1
·
2016-01-06 23:00
hadoop2.6.0
在64位CentOS 6.4系统上的编译
直接使用官网上下载的
hadoop2.6.0
在运行时候经常都会遇到WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform
霖_柒
·
2015-12-31 17:00
hadoop
linux
64位
编译
CentOS6.0+Hadoop2.6.0搭建完全分布式环境
写在前面的话:我用了3台VMware虚拟机成功配置了
Hadoop2.6.0
版本,采用的系统是CentOS6.0。在配置的过程中,我遇到了大大小小、各式各样的问题。
mengzhengyu1025
·
2015-12-28 12:00
vmware
hadoop
centos
64bit
Hadoop2.6.0
完全集群安装配置
这个教程是按照
hadoop2.6.0
版本来整理的,2.x版本应该都适用,有什么问题欢迎留言。
eniluzt
·
2015-12-27 17:47
大数据
Hadoop安装教程_单机/伪分布式配置_
Hadoop2.6.0
/Ubuntu14.04
本教程基于原生Hadoop2,在
Hadoop2.6.0
(stable
jec
·
2015-12-21 05:00
Hadoop安装与配置
本教程在Ubutnu14.0464位,
Hadoop2.6.0
下验证通过。
openthings
·
2015-12-17 11:00
hadoop
安装与配置
hadoop
本教程在Ubutnu14.0464位,
Hadoop2.6.0
下验证通过。
小象11
·
2015-12-10 17:00
hadoop
Hadoop2.6.0
学习笔记(八)InputFormat和OutputFormat
鲁春利的工作笔记,谁说程序员不能有文艺范? java.lang.Object org.apache.hadoop.mapreduce.InputFormat org.apache.hadoop.mapreduce.lib.db.DBInputFormat DataDrivenDBInputFormat OracleDa
luchunli1985
·
2015-12-07 17:41
outputformat
inputformat
Hadoop2.6.0
学习笔记(八)InputFormat和OutputFormat
鲁春利的工作笔记,谁说程序员不能有文艺范? java.lang.Object org.apache.hadoop.mapreduce.InputFormat org.apache.hadoop.mapreduce.lib.db.DBInputFormat DataDrivenDBInputFormat OracleDa
luchunli1985
·
2015-12-07 17:41
inputformat
outputformat
Hadoop2.6.0
学习笔记(七)MapReduce分区
鲁春利的工作笔记,谁说程序员不能有文艺范?MapReduce中maptask任务的数量是由spli分片决定,那么reducetask的数量由什么来确定的呢?就是这里要讨论的MapReduce分区。默认情况下,MapReduce中使用的是HashPartitioner。/** Partition keys by their {@link Object#hashCode()}. */ public c
luchunli1985
·
2015-12-05 19:31
mapreduce
Partitioner
Hadoop2.6.0
学习笔记(七)MapReduce分区
鲁春利的工作笔记,谁说程序员不能有文艺范?MapReduce中maptask任务的数量是由spli分片决定,那么reducetask的数量由什么来确定的呢?就是这里要讨论的MapReduce分区。默认情况下,MapReduce中使用的是HashPartitioner。/** Partition keys by their {@link Object#hashCode()}. */public cl
luchunli1985
·
2015-12-05 19:31
mapreduce
Partitione
大数据
Hadoop2.6.0
学习笔记(七)MapReduce分区
鲁春利的工作笔记,谁说程序员不能有文艺范?MapReduce中maptask任务的数量是由spli分片决定,那么reducetask的数量由什么来确定的呢?就是这里要讨论的MapReduce分区。默认情况下,MapReduce中使用的是HashPartitioner。/** Partition keys by their {@link Object#hashCode()}. */ public c
luchunli1985
·
2015-12-05 19:31
mapreduce
Partitioner
Ubuntu14.04 安装配置
Hadoop2.6.0
目前关于Hadoop的安装配置教程书上、官方教程、博客都有很多,但由于对Linux环境的不熟悉以及各种教程或多或少有这样那样的坑,很容易导致折腾许久都安装不成功(本人就是受害人之一)。经过几天不断尝试,终于成功了。现将整个关于Hadoop的安装配置步骤分享出来,一方面为了希望能对有需要的朋友有所帮助,一方面为了总结所遇到的问题和解决方案。接下来开始正文。准备工作 提前下载好以下工具:JDK安
xiuyang_leiasp
·
2015-12-05 11:00
Hadoop2.6.0
学习笔记(六)TextOutputFormat及RecordWriter解析
鲁春利的工作笔记,谁说程序员不能有文艺范?MapReduce提供了许多默认的输出格式,如TextOutputFormat、KeyValueOutputFormat等。MapReduce中输出文件的个数与Reduce的个数一致,默认情况下有一个Reduce,输出只有一个文件,文件名为part-r-00000,文件内容的行数与map输出中不同key的个数一致。如果有两个Reduce,输出的结果就有两个
luchunli1985
·
2015-12-03 13:45
hadoop
outputformat
Hadoop2.6.0
学习笔记(六)TextOutputFormat及RecordWriter解析
鲁春利的工作笔记,谁说程序员不能有文艺范?MapReduce提供了许多默认的输出格式,如TextOutputFormat、KeyValueOutputFormat等。MapReduce中输出文件的个数与Reduce的个数一致,默认情况下有一个Reduce,输出只有一个文件,文件名为part-r-00000,文件内容的行数与map输出中不同key的个数一致。如果有两个Reduce,输出的结果就有两个
luchunli1985
·
2015-12-03 13:45
hadoop
outputformat
Hadoop2.6.0
学习笔记(六)TextOutputFormat及RecordWriter解析
鲁春利的工作笔记,谁说程序员不能有文艺范?MapReduce提供了许多默认的输出格式,如TextOutputFormat、KeyValueOutputFormat等。MapReduce中输出文件的个数与Reduce的个数一致,默认情况下有一个Reduce,输出只有一个文件,文件名为part-r-00000,文件内容的行数与map输出中不同key的个数一致。如果有两个Reduce,输出的结果就有两个
luchunli1985
·
2015-12-03 13:45
hadoop
outputformat
大数据
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他