E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop2.0
hadoop基础----hadoop实战(七)-----hadoop管理工具---使用Cloudera Manager安装Hadoop---Cloudera Manager和CDH5.8离线安装
CDH5.8是目前比较新的版本,自带
hadoop2.0
以上的Hadoop,而且已经包含了很多组件,也是我们接下来需要学习的hadoop生态圈中的组件。环境ClouderaManager是为
YueBanWa
·
2017-01-19 13:08
转载
hadoop日记2——安装分布式hadoop2.7.3
系统:ubuntu16.04、Apachehadoop2.7.3教程适用于
hadoop2.0
以上的系统教程使用两个节点作为集群环境:一个作为Master节点,局域网IP为192.168.1.100;另一个作为
我是Mr小赵先生
·
2017-01-01 14:51
比Spark快10倍的Hadoop3.0有哪些实用新特性?
1.Hadoop3.0简介
Hadoop2.0
是基于JDK1.7开发的,而JDK1.7在2015年4
dm520
·
2016-12-28 09:37
Hadoop
大话Hadoop1.0、
Hadoop2.0
与Yarn平台
2016年12月14日21:37:29Author:张明阳博文链接:http://blog.csdn.net/a2011480169/article/details/53647012参考ppt:http://pan.baidu.com/s/1eSDnmP8参考网页:http://www.ittenyear.com/tips/mapreduce/参考网页:http://www.tuicool.com
安静的技术控
·
2016-12-15 14:09
Hadoop
hadoop 高可用集群配置
阅读更多
hadoop2.0
已经发布了稳定版本了,增加了很多特性,比如HDFSHA、YARN等。
baoliangquan
·
2016-12-12 19:00
认识YARN
YARN(YetAnotherResourceNegotiator),它是统一的资源管理平台,是在
Hadoop2.0
中才出现的一个组件。YARN是Hadoop的处理层,包含资源管理器和作业调度器。
caosheng03
·
2016-12-05 17:43
资源管理器
hadoop
master
Hadoop2.0
中yarn中的resourcemanager的作用
1.YARN通过什么来负责管理和分配集群中资源?2.ResourceManager有几部分组成?3.管理员通过什么服务来管理集群?4.集群默认多长时间未汇报心跳,则认为其死掉?5.ApplicationACLsManager有几种权限,查看主要查看什么,修改,主要修改什么?6.ResourceScheduler在YARN中的位置?在YARN中,ResourceManager负责集群中所有资源的统一
有句话叫拜你所赐
·
2016-12-01 17:42
大数据
快速的部署Hadoop,Hbase和Hive
Nagios的监控功能,强烈推荐使用.http://www.cnblogs.com/scotoma/archive/2013/05/18/3085248.htmlHadoop2.0集群配置详细教程前言
Hadoop2.0
HT_Jonson
·
2016-11-20 14:01
大数据开发利器:Hadoop(11) Hadoop2 HA(High Availability)
1.前言在当初介绍
Hadoop2.0
时,我们简单提到了Hadoop框架中MapReduce的不足与改进。(即设计了新的资源管理框架YARN)。
知庸vv
·
2016-11-14 12:22
大数据学习
大数据开发利器:Hadoop(11) Hadoop2 HA(High Availability)
1.前言在当初介绍
Hadoop2.0
时,我们简单提到了Hadoop框架中MapReduce的不足与改进。(即设计了新的资源管理框架YARN)。
知庸vv
·
2016-11-14 12:22
大数据学习
Hadoop 2.0版本wordcount 以及 排序
Hadoop2.0
版本wordcount以及排序/**hadoop版本的wordcount*然后进行单词出现次数进行倒排序***/importjava.io.IOException;importjava.util.Random
老男孩-Leo
·
2016-11-08 15:31
Java
大数据技术
排序
算法
Hadoop
大数据相关说明图
Hadoop1.0版本MapReduce运行原理:图三:基于Yarn平台的MapReduce运行机制:图四:应用程序(以MR程序为例)在Yarn平台上面的执行过程图四:Hadoop1.0中的JobTracker在
Hadoop2.0
a2011480169
·
2016-10-30 16:00
大数据
图像说明
大数据开发利器:Hadoop(1)
Hadoop目前有三个版本:hadoop1,
Hadoop2.0
和Hadoop3.0Alpha1。本文将主要介绍前两个版本的核心组件及工作流程。1.2Hado
知庸vv
·
2016-10-09 23:22
大数据学习
大数据开发利器:Hadoop(1)
Hadoop目前有三个版本:hadoop1,
Hadoop2.0
和Hadoop3.0Alpha1。本文将主要介绍前两个版本的核心组件及工作流程。1.2Hado
知庸vv
·
2016-10-09 23:22
大数据学习
Hadoop实践(三)---MapReduce作业运行全貌(YARN)
在
Hadoop2.0
中:JobTracker被ResourceManager和ApplicationMaster替代TaskTracker被NodeManager替代1.Job.waitForCompletion
狮锅艺
·
2016-10-02 16:39
mapreduce
hadoop
Hadoop
MapReduce
Hadoop实践
几个有关hadoop生态系统的架构图
1、hadoop1.0时期架构2、
hadoop2.0
时期架构3、hdfs架构ActiveNamenode主Master(只有一个),管理HDFS的名称空间,管理数据块映射信息;配置副本策略;处理客户端读写请求
BabyFish13
·
2016-09-13 17:53
BigData
Hadoop
hadoop2.0
的datanode多存储硬盘设置数据副本存放策略
在
hadoop2.0
中,datanode数据副本存放磁盘选择策略有两种方式:第一种是沿用hadoop1.0的磁盘目录轮询方式,实现类:RoundRobinVolumeChoosingPolicy.java
levy_cui
·
2016-09-13 14:18
HADOOP
apache spark Vs hadoop 并行模型
ApacheSpark的高性能一定程度上取决于它采用的异步并发模型(这里指server/driver端采用的模型),这与
Hadoop2.0
(包括YARN和MapReduce)是一致的。
Codlife一王家二公子
·
2016-09-06 11:31
hive 使用TEZ的安装配置
Tez是从MapReduce计算框架演化而来的通用DAG计算框架,可作为MapReduceR/Pig/Hive等系统的底层数据处理引擎,它天生融入
Hadoop2.0
中的资源管理平台YARN,且由
Hadoop2.0
gao634209276
·
2016-08-27 00:57
hadoop2.x
hive
综合
[置顶]
Hadoop2.0
集群、Hbase集群、Zookeeper集群、Hive工具、Sqoop工具、Flume工具搭建总结
实验开发环境所用软件:[root@hadoop11local]#ll total320576 -rw-r--r--1rootroot52550402Mar610:34apache-flume-1.6.0-bin.tar.gz drwxr-xr-x7rootroot4096Jul1510:46flume drwxr-xr-x.11rootroot4096Jul1021:04hadoop -rw-r-
a2011480169
·
2016-07-15 13:00
zookeeper
hive
hbase
sqoop
Hadoop2-0
Hadoop 2.0工作原理学习
Hadoop2.0
即第二代Hadoop系统,其框架最核心的设计是HDFS、MapReduce和YARN。其中,HDFS为海量数据提供存储,MapReduce用于分布式计算,YARN用于进行资源管理。
阳光奶爸
·
2016-07-14 17:31
大数据
Wrong FS: hdfs://hadoop20:9000/word.txt, expected: file:///---异常解决方案
今天搭建了一个
hadoop2.0
(yarn集群平台),首先在上面测试了一个FileSystem实例程序,代码如下:packageIT0701; importjava.io.IOException; importjava.net.URISyntaxException
a2011480169
·
2016-07-01 20:00
hadoop
Wrong-FS
hadoop +hbase +zookeeper 完全分布搭建 (版本一)
hadoop2.0
已经发布了稳定版本了,增加了很多特性,比如HDFSHA、YARN等。
u013378306
·
2016-05-29 09:00
Hadoop生态系统介绍
Hadoop的核心是HDFS和Mapreduce,
hadoop2.0
还包括YARN。
yjl33
·
2016-05-13 16:00
mapreduce
mapreduce
hadoop
hadoop
大数据
生态系统
关于hadoop学习的思考(一) —— 小的知识点的总结
hadoop2.0.0版本演化而来)、CDH5(每隔一段时间就会有更新)CDH与Apachehadoop的区别:1.CDH的版本更加清晰,现在只有两个版本CDH3(基于hadoop1.0)和CDH4(基于
hadoop2.0
飞翔的小伟
·
2016-05-12 15:00
hadoop集群搭建HDFS、HA、 YARN
hadoop2.0
已经发布了很多稳定版本,增加了很多特性,比如HDFSHA、YARN等。最新的hadoop-2.7.2又增加了YARNHA1、环境准备修改主机名、IP地址。
u013821825
·
2016-05-12 10:00
hadoop
hdfs
HADOOP集群
hadoop集群搭建HDFS、HA、 YARN
hadoop2.0
已经发布了很多稳定版本,增加了很多特性,比如HDFSHA、YARN等。最新的hadoop-2.7.2又增加了YARNHA1、环境准备修改主机名、IP地址。
u013821825
·
2016-05-11 23:00
hadoop
hdfs
HADOOP集群
Hadoop--HDFS
Hadoop:分布式系统基础架构HDFS(分布式文件系统)配置的位置:/letv/data/hadoop-2.6.0/etc/Hadoop配置hdfs-site.xml:
hadoop2.0
官方提供了两种
JackLi31742
·
2016-04-28 15:00
hadoop
hdfs
yarn
eclipse window下连接
Hadoop2.0
报错:local host is: "win/127.0.0.1"; destination host is: "10.2.3.1":50070;
eclipse连接远程Hadoop错误信息:Failedonlocalexception:com.google.protobuf.InvalidProtocolBufferException:Protocolmessageend-grouptagdidnotmatchexpectedtag.;HostDetails:localhostis:"ubuntu/127.0.0.1";destinatio
程序员成长史
·
2016-04-19 20:07
Hadoop
eclipse window下连接
Hadoop2.0
报错:local host is: "win/127.0.0.1"; destination host is: "10.2.3.1":50070;
eclipse连接远程Hadoop错误信息:Failedonlocalexception:com.google.protobuf.InvalidProtocolBufferException: Protocol messageend-grouptagdidnotmatchexpectedtag.; HostDetails:localhostis:"ubuntu/127.0.0.1";destin
lifuxiangcaohui
·
2016-04-19 20:00
Hadoop教程(五)Hadoop分布式集群部署安装
Hadoop教程(五)Hadoop分布式集群部署安装1Hadoop分布式集群部署安装在
hadoop2.0
中通常由两个NameNode组成,一个处于active状态,另一个处于standby状态。
_否极泰来_
·
2016-04-17 21:28
Hadoop教程
Hadoop教程(五)Hadoop分布式集群部署安装
Hadoop教程(五)Hadoop分布式集群部署安装 1Hadoop分布式集群部署安装在
hadoop2.0
中通常由两个NameNode组成,一个处于active状态,另一个处于standby状态。
yuan_xw
·
2016-04-17 21:00
Hadoop Yarn 框架原理及运作机制
1.1 YARN基本架构YARN是
Hadoop2.0
中的资源管理系统,它的基本设计思想是将MRv1中的JobTracker拆分成了两个独立的服务:一个全局的资源管理器ResourceManager和每个应用程序特有的
zengmingen
·
2016-04-17 16:00
hadoop_2_完全分布式高可用
的高可用,针对namenode(管理节点) 当namenode内存受限时,增加namenode节点叫HDFS的联邦 3 HDFSHA namenode 高可用,zookeeper主、备4
hadoop2.0
scandly_java
·
2016-04-01 15:00
[置顶] spark集群安装与配置
本次记录的是SparkonYarn的安装与配置,在安装Spark之前需要安装
Hadoop2.0
以及以上版本。本例是在Hadoop2.2.0平台搭建。
u013468917
·
2016-03-25 14:00
spark
集群
安装部署
Hadoop书籍和网络资源介绍
(0)Hadoop技术内幕:深入解析YARN架构设计与实现原理从原理和源代码角度深入剖析HadoopYARN(
Hadoop2.0
新
GarfieldEr007
·
2016-03-25 13:00
hadoop
书籍
教程
网络资源
Storm On YARN
(2)YARN:YARN是
Hadoop2.0
中新引入的资源管理系统,可看做Hadoop操作系统中的资源管理组件,所有应用程序和框架,比如MapReduc
GarfieldEr007
·
2016-03-25 12:00
hadoop
storm
云计算
yarn
深入理解Hadoop YARN中的Container概念
在学习HadoopYARN—
Hadoop2.0
新引入的通用资源管理系统过程中,总会遇到Container这一概念,由于中文资料的缺乏,很多人对Container这一概念仍非常的模糊。
garfielder007
·
2016-03-20 14:00
Hadoop
hadoop2.6.集群搭建
hadoop2.0
已经发布了稳定版本了,增加了很多特性,比如HDFSHA、YARN等。
bbaiggey
·
2016-03-14 18:00
Hadoop概括——学习笔记<一>转
老师讲的还是比较全面简单的,起码作为一个非专业码农以及数据库管理人员,也能狗大致了解其特点首先是概括图(以
hadoop2.0
为例) 一、Hadoop基础架构:HDFS(分布式存储层,主要储存数据) YARN
茄子_2008
·
2016-02-29 12:00
5-1Zookeeper介绍
hadoop官方提供的包是在32位的,如果要64的需要自己编译#如果是租用的云主机(华为云主机,阿里云主机) /etc/hosts一定要配内网IP地址和主机名的映射关系在
hadoop2.0
中通常由两个
sherri_du
·
2016-02-26 15:00
hadoop入门学习
学习资料:wiki,官网ApacheHadoop版本分为两代,我们将第一代Hadoop称为Hadoop1.0,第二代Hadoop称为
Hadoop2.0
。
Miranda2015
·
2016-02-21 03:00
CDH集群中YARN的参数配置
CDH集群中YARN的参数配置前言:
Hadoop2.0
之后,原先的MapReduce不在是简单的离线批处理MR任务的框架,升级为MapReduceV2(Yarn)版本,也就是把资源调度和任务分发两块分离开来
八戒_o
·
2016-02-18 12:00
hadoop
yarn
cdh
JVM重用
Hadoop2.0
的HA介绍
前一篇文章介绍了
Hadoop2.0
(
hadoop2.0
架构,具体版本是hadoop2.2.0)的安装和最基本的配置(见http://www.linuxidc.com/Linux/2014-05/101173
J7A4V5A2W2E8B9e4e6
·
2016-02-14 16:00
hadoop
HA
Hadoop 2.0中作业日志收集原理以及配置方法
Hadoop2.0
提供了跟1.0类似的作业日志收集组件,从一定程度上可认为直接重用了1.0的代码模块,考虑到YARN已经变为通用资源管理平台,因此,提供一个通用的日志收集模块势在必行,由于目前通用日志收集模块正在开发中
qq_17864929
·
2016-01-31 16:00
hadoop
大数据
Hadoop 5、HDFS HA 和 YARN
Hadoop2.0
产生的背景Hadoop1.0中HDFS和MapReduce存在高可用和扩展方面的问题HDFS存在的问题NameNode单点故障,难以用于在线场景NameNode压力过大,内存受限,影响系统扩展
拉斐尔[Raphael]
·
2016-01-29 11:00
Hadoop2.0
的yarn 的基本的介绍
YARN(MRv2)简介为了实现一个Hadoop集群的集群共享、可伸缩性和可靠性。设计人员采用了一种分层的集群框架方法。具体来讲,特定于MapReduce的功能已替换为一组新的守护程序,将该框架向新的处理模型开放。图2.YARN的新架构回想一下,由于限制了扩展以及网络开销所导致的某些故障模式,MRv1JobTracker和TaskTracker方法曾是一个重要的缺陷。这些守护程序也是MapRedu
u011955252
·
2016-01-19 15:00
yarn
Hadoop2.0.
Hadoop2.0
的HA介绍
1概述 在
hadoop2.0
之前,namenode只有一个,存在单点问题(虽然hadoop1.0有secondarynamenode,checkpointnode,buckcupnode这些,但是单点问题依然存在
u011955252
·
2016-01-19 14:00
hdfs
HA
Hadoop2.0
的HDFS的改进
http://dongxicheng.org/mapreduce/hdfs-federation-introduction/HDFSFederation是Hadoop最新发布版本Hadoop-0.23.0中为解决HDFS单点故障而提出的namenode水平扩展方案。该方案允许HDFS创建多个namespace以提高集群的扩展性和隔离性。本篇文章主要介绍了HDFSFederation的设计动机和基本
u011955252
·
2016-01-19 13:00
hdfs
大数据(一) - hadoop生态系统及版本演化
HDFS源自于Google的GFS论文(发表于2003年10月 ),是GFS克隆版YARN:资源管理系统(YetAnotherResourceNegotiator):负责集群资源的统一管理和调度,
Hadoop2.0
matthewei6
·
2016-01-11 20:00
hadoop
大数据
生态系统
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他