E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoopmapreduce
Hadoop中共享全局信息的几种方法
在编写
HadoopMapReduce
程序的过程中有时候需要在各个Mapper或者Reducer中使用一些共享的全局数据,例如在处理整数数据表格的时候有时候需要让每个Reducer知道各个列的取值范围或是一些图算法中需要让各个
yanxiangtianji
·
2014-04-20 16:00
hadoop
信息
中共
Hadoop学习笔记--入门
HaDoop0.23.0学习笔记0.23介绍HadoopMapReduceV2(Yarn)框架简介原
HadoopMapReduce
框架的问题对于业界的大数据存储及分布式处理系统来说,Hadoop是耳熟能详的卓越开源分布式文件存储及处理框架
chengchow
·
2014-04-17 14:41
集群
hadoop
datanode
集群&云
Windows xp 环境下通过MyEclipse运行hadoop map reduce程序
Windowsxp环境下通过MyEclipse运行
hadoopmapreduce
程序1.通过MyEclipse建立一个web工程 2:将hadoop-1.1.2目录下面的jar和lib下面的jar
wangmuming
·
2014-04-16 19:00
hadoop
windows
MyEclipse
XP
如何在百度云平台上执行Hadoop MapReduce程序
发现百度云平台,可以在线执行
hadoopMapReduce
程序,很欣喜,摸索了一下,可以使用。大概想这才叫做云计算啊,我把计算任务给你,你把计算结果还给我。首先要有百度账号。
ozhaohuafei
·
2014-04-15 10:00
mapreduce
hadoop
hdfs
百度云平台
Hadoop 新 MapReduce 框架 Yarn 详解
原文地址:http://www.ibm.com/developerworks/cn/opensource/os-cn-hadoop-yarn/HadoopMapReduceV2(Yarn)框架简介原
HadoopMapReduce
xqj198404
·
2014-04-10 12:00
mapreduce
yarn
v2
Spark概览
因此,它的运行速度,在内存中是
HadoopMapReduce
的100倍,在磁盘中是10倍。如下是对比图:这样的性能指标,真的让人心动啊!
·
2014-04-05 01:00
spark
hadoop 日志存放位置
然而,对于hadoop而言,当遇到错误时,第一时间应是查看日志,日志里通产会有详细的错误原因提示,本文将总结
HadoopMapReduce
日志存放位置,帮助初学者定位自己遇到的错误。
chen517611641
·
2014-04-01 20:00
log4j
搜索引擎
application
调试
应用程序
Hadoop从入门到精通之 如何从Hadoop1.x转到Hadoop2.x
这篇博文提供了将
HadoopMapReduce
应用从Hadoop1.x迁移到Hadoop2.x的方法。
guoshenglong11
·
2014-04-01 14:00
mapreduce
hadoop
分布式计算
yarn
迁移
Spark基础知识学习分享
Spark基于mapreduce算法模式实现的分布式计算,拥有
HadoopMapReduce
所具有的优点;但不同于
HadoopMapReduce
的是Job中间输出和结果可以保存在内存中,从而不再需要读写
lantian0802
·
2014-03-29 18:00
spark
淘宝Hadoop作业平台 宙斯Zeus
宙斯(zeus)是什么宙斯是一个完整的Hadoop的作业平台从Hadoop任务的调试运行到生产任务的周期调度宙斯支持任务的整个生命周期从功能上来说,支持:
HadoopMapReduce
任务的调试运行Hive
wbj0110
·
2014-03-27 14:00
hadoop
zeus
淘宝Hadoop作业平台 宙斯Zeus
宙斯(zeus)是什么宙斯是一个完整的Hadoop的作业平台从Hadoop任务的调试运行到生产任务的周期调度宙斯支持任务的整个生命周期从功能上来说,支持:
HadoopMapReduce
任务的调试运行Hive
wbj0110
·
2014-03-27 14:00
hadoop
zeus
淘宝Hadoop作业平台 宙斯Zeus
宙斯(zeus)是什么宙斯是一个完整的Hadoop的作业平台从Hadoop任务的调试运行到生产任务的周期调度宙斯支持任务的整个生命周期从功能上来说,支持:
HadoopMapReduce
任务的调试运行Hive
wbj0110
·
2014-03-27 14:00
hadoop
zeus
Spark:一个高效的分布式计算系统
什么是SparkSpark是UCBerkeleyAMPlab所开源的类
HadoopMapReduce
的通用的并行计算框架,Spark基于mapreduce算法实现的分布式计算,拥有
HadoopMapReduce
lantian0802
·
2014-03-27 00:00
spark
Hadoop MapReduce两种常见的容错场景分析
本文将分析
HadoopMapReduce
(包括MRv1和MRv2)的两种常见的容错场景,第一种是,作业的某个任务阻塞了,长时间占用资源不释放,如何处理?
Johnny_Lee
·
2014-03-26 23:00
Error: Exceeded limits on number of counters - Counters=120 Limit=120
今天用eclipse开发
hadoopmapreduce
程序,实现TF-IDF算法。
yonghutwo
·
2014-03-26 02:00
eclipse
mapreduce
hadoop
hadoop 1.0跟hadoop2.0对比
HadoopMapReduceV2(Yarn)框架简介原
HadoopMapReduce
框架的问题对于业界的大数据存储及分布式处理系统来说,Hadoop是耳熟能详的卓越开源分布式文件存储及处理框架,对于Hadoop
dwp111
·
2014-03-17 15:16
hadoop
1.0跟hadoop2.0
hadoop 1.0跟hadoop2.0对比
HadoopMapReduceV2(Yarn)框架简介原
HadoopMapReduce
框架的问题对于业界的大数据存储及分布式处理系统来说,Hadoop是耳熟能详的卓越开源分布式文件存储及处理框架,对于Hadoop
dwp111
·
2014-03-17 15:16
hadoop
1.0跟hadoop2.0对比
为Hadoop存储层增加对OpenStack Swift的支持
原文链接:为Hadoop的存储层增加对OpenStackSwift的支持编者按:为Hadoop的存储层增加对OpenStackSwift的支持后,即可直接使用
HadoopMapReduce
及其相关工具直接分析存储在
u010282707
·
2014-03-17 09:00
hadoop 日志存放位置总结
然而,对于hadoop而言,当遇到错误时,第一时间应是查看日志,日志里通产会有详细的错误原因提示,本文将总结
HadoopMapReduce
日志存放位置,帮助初学者定位自己遇到的错误。
lifuxiangcaohui
·
2014-03-01 20:00
分布式计算系统 Spark 成为 Apache 顶级项目
Spark立足于内存计算,相比
HadoopMapReduce
,Spark在性能上要高100倍,而且Spark提供了比Hadoop更上层
·
2014-02-28 11:00
分布
计算
系统
分布式计算系统 Spark 成为 Apache 顶级项目
Spark立足于内存计算,相比
HadoopMapReduce
,Spark在性能上要高100倍,而且Spark提供了比Hadoop更上层
·
2014-02-28 03:00
spark
系统
计算
云计算(三十)-hbase shell基础和常用命令详解
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
duheaven
·
2014-02-22 15:00
hbase
MapR发布最新Hadoop发行版,承诺无风险升级
在兼容性方面,MapR与竞争对手Cloudera和Hortonworks的策略明显不同,MapR始终承诺向前兼容性,使企业用户能在相同节点上同时运行
HadoopMapReduce
1.x和YARN。
张霖
·
2014-02-18 08:00
hadoop
大数据
动态
MapR
hadoop2.0
浅析HBase架构和系统结构介绍(六)
和region的关系,比较类似HDFSfile和block的关系,HBase提供了配套的TableInputFormat和TableOutputFormatAPI,可以方便的将HBasetable作为
HadoopMapReduce
GreatElite
·
2014-02-02 12:00
hbase
cloud
Spark:一个高效的分布式计算系统
Spark:一个高效的分布式计算系统Postedby jzou on2013年9月10日Tweet6概述什么是SparkSpark是UCBerkeleyAMPlab所开源的类
HadoopMapReduce
changtao381
·
2014-01-09 12:00
hadoop-ID分析
我们开始来分析
HadoopMapReduce
的内部的运行机制。用户向Hadoop提交Job(作业),作业在JobTracker对象的控制下执行。
cookqq
·
2014-01-05 20:00
ERROR security.UserGroupInformation: PriviledgedActionException 问题解决
运行
Hadoopmapreduce
实例:bin/hadoopjar.
iteye_3759
·
2013-12-30 17:00
hadoop生态系统
有一些无知的人,总是跟着瞎起哄,说Impala将取代Hive,Spark将取代
HadoopMapReduce
等。本文则从问题域触发,解释说明Hadoop中每个系统独特的作用/魅力
lpxuan151009
·
2013-12-19 19:24
Hadoop&Hive
hadoop生态系统
有一些无知的人,总是跟着瞎起哄,说Impala将取代Hive,Spark将取代
HadoopMapReduce
等。本文则从问题域触发,解释说明Hadoop中每个系统独特的作用/魅力
lpxuan151009
·
2013-12-19 19:00
HBase MapReduce实例分析
很好理解本文前提是你对
HadoopMapReduce
有一定的了解,如果你是初次接触HadoopMapRe
wangzhun0129
·
2013-12-12 15:00
mapreduce
hadoop
hbase
从问题域出发认识Hadoop生态系统
有一些无知的人,总是跟着瞎起哄,说Impala将取代Hive,Spark将取代
HadoopMapReduce
等。本文则从问题域触发,解释说明Hadoop中每个系统独特的作用/魅力以及它
hadoop17173
·
2013-12-09 22:06
hadoop
Hadoop MapReduce之任务启动(一)
HadoopMapReduce
之任务启动(一)TaskTracker在启动好后会通过主线程不停发送心跳包,以报告自身状态,如果JobTracker有了新作业,会把相应的任务返回给TaskTracker,
lihm0_1
·
2013-11-07 15:00
Hadoop MapReduce之作业提交(客户端)
HadoopMapReduce
之jar文件上传 在提交作业时,我们经常会执行下面类似命令:hadoopjarwordcount.jartest.WordCount,然后等待作业完成,查看结果。
lihm0_1
·
2013-10-30 16:00
Hadoop 新 MapReduce 框架 Yarn 详解
HadoopMapReduceV2(Yarn)框架简介原
HadoopMapReduce
框架的问题对于业界的大数据存储及分布式处理系统来说,Hadoop是耳熟能详的卓越开源分布式文件存储及处理框架,对于Hadoop
liuzhoulong
·
2013-10-26 18:00
下一代Apache Hadoop MapReduce框架的架构
需求当我们对
HadoopMapReduce
框架进行改进时,需要时刻谨记的一个重要原则是用户的需求。
caodaoxi
·
2013-10-23 14:00
mapreduce
HBASE shell 常用命令大全
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
liuxiaoyi216
·
2013-10-18 22:00
hbase
shell
命令
Hadoop MapReduce&Eclipse plugin插件安装
HadoopMapReduce
&Eclipseplugin插件安装首先将插件拷贝到eclipse的plugin目录配置hadoop的安装路径选出MapReduce视图设置Map/Reducemaster
wbj0110
·
2013-10-11 09:00
hadoop
plugin插件安装
Haddoop
Hadoop MapReduce&Eclipse plugin插件安装
HadoopMapReduce
&Eclipseplugin插件安装首先将插件拷贝到eclipse的plugin目录配置hadoop的安装路径选出MapReduce视图设置Map/Reducemaster
wbj0110
·
2013-10-11 09:00
hadoop
Haddoop
plugin插件安装
hbase基本概念和hbase shell常用命令用法
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
adfkasjdfdsf
·
2013-10-08 16:18
hbase基本命令1
用Hadoop AVRO进行大量小文件的处理
2.如果采用
HadoopMapReduce
进行小文件的处理,那么Mapper的个数就会跟小文件的个数成线性相关(备注:FileInputFormat默认只对大于HDF
sdzzboy
·
2013-09-25 15:00
mapreduce
hadoop
集群
Spark:一个高效的分布式计算系统
标签: Spark 分布式概述什么是SparkSpark是UCBerkeleyAMPlab所开源的类
HadoopMapReduce
的通用的并行计算框架,Spark基于mapreduce算法实现的分布式计算
jzou
·
2013-09-15 22:00
系统架构
Hadoop MapReduce基于新API的WordCount程序运行过程分析
HadoopMapReduce
基于新API的WordCount程序运行过程分析一、 新的WordCount分析(源码详见hadoop-1.2.1版本中的WordCount.java)1)Map过程
zolalad
·
2013-09-08 20:00
mapreduce
hadoop
wordcount
新API
程序运行过程分析
[笔记]hadoop mapred InputFormat分析
HadoopMapReduce
的编程接口层主要有5个可编程组件,分别为InputFormat、Mapper、Partitioner、Reducer和OutputFormat。
GQM
·
2013-08-30 13:00
hadoop
Hadoop的那些事儿
Hadoop实战-中高级部分之
HadoopMapReduce
工作原理 Hadoop的那些事儿 张巡 在说Hadoop之前,作为一个铁杆粉丝先粉一下Google。
dreamoftch
·
2013-08-29 17:00
hadoop
hbase基本概念和hbase shell常用命令用法
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
littlexq
·
2013-08-21 22:27
hbase
Hadoop Streaming框架学习(一)
, 3 评论, 收藏, 编辑1.Hadoop&Streaming简介 1.1Hadoop简介
HadoopMapReduce
·
2013-08-20 11:00
hadoop
Hbase安装与简介
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
ljp812184246
·
2013-08-18 16:00
Hbase安装与简介
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
liumm0000
·
2013-08-18 10:00
HBase安装
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
u010487568
·
2013-08-16 14:00
hbase
Hbase安装与简介
HBase是GoogleBigtable的开源实现,它利用HadoopHDFS作为其文件存储系统,利用
HadoopMapReduce
来处理HBase中的海量数据,利用Zookeeper作为协同服务。
aalansehaiyang52
·
2013-08-15 08:00
上一页
14
15
16
17
18
19
20
21
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他