E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop相关
Hadoop运维记录系列(二)
下周准备去某地做
Hadoop相关
的技术培训,主要负责讲解Hadoop的安装部署和运维部分,赶制了一份PPT,将平时工作中遇到的问题也提取了一下,希望能对Hadoop运维相关人员有所帮助,算是个补上的运维记录吧
Slaytanic
·
2012-12-09 01:50
hadoop
运维
故障分析
hadoop相关
介绍
hadoop的组成是由hdfs,mapreduce和hbase组成。 1.hdfs是googlefilesystem(GFS)的开源实现。HDFS就像一个传统的分级文件系统。可以创建、删除、移动或重命名文件,等等。但是HDFS的架构是基于一组特定的节点构建的。这是由它自身的特点决定的。这些节点包括NameNode(仅一个),它在HDFS内部提供元数据服务;DataNode,它为HDFS
ruanjianzhilu
·
2012-12-06 13:40
hadoop介绍
hadoop相关
软件下载
hadoop相关
软件下载http://archive.apache.org/dist/hadoop/
lichangzai
·
2012-11-21 11:00
MapReduce工作原理图文详解
前言:前段时间我们云计算团队一起学习了
hadoop相关
的知识,大家都积极地做了、学了很多东西,收获颇丰。可是开学后,大家都忙各自的事情,云计算方面的动静都不太大。
月貘苏
·
2012-11-20 15:43
技术
MapReduce工作原理图文详解
前言:前段时间我们云计算团队一起学习了
hadoop相关
的知识,大家都积极地做了、学了很多东西,收获颇丰。可是开学后,大家都忙各自的事情,云计算方面的动静都不太大。
Athenaer
·
2012-11-20 15:00
hadoop相关
的一些技巧
分布式系统比普通程序开发有一些特别的难度,最主要的就是环境问题。本博客将记录怎么去解决这些问题,最主要的是一些脚本。后期会连续更新,目前最主要的技巧有:ssh打通:hadoop在部署的时候,各个机器之间肯定要打通,我们不可能手工去敲每一个命令。所以最好有一个脚本。https://github.com/lwwcl1314/apollo/blob/master/distrubutescript/bin
bxyz1203
·
2012-10-22 22:26
hadoop
socket
command
server
脚本
logging
hadoop0.19.1
hadoop2yarn
hadoop相关
的一些技巧
分布式系统比普通程序开发有一些特别的难度,最主要的就是环境问题。本博客将记录怎么去解决这些问题,最主要的是一些脚本。后期会连续更新,目前最主要的技巧有:ssh打通:hadoop在部署的时候,各个机器之间肯定要打通,我们不可能手工去敲每一个命令。所以最好有一个脚本。https://github.com/lwwcl1314/apollo/blob/master/distrubutescript/bin
bxyz1203
·
2012-10-22 22:00
hadoop
server
socket
command
脚本
logging
对大数据进行“钻取”
鉴于最近与
Hadoop相关
的事物呈爆炸性增长,出现与Hadoop生态系统相关的产品和实现也就不足为奇了。
Boris Lublinsky
·
2012-10-08 00:00
hadoop相关
知识点新总结
根据我对hadoop应用的理解,对之前的总结进行了完善,都是些个人看法和总结。我认为整个框架包含如下几个部分:第一部分:hadoop文件系统第二部分:编写自己的MR计算实现第三部分:hadoop的扩展性第四部分:集群管理第五部分:调度系统第六部分:第三方工具使用 第一部分各知识点分布:第一:主要掌握各文件系统的具体实现和使用第二:文件系统基本操作第三:压缩模式的使用和编写自定义的压缩模式第四:序列
chenyi8888
·
2012-09-11 15:00
hadoop相关
-HBase体系结构
HBase的体系结构遵从主从服务器架构主:HBaseMaster从:HRegionServer群 HBase中所有的服务器都是通过Zookeeper来协调,并处理运行期间可能出现的错误。 一、逻辑模型以nutch-2.0下hbase存放数据的表"webpage"为例:describe: {NAME=>'webpage',FAMILIES=>[ {NAME=>'f',BLOOMFILTER=
lengyue365
·
2012-08-24 11:00
hadoop
hadoop相关
博客
俗话说,他山之石,可以攻玉。好好学习别人的blog,长足发展自己。博客:1 http://www.cnblogs.com/dlutxm/category/286837.html2 http://dongxicheng.org/data-mining/hadoop-sampling/3 http://blog.csdn.net/xiejava/article/month/2011/054 http:
fanshadoop
·
2012-08-10 22:00
算法
hadoop
面试
Blog
第四次easyhadoop聚会
第四次easyhadoop聚会20120701[
hadoop相关
应用与数据挖掘]时间:2012年7月1日星期日下午14:00-17:00网站:www.easyhadoop.comEasyHadoop交流群
azhao_dn
·
2012-06-27 18:00
hadoop
优化
集群
数据挖掘
百度
Hadoop简介和实践分享
这篇文章简单介绍了
Hadoop相关
的技术生态圈,同时共享一份前一阵编写的实践教程,需要者自取。
·
2012-06-25 21:00
hadoop
[置顶] 基于cloudera的hadoop分布式系统自动化安装
Hadoop开发者入门专刊(pdf)是目前比较权威的文档;有什么与
Hadoop相关
yangjl38
·
2012-05-31 18:00
java
mapreduce
hadoop
集群
ssh
服务器
【hadoop学习笔记】2.
hadoop相关
命令
hdfs相关操作 hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘类似 1、查看文件列表 ./hadoop fs -ls yongkang@yongkang-OptiPlex-760:~/tools/hadoop-1.0.2/bin$./hadoop fs -lsWarning: $HADOOP_HOME is deprecated. Found 1
qyongkang
·
2012-05-28 22:00
hadoop
第三次easyhadoop聚会
第三次easyhadoop聚会20120519[
hadoop相关
应用与数据挖掘]时间:2012年5月19日星期六下午13:00-16:30网站:www.easyhadoop.comEasyHadoop交流群
azhao_dn
·
2012-05-16 15:00
视频:easyhadoop聚会hive和phpHiveAdmin部分
2012-04-14,在北航主南203,第二次easyhadoop开发者聚会核心主题:Hadoop高可用和性能调优和
Hadoop相关
软件发布.网站:www.easyhadoop.comEasyHadoop
Slaytanic
·
2012-04-15 02:52
hive
云计算
phphiveadmin
视频:easyhadoop聚会hive和phpHiveAdmin部分
2012-04-14,在北航主南203,第二次easyhadoop开发者聚会核心主题:Hadoop高可用和性能调优和
Hadoop相关
软件发布.网站:www.easyhadoop.comEasyHadoop
Slaytanic
·
2012-04-15 02:52
云计算
hive
phphiveadmin
hadoop
MapReduce工作原理图文详解
MapReduce工作原理图文详解前言:前段时间我们云计算团队一起学习了
hadoop相关
的知识,大家都积极地做了、学了很多东西
逸情公子
·
2012-04-05 02:00
mapreduce
hadoop
工作原理
shuffle
MapReduce工作原理图文详解
MapReduce工作原理图文详解前言:前段时间我们云计算团队一起学习了
hadoop相关
的知识,大家都积极地做了、学了很多东西
逸情公子
·
2012-04-05 02:00
mapreduce
hadoop
工作原理
shuffle
MapReduce工作原理图文详解
MapReduce工作原理图文详解前言:前段时间我们云计算团队一起学习了
hadoop
·
2012-04-04 18:00
mapreduce
工作
原理
hadoop相关
启动脚本分析 有助于troubleshoot,顺便学习shell
刚开始配置hadoop难免出错,学习一下启动的脚本对分析错误还是很有帮助的。而且可以顺便学习shell。我自己对shell命令还算比较熟,shell脚本基本看得懂,不过没具体去深究。所以下面提到的一些shell要点高手莫笑。Hadoop0.20.203hadoop主要命令集散地hadoop-config.sh hadoop-daemon.shRunsaHadoopcommandasadaemon.
Dinosoft
·
2012-03-17 14:00
hadoop
shell
脚本
command
bash
translation
Hadoop相关
网络资源汇总
Hadoop相关
网络资源汇总(NOTE:之前研究过的一些
hadoop相关
资料,在这里汇总起来,方便他人学习)第一手资源hadoop官方网站hadoop.apache.org最权威的官方资源之一dev.yahoo.hadoophadoop.cn
amaowolf
·
2012-03-12 09:00
hive运行报Call to master/**.** failed on local exception: java.nio.channels.ClosedByInterr
等待…………通过几天的观察发现,与IPC的相关参数设置有关,通过查看
hadoop相关
的IPC源码发现,默认的
fish_cool
·
2012-02-20 14:25
exception
sql
hadoop
脚本
任务
测试
hive
hive运行报Call to master/**.** failed on local exception: java.nio.channels.ClosedByInterr
等待…………通过几天的观察发现,与IPC的相关参数设置有关,通过查看
hadoop相关
的IPC源码发现,默认的
chenyi8888
·
2012-02-20 14:00
sql
exception
hadoop
测试
脚本
任务
使用Hadoop命令
命令: 使用
hadoop相关
命令需要先进入hadoop安装的根目录。
lxl8129
·
2012-01-13 20:00
hadoop学习笔记之一:初识hadoop请在这里输入日志标题
组技术博客引言最近了解到淘宝使用hadoop的项目多了起来,hadoop对于许多测试人员来说或许是个新鲜玩儿,因此,把自己之前整理的学习笔记整理发上来,希望通过此系列文章快速了解Hadoop的基本概念和架构原理,从而助于
hadoop
yypiao
·
2011-12-21 17:11
高性能篇
hadoop
hadoop
HDFS
MapReduce
python使用crontab执行
hadoop相关
任务
由于公司hadoop云梯组有磁盘和文件配额限制,一旦超过限制,作业就不能正常跑了。所以我就写了一个定时扫描集群文件的python脚本。无非也就是能过执行一些hadoopfs-ls,hadoopfs-du这类的命令,得到HDFS目录下文件/空间的情况。脚本在正常情况下执行没有问题,但是一放到crontab里就出错,没有任何输出。经过定位,发现是stdout,stdin,stderr=popen2.p
inte_sleeper
·
2011-11-18 12:00
java
hadoop
python
脚本
Path
作业
Hadoop学习,hadoop基本概念了解
项目中需要用到hadoop,恰好对数据处理特别感兴趣,所以就申请做
hadoop相关
的东西,现在还处于学习阶段。
tjuximo
·
2011-11-06 18:00
hadoop
hadoop streaming 技术整理
这两年零零散散用hadoop做了些项目,也看了些
hadoop相关
资料,每回都是现学现用。
chenxinl
·
2011-10-23 21:50
hadoop
output
框架
分布式计算
merge
网络
开发
hadoop streaming 技术整理
这两年零零散散用hadoop做了些项目,也看了些
hadoop相关
资料,每回都是现学现用。
chenxinl
·
2011-10-23 21:00
关于Hadoop结合RDBMS应用的一些思考
最近一段时间一直在从事和
hadoop相关
的工作,主要是技术内容学习、安装配置优化以及一些框架结构的设计。
dy_252
·
2011-09-21 09:00
开源框架Hadoop实现分布式计算
本节和大家一起学习一下分布式计算开源框架Hadoop,本节主要内容有Hadoop概念的介绍和
Hadoop相关
计算方法,希望通过本节的学习,大家对Hadoop的分布式计算有一定的认识。
xiaobudian698
·
2011-08-07 22:00
hadoop
框架
搬个凳子坐跑道,静看别人赛跑
Blog中提到:过去5年,数据库又成为一个令人兴奋的领域自然,如何支持互联网规模的数据系统,是兴奋点之一,而Hadoop又在其中扮演了重要角色,SIGMOD2011的IndustrySession中,和
Hadoop
caibinbupt
·
2011-07-30 10:00
hadoop实践部署
最近自己开始部署
hadoop相关
一套环境,目前还没在生产环境下使用,只在cygwin的虚拟环境下进行的搭建,参考各安装手册后,发现还是有些出入,特整理下我搭建的步骤。
fish_cool
·
2011-07-15 17:35
分布式框架
hadoop实践部署
最近自己开始部署
hadoop相关
一套环境,目前还没在生产环境下使用,只在cygwin的虚拟环境下进行的搭建,参考各安装手册后,发现还是有些出入,特整理下我搭建的步骤。
chenyi8888
·
2011-07-15 17:00
hadoop
shell
server
hbase
zk
文档
hadoop学习与实践
2、下载
hadoop相关
软件,包括了hadoop-0.20.203.0rc1.tar.gz、hive-0.7.0.tar.gz、pig-0.8.1.tar.gz,由于我们暂时不使用Hbase,所以没有下载
zz_19830103
·
2011-07-05 10:00
hadoop
hadoop相关
备录
1.map/reduce框架介绍,及实例:http://www.360doc.com/content/10/0803/13/2159920_43357680.shtml 2.hadoop 0.21.0集群配置 http://wenku.baidu.com/view/92cbe435eefdc8d376ee32eb.html 3. WordCount 程序分析及eclipse 运行http:
bbym010
·
2011-05-27 11:00
html
hadoop
框架
hadoop学习笔记之一:初识hadoop
引言最近了解到淘宝使用hadoop的项目多了起来,hadoop对于许多测试人员来说或许是个新鲜玩儿,因此,把自己之前整理的学习笔记整理发上来,希望通过此系列文章快速了解Hadoop的基本概念和架构原理,从而助于
hadoop
landyer
·
2011-05-03 04:00
mapreduce
编程
hadoop
hbase
云计算
分布式集群中的硬件选择
一、背景最近2个月时间一直在一个阴暗的地下室的角落里工作,主要内容就是
hadoop相关
的应用。
dajuezhao
·
2011-01-21 11:00
hadoop
工作
笑话
Gmail
HBASE松散数据存储设计初识
松散数据存储设计初识(转)转自:http://hi.baidu.com/webcell/blog/item/f179ac0f0ab6f3e7aa645749.html最近关注Hadoop,因此也顺便关注了一下
Hadoop
hengheng123456789
·
2010-12-24 11:00
hadoop学习笔记之一:初识hadoop
引言最近了解到淘宝使用hadoop的项目多了起来,hadoop对于许多测试人员来说或许是个新鲜玩儿,因此,把自己之前整理的学习笔记整理发上来,希望通过此系列文章快速了解Hadoop的基本概念和架构原理,从而助于
hadoop
liuxinglanyue
·
2010-12-22 15:00
mapreduce
编程
hadoop
hbase
云计算
分布式集群中的硬件选择
一、背景最近2个月时间一直在一个阴暗的地下室的角落里工作,主要内容就是
hadoop相关
的应用。
dajuezhao
·
2010-12-21 10:00
hadoop
工作
集群
分布式计算
笑话
HBASE松散数据存储设计初识
引最近关注Hadoop,因此也顺便关注了一下
Hadoop相关
的项目。HBASE就是基于Hadoop的一个开源项目,也是对Google的BigTable的一种实现。 BigTable是什么?
royesir
·
2010-11-26 17:00
数据库
hadoop
server
cache
hbase
存储
开源框架Hadoop实现分布式计算
://developer.51cto.com/art/201006/203836.htm 本节和大家一起学习一下分布式计算开源框架Hadoop,本节主要内容有Hadoop概念的介绍和
Hadoop
qmkemail
·
2010-11-08 22:00
mapreduce
数据结构
框架
hadoop
网络应用
Hadoop相关
书籍
Hadoop.The.Definitive.Guide.2nd.Edition 第二版 Hadoop:The.Definitive.Guide(3rd,Early.Release).Tom.White http://www.amazon.com/Apache-Hadoop-YARN-Processing-Addison-Wesley/dp/0321934504 Apache Hadoo
bupt04406
·
2010-10-02 11:00
hadoop
关于Hadoop结合RDBMS应用的一些思考
最近一段时间一直在从事和
hadoop相关
的工作,主要是技术内容学习、安装配置优化以及一些框架结构的设计。
dajuezhao
·
2010-07-20 17:00
hadoop
工作
数据分析
数据挖掘
hbase
数据仓库
关于Hadoop结合RDBMS应用的一些思考
最近一段时间一直在从事和
hadoop相关
的工作,主要是技术内容学习、安装配置优化以及一些框架结构的设计。在此期间,我对于RDBMS和Hadoop的结合应用有了一些自己的看法,写出来大家共同探讨一下。
dajuezhao
·
2010-07-20 17:00
胡说八道
hbase 结构及工作过程
最近关注Hadoop,因此也顺便关注了一下
Hadoop相关
的项目。HBASE就是基于Hadoop的一个开源项目,也是对Google的BigTable的一种实现。 BigTable是什么?
fishyu0817
·
2010-06-04 19:00
设计模式
数据结构
工作
hadoop
hbase
hbase 结构及工作过程
最近关注Hadoop,因此也顺便关注了一下
Hadoop相关
的项目。HBASE就是基于Hadoop的一个开源项目,也是对Google的BigTable的一种实现。 BigTable是什么?
fishyu0817
·
2010-06-04 19:00
设计模式
数据结构
工作
hadoop
hbase
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他