E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop技术
我的读书列表
2016读书列表:大数据技术:1、《hadoop权威指南》2、《
Hadoop技术
内幕深入解析HADOOPCOMMON和HDFS架构设计与实现原理》3、《
Hadoop技术
内幕深入理解MapReduce架构设计与实现原理
阿橦木
·
2019-12-21 12:55
《
Hadoop技术
内幕》系列丛书
http://dongxicheng.org/mapreduce-nextgen/how-to-read-hadoop-code-effectively/《
Hadoop技术
内幕》系列丛书(轩相关网站:
Hadoop
葡萄喃喃呓语
·
2019-12-01 22:30
《
Hadoop技术
内幕:深入解析YARN架构设计与实现原理》-读后感
读完了hadoop三本经典的yarn专辑-作者:董西城一直停留在hadoop使用层面,没有深入研究过原理和内部实现机制。趁着休假,静下心看看别人梳理的技术内幕,在互联网时代,资料从来不缺少,但是面对一个新的领域,知识体系尚未完善时,通过阅读大量的文章,源码,写出干货满满的技术书籍还是十分佩服作者的。读完后,已经对yarn有了清楚地认识,实现机制,设计原理都得到很好的了解。源码还没有沉下心来读。了解
阿橦木
·
2019-11-30 07:36
《使用Ambari搭建
hadoop技术
栈集群》
一.背景hdfs,map-reduce,spark,yarn是大数据处理的基础组件。在发展了几年之后,已经成为了比较通用的数据处理工具。记得几年前搭建hadoop这一套需要若干天才能完成,现在由于工具的进一步升级,搭建完整的集群+监控系统只需要若干小时即可。二.Ambari介绍【Ambari】是apache的一个开源项目。就Ambari的作用来说,就是创建、管理、监视Hadoop的集群。Ambar
skywalker
·
2019-11-03 23:08
关于流式大数据实时处理技术、平台及应用
Hadoop技术
体系实现并优化了MapReduce[2]框架。Hadoop技
LeiLv
·
2019-11-02 22:10
大数据学习:零基础大数据入门该看哪些书?
1.大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数据,算法要求不是特别高。
心在远方
·
2019-10-31 15:41
hadoop
大数据开
大数据处理
大数据
java
大数据学习:零基础大数据入门该看哪些书?
大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数据,算法要求不是特别高。
a大数据
·
2019-10-30 14:59
java
数据分析
数据处理
零基础大数据入门该看哪些书
1.大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数据,算法要求不是特别高。
大数据森林
·
2019-10-18 22:00
Hadoop技术
点总结
HDFS的读写流程:image.png1.Client通过FileSystem.open(filePath)方法,与NameNode节点进行【rpc】协议通信,校验是否有权限是否存在文件,假如都存在,返回该文件的部分或全部的blockList(包含各个block块的分布在DN地址的列表),也就是返回【FSDataInputStream】对象;2.Clinet调用FSDataInputStream.
孟婆灬来碗汤
·
2019-10-17 02:08
Hadoop技术
优缺点详解
给大家介绍一下关于
Hadoop技术
的优缺点,目前我们正被数据包围,全球43亿部电话、20亿位互联网用户每秒都在不断地产生大量数据,人们发送短信给朋友、上传视频、用手机拍照、更新社交网站的信息、转发微博、
wwdede
·
2019-09-10 21:14
大数据Hadoop未来五年发展走向分析
Hadoop技术
发展至今,走
IT时代周刊
·
2019-08-08 14:20
首届
Hadoop技术
社区中国meetup来袭!对外报名正式启动!
原文链接:https://www.huodongxing.com/event/9504062231300自2006年诞生以来,
Hadoop技术
与社区已走过了13个年头,在经历了大数据技术高速发展之后,迎来了
腾讯技术工程
·
2019-08-06 18:00
零基础大数据入门该看哪些书
1.大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数据,算法要求不是特别高。
别盲目追风
·
2019-06-23 18:03
大数据
大数据开发
大数据教材
大数据入门学习之
Hadoop技术
优缺点
大数据入门学习之
Hadoop技术
优缺点(1)Hadoop具有按位存储和处理数据能力的高可靠性。
a大数据
·
2019-06-05 11:06
java
hadoop
hadoop2
Hadoop技术
生态之Hive数据仓库二(九)
Hive数据仓库基于shell命令行基本操作(DDL/DML):首先启动hive数据库仓库的shell脚本模式:命令:/opt/mysoft/hive/bin/hive1>查看当前Hive中有哪些数据库hive初始化后,会生成一个默认的default数据库;往往根据项目不同,会建立不同业务的hive数据库;命令:showdatabases;2>创建数据库命令:createdatabasetest;
ansap
·
2019-06-03 17:11
思普大数据技术
Hadoop技术
生态之Hive数据仓库一(八)
Hive简介:Hive是基于Hadoop的一个数据仓库管理工具,可以将结构化的数据文件映射为数据库表,提供sql查询统计功能(Hive定义了简单的类SQL查询语言,称为HQL),其底层实现是:将SQL语句转换为MapRecuce程序任务执行对应的查询功能(Yarn集群启动)。为什么要使用hive?用户只需要在Hive中建立表和结构化数据之间的映射,就可以是实现各类复杂的数据查询统计功能,而这些功能
ansap
·
2019-05-20 16:37
思普大数据技术
java大数据生态圈
Hadoop技术
全解析 深度挖掘大数据背后的秘密
大数据最近火热程度上升,而与之相关联的概念Hadoop也在被网友讨论?Hadoop到底是什么,它的技术基础是什么,主要用来干什么了呢?下面我们将详细探讨。在了解以上问题之前,我们先了解三个最基本的知识点,这样子,你更能深入地了解大数据的内涵。1.大数据是什么?2.Hadoop是什么?3.大数据与Hadoop之间是什么关系?大数据概念:史上最全大数据解析hadoop是什么:分布式系统基础架构大数据与
大数据Arry
·
2019-05-09 21:57
大数据
互联网资讯
大数据资讯
人工智能
机器学习
深度学习
Hadoop-HA(高可用)架构原理
最近分享过一次关于
Hadoop技术
主题的演讲,由于接触时间不长,很多技术细节认识不够,也没讲清楚,作为一个技术人员,本着追根溯源的精神,还是有必要吃透,也为自己的工作沉淀一些经验总结。
爱吃龙虾的饼
·
2019-04-16 16:36
hadoop
hadoop
ha
高可用
原理
Hadoop 体系介绍
1.5、hadoop在大数据和云计算当中的位置和关系1.6、
Hadoop技术
应用架构概览1.6.1、Hadoop应用于数据服务基础平台建设1.6.2、Hadoop用于用户画像1.6.3、hadoop用于网站点击流数据挖掘
XiaodunLP
·
2019-02-02 11:01
Hadoop
大数据公司 Splunk 和 Cloudera 的核心竞争力在哪里?
Cloudera以及类似的两家Hortonworks(已上市)还有MapR都是
Hadoop技术
的供应商。这些都是立足于大数据平台的公司。
小牛学堂2019
·
2019-01-29 17:38
大数据
大数据工程师、数据分析师和数据挖掘工程师,推荐看下这些书单
1.大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数据,算法要求不是特别高。
duozhishidai
·
2018-12-12 22:39
大数据
大数据实验室:零基础学习大数据该看哪些书?
1.大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数据,算
29DCH
·
2018-11-26 21:49
心得体会
BigData
Hadoop技术
创新方案
如今有很多公司都在努力挖掘他们拥有的大量数据,包括结构化、非结构化、半结构化以及二进制数据等,来探索对数据的深入利用。大多数公司估计他们只分析了已有数据的12%,剩余88%还没有被充分利用。大量的数据孤岛和分析能力的缺乏是造成这种局面的主要原因。另外一个难题是如何判断数据是否有价值。尤其是在大数据时代,为了避免数据丢失你必须采集并存储这些数据。一些看起来与业务无关的数据,如手机GPS数据,将来也可
本宫没空8
·
2018-11-13 09:29
hadoop的单机版测试和集群节点的搭建
Hadoop技术
原理:Hdfs主要模块:NameNode、DataNodeYarn主要模块:ResourceManager、NodeManager常用命令:1)用hadoopfs操作hdfs网盘,使用Uri
Bug怪
·
2018-09-03 11:17
Sqoop 简单介绍
1.Sqoop产生背景Sqoop的产生主要源于以下几种需求:•多数使用
Hadoop技术
处理大数据业务的企业,有大量的数据存储在传统的关系型数据库(RDBMS)中。
似梦似意境
·
2018-08-26 17:55
#
Sqoop
impala介绍
查询的快速响应使得能够对分析查询进行交互式探索和调优,而不是传统上与SQL-on-
Hadoop技术
相关联的长批作业。impala与hive数据库集成,共享两个组件之间的数据库和表。
csdn侠
·
2018-08-26 01:32
impala
Hadoop慕课网学习记录
书籍推荐:Hadoop权威指南,
Hadoop技术
详解前提:Linux入门和Java入门Google大数据技术:MapReduce、BigTable、GFSHadoop(名称来自开发者儿子的玩具):模仿Google
风铃峰顶
·
2018-08-22 23:24
Java
Hadoop技术
之Hadoop HA 机制详解
原文地址:https://www.cnblogs.com/qcloud1001/p/7693476.html导语最近分享过一次关于
Hadoop技术
主题的演讲,由于接触时间不长,很多技术细节认识不够,也没讲清楚
pengjunlee
·
2018-08-11 09:22
Hadoop
HA
Hadoop大数据入门
handoop job工作运行的机制与原理详解
声明:本博文的图片来自于董西城《
hadoop技术
内幕》;HDFS原理以及MapReduce的简单原理请移步我之前的博客,也欢迎关注我的大数据专栏,这是我入门学习大数据的完整历程,欢迎提出建议以及知识交流
Handoking
·
2018-07-16 16:57
大数据进阶中
CentOS7安装HDP集群
所以我们应该试一试HDP和CDH这种企业级的
hadoop技术
栈。CDH用的人最多,我本来想安装一个社区版的CDH,可惜社区版的官网打开之后样式乱了,根本没法儿看。所以我选择了HDP。
ahau10
·
2018-07-13 00:00
Sqoop概述
Sqoop产生背景Sqoop的产生主要源于以下几种需求:1、多数使用
Hadoop技术
处理大数据业务的企业,有大量的数据存储在传统的关系型数据库(RDBMS)中。2、由于缺乏工具的支持,对Hado
努力的凹凸曼
·
2018-06-20 16:01
Sqoop
国内首家!腾讯主导Apache Hadoop新版本发布
在那时,中国移动、百度、淘宝等都已经开始使用
Hadoop技术
。Hadoop现在早已成为Apache软件基金会的金牌项目之一。不仅如此,它还孕育了包括HBase、Hive、ZooKeeper等一系列知名
我爱云朵
·
2018-06-12 00:00
apache
hadoop
腾讯
成为大数据顶尖程序员,先过了下面问题!(附答案解析)
谷歌、阿里巴巴、百度、京东都在急需掌握
hadoop技术
的大数据人才!无论你精通大数据的哪一项类,都将在未来职场脱颖而出!在过去的201
mkkm1314
·
2018-04-24 15:29
程序员
计算机
大数据
人工智能
hadoop
2018想要薪资翻倍?你需要掌握这个技能
鉴于此,推荐一位非常牛逼的
Hadoop技术
牛人:林中天,花名:铁匠。计算机硕士
运维派V
·
2018-03-08 00:00
Waterdrop:构建在Spark之上的简单高效数据处理系统
本文来自Gary和RickyHuo,他们是Waterdrop开发者,从事大数据相关工作多年,熟悉
Hadoop技术
体系,参与过多个大数据开源项目,目前分别供职于一下科技和新浪。
Hadoop技术博文
·
2018-03-01 00:00
开源大数据周刊-第25期
及TensorFlow深度学习阿里云E-Mapreduce动态E-Mapreduce团队1.6.0版本交互式查询(支持hive、spark)资讯阿里、Databricks、Intel的十位专家和你细聊
Hadoop
aliyun32183
·
2018-02-02 17:24
云栖社区开源大数据周刊
开源大数据周刊-第26期
E-Mapreduce动态E-Mapreduce团队1.6.0版本交互式查询(支持hive、spark)资讯开源大数据技术专场(上午):Spark、HBase、JStorm应用与实践阿里在09年就开始尝试使用
Hadoop
aliyun32183
·
2018-02-02 17:16
云栖社区开源大数据周刊
开源大数据周刊-第32期
Apache软件基金会捐赠消息中间件RocketMQ;Spark,HBase,
Hadoop技术
分享。
aliyun32183
·
2018-02-02 17:54
云栖社区开源大数据周刊
2017年看过的书和电影
《
Hadoop技术
内幕:深入解析MapReduce架构设计
phenix_alice
·
2018-01-01 20:21
其他
Hadoop on Docker规模部署首次实现一键部署
当前在
Hadoop技术
的发展中,如何把Do
葡萄喃喃呓语
·
2017-12-05 15:08
HDFS
读者可以通过阅读“一文读懂Hadoop”系列文章,对
Hadoop技术
有个全面的了解,
LeiLv
·
2017-09-23 21:23
YARN
读者可以通过阅读“一文读懂Hadoop”系列文章,对
Hadoop技术
有个全面的了解,
LeiLv
·
2017-09-23 21:55
【福利】3980元的Hadoop大数据视频教程限量领取!!!
鉴于此,推荐一位非常牛逼的
Hadoop技术
牛人:百度hadoop核心架构师,大数据团队Leader,曾获得百度技术最佳个人奖,百度职级T7,马上升T8(百度大部分技术都是在T5,越往上越难升,在百
java一日一条
·
2017-08-15 17:00
大数据实验室:零基础学习大数据该看哪些书?
1.大数据工程师在互联网公司广泛招聘,偏平台业务方向,ETL和OLTP等,主要是基于
Hadoop技术
栈来处理大数
中科天玑大数据
·
2017-08-10 14:44
大数据学习
大数据学习
:tPEZ2.数据类型:结构化,非结构化3.4个V4.工作流程:采集-ETL-分析-显示5.计算模式:迭代,流,批处理,交互式6.数据库类型:文档数据库,基于键值对的数据库7.CDH8.CAP原理9.
Hadoop
cuckoo_杜鹃
·
2017-08-07 23:28
Spark应用开发之一:Hadoop分析大数据
要说spark首先要了解海量数据的处理和
Hadoop技术
。
mybabe0312
·
2017-04-20 15:58
Spark
Hadoop
Python集成
利用sqoop将hive数据导入导出数据到mysql
运行环境 centos5.6 Hadoop Hivesqoop是让
hadoop技术
支持的clouder公司开发的一个在关系数据库和hdfs,hive之间数据导入导出的一个工具在使用过程中可能遇到的问题
NIeson2012
·
2017-04-13 10:00
mysql
数据库
hadoop
jdbc
hive
sqoop
HDFS原理篇
hdfs的工作机制(工作机制的学习主要是为加深对分布式系统的理解,以及增强遇到各种问题时的分析解决能力,形成一定的集群运维能力)注:很多不是真正理解
hadoop技术
体系的人会常常觉得HDFS可用于网盘类应用
yushiwh
·
2017-04-01 09:26
原理
HDFS
hadoop
Hadoop技术
内幕-Hadoop文件系统
第5章Hadoop文件系统1.文件及文件系统文件的本质是存储在设备上的线性字节流文件系统用于文件的管理包括文件的结构以及命名、存取、使用、保护和实现文件系统支持的系统调用:1)创建文件2)删除文件3)打开文件4)关闭文件5)读文件6)写文件7)追加数据8)读记录9)写记录10)删除记录11)移动当前位置12)获取文件属性13)设置文件属性14)文件改名目录树组织文件系统,路径名描述文件系统中文件的
MrGeroge
·
2017-03-28 18:54
Hadoop
[Hadoop] HDFS 详解一(原理篇)
很多不是真正理解
hadoop技术
体系的人会常常觉得HDFS可用于网盘类应用,但实际并非如此。要
Singer_Au
·
2017-03-23 21:03
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他