E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop技术
Hadoop技术
栈
1.什么是hadoop(分布式软件框架)他提供了分步式数据存储分布式数据计算分布式资源调度为一体的整体解决方案1.1hadoop的用处可以部署在1台乃至成千上万台服务器节点上协同工作。个人或企业可以借助Hadoop构建大规模服务器集群,完成海量数据的存储和计算。1.2hadoop的功能通常意义上,Hadoop是一个整体,其内部还会细分为三个功能组件,分别是:HDFS组件:HDFS是Hadoop内的
XingChen.
·
2024-08-31 16:48
分布式
hadoop
大数据
《Hadoop核心技术》作者翟周伟 :我与Hadoop的不解之缘
摘要:翟周伟,资深
Hadoop技术
专家,《Hadoop开源云计算平台》、《Hadoop核心技术》作者。
xytlwp
·
2024-08-25 21:27
翟周伟
hadoop
数据挖掘
自然语言处理
hadoop
翟周伟
数据挖掘
自然语言处理
安装配置sqoop
一、了解Sqoop1、Sqoop产生的原因A.多数使用
hadoop技术
的处理大数据业务的企业,有大量的数据存储在关系型数据中。
m0_69595107
·
2024-02-01 19:27
Hadoop
sqoop
hadoop
分布式
apache
centos
大数据
大数据开发学习资料汇总
目录大数据系列HadoopHadoop权威指南Hadoop权威指南修订Hadoop实战Hadoop实战_2Hadoop源码分析大数据处理系统:Hadoop源代码情景分析Hadoop开发者入门专刊
Hadoop
比屋大数据
·
2024-01-05 08:44
大数据架构师源码零基础教程
大数据
linux
运维
Hadoop伪分布式集群安装
平时我们学习
Hadoop技术
时,可不一直沉溺于理论学习,一定要理论和实践相结合,所以就必须有一个Hadoop环境,我们能在这个Hadoop环境里进行各种操作,来验证我们在书本上学到的知识。
鬓戈
·
2023-12-19 22:28
大数据
分布式
hadoop
大数据
基于Hadoop的智慧社区大数仓库系统设计与开发
DesignandDevelopmentofaSmartCommunityDataWarehouseSystembasedonHadoop目录目录2摘要3关键词4第一章绪论41.1研究背景41.2研究目的与意义51.3国内外研究现状61.4主要研究内容81.5研究方法与技术路线9第二章
Hadoop
wusp1994
·
2023-12-17 18:45
hadoop
大数据
分布式
基于Hadoop的电商数据分析系统设计与实现
DesignandImplementationofE-commerceDataAnalysisSystembasedonHadoop目录目录2摘要3关键词3第一章绪论41.1研究背景41.2研究目的与意义51.3现有研究综述6第二章
Hadoop
wusp1994
·
2023-12-17 13:40
hadoop
电商数据分析
数据分析
基于Hadoop的铁路货运大数据平台设计与应用
DesignandApplicationofRailwayFreightBigDataPlatformbasedonHadoop目录目录2摘要3关键词4第一章绪论41.1研究背景41.2研究目的与意义51.3国内外研究现状71.4研究内容与方法81.5论文结构安排9第二章
Hadoop
wusp1994
·
2023-12-17 06:24
大数据
hadoop
分布式
基于
Hadoop技术
的计算机专业画像平台的设计与研究
完整下载:基于
Hadoop技术
的计算机专业画像平台的设计与研究.docx基于
Hadoop技术
的计算机专业画像平台的设计与研究DesignandResearchofComputerProfessionalProfilingPlatformBasedonHadoopTechnology
wu_fei_yu
·
2023-12-14 14:24
信息可视化
大数据
Hadoop技术
的发展历史与未来前景
大数据概念火了又火,但是好多人对大数据的概念却一知半解,今天主要来细说下Hadoop:1.Hadoop是什么1)Hadoop是一个由Apache基金会所开发的分布式系统基础架构2)主要解决,海量数据的存储和海量数据的分析问题。3)广义上来说,HADOOP通常是指一个更广泛的概念——HADOOP生态圈2.Hadoop发展历史1)Lucene–DougCutting开创的开源软件,用java书写代码,
人工智能和大数据时代
·
2023-12-03 14:04
大数据
Hadoop
Hadoop未来五年走向何方
Hadoop技术
发展至今,走
IT时代周刊
·
2023-12-03 14:02
2019年5月
2019年3月
2018年11月
2018年6月
2018年12月
2019年4月
2017年3月
2016年5月
2017年2月
2016年4月
2014年9月
大数据
人工智能
编程语言
程序员
基于
Hadoop技术
的智慧图书馆海量数据储存系统研究
点我完整下载:基于
Hadoop技术
的智慧图书馆海量数据储存系统研究.docx基于
Hadoop技术
的智慧图书馆海量数据储存系统研究Astudyontheintelligentlibrary'smassivedatastoragesystembasedonHadooptechnology
桃宝护卫队
·
2023-11-27 01:57
hadoop
大数据
分布式
05-Hadoop01之HDFS
一、Hadoop介绍Hadoop分为三部分:Common、HDFS、Yarn、MapReduce(有点过时了)Hadoop生态圈:除了
hadoop技术
以外,还有hive、zookeeper、flume、
YuPangZa
·
2023-11-19 10:54
大数据
hdfs
hadoop
大数据
基于Hadoop的学习行为数据云存储平台的设计与实现
DesignandImplementationofaHadoop-BasedLearningBehavioralDataCloudStoragePlatform目录目录2摘要3关键词3第一章绪论41.1研究背景41.2研究目的51.3研究意义6第二章
Hadoop
wusp1994
·
2023-11-16 06:13
hadoop
学习
大数据
【云栖2023】王峰:开源大数据平台3.0技术解读
早在2009年,我们就开始采用开源
Hadoop技术
体系来服务阿里内部快速发展的电商业务。在阿里巴巴内部这套
Hadoop技术
体系,当
阿里云大数据AI技术
·
2023-11-11 20:26
开源
大数据
hadoop 写入mysql_hadoop读写mysql数据库
hadoop技术
推出一度曾遭到关系数据库研究者的挑衅和批评,认为MapReduce不具有关系数据库中的结构化数据存储和处理能力。
weixin_39827315
·
2023-11-10 16:54
hadoop
写入mysql
python大数据运维工程师_【大数据科普系列之二】大数据运维工程师
“技术含量最高”的职位之一,这里说的大数据运维主要是指hadoop生态体系方面的运维,在一些小公司或者传统行业的大公司也会使用oracle、db2等技术栈,在互联网行业数据量稍微大点的公司基本都是使用
hadoop
weixin_39707693
·
2023-11-10 01:26
python大数据运维工程师
python大数据运维常用脚本_大数据岗位要求之大数据运维
“技术含量最高”的职位之一,这里说的大数据运维主要是指hadoop生态体系方面的运维,在一些小公司或者传统行业的大公司也会使用oracle、db2等技术栈,在互联网行业数据量稍微大点的公司基本都是使用
hadoop
weixin_39968490
·
2023-11-10 01:26
python大数据运维常用脚本
基于Hadoop与Electron的京东商品评论词云统计系统
项目采用Electron+
Hadoop技术
栈实现,前后端使用Socket进行通讯。二、背景随着电子商务的快速发展,京东和淘宝成为中国最大的在线购物平台之一
没头发的米糊
·
2023-11-07 15:06
瞎折腾
Java
大数据
hadoop
hbase
HDFS原理篇
**hdfs的工作机制**(工作机制的学习主要是为加深对分布式系统的理解,以及增强遇到各种问题时的分析解决能力,形成一定的集群运维能力)注:很多不是真正理解
hadoop技术
体系的人会常常觉得HDFS可用于网盘类应用
NickYS
·
2023-11-04 01:50
【大数据概述】
Hadoop技术
栈
目录1.Presto1.1.概述1.2.PrestoHive对比2.Hive2.1.Hive概述2.2.Hive与关系型数据库关系3.Hadoop3.1.概述3.2.Hadoop生态技术3.2.1.概述3.2.2.架构4.Spark4.1.概述4.1.1.统一的引擎5.数据存储及处理的发展5.1.数据仓库5.2.数仓+数据湖5.3.数仓一体化技术产生背景Kafka主要用来处理消息的(解耦异步削峰)
vk-fengz
·
2023-10-28 21:17
数据库
数据仓库
大数据
Hadoop3.0大数据处理学习4(案例:数据清洗、数据指标统计、任务脚本封装、Sqoop导出Mysql)
案例需求分析直播公司每日都会产生海量的直播数据,为了更好地服务主播与用户,提高直播质量与用户粘性,往往会对大量的数据进行分析与统计,从中挖掘商业价值,我们将通过一个实战案例,来使用
Hadoop技术
来实现对直播数据的统计与分析
Huathy-雨落江南,浮生若梦
·
2023-10-26 07:33
Hadoop
大数据
学习
sqoop
mysql
基于Spark Streaming的实时日志分析系统实践 Spark Streaming 在数据平台日志解析功能的应用
前言目前业界基于
Hadoop技术
栈的底层计算平台越发稳定成熟,计算能力不再成为主要瓶颈。多样化的数据、复杂的业务分析需求、系统稳定性、数据可靠性,这些软性要求,逐渐成为日志分析系统面对的主要问题。
bcdk1188
·
2023-10-23 05:56
大数据
分布式
数据库
hadoop
spark
Hadoop大数据处理
本书不仅包含了使用Hadoop进行大数据处理的实践性知识和示例,还以图文并茂的形式系统性地揭示了
Hadoop技术
族中关键组件的运行原理和优化手段,为读者进一步提升Hadoop使用技巧和运行效率提供了颇具价值的参考
题典通
·
2023-10-19 00:46
hadoop学习笔记-搭建环境
这几天乘着工作之余,学习了一下
hadoop技术
,跌跌撞撞的几天,终于完成了一个初步的hadoop的安装及测试,具体如下:动力:工作中遇到的数据量太大,服务器已经很吃力,sql语句运行老半天,故想用大数据技术来改善一下环境
励志重写JDK
·
2023-10-10 16:30
redis
hadoop
大数据Hadoop原理:大数据
Hadoop技术
原理简介
在大数据技术体系当中,
Hadoop技术
框架无疑是重点当中的重点,目前主流的大数据开发任务,都是基于Hadoop来进行的。
加米谷大数据张老师
·
2023-10-08 06:05
大数据
大数据
hadoop
分布式
hadoop技术
内幕_Hadoop基础MapReduce程序的执行流程
MapReduce程序从提交到执行是一个很复杂的过程,以下将分别讨论MapReduce1.0和Yarn环境下的任务提交和执行过程。一、MapReduce程序提交方式以HadoopShell方式为例,提交MapReduce命令如下:$HADOOP_HOME/bin/hadoopappname.jar-Dmapred.job.name=”testappname”-Dmapred.reduce.task
weixin_39629075
·
2023-10-01 17:42
hadoop技术内幕
mapreduce原理
mapreduce工作流程
hadoop技术
内幕
hadoop技术
内幕深入解析mapreduce架构设计与实现原理1、基础篇1、阅读源代码前的准备2、mapreduce设计理念与基本架构3、mapreduce编程模型4、mapreducerpc框架解析
冥想者-定
·
2023-10-01 17:41
__Hadoop杂谈
Hadoop技术
内幕-Hadoop远程过程调用
1.远程过程调用(RPC)即允许程序调用位于其他机器上的过程:比如A是调用方,B是被调用方,A将信息传给B,然后挂起等待B反馈信息给A,最简单的过程调用是方法调用,典型的控制流同步模型(C/S模型在不同进程之间交互)就是一种RPC。RPC通过接口定义语言(IDL)描述远程调用的接口信息,通过调用IDL编译器之后会生成三个文件包括头文件(包含接口函数的定义),客户存根(可以理解为客户端),服务器骨架
MrGeroge
·
2023-10-01 17:10
Hadoop
【备忘】
HADOOP技术
内幕 PDF 下载
内容简介“
hadoop技术
内幕”共两册,分别从源代码的角度对“common+hdfs”和“mapreduce的架构设计和实现原理”进行了极为详细的分析。
javaxuexize
·
2023-10-01 17:10
【读书笔记】YARN架构设计与实现原理
Hadoop技术
内幕:深入解析YARN架构设计与实现原理
Hadoop技术
内幕:深入解析YARN架构设计与实现原理董西成◆第2章YARN设计理念与基本架构由于MRv2将资源管理功能抽象成了一个独立的通用系统
KevinBrain
·
2023-10-01 17:40
大数据
yarn
java
大数据
hadoop
hdfs
docer安装hadoop
基于Docker构建Hadoop平台0.绪论使⽤Docker搭建
Hadoop技术
平台,包括安装Docker、Java、Scala、Hadoop、Hbase、Spark。
汉卿HanQ
·
2023-09-29 13:59
hadoop
eureka
大数据
Hadoop技术
生态简介
文章来源:加米谷大数据大数据的发展历史当中,
Hadoop技术
框架是占据着重要地位的,历经十多年的时间,依然是企业搭建大数据平台基础架构的主流选择,围绕着Hadoop而生的大数据生态组件,也都各自发挥着各自的作用
会飞的鱼go
·
2023-09-20 11:56
【大数据毕设】基于Hadoop的音乐推荐系统论文(三)
博主介绍:✌全网粉丝6W+,csdn特邀作者、博客专家、大数据领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于大数据技术领域和毕业项目实战✌文末获取项目联系摘要本文基于
Hadoop
Maynor996
·
2023-09-10 07:31
#
课设&毕设
大数据
课程设计
hadoop
Hadoop的概述与安装
Hadoop的概述与安装一、Hadoop内部的三个核心组件1、HDFS:分布式文件存储系统2、YARN:分布式资源调度系统3、MapReduce:分布式离线计算框架4、HadoopCommon(了解即可)二、
Hadoop
Augenstern K
·
2023-09-05 06:49
Hadoop
hadoop
大数据
分布式
全面解析流式大数据实时处理技术、平台及应用
Hadoop技术
体系实现并优化了MapReduce框架。
Hadoop技术
体系主要
丨程序之道丨
·
2023-08-24 22:59
SQL on
Hadoop技术
综述与主流SQL
SQLon
Hadoop技术
综述一、系统架构runtimeframeworkv.s.mpp在SQLonHadoop系统中,有两种架构:1、一种是基于某个运行时框架来构建查询引擎,典型案例是Hive;2、另一种是仿照过去关系数据库的
二三是廿三
·
2023-07-27 13:18
Hadoop技术
之HDFS分布式文件系统基础
Hadoop离线是大数据生态圈的核心与基石,是整个大数据开发的入门。本次分享内容让初学者能高效、快捷掌握Hadoop必备知识,大大缩短Hadoop离线阶段学习时间,下面一起开始今天的学习!▼往期内容汇总:大数据导论Linux操作系统概述VMwareWorkstation虚拟机使用Linux常用基础命令、系统命令ApacheHadoop概述ApacheHadoop集群搭建目录一、文件系统、分布式文件
黑马程序员官方
·
2023-07-23 14:13
hadoop
hdfs
大数据
国内首家!主导Apache Hadoop新版本发布的,是腾讯云这位小哥哥
在那时,中国移动、百度、淘宝等都已经开始使用
Hadoop技术
。Hadoop现在早已成为Apach
weixin_34130389
·
2023-06-18 09:07
人工智能
大数据
操作系统
【
Hadoop技术
篇】hadoop的使用
博主介绍博主介绍:大家好,我是淼淼_喵,很高兴认识大家~✨主攻领域:【大数据开发】【数据仓库】【ETL】【数据分析】【面试分析】点赞➕评论➕收藏==养成习惯(一键三连)欢迎关注一起学习一起讨论⭐️一起进步欢迎评论作者水平有限,欢迎各位大佬指点,相互习进步!1.集群简介HADOOP集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起。HDFS集群负责海量数据的存储
chad__chang
·
2023-06-16 03:53
Hadoop
hadoop
大数据
数据仓库
Hadoop技术
Hadoop技术
一、Hadoop介绍Hadoop是Apache旗下的一个用java语言实现开源软件的框架,是一个开发和运行处理大规模数据的软件平台。
章鱼哥TuNan&Z
·
2023-06-11 09:01
#
hadoop
mapreduce
hadoop
hdfs
【i阿极送书——第三期】《Hadoop大数据技术基础与应用》
文章目录系列文章目录1、好书推荐2、内容简介3、目录4、章节介绍5、活动1、好书推荐2、内容简介本书由浅入深地介绍了
Hadoop技术
生态的重要组件,让读者能够系统地了解大数据相关技术
i阿极
·
2023-06-06 22:32
i阿极送书
大数据
hadoop
来点八股文(一) 分布式理论及应用
由6.824和
Hadoop技术
资料整理,持续更新中文章目录6.824GFSVM-FTraftzookeeperEBSAuroraFrangipani链复制与分布式事务SpannerFarm与乐观并发控制
SakamataZ
·
2023-04-06 11:23
#
后端
分布式
hadoop
big
data
大数据基础架构Hadoop,终于有人讲明白了
本文将首先介绍
Hadoop技术
概述,包括Hadoop框架的概念、架构、核心组件,以及Hadoop的应用场景和生态系统。01Hadoo
Python进阶者
·
2023-04-05 19:24
分布式
大数据
编程语言
hadoop
数据库
sqoop从安装到操作
一.sqoop的简单概论1.sqoop产生的原因:A.多数使用
hadoop技术
的处理大数据业务的企业,有大量的数据存储在关系型数据中。
人生之光荣在于屡仆屡起
·
2023-04-05 13:54
大数据
sqoop
hadoop
大数据
sqoop
大数据开发必读书目(持续更新)
在这里插入图片描述1.HadoopHadoop大数据开发案例教程与项目实战.pdf
Hadoop技术
内幕深入解析YARN架构设计与实现原理.pdf
Hadoop技术
内幕深入理解MapReduce架构设计与实现原理
鄙人王道长
·
2023-03-23 21:00
《
Hadoop技术
内幕深入解析Hadoop和HDFS》2.2.4使用 get* 和 set* 访问 / 设置配置项
2.2.4使用get*和set*访问/设置配置项1.get*get*一共代表21个方法,它们用于在Configuration对象中获取相应的配置信息。这些配置信息可以是boolean(getBoolean)、int(getInt)、long(getLong)等基本类型,也可以是其他一些Hadoop常用类型,如类的信息(getClassByName、getClasses、getClass)、Stri
程序员高级码农
·
2023-03-12 00:57
大数据的下一站是服务 / 分析一体化(HSAP)?
这促成了过去十多年来以
Hadoop技术
开始的大数据革命,解决了海量数据分析的需求。与此同时,数据库领域也出现了一批分布式
会飞的鱼go
·
2023-03-11 10:54
Hadoop (一) ——hadoop基础知识
移动数据:Cloudera运营总监称,美国有70%的智能手机数据服务背后都是由Hadoop来支撑的,也就是说,包括数据的存储以及无线运营商的数据处理等,都是在利用
Hadoop技术
。
qq_44658961
·
2023-02-02 14:27
Hadoop
【Hadoop】macbookpro m1/m2 arm 编译hadoop-3.3.1
在大数据数仓实践过程中,
hadoop技术
栈充当了非常重要的环节,很多大数据平台,中台都是基于hive+hadoop+spark来搭建的,所以我们对于hadoop的编译,构建,安装是需要掌握的非常清楚。
笑起来贼好看
·
2023-02-01 09:24
Hadoop
大数据
服务运维部署
hadoop
大数据
分布式
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他