#mapReduce

Spark运行原理

Spark提供的基于RDD的一体化解决方案，将MapReduce、Streaming、SQL、MachineLearning、GraphProcessing等
hellozhxy·2024-01-28 23:41

Java技术栈 —— Hadoop入门（二）

Java技术栈——Hadoop入门（二）一、用MapReduce对统计单词个数1.1项目流程1.2可能遇到的问题1.3代码勘误1.4总结一、用MapReduce对统计单词个数1.1项目流程(1)上传jar
键盘国治理专家·2024-01-28 21:51

浅谈Hive和HBase有哪些区别与联系及适用场景

当对海量数据进行搜索时，Hadoop的计算引擎是MapReduce。但是对Map
尚学先生·2024-01-28 11:19

Hive常见问题汇总

Hive和Hadoop的关系Hive构建在Hadoop之上，HQL中对查询语句的解释、优化、生成查询计划是由Hive完成的所有的数据都是存储在Hadoop中查询计划被转化为MapReduce任务，在Hadoop
不加班程序员·2024-01-28 09:37

Hive面试题*精选*！附答案！！！

从本质上讲：Hive是讲HQL语句转换成MapReduce程序的的一个工具2.什么是数据仓库数据仓库是一个面向主题的，集成的，相对稳定的，反映历史变化的数据的集合，用于支持管理角色3.简单说说M
yhy_only·2024-01-28 07:36

hive面试题总结（大数据面试）

可以将sql语句转化为MapReduce任务进行运行。Hive提供了一系列的工具，可以用来进行数据提取转化加载（ETL），这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。
404个问号·2024-01-28 07:02

hive面试题

本质上是将SQL转换为MapReduce或者spark来进行计算，数据是存储在hdfs上，简单理解来说hive就是MapReduce的一个客户端工具。补充1：你可以说一下HQL转换为MR的任务流程吗？
韩顺平的小迷弟·2024-01-28 07:29

YARN 工作原理

其二、MapReduce将Hadoop1时代的JobTracker中的资源管理及任务生命周期管理拆分成两个独立的组件，资源管理对应ResourceManager，任
无羡爱诗诗·2024-01-27 13:43

2021-03-07

HDFS=====>解决存储问题·MapReduce=====>解决计算问题·Yarn=====>资源协调者·Zookeeper=====>分布式应用程序协调服务·Flume=====>日志收集系统·Hive
残月冷无声·2024-01-27 10:39

深入浅出hdfs-hadoop基本介绍

DougCutting开发的开源网络搜索引擎，这个项目刚开始的目标是为了更好的做搜索引擎，后来Google发表了三篇未来持续影响大数据领域的三架马车论文：GoogleFileSystem、BigTable、Mapreduce
大数据之家·2024-01-27 10:03

Hadoop三大核心组件，hadoop原理

HadoopMapReduce分布式计算框架一.HDFS1.HDFS概述HDFS是google三大论文之一的GFS的开源实现，是一个高度容错性的系统，适合部署
你敢和我比剑吗·2024-01-27 09:03

Hadoop2.0架构及其运行机制，HA原理

文章目录一、Hadoop2.0架构1.架构图2.HA1)NameNode主备切换2)watcher监听3)脑裂问题3.组件1.HDFS2.MapReduce3.Yarn1.组件2.调度流程一、Hadoop2.0
Toner_唐纳·2024-01-27 09:30

Hadoop 原理及架构详解

视频网址：01-课程内容大纲与学习目标_哔哩哔哩_bilibili一、基础概念1、版本架构变迁2、集群简介主要包括两个集群：HDFS、YARN（MapReduce是计算框架，是代码层面的）这两个集群逻辑上分离
Should·L·2024-01-27 09:25

聊聊PowerJob的MapReduceProcessor

序本文主要研究一下PowerJob的MapReduceProcessorMapReduceProcessorpublicinterfaceMapReduceProcessorextendsMapProcessor
hello_ejb3·2024-01-27 07:56

Hadoop-MapReduce-MRAppMaster启动篇

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、上下文在上一篇中已经将到：作业提交到ResourceManager，那么对于该Job第一个容器（MRAppMaster）是怎么启动的呢？接下来我们一起来看看三、结论MRJobConfig是一个MRJob的配置，里面包含了Map、Reduce、Com
隔着天花板看星星·2024-01-27 07:20

1分钟了解基于Hadoop的数据仓库工具Hive(附超实用示例)

Hadoop构建的一套数据仓库分析系统，它提供了丰富的SQL查询方式来分析存储在Hadoop分布式文件系统中的数据：可以将结构化的数据文件映射为一张数据库表，并提供完整的SQL查询功能；可以将SQL语句转换为MapReduce
yuyuyuyo·2024-01-27 05:53

Hive调优策略

影响Hive效率的不仅仅是数据量过大;数据倾斜、数据冗余、job（小文件多）或I/O过多、MapReduce分配不合理等因素都对Hive的效率有影响。
奋斗的蛐蛐·2024-01-26 23:24

总结JS数组的几十种方法

push尾部删除添加unshift和shift头部删除添加sort排序reverse反转splice截取新增数据copyWithin将数组得一部分赋值到另一个位置fill填充不改变原数组filter数据过滤mapreduce
前端怎么个事·2024-01-26 23:19

大数据开发必备工具——Hadoop及整体架构介绍

它由几个关键的组件组成，其中最核心的是Hadoop分布式文件系统（HDFS）和MapReduce计算模型。
love6a6·2024-01-26 21:03

hadoop-MR

.MR执行原理1.MAP阶段在这里插入图片描述2.Reducer在这里插入图片描述3.shuffle阶段在这里插入图片描述2.实操1.导入maven配置org.apache.hadoophadoop-mapreduce-client-common2.7.1org.apache.hadoophadoop-mapreduce-client-core2.7.12
炽热_3a57·2024-01-26 19:06

指导手册05：MapReduce编程入门

指导手册05：MapReduce编程入门Part1:使用Eclipse创建MapReduce工程操作系统：Centos6.8,hadoop2.6.4情景描述：因为Hadoop本身就是由Java开发的，所以通常也选用
weixin_30655219·2024-01-26 17:56

搭建Hive3.x并整合MySQL8.x存储元数据

Hive简介Hive官方文档：https://cwiki.apache.org/confluence/display/HiveHive产生的背景：在使用MapReduce进行编程的时候，会发现实现一个简单的功能例如
端碗吹水·2024-01-26 16:06

Apache 辅助系统工具

一丶ApacheSqoop1.Sqoop的介绍：Sqoop的工作机制是将导入或者导出的命令翻译成MapReduce实现，Sqoop可以理解为：SQL到Hadoop或者Hadoop到SQL2.Sqoop的安装配置文件修改
月初，·2024-01-26 11:16

大数据技术之Spark

1.2SparkandHadoopHadoop的MapReduce是大家广为熟知的计算框架，那为什么咱们还要学习新的计算框架Spark呢，这里简单说一下Spark和Hadoop的关系。
严同学正在努力·2024-01-25 21:38

hadoop 问题集

1.org.apache.hadoop.yarn.exceptions.InvalidAuxServiceException:TheauxService:mapreduce_shuffledoesnotexistyarn
Pure_Eyes·2024-01-25 17:18

CompletableFuture的thenCombine结果组合用法实例

有种大数的MapReduce的思想。
友谊之路·2024-01-25 13:20

上万字详解Spark Core（建议收藏）

原因1：优秀的数据模型和丰富计算抽象Spark产生之前，已经有MapReduce这类非常成熟的计算系统存在了，并提供了高层次的API(map/reduce)，把计算运行在集群中并提供容错能力，从而实现分布式计算
废柴程序员·2024-01-25 09:06

Hadoop-MapReduce使用说明

一、MapReduce是什么？MapReduce是一个开源的分布式软件框架，可以让你很容易的编写程序（继承Mapper和Reducer，重写map和reduce方法）去处理大数据。
隔着天花板看星星·2024-01-25 09:52

Hadoop-MapReduce-源码跟读-客户端篇

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、从WordCount进入源码用idea将源码加载进来后，找到org.apache.hadoop.examples.WordCount类（快捷方法：双击Shift输入WordCount）/***LicensedtotheApacheSoftwareF
隔着天花板看星星·2024-01-25 09:52

Hadoop-MapReduce-跟着日志理解整体流程

一、数据准备viinput_01.txtviinput_02.txtviinput_03.txt文本内容如下：-----------------input_01.txt----------------javascalapythonc++javajsgogovbaccc++javascalapythonphpcsshtmljsjavajavascalavbac#.netRRRjava--------
隔着天花板看星星·2024-01-25 09:49

HBase学习五：运维排障之备份与恢复

copyTable工具通过MapReduce程序全表扫描待备份表数据并写入另一个集群。存在下面问题1、备份
Studying！！！·2024-01-25 09:49

Hive运行机制与使用

hive介绍hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行。
小猪Harry·2024-01-25 05:09

JS进阶-内置构造函数（二）

静态方法就是只有构造函数Object可以调用的）Object.keysObject.valuesObject.assign•Array1.数组常见实例方法-核心方法编辑forEach()filter()mapreduce
smilehjl·2024-01-25 00:57

Spark基本架构及原理

Hadoop和Spark的关系Spark运算比Hadoop的MapReduce框架快的原因是因为Hadoop在一次MapReduce运算之后,会将数据的运算结果从内存写入到磁盘中,第二次Mapredue
李飞_fd28·2024-01-24 20:50

通过hadoop jar命令运行提交MapReduce到YARN中

实现Wordcount大概流程：给定数据输入的路径，给定结果输出的路径；将输入路径内的数据中的单词进行计数，将结果写到输出路径如下：在hadoop下找hadoop-mapreduce-examples-
%HelloWorld%·2024-01-24 13:28

MapReduce配置 & YARN集群部署

1：编辑mapred-env.sh；添加如下配置#设置jdk路径exportJAVA_HOME=/opt/module/jdk#设置JobHistoryServer进程内存为1GexportHADOOP_JOB_HISTORYSERVER_HEAPSIZE=1000#设置日志级别为INFOexportHADOOP_MAPRED_ROOT_LOGGER=INFO,RFA2:编辑mapred-site
%HelloWorld%·2024-01-24 13:28

Hive 优化总结

Hive优化本质：HDFS+MapReduce问题原因：倾斜：分区：有的分区没有数据，有的分区数据堆积。(若按天分区，每一天数据差别大就叫倾斜。)
Byyyi耀·2024-01-24 10:25

技术方案评审

from:http://www.infoq.com/cn/news/2012/02/MapReducePatterns新年开始，大部分公司都在启动大量新功能的规划及设计、技术人员同时在设计对应实现方案、
sunvince·2024-01-24 01:06

MapReduce案例（五）

案例一：求订单的最大金额1、数据源Order_000001Pdt_01223.8Order_000001Pdt_0525.8Order_000002Pdt_03522.8Order_000002Pdt_04122.4Order_000002Pdt_06722.8Order_000003Pdt_02122.8Order_000003Pdt_07222.8其中第一列是订单编号，第二列是商品编号，第三列
maplea2012·2024-01-23 15:10

MapReduce数据处理流程(四)

一图胜千言①MapTask调用run方法②③循环调用LineRecordReader，读取文件中的数据，具体读取方式取决于InputFormat的类型（默认是TextInputFormat）④返回数据，其中key为数据偏移量，value为某一行数据⑤⑥⑦读取到的数据，序列化后写入环形缓冲区。写满80%之后，环形缓冲区会发生溢出，在这之前需要按照Key对数据进行排序，然后将数据写出到本地磁盘（包含k
maplea2012·2024-01-23 15:09

MapReduce概述

文章目录1.分布式系统的驱动力和挑战2.分布式系统的抽象和实现工具3.可扩展性、可用性、一致性4.MapReduce基本工作方式5.Map函数和Reduce函数1.分布式系统的驱动力和挑战分布式系统的核心是通过网络来协调
小帅吖·2024-01-23 11:06

大厂大数据面试题收录（1）

8.Hivesql到MapReduce转化的流程清楚吗？
后季暖·2024-01-23 11:49

多核编程（erlang 学习笔记）(二)

首先，我们要来看看高阶函数mapreduce，然后我们会在一个简单的索引引擎中使用这种技术。
夲撻鲎龇·2024-01-23 10:22

大数据分布式实时大数据处理框架Storm，入门到精通！

首先，Storm由Twitter开源，它解决了HadoopMapReduce在处理实时数据方面的高延迟问题。
知识分享小能手·2024-01-23 09:42

Hadoop基本介绍

1、Hadoop的整体框架Hadoop由HDFS、MapReduce、HBase、Hive和ZooKeeper等成员组成，其中最基础最重要元素为底层用于存储集群中所有存储节点文件的文件系统HDFS（HadoopDistributedFileSystem
w蕾丝·2024-01-23 08:53

Spark运行流程

Spark相对于Hadoop的优势Hadoop虽然已成为大数据技术的事实标准，但其本身还存在诸多缺陷，最主要的缺陷是其MapReduce计算模型延迟过高，无法胜任实时、快速计算的需求，因而只适用于离线批处
Cool_Pepsi·2024-01-23 02:12

Hadoop -- HDFS

1.什么是Hadoophadoop中有3个核心组件：分布式文件系统：HDFS——实现将文件分布式存储在很多的服务器上分布式运算编程框架：MAPREDUCE——实现在很多机器上分布式并行运算分布式资源调度平台
Cool_Pepsi·2024-01-23 02:42

MapReduce实战：将统计结果按照手机归属地不同省份输出到不同文件中（Partitioner）

1.需求：将上次实战(统计手机号耗费的总上行流量和下行流量)的统计结果按照手机归属地不同省份输出到不同文件中（分区）2.分析：(1)Mapreduce中会将map输出的kv对，按照相同key分组，然后分发给不同的
Movle·2024-01-22 20:05

hadoop之mapreduce教程+案例学习（一）

第1章MapReduce概述目录第1章MapReduce概述1.1MapReduce定义MapReduce是一个分布式运算程序的编程框架，是用户开发“基于Hadoop的数据分析应用”的核心框架。
菜瓜技术联盟·2024-01-22 19:04

Hadooop和Hbase是什么关系

HBase通过Hadoop的HDFS(Hadoop分布式文件系统)和MapReduce实现了水平扩展和处理分布式数据。本文将详细介绍hbase和hadoop有什么关系。
wwwyx12138·2024-01-22 17:50
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他