reduce

大厂大数据面试题收录（1）

8.Hivesql到MapReduce转化的流程清楚吗？
后季暖·2024-01-23 11:49

多核编程（erlang 学习笔记）(二)

首先，我们要来看看高阶函数mapreduce，然后我们会在一个简单的索引引擎中使用这种技术。
夲撻鲎龇·2024-01-23 10:22

大数据分布式实时大数据处理框架Storm，入门到精通！

首先，Storm由Twitter开源，它解决了HadoopMapReduce在处理实时数据方面的高延迟问题。
知识分享小能手·2024-01-23 09:42

Hadoop基本介绍

1、Hadoop的整体框架Hadoop由HDFS、MapReduce、HBase、Hive和ZooKeeper等成员组成，其中最基础最重要元素为底层用于存储集群中所有存储节点文件的文件系统HDFS（HadoopDistributedFileSystem
w蕾丝·2024-01-23 08:53

react+redux tab切换不覆盖之前的数据

import{Reducer}from'redux';import{Effect}from'@/models/connect';exporttypeDType='0'|'1'|'2'|'3';exportinterfaceIState
mollymeaw·2024-01-23 07:08

Spark运行流程

Spark相对于Hadoop的优势Hadoop虽然已成为大数据技术的事实标准，但其本身还存在诸多缺陷，最主要的缺陷是其MapReduce计算模型延迟过高，无法胜任实时、快速计算的需求，因而只适用于离线批处
Cool_Pepsi·2024-01-23 02:12

Hadoop -- HDFS

1.什么是Hadoophadoop中有3个核心组件：分布式文件系统：HDFS——实现将文件分布式存储在很多的服务器上分布式运算编程框架：MAPREDUCE——实现在很多机器上分布式并行运算分布式资源调度平台
Cool_Pepsi·2024-01-23 02:42

MapReduce实战：将统计结果按照手机归属地不同省份输出到不同文件中（Partitioner）

1.需求：将上次实战(统计手机号耗费的总上行流量和下行流量)的统计结果按照手机归属地不同省份输出到不同文件中（分区）2.分析：(1)Mapreduce中会将map输出的kv对，按照相同key分组，然后分发给不同的
Movle·2024-01-22 20:05

机器学习大作业——基于DEAP数据集的脑电信号识别（DNN+CNN）

网络模型代码实现三、模型训练与测试3.1数据预处理3.2模型训练与测试3.2.1训练前期准备3.2.2训练模型的过程四、实验结果与分析4.1二元价态分类结果五、实验总结附录：实验代码prepare_deap.pyreduce_dim.pyd
长安er·2024-01-22 20:22

hadoop之mapreduce教程+案例学习（一）

第1章MapReduce概述目录第1章MapReduce概述1.1MapReduce定义MapReduce是一个分布式运算程序的编程框架，是用户开发“基于Hadoop的数据分析应用”的核心框架。
菜瓜技术联盟·2024-01-22 19:04

Hadooop和Hbase是什么关系

HBase通过Hadoop的HDFS(Hadoop分布式文件系统)和MapReduce实现了水平扩展和处理分布式数据。本文将详细介绍hbase和hadoop有什么关系。
wwwyx12138·2024-01-22 17:50

Spark简介

它是一个快速通用的集群计算平台.Spark扩展了流行的MapReduce模型.Spark提供的主要功能之一就是能够在内存中运行计算，但对于在磁盘上运行的复杂应用程序，系统也比MapReduce更有效。
shinelord明·2024-01-22 17:17

2022-03-11 python 高阶函数

map/reducemap接受两个参数，一个是函数，一个是Iterable，函数作用在序列的每一个元素上，并把结果作为Iterable返回。返回的是一个迭代器。
不懂不问·2024-01-22 13:37

Python unpickle 命令执行漏洞复现总结

pickle允许任意一个对象去定义一个__reduce__方法来声明怎么去序列化这个对象。这个方法返回一个字符串或者元组来描
yuQnY·2024-01-22 10:46

Spark groupByKey和reduceByKey

一、从shuffle方面看两者性能groupByKey和reduceByKey都是ByKey系列算子，都会产生shuffle。
喵星人ZC·2024-01-22 09:23

JavaScript递归函数如何匹配上下级id和pid的数据（for...of,foreach.reduce）

目录一、for...of二、forEach三、reduce递归函数是一种在编程中常用的方法，用于解决一些需要重复操作的问题。
代码真的养发·2024-01-22 09:37

Hadoop基本概论

大数据应用场景二、Hadoop概述1.Hadoop定义2.Hadoop发展历史3.Hadoop发行版本4.Hadoop优势5.Hadoop1.x/2.x/3.x6.HDFS架构7.Yarn架构8.MapReduce
LzYuY·2024-01-22 08:25

swift中高阶函数map、flatMap、filter、reduce

1、map：对数组中的每一个元素执行一次闭包中的处理2、flatMap：页map一样，只是flatMap返回后的数组中不存在nil，同时它会把Optional解包；flatMap还能把数组中存有数组的数组（二维数组、N维数组）一同打开变成一个新的数组；flatMap也能把两个不同的数组合并成一个数组，这个合并的数组元素个数是前面两个数组元素个数的乘积。3、filter：可以对数组中的元素按照闭包中
iOS坚持者·2024-01-22 02:41

数组求最大值&最小值

varmax=arr[0]for(vari=0;i导致第一个数与最后一个数组比较大小max=Math.max(max.arr[i])}console.log(max);求最大值方式二varmax=arr.reduce
流星绝尘·2024-01-21 20:19

Hive SQL的编译过程（转）

通过向社区的咨询和自己的努力，在解决这些问题的同时我们对Hive将SQL编译为MapReduce的过程有了比较深入
愤怒的谜团·2024-01-21 20:40

MapReduce任务输出到redis中

主要包括redis连接池，重写FileOutputFormat函数。redis连接池/***redis连接池*/publicclassRedisHelper{privatestaticJedisPooljedisPool;static{init();}publicsynchronizedstaticJedisgetJedis(){if(jedisPool!=null){Jedisresource=
AnillegalName·2024-01-21 10:13

过滤Echart

constfilterData=res.data.fiveYear.reduce((pre,obj)=>{constitem=pre.find((o)=>o.name===obj.name)
稚嫩的老大爷·2024-01-21 09:08

02-黑马程序员大数据开发：分布式计算和分布式资源调度

分布式计算模式：分散->汇总模式（MapReduce）和中心调度->步骤执行模式（ApacheSpark,Flink;比较复杂，中间会有数据交换的过程）；2.MapReduce概述MapReduce是Hadoop
S1406793·2024-01-21 08:52

03-黑马程序员大数据开发：Apache Hive

ApacheHive概述1.目的：了解什么是分布式SQL计算；了解什么是ApacheHive2.使用Hive处理数据的好处操作接口采用类SQL语法，提供快速开发的能力（简单、容易上手)底层执行MapReduce
S1406793·2024-01-21 08:21

大数据技术汇总

HadoopHadoop入门概述Hadoop运行模式介绍HadoopHDFS的运行流程HadoopMapReduce的运行流程Hadoopyarn的运行流程Hadoop内HDFS、MapReduce和YARN
转身成为了码农·2024-01-21 07:41

Spark：SparkSQL与Hive on Spark（Shark）的比较

简要介绍了SparkSQL与HiveonSpark的区别与联系一、关于Spark简介在Hadoop的整个生态系统中，Spark和MapReduce在同一个层级，即主要解决分布式计算框架的问题。
花和尚也有春天·2024-01-21 06:17

Spark面试题

spark的不同点（为什么spark更快）♥♥♥  shuffle都是需要落盘的，因为在宽依赖中需要将上一个阶段的所有分区数据都准备好，才能进入下一个阶段，那么如果一直将数据放在内存中，是非常耗费资源的MapReduce
韩顺平的小迷弟·2024-01-21 06:53

Linux-Hadoop集群配置

hadoop（1）编辑Hadoop环境配置文件-hadoop-env.sh（2）编辑Hadoop核心配置文件-core-site.xml（3）编辑HDFS配置文件-hdfs-site.xml（4）编辑MapReduce
人生苦短@我用python·2024-01-21 05:44

大数据技术原理及应用课实验5 :MapReduce初级编程实践

实验目的二、实验平台三、实验步骤（每个步骤下均需有运行截图）（一）编程实现文件合并和去重操作（二）编写程序实现对输入文件的排序（三）对给定的表格进行信息挖掘四、实验总结五、优化及改进（选做）实验5MapReduce
Blossom i·2024-01-21 02:20

vue基础--计算商品的总价格

在父组件中通过计算属性动态把总价格计算出来，2、通过父向子传值，通过自定义属性，把值传给子组件父组件：1、使用计算属性computed计算总价格：1.1、先用filter过滤出数组中所有选中的商品（根据选中的状态知道选中的商品）1.2、再用reduce
Forever 女孩·2024-01-21 02:25

111.Parquet表的使用

：数据模型:Avro,Thrift,ProtocolBuffers,POJOs查询引擎:Hive,Impala,Pig,Presto,Drill,Tajo,HAWQ,IBMBigSQL计算框架:MapReduce
大勇任卷舒·2024-01-21 02:33

Python高阶函数使用总结！理解Python的数据结构和提高数据 ( 一 )

如有问题请及时联系我们以作处理以下文章来源于腾讯云作者：昱良本文结合各种实际的例子详细讲解了Python5个内建高阶函数的使用，能够帮助理解Python的数据结构和提高数据处理的效率，这5个函数分别是：mapreducefiltersorted
孤城暮雨丶·2024-01-21 00:50

Spark(一): 基本架构及原理

是一个围绕速度、易用性和复杂分析构建的大数据处理框架，最初在2009年由加州大学伯克利分校的AMPLab开发，并于2010年成为Apache的开源项目之一，与Hadoop和Storm等其他大数据和MapReduce
贝賏赑钡·2024-01-20 22:46

分布式系统中JobHistoryServer服务和Timeline Server服务的配置和简要了解概述（不详细阐述，小服务模块）

一.JobHistoryServer服务概述缺陷：注意JobHistoryServer只存储已经完成的MapReduce应用的作业历史
科班你宇哥·2024-01-20 21:38

11.Join的MapReduce实现

Join在MapReduce中的实现一、概述tips:Hive:MapReduce/Spark巧用explain查看语法树常见的面试题:描述如何使用MapReduce来实现join功能：考察点MapReduce
哈哈大圣·2024-01-20 18:40

倒计时3天

1.今天把javaweb界面弄出来用htmljspservlet2.明天弄mapreduce3.建库！！把文件信息用户信息日志信息放到数据库4.下周一要开始翻译文献和论文为期9天
0be47bf15d8d·2024-01-20 18:16

Hive性能优化

原因是mapreduce作业初始化的时间是比较长的。sum,count,max,min等UDAF，不怕数据倾斜问题,hadoop在map端的汇总合并优化，使数据倾斜不成问题。
La victoria·2024-01-20 13:23

Hive调优一文打尽

影响Hive效率的几乎从不是数据量过大，而是数据倾斜、数据冗余、Job或I/O过多、MapReduce分配不合理等等。
跟着大数据和AI去旅行·2024-01-20 13:16

如何将开发环境的 Spring Boot 应用程序内存降低 40% 以上

本文翻译自：https://medium.com/@satanjim/how-we-reduced-the-memory-consumption-of-spring-boot-application-over
waynaqua·2024-01-20 13:42

阿里云 E-MapReduce 全面开启 Serverless 时代

本文整理自阿里云智能EMR负责人李钰（花名：绝顶）在2023云栖大会开源大数据专场的分享，演讲主题为阿里云E-MapReduce全面开启Serverless时代。
Apache Spark中国社区·2024-01-20 12:22

Hadoop基础知识

狭义上说，Hadoop指Apache这款开源框架，它的核心组件有：HDFS（分布式文件系统）：解决海量数据存储YARN（作业调度和集群资源管理的框架）：解决资源任务调度MAPREDUCE（分布式运算编程框架
坐在风口上de猪·2024-01-20 10:10

MapReduce基础知识

MapReduce1、介绍MapReduceMapReduce的思想核心是“分而治之”，适用于大量复杂的任务处理场景（大规模数据处理场景）。
坐在风口上de猪·2024-01-20 09:18

苹果“ Sherlocks”一个应用程序意味着什么？

Perhapsyou’vereadthatF.lux,whichreduceseyestrainandhelpsyousleep,isbeing“Sherlocked”laterthismonth.Whatdoesthatmean
cum88284·2024-01-20 08:00

Python5个内建高阶函数的使用

本文结合各种实际的例子详细讲解了Python5个内建高阶函数的使用，能够帮助理解Python的数据结构和提高数据处理的效率，这5个函数分别是：mapreducefiltersorted/sortzipimage
玄机L·2024-01-20 06:46

Swift 之函数式编程、协议编程、响应式编程

常见方法vararr=[1,2,3,4]//[2,4,6,8]vararr2=arr.map{$0*2}//[2,4]vararr3=arr.filter{$0%2==0}//10vararr4=arr.reduce
Abner_XuanYuan·2024-01-20 05:27

javascript中数组遍历的方法及特点性能

vararr=[1,2,3,4,5];for(vari=0;i2;});console.log(filteredArray);5.reduce
滋滋冒you·2024-01-20 04:58

MIT 6.824 分布式系统 lab1 MapReduce 遇到死锁问题

blog.csdn.net/weixin_45938441/article/details/124018485问题描述目前处于编写worker与coordinate进行RPC通信的环节，worker中的Map和Reduce
花里胡哨的菜只因·2024-01-20 03:55

SAP Spartacus B2B User 页面的数据读取逻辑设计

模块，从设计上说，位于Spartacus工程项目的feature-libs文件夹下的organization/administration:其中Component存放UI，core里存放了store，reducer
JerryWang_汪子熙·2024-01-20 02:46

JavaScript 数组的空位

forEach(),filter(),reduce(),every()和some()都会跳过空位。map()会跳过空位，但会保留这个值join(
小小_绿·2024-01-19 23:02

某汽车外包-大数据开发-面试

1.自我介绍2.hivesql的执行流程3.mapreduce的原理。4.spark的提交参数有那些命令5.sparkrdd,dataframe,dataSe解释一下。
劝学-大数据·2024-01-19 16:28
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他