+reduce

Spark---行动算子RDD

文章目录1.行动算子1.1reduce1.2collect1.3first1.4count1.5take1.6takeOrdered1.7aggregate1.8fold1.9countByKey1.10countByValue1.11save
肥大毛·2024-01-11 07:03

spark基础--学习笔记

1spark介绍1.1spark概念ApacheSpark是专为大规模数据处理而设计的快速通用的分布式计算引擎，是开源的类HadoopMapReduce的通用分布式计算框架。
祈愿lucky·2024-01-11 07:58

Hadoop之mapreduce参数大全-5

101.指定任务启动过程中允许的最大跳过尝试次数mapreduce.task.skip.start.attempts是HadoopMapReduce框架中的一个配置属性，用于指定任务启动过程中允许的最大跳过尝试次数
OnePandas·2024-01-11 07:45

hive sql 和 spark sql的区别

HiveSQL和SparkSQL都是用于在大数据环境中处理结构化数据的工具，但它们有一些关键的区别：底层计算引擎：HiveSQL：Hive是建立在Hadoop生态系统之上的，使用MapReduce作为底层计算引擎
深度学习研究员·2024-01-11 07:08

Phoenix基本使用

1.2Phoenix特点容易集成：如Spark，Hive，Pig，Flume和MapReduce。
有语忆语·2024-01-10 22:30

81、Spark Streaming之DStream以及基本工作原理

并且能够使用类似高阶函数的复杂算法来进行数据处理，比如map、reduce、join和window。处理后的数据可以
ZFH__ZJ·2024-01-10 20:43

python 中的函数式编程

高阶函数map/reducepython里面内建了map（）和reduce（）函数：现在知道有一个集合list[1,2,3,4,5]，现在要用函数f(x)=x2作用在这个集合上，这时候就可以用map（）
小漫画ing·2024-01-10 18:14

RDD算子——Action 操作

reducereduce和reduceByKey有什么区别：reduce是一个Action算子，reduceByKey是一个转换算子假设一个RDD里面有一万条数据，大部分Key是相同的，有十个不同的Key
我像影子一样·2024-01-10 16:44

SparkCore阶段练习

阶段练习查看数据集格式明确需求明确步骤读取文件抽取需要的列以年月为基础，进行reduceByKey统计Dongsi地区的PM排序获取结果编码拷贝数据集data.rar（已上传资源——SparkCore阶段练习数据集
我像影子一样·2024-01-10 16:44

5.MapReduce之Combiner-预聚合

通常在Reducer端合并，shuffle的数据量比在Mapper端要大，根据业务情况及数据量极大时，将大幅度降低效率；且预聚合这种方式也是有其缺点，不能改变业务最终的逻辑，否则会出现，计算结果不正确的情况
流月up·2024-01-10 12:49

3.MapReduce实践-单词统计

目录概述MapReduce核心进程MapReduce编程规范单词统计案例源码结束概述官网文档速递MapReduce：分布式计算框架通常情况下，一个MR作业是有2个部分构成：MapTaskReduceTask
流月up·2024-01-10 12:48

4.MapReduce 序列化

目录概述序列化序列化反序例化java自带的两种Serializable非Serializablehadoop序例化实践分片/InputFormat&InputSplit日志结束概述序列化是分布式计算中很重要的一环境，好的序列化方式，可以大大减少分布式计算中，网络传输的数据量。序列化序列化对象-->字节序例：存储到磁盘或者网络传输MR、Spark、Flink：分布式的执行框架必然会涉及到网络传输ja
流月up·2024-01-10 12:46

关于jdk11新特性流操作的研究

流管道由源（例如集合、数组、生成器函数或I/O通道）组成;后跟零个或多个中间操作，例如Stream.filter或Stream.map;以及Stream.forEach或Stream.reduce等
鱼小旭·2024-01-10 11:10

torch.nn.CrossEntropyLoss()

torch.nn.CrossEntropyLoss(weight=None,size_average=None,ignore_index=-100,reduce=None,reduction='mean
一壶浊酒..·2024-01-10 10:36

【AI】Pytorch 系列：学习率设置

b.自适应调整：自适应调整学习率ReduceLROnPlateau。c.自定义调整：自定义调整学习率LambdaLR。
路途…·2024-01-10 10:30

深入理解 Flink（一）Flink 架构设计原理

大数据分布式计算引擎设计实现剖析MapReduceMapReduce执行引擎解析MapReduce的组件设计实现图Spark执行引擎解析Spark相比于RM的真正优势的地方在哪里：（Simple、Fast
我很ruo·2024-01-10 08:57

Hadoop之mapreduce参数大全-4

76.指定在MapReduce作业中，哪些输出文件应该在任务失败时保留mapreduce.task.files.preserve.filepattern是HadoopMapReduce框架中的一个配置属性
OnePandas·2024-01-10 06:01

Hadoop之mapreduce参数大全-1

1.设置Map/Reduce任务允许使用的最大虚拟内存大小mapred.task.maxvmem是MapReduce的一个配置参数，用于指定每个Map/Reduce任务允许使用的最大虚拟内存大小（以字节为单位
OnePandas·2024-01-10 06:00

Hadoop之mapreduce参数大全-2

25.指定在Reduce任务在shuffle阶段的fetch操作中重试的超时时间mapreduce.reduce.shuffle.fetch.retry.timeout-ms是ApacheHadoopMapReduce
OnePandas·2024-01-10 06:00

Hadoop之mapreduce参数大全-3

51.指定Shuffle传输过程中可以同时连接的节点数mapreduce.shuffle.max.connections是HadoopMapReduce中的一个配置参数，用于指定Shuffle传输过程中可以同时连接的节点数
OnePandas·2024-01-10 05:57

Java大数据学习~Hadoop初识三Yarn模式

一个HDFS,一个MapReduce,还有就是我们今天要看的YARN。2.0以前的Hadoop在2.0以前的hadoop中是没有Yarn这个模式管理的。大部分都是独自作战。
胖琪的升级之路·2024-01-10 05:55

给生活减负的4R原则

很多人都知道，让生活更环保更简单的三个原则：减少消耗（reduce）、重复使用（reuse）和回收利用（recycle）。由于这三个原则对应的英文单词都是以R开头，因此也被称作“3R”原则。
静远庭·2024-01-10 04:50

1.2.2.5MapReduce实例

总目录:https://www.jianshu.com/p/e406a9bc93a9Hadoop-子目录：https://www.jianshu.com/p/9428e443b7fd天气案例经典案例myclient.java:客户端packagecom.SL.tq;importjava.io.IOException;importorg.apache.hadoop.conf.Configuratio
寒暄_HX·2024-01-10 00:53

大数据 MapReduce如何让数据完成一次旅行？

专栏上一期我们聊到MapReduce编程模型将大数据计算过程切分为Map和Reduce两个阶段，先复习一下，在Map阶段为每个数据块分配一个Map计算任务，然后将所有map输出的Key进行合并，相同的Key
善守的大龙猫·2024-01-10 00:31

vue computed计算不到数组或者对象的变化

..childQuestionItems:[...{...score:6}]}...computed:{totalScore(){returnthis.form.childQuestionItems.reduce
小和尚敲木头·2024-01-10 00:59

笔记：分布式大数据技术原理（一）Hadoop 框架

Hadoop中有3个核心组件：分布式文件系统：HDFS——实现将文件分布式存储在很多的服务器上分布式运算编程框架：MapReduce
WeeeicheN·2024-01-09 22:17

笔记：分布式大数据技术原理（三）Spark

是一个围绕速度、易用性和复杂分析构建的大数据处理框架，最初在2009年由加州大学伯克利分校的AMPLab开发，并于2010年成为Apache的开源项目之一，与Hadoop和Storm等其他大数据和MapReduce
WeeeicheN·2024-01-09 22:17

大数据技术原理与应用学习笔记（八）

Hadoop的优化与发展Hadoop1.0到Hadoop2.0不断完善的Hadoop生态系统HDFS2.0新特性HDFSHA（高可用性）HDFSFederationYARN——新一代资源管理调度框架MapReduce1.0
Ragnaros the Firelord·2024-01-09 22:46

Java8 Stream集合的筛选、归约、分组、聚合讲解

3.1Optional3.2案例3.2.1遍历/匹配（foreach/find/match）3.2.2筛选（filter）3.2.3聚合（max/min/count)3.2.4映射(map/flatMap)3.2.5归约(reduce
码灵·2024-01-09 22:13

判断是否留空座位 电影票选座

lettempList=seatList.value.reduce((acc,seat)=>{constrowIndex=seat.gRow-1;if(!
一只小阿乐·2024-01-09 18:41

机器学习分布式架构

https://zhuanlan.zhihu.com/p/82116922https://zhuanlan.zhihu.com/p/81784947大数据架构1.批处理MapReduce无法应对实时不确定量的小样本处理
小幸运Q·2024-01-09 17:27

[超超超超超超详细] Linux Centos7搭建Hadoop集群及运行MapReduce分布式集群

版本：Centos7Hadoop3.2.0JDK1.8虚拟机信息：内存3.2G处理器2*2内存50GISO：Centos-7-x86_64-DVD-2009一、在虚拟机上搭建LinuxCentos7略二、选择root登录并管理防火墙systemctlstopdirewalld#关闭防火墙systemctldisablefirewalld#关闭开机自启systemctlstatusfirewalld
没事多学习_Qi·2024-01-09 17:38

Spark---RDD(Key-Value类型转换算子)

文章目录1.RDDKey-Value类型1.1partitionBy1.2reduceByKey1.3groupByKeyreduceByKey和groupByKey的区别分区间和分区内1.4aggregateByKey
肥大毛·2024-01-09 15:23

基于spark的Hive2Pg数据同步组件

同时sqoop的mapreduce任务对数据表的分割以及数据文件也会有一定的不均衡性。为了弥补这些问题，开发了基于
zcc_0015·2024-01-09 15:53

Hive基础知识（一）：Hive入门与Hive架构原理

2）Hive本质：将HQL转化成MapReduce程序（1）Hive处理的数据存储在HDFS（2）Hive分析数据底层的实现是MapReduce（3）执行程序运行在Yarn上2.Hive的
依晴无旧·2024-01-09 13:25

Hive基础知识笔记（含MySQL metastore伪分布式安装配置流程）

可以将结构化的数据文件映射成一张数据库表，将类SQL语句转换为MapReduce任务运行，几行查询语句
书忆江南·2024-01-09 13:52

Hive基础知识

2）其本质是将SQL语句转换为MapReduce/Spark程序进行运算，底层数据由HDFS分布式文件系统进行存储。3）可以理解Hive就是MapReduce/SparkSql的客户端。
巷子里的猫X·2024-01-09 13:52

Hive 基础知识

Hive是封装了MapReduce的操作，让用户可以通过写sql语句的方式，实现MapReduce操作。Hive基于一个统一的查询分析层，通过SQL语句的方式对HDFS上的数据进行查询、统计和分析。
辰阳星宇·2024-01-09 13:22

基于hadoop的hive数据仓库基础操作知识整理

Hive本质：将HQL转化成MapReduce程序Hive处理的数据存储在HDFSHive分析数据底层的实现是MapReduce执行程序运行在Yarn上1.2Hive的优
大包丫·2024-01-09 13:51

nccl cudaLaunch kernel

这次希望看一下，ncclAllReduce()中的ncclSum是如何转换成对应的cudaKernel来被执行到的。
Eloudy·2024-01-09 12:34

reduce、keys 、filter方法

reduce方法（ie9以下不支持）vararrString='abcdaabc';arrString.split('').reduce(function(res,cur,index,arr){res[
dayindayout·2024-01-09 11:17

面试 React 框架八股文十问十答第二期

Reduxstore收到action后，通过reducer函数处理，生成新的state。订阅了store的组件会收到新的state，从
程序员小白条·2024-01-09 10:53

【LeetCode】2626. 数组归约运算

数组归约运算题目题解题目给定一个整数数组nums、一个reducer函数fn和一个初始值init，返回通过依次对数组的每个元素执行fn函数得到的最终结果。
東方幻想郷·2024-01-09 07:29

MapReduce 初级编程实践

（一）编程实现文件合并和去重操作**对于两个输入文件，即文件A和文件B，请编写MapReduce程序，对两个文件进行合并，并剔除其中重复的内容，得到一个新的输出文件C。
cwn_·2024-01-09 06:20

Hive基本操作

Hive是类SQL语法的数据查询、计算、分析工具，执行引擎默认的是MapReduce，可以设置为Spark、Tez。Hive分内部表和外部表，外部表在建表的同时指定一个
X晓·2024-01-09 06:45

Hive中的四种排序

1.orderby全局排序，只有一个Reducer（多个reducer无法保证全局有序），会导致当输入规模较大时，消耗较长的计算时间hive.mapred.mode=strict模式下必须指定limit
Young_IT·2024-01-09 06:38

『HDFS』伪分布式Hadoop集群

博客引流本文是『Hadoop』MapReduce处理日志log(单机版)的旭文,maybe还有后续在搭建环境的时候发现很难搜到合适的教程，所以这篇应该会有一定受众伪分布式就是假分布式，假在哪里，假就假在他只有一台机器而不是多台机器来完成一个任务
gunjianpan·2024-01-09 04:31

JS reduce()方法详解，使用reduce数组去重

Array.reduce()使用经验：如果reduce有初始值，则reduce调用callback函数时第一次的cur为初始值，否则为数组的第一个值；acc为数组的一个值。
. . . . .·2024-01-09 01:39

JavaScript中reduce方法的详解

定义1.reduce()方法接收一个函数作为累加器，数组中的每个值（从左到右）开始缩减，最终计算为一个值。
叶落如梦星·2024-01-09 01:39

10 个值得掌握的 reduce 技巧

作为一个前端开发者，一定有接触过reduce函数，它是一个强大而实用的数组方法，熟练掌握reduce的使用可以在开发中提高开发效率和代码质量。
前端开发小陈·2024-01-09 01:06
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他