spark私房菜第16页

大数据之Flink的看了就可入门

2Flink对比SparkSpark是一种基于内存的

大数据的江湖·2024-01-22 19:56

大数据学习之Flink，10分钟带你初步了解Flink

流式数据处理的发展和演变1.流处理和批处理2.传统事务处理2.1传统事务处理架构编辑3.有状态的流处理4.Lambda架构5.新一代流处理器七、Flink的特性总结1.Flink的核心特性2.分层API八、FlinkVSSpark1

十二点的泡面·2024-01-22 19:23

Spark消费Kafka的两种方式

原理如何保证数据不丢失但是会导致数据重复问题优点缺点Direct(NoReceiver)方式code特点优点缺点介绍kafka版本，kafka0.8支持Receiver和DirectKafka版本大于等于0.10.0，且Spark

这个程序猿可太秀了·2024-01-22 17:57

AQE优化和源码

介绍AQE全称是AdaptiveQueryExecution，官网介绍如下PerformanceTuning-Spark3.5.0DocumentationAQE做了什么AQE是SparkSQL的一种动态优化机制

这个程序猿可太秀了·2024-01-22 17:56

Spark简介

1、什么是SparkSpark是大数据的调度，监控和分配引擎。

shinelord明·2024-01-22 17:17

spark web框架--play framework 安装与运行

目前网上关于playframework框架的安装配置都是低版本的，现就高版本问题进行编写：1、下载https://www.playframework.com/（1）play2.3之前的版本都是压缩包zip，解压后，命令行运行play旧版本，即早于2.2的Play版本打包在zip文件中。提供了play创建新应用程序、运行测试和运行应用程序的命令。（2）playframework高版本配置高版本的Pl

huazi99·2024-01-22 13:37

30、Spark内核源码深度剖析之Spark内核架构深度剖析

Spark内核架构深度剖析.png就上面这幅图，详细解释一下自己编写的Application，就是我们自己写的程序，拷贝到用来提交spark应用的机器，使用spark-submit提交这个Application

ZFH__ZJ·2024-01-22 12:43

48、Spark性能优化之性能优化概览

Spark性能优化概览由于Spark的计算本质是基于内存的，所以Spark性能程序的性能可能因为集群中的任何因素出现瓶颈：CPU、网络带宽、或者是内存。

ZFH__ZJ·2024-01-22 11:31

Spark - 升级版数据源JDBC2

>在spark的数据源中，只支持Append,Overwrite,ErrorIfExists,Ignore,这几种模式，但是我们在线上的业务几乎全是需要upsert功能的，就是已存在的数据肯定不能覆盖，

kikiki5·2024-01-22 10:41

Spark groupByKey和reduceByKey

我们通过简单的WC看看两者的区别groupByKey实现WCscala>valrdd=sc.parallelize(List(1,1,2,2,3,3)).map((_,1))rdd:org.apache.spark.rdd.RDD

喵星人ZC·2024-01-22 09:23

史上最全深度解析Flink内存管理--大数据技术

目前，大数据计算引擎主要使用Java或基于JVM的编程语言实现的，例如ApacheHadoop，ApacheSpark，ApacheDrill，ApacheFlink等。

大数据学习僧·2024-01-22 08:50

Flink是如何管理内存的

在讲Flink管理内存之前要了解下Flink为什么要自己实现内存管理一、Flink为什么要自己实现内存管理在大数据领域，大多数数据相关的开源框架（Hadoop、Spark、Storm）都是基于JVM运行的

Relian哈哈·2024-01-22 08:13

Spark写入kafka（批数据和流式）

Spark写入（批数据和流式处理）Spark写入kafka批处理写入kafka基础#spark写入数据到kafkafrompyspark.sqlimportSparkSession,functionsasFss

中长跑路上crush·2024-01-22 07:02

spark 入门教程

一、安装scala环境官网下载地址Download|TheScalaProgrammingLanguage,本次使用版本为sacla2.11.12,将压缩包解压至指定目录，配置好环境变量，控制台验证是否安环境是否可用：二、添加pom依赖创建一个maven项目1、添加scala的sdk依赖2.11.12org.scala-langscala-library${scala.version}org.sc

fengchengwu2012·2024-01-22 07:02

django基于spark的电影推荐系统(程序+开题)

因此，基于Spark的电影推荐系统的研究具有重

liu10665·2024-01-21 21:35

Spark读取Hbase内容

不啰嗦直接看代码//初始化Hbase的基本配置valhbaseConf=HBaseConfiguration.create()hbaseConf.set("hbase.zookeeper.quorum","地址")valscan=newScan();scan.addFamily(Bytes.toBytes("c"))//要读取的列簇scan.setTimeStamp(timeStamp)//指定一

小湘西·2024-01-21 20:11

Spark 读取ElasticSearch

不啰嗦先上代码/***初始化spark*/valsparkName="Read_ES"valsparkConf=newSparkConf().setAppName(sparkName).set("spark.serializer

小湘西·2024-01-21 20:11

中原焦点团队网络初级第25期张梦瑾坚持分享第92天

前两年的私房菜谱已经做腻了，今天尝试的菜都是第一次，但，反响火爆！

小腊八儿·2024-01-21 18:15

spark on yarn安装部署

sparkonyarn安装部署使用的三台主机名称分别为bigdata1，bigdata2，bigdata3。

佛系爱学习·2024-01-21 17:11

H2O Sparkling Water

什么是H2OSparklingWaterSparklingWater允许用户将快速，可扩展的H2O机器学习算法与Spark的功能相结合。

Liam_ml·2024-01-21 16:03

【Spark】Spark 运行架构--YARN-Cluster

YARN-Cluster模式启动类图YARN-Cluster实现原理YARN-Cluster作业运行调用图一、YARN-Cluster工作流程图image二、YARN-Cluster工作流程客户端通过spark-submit

w1992wishes·2024-01-21 14:34

pyspark中实现scala的contains函数

scala:lines.filter(line=>line.contains("Python"))pyspark:lines.filter(lambdax:x.find("Python")!

tianchen627·2024-01-21 12:25

94.144.145 二叉树的前序遍历、中序遍历、后序遍历

spark打酱油输入：root=[1,null,2,3]输出：[1,2,3]示例2：输入：root=[]输出：[]示例3：输入：root=[1]输出：[1]提示：树中节点数目在范围[0,100]内-100

spark打酱油·2024-01-21 11:58

02-黑马程序员大数据开发：分布式计算和分布式资源调度

分布式计算模式：分散->汇总模式（MapReduce）和中心调度->步骤执行模式（ApacheSpark,Flink;比较复杂，中间会有数据交换的过程）；2.MapReduce概述MapReduce是Hadoop

S1406793·2024-01-21 08:52

Clickhouse VS Doris 导入-并发-查询对比

clickhouse导入数据直接导入的是本地磁盘，对于分布式表，clickhouse和doris相比，clickhouse就没有本地表导入的优势，借助clickhouse进行数据排序，而doris中有sparkLoad

IT贫道·2024-01-21 08:21

大数据之spark运行模式

ApacheSpark提供了多种运行模式，主要包括以下几种：本地模式(Local)：Spark在本地单机上运行，主要用于开发测试阶段。

转身成为了码农·2024-01-21 07:11

大数据之 Spark 常用的端口号

Spark常用的端口号包括：DriverWebUI端口：4040，这是Spark应用程序（Driver）运行时绑定的端口，用于展示任务运行状态、执行进度、任务细节等监控信息。

转身成为了码农·2024-01-21 07:11

大数据之Spark架构设计与工作流程

ApacheSpark架构设计是其高效、分布式处理能力的基础。

转身成为了码农·2024-01-21 07:41

Spark学习（8）-SparkSQL的运行流程，Spark On Hive

1.SparkSQL的运行流程1.1SparkRDD的执行流程回顾1.2SparkSQL的自动优化RDD的运行会完全按照开发者的代码执行，如果开发者水平有限，RDD的执行效率也会受到影响。

技术闲聊DD·2024-01-21 06:50

Hive on Spark 和 Spark sql on Hive，你能分的清楚么

HiveonSpark和SparksqlonHive，你能分的清楚么结构上HiveOnSpark和SparkSQL都是一个翻译层，把一个SQL翻译成分布式可执行的Spark程序。

捞起月亮的渔民丁·2024-01-21 06:18

Spark：SparkSQL与Hive on Spark（Shark）的比较

简要介绍了SparkSQL与HiveonSpark的区别与联系一、关于Spark简介在Hadoop的整个生态系统中，Spark和MapReduce在同一个层级，即主要解决分布式计算框架的问题。

花和尚也有春天·2024-01-21 06:17

拾肆：Spark with Hive和Hive on Spark

在Hive与Spark这对“万金油”组合中，Hive擅长元数据管理，而Spark的专长是高效的分布式计算，二者的结合可谓是“强强联合”。

for your wish·2024-01-21 06:47

基于kubernetes构建spark-thriftserver集群(Deployment模式)

继续上一篇《基于kubernetes构建spark集群(RC模式)》，沿用上一篇rbac配置，以及PV、PVC配置，本篇将采用Deployment方式进行部署spark集群，以及增加thriftserver

Moutai码哥·2024-01-21 06:46

Hive on Spark and Spark sql on Hive

结构上HiveOnSpark和SparkSQL都是一个翻译层，把一个SQL翻译成分布式可执行的Spark程序。Hive和SparkSQL都不负责计算。

请叫我小帅哥·2024-01-21 06:14

spark集成hive

1.集成原理说明思考:SparkOnHive的目的:将客户端提交的SQL语句从原来翻译MR变更为翻译为Spark的RDD程序(Spark程序),然后交给Yarn执行那么也就意味着,一旦Spark和HIVE

lijian972·2024-01-21 06:11

sparkSQL sparkSQL整合hive（spark on hive）

sparkSQL整合hivesparkSQL整合hivesparkSQL整合hive步骤示例数据库保存在本地和数据库保存在HDFS应用场景sparkSQL整合hivesparkSQL整合hive，即sparkonhive

爱吃甜食_·2024-01-21 06:39

Spark完全分布式集群下的Hive的安装和配置-安装步骤

Spark完全分布式集群下的Hive的安装和配置-安装步骤：文章目录Spark完全分布式集群下的Hive的安装和配置-安装步骤：2.安装MySQL数据库3.配置MySQL相关5.设置环境变量6.修改hive

Deng872347348·2024-01-21 06:39

【Spark分布式内存计算框架——Spark SQL】14. 分布式SQL引擎

第八章分布式SQL引擎回顾一下，如何使用Hive进行数据分析的，提供哪些方式交互分析？？？方式一：交互式命令行（CLI）bin/hive，编写SQL语句及DDL语句方式二：启动服务HiveServer2（HiveThriftServer2)将Hive当做一个服务启动(类似MySQL数据库，启动一个服务)，端口为100001)、交互式命令行，bin/beeline，CDH版本HIVE建议使用此种方式

csdnGuoYuying·2024-01-21 06:38

Spark On Hive配置测试及分布式SQL ThriftServer配置

文章目录SparkOnHive的原理及配置配置步骤在代码中集成SparkOnHiveSpark分布式SQL执行原理及配置配置步骤在代码中集成SparkJDBCThriftServer总结SparkOnHive

蜜桃上的小叮当·2024-01-21 06:07

一文让你记住Pyspark下DataFrame的7种的Join 效果

最近看到了一片好文，虽然很简单，但是配上的插图可以让人很好的记住Pyspark中的多种Join类型和实际的效果。

独家雨天·2024-01-21 06:04

pyspark之Structured Streaming文件file案例

#generate_file.py#生成数据生成500个文件,每个文件1000条数据#生成数据格式：eventtimenameprovinceaction()时间用户名省份动作)importosimporttimeimportshutilimporttimeFIRST_NAME=['Zhao','Qian','Sun','Li','Zhou','Wu','Zheng','Wang']SECOND_

heiqizero·2024-01-21 06:59

pyspark之Structured Streaming window函数-滚动模式

#file文件使用pyspark之StructuredStreamingfile文件案例1生成文件，以下代码主要探讨window函数使用window三种方式：滚动、滑动、会话，只有windowDuration

heiqizero·2024-01-21 06:59

pyspark之Structured Streaming结果保存到Mysql数据库-socket例子统计(含批次)

frompyspark.sqlimportSparkSession,DataFramefrompyspark.sql.functionsimportexplode,split,lit"""实现将数据保存到

heiqizero·2024-01-21 06:28

Spark面试题

1.sparkcore1.简述hadoop和spark的不同点（为什么spark更快）♥♥♥ shuffle都是需要落盘的，因为在宽依赖中需要将上一个阶段的所有分区数据都准备好，才能进入下一个阶段，那么如果一直将数据放在内存中

韩顺平的小迷弟·2024-01-21 06:53

一文详解pyspark中sql的join

大家好，今天分享一下pyspark中各种sqljoin。数据准备本文以学生和班级为单位进行介绍。学生表有sid（学生id）、sname（学生姓名）、sclass（学生班级id）。

不负长风·2024-01-21 06:23

pyspark之Structured Streaming file文件案例1