sparkStreaming

Spark Streaming

SparkStreaming随着大数据技术的不断发展，人们对于大数据的实时性处理要求也在不断提高，传统的MapReduce等批处理框架在某些特定领域，例如实时用户推荐、用户行为分析这些应用场景上逐渐不能满足人们对实时性的需求
奋斗的蛐蛐·2024-01-13 06:13

81、Spark Streaming之DStream以及基本工作原理

SparkStreaming简介SparkStreaming是SparkCoreAPI的一种扩展，它可以用于进行大规模、高吞吐量、容错的实时数据流的处理。
ZFH__ZJ·2024-01-10 20:43

Java接入Apache Spark（入门环境搭建、常见问题）

它还支持一组丰富的高级工具，包括用于SQL和结构化数据处理的SparkSQL，用于机器学习的MLlib，用于图计算的GraphX和SparkStreaming。Spark是Ma
许忆·2024-01-09 13:12

Spark streaming架构中的Driver和Executor

Driver在Driver中，有StreamContext作为SparkStreaming的入口，SparkStreaming的最终处理实际还是交给SparkContext。
她雅_b28e·2024-01-09 05:43

学习笔记-日志采集和实时分析简单实例

一个出口直接写到ElasticSearch，提供Kibana进行日志分析可视化处理；一个出口直接写到HDFS,提供后期离线统计分析处理；一个出口写入Kafka中，提供SparkStreaming进行近实时日志统计分析处理
人生偌只如初见·2024-01-07 13:27

大数据编程期末大作业

大数据编程期末大作业文章目录大数据编程期末大作业一、Hadoop基础操作二、RDD编程三、SparkSQL编程四、SparkStreaming编程一、Hadoop基础操作在HDFS中创建目录/user/
-北天-·2024-01-07 05:20

Spark Streaming与数据源连接：Kinesis、Flume等

ApacheSparkStreaming是一个强大的工具，可用于处理实时数据流。
晓之以理的喵~~·2024-01-06 16:13

Spark Streaming的容错性与高可用性

ApacheSparkStreaming是一个强大的工具，用于实时数据处理和分析，具备卓越的容错性和高可用性。
晓之以理的喵~~·2024-01-06 16:13

使用Kafka与Spark Streaming进行流数据集成

为了实现实时数据集成和分析，组合使用ApacheKafka和ApacheSparkStreaming是一种常见的做法。
晓之以理的喵~~·2024-01-06 16:43

【数据采集与预处理】流数据采集工具Flume

解压安装包（三）配置环境变量（四）查看Flume版本信息四、Flume的运行（一）Telnet准备工作（二）使用Avro数据源测试Flume（三）使用netcat数据源测试Flume五、Flume作为SparkStreaming
Francek Chen·2024-01-06 14:07

SparkStreaming基础解析（四）

1、SparkStreaming概述1.1SparkStreaming是什么SparkStreaming用于流式数据的处理。
有语忆语·2024-01-05 10:05

实时数据处理概述与Spark Streaming简介

SparkStreaming是ApacheSpark生态系统中的一个模块，专门用于实时数据处理。本文将深入探讨实时数据处理的概念，并介绍如何使用SparkStreaming来处理实时数据流。
晓之以理的喵~~·2024-01-04 11:16

Spark Streaming的DStream与窗口操作

实时数据处理已经成为当今大数据时代的一个重要领域，而SparkStreaming是ApacheSpark生态系统中的一个关键模块，用于处理实时数据流。
晓之以理的喵~~·2024-01-04 11:42

Spark Streaming + Flume

Push，指的是Flume主动push数据给SparkStreaming。Pull，指的是SparkStreaming主动从Flume拉取数据。
歌哥居士·2024-01-03 18:53

大数据编程期末大作业

目录一、Hadoop基础操作二、RDD编程三、SparkSQL编程四、SparkStreaming编程五、Flume的安装配置一、Hadoop基础操作按要求完成以下操作：1、在HDFS中创建目录/user
Francek Chen·2024-01-01 14:50

Spark内容分享(二)：Spark入门指南：基础概念

目录Spark-SubmitSpark共享变量SparkSQLSparkStreamingStructuredStreaming总结Spark-Submit详细参数说明参数名参数说明—mastermaster
之乎者也··2024-01-01 13:48

20200912 001_Flink-Flink简介

20200912001_Flink-Flink简介第一章Flink简介主要内容•Flink是什么•为什么要用Flink•流处理的发展和演变•Flink的主要特点•FlinkvsSparkStreaming1.1
强哥带你飞·2024-01-01 13:02

sparkstreamnig实时处理入门

1.2SparkStreaming实时处理入门1.2.1工程创建导入maven依赖  org.apache.spark  spark-streaming_2.12  3.1.2      org.apache.spark
Guff_hys·2023-12-31 18:47

2022-11-24 TIDB insert into on duplicate操作突然吞吐量降低

5ace0db02e29b3233ef3670c4ae02f7.png之前是发现有大量死锁，但是sparkstreaming程序处理速度还可以。image.png但是处理速度一直在4000/S左右。
felix_feng·2023-12-31 18:29

Spark编程实验四：Spark Streaming编程

目录一、目的与要求二、实验内容三、实验步骤1、利用SparkStreaming对三种类型的基本数据源的数据进行处理2、利用SparkStreaming对Kafka高级数据源的数据进行处理3、完成DStream
Francek Chen·2023-12-31 06:24

Spark Streaming

目录一、流计算概述（一）静态数据和流数据（二）批量计算和实时计算（三）流计算概念（四）流计算框架（五）流计算处理流程二、SparkStreaming（一）SparkStreaming设计（二）SparkStreaming
Francek Chen·2023-12-30 06:54

SparkStreaming常见transformation算子

1.4SparkStreaming常见transformation算子1.4.1常见的算子操作对cogroup做一简单的说明：cogroup就是groupByKey的另外一种变体，groupByKey是操作一个
Guff_hys·2023-12-29 20:59

SparkStreaming_window_sparksql_reids

SparkStreaming提供了滑动窗口操作的支持，从而让我们可以对一个滑动窗口内的数据执行计算操作。
Guff_hys·2023-12-29 20:59

SparkStreaming与Kafka整合

1.3SparkStreaming与Kafka整合1.3.1整合简述kafka是做消息的缓存，数据和业务隔离操作的消息队列，而sparkstreaming是一款准实时流式计算框架，所以二者的整合，是大势所趋
Guff_hys·2023-12-29 06:55

【数据采集与预处理】数据接入工具Kafka

（一）Kafka核心组成（二）写入流程（三）Zookeeper存储结构（四）Kafka消费过程四、Kafka准备工作（一）Kafka安装配置（二）启动Kafka（三）测试Kafka是否正常工作五、编写SparkStreaming
Francek Chen·2023-12-29 06:55

【头歌实训】PySpark Streaming 数据源

文章目录第1关：MySQL数据源任务描述相关知识PySparkJDBC概述PySparkJDBCPySparkStreamingJDBC编程要求测试说明答案代码第2关：Kafka数据源任务描述相关知识Kafka
撕得失败的标签·2023-12-28 11:24

【头歌实训】PySpark Streaming 入门

文章目录第1关：SparkStreaming基础与套接字流任务描述相关知识SparkStreaming简介Python与SparkStreamingPythonSparkStreamingAPISparkStreaming
撕得失败的标签·2023-12-27 20:54

Spark与PySpark(1.概述、框架、模块)

概念2.Hadoop和Spark的对比3.Spark特点3.1运行速度快3.2简单易用3.3通用性强3.4可以允许运行在很多地方4.Spark框架模块4.1SparkCore4.2SparkSQL4.3SparkStreaming4.4MLlib4.5GraphX5
还是那个同伟伟·2023-12-27 18:06

java.lang.IllegalArgumentException: requirement failed: No output operations registered, so nothi...

SparkStreaming报错java.lang.IllegalArgumentException:requirementfailed:Nooutputoperationsregistered,sonothingtoexecute
扣篮的左手·2023-12-27 14:58

Spark的生态系统概览：Spark SQL、Spark Streaming

Spark的生态系统包括多个组件，其中两个重要的组件是SparkSQL和SparkStreaming。本文将深入探讨这两个组件，了解它们的功能、用途以及如何在Spark生态系统中使用它们。
晓之以理的喵~~·2023-12-27 06:35

Flink1.17实战教程（第一篇：概念、部署、架构）

系列文章目录Flink1.17实战教程（第一篇：概念、部署、架构）文章目录系列文章目录1.Flink概述1.1Flink是什么1.2Flink特点1.3FlinkvsSparkStreaming1.4Flink
阿moments·2023-12-25 04:02

Flink知识点

Flink1.简单介绍一下Flink2.Flink的运行必须依赖Hadoop组件吗3.Flink集群运行时角色4.Flink相比SparkStreaming的区别4.1、什么是两阶段提交协议？
芝麻仗剑走天涯·2023-12-24 22:26

2. Spark Streaming流计算框架的运行流程源码分析

1.sparkstreaming程序代码实例代码如下：objectOnlineTheTop3ItemForEachCategory2DB{defmain(args:Array[String]){valconf
尼小摩·2023-12-24 01:47

SparkStreaming和Kafka

0.一些问题SparkStreaming如何消费KafkaKafka的offset如何维护如何获取Kafka的offsetKafka获取offset的时候会不会消费kafka的记录Kafka的分区和sparktask
天之見證·2023-12-23 16:25

Apache Flink 进阶教程（七）：网络流控及反压剖析

目录前言网络流控的概念与背景为什么需要网络流控网络流控的实现：静态限速网络流控的实现：动态反馈/自动反压案例一：Storm反压实现案例二：SparkStreaming反压实现疑问：为什么Flink（beforeV1.5
话数Science·2023-12-23 08:10

SparkStreaming学习记录

版本：Spark2.4.01.OverviewSparkingStreaming是对SparkAPI的一种扩展，用于处理实时数据流。2.BasicConceptsMaven依赖org.apache.sparkspark-streaming_2.122.4.1provided如果数据源来自Kafka或Flume等，需要添加如下依赖SourceArtifactKafkaspark-streaming-
Jorvi·2023-12-23 08:49

Kafka | Flume Sink日志到Kafka&HDFS

记录下将服务端AC设备产生的数据采集到Flume中，然后基于FlumeSink把数据日志同时写入到Kafka与HDFS中，对于Kafka中的数据保存到指定的Topic中，然后后续基于SparkStreaming
点滴笔记·2023-12-21 17:53

###好好好######Spark GraphX处理图数据

我们已经了解了如何将ApacheSpark应用于处理批数据（SparkCore）以及处理实时数据（SparkStreaming）。有时候，所需处理的数据是很自然地联系在一起的。
mishidemudong·2023-12-21 11:03

大数据分析技术与实战之Spark Streaming

SparkStreaming是Spark上
丨程序之道丨·2023-12-18 11:30

Spark基础入门

spark基础入门环境搭建localstandlonesparkhasparkcodesparkcoresparksqlsparkstreaming环境搭建准备工作创建安装目录mkdir/opt/softcd
李昊哲小课·2023-12-17 21:04

Spark Streaming对接Kafka

4、SparkStreaming对接Kafka4.1对接数据的两种方式在前面的案例中，我们监听了来自网络端口的数据，实现了WordCount，但是在实际开发中并不是这样。
Echo-Niu·2023-12-15 22:09

Spark Streaming整合Kafka实战二

SparkStreaming整合Kafka实战二SparkStreaming整合kafka的第二种方式1.DirectApproach(NoReceivers)优点：缺点：2.偏移量解决方案自动提交偏移量
怒上王者·2023-12-15 22:38

sparkStreaming与kafka整合案例

pom文件4.0.0com.cllday011.0-SNAPSHOTaliyunhttp://maven.aliyun.com/nexus/content/groups/public/clouderahttps://repository.cloudera.com/artifactory/cloudera-repos/jbosshttp://repository.jboss.com/nexus/co
古城的风cll·2023-12-15 22:08

sparkStreaming+kafka简单例子

flume采集（安装flume，这块就不多做赘述了,安装也只是测试，没用，提供一个下载链接）首先自定义source[sink->kafka->sparkstreaming]#启动kafka服务后台永久启动
小曹男孩·2023-12-15 22:03

SparkStreaming与Kafka整合及相关案例

目录1、SparkStreaming与Kafka-0-8整合1.1、Receiver-basedApproach（不推荐使用）1.2、DirectApproach(NoReceivers)1.3、SparkStreaming
fengge18306·2023-12-15 22:58

Spark-Streaming+Kafka+mysql实战示例

MySQL数据库部分2.导入依赖3.编写实体类代码4.编写kafka主题管理代码5.编写kafka生产者代码6.编写Spark-Streaming代码7.查看数据库8.代码下载总结前言本文将介绍一个使用SparkStreaming
大数据魔法师·2023-12-15 22:25

大数据分析与应用实验任务十一

大数据分析与应用实验任务十一实验目的通过实验掌握sparkStreaming相关对象的创建方法；熟悉sparkStreaming对文件流、套接字流和RDD队列流的数据接收处理方法；熟悉sparkStreaming
陈希瑞·2023-12-15 17:49

大数据实战项目_电商推荐系统

一、项目介绍Hadoop+Spark+(Python)Scala+SparkSQL+SparkStreaming+MongoDB+Redis+Kafka+Flume+(SpringMVC+vue)1项目介绍
Guff_hys·2023-12-06 20:28

Spark Streaming反压机制介绍

1.反压机制原理SparkStreaming中的反压机制是Spark1.5.0推出的新特性，可以根据处理效率动态调整摄入速率。
zxfBdd·2023-12-04 06:24

SparkStreaming 窗口操作

热点搜索词滑动统计，每隔10秒钟，统计最近60秒钟的搜索词的搜索频次，并打印出排名最靠前的3个搜索词以及出现次数普通SparkStreaming处理方式，如果将时间间隔设置成60s，无法每隔10s输出一次结果
printf200·2023-12-03 02:27
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他