Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例

目录

  • SparkStreaming介绍
    • 什么是Spark Streaming
    • SparkStreaming与Storm的对比
    • Spark Streaming原理与架构
      • Spark Streaming原理
      • Spark Streaming计算流程
      • Spark Streaming实时性
      • spark的架构
  • DStream介绍
    • 什么是DStream
    • DStream相关操作
      • Transformations on DStreams
  • SparkStreaming接收socket数据案例
  • SparkStreaming接收文件数据案例
  • SparkStreaming接收自定义数据源数据案例
  • SparkStreaming接收RDD队列数据案例

SparkStreaming介绍

什么是Spark Streaming

Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第1张图片
Spark Streaming类似于Apache Storm,用于流式数据的处理。根据其官方文档介绍,Spark Streaming有高吞吐量和容错能力强等特点。Spark Streaming支持的数据源有很多,例如:Kafka、Flume、Twitter、ZeroMQ和简单的TCP套接字等等。数据输入后可以用Spark的高度抽象操作如:map、reduce、join、window等进行运算。而结果也能保存在很多地方,如HDFS,数据库等。另外Spark Streaming也能和MLlib(机器学习)以及Graphx完美融合。

Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第2张图片

SparkStreaming与Storm的对比

  • SparkStreaming
    开发语言:Scala
    编程模型:DStream
    Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第3张图片

  • Storm
    开发语言:Clojure
    编程模型:Spout/Bolt
    Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第4张图片

Spark Streaming原理与架构

Spark Streaming原理

Spark Streaming 是基于spark的流式批处理引擎,其基本原理是把输入数据以某一时间间隔批量的处理,当批处理间隔缩短到秒级时,便可以用于处理实时数据流。

Spark Streaming计算流程

Spark Streaming是将流式计算分解成一系列短小的批处理作业。这里的批处理引擎是Spark Core,也就是把Spark Streaming的输入数据按照batch size(如1秒)分成一段一段的数据(Discretized Stream),每一段数据都转换成Spark中的RDD(Resilient Distributed Dataset),然后将Spark Streaming中对DStream的Transformation操作变为针对Spark中对RDD的Transformation操作,将RDD经过操作变成中间结果保存在内存中。整个流式计算根据业务的需求可以对中间的结果进行缓存或者存储到外部设备。下图显示了Spark Streaming的整个流程。
Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第5张图片

Spark Streaming实时性

对于实时性的讨论,会牵涉到流式处理框架的应用场景。Spark Streaming将流式计算分解成多个Spark Job,对于每一段数据的处理都会经过Spark DAG图分解以及Spark的任务集的调度过程。对于目前版本的Spark Streaming而言,其最小的Batch Size的选取在0.1秒钟之间(Storm目前最小的延迟是100ms左右),所以Spark Streaming能够满足除对实时性要求非常高(如高频实时交易)之外的所有流式准实时计算场景。

spark的架构

Spark Streaming使用“微批次”的架构,把流式计算当作一系列连续的小规模批处理来对待。Spark Streaming从各种输入源中读取数据,并把数据分组为小的批次。新的批次按均匀的时间间隔创建出来。在每个时间区间开始的时候,一个新的批次就创建出来,在该区间内收到的数据都会被添加到这个批次中。在时间区间结束时,批次停止增长。时间区间的大小是由批次间隔这个参数决定的。批次间隔一般设在500毫秒到几秒之间,由应用开发者配置。每个输入批次都形成一个RDD,以 Spark 作业的方式处理并生成其他的 RDD。 处理的结果可以以批处理的方式传给外部系统。高层次的架构如图:
Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第6张图片
Spark Streaming的编程抽象是离散化流,也就是DStream。它是一个 RDD 序列,每个RDD代表数据流中一个时间片内的数据。
在这里插入图片描述
Spark Streaming在Spark的驱动器程序—工作节点的结构的执行过程如下图所示。Spark Streaming为每个输入源启动对 应的接收器。接收器以任务的形式运行在应用的执行器进程中,从输入源收集数据并保存为 RDD。它们收集到输入数据后会把数据复制到另一个执行器进程来保障容错性(默 认行为)。数据保存在执行器进程的内存中,和缓存 RDD 的方式一样。驱动器程序中的 StreamingContext 会周期性地运行 Spark 作业来处理这些数据,把数据与之前时间区间中的 RDD 进行整合。
Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第7张图片

DStream介绍

什么是DStream

Discretized Stream是Spark Streaming的基础抽象,代表持续性的数据流和经过各种Spark算子操作后的结果数据流。在内部实现上,DStream是一系列连续的RDD来表示。每个RDD含有一段时间间隔内的数据,如下图:
Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第8张图片
对数据的操作也是按照RDD为单位来进行的
Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第9张图片
Spark Streaming使用数据源产生的数据流创建DStream,也可以在已有的DStream上使用一些操作来创建新的DStream。
它的工作流程像下面的图所示一样,接受到实时数据后,给数据分批次,然后传给Spark Engine处理最后生成该批次的结果。
Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第10张图片

DStream相关操作

Transformations on DStreams

Transformation Meaning
map(func) 对DStream中的各个元素进行func函数操作,然后返回一个新的DStream
flatMap(func) 与map方法类似,只不过各个输入项可以被输出为零个或多个输出项
filter(func) 过滤出所有函数func返回值为true的DStream元素并返回一个新的DStream
repartition(numPartitions) 增加或减少DStream中的分区数,从而改变DStream的并行度
union(otherStream) 将源DStream和输入参数为otherDStream的元素合并,并返回一个新的DStream.
count() 通过对DStream中的各个RDD中的元素进行计数,然后返回只有一个元素的RDD构成的DStream
reduce(func) 对源DStream中的各个RDD中的元素利用func进行聚合操作,然后返回只有一个元素的RDD构成的新的DStream.
countByValue() 对于元素类型为K的DStream,返回一个元素为(K,Long)键值对形式的新的DStream,Long对应的值为源DStream中各个RDD的key出现的次数
reduceByKey(func, [numTasks]) 利用func函数对源DStream中的key进行聚合操作,然后返回新的(K,V)对构成的DStream
join(otherStream, [numTasks]) 输入为(K,V)、(K,W)类型的DStream,返回一个新的(K,(V,W))类型的DStream
cogroup(otherStream, [numTasks]) 输入为(K,V)、(K,W)类型的DStream,返回一个新的 (K, Seq[V], Seq[W]) 元组类型的DStream
transform(func) 通过RDD-to-RDD函数作用于DStream中的各个RDD,可以是任意的RDD操作,从而返回一个新的RDD
updateStateByKey(func) 根据key的之前状态值和key的新值,对key进行更新,返回一个新状态的DStream

特殊的Transformations

  1. UpdateStateByKey Operation
    UpdateStateByKey用于记录历史记录,保存上次的状态
  2. Window Operations(开窗函数)
    滑动窗口转换操作:
    滑动窗口转换操作的计算过程如下图所示,我们可以事先设定一个滑动窗口的长度(也就是窗口的持续时间),并且设定滑动窗口的时间间隔(每隔多长时间执行一次计算),然后,就可以让窗口按照指定时间间隔在源DStream上滑动,每次窗口停放的位置上,都会有一部分DStream被框入窗口内,形成一个小段的DStream,这时,就可以启动对这个小段DStream的计算。
    Spark(第七节)SparkStreaming介绍,DStream介绍,SparkStreaming接收socket数据、文件数据、自定义数据源数据、RDD队列数据案例_第11张图片
    (1)红色的矩形就是一个窗口,窗口框住的是一段时间内的数据流。
    (2)这里面每一个time都是时间单元,在官方的例子中,每隔window size是3 time unit, 而且每隔2个单位时间,窗口会slide一次。
    所以基于窗口的操作,需要指定2个参数:
    • window length - The duration of the window (3 in the figure)
    • slide interval - The interval at which the window-based operation is performed (2 in the figure).
    a.窗口大小,一段时间内数据的容器。
    b.滑动间隔,每隔多久计算一次。

SparkStreaming接收socket数据案例

需求:通过socket发送形如“hadoop spark”的数据,对数据中的每个单词计数,将计数结果打印在IDEA中。
首先创建maven项目,pom如下:

<properties>
    <scala.version>2.11.8scala.version>
    <spark.version>2.2.0spark.version>
properties>
<dependencies>
    <dependency>
        <groupId>org.scala-langgroupId>
        <artifactId>scala-libraryartifactId>
        <version>${scala.version}version>
    dependency>
    <dependency>
        <groupId>org.apache.sparkgroupId>
        <artifactId>spark-core_2.11artifactId>
        <version>${spark.version}version>
    dependency>
    <dependency>
        <groupId>org.apache.sparkgroupId>
        <artifactId

你可能感兴趣的:(spark)