E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
SparkCore
spark sql 深入解读
目前与
SparkCore
还是耦合的,对此user邮件组里有人对此提出疑问,见mail。以下是Catalyst较早时候的架构图,展示的是代码结构和处理流程。
Codlife一王家二公子
·
2016-10-01 20:19
Spark Streaming源码解读之RDD生成全生命周期彻底研究和思考
2、执行时是否与
SparkCore
上的RDD执行有什么不同的3、运行之后对RDD要怎么处理为什么有第三点:是因为SparkStreaming中会随着相关触发条件,窗口Window滑动的时候都会不断的产生
二府村
·
2016-09-03 10:29
SparkDream
Spark Core通过log信息由浅到深分析架构原理和工作流程
本文完全从0开始了解spark到深入理解
sparkcore
一,概念,基础================================================================1
gao634209276
·
2016-08-27 18:17
spark
通过案例对SparkStreaming透彻理解(1)
Spark最开始只有
SparkCore
,没有目前的这些子框架。这些子框架是构建于
SparkCore
之上的。没有哪个子
二府村
·
2016-08-23 16:58
SparkDream
spark-2.0-从RDD到DataSet
spark未来基本是要在DataSet上扩展了,因为spark基于
sparkcore
关注的东西很多,整合内部代码是必然的。1、加载文件valrdd=sparkContext.textFile(".
youdianjinjin
·
2016-07-31 15:00
Spark中saveAsTextFile至stage划分和job提交的源代码分析
现在回过头来,打算看一下
sparkcore
部分代码,就先找了下saveAsTextFile这个方法作为入口,看一下是怎么保存文档到hadoop中,并且怎么切分stage以及提交Task。
humingminghz
·
2016-07-29 14:00
scala
spark
hadoop
Spark中saveAsTextFile至stage划分和job提交的源代码分析
现在回过头来,打算看一下
sparkcore
部分代码,就先找了下saveAsTextFile这个方法作为入口,看一下是怎么保存文档到hadoop中,并且怎么切分stage以及提交Task。
humingminghz
·
2016-07-29 14:00
scala
spark
hadoop
SparkStreaming之Accumulators和Broadcast
在
SparkCore
中经常广播一些环境变量,目的是使得在同一时间集群中的每台机器的环境变量都更新。它的功能是用于有效地给每个节点输入一个环境变量或者数据集副本,這样可以减少通信的开销。
legotime
·
2016-07-06 07:00
源码
大数据
SparkStreaming
[0.0.0] 大型spark项目实战
参考电商用户行为分析大数据平台-中华石杉DT大数据梦工厂-王家林spark官网文档场景在项目实战中理解:1、
sparkcore
、sql、streaming以及机器学习与图计算相关的知识点2、性能调优、troubleshooting
彭宇成
·
2016-06-27 00:24
项目总结
第12课:Spark Streaming源码解读之Executor容错安全性
SparkStreaming是基于
SparkCore
之上的,如果能够确保数据安全可好的话,在SparkStreaming生成Job的时候里面是基于RDD,即使运行的时候出现问题,那么SparkStreaming
zhou_yuefei
·
2016-05-31 22:38
spark
kafka
executor
Streaming
数据安全
receiver
第16课:Spark Streaming源码解读之数据清理内幕彻底解密
本期内容:SparkStreaming数据清理原因和现象SparkStreaming数据清理代码解析对SparkStreaming解析了这么多课之后,我们越来越能感知,SparkStreaming只是基于
SparkCore
lqding1980
·
2016-05-31 16:30
Streaming
数据清理
第16课:Spark Streaming源码解读之数据清理内幕彻底解密
本期内容:SparkStreaming数据清理原因和现象SparkStreaming数据清理代码解析对SparkStreaming解析了这么多课之后,我们越来越能感知,SparkStreaming只是基于
SparkCore
lqding1980
·
2016-05-31 16:30
Streaming
数据清理
Spark源码定制课程
第12课:Spark Streaming源码解读之Executor容错安全性
SparkStreaming是基于
SparkCore
之上的,如果能够确保数据安全可好的话,在SparkStreaming生成Job的时候里面是基于RDD,即使运行的时候出
love205088
·
2016-05-30 23:24
spark
第7课:Spark Streaming源码解读之JobScheduler内幕实现和深度思考
一:JobSheduler的源码解析1.JobScheduler是SparkStreaming整个调度的核心,相当于
SparkCore
上的DAGScheduler.2.SparkStreaming为啥要设置两条线程
love205088
·
2016-05-30 23:50
spark
第7课:Spark Streaming源码解读之JobScheduler内幕实现和深度思考
一:JobSheduler的源码解析1.JobScheduler是SparkStreaming整个调度的核心,相当于
SparkCore
上的DAGScheduler.2.SparkStreaming为啥要设置两条线程
love205088
·
2016-05-30 23:24
spark
第8课:Spark Streaming源码解读之RDD生成全生命周期彻底研究和思考
Dstream与rdd关系彻底研究Dstream中rdd生成彻底研究从整个sparkstreaming角度来考虑,rdd分为三个方面的内容:a.怎么生成的,依靠什么生成的;b.runtime角度,具体执行的时候与
sparkcore
MichaelLi916
·
2016-05-29 00:00
spark
第12课:Spark Streaming源码解读之Executor容错安全性
SparkStreaming是基于
SparkCore
之上的,如果能够确保数据安全可好的话,在SparkStreaming生成Job的时候里面是基于RDD,即使运行的时候出现问题,那么SparkStreaming
飞帅记忆
·
2016-05-28 23:41
第12课:Spark Streaming源码解读之Executor容错安全性
SparkStreaming是基于
SparkCore
之上的,如果能够确保数据安全可好的话,在SparkStreaming生成Job的时候里面是基于RDD,即使运行的时候出现问题,那么SparkStream
zhou_yuefei
·
2016-05-28 23:00
spark
Streaming
数据安全
Kafka
Executor
Receiver
第12课:Spark Streaming源码解读之Executor容错安全性
SparkStreaming是基于
SparkCore
之上的,如果能够确保数据安全可好的话,在SparkStreaming生成Job的时候里面是基于RDD,即使运行的时候出现问题,那么SparkStream
zhou_yuefei
·
2016-05-28 23:00
spark
Streaming
数据安全
Kafka
Executor
Receiver
Spark 定制版:008~Spark Streaming源码解读之RDD生成全生命周期彻底研究和思考
上节回顾上节课,我们重点给大家揭秘了JobScheduler内幕;可以说JobScheduler是整个SparkStreming的调度的核心,其地位相当于
SparkCore
中的DAGScheduler。
zisheng_wang_DATA
·
2016-05-25 23:00
源码
spark
RDD
Streaming
DStream
第12课:Spark Streaming源码解读之Executor容错安全性
SparkStreaming是基于
SparkCore
之上的,如果能够确保数据安全可好的话,在SparkStreaming生成Job的时候里面是基于RDD,即使运行的时候出
snail_gesture
·
2016-05-24 15:00
java
hadoop
scala
spark
数据安全
(版本定制)第12课:Spark Streaming源码解读之Executor容错安全性
原因是计算的时候SparkStreaming是借助于
SparkCore
上RDD的安全容错的,所以天然的安全可靠的。
Spark_2016
·
2016-05-23 16:29
Executor
Spark
Streaming
Spark版本定制
(版本定制)第12课:Spark Streaming源码解读之Executor容错安全性
原因是计算的时候SparkStreaming是借助于
SparkCore
上RDD的安全容错的,所以天然的安全可靠的。
18610086859
·
2016-05-23 16:29
spark
executor
Streaming
第2课:通过案例对SparkStreaming 透彻理解三板斧之二:解密SparkStreaming运行机制和架构
与其说sparkstreaming是
sparkcore
上
MichaelLi916
·
2016-05-23 11:00
spark
DT大数据梦工厂Spark 定制班笔记(003)
注意:这里的Job不是
SparkCore
中所指的Job,它只是基于DStreamGraph而
ry076
·
2016-05-21 15:19
DT大数据梦工厂Spark 定制班笔记(002)
概述SparkStreaming是Spark的一个子框架,但我们也可以把它看作是一个在
SparkCore
应用程序。SparkStreaming在启动时运行了几个的job,并且job之间相互配合。
ry076
·
2016-05-21 14:22
(版本定制)第7课:Spark Streaming源码解读之JobScheduler内幕实现和深度思考
本期内容:1、JobScheduler内幕实现2、JobScheduler深度思考JobScheduler是SparkStreaming的调度核心,地位相当于
SparkCore
上调度中心的DAGScheduler
Spark_2016
·
2016-05-20 06:14
Spark
Streaming
JobScheduler
Spark版本定制
(版本定制)第7课:Spark Streaming源码解读之JobScheduler内幕实现和深度思考
本期内容: 1、JobScheduler内幕实现 2、JobScheduler深度思考JobScheduler是SparkStreaming的调度核心,地位相当于
SparkCore
上调度中心的DAGScheduler
18610086859
·
2016-05-20 06:14
spark
Streaming
JobScheduler
第7课:Spark Streaming源码解读之JobScheduler内幕实现和深度思考
一:JobSheduler的源码解析1.JobScheduler是SparkStreaming整个调度的核心,相当于
SparkCore
上的DAGScheduler.2.SparkStreaming为啥要设置两条线程
snail_gesture
·
2016-05-18 22:00
java
hadoop
scala
spark
大数据
6.Spark streaming技术内幕 : Job动态生成原理与源码解析
转载请注明:转载自周岳飞博客(http://zhou-yuefei.iteye.com/)Sparkstreaming程序的运行过程是将DStream的操作转化成RDD的操作,SparkStreaming和
SparkCore
zhou_yuefei
·
2016-05-17 23:00
spark
Streaming
Job动态生成
JobScheduler
源码分析
6.Spark streaming技术内幕 : Job动态生成原理与源码解析
转载请注明:转载自周岳飞博客(http://zhou-yuefei.iteye.com/)Sparkstreaming程序的运行过程是将DStream的操作转化成RDD的操作,SparkStreaming和
SparkCore
zhou_yuefei
·
2016-05-17 23:00
spark
Streaming
Job动态生成
JobScheduler
源码分析
6.Spark streaming技术内幕 : Job动态生成原理与源码解析
转载请注明:转载自周岳飞博客(http://zhou-yuefei.iteye.com/) Sparkstreaming程序的运行过程是将DStream的操作转化成RDD的操作,SparkStreaming和
SparkCore
zhou_yuefei
·
2016-05-17 23:00
spark
源码分析
Streaming
JobScheduler
Job动态生成
6.Spark streaming技术内幕 : Job动态生成原理与源码解析
转载自 周岳飞博客(http://zhou-yuefei.iteye.com/) Sparkstreaming程序的运行过程是将DStream的操作转化成RDD的操作,SparkStreaming和
SparkCore
zhou_yuefei
·
2016-05-17 23:00
spark
原理
job
源码解析
Streaming
JobScheduler
6.Spark streaming技术内幕 : Job动态生成原理与源码解析
转载请注明:转载自周岳飞博客(http://zhou-yuefei.iteye.com/)Sparkstreaming程序的运行过程是将DStream的操作转化成RDD的操作,SparkStreaming和
SparkCore
zhou_yuefei
·
2016-05-17 23:00
spark
streaming
job
JobScheduler
源码解析
原理
6.Spark streaming技术内幕 : Job动态生成原理与源码解析
转载请注明:转载自周岳飞博客(http://zhou-yuefei.iteye.com/)Sparkstreaming程序的运行过程是将DStream的操作转化成RDD的操作,SparkStreaming和
SparkCore
zhou_yuefei
·
2016-05-17 23:00
spark
streaming
job
JobScheduler
源码解析
原理
Spark定制班第6课:Spark Streaming源码解读之Job动态生成和深度思考
这里说的Job和
SparkCore
中的Job不是一回事。SparkStreaming中的Job相当于Java中线程要处理的Runnable的业务逻辑的封
andyshar
·
2016-05-17 20:00
源码
scala
spark
解密
架构
第2课:解密SparkStreaming运行机制和架构
SparkStreaming运行时与其说是
SparkCore
上的一个流式处理框
罗白莲
·
2016-05-15 20:30
Spark发行版笔记
[置顶] Spark定制版2:通过案例对SparkStreaming透彻理解三板斧之二
本节课主要从以下二个方面来解密SparkStreaming:一、解密SparkStreaming运行机制二、解密SparkStreaming架构SparkStreaming运行时更像
SparkCore
上的应用程序
qq_21234493
·
2016-05-10 11:00
spark
大数据
SparkStreaming
第5课:Spark Streaming 实现思路与模块概述
SparkStreaming实现思路与模块概述一、基于Spark做SparkStreaming的思路SparkStreaming与
SparkCore
的关系可以用下面的经典部件图来表述:在本节,我们先探讨一下基于
kaden
·
2016-05-09 23:14
第2课:通过案例对 spark streaming 透彻理解三板斧之二:spark streaming运行机制
本期内容:1.SparkStreaming架构2.SparkStreaming运行机制Spark大数据分析框架的核心部件:
sparkCore
、sparkStreaming流计算、GraphX图计算、MLlib
kaden
·
2016-05-09 20:12
第1课:通过案例对 spark streaming 透彻理解三板斧之一: spark streaming 另类实验
Spark最开始只有
SparkCore
,没有
kaden
·
2016-05-09 20:20
3.spark streaming Job 架构和容错解析
SparkStreaming的Job分为两大类:每隔BatchInterval时间片就会产生的一个个Job,这里的Job并不是
SparkCore
中的Job,它只是基于DStreamGraph而生成的RDD
zhou_yuefei
·
2016-05-08 18:00
spark
streaming
job
容错
架构
3.spark streaming Job 架构和容错解析
SparkStreaming的Job分为两大类:每隔BatchInterval时间片就会产生的一个个Job,这里的Job并不是
SparkCore
中的Job,它只是基于DStreamGraph而生成的RDD
zhou_yuefei
·
2016-05-08 18:00
spark
架构
job
容错
Streaming
3.spark streaming Job 架构和容错解析
SparkStreaming的Job分为两大类:每隔BatchInterval时间片就会产生的一个个Job,这里的Job并不是
SparkCore
中的Job,它只是基于DStreamGraph而生成的RDD
zhou_yuefei
·
2016-05-08 18:00
spark
streaming
job
容错
架构
第2课:通过案例对SparkStreaming 透彻理解三板斧之二:解密SparkStreaming运行机制和架构
Spark的龙脉/关键点就是SparkStreamingSparkStreaming更像
SparkCore
上的一个应用程序,就是最复杂的应用程序我们现在到官网看下:学习Spark的最佳的入手点是SparkStreaming
龚湄燕
·
2016-05-08 13:32
spark
大数据
Streaming
第2课:通过案例对SparkStreaming 透彻理解三板斧之二:解密SparkStreaming运行机制和架构
SparkStreaming是Spark的一个子框架,但是它更像是运行在
SparkCore
上的一个应用程序。SparkStreaming在启动时运行了很多的job,并且job之间相互配合。
love205088
·
2016-05-07 18:50
spark
第1课:通过案例对SparkStreaming 透彻理解三板斧之一
1)Spark最开始没有其他子框架,只有一个原始的
SparkCore
.SparkStreaming本身是Core上的一个框架,透过一个框架的彻底研究肯定可以精通Spark力量的源泉和所有问题的解决之道;
chinsun_1
·
2016-05-07 10:00
通过案例对SparkStreaming透彻理解三板之二
1.解密SparkStreaming运行机制2.解密SparkStreaming架构I.
SparkCore
是基于RDD形成的,RDD之间都会有依赖关系,SparkStreaming在RDD上的时间维度,
cary_1991
·
2016-05-06 23:00
spark
大数据
Streaming
IMF
Spark版本定制
Spakr
spark版本定制二
我们知道
SparkCore
处理的每一步都是基于RDD的,RDD之间有依赖关系。上图中的RDD的DAG显示的是有3个Action,会触发3个job,RDD自下向上依赖,RDD产生job就会具体的执行。
数据china
·
2016-05-05 09:00
spark版本定制一
Spark在
SparkCore
之上提供了很多面向不同使用场景的高层API。
数据china
·
2016-05-05 09:00
上一页
9
10
11
12
13
14
15
16
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他