E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
spout
linux c 实现一个进度条
#include#include#include#includevoiddrawper(intiFirst,intiSecnd,char*
spOut
){staticintiCrlmm=0;intiPer
海松20190904
·
2016-06-06 18:28
C++
java-jstorm
jstorm是阿里巴巴开源的基于storm采用Java重写的一套分布式实时流计算框架,使用简单,特点如下:开发非常迅速:接口简单,容易上手,只要遵守Topology,
Spout
,Bolt的编程规范即可开发出一个扩展性极好的应用
youdianjinjin
·
2016-05-31 23:00
流式大数据处理的三种框架:Storm,Spark和Samza
一个拓扑中包括
spout
和bol
huihui_IT
·
2016-05-13 11:00
storm
Spark和Samza
流式大数据处理的三种框架
trident的多数据流,多
spout
trident的多数据流,多
spout
@(博客文章)[storm,kafka]storm可以使用接收多个
spout
作为数据源,corestorm与trident均可以,本文主要介绍trident的用法。
lujinhong2
·
2016-05-11 14:00
storm
storm流处理的简单例子的一些问题
首先是
spout
类。
viking714
·
2016-05-09 17:14
getting
package
started
Storm 基础 --
spout
与bolt设置多重grouping
Topology的代码如下:TopologyBuilderbuilder=newTopologyBuilder(); //WordReaderSpout会从文件中读取数据,数据用shuffle的方式发送给bolt进行处理 //当文件读取完成后,会发送一个global消息 builder.setSpout("word-reader",newWordReaderSpout()); builder.se
eyoulc123
·
2016-05-09 15:00
storm
Storm的自适应动态流控制算法
这个ETL系统是基于Storm实现的,主要是依靠
Spout
拉取原始日志,Bolt进行处理再入库,为了提高吞吐量,采用了12个Bolt进行并行处理。
Pun_C
·
2016-05-07 15:00
Strom优化
并行度worker为storm提供工作进程,程序的并行度可以设置(包括
spout
和bolt的并行度,如果有acker的话还包括acker的并行度),并行度即为task数目。
Anonymous_cx
·
2016-04-17 11:00
优化
storm
应用
Storm入门程序——WordCount
spout
:WordReader:packagespout; importjava.io.File; importjava.io.IOException; importjava.util.Collection
Anonymous_cx
·
2016-04-17 10:00
storm
wordcount
storm简介
Tuple在传输中需要序列化和反序列化, storm集成了普通类型的序列化模块, 用户可以自定义特殊类型的序列化逻辑 Spouts, 流的源头
Spout
是Storm里面特有
wang_ying_198
·
2016-04-13 15:00
storm
【Storm入门级JAVA示例演示】
本例子主要演示,storm中的HelloWorld,从
Spout
不断的随机产生单词,然后在Bolt中进行组装输出。完整代码见附件。
gaojingsong
·
2016-04-10 21:00
Storm记录--10- Storm消息机制
这章讨论Storm's reliability capabilities, 如何保证从
spout
emit出来的所有tuple都被正确的执行(fully processed)?
gl_windhome
·
2016-04-08 10:43
storm
大数据处理的三种框架:Storm,Spark和Samza
一个拓扑中包括
spout
和bolt
mao0514
·
2016-04-05 17:00
Storm消息机制
章讨论Storm's reliability capabilities, 如何保证从
spout
emit出来的所有tuple都被正确的执行(fully processed)?
泡海椒
·
2016-03-30 22:00
storm 多
spout
和bolt
TopologyBuilderbuilder=newTopologyBuilder(); SetFlashPlayerSpoutSet=newHashSet(); String[]PlayPlayerDataSourceAddrList=SysConfig._DATA_SOURCE_ADDR_LIST; for(inti=0;i
wangqiaowqo
·
2016-03-26 08:16
jstorm源码之PartitionedTridentSpoutExecutor
阅读更多一、作用PartitionSpout对应的executor二、源码分析packagestorm.trident.
spout
;importbacktype.storm.task.TopologyContext
dalan_123
·
2016-03-21 19:00
jstorm源码之 RichSpoutBatchExecutor
阅读更多一、作用RichSpoutBatchExecutor是IRichSpout及其子类
Spout
的executor执行器;主要包括:1、RichSpoutEmitter:用户tuple的emit2、
dalan_123
·
2016-03-21 19:00
Storm 使用非JVM的语言
Storm使用非JVM的语言要点:1、创建topology(官方文档说使用其他语言创建很简单,因为topology本身是一个thrift结构,参考stotm.thrift)2、用其他语言实现
spout
和
noteblo
·
2016-03-18 16:17
Storm
大数据处理的三种框架:Storm,Spark和Samza
一个拓扑中包括
spout
和b
fanyun_01
·
2016-03-17 11:00
大数据
Storm的重要概念
Storm中一些重要的概念:
Spout
(消息源)Bolt(消息处理者)Streamgrouping(数据的分发方式)Topology(拓扑)Worker(工作进程)Task(执行具体逻辑的任务)Executor
xiaqian0917
·
2016-03-15 15:00
Storm实战之WordCount
这个例子很简单,核心组件包括:一个
spout
,两个bolt,一个Topology。
spout
从一个路径读取文件,然后readLine,向bolt发射,一个文件处理完毕后,重命名,以不再重复处理。
xiaqian0917
·
2016-03-15 15:00
storm的ack机制
我们知道,Storm保证发出的每条消息都能够得到完全处理,也就是说,对于从
Spout
发出的每个tuple,该tuple和其产生的所有tuple(整棵tuple树)都被成功处理。
rainforc
·
2016-03-12 19:52
Storm线程进程分配方法
Topology主要由以下三个组件组成的:Workerprocesses(进程)Executors(threads)(线程)Tasks其中进程数除以机器数可以得到每台机器的进程数,我们以一台机器为例:
Spout
rainforc
·
2016-03-12 19:51
【2016-03-11】实时计算简介
流行框架:ApacheStorm:Twitter开源,他们有上千台机器跑Storm;client端:
spout
(数据源):puma对接mysql的binlog,swallow对接应用消息,blackhole
rathan0
·
2016-03-11 23:00
storm开发经验分享
一个“task”指的是负责运行
spout
和bolt代码逻辑的单独一个线程;一个“worker”指的是负责向多个task投递消息的网络监听程序(独立的进程),每“worker”代理的“
xiaqian0917
·
2016-03-10 14:00
Storm实际使用经验
一、使用组件的并行度代替线程池Storm自身是一个分布式、多线程的框架,对每个
Spout
和Bolt,我们都可以设置其并发度;它也支持通过rebalance命令来动态调整并发度,把负载分摊到多个Worker
Hadas-Wk
·
2016-03-09 16:25
Storm
storm文档(9)----消息处理保证机制
源地址:http://storm.apache.org/documentation/Guaranteeing-message-processing.html Storm保证:每条离开
spout
的消息都可以得到
xiaqian0917
·
2016-03-09 15:00
集群管理和分布式任务 Apache helix
这个需求,其实可以使用jstorm来做,写一些
spout
就可
tracymkgld
·
2016-03-08 22:00
zookeeper
分布式
大数据
分布式计算
集群管理
Strom(三)-Strom的特性
一、storm的可靠性storm保证从
spout
发出的每个tuple都会被完全处理 即可靠性Acker工作流程1
Spout
创建一个新的Tuple时候,会发射一个消息通知acker去跟踪; collector.emit
xiongsheng
·
2016-03-07 10:00
Strom-(2)核心应用开发
Storm中,
Spout
和Bolt都是Component。Storm定义了一个名叫IComponent的总接口Ø
Spout
的最顶层抽象是ISpout接口。
xiongsheng
·
2016-03-04 16:00
storm源代码分析---Transactional spouts
不同
spout
的特性不同,一个transactionalspout会有例如以下这些特性:1、有着相同txid的batch一定是一样的。
yxwkaifa
·
2016-03-04 11:00
jstorm的acker机制
JStorm/storm可以保证从
spout
发出的每条消息可以被完全处理,什么叫完全处理?
tracymkgld
·
2016-02-23 16:00
storm
大数据
流计算
流式大数据处理的三种框架:Storm,Spark和Samza
一个拓扑中包括
spout
和bol
zhyooo123
·
2016-02-17 15:00
hadoop
zookeeper
spark
storm
LinkedIn
Storm事务Topology的接口介绍
ITransactionalSpout基本事务Topology的
Spout
接口,内含两部分接口:协调
Spout
接口以及消息发送Blot接口。
流水殇
·
2016-02-13 12:00
第2周 Storm概念详解和工作原理,topology、
spout
、bolt的细节和API讲解之2
[root@localhoststorm]#cd/root/soft/code/teststorm/src/main/java/cn/dataguru/storm[root@localhoststorm]#rm-rf*[root@localhoststorm]#lsReportBolt.java SplitSentenceBolt.java WordCountTopology.javaSen
泡海椒
·
2016-02-08 09:00
Storm概念详解和工作原理,topology、
spout
、bolt的细节和API讲解之一
stormdatasource-->bolt| || |bolt--> 有向无环图boltstorm与传统数据库区别传统数据库先存后计算,而storm则是先算后存甚至不存传统关系数据库很难部署实时计算,只能部署定时任务统计分析窗口数据关系型数据库注重事务,并发控制,相对storm来说比较简陋storm【速度】与hadoop【海量数据】,sp
泡海椒
·
2016-02-08 08:00
流式计算-Jstorm提交Topology过程(上)
Topology是Jstorm对有向无环图的抽象,内部封装了数据来源
spout
和数据处理单元bolt,以及
spout
和bolt、bolt和bolt之间的关系。它能够被提交到Jstorm集群。
mengfanrong
·
2016-02-07 16:00
从storm-jdbc谈谈component的生命周期
storm中的
spout
,bolt的生命周期,都是storm帮你管理好,你只要新建一个实例,指定该component的并行数,就可以。
ericquan8
·
2016-02-07 15:00
storm
component
storm-jdbc
component生命周期
Storm中Trident流合并的例子demo
流的合并操作,是指根据两个流的关联条件将两个流合并成一个流,然后在进行后面的处理操作,如果使用
Spout
和Bolt这种编程模型的话写起来会比较困难和繁琐,因为要设置缓冲区来保存第一次过来的数据
小石头_stone
·
2016-02-01 10:00
STORM消息的可靠性
Storm能够保证每一个由
Spout
发送的消息都能够得到完整地处理。本文详细解释了Storm如何实现这种 保障机制,以及作为用户如何使用好Storm的可靠性机制。
yangyangmyself
·
2016-01-31 12:22
storm
jstorm系列-1:入门
我们用
spout
来发送时间戳,bolt来处理时间戳并输出对应的问候语,并且统计每一时间段的问候数目,判断时间戳的生成是否随机。代码如下:publiccla
2BiTT
·
2016-01-30 20:00
jstorm系列-1:入门
我们用
spout
来发送时间戳,bolt来处理时间戳并输出对应的问候语,并且统计每一时间段的问候数目,判断时间戳的生成是否随机。代码如下:publiccla
2BiTT
·
2016-01-30 20:00
Storm学习日记
刚开始接触Storm,总体来说是一个订阅发布的功能,中间件主要由3部分组成,spoutbolttopology1.
spout
消息源有两种实现方式,继承BaseRichSpout类和实现IRichSpout
Yovela
·
2016-01-28 17:00
Storm学习日记
刚开始接触Storm,总体来说是一个订阅发布的功能,中间件主要由3部分组成,spoutbolttopology1.
spout
消息源有两种实现方式,继承BaseRichSpout类和实现IRichSpout
Yovela
·
2016-01-28 17:00
storm java 编程思路
总体思路storm编程和hadoop的mapreduce的编程很类似,hadoop的mapreduce需要自己实现map函数,reduce函数,还有一个主类驱动;storm需要自己实现
spout
,bolt
张欢19933
·
2016-01-27 19:00
java
storm
编程思路
storm
spout
和bolt java api
ComponentStorm中,
Spout
和Bolt都是其Component。所以,Storm定义了一个名叫IComponent的总接口图谱如下:绿色部分是我们最常用、比较简单的部分。
张欢19933
·
2016-01-27 17:00
java
api
storm
spout和bolt
storm acker机制
storm允许用户在
spout
中发射一个新的源tuple时为其指定一个messageid,这个messageid可以是任意的object对象。
张欢19933
·
2016-01-25 18:00
storm
acker机制
Storm Trident中的
Spout
源码解读
一概述1简介2关键类1
Spout
的创建2
spout
的消息流3
spout
调用的整体流程4TSC与TSE5
spout
如何被加载到拓扑中二
Spout
的创建1ItridentSpout2BatchCoordinator3Emmitter4
lujinhong2
·
2016-01-23 21:00
源码
storm
trident
storm笔记:storm基本概念
主要的概念包括:topology(拓扑)stream(数据流)
spout
(水龙头、数据源)bolt(螺栓,数据筛选处理)streamgroup(数据流分组)reliability(可靠性)task(任务
看山
·
2016-01-21 14:37
storm
Apache
Storm
学习笔记
[置顶] storm笔记:storm基本概念
主要的概念包括:topology(拓扑)stream(数据流)
spout
(水龙头、数据源)bolt(螺栓,数据筛选处理)streamgroup(数据流分组)reliability(可靠性)task(任务
tobacco5648
·
2016-01-21 14:00
storm
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他