E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
METAQ
flume连接
metaQ
传数据到spark进行实时计算
以前我们在使用hadoop的时候,都是使用shell脚本来从线上服务器拉取日志(今天凌晨把昨天生成的日志拉过来)。这种情况适用于日质量较小的情况。但是日质量很大了,比如一天1T的日志,那么在使用shell脚本就不能够满足要求了。有两个原因:1.拉取的速度较慢。因为从线上服务器拉取日志是需要跨机房的,而且机房的带宽有限,如果在拉取日志时不加限制,那么带宽就全被拉取日志占了,留给线上服务的带宽就会很小
aaa1117a8w5s6d
·
2014-09-25 17:00
centos下安装ZooKeeper
1.需求 安装ZooKeeper,
metaQ
2.下载 http://zookeeper.apache.org/releases.html 当前stable版是zookeeper
·
2014-08-30 16:00
zookeeper
阿里中间件——消息中间件Notify和
MetaQ
3.1、NotifyNotify是淘宝自主研发的一套消息服务引擎,是支撑双11最为核心的系统之一,在淘宝和支付宝的核心交易场景中都有大量使用。消息系统的核心作用就是三点:解耦,异步和并行。下面让我以一个实际的例子来说明一下解耦异步和并行分别所代表的具体意义吧:假设我们有这么一个应用场景,为了完成一个用户注册淘宝的操作,可能需要将用户信息写入到用户库中,然后通知给红包中心给用户发新手红包,然后还需要
pony12
·
2014-08-29 09:51
Java
C
C++编程
国内互联网公司的开源项目及github地址汇总
有很多重量级的项目,例如LVS、Tengine,或者很有实践价值的中间件,例如
MetaQ
(分布式消息系统)、dubbo(RPC框架)、cobar(数据库中间件),或者是Java世界的工具,例如druid
DianaCody
·
2014-08-06 23:01
开源项目
github
阿里
百度
腾讯
git
国内互联网公司的开源项目及github地址汇总
有很多重量级的项目,例如LVS、Tengine,或者很有实践价值的中间件,例如
MetaQ
(分布式消息系统)、dubbo(RPC框架)、cobar(数据库中间件),或者是Java世界的工具,例如druid
DianaCody
·
2014-08-06 23:00
github
百度
腾讯
开源项目
阿里
MetaQ
简单使用(数据同步框架)
数据同步通用框架说明框架说明数据同步工具用来对两个系统或者多个系统的数据进行同步处理,框架能够实现项目开发人员只需配置两边系统需的业务数据,不需要关系数据是如何实现同步的,框架底层数据传输技术使用淘宝的开源框架metamorphosis简称
metaQ
钱猛
·
2014-08-03 22:36
MetaQ
MetaQ
技术内幕——源码分析(五)
Broker接收从Producer(Client端)发送的消息,也能够返回消息到Consumer(Client),对于Broker来说,就是网络输入输出流的处理。Broker使用淘宝内部的gecko框架作为网络传输框架,gecko是一个NIO框架,能够支持一下特性:1、可自定义协议,协议可扩展、紧凑、高效2、可自动管理重连,重连由客户端发起3、需进行心跳检测,及时发现连接失效4、请求应答模型应当支
qiaochao911
·
2014-08-02 13:00
metaq
Page Cache学习
这次重新学习,想要搞清楚这到底是个什么东东,还是源于在看
MetaQ
的文档里提到了PageCache。 这里我就特别好奇于“PAGECACHE的作用”,于是就做了一番深入学习。
yitongnull
·
2014-07-22 00:00
cache
RocketMQ:一个纯java的开源消息中间件--开发测试环境搭建
一、简介 RocketMQ的前身是
Metaq
,当
Metaq
3.0发布时,产品名称改为RocketMQ  
wbj0110
·
2014-06-22 15:00
RocketMQ
RocketMQ:一个纯java的开源消息中间件--开发测试环境搭建
一、简介 RocketMQ的前身是
Metaq
,当
Metaq
3.0发布时,产品名称改为RocketMQ  
wbj0110
·
2014-06-22 15:00
RocketMQ
RocketMQ:一个纯java的开源消息中间件--开发测试环境搭建
一、简介 RocketMQ的前身是
Metaq
,当
Metaq
3.0发布时,产品名称改为RocketMQ  
wbj0110
·
2014-06-22 15:00
RocketMQ
大型网站
模块 DB CACHE 分布式文件系统 非可靠通知服务 搜索名词 java中间件 : 消息中间件:Notify、
MetaQ
服务框架
wi_wi
·
2014-06-21 10:00
MetaQ
技术内幕——源码分析(八)
上一篇以及上上篇基本介绍了
MetaQ
如何使用Gecko框架在网络上传输数据,今天将继续进一步介绍在Broker,各种命令的处理逻辑(暂时将不涉及到事务处理)。
wbj0110
·
2014-06-01 10:00
metaq
MetaQ
技术内幕——源码分析(八)
上一篇以及上上篇基本介绍了
MetaQ
如何使用Gecko框架在网络上传输数据,今天将继续进一步介绍在Broker,各种命令的处理逻辑(暂时将不涉及到事务处理)。
wbj0110
·
2014-06-01 10:00
metaq
MetaQ
技术内幕——源码分析(八)
阅读更多上一篇以及上上篇基本介绍了
MetaQ
如何使用Gecko框架在网络上传输数据,今天将继续进一步介绍在Broker,各种命令的处理逻辑(暂时将不涉及到事务处理)。
wbj0110
·
2014-06-01 10:00
MetaQ
MetaQ
技术内幕——源码分析(八)
阅读更多上一篇以及上上篇基本介绍了
MetaQ
如何使用Gecko框架在网络上传输数据,今天将继续进一步介绍在Broker,各种命令的处理逻辑(暂时将不涉及到事务处理)。
wbj0110
·
2014-06-01 10:00
MetaQ
MetaQ
技术内幕——源码分析(六)
阅读更多前面介绍过
MetaQ
使用gecko框架作为网络传输框架,Gecko采用请求/响应的方式组织传输。
wbj0110
·
2014-05-31 14:00
MetaQ
MetaQ
技术内幕——源码分析(七)
阅读更多前面介绍了Broker在网络传输过程中使用的数据结构,同时也介绍了
MetaQ
使用了Gecko框架作为网络传输框架。
wbj0110
·
2014-05-31 14:00
MetaQ
MetaQ
技术内幕——源码分析(六)
前面介绍过
MetaQ
使用gecko框架作为网络传输框架,Gecko采用请求/响应的方式组织传输。
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(七)
前面介绍了Broker在网络传输过程中使用的数据结构,同时也介绍了
MetaQ
使用了Gecko框架作为网络传输框架。
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(七)
前面介绍了Broker在网络传输过程中使用的数据结构,同时也介绍了
MetaQ
使用了Gecko框架作为网络传输框架。
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(六)
前面介绍过
MetaQ
使用gecko框架作为网络传输框架,Gecko采用请求/响应的方式组织传输。
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(七)
阅读更多前面介绍了Broker在网络传输过程中使用的数据结构,同时也介绍了
MetaQ
使用了Gecko框架作为网络传输框架。
wbj0110
·
2014-05-31 14:00
MetaQ
MetaQ
技术内幕——源码分析(六)
阅读更多前面介绍过
MetaQ
使用gecko框架作为网络传输框架,Gecko采用请求/响应的方式组织传输。
wbj0110
·
2014-05-31 14:00
MetaQ
MetaQ
技术内幕——源码分析(七)
前面介绍了Broker在网络传输过程中使用的数据结构,同时也介绍了
MetaQ
使用了Gecko框架作为网络传输框架。
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(六)
前面介绍过
MetaQ
使用gecko框架作为网络传输框架,Gecko采用请求/响应的方式组织传输。
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(五)
Broker接收从Producer(Client端)发送的消息,也能够返回消息到Consumer(Client),对于Broker来说,就是网络输入输出流的处理。 Broker使用淘宝内部的gecko框架作为网络传输框架,gecko是一个NIO框架,能够支持一下特性: 1、 可自定义协议,协议可扩展、紧凑、高效 2、 可自动管理重连,重连由客户端发起 3、 需进行心跳检测,及时发现连接失效
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(五)
Broker接收从Producer(Client端)发送的消息,也能够返回消息到Consumer(Client),对于Broker来说,就是网络输入输出流的处理。 Broker使用淘宝内部的gecko框架作为网络传输框架,gecko是一个NIO框架,能够支持一下特性: 1、 可自定义协议,协议可扩展、紧凑、高效 2、 可自动管理重连,重连由客户端发起 3、 需进行心跳检测,及时发现连接失效
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(五)
阅读更多Broker接收从Producer(Client端)发送的消息,也能够返回消息到Consumer(Client),对于Broker来说,就是网络输入输出流的处理。Broker使用淘宝内部的gecko框架作为网络传输框架,gecko是一个NIO框架,能够支持一下特性:1、可自定义协议,协议可扩展、紧凑、高效2、可自动管理重连,重连由客户端发起3、需进行心跳检测,及时发现连接失效4、请求应答模
wbj0110
·
2014-05-31 14:00
MetaQ
MetaQ
技术内幕——源码分析(五)
阅读更多Broker接收从Producer(Client端)发送的消息,也能够返回消息到Consumer(Client),对于Broker来说,就是网络输入输出流的处理。Broker使用淘宝内部的gecko框架作为网络传输框架,gecko是一个NIO框架,能够支持一下特性:1、可自定义协议,协议可扩展、紧凑、高效2、可自动管理重连,重连由客户端发起3、需进行心跳检测,及时发现连接失效4、请求应答模
wbj0110
·
2014-05-31 14:00
MetaQ
MetaQ
技术内幕——源码分析(五)
Broker接收从Producer(Client端)发送的消息,也能够返回消息到Consumer(Client),对于Broker来说,就是网络输入输出流的处理。 Broker使用淘宝内部的gecko框架作为网络传输框架,gecko是一个NIO框架,能够支持一下特性: 1、 可自定义协议,协议可扩展、紧凑、高效 2、 可自动管理重连,重连由客户端发起 3、 需进行心跳检测,及时发现连接失效
wbj0110
·
2014-05-31 14:00
metaq
MetaQ
技术内幕——源码分析(四)
MetaQ
允许自定义删除策略,需要实现接口DeletePolicy,默认提供了两种删除策略:过期删除(DiscardDeletePolicy)和过期打包删除(
wbj0110
·
2014-05-31 13:00
MetaQ
MetaQ
技术内幕——源码分析(四)
MetaQ
允许自定义删除策略,需要实现接口DeletePolicy,默认提供了两种删除策略:过期删除(DiscardDeletePolicy)和过期打包删除(Arch
wbj0110
·
2014-05-31 13:00
metaq
MetaQ
技术内幕——源码分析(四)
MetaQ
允许自定义删除策略,需要实现接口DeletePolicy,默认提供了两种删除策略:过期删除(DiscardDeletePolicy)和过期打包删除(Arch
wbj0110
·
2014-05-31 13:00
metaq
MetaQ
技术内幕——源码分析(四)
MetaQ
允许自定义删除策略,需要实现接口DeletePolicy,默认提供了两种删除策略:过期删除(DiscardDeletePolicy)和过期打包删除(
wbj0110
·
2014-05-31 13:00
MetaQ
MetaQ
技术内幕——源码分析(四)
MetaQ
允许自定义删除策略,需要实现接口DeletePolicy,默认提供了两种删除策略:过期删除(DiscardDeletePolicy)和过期打包删除(Arch
wbj0110
·
2014-05-31 13:00
metaq
MetaQ
技术内幕——源码分析(三)
在
MetaQ
中,分区的存储采用的多文件的方式进行组合,即Message
wbj0110
·
2014-05-31 12:00
MetaQ
MetaQ
技术内幕——源码分析(三)
在
MetaQ
中,分区的存储采用的多文件的方式进行组合,即MessageSto
wbj0110
·
2014-05-31 12:00
metaq
MetaQ
技术内幕——源码分析(三)
在
MetaQ
中,分区的存储采用的多文件的方式进行组合,即MessageSto
wbj0110
·
2014-05-31 12:00
metaq
MetaQ
技术内幕——源码分析(三)
在
MetaQ
中,分区的存储采用的多文件的方式进行组合,即MessageSto
wbj0110
·
2014-05-31 12:00
metaq
MetaQ
技术内幕——源码分析(八)
上一篇以及上上篇基本介绍了
MetaQ
如何使用Gecko框架在网络上传输数据,今天将继续进一步介绍在Broker,各种命令的处理逻辑(暂时将不涉及到事务处理)。
wbj0110
·
2014-05-31 12:00
metaq
MetaQ
技术内幕——源码分析(三)
在
MetaQ
中,分区的存储采用的多文件的方式进行组合,即Message
wbj0110
·
2014-05-31 12:00
MetaQ
MetaQ
技术内幕——源码分析(二)
阅读更多消息,是
MetaQ
最重要的资源,在分析
MetaQ
之前必须了解的概念,我们所做的一切都是围绕消息进行的,让我们看看
MetaQ
中消息的定义是怎样的,
MetaQ
的类Message定义了消息的格式:Java
wbj0110
·
2014-05-30 14:00
MetaQ
MetaQ
技术内幕——源码分析(二)
消息,是
MetaQ
最重要的资源,在分析
MetaQ
之前必须了解的概念,我们所做的一切都是围绕消息进行的,让我们看看
MetaQ
中消息的定义是怎样的,
MetaQ
的类Message定义了消息的格式:Java代码
wbj0110
·
2014-05-30 14:00
metaq
MetaQ
技术内幕——源码分析(二)
阅读更多消息,是
MetaQ
最重要的资源,在分析
MetaQ
之前必须了解的概念,我们所做的一切都是围绕消息进行的,让我们看看
MetaQ
中消息的定义是怎样的,
MetaQ
的类Message定义了消息的格式:Java
wbj0110
·
2014-05-30 14:00
MetaQ
MetaQ
技术内幕——源码分析(二)
消息,是
MetaQ
最重要的资源,在分析
MetaQ
之前必须了解的概念,我们所做的一切都是围绕消息进行的,让我们看看
MetaQ
中消息的定义是怎样的,
MetaQ
的类Message定义了消息的格式:Java代码
wbj0110
·
2014-05-30 14:00
metaq
MetaQ
技术内幕——源码分析(二)
消息,是
MetaQ
最重要的资源,在分析
MetaQ
之前必须了解的概念,我们所做的一切都是围绕消息进行的,让我们看看
MetaQ
中消息的定义是怎样的,
MetaQ
的类Message定义了消息的格式:Java代码
wbj0110
·
2014-05-30 14:00
metaq
MetaQ
技术内情——源码分析(一)
阅读更多
MetaQ
技术内幕——源码分析(一)笔者最近在业务上需要使用到
MetaQ
,也借此阅读了
MetaQ
的相关源码,准备分享
MetaQ
源码分析。
wbj0110
·
2014-05-30 14:00
MetaQ
MetaQ
技术内情——源码分析(一)
MetaQ
技术内幕——源码分析(一)笔者最近在业务上需要使用到
MetaQ
,也借此阅读了
MetaQ
的相关源码,准备分享
MetaQ
源码分析。先扫扫盲,如果读者对
MetaQ
已经较为熟悉,可以跳过下一段落。
wbj0110
·
2014-05-30 14:00
metaq
MetaQ
技术内情——源码分析(一)
MetaQ
技术内幕——源码分析(一)笔者最近在业务上需要使用到
MetaQ
,也借此阅读了
MetaQ
的相关源码,准备分享
MetaQ
源码分析。先扫扫盲,如果读者对
MetaQ
已经较为熟悉,可以跳过下一段落。
wbj0110
·
2014-05-30 14:00
metaq
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他