Kestrel持久化队列服务器

http://www.5ishare.com/tech/program/283112.shtml

net.rubyeye.xmemcached.test.unittest.KestrelClientUnitTest

http://code.google.com/p/xmemcached/wiki/User_Guide_zh

教程 使用xmemcached 进行连接

http://code.google.com/p/xmemcached/issues/list?can=1&q=&colspec=ID+Type+Status+Priority+Milestone+Owner+Summary&cells=tiles

A persistent queue service used by Twitter.

由于工作上的需要，需要找一个高性能的持久化队列服务器，先是发现了Starling，后来就找到了这个Starling的继承者Kertrel，这两个都是Twitter开发的用来分布执行一些异步任务的队列服务，功能和Geraman和JMS差不多，而我感兴趣的是它的队列存储功能。Kestrel一个很大的好处是使用了memcache的协议，而几乎所有语言都有memcache的接口，每个Key对应一个队列，通过set入队列，get出队列，使用上还是非常方便的。在Github上Kestrel的项目介绍里说到，Kestrel是用Scala语言开发的，在JVM上运行，程序代码算上注释不到1500行，应该也是个学习Scala的好资料。性能方面，官方的测试结果，在一个2.5GHz 2008-model macbook pro上可以达到3.23MB/sec (over loopback) and about 4400 puts/sec，还觉得不够用的话还可以distribute一下。

在Github上提供了源代码，用的时候还是需要自己来编译一下的，在此把Build好的打包放在这儿了，包含了所有依赖的包，用的时候直接java -jar kestrel.jar就行了。

在config/里面还有两个配置文件，配置项的含义在Github上的项目主页上有介绍，一帮情况下默认的配置就完全可用了，大规模应用的话，有些配置项还是要调整一下的。

安装jdk 环境

下载http://gitub.com/robey/kestrel

在目录下安装，自动安装到本目录

运行$ ./dist/kestrel-VERSION/scripts/devel.sh

使用了 xmemcached 1.3.6 进行连接 成功

XMemcachedClient client = new XMemcachedClient("192.168.37.128", 22133);

（记得关闭防火墙）

每秒插入6000～7000 条数据相当稳定

发现starling 已经几年不更新了。选用Kertrel成为必然的选择

一个信息审核的功能，保存未审核信息的队列。
这个服务在Twitter里是用来处理异步的任务的，一头儿把任务塞进队列，另一头儿有一群Worker从队列里取任务执行。

Kestrel是一个scala写的twitter开源的消息中间件，特点是高性能、小巧（2K行代码）、持久存储（记录日志到journal）并且可靠（支持可靠获取）。Kestrel的前身是Ruby写的Starling项目，后来twitter的开发人员尝试用scala重新实现。它的代码非常简洁并且优雅，推荐一读。

Kestrel采用的协议是memcached的文本协议，但是并不完全支持所有memcached协议，也不是完全兼容现有协议。标准的协议它仅支持GET、SET、FLUSH_ALL、STATS，扩展的协议有:

SHUTDOWN关闭kestrelserver
RELOAD动态重新加载配置文件
DUMP_CONFIGdump配置文件
FLUSHqueueNameflush某个队列

每个key对应都是一个队列。标准memcached文本协议的支持上也没有完全兼容，SET不支持flag，因此现有大多数基于flag做序列化的 memcached client都无法存储任意java类型到kestrel；FLUSH_ALL返回"Flushed all queues.\r\n"而不是"OK\r\n"。

GET协议支持阻塞获取和可靠获取，都是在key上作文章，例如你要获取queue1的消息，并且在没有消息的时候等待一秒钟，如果有消息马上返回，超时时间后还没有就返回空，kestrel允许你通过发送

 "GETqueue1/t=1000\r\n"

来阻塞获取。本来的key应该queue1，这里变成了"queue1/t=1000"，因此如果你使用的client有对返回的key和发送的key做校验，那么可能就认为kestrel返回错误。
什么是可靠获取呢？默认的GET是从队列中获取消息后，server端就将该消息从队列中移除，客户端需要自己保证不把这个消息丢失掉，也就是说这里是类 似JMS规范中的自动应答（auto-acknowledge)，如果客户端在处理这个消息的时候异常崩溃或者在接收消息数据的时候连接断开，那么可能导 致这个消息永久丢失。Kestrel的可靠获取就是类似JMS规范中的CLIENT_ACK mode，客户端获取消息后，server将这个消息从队列移除并正常发送给客户端，如果这时候客户端崩溃或者连接断开，那么server将不会确认该消 息被消费并且"un-get"这个消息，重新放到队列头部，那么当client重新连接上来的时候还可以获取这个消息；只有当server收到客户端的明 确确认消息成功的时候，才将消息移除。这个功能也是通过key做手脚，

 "GETqueue1/open\r\n"开始一次可靠获取
 "GETqueue1/close\r\n"确认消费成功

你要关闭前一次可靠获取开启新的一次，还可以这样调用

 "GETqueue1/close/open\r\n"

要注意的是每个连接的client只能有一个正在执行的可靠获取，关闭一个没有开启的reliable fetch或者在执行一次reliable fetch再次open一个新的获取都将直接返回空。

从kestrel的协议方面，我们可以学习到的一点就是在做一份协议的时候，如果有多种不同语言的client的话，应该尽量用通用协议，通用协议通常都已经有很多成熟的client可以使用，避免了为私有协议开发不同语言的client；并且我们可以在通用协议上作扩展，例如kestrel在key上面做的花样，通过给key附加不同的属性即可实现一些特殊功能。

XMemcachedClient默认是无法支持kestrel对memcached的协议的扩展，也就是说无法支持阻塞获取、可靠获取和flush_all，这是因为xmemcached会对返回的key和发送的key做校验，如果不相等就认为解码错误；并且由于kestrel不支持flag，因此无法存储java序列化类型；另外一个问题是，xmemcached(spymemcached)都会将连续的GET协议合并成一个bulk get协议，而kestrel也并不支持bulk get，所以需要关闭这个优化，这个可以通过下列代码关闭：

memcachedClient.setOptimizeGet(false);

Spymemcached似乎不提供这个选项。为了解决序列化问题，我添加了一个新的KestrelCommandFactory，使用这个 CommandFactory后，将默认关闭get优化，并且不对GET返回的key做校验从而支持阻塞获取和可靠获取，并且将在存储的数据之前加上4个 字节的flag(整型)，因此可以支持存储任意可序列化类型。但是有一些应用只需要存储字符串类型和原生类型，这是为了在不同语言的client 之间保持可移植（如存储json数据），那么就不希望在数据之前加上这个flag，关闭这个功能可以通过

memcachedClient.setPrimitiveAsString(true);

方法来设置，所有的原生类型都将调用toString转成字符串来存储，字符串前不再自动附加flag。使用KestrelCommandFactory后，也将可以正常调用flushAll方法。

KestrelCommandFactory已经提交到svn trunk，预计在xmemcached 1.2.0-RC2的时候发布。

使用KestrelCommandFactory对kestrel做的性能测试，server和client都跑在linux上，jdk6,单线程单client连续push消息

消息个数 消息长度 是否启用journal 时间 TPS(/s)
500000 256 否 123.0s 4065
500000 1024 否 126.3s 3959
500000 4096 否 120.6s 4145
500000 4096 是 122.1s 4095
500000 8192 是 121.2s 4125

从数据上来看比官方数据好很多，可能机器配置不同。是否启用journal带来的影响似乎很小，写文件都是append，还是比较高效的。

kestrel的项目主页http://github.com/robey/kestrel
kestrel的wiki页http://wiki.github.com/robey/kestrel
xmemcached项目主页http://code.google.com/p/xmemcached/