在0.92版本的hbase上添加了协处理器的功能,协处理器分为两大部分 endpoint和observer.
observer相当于一个钩子的作用,根据钩子运行的模块来划分,又分成三个
RegionObserver:用这个做数据操纵事件,其紧密的绑定到表的region
MasterObserver:处理集群级别的事件:管理操作和数据定义语言操作
WALObserver:预写日志处理
而endpoint可看作关系数据库中的存储过程,用户可自定义。
言归正传,如何配置并使用协处理器呢
本次只介绍用endpoint实现快速返回符合条件结果总数的方法。
1.配置
在$HBASE_HOME/conf/hbase-site.xml添加一个配置项。我用的0.94版本自带的实现为AggregateImplementation,具体如下
<property>
<name>hbase.coprocessor.region.classes</name>
<value>org.apache.hadoop.hbase.coprocessor.AggregateImplementation</value>
</property>
若之前未配置此项,则配置完后,需要重启hbase方能生效。
2.客户端使用,直接上代码。
scan直接用查询结果所用的scan即可。
/**
* 获得符合条件结果总数
* @author wanglongyf2 2013-1-11 上午10:29:15
* @param scan
* @return
*/
private long getTotalNumber(Scan scan) {
AggregationClient aggregationClient = new AggregationClient(conf);
long rowCount = 0;
try {
scan.addColumn(columnFamily, etimeQualifier);//必须有此句,或者用addFamily(),否则出错,异常包含 ci ****
rowCount = aggregationClient.rowCount(tableName, null, scan);
} catch (Throwable e) {
LOG.fatal("getTotalNumber wrong. ");
e.printStackTrace();
}
return rowCount;
}
若要验证此结果总数和实际的结果数是否相同,则看下面,关键代码
scan.setStartRow(startRow); scan.setStopRow(stopRow); Filter filter = new SingleColumnValueFilter(columnFamily, qualifier, CompareOp.GREATER, Bytes.toBytes(startTime)); scan.setFilter(filter); long number = getTotalNumber(scan); ResultScanner scanner = table.getScanner(scan); Result res = scanner.next(); while(res != null) { numberOfResults ++; res = scanner.next(); } if (numberOfResults != number) { LOG.fatal(String.format("use aggregation %d and scanner %d gets inconsistant result. ", number, numberOfResults)); }