使用apache pig 处理chukwa收集的数据

        公司使用chukwa收集每个服务器数据的,数据收集到的hdfs以后被写成sequencefile,想用pig处理这些数据,pig本身不支持这种数据结构的,查看chukwa源码发现,本身有带有pig脚本,是hicc用来做数据统计的脚本,hicc一直不好使,也懒得搭理这玩意。

        1、chukwa/script/pig/DF.pig

                define chukwaLoader org.apache.hadoop.chukwa.pig.ChukwaLoader();

               源码在:chukwa/contrib/chukwa-pig下边

        本身chkwa支持的pig版本比较老,使用pig脚本加载这个jar包,执行压根不好使,把代码放到pig下进行编译,就可以直接使用了。




你可能感兴趣的:(pig,chukwa)