mahout下处理的文件必须是SequenceFile格式的,所以需要把txtfile转换成sequenceFile

mahout下处理的文件必须是SequenceFile格式的,所以需要把txtfile转换成sequenceFile。

SequenceFile是hadoop中的一个类,允许我们向文件中写入二进制的键值对,具体介绍请看
eyjian写的http://www.hadoopor.com/viewthread.php?tid=144&amp
mahout中提供了一种将指定文件下的文件转换成sequenceFile的方式。
(You may find Tika (http://lucene.apache.org/tika) helpful in converting binary documents to text.)
使用方法如下:
$MAHOUT_HOME/bin/mahout seqdirectory \
--input <PARENT DIR WHERE DOCS ARE LOCATED> --output <OUTPUT DIRECTORY> \
<-c <CHARSET NAME OF THE INPUT DOCUMENTS> {UTF-8|cp1252|ascii...}> \
<-chunk <MAX SIZE OF EACH CHUNK in Megabytes> 64> \
<-prefix <PREFIX TO ADD TO THE DOCUMENT ID>>

举个例子:
bin/mahout seqdirectory --input /hive/hadoopuser/ --output /mahout/seq/ --charset UTF-8

 

我在Hadoop技术论坛,关于本章的链接是:

http://bbs.hadoopor.com/thread-983-1-1.html

 

 

同时提供一个mahout使用的demo的地址:

http://lucene.grantingersoll.com/2010/02/16/trijug-intro-to-mahout-slides-and-demo-examples/

这里面有几个不错的例子。

你可能感兴趣的:(apache,hadoop,PHP,Lucene,bbs)