RCFileInputFormat的使用方法

在使用RCFileInputFormat时可以设置需要读取的列的序号:

  /**

   * Sets read columns' ids(start from zero) for RCFile's Reader. Once a column

   * is included in the list, RCFile's reader will not skip its value.

   * 

   */

  public static void setReadColumnIDs(Configuration conf, ArrayList<Integer> ids) {

    String id = toReadColumnIDString(ids);

    setReadColumnIDConf(conf, id);

  }

如果使用RCFileInputFormat,在map当中传入的value为数据库表的一行。如要读取该行的每一列可以使用如下方法:

String[] columns = new String[columnNum];

for(int i=0;i<columnNum;i++){

columns[i]= new String(value.get(i).getData(),value.get(i).getStart(),

Value.get(i).getLength());

   }

其中,columnNum为读取的列数,然后在for循环中构造每一列。在这里可能会有疑问的地方,为什么每一列还需要start和length呢?因为value.get(i).getData()获取的是该行所有列的数据,不是针对该列的数据,所以需要“开始位置”和“长度”。在这里我们或许还可以推定:该行所有列value.get(i).getData()的方法其实是共享了一个byte数组。

你可能感兴趣的:(mapreduce,hadoop,集群)