Hadoop的DistCp

详细参见:http://hadoop.apache.org/docs/r0.19.0/distcp.html#cpver

DistCp(分布式复制)是一种hadoop提供的工具,用于大集群间大量数据复制。

基本的用法:
1.DistCp最常见的调用是一个集群之间的拷贝
bash$ hadoop distcp hdfs://nn1:8020/foo/bar \
                    hdfs://nn2:8020/bar/foo
【Note:】that DistCp expects absolute paths

2.也可以在命令行上指定多个源目录:
bash$ Hadoop distcp hdfs://nn1:8020/foo/a \
                    hdfs://nn1:8020/foo/b \
                    hdfs://nn2:8020/bar/foo

3.HDFS的版本之间的复制
对于复制集群为两个不同版本的Hadoop,通常会使用HftpFileSystem。这是一个只读的文件系统,所以DistCp必须运行在目标群。
hftp://<dfs.http.address>/<path> (the default dfs.http.address is amenode>:50070).

你可能感兴趣的:(hadoop)