Hadoop的DistCp

阅读更多

详细参见：http://hadoop.apache.org/docs/r0.19.0/distcp.html#cpver

DistCp（分布式复制）是一种hadoop提供的工具，用于大集群间大量数据复制。

基本的用法：
1.DistCp最常见的调用是一个集群之间的拷贝
bash$ hadoop distcp hdfs://nn1:8020/foo/bar \
                    hdfs://nn2:8020/bar/foo
【Note：】that DistCp expects absolute paths

2.也可以在命令行上指定多个源目录：
bash$ Hadoop distcp hdfs://nn1:8020/foo/a \
                    hdfs://nn1:8020/foo/b \
                    hdfs://nn2:8020/bar/foo

3.HDFS的版本之间的复制
对于复制集群为两个不同版本的Hadoop，通常会使用HftpFileSystem。这是一个只读的文件系统，所以DistCp必须运行在目标群。
hftp:/// (the default dfs.http.address is amenode>:50070).