java从hdfs中下载文件到本地

hdfs 在linux 搭建好,之后启动hdfs

hdfs核心机制看可这 篇

http://www.cnblogs.com/thinkpad/p/5173705.html


接下来新建java项目 引入HDFS所需要的包,这里的jar包可以从hadoop安装包里拿

解压haddoop gz进入 hadoop-2.4.1\share\hadoop\hdfs

java从hdfs中下载文件到本地_第1张图片


进入hadoop-2.4.1\share\hadoop\common

java从hdfs中下载文件到本地_第2张图片


导入java项目 编写如下demo

package hdfs.zanghan;

import java.io.FileOutputStream;
import java.io.IOException;

import org.apache.commons.io.IOUtils;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;


public class HdfsUtils {

	
	public static void main(String[] args) throws IOException {
		
		//上传文件到HDFS
		Configuration conf=new Configuration();
		FileSystem fs=FileSystem.get(conf);
		Path src=new Path("hdfs://zanghan02:9000/aa.txt");
		FSDataInputStream inputStream=fs.open(src);
		FileOutputStream os=new FileOutputStream("F://aa.txt");
		IOUtils.copy(inputStream,os);
		
	}
}

首先你现在的东西在hdfs上是有的

conf配置文件从etc/hadoop/拿。

core-site.xml

hafs-site.xml

放到src目录下

java从hdfs中下载文件到本地_第3张图片


运行,查看F://aa.txt文件

你可能感兴趣的:(hadoop)