本地上传文件到hadoop的hdfs文件系统里

引言：通过Java本地把windows里的文件资源上传到centOs环境下的 hdfs文件系统里，中间遇到了很多问题，不过最终还是把文件上传到了hdfs里了

环境：centos-7.0,hadoop.2.8.5.gz,jdk1.8,eclipse

1、下载hadoop.2.8.5.tar.gz和jdk1.8的linux版本安装包，上传到linux的根目录下并配置环境变量，useradd hadoop一个用户，这点就不再详细说了，自己百度一下，随便把hadoop.tar.gz解压到一目录里，比如/opt/hadoop/hadoop.2.8.5,配置好以后可以看到版本。

---

2、我们进入到/opt/hadoop/hadoop.2.8.5/etc/里面又很多配置文件，我们修改hdfs.site.xml文件跟core.site.xml文件

     
        dfs.replication
        1
     
  
   
        dfs.namenode.rpc-bind-host
        0.0.0.0
   
    
     
       dfs.permissions
        false
   
    

---

core.site.xml 192.168.159.134是我本机的ip，通过ip add可以进行查看，每个人都不一样。

   
        fs.defaultFS
        hdfs://192.168.159.134:9000
   

---

3、一些常用命令：

cd /opt/hadoop/hadoop.2.8.5/etc/ service iptables stop// 要把防火墙关掉，不然无法进行网络连接

cd /opt/hadoop/hadoop.2.8.5/bin/ hdfs namenode -format //格式化名称节点

cd /opt/hadoop/hadoop.2.8.5/sbin/ start-dfs.sh//重启hadoop

cd /opt/hadoop/hadoop.2.8.5/sbin/ start-dfs.sh//stop hadoop

hadoop fs -ls hdfs://192.168.159.134:9000/  //查看上传的文件

hadoop fs -put /a hdfs:192.168.159.134:9000  //centos环境下本地上传文件到hdfs

netstat -lnp//查看网络端口

---

4、编写Java 代码

package edu.jmi.hdfsclient;

import java.io.IOException;

import java.net.Socket;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

/**
 * Hello world!
 *
 */
public class AppTest 
{
    public static void main( String[] args ) throws Exception, IOException
    {
        upload();
    }
    
    public static void download() throws IOException {    
        Configuration conf = new Configuration();        
        conf.set("fs.defaultFS","hdfs://192.168.159.134:9000");        
        FileSystem fs = FileSystem.newInstance(conf);      
        fs.copyToLocalFile(new Path("/start-all.sh"),new Path("e://"));   
    }
    
    public static void upload() throws IOException {    
    Configuration conf = new Configuration();     
         conf.set("fs.defaultFS","hdfs://192.168.159.134:9000");     
         FileSystem fs = FileSystem.get(conf);
         Path src=new Path("d://my.txt");
         Path dest=new Path("/");
         fs.copyFromLocalFile(src,dest);
         FileStatus[] fileStatus  = fs.listStatus(dest);
         for(FileStatus file:fileStatus){
          System.out.println(file.getPath());
       }
         System.out.println("上传成功");
    }
    
    public static void test()throws Exception{
        Socket socket=new Socket("192.168.159.134",9000);
        System.out.println(socket);//查看网络是否相同，拒绝说明防火墙开了，外界无法访问到网络。关一下就好了
    }

}

5、效果图

---