Hadoop开发环境准备及错误问题解决方法

Hadoop开发环境准备及错误问题解决方法

    • 一、开发环境准备
    • 二、错误问题及其产生原因
    • 三、错误问题解决方法

一、开发环境准备


  1. Hadoop环境已经搭建好(伪分布式搭建好即可)
  2. eclipse或者idea已经下载安装好
  3. 修改下idea中默认的maven镜像地址为阿里云的镜像地址,配置如下
  4. (1)启动idea,找到idea中maven默认的仓配置地址:
    Hadoop开发环境准备及错误问题解决方法_第1张图片
    (2)找到上述红色部分的文件夹后,查看下.m2下面有没有settings.xml,如果,你需要在.m2下面创建settings.xml文件,文件内容如下,你复制粘贴即可:
    
    <settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"
              xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
              xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">
        <mirrors>
            <mirror>  
                <id>alimavenid>  
                <name>aliyun mavenname>  
                <url>http://maven.aliyun.com/nexus/content/groups/public/url>  
                <mirrorOf>centralmirrorOf>          
            mirror>  
          mirrors>
    settings>
    

二、错误问题及其产生原因


  1. 错误一: Could not locate executable null \bin\winutils.exe in the hadoop binaries
    Hadoop开发环境准备及错误问题解决方法_第2张图片
    原因:缺少winutils.exe

  2. 错误二: Unable to load native-hadoop library for your platform
    原因:缺少hadoop.dll

  3. 错误三: entry in command string null chmod 0700 类似这种错误

三、错误问题解决方法


解决办法如下:

  1. 在windows上解压hadoop-2.7.3.tar.gz到某个盘上,比如D:\hadoop-2.7.3
  2. 在windows上配置环境变量,如下
    Hadoop开发环境准备及错误问题解决方法_第3张图片
    Hadoop开发环境准备及错误问题解决方法_第4张图片
  3. 需要下载hadoop依赖的二进制文件winutils.exe和hadoop.dll动态链接库
    下载地址:winutils和hadoopdll
  4. 把这两个文件复制到Hadoop解压之后所在的文件夹下的bin文件夹中,比如D:\hadoop-2.7.3\bin下:
    Hadoop开发环境准备及错误问题解决方法_第5张图片
  5. 还需要hadoop.dll动态链接库复制到 C:\windows\system32文件夹下
  6. 重启下eclipse或者idea即可

你可能感兴趣的:(Hadoop,hadoop)