Hadoop集群工作台查看日志报错问题及解决办法

我们在hadoop集群一般需要在工作台查看日志，但是工作台查看日志一般会出现以下情况：

上面的原因是由于yarn的日志监控功能默认是处于关闭状态的，需要我们进行开启，开启步骤如下：

一、在yarn-site.xml文件中添加日志监控支持

该配置中添加下面的配置：

        
        
                yarn.log-aggregation-enable
                true
        
         
        
                yarn.log-aggregation.retain-seconds
                 640800
        
        
                yarn.log.server.url
                http://master:19888/jobhistory/logs/
        
        
        
                yarn.nodemanager.remote-app-log-dir
                /user/container/logs
         
         
                yarn.nodemanager.resource.memory-mb
                4096
        
         
                yarn.scheduler.minimum-allocation-mb
                2048
        
        
                yarn.scheduler.maximum-allocation-mb
                4096
        
        
                yarn.nodemanager.vmem-pmem-ratio
                5
        

二、在mapred-site.xml文件中添加日志服务的配置

该配置文件中添加如下配置：若是有了的话，无需再次添加

    
    mapreduce.framework.name
    yarn


  
    mapreduce.jobhistroy.address
    master:10020


    mapreduce.jobhistroy.webapp.address
    master:19888

三、将修改后的配置文件拷贝到集群中的其他机器(单机版hadoop可以跳过该步骤)

快捷一点可以使用 scp 命令将配置文件拷贝覆盖到其他机器

四、重新启动集群的Hdfs和Yarn服务

./start-all.sh

五、 开启日志监控服务进程

在nodenode机器上执行 sbin/mr-jobhistory-daemon.sh start historyserver 命令，执行完成后使用jps命令查看是否启动成功，若启动成功则会显示出JobHistoryServer服务