hadoop的使用

http://192.168.14.200:8088/cluster//yarn监控界面

http://192.168.14.200:50070/explorer.html#//文件系统监控界面

http://192.168.14.200:19888/ //***查看job界面,提交一次即为一个job
mr-jobhistory-daemon.sh start historyserver //***启动日志服务

start-dfs.sh//启动文件系统
start-yarn.sh//启动yarn
yarn-daemon.sh start proxyserver//yarn防护程序,防止被攻击

//测试wordcout程序
hadoop jar /home/hadoop/hadoop-2.7.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar wordcount /input01 /output01
//可以在命令行设置
hadoop jar /hadoop-mapreduce-examples-2.7.1.jar wordcount -D mapreduce.job.ubertask.enable=false /input01 /output01

hadoop fs -put soure dest;//上传文件
hadoop fs -cat /file;//查看文件
tail -f hadoop-hadoop-datanode-slave1.log//查看文件的末尾

//动态卸载节点*****
在运行namenode的节点,hdfs-site添加
dfs.hosts.exclude -->指定文件如:dfs-hosts-exclude.conf
hdfs dfsadmin -report//刷新节点

在运行yarn上运行yarn-site.xml
增加yarn-resourecemanager-nodes.exclude-path  yarn-hosts-exclude.xml(路径)
刷新yarn
yarn rmadmin -refreshnodes


/******************************用户与安全*******************/
//启动单个进程
hadoop-daemon.sh start namenode //只启动namenode datanode未启动所以处于安全模式,只支持读
hadoop-daemon.sh start secondarynamenode 
hadoop-daemon.sh start datanode 

ResourceManager和nodemanager属于yarn管理
hdfs dfsadmin -safemode leave/get/enter//安全模式的切换
//关闭权限检查     ***
         
          dfs.permissions
          false
     

你可能感兴趣的:(hadoop的使用)