hadoop 批量处理脚本编写

编写shell脚本就是解决批量处理

1. 在/usr/local/bin 创建脚本 并授权所有用户 chmod a+x  xcall.sh

  xcall.sh

hadoop 批量处理脚本编写_第1张图片

 

 hadoop 批量处理脚本编写_第2张图片

 

 hadoop 批量处理脚本编写_第3张图片

 

 

比如:删除/tmp/*所有文件   批量删除4台服务器的/tmp/*所有文件

  xcall.sh rm -rf /tmp/*

hadoop 批量处理脚本编写_第4张图片

 

 

 

2 rsync 远程同步 速度快

 

四个机器均安装rsync命令。 s129 s128 s127 s126
远程同步.
$>sudo yum install rsync 或 yum install rsync 

hadoop 批量处理脚本编写_第5张图片

 

 

 

rsync -lr 赋值链接(包括符号链接)

 

远程同步,支持符号链接。
rsync -lr xxx xxx

 

hadoop 批量处理脚本编写_第6张图片

 

 

 

权限配置

ssh权限问题
----------------
1.~/.ssh/authorized_keys
  644
2.$/.ssh
  700
3.root

hadoop 批量处理脚本编写_第7张图片

 

你可能感兴趣的:(hadoop 批量处理脚本编写)