rsync
目标服务器端设置
* 默认873端口,本次修改为8888
* rsync 数据镜像备份工具
* xinetd 网络守护进程服务
#安装软件
yum install rsync xinetd -y
rpm -qa|grep rsync
rsync-3.0.9-18.el7.x86_64
#设置 xindetd 配置文件 开机启动
cat >> /etc/xinetd.d/rsync <
vim /etc/services
254 rsync 8888/tcp # rsync
255 rsync 8888/udp # rsync
#设置用户
groupadd rsync
useradd -g rsync rsync
mkdir /home/rsync/backup/
chown -R rsync.rsync /home/rsync/backup/
#设置rsyncd配置文件
cat >> /etc/rsyncd.conf <
#设置账户密码
echo rsync:hequan > /etc/rsyncd.passwd
#设置权限
chmod 600 /etc/rsyncd.passwd
chmod 600 /etc/rsyncd.conf
#启动
systemctl start xinetd.service
源客户端:
yum install xinetd -y
cat >> /etc/xinetd.d/rsync <> /etc/rsyncd.conf < /etc/rsyncd.passwd
chmod 600 /etc/rsyncd.passwd
systemctl start xinetd.service
测试: 从客户端 备份 到 服务器rsync -avH --port=8888 --progress /data [email protected]::backup --password-file=/etc/rsyncd.passwd
inotify
- 是一种强大的、细粒度的、异步的文件系统事件监控机制
#查看服务器的内核是否支持inotify ,如果有就是支持
ll /proc/sys/fs/inotify
total 0
-rw-r--r-- 1 root root 0 Jan 22 17:39 max_queued_events
-rw-r--r-- 1 root root 0 Jan 22 17:39 max_user_instances
-rw-r--r-- 1 root root 0 Jan 22 17:39 max_user_watches
yum install make gcc gcc-c++ -y
cd /usr/local/src/
wget http://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
tar xf inotify-tools-3.14.tar.gz
cd inotify-tools-3.14
./configure --prefix=/usr/local/inotify
make && make install
echo "PATH=/usr/local/inotify/bin:$PATH" >> /etc/profile.d/inotify.sh
source /etc/profile.d/inotify.sh
echo "/usr/local/inotify/lib" >/etc/ld.so.conf.d/inotify.conf
ln -s /usr/local/inotify/include /usr/include/inotify
sysctl -a | grep max_queued_events
sysctl -a | grep max_user_watches
sysctl -a | grep max_user_instances
echo 'fs.inotify.max_queued_events=99999999
fs.inotify.max_user_watches=99999999
fs.inotify.max_user_instances=65535
' >> /etc/sysctl.conf
/sbin/sysctl -p
vim /data/rsync.sh
#!/bin/bash
src=/data/ # 需要同步的源路径
cd $src
des=backup # 目标服务器上 rsync --daemon 发布的名称,rsync --daemon这里就不做介绍了,网上搜一下,比较简单。
rsync_passwd_file=/etc/rsyncd.passwd # rsync验证的密码文件
ip1=192.168.10.149 # 目标服务器1
user=rsync # rsync --daemon定义的验证用户名
cd ${src} # 此方法中,由于rsync同步的特性,这里必须要先cd到源目录,inotify再监听 ./ 才能rsync同步后目录结构一致,有兴趣的同学可以进行各种尝试观看其效果
/usr/local/inotify/bin/inotifywait -mrq --format '%Xe %w%f' -e modify,create,delete,attrib,close_write,move ./ | while read file # 把监控到有发生更改的"文件路径列表"循环
do
INO_EVENT=$(echo $file | awk '{print $1}') # 把inotify输出切割 把事件类型部分赋值给INO_EVENT
INO_FILE=$(echo $file | awk '{print $2}') # 把inotify输出切割 把文件路径部分赋值给INO_FILE
echo "-------------------------------$(date)------------------------------------"
echo $file
#增加、修改、写入完成、移动进事件
#增、改放在同一个判断,因为他们都肯定是针对文件的操作,即使是新建目录,要同步的也只是一个空目录,不会影响速度。
if [[ $INO_EVENT =~ 'CREATE' ]] || [[ $INO_EVENT =~ 'MODIFY' ]] || [[ $INO_EVENT =~ 'CLOSE_WRITE' ]] || [[ $INO_EVENT =~ 'MOVED_TO' ]] # 判断事件类型
then
echo 'CREATE or MODIFY or CLOSE_WRITE or MOVED_TO'
rsync -avzcR --port=8888 --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip1}::${des} # INO_FILE变量代表路径哦 -c校验文件内容
#仔细看 上面的rsync同步命令 源是用了$(dirname ${INO_FILE})变量 即每次只针对性的同步发生改变的文件的目录(只同步目标文件的方法在生产环境的某些极端环境下会漏文件 现在可以在不漏文件下也有不错的速度 做到平衡) 然后用-R参数把源的目录结构递归到目标后面 保证目录结构一致性
fi
#删除、移动出事件
if [[ $INO_EVENT =~ 'DELETE' ]] || [[ $INO_EVENT =~ 'MOVED_FROM' ]]
then
echo 'DELETE or MOVED_FROM'
rsync -avzR --port=8888 --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip1}::${des}
#看rsync命令 如果直接同步已删除的路径${INO_FILE}会报no such or directory错误 所以这里同步的源是被删文件或目录的上一级路径,并加上--delete来删除目标上有而源中没有的文件,这里不能做到指定文件删除,如果删除的路径越靠近根,则同步的目录月多,同步删除的操作就越花时间。这里有更好方法的同学,欢迎交流。
fi
#修改属性事件 指 touch chgrp chmod chown等操作
if [[ $INO_EVENT =~ 'ATTRIB' ]]
then
echo 'ATTRIB'
if [ ! -d "$INO_FILE" ] # 如果修改属性的是目录 则不同步,因为同步目录会发生递归扫描,等此目录下的文件发生同步时,rsync会顺带更新此目录。
then
rsync -avzcR --port=8888 --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip1}::${des}
fi
fi
done
chmod +x /data/rsync.sh
测试:
/usr/local/inotify/rsync.sh`
正式应用:
* */2 * * * rsync -avzcH --port=8888 --progress /data [email protected]::backup --password-file=/etc/rsyncd.passwd
nohup /data/rsync.sh > /tmp/rsync.log 2>&1 &