centos7上安装部署rsync+inofity实现两台服务器上的文件实时同步

rsync是一款实现远程数据同步功能的软件,在同步文件时,只传送两个文件的不同部分,而不是每次整份传送;它采用C/S模式,进行点对点的传输,默认端口号为873

一、服务器端安装配置

  • 安装

yum install rsync -y

  • 修改配置文件
# /etc/rsyncd: configuration file for rsync daemon mode

# See rsyncd.conf man page for more options.

# configuration example:

# rsync以什么用户身份启动
uid = nobody
# rsync以什么用户组启动,uid和gid设置成root时可以读取任何文件目录,但会带来安全隐患
gid = nobody
use chroot = no
# 最大连接数,0代表没有限制
max connections = 4
# 默认端口873
#port = 873          
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/run/rsyncd.log
# 忽略一些I/O错误
#ignore errors          
read only = false
# 禁止数据同步的客户端IP地址,多个用,隔开
#hosts deny = 0.0.0.0/32   
# 执行数据同步的用户名,多个用,隔开
auth users = bao       
# 用户认证配置文件,里面保存用户名密码
secrets file = /etc/rsync.secrets   
# 允许进行数据同步的客户端IP地址,多个用,隔开
hosts allow = 192.168.109.0/24   
# 不允许进行数据同步的客户端IP地址,多个用,隔开
# hosts deny = 192.168.109.122
# transfer logging = yes
# ignore nonreadable = yes
# dont compress   = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2

# [ftp]
#        path = /home/ftp
#        comment = ftp export area

####################################################
# 模块,可以设置多个
[test1]
# 模块的同步目录,要注意权限
path = /data/test1
# 模块描述
comment = test1
# 是否允许列出模块内容
list = false
# 设置不同步的目录或文件,多个用空格隔开
# exclude = /data/demo1 /data/demo2    
####################################################
[test2]
path = /data/test2
comment = test2

  • 配置用户名密码

    • 编辑配置文件中的secrets file,添加格式为“user:password”的用户名密码,多个用户名密码另起一行存

      echo "lcb:123456" > /etc/rsync.secrets

    • 修改配置文件权限,权限必须是600

      chmod 600 /etc/rsync.secrets

  • 启动服务

    rsync --daemon

注意关闭防火墙或开放873端口

二、客户端安装配置

  • 安装

    yum install rsync -y

  • 创建文件用来存储服务端设置的密码

    echo "123456" > /etc/rsync.secrets

  • 修改密码文件的权限为600

    chmod 600 /etc/rsync.secrets

  • 启动服务,同步文件

    • 服务端同步客户端文件(本地主机复制到远程主机)

      • 格式为rsync [option] src user@host::dest --password-file=xxx

        rsync -va /data/test/ [email protected]::test1 --password-file=/etc/rsync.secrets

    • 客户端同步服务端文件(远程主机复制到本地主机)

      • 格式为rsync [option] user@host::src dest --password-file=xxx

        rsync -va [email protected]::test1 /data/test/ --password-file=/etc/rsync.secrets

  • [option]参数说明

    • -a:归档模式,表示以递归方式传输文件,并保持所有文件属性,等价于 -rlptgoD (注意不包括 -H)
    • -r:对子目录以递归模式处理
    • -l, --links:保持符号链接文件
    • -p, --perms:保持文件权限
    • -t:保持文件时间信息
    • -g:保持文件属组信息
    • -o:保持文件属主信息 (super-user only)
    • -D:保持设备文件和特殊文件 (super-user only)
    • -v:详细输出模式
    • -z, --compress:对备份的文件在传输时进行压缩处理
    • -q:精简输出模式
    • --exclude=PATTERN: 指定排除一个不需要传输的文件匹配模式
    • --delete:删除那些接收端还有而发送端已经不存在的文件
    • --partial:保留那些因故没有完全传输的文件,以是加快随后的再次传输
    • --progress:在传输时显示传输过程
    • -P:等价于 ––partial ––progress
    • ----password-file:与服务端匹配的密码文件

inotify工具的安装

可实时触发rsync进行同步

  • ll /proc/sys/fs/inotify/ 查看服务器内核是否支持inotify,该目录下有以下三个文件说明支持

    • max_user_watches:设置inotifywait或inotifywatch命令可以监视的文件数量(单进程)
    • max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch命令的进程数。
    • max_queued_events:设置inotify实例事件(event)队列可容纳的事件数量。
  • 安装

    yum install inotify-tools

  • 创建脚本

    touch inotify.sh && chmod +x inotify.sh

  • 编写inotify.sh脚本

#!/bin/bash
src=/data/test/                           # 需要同步的源路径
des=test1                             # 目标服务器上 rsync --daemon 发布的名称,rsync --daemon这里就不做介绍了,网上搜一下,比较简单。
rsync_passwd_file=/etc/rsync.secrets            # rsync验证的密码文件
ip=192.168.68.130                 # 目标服务器
user=bao                            # rsync --daemon定义的验证用户名
cd ${src}                            
# 此方法中,由于rsync同步的特性,这里必须要先cd到源目录,inotify再监听 ./ 才能rsync同步后目录结构一致,有兴趣的同学可以进行各种尝试观看其效果
/usr/bin/inotifywait -mrq --format  '%Xe %w%f' -e modify,create,delete,attrib,close_write,move ./ | while read file
# 把监控到有发生更改的"文件路径列表"循环
do
        INO_EVENT=$(echo $file | awk '{print $1}')      # 把inotify输出切割 把事件类型部分赋值给INO_EVENT
        INO_FILE=$(echo $file | awk '{print $2}')       # 把inotify输出切割 把文件路径部分赋值给INO_FILE
        echo "-------------------------------$(date)------------------------------------"
        echo $file
        #增加、修改、写入完成、移动进事件
        #增、改放在同一个判断,因为他们都肯定是针对文件的操作,即使是新建目录,要同步的也只是一个空目录,不会影响速度。
        if [[ $INO_EVENT =~ 'CREATE' ]] || [[ $INO_EVENT =~ 'MODIFY' ]] || [[ $INO_EVENT =~ 'CLOSE_WRITE' ]] || [[ $INO_EVENT =~ 'MOVED_TO' ]]
        then
                echo 'CREATE or MODIFY or CLOSE_WRITE or MOVED_TO'
                rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
# INO_FILE变量代表路径哦  -c校验文件内容
#仔细看 上面的rsync同步命令 源是用了$(dirname ${INO_FILE})变量 即每次只针对性的同步发生改变的文件的目录(只同步目标文件的方法在生产环境的某些极端
#环境下会漏文件 现在可以在不漏文件下也有不错的速度 做到平衡)
#然后用-R参数把源的目录结构递归到目标后面 保证目录结构一致性
        fi
        #删除、移动出事件
        if [[ $INO_EVENT =~ 'DELETE' ]] || [[ $INO_EVENT =~ 'MOVED_FROM' ]]
        then
                echo 'DELETE or MOVED_FROM'
                rsync -avzR --delete --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
#看rsync命令 如果直接同步已删除的路径${INO_FILE}会报no such or directory错误 所以这里同步的源是被删文件或目录的上一级路径
#并加上--delete来删除目标上有而源中没有的文件,这里不能做到指定文件删除,如果删除的路径越靠近根,则同步的目录月多,同步删除的操作就越花时间。
#这里有更好方法的同学,欢迎交流。
        fi
        #修改属性事件 指 touch chgrp chmod chown等操作
        if [[ $INO_EVENT =~ 'ATTRIB' ]]
        then
                echo 'ATTRIB'
                if [ ! -d "$INO_FILE" ]
# 如果修改属性的是目录 则不同步,因为同步目录会发生递归扫描,等此目录下的文件发生同步时,rsync会顺带更新此目录。
                then
                        rsync -avzcR --password-file=${rsync_passwd_file} $(dirname ${INO_FILE}) ${user}@${ip}::${des}
                fi
        fi
done

启动以上脚本即可做到inotify监听文件改动后自动执行文件同步,但是在没有启动期间文件发生更改,他是不知道的,所以这里可以做一个每一个小时做一次全量同步,防止各种意外导致数据不一致

crontab -e
* */1 * * * rsync -av --password-file=/etc/rsync.secrets /data/test/ [email protected]::/test1

查看效果

  • 启动脚本,并修改文件
    sh ./inotify.sh
    inotify脚本.png
  • 查看服务端的日志
    tail -f /var/run/rsyncd.log
    服务端同步情况.png

你可能感兴趣的:(centos7上安装部署rsync+inofity实现两台服务器上的文件实时同步)