rsync 是一个开源的快速备份工具,可以在不同主机之间镜像同步整个目录树,支持增量备份,保持链接和权限,且采用优化的同步算法,在传输前执行压缩,因此非常使用于异地备份、镜像服务器等应用。
官方网站: http://rsync.sanba.org/
rsync 在 Linux 和 UINX 系统默认安装。
[root@localhost ~]# rpm -qa | grep rsync
rsync-3.1.2-4.el7.x86_64
在远程同步任务中,负责发起 rsync 同步操作的客户机称为发起端,而负责响应来自客户机的rsync 同步操作的服务器称为同步源。在同步过程中,同步源负责提供文档的原始位置,而发起端对该位置具有读取权限。
在服务器A中配置
/etc/rsyncd.conf
[root@localhost ~]# vim /etc/rsyncd.conf
uid = nobody
gid = nobody
use chroot = yes # 禁锢在源目录
address = 192.168.153.132 # 监听地址
hosts allow = 192.168.153.0/24 # 运行访问的客户机地址
port 873 # 监听端口
pid file = /var/run/rsyncd.pid # 存放进程 ID 的文件位置
log file = /var/log/rsyncd.log # 日志文件位置
[wwwhtml] # 共享模块的名称
path = /var/www/html/ # 源目录的实际路径
comment = my test web # 介绍,随便写写
dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2
# 同步时不再压缩的文件类型
read only =yes # 是否为只读
auth users = lisa # 授权账号
secrets file = /etc/rsyncd_users.db # 存放账户信息的数据文件
基于安全考虑,对于 rsync 的同步源最好仅允许以只读方式做同步。
另外,同步可以允许匿名的方式(注释掉auth users
和secrets file
配置记录)
根据配置文件的授权账户,创建账号数据文件(这个文件的名字随意,自己知道就好),添加用户记录
vim /etc/rsyncd_users.db
lisa:123456 // 注意这个账号是rsync的账号,不是系统账号
由于账号信息采用明文存放,因此需要修改文件权限
chmod 600 /etc/rsync_users.db
# 启动 rsync 服务
rsync --daemon
[root@localhost ~]# netstat -antp | grep rsync
tcp 0 0 192.168.153.132:873 0.0.0.0:* LISTEN 7577/rsync
# 如果需要关闭 rsync,可以使用 kill 命令
kill $(cat /var/run/rsyncd.pid)
在客户机(发起端)执行,即服务器B
实际上同步源与发起源也可以是同一台主机,虽然并不常见,其效果相当于本地备份
rsync /etc/fstab /opt
# 下载到本地目录进行备份
rsync [options] 用户名@主机地址::共享模块名 本地路径
或
rsync [options] rsync://用户名@主机地址/共享模块名 本地路径
options:
-a: 归档模式,保留文件的权限、属性等信息,等同于组合选项 -rlptgoD
-r: 递归模式,包含目录及子目录中的所有文件
-l: 对于符号链接文件仍然复制为符号链接文件
-p: 保留文件的权限标记
-t: 保留文件的时间标记
-g: 保留文件的属组标记(仅超级用户使用)
-o: 保留文件的属主标记(仅超级用户使用)
-D: 保留设备文件及其他特殊文件
-v: 显示同步过程的详细 (verbose) 信息
-z: 在传输文件时进行压缩 (compress)
-H: 保留硬连接文件
-A: 保留 ACL 属性信息
--delete: 删除目标位置有而原始位置没有的文件
--checksum: 根据校验和(而不是文件大小、修改时间)来决定是否跳过文件
访问源服务器中的 wwwhtml 共享模块,并下载到本地 /rsynctest 目录下
[root@localhost ~]# mkdir /rsynctest
[root@localhost ~]# rsync -avz rsync://[email protected]/wwwhtml /rsynctest/
Password: // 验证 lisa 用户的密码
receiving incremental file list
sent 20 bytes received 167 bytes 41.56 bytes/sec
total size is 51 speedup is 0.27
[root@localhost ~]# ls -l /rsynctest/
总用量 8 // 验证同步结果
-rw-r--r-- 1 root root 13 6月 29 09:36 abc1.txt
-rw-r--r-- 1 root root 0 6月 29 09:21 abc2.txt
-rw-r--r-- 1 root root 0 6月 29 09:21 abc3.txt
-rw-r--r-- 1 root root 27 6月 14 14:37 index.html
lrwxrwxrwx 1 root root 11 6月 29 09:22 passwd -> /etc/passwd
自动备份中,我们希望它不用输入密码,需要创建一个密码文件,再使用--password-file
指定即可
[root@localhost ~]# vim /etc/server.passwd
123456
[root@localhost ~]# chmod 600 /etc/server.passwd # 由于是明文,同样需要权限设置
[root@localhost ~]# rsync -avz --password-file=/etc/server.passwd rsync://[email protected]/wwwhtml /rsynctest/
receiving incremental file list
# 不在提示需要密码
sent 20 bytes received 167 bytes 374.00 bytes/sec
total size is 51 speedup is 0.27
创建计划任务,要求实时备份,需要使用选项--delete
[root@localhost ~]# crontab -e
30 20 * * 1,3,5 rsync -avz --password-file=/etc/server.passwd rsync://[email protected]/wwwhtml /rsynctest/
[root@localhost ~]# service crond restart
[root@localhost ~]# chkconfig crond on
Linux内核从2.6.13 版本开始提供了 inotify 通知接口,用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。
将rsync 工具与inotify 机制相结合,可以实现触发式备份(实时同步)–只要原始位置的文档发生变化,就立即启动增量备份操作,否则处于静默等待状态。这样,就避免了按固定周期备份时存在的延迟性、周期过密等问题。正因为 inotify 通知机制由 Linux 内核提供,因此主要做本机监控,在触发式备份中应用时更适合上行同步。
这里的上行同步,其实就是将本地的文件备份到远端服务器
在 Linux内核中,默认的 inotify 机制提供了三个调控参数
[root@localhost ~]# ls -l /proc/sys/fs/inotify/
总用量 0
-rw-r--r-- 1 root root 0 6月 29 15:55 max_queued_events // 监控事件队列
-rw-r--r-- 1 root root 0 6月 29 15:55 max_user_instances // 最多监控实列数
-rw-r--r-- 1 root root 0 6月 29 15:55 max_user_watches // 每个实例最多监控文件数
[root@localhost ~]# cat /proc/sys/fs/inotify/max_queued_events
16384
[root@localhost ~]# cat /proc/sys/fs/inotify/max_user_instances
128
[root@localhost ~]# cat /proc/sys/fs/inotify/max_user_watches
8192
当要监控的目录、文件数量较多或者变化较频繁时,建议加大这三个参数的值
[root@localhost ~]# vim /etc/sysctl.conf
···
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
[root@localhost ~]# sysctl -p
···
fs.inotify.max_queued_events = 16384
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576
使用 inotify 机制还需要安装 inotify-tools,以便提供 inotifywait 和 inotifywatch 助工具程序,用来监控和汇总改动情况。
inotifywait
:用于持续监控,实时输出结果
inotifywatch
:用于短期监控,任务完成后再出结果
官网: http://inotify-tool.sourceforge.net/
# 这里使用 yum 安装
yum install epel-release -y
yum -y install inotify-tools
测试将本地 ‘/rsynctest’ 目录中的内容同步到 rsync 备份端
rsync -azH --delete --password-file=/etc/server.passwd /rsynctest/ [email protected]::wwwhtml
报错:rsync: read error: Connection reset by peer (104)
rsync error: error in socket IO (code 10) at io.c(785) [sender=3.1.2]
原因:备份端中的 rsync 配置文件开了只读权限,发起端没有远端服务器的写入权限
# 修改备份端192.168.153.132中配置文件
vim /etc/rsyncd.conf
将共享模块中的
read only = yes
改为
read only = no
报错:rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1178) [sender=3.1.2]
原因:权限问题。备份使用的是备份端192.168.153.132的 rsync 的用户 lisa ,但本地并不存在这个用户,所有需要创建该用户lisa ,修改密码为123456,并给目录’/rsynctest’修改权限;另外,需要考虑备份端源目录’/var/www/html’目录的权限,考虑 rsync 的运行用户 nobody 是否有该目录权限。
# 本地
[root@localhost ~]# useradd lisa
[root@localhost ~]# passwd lisa
更改用户 lisa 的密码 。
新的 密码:
无效的密码: 密码少于 8 个字符
重新输入新的 密码:
passwd:所有的身份验证令牌已经成功更新。
[root@localhost ~]# chown -R lisa:lisa /rsynctest
# 备份端
[root@localhost www]# chown -R nobody:nobody /var/www/html
测试监控 /rsynctest/
目录,先执行 inotifywait
命令,然后再新开一个终端向/var/www/html/
目录下添加、移动文件,跟踪屏幕输出结果。
inotifywait -mrq -e modify,create,move,delete /rsynctest/
inotifywait 可监控 modify(修改) 、create (创建) 、move (移动) 、delete(删除)、attrib(属性更改) 等各种事件,一旦有变动就立即输出结果;
inotifywatch 可用来收集文件系统变动情况,并在运行结束后输出汇总的变化情况。
使用 inotifywait 输出的监控结果中,每行记录中依次包括目录、事件、文件,据此可以识别变动情况。
为了简单,只要检测到变动时执行 rsync 上行同步操作即可。
需要注意的是,当更新较频繁时,应避免并发执行 rsync 备份一一若 rsync 进程已经存在,则忽略本次同步,或者根据 rsync 进程数量(取决于实际任务) 来决定是否同步
[root@localhost ~]# vim inotify_rsync.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete /rsynctest/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.passwd /rsynctest/ [email protected]::wwwhtml"
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
$RSYNC_CMD
done
ost ~]# vim inotify_rsync.sh
#!/bin/bash
INOTIFY_CMD=“inotifywait -mrq -e modify,create,attrib,move,delete /rsynctest/”
RSYNC_CMD=“rsync -azH --delete --password-file=/etc/server.passwd /rsynctest/ [email protected]::wwwhtml”
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
$RSYNC_CMD
done