rsync学习小结

    rsync是被广泛使用的数据同步工具，因其使用delta-transfer算法，只传输源文件和目标文件之间有差异的部分，可大大减小网络传输的数据量，提高同步效率。废话不多说，开始做相关小结。

1.使用方法

    共有七种使用方法，适用于本地复制数据、从本地同步数据到远程、从远程同步数据到本地三种情况，但不能实现数据从远程到远程流动。

    该工具可以使用rsync进程和远程shell两种访问方式，结合上述三种传输方向，七种使用方法如下所示：

本地复制：

    rsync [OPTION...] SRC... [DEST]

从远程拉数据:

通过remote shell

    rsync [OPTION...] [USER@]HOST:SRC... [DEST]

通过rsync daemon

    rsync [OPTION...] [USER@]HOST::SRC... [DEST]

    rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]

推数据到远程:

通过remote shell

    rsync [OPTION...] SRC... [USER@]HOST:DEST

通过rsync daemon

    rsync [OPTION...] SRC... [USER@]HOST::DEST

    rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

        当远程路径使用双冒号“::”或 rsync://格式时，远程主机需开启rsync daemon；使用单冒号“:”格式时，则使用remote shell，默认使用SSH认证。

以下为常用选项：

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关，强制对文件传输进行校验

-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结

-p, --perms 保持文件权限

-o, --owner 保持文件属主信息

-g, --group 保持文件属组信息

-D, --devices 保持设备文件信息

-t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run 模拟运行

-W, --whole-file 拷贝文件，不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节

-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件

--delete 删除那些DST中SRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

--delete-after 传输结束以后再删除DST中应删除的文件

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--max-size=SIZE 不传输超过指定大小的文件，SIZE的单位可为B、K、M、G，默认单位为B

--min-size=SIZE 不传输小于指定大小的文件，SIZE的单位可为B、K、M、G，默认单位为B

--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输

--force 强制删除目录，即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间，单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0

-T --temp-dir=DIR 在DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

--progress 显示备份过程

-P 等同于 --partial和--progress

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE 从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽，KBytes per second

-h, --help 显示帮助信息

2.使用举例

1) rsync -avz /opt/test/s/ ./

源地址和目标地址均在本地，复制s目录下的内容，但不包括s目录本身。

注：若源地址结尾没有“/”，则连同目录本身一起复制。

2) rsync -avz --progress [email protected]:/opt/test/s ./

使用SSH方式从远程复制数据到本地，包括s目录本身。

注：若SSH使用的不是默认端口，则需指定端口，使用命令rsync  -avz  -e 'ssh -p 1234' 

 [email protected]:/opt/test/s ./

3) rsync --list-only [email protected]:/opt/test/s/

通过SSH认证，仅列出源地址的内容。

4) rsync -avHz ./ 192.168.10.121::test

使用rsync-daemon认证，将本地数据传至远程，等同于rsync -avHz ./ rsync://192.168.10.121/test 。

5) rsync -avHz --password-file=secret.txt 192.168.10.121::test /cygdrive/f/temp

使用rsync-daemon认证，从远程传输至Windows本地。其中密码文件权限为600，内容仅包含密码，不需用户名。注意windows路径的写法，如F:\temp应写成/cygdrive/f/temp。

3.配置服务

    要开启rsync守护进程，需要进行相关的配置

1) 在Linux上配置

    配置文件模板位于/usr/share/doc/rsync/examples/rsyncd.conf，将其复制至/etc目录下，修改基本的配置信息

cat /etc/rsyncd.conf

#motd file=/etc/motd 

log file=/var/log/rsyncd

pid file=/var/run/rsyncd.pid 

#syslog facility=daemon

#socket options=

# MODULE OPTIONS

[test]

        comment = Hello,rsync.

        path = /opt/test/s

        use chroot = yes

        max connections=20

        lock file = /var/lock/rsyncd

# the default for read only is yes...

        read only = no

        list = yes

        uid = rs

        gid = rs

#       exclude =

#       exclude from =

#       include =

#       include from =

#       auth users =

        secrets file = /etc/rsyncd.secrets

        strict modes = yes

        hosts allow = 192.168.10.250 192.168.10.251

#       hosts deny =

        ignore errors = no

        ignore nonreadable = yes

        transfer logging = no

#       log format = %t: host %h (%a) %o %f (%l bytes). Total %b bytes.

        timeout = 600

        refuse options = checksum dry-run

        dont compress = *.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

修改密码文件，格式为用户名:密码，设置权限为600，

cat /etc/rsyncd.secrets

rs:123456

使用service rsync start 或rsync --daemon开启服务，可使用--config指定配置文件。

在Debian上需要修改/etc/default/rsync 才能使用service rsync start，其中

RSYNC_ENABLE=true

RSYNC_CONFIG_FILE=/etc/rsyncd.conf

2) 在Windows上配置

    windws服务端程序是cwRsyncServer.exe，客户端cwRsync.exe，配置文件默认位于C:\Program Files (x86)\ICW\rsyncd.conf，修改后如下：

use chroot = false

strict modes = false

hosts allow = *

log file = /cygdrive/f/temp/rs/rsyncd.log

pid file = /cygdrive/f/temp/rs/rsyncd.pid

UID=0

GID=0

auth users = rs

secrets file = /cygdrive/f/temp/rs/rsyncd.secrets

# Module definitions

# Remember cygwin naming conventions : c:\work becomes /cygwin/c/work

#

[win-test]

path = /cygdrive/f/temp/a

read only = false

transfer logging = yes

需注意路径的写法，密码文件的格式与linux上一样，权限为不允许其他用户可读写。