rsync 文件同步命令 SCP命令

 快速查询scp：

     scp  各种参数   源地址文件    目的地址文件

   从本地复制到远程：
       scp   [[user@]host1:]file1 ... [[user@]host2:]file2

           本地用户名、地址、文件  远程用户名、地址、文件

           host可以用ip，也可以用域名（dns可以解析）

      可以省略本地信息：

      scp  file1 ... [[user@]host2:]file2
      也可以省略本地信息和远程用户信息：

      scp local_file remote_ip:remote_file 

 从远程复制到本地：

        scp   [[user@]host1:]remote_file ... [[user@]host2:local_file

               远程用户名、地址、文件         本地用户名、地址、文件

           host可以用ip，也可以用域名（dns可以解析）

     可以省略本地信息：

      scp [[user@]host2:]remote_file  local_file ... 

      也可以省略本地信息和远程用户信息：

      scp  remote_ip:remote_file local_file

快速查询 rsync：

rsync [OPTION]... SRC DEST                 本机到本机   
   
rsync [OPTION]... SRC [USER@]host:DEST     本机到远端（ssh shell 方式）
rsync [OPTION]... [USER@]HOST:SRC DEST     远端到本机（ssh shell 方式）

rsync [OPTION]... [USER@]HOST::SRC DEST    远端到本机 （rsync  服务进程方式）
rsync [OPTION]... SRC [USER@]HOST::DEST    本机到远端 （rsync 服务进程方式）

rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

 例子：rsync -aqe 'ssh -p 24 ' 10.11.0.45:/var/www/webroot/supp/upload/ /datepc/supp/upload

其中：

在指定复制源SRC时，路径是否有最后的 “/” 有不同的含义，例如：

/home ： 表示将整个 /home 目录复制到目标目录
/home/ ： 表示将 /home 目录中的所有内容复制到目标目录

如果目标 DEST 不存在，则自动创建

SRC: 是要复制的源位置

DEST: 是复制目标位置

若本地登录用户与远程主机上的用户一致，可以省略 USER@

当访问 rsync 服务器时也可以使用 rsync:// URL

当进行“拉”复制时，若指定一个 SRC 且省略 DEST，则只列出资源而不进行复制

[OPTION...]参数
如:
rsync -avzP [email protected]::hadoop /backup

说明：

同步模块： [rsyncd.conf中那个方括号里的内容]

-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD。 
          -r 是递归     -l 是链接文件，意思是拷贝链接文件；-p 表示保持文件原有权限；
         -t 保持文件原有时间；-g 保持文件原有用户组；-o 保持文件原有属主；-D 相当于块设备文件；

 -z 传输时压缩；
 -v, --verbose 详细模式输出。
 -q, --quiet 精简输出模式。
 -P  --partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输
 -c, --checksum 打开校验开关，强制对文件传输进行校验。  
 -R, --relative 使用相对路径信息。 
 -b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。
       可以使用--suffix选项来指定不同的备份文件前缀。 -z 传输时压缩； -v, --verbose 详细模式输出。
 -e  --rsh=command 指定使用rsh、ssh方式进行数据同步    例：rsync -ae 'ssh -p port'
 --progress 显示备份过程
 --password-file=FILE    从FILE文件中得到密码

--exclude           指定排除不需要传输的文件(夹)   （必须相对路径）      --exclude='file'    --exclude='file/123'  
--exclude-from=/exclude.list       指定排除不需要传输的文件列表     （绝对路径）
        比如 我想避开log文件夹，list中的1文件夹，和fire打头的文件    那么/exclude.list 写为 
                log 
                list/1
                fire* 

--include                               指定排除不需要传输的文件                      rsync -a --exclude='file'  （相对路径）
--include-from=/exclude.list  指定排除不需要传输的文件列表               （绝对路径）
（如果同时使用exclude和include，include命令在前）

--files-from="includes。txt" 只同步指定的目录清单  

        进入正题：

         rsync是类unix系统下的数据镜像备份工具。

        使用快速增量备份工具Remote Sync可以远程同步，支持本地复制，或者与其他SSH、rsync主机同步。

它的特性如下：
*可以镜像保存整个目录树和文件系统。
*可以很容易做到保持原来文件的权限、时间、软硬链接等等。
*无须特殊权限即可安装。
*快速：第一次同步时 rsync 会复制全部内容，但在下一次只传输修改过的文件。
*rsync 在传输数据的过程中可      以实行*压缩及解压缩操作，因此可以使用更少的带宽。
*安全：可以使用scp、ssh等方式来传输文件，当然也可以通过直接的socket连接。
*支持匿名传输，以方便进行网站镜象
*无论本地同步目录还是远程同步数据，首次运行时将会把全部文件拷贝一次，以后再运行时将只拷贝有变化的文件（对于新文件）或文件的变化部分（对于原有文件）。

   

 在使用 rsync 进行远程同步时，可以使用三种种方式：

一.本机不同目录进行同步
二.远程 Shell 方式（建议使用 ssh，用户验证由 ssh 负责）
三.C/S 方式（即客户连接远程 rsync 服务器，用户验证由 rsync 服务器负责）。

一.本机不同目录进行同步
同步命令：

1）本地使用：

rsync [OPTION...] SRC... [DEST]

 rsync -a /home/ /homeback

在指定复制源SRC时，路径是否有最后的 “/” 有不同的含义，例如：

/home ： 表示将整个 /home 目录复制到目标目录
/home/ ： 表示将 /home 目录中的所有内容复制到目标目录

如果目标 DEST 不存在，则自动创建

二.通过远程 Shell 使用：

• 当路径中包含 单引号:  时，启功该模式
• 远程 Shell 方式（建议使用 ssh，用户验证由 ssh 负责）  不用创建rsync服务器、守护进程

拉: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync -a web:/home/ /homeback
   

推: rsync [OPTION...] SRC... [USER@]HOST:DEST
rsync -a [email protected]:/home /homeback

如果用户名USER一致的话，可以省略

host 可以使用主机名（前提是可以解析），也可以使用ip地址

三.创建rsync守护进程

• 即客户连接远程 rsync 服务器，用户验证由 rsync 服务器负责

我们先来测试第二种方法，创建一台rsync服务器
测试使用的机器  ， 两台机器都自带有rsync工具  

1. 源图片所在 A机器 10.0.7. 211  CentOS release 6.3 (Final)
      服务端（rsync服务器）

# rsync --version

    rsync  version  3.0.6  protocol version 30

2. 备份图片 B机器     10.0.7.216   CentOS Linux release 7.2
     客户端

# rsync --version

   rsync  version 3.0.9  protocol version 30

Rsync两个版本有所不同，这里来讲下
首先A机器  3.0.6版本 

[root@web1 ~]# yum install rsync

[root@web1 ~]# rpm -ql rsync  查看文件位置

/etc/xinetd.d/rsync           ##基于xinetd的管理

/usr/bin/rsync                 ##rsync命令

/usr/share/doc/rsync-3.0.6 

/usr/share/doc/rsync-3.0.6/COPYING 

/usr/share/doc/rsync-3.0.6/NEWS 
……

软件包组成中没有提供配置文件和相应的文件，因此需要自行添加如下：

[root@node1 ~]# mkdir /etc/rsyncd  ##创建配置目录  [root@node1 ~]# touch /etc/rsyncd/rsyncd.conf  ##     创建主配置文件  [root@node1 ~]# touch /etc/rsyncd/rsyncd.secrets  ##  创建用户密码文件  [root@node1 ~]# chmod 600 /etc/rsyncd/rsyncd.secrets ##修改文件权限 [root@node1 ~]# touch /etc/rsyncd/rsyncd.motd   ##    创建定义服务器信息的

解析rsyncd.conf
pid file = /var/run/rsyncd.pid #进程 pid 文件所在位置
port = 873                                 #指定监听端口，默认是873，可以自己指定
address = 192.168.1.171         #服务器监听的IP地址，可省略


uid = root      #守护进程所属的uid，默认是nobody，可能会碰到文件或目录权限问题，此处偷懒用的 root
gid = root      #守护进程的gid


#chroot，即改变程序执行时所参考的根目录位置，在传输文件之前，服务器守护程序在将chroot 到文件系统中的目录中
#这样做的好处是可能保护系统被安装漏洞侵袭的可能。缺点是需要超级用户权限。另外对符号链接文件，将会排除在外
#也就是说，你在 rsync服务器上，如果有符号链接，你在备份服务器上运行客户端的同步数据时，只会把符号链接名同步下来，并不会同步符号链接的内容
use chroot = yes


read only = no #只读选择，只让客户端从服务器上读取文件
write only = yes #只写选择，只让客户端到服务器上写入


#允许访问的IP，可以指定单个IP，也可以指定整个网段，能提高安全性。
#格式是 ip 与 ip 之间、ip 和网段之间、网段和网段之间要用空格隔开；
hosts allow = 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0 

max connections = 5 #客户端最多连接数


#当用户登录时会看到这个信息。比如显示当前时间、公告等
motd file = /etc/rsyncd/rsyncd.motd


log file = /var/log/rsync.log  #rsync 服务器的日志；
transfer logging = yes          #记录传输文件的日志
log format = %t %a %m %f %b     #日志格式
syslog facility = local3                   #日志级别


#通过该选项可以覆盖客户指定的IP超时时间。可以确保rsync服务器不会永远等待一个崩溃的客户端。
#超时单位为秒钟，0表示没有超时定义，这也是默认值。
#对于匿名rsync服务器来说，一个理想的数字是600。
timeout = 300 


#模块定义
#主要是定义服务器哪个目录要被同步。
#每个模块都要以[name]形式。这个名字就是在 rsync 客户端看到的名字。
#但是服务器真正同步的数据是通过 path 指定的。可以依次创建多个模块。
#每个模块要指定认证用户、密码文件，但排除并不是必须的。

[ logs ]                                 #模块名，以下配置都属于此模块
path = /var/log                    #文件目录所在位置
list = no                               #当查看服务器上提供了哪些目录时是否列出来，no比较安全
ignore errors                      #忽略I/O错误

#指定由空格或逗号分隔的用户名列表，只有这些用户才允许连接该模块。
#这里的用户和系统用户没有任何关系，是 rsyncd.secrets 中的用户名！
#如果"auth users"被设置，那么客户端发出对该模块的连接请求
#以后会被rsync请求challenged进行验证身份。

#这里使用的 challenge/response 认证协议。
#用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。
#默认情况下无需密码就可以连接模块(也就是匿名方式)。
auth users = zhangzk
secrets file = /etc/rsyncd/rsyncd.secrets        #密码文件


exclude = error_log httpd.pid             #忽略的文件或目录
comment this is my log                       #本模块注释，可选

1.编辑配置rsyncd.conf
pid file = /var/run/rsyncd.pid
port = 873


uid = root
gid = root


use chroot = yes
read only = no
#write only = yes


hosts allow = 10.0.7.211
hosts deny  =*


max connections = 5


motd file = /etc/rsyncd/rsyncd.motd


log file = /var/log/rsync.log
transfer logging = yes
log format = %t %a %m %f %b
syslog facility = local3


timeout = 300 


[ logs ]  
path = /root/test/log
list = no
ignore errors


auth users =lalala
secrets file = /etc/rsyncd/rsyncd.secrets


#exclude =
comment this is my log

##定义第二个同步目录

[weblog] 
path = /var/www/log
list=yes 
ignore errors 
auth users = apache     ##必须在服务器上存在的真实的系统用户，多个用户以,号隔开
secrets file = /etc/rsyncd/rsyncd.secrets  ##指定上述账号密码文件 
comment = web log
exclude =   data/ data1/   ##排除log下的data目录和data1目录

2.编辑密码文件

[root@node1 ~]# vi /etc/rsyncd/rsyncd.secrets
apache:123456

注：1、将rsyncd.secrets这个密码文件的文件属性设为root拥有, 且权限要设为600, 否则无法备份成功!          
                   出于安全目的，文件的属性必需是只有属主可读。
         2、这里的密码值得注意，为了安全你不能把系统用户的密码写在这里。
                比如你的系统用户easylife密码是 000000，为了安全你可以让rsync中的easylife为keer。
                这和samba的用户认证的密码原理是差不多的。

3.编辑服务器信息文件

设定rsyncd.motd 文件;

它是定义rysnc服务器信息的，也就是用户登录信息。比如让用户知道这个服务器是谁提供的等；

类似ftp服务器登录时，我们所看到的 linuxsir.org ftp ……。 

当然这在全局定义变量时，并不是必须的，你可以用#号注掉，或删除；

我在这里写了一个 rsyncd.motd的内容为：

　　++++++++++++++++++++++++++++++++++++++++++++++
　　Welcome to use the mike.org.cn rsync services!
           2017
　　++++++++++++++++++++++++++++++++++++++++++++++

服务器端启动：

usr/bin/rsync --daemon --config=/etc/rsyncd/rsyncd.conf

可能需要root权限运行.

/etc/rsyncd/rsyncd.conf 是你刚才编辑的rsyncd.conf的位置.
也可以在/etc/rc.d/rc.local里加入让系统自动启动等.

设置服务启动脚本:  service rsync start   
参考这里      Shell 增加server rsync 控制脚本

访问 rsync 服务器:
当路径中包含 双引号::  时，启功该模式

拉: rsync [OPTION...] [USER@]HOST::SRC... [DEST]

拉: rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]

rsync -a [email protected]::hadoop /homeback
rsync -a rsync://web/home 

推: rsync [OPTION...] SRC... [USER@]HOST::DEST

推: rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST

连接密码 是在rsyncd.secrets 中设定的
user使用在rsyncd.secrets 中定义的用户

这里的 SRC和DEST 是rsync.conf中 指定的模块

客户端的rsyncd.secrets  文件中 只存入密码就可以

请把客户端和服务端的  rsyncd.secrets 文件权限都设定为600 

特殊设置：

从远程服务器 同步到本地  强制性一致

 # rsync -avzP --delete [email protected]::hadoop /backup
         这回我们引入一个 --delete 选项，表示服务器上的数据要与客户端完全一致，

如果 /backup目录中有服务器上不存在的文件，则删除。
        最终目的是让 /backup 目录上的数据完全与服务器上保持一致；

         用的时候要小心点，最好不要把已经有重要数所据的目录，当做本地更新目录，否则会把你的数据全部删除；

从远程服务器 同步到本地  自动脚本

# rsync -avzP --delete --password-file=/tmp/rsync.password [email protected]::hadoop /backup

          加了一个选项 –password-file=rsync.password ，这时当我们以apache用户登录rsync服务器同步数据时，密码将读取 /tmp/rsync.password 这个文件。这个文件内容只是apache用户的密码

# touch /tmp/rsync.password
# chmod 600 /tmp/rsync.password 
# echo "123456"> /tmp/rsync.password 

注： 这样就不需要密码了；其实这是比较重要的，因为服务器通过crond 计划任务还是有必要的；

rsync 客户端自动与服务器同步数据:

编辑crontab # crontab -e 加入如下代码：

10 0 * * * rsync -avzP --delete --password-file=/tmp/rsync.password [email protected]::hadoop  /tmp/hadoop/