Day32
作者:孙鹏鹏
归档:课后笔记
时间:2019/4/15
快捷键:
Ctrl + 1 标题1
Ctrl + 2 标题2
Ctrl + 3 标题3
Ctrl + 4 标题4
Ctrl + 5 程序代码
Ctrl + 6 正文
Ctrl + 7 实例1-1
格式说明:
蓝色字体:注释
黄色背景:重要
绿色背景:注意
老男孩教育教学核心思想6重:重目标、重思路、重方法、重实践、重习惯、重总结
学无止境,老男孩教育成就你人生的起点!
联系方式:
网站运维QQ交流群:
Linux 385168604架构师390642196
Python 29215534大数据421358633
官方网站:
http://www.oldboyedu.com
目 录
第一章:
第一节:rsync复制软件应用与实践
#什么是rsync?
##rsync,rsync英文全称为Remotesynchronization 缩写rsync
##是开源、高速的、可实现本地以及远程,全量以及增加的数据复制(拷贝)工具
#全量和增量的区别
##全量复制:
[root@nfs01~]# cp -a /etc/ /opt/
[root@nfs01~]# \cp -a /etc/ /opt
[root@nfs01~]# touch /etc/oldboy.txt
[root@nfs01~]# \cp -a /etc/ /opt/
##增量复制:
###只复制oldboy.txt
#rsync的作用:
##工作中都需要定时或实时数据备份。本地服务器目录,设备文件等、
##不同的机房之间的数据备份都可以用rsync完成
#rsync功能特性:
支持拷贝普通文件与特殊文件,如链接文件,设备文件等。
支持排除指定文件或目录同步的功能,相当于打包命令tar的排除功能。
可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。
可实现增量复制,既只复制发生变化的数据,因此数据传输效率很高。
可以使用rcp,rsh,ssh等方式来配合进行隧道加密传输文件(rsync本身不对数据加密)。
可以通过socket(进程方式)传输文件和数据(服务端和客户端)*。
支持匿名或认证(无需系统用户)进程模式传输,安全的进行数据备份及镜像
#增量复制原理:
##使用 quick check算法,只对增量的部分复制,根据大小属性的变化进行复制。
##2.x比对差异后复制,3.x一边比对一边复制。
#rsync三种工作模式介绍:
##1)本地(local)
rsync就是一个命令
rsync [OPTION...] SRC... [DEST]
rsync命令 参数选项 [源目录或文件] 目的目录或文件
##命令操作:
##rsync命令
###a.把数据从一个地方复制到另一个地方(仅在一台机器增量),相当于cp。
###b.通过加参数实现删除文件和清空文件内容的功能,相当于rm命令。
###c.查看属性信息功能,相当于ls。
##实践:
###基础不牢,地动山摇。————老男孩
###听话出活,跑通在变通。————老男孩
##a.拷贝实践
[root@backup ~]# ls /opt
[root@backup ~]# rsync /etc/hosts /opt
[root@backup ~]# ls /opt
hosts
[root@backup ~]# \cp /etc/hosts /opt
##保持属性:
[root@backup ~]# rsync -zrtopg /etc/hosts /opt/
[root@backup ~]# ls -lhi /etc/hosts /opt/hosts
16829878 -rw-r--r--. 1 root root 332 4月 12 11:24 /etc/hosts
71373 -rw-r--r-- 1 root root 332 4月 12 11:24 /opt/hosts
##b.删除实践
##删除文件内容:
[root@backup ~]# touch /null.txt #空文件
[root@backup ~]# cat /opt/hosts
127.0.0.1 localhostlocalhost.localdomain localhost4 localhost4.localdomain4
::1 localhostlocalhost.localdomain localhost6 localhost6.localdomain6
172.16.1.5 lb01
172.16.1.6 lb02
172.16.1.7 web01
172.16.1.8 web02
172.16.1.9 web03
172.16.1.31 nfs01
172.16.1.41 backup
172.16.1.51 db01 db01.etiantian.org
172.16.1.61 m01
[root@backup ~]# rsync --delete /null.txt /opt/hosts #让前面null.txt和后面hosts一样
rsync: --delete does not work without --recursive (-r) or --dirs (-d).
rsync error: syntax or usage error (code 1) at main.c(1567) [client=3.1.2]
[root@backup ~]# rsync -r --delete /null.txt /opt/hosts
[root@backup ~]# cat /opt/hosts
##删除目录下所有文件:
[root@backup ~]# mkdir /null
[root@backup ~]# rsync -r --delete /null/ /opt/ #让后面opt和前面null目录内容保持一致
[root@backup ~]# ls /opt/
##c.查看属性
[root@backup ~]# rsync /etc/hosts
-rw-r--r-- 332 2019/04/1211:24:41 hosts
##2)远程Shell模式
###借助类似ssh隧道传输数据,适合不同的机器之间复制。
###异地拷贝,相当于scp,区别scp是远程全量拷贝)
###拉门 推门 思考:
###pull,拉:从远端拉取到本地。
###语法:
rsync [OPTION...] [USER@]HOST:SRC... [DEST]
rsync命令 参数选项 [认证用户]@[主机地址]:[源路径] 本地路径
###语法:
###push,推:从本地推到远端。
rsync [OPTION...] SRC... [USER@]HOST:[DEST]
rsync命令 参数选项 本地路径 [认证用户]@[主机地址]:[目标路径]
###push实践:
[root@nfs01 ~]# rsync -avz /etc/hosts [email protected]:/opt/ #加密传输。
The authenticity of host '172.16.1.41 (172.16.1.41)' can't be established.
ECDSA key fingerprint isSHA256:qZSBkrmOv7xO/63qOU1uLXkPyNVHdkqvrNAcAmXqNEk.
ECDSA key fingerprint is MD5:23:d0:cb:a9:f4:7c:0b:eb:2d:07:00:e1:a3:12:d8:33.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '172.16.1.41' (ECDSA) to the list of knownhosts.
[email protected]'s password:
sending incremental file list
hosts
sent 219 bytes received 35bytes 14.51 bytes/sec
total size is 332 speedup is 1.31
###检查:
[root@backup ~]# cd /opt/
[root@backup /opt]# ls
hosts
rsync -avz /etc/hosts [email protected]:/opt/
rsync -avz /etc/hosts -e "ssh -p 22" [email protected]:/opt/
上述命令是等价的。-e 指定通道 ssh ssh服务连接客户端 -p 22指定22端口。
[root@nfs01 ~]# rsync -avz /etc/hosts -e "ssh -p 22"[email protected]:/opt/
[email protected]'s password:
sending incremental file list
sent 44 bytes received 12bytes 22.40 bytes/sec
total size is 332 speedup is 5.93
###拉的命令:
rsync -avz [email protected]:/opt/hosts /opt
rsync -avz -e "ssh -p 22" [email protected]:/opt/hosts /opt
###推拉:
###a.参照物,执行命令的机器
[email protected] 使用的用户和主机,就用主机和用户的密码。
###强调一个重点:适合rsync
null和null/ 区别,null是目录和目录下的内容,
null/只是目录下的内容,不含本身。
##3)rsync守护进程模式
###首先要搭建rsync服务端(要有守护进程),然后才能在客户端实现推拉数据。
###企业运维的重要模式,重点讲。
###客户端语法暂时不讲。
rsync服务模式:*****开启后台进程,接受别人访问。#实践:
##基础不牢,地动山摇。 --------老男孩
##听话出活,跑通在变通。 ---------老男孩
#rsync命令参数
-v, --verbose 显示输出过程
-z, --compress 压缩
-a, --archive 多参数集合(-rtopgDl)
-r, --recursive 递归
-t, --times 保持修改时间属性
-o, --owner 保持属主不变
-p, --perms 保持权限不变
-g, --group 保持用户组不变
-l, --links 保持拷贝软连接
-q, --quiet 安静的拷贝
--bwlimit=KBPS 限制I/O带宽,KBytes per second。
--delete 删除
--exclude 排除
--exclude-from 从文件中排除
企业常用参数组合:-avz或者-vzrtopg
8、rsync守护进程模式应用实践
(1)以下操作都是在backup服务器
1)安装
[root@backup ~]# rsync --version
rsync version3.1.2 protocol version 31
[root@backup ~]# yum install rsync(不需要)
2)配置配置文件/etc/rsyncd.conf
备份
cp /etc/rsyncd.conf{,.ori}
cat>/etc/rsyncd.conf<
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
fake super = yes
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF
man rsync 查命令的参数
man rsyncd.conf 查配置参数
https://www.samba.org/ftp/rsync/rsync.html
学会获取知识的源头。——老男孩
创建用户和备份目录
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/
3)启动和检查
rsync --daemon(c6及以前)
systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd
[root@backup ~]# ps -ef|grep sync|grep -v grep #检查进程
root 7521 1 0 11:39 ? 00:00:00 /usr/bin/rsync --daemon--no-detach
[root@backup ~]# netstat -lntup|grep 873 #检查端口
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 7521/rsync
tcp6 0 0 :::873 :::* LISTEN 7521/rsync
[root@backup ~]# lsof -i :873 #检查端口
COMMAND PIDUSER FD TYPE DEVICE SIZE/OFF NODE NAME
rsync 7521root 3u IPv4 41439 0t0 TCP *:rsync (LISTEN)
rsync 7521root 5u IPv6 41440 0t0 TCP *:rsync (LISTEN)
面试题:如何查看某端口对应什么服务?答案就是上面两个。
4)配置密码文件
[root@backup ~]# echo "rsync_backup:oldboy"> /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw------- 1 root root 20 4月 15 11:51 /etc/rsync.password
rsync服务端配置完成。
(2)以下操作都是在客户端服务器
以下方法2选1
方法1:认证密码文件
[root@nfs01 ~]# echo "oldboy" >/etc/rsync.password
[root@nfs01 ~]# chmod 600 /etc/rsync.password
[root@nfs01 ~]# cat /etc/rsync.password
oldboy
[root@nfs01 ~]# ls -l /etc/rsync.password
-rw------- 1 root root 7 4月 15 11:55 /etc/rsync.password
方法2:
[root@nfs01 ~]# echo ' export RSYNC_PASSWORD=oldboy'>>/etc/bashrc
[root@nfs01 ~]# tail -1 /etc/bashrc
exportRSYNC_PASSWORD=oldboy
[root@nfs01 ~]# . /etc/bashrc
[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy
rsync客户端 nfs01 配置完成
(3)守护进程模式,客户端rsync的命令语法:
配置服务器端守护进程,实现数据传输:
1、服务器端守护进程。2、客户端执行命令。
拉门、推门 思考:
pull,拉:从远端拉取到本地。
语法1(常用):
rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync命令 参数选项 [虚拟用户]@[主机地址]::[模块名] 本地路径
语法2:
rsync [OPTION...] rsync://[USER@]HOST::SRC... [DEST]
rsync命令 参数选项 rsync://[虚拟用户]@[主机地址]/[模块名] 本地路径
push,推:从本地推到远端。
语法1(常用):
rsync [OPTION...] [DEST] [USER@]HOST::SRC...
rsync命令 参数选项 本地路径 [虚拟用户]@[主机地址]::[模块名]
语法2:
rsync [OPTION...] [DEST] rsync://[USER@]HOST::SRC...
rsync命令 参数选项 本地路径 rsync://[虚拟用户]@[主机地址]/[模块名]
(4)测试成果
错误1:
[root@nfs01 ~]# rsync -avz /etc/[email protected]::backup --password-file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol(code 5) at main.c(1648) [sender=3.1.2]
解答:
[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) 组=1001(rsync)
[root@backup ~]# mkdir -p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4月 15 12:12 /backup/
错误2:
[root@nfs01 ~]# rsync -avz /etc/[email protected]::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
rsync: chgrp ".hosts.YDuTjO" (in backup)failed: Operation not permitted (1)
sent 223 bytes received 124 bytes 694.00bytes/sec
total size is 332 speedup is 0.96
rsync error: some files/attrs were not transferred(see previous errors) (code 23) at main.c(1178) [sender=3.1.2]
解答:增加如下参数到/etc/rsyncd.conf
fake super = yes #不用root用户也可以存储文件的完整属性。
This allows the full attributes of a file to be stored without having to have thedaemon actually running as root.
[root@backup ~]# grep fake /etc/rsyncd.conf
fake super = yes
改完配置,要重启服务:
[root@backup ~]# systemctl restart rsyncd
在测试:成功
[root@nfs01 ~]# rsync -avz /etc/[email protected]::backup --password-file=/etc/rsync.password
sending incremental file list
hosts
sent 89 bytes received 49 bytes 276.00bytes/sec
total size is 332 speedup is 2.41
rsync -avz /etc [email protected]::backup--password-file=/etc/rsync.password
服务端检查:
[root@backup ~]# ls /backup/
hosts
[root@backup ~]# ls /backup/
etc hosts
如果客户端按照环境变量的方式配置,则可以忽略--password-file=/etc/rsync.password参数。
[root@nfs01 ~]# rsync -avz /[email protected]::backup
sending incremental file list
sent 52,071 bytes received 644 bytes 105,430.00bytes/sec
total size is 31,244,350 speedup is 592.70
测试增量
[root@nfs01 ~]# touch /etc/oldboy.txt
[root@nfs01 ~]# rsync -avz /[email protected]::backup
sending incremental file list
etc/oldboy.txt
sent 52,098 bytes received 655 bytes 105,506.00bytes/sec
total size is 31,244,350 speedup is 592.28