2019-04-19实时备份

实时备份:


周期性数据备份示意图:

2019-04-19实时备份_第1张图片

利用实时复制方式,实现实时备份重要数据信息。

实时复制是企业数据备份最重要的方式,主要用于提交的数据备份,对于用户提交到服务器上的普通文件(压缩包、视频、文档等),可采用inotify/sersync+rsync实时备份方式,对于数据文件还有较复杂的分布式存储工具自身可以实现将数据同时备份成多份。

普通数据文件实时备份示意图:


2019-04-19实时备份_第2张图片

实时复制细节实现说明: 

(1)实时复制软件会监控磁盘文件系统的变化,比如:指定一个/data目录,实时复制软件服务进程会实时监控这个/data目录中数据的变化,即文件系统block与inode信息的变化。

(2)一旦/data目录文件发生变化,就会执行rsync命令,将变化的数据信息推送到备份服务器相应的备份目录中,从而完成数据的实时备份。


2019-04-19实时备份_第3张图片

inotify机制介绍:

inotify是一种一步的软件系统事件监控机制,Linux内核从2.6.13起,加入了inotify支持,通过inotify可以监控文件系统中添加、删除、修改、移动等各种事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools正式实施这样监控的软禁。。实际上inotify-tools是一个监控指定目录数据实时变化的软件程序。

inotify程序原理是一种事件机制,它为应用程序监控文件系统事件提供了实时响应事件的机制,可以做到对事件处理的实时响应。

inotify的实现有几款软件:inotify-tools、sersync、lrsyncd。

提示:serync软件在inotify基础上进行开发的,功能要更加强大些,支持配置文件配置,多了定时重试机子,过滤机制,提供接口做CDN数据更新,支持多线程操作。

inotify机制优点:

监控文件文件系统事件变化,通过复制工具实现实时数据复制。

支持多线程实时复制。

inotify机制缺点:

实测并发如果大于200个文件(10-100K),复制会有延迟。


不管是inotify-tools还是sersync,本身的核心功能都只是,监控指定目录内的数据变化,具体的复制到远端服务器的功能了,还是需要rsync工具配合的,这些软件几乎都是inotify机制接口智商的软件封装,软件具体工作机制流程为:

(1)备份源客户端开启运行inotify软件服务进程,检测指定目录的文件系统变化。

(2)一旦获取到指定监控的目录的数据发生变化,即执行rsync命令复制数据。

(3)将变化的数据发送到rsync服务端(也可执行scp,rsync远程Shell模式)的备份目录中。


2019-04-19实时备份_第4张图片

[root@nfs01 ~]# echo $RSYNC_PASSWORD
oldboy

[root@nfs01 ~]# rsync -avz /data [email protected]::backup/
sending incremental file list
data/
data/oldboy.txt
data/oldgirl.txt

sent 213 bytes  received 66 bytes  186.00 bytes/sec
total size is 0  speedup is 0.00

[root@nfs01 ~]# uname -r              ###查看内核
3.10.0-957.el7.x86_64

[root@nfs01 ~]# ls -l /proc/sys/fs/inotify/           #####inotify配置文件
total 0
-rw-r--r-- 1 root root 0 Apr 19 09:45 max_queued_events
-rw-r--r-- 1 root root 0 Apr 19 09:45 max_user_instances
-rw-r--r-- 1 root root 0 Apr 19 09:45 max_user_watches

max_user_watches:设置inotifywait或inotifywatch命令可以见识的文件数量(单进程)
max_user_instances:设置每个用户可以运行的inotifywait或inotifywatch 命令的进程数
max_queued_events:设置inotify实例时间(event)队列可容纳的时间数量

安装:yum install inotify-tools -y

安装:yum install inotify-tools -y

[root@nfs01 ~]# rpm -ql inotify-tools|head -2

/usr/bin/inotifywait
/usr/bin/inotifywatch

[root@nfs01 ~]# rpm -qa inotify-tools
inotify-tools-3.14-8.el7.x86_64

inotify-tools工具主要命令

在inotify-tools软件部署完毕后,主要应用两个命令实现数据信息的监控,一个利用inotifywait命令实现对数据变化时间的监控,另一个利用inotifywatch命令实现对数据时间信息统计。这两个命令是能够应用好inotify-tools软件的关键,下面对这两个软件说明如下:

(1)inotifywait:在被监控的目录等等待特定文件系统事件(open、close、delete等)发生,执行后处于阻塞状态,适合在Shell脚本中使用,此命令是重点。

(2)inotifywatch:收集被监控的文件系统使用的统计数据,指文件系统事件发生的次数统计。

inotifywait命令参数:


2019-04-19实时备份_第5张图片

-e的参数:


2019-04-19实时备份_第6张图片

测试实践:

inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e create /data

时间格式:


2019-04-19实时备份_第7张图片

手工测试监控目录增删改查的命令:

2019-04-19实时备份_第8张图片


2019-04-19实时备份_第9张图片

企业实战调整:


2019-04-19实时备份_第10张图片

sersync 的优点:

1)使用c++编写,对Linux系统文件产生的临时文件和重复的文件操作会进行过滤,在结合rsync复制的时候,会减少运行时消耗的本地及网络资源,因此速度更快。

(2)使用多线程进行复制(即可以并发复制多个不同文件),尤其是复制较大文件时,能够保证多个服务器实时保持复制状态。

(3)sersync自带出错出路机制,通过失败队列对出错的文件重新复制,如果仍然失败,则每若干个小时对复制失败的文件再重新复制。

(4)sersync自带crontab功能,只需在xml配置文件中开启,即可按预先的配置,隔一段时间整体复制一次。

(5)sersync自带socket与http的协议扩展,可以满足有特殊需求的公司二次开发。

你可能感兴趣的:(2019-04-19实时备份)