Rsync下行同步+Inotify实时同步(理论详解+实验步骤)

x33g5p2x  于2021-11-08 转载在 其他  
字(5.2k)|赞(0)|评价(0)|浏览(126)

一、Rsync–数据镜像备份工具

1.Rsync概述

  • rsync 是 Linux 系统下的数据镜像备份工具
  • 使用快速增量备份工具 Remote Sync 可以远程同步,支持本地复制,或者与其他 SSH、rsync 主机同步

2.Rsync特性

  • 可以镜像保存整个目录和文件系统

  • 可以很容易做到保持原文件的权限、时间、软硬连接等

  • 无须特殊权限即可安装

  • 快速

  • 第一次同步时rsync会复制全部内容,但在下一次只传输修改过的文件

  • rsync在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的宽带

  • 安全

  • 可以使用scp、ssh等方式来传输文件

  • 也可通过直接socket连接

  • 支持匿名传输,以方便进行网站镜像

3.Rsync 同步源

  • 在远程同步任务中,负责发起 rsync 同步操作的客户机称为客户端,而负责响应来自客户端的 rsync 同步操作的服务器称为备份源,也称之为同步源

在下行同步(下载)中,同步源负责提供文档的原始位置,发起端应对该位置有读取权限

在上行同步(上传)中,同步源负责提供文档的目标位置,发起端应对该位置具有写入权限

4.Rsync 配置流程

1.基本思路
- 建立rsyncd.conf配置文件、独立的账号文件
- 启用rsync的 --daemon模式

----

2.配置文件 rsyncd.conf
- 认证配置 auth users、secrets file,不加则为匿名

----

3.独立的账号文件
- 用户名:密码
- 每行一个用户记录
- 独立的账号数据,不依赖系统账号

----

4.启用 rsync 服务
- 通过"--daemon"独自提供服务(rsync --daemon)
- 执行"kill $(cat /var/run/rsyncd.pid)"关闭服务

5.Rsync 使用语法及参数详解

--使用语法--

rsync [选项] 原始位置 目标位置
#基本格式

--配置源的两种格式--
1. 用户名@主机地址::共享模块名
或
2. rsync://用户名@主机地址/共享模块名
常用选项解释
-v,–verbose详细模式输出
-q,–quiet精简输出模式
-c,–checksum打开校验开关,强制对文件传输进行校验
-a,–archive归档模式,表示以递归方式传输文件,并保持所有文件树形
-r,–recursive对子目录以递归模式处理,包含目录及子目录中的所有文件
-H,–hard-links保留硬链接
-l, --links保留软链接
–delete删除目标位置有而原始位置没有的文件(一致性)
–delete-after传输结束以后再删除
-A保留ACL属性信息

二、Inotify–Linux 特性

1.Inotify 简介

  • Inotify 是一个 Linux 内核特性,它监控文件系统,并且及时向专门的应用程序发出相关的事件警告,比如删除、读、写和卸载操作等
  • 还可以跟踪活动的源头和目标等细节
  • Inotify反应灵敏,用法非常简单,并且比cron任务的繁忙轮询高效得多

2.Inotify 的使用

可以监控文件系统的变动情况,并做出通知响应

  • 调整Inotify内核参数(优化)
  • /etc/sysctl.conf(内核参数配置文件)
max_queue_events		#监控事件队列大小
max_user_instances  	#最多监控实例数
max_user_watches    	#每个实例最多监控文件数
  • inotifywait:用于持续监控,实时输出结果
  • inotifywatch:用于短期监控,任务完成后再输出结果
例:
inotifywait -mrq -e modify,create,move,delete /var/www/html

--参数解释--
-m:持续进行监控
-r:递归监控所有子对象
-q:简化输出信息
-e:指定要监控哪些事件类型
modify:修改
create:创建
move:移动
delete:删除

三、配置 Rsync 下行同步

1.环境准备

主机主机名操作系统IP 地址主要软件
MasterCentOS 7-1CentOS7192.168.126.11rsync
SlaveCentOS 7-2CentOS7192.168.126.12rsync / inotify-tools-3.14.tar.gz

2.将 Master 服务器数据备份到 Slave 服务器

Master(192.168.126.11):

systemctl stop firewalld
systemctl disable firewalld
setenforce 0
#关闭防火墙及安装机制

yum install -y httpd rsync
#rsync系统一般已默认安装,安装httpd是为了生成/var/www/html目录(后续会用到作为共享目录)

vim /etc/rsyncd.conf
#编辑rsync配置文件
uid = root
gid = root
use chroot = yes
address = 192.168.126.11
port 873
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid
hosts allow = 192.168.126.0/24
[wwwroot]        
path = /var/www/html
comment = Document Root of www.xjj.com
read only = yes
dont comperss = *.gz *.bz2 *.tgz *.zip *.rar *.z
auth users = xixi
secrets file = /etc/rsyncd_users.db
----详解----
uid = root											#用户id
gid = root											#组id
use chroot = yes									#开启,禁锢在源目录
address = 192.168.126.11							#监听地址
port 873											#默认端口号为873
log file = /var/log/rsyncd.log						#日志文件存放位置
pid file = /var/run/rsyncd.pid						#存放进程id的文件位置
hosts allow = 192.168.126.0/24						#允许访问的主机网段
[wwwroot]        									#共享模块的名称
path = /var/www/html								#源目录路径
comment = Document Root of www.xjj.com				#
read only = yes										#是否为只读
dont comperss = *.gz *.bz2 *.tgz *.zip *.rar *.z	#同步时不再压缩的文件类型
auth users = xixi									#授权用户,多个账户以空格隔开
secrets file = /etc/rsyncd_users.db					#存放账号信息的数据文件,一行一个
----

vim /etc/rsyncd_users.db
xixi:123123
#编辑用户账号文件,固定格式为[名称:密码],一行一个

chmod 600 /etc/rsyncd_users.db
#官方要求,最好只是赋权600!

rsync --daemon
#开启服务
netstat -natp | grep rsync
#检测端口号,确认服务是否成功开启

cd /var/www/html
#切换至共享目录下
touch niuniu.html jiang.html
ls

3.实现下行同步

Slave(192.168.126.12):

systemctl stop firewalld
systemctl disable firewalld
setenforce 0

yum install -y rsync

cd /opt
mkdir xjj1
chmod 777 xjj1

vim /etc/server.pass
123123
#编辑免交互密钥文件,第一行为密码

chmod 600 /etc/server.pass
#给密钥文件赋权600

rsync -az --delete --password-file=/etc/server.pass xixi@192.168.126.11::wwwroot /opt/xjj1
#rsync,使用密钥文件/etc/server/pass对应xixi用户,IP地址为192.168.126.11的共享模块文件进行压缩,并归档同步至当前服务器的/opt/xcf1目录下,同时删除差异内容,保持一致性

ls xjj1
#查看下行同步是否成功

四、配置 Rsync+Inotify 实时同步

使用inotify通知接口,可以用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。
将inotify机制与rsync工具相结合,可以实现触发式备份(实时同步),即只要原始位置的文档发生变化,则立即启动增量备份操作;否则处于静默等待状态。
因为 inotify 通知机制由 Linux 内核提供,因此主要做本机监控,在触发式备份中应用时更适合上行同步

1.Master 关闭只读模式并为共享目录赋权

Master(192.168.126.11):

vim /etc/rsyncd.conf
read only = no
#关闭只读模式,否则将不可写入

kill `cat /var/run/rsyncd.pid`
#修改完配置文件需要重启服务,这里采用直接杀掉进程号的方式
netstat -natp | grep rsync
#检查一下服务是否已被终止

rsync --daemon
netstat -natp | grep rsync
#再次开启服务并检查端口号确认

chmod 777 /var/www/html
#为共享目录赋权777

2.优化 Slave 内核参数

Slave(192.168.126.12):

3.编译安装 inotify-tools

Slave(192.168.126.12):

yum install -y gcc gcc-c++ 

cd /opt
#wget --no-check-certificate https://github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz

cd /opt/inotify-tools-3.14/
./configure
make -j 4 && make install

4.编写自动监控同步脚本

Slave(192.168.126.12):

vim /opt/inotify.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e create,delete,move,modify,attrib /opt/xjj1/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /opt/xjj1/ xixi@192.168.126.11::wwwroot"

$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then
        $RSYNC_CMD
	fi
done
----详解----
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e create,delete,move,modify,attrib /opt/xjj1/"
#INOTIFY_CMD变量:持续监控 /opt/xjj1 目录中的创建,删除,移动,修改,改变时间的操作
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /opt/xjj1/ xixi@192.168.126.11::wwwroot"
#RSYNC_CMD变量:使 xixi 用户,/etc/server.pass 密钥文件,将 /opt/xcf1 目录下的文件进行压缩,归档,保留硬链接文件同步至 192.168.126.11 的共享模块定义的目录 /var/www/html 下,并删除差异性内容,保持一致性

$INOTIFY_CMD | while read DIRECTORY EVENT FILE		#持续监控...
do
    if [ $(pgrep rsync | wc -l) -le 0 ] ; then		#如果服务并未启动,则执行同步
        $RSYNC_CMD
	fi
done
----

cd /opt/
chmod +x inotify.sh
./inotify.sh &
#给脚本赋权并在后台执行

cd /opt/xjj1
touch jingjing.html
rm -rf jiang.html
#创建一个新的html文件并删除之前的qwe
ls
#再次确认一下

5.验证

Master(192.168.126.11):

cd /var/www/html
ls
#可以看到实时同步成功
#之后还可继续尝试,Master在共享目录内如何操作都不会影响到Slave端,而Slave的在该目录内的操作都会同步给Master

总结

rsync 为下行同步,即源端同步到发送端
但rsync+inotify正好相反,是发送端同步到源端

相关文章