数据同步服务RSYNC
大家好呀!这里是码农后端。今天来介绍一下数据同步服务RSYNC,作为Linux/Unix系统中远程或本地复制同步(复制)文件和目录最常用的命令,相比于scp命令,其具有增量备份、数据同步时保持文件的原有属性等优点。
一、RSYNC概述
1、几种方式
- sync 同步:刷新文件系统缓存,强制将修改过的数据块写入磁盘,并且更新超级块。
- async 异步:将数据先放到缓冲区,再周期性(一般是30s)的去同步到磁盘。
- rsync 远程同步:remote synchronous
数据同步过程
以保存文件为目标,sync数据同步会强制把缓存中的数据写入磁盘(立即保存),适合实时性要求比较高的场景。而asyn数据异步则是先将数据先放到缓冲区,再周期性(一般是30s)的去同步到磁盘,适合批量数据同步的场景。
同步(Synchronous),异步(Asynchronous),远程同步(Remote Synchronous)
2、rsync特点
1)可以镜像保存整个目录树和文件系统
2)可以保留原有的权限(permission,mode),owner,group,时间(修改时间,modify time),软硬链接,文件acl,文件属性(attributes)信息等
3)传输效率高,使用同步算法,只比较变化的(增量备份)
如把A服务器中的file1.txt、file2.txt、 file3.txt传输到B服务器,使用rsync实现数据同步,会先比较,假设B服务器中存在file1.txt、file2.txt,则只会同步file3.txt。
4)支持匿名传输,方便网站镜像;也可以做验证,加强安全
3、rsync与scp的区别
两者都可以实现远程同步,但rsync相对更强一些。体现如下:
1)支持增量备份
2)数据同步时保持文件的原有属性
二、RSYNC的使用
1、基本语法
1)使用man命令查看帮助手册
1 | man rsync |
2)选项说明
1 | OPTION选项说明(一般使用 -av) |
PUSH:推,即上传;PULL:拉,即下载
2、本地文件同步
本地文件同步可以理解为:把文件从一个位置(同步=>拷贝)到另一个位置(类似cp)
eg1:/dir1、/dir2与/dir3,/dir1中创建三个文件file1、file2、file3,使用rsync本地同步
1 | # 创建目录 |
eg2:rsync -R选项的应用(保留相对路径)
1 | rsync -avR /dir1/ /dir2 |
eg3:rsync –delete(删除目标目录里多余的文件)
/dir1(file1、file2)
/dir2(file1、file2、file3)
rsync –delete同步后,会自动删除file3文件。(让dir1与dir2目录中的文件高度一致)
1 | rsync -av --delete /dir1/ /dir2 |
3、rsync作为系统服务
默认情况下,rsync只是作为一个命令来进行使用的(ps在查询进程时,找不到对应的服务),但是rsync提供了一种作为系统服务的实现方式。
Linux系统服务的思路:
对外提供服务——>端口监听——>启动服务——>启动脚本——>配置文件
1)启动rsyncd服务(CentOS6中没有,CentOS7中有这个服务)
1 | systemctl start rsyncd |
如果企业中使用到操作系统为CentOS6版本,则没有启动脚本。则需要查看帮助手册:
1 | man rsync |
注:如果rsync作为系统服务单独运行,则其底层就不需要SSH服务了
2)rsyncd服务的配置文件/etc/rsyncd.conf
1 | man 5 rsyncd.conf |
三、任务解决方案(重点)
1、环境准备
用到的服务器及对应IP配置如下:
编号 | IP地址 | 主机名称 | 角色 |
---|---|---|---|
1 | 10.1.1.10 | code.itweb.cn | Code(MIS) |
2 | 10.1.1.100 | backup.itweb.cn | Backup(Backup) |
1)关闭防火墙与SELinux
1 | # 关闭防火墙 |
2)更改主机名称
1 | hostnamectl set-hostname code.itweb.cn |
3)更改IP地址(静态IP)
1 | # 服务器Code |
关于上述一些常见的参数的说明,如下图
4)关闭NetworkManager
1 | systemctl stop NetworkManager |
5)配置YUM源
可以使用官方默认的YUM,如有需要可自行配置。
6)时间同步
1 | ntpdate cn.ntp.org.cn |
2、远程文件同步
1)Push:上传文件到远程服务器端
1 | rsync -av 本地文件或目录 远程用户名@远程服务器的IP地址:目标路径 |
eg1:把linux.txt文档传输到远程服务器端(10.1.1.100)的root目录下
1 | rsync -av linux.txt root@10.1.1.100:/root |
eg2:把shop文件夹传输到远程服务器端(10.1.1.100)的root目录下
1 | rsync -av shop root@10.1.1.100:/root |
2)Pull:下载文件到本地服务器端
1 | rsync -av 远程用户名@远程服务器的IP:目标文件或目录 本地存储位置 |
eg1:把远程服务器(10.1.1.100)的/etc/hosts文件下载到本地
1 | rsync -av root@10.1.1.100:/etc/hosts ./ |
eg2:把远程服务器(10.1.1.100)的/shop文件夹下载到本地
1 | rsync -av root@10.1.1.100:/shop ./ |
扩展:
问题1:rsync远程同步数据时,默认情况下为什么需要密码?如果不想要密码同步怎么实现?
rsync在远程同步时,之所以要输入密码是因为其底层还是基于SSH服务的。SSH有两种认证方式,如果没有配置免密则默认使用用户名+密码的认证方式。
如果不想要密码同步,可以考虑使用SSH免密操作。
Code => Backup
Code:
1 | # 生成公钥和私钥 |
问题2:如果Backup服务器端更改了SSH的默认端口(如更改为10086),又该如何同步?
1 | # 使用 -e选项 |
3、给RSYNC服务添加密码(扩展)
Code服务器:
1)打开/etc/rsyncd.conf配置文件
1 | vim /etc/rsyncd.conf |
2)在/etc目录下创建rsyncd.secrets文件
1 | vim /etc/rsyncd.secrets |
3)更改密码文件权限为600
1 | chmod 600 /etc/rsyncd.secrets |
4)重启rsyncd服务
1 | systemctl restart rsyncd |
5)Backup备份服务器:
1 | rsync -av user1@10.1.1.10::app ./ |