關於解決多臺linux伺服器間的檔案實時同步問題
最近要做一個相關的解決方案,在虛擬機器測試沒有問題。給大家分享出來,有更好的解決方案,歡迎討論。
1.1 inotify相關介紹
1、rsync
與傳統的cp、tar備份方式相比,rsync具有安全性高、備份迅速、支援增量備份等優點,通過rsync可以解決對實時性要求不高的資料備份需求,例如定期的備份檔案伺服器資料到遠端伺服器,對本地磁碟定期做資料映象等。
隨著應用系統規模的不斷擴大,對資料的安全性和可靠性也提出的更好的要求,rsync在高階業務系統中也逐漸暴露出了很多不足,首先,rsync同步資料 時,需要掃描所有檔案後進行比對,進行差量傳輸。如果檔案數量達到了百萬甚至千萬量級,掃描所有檔案將是非常耗時的。而且正在發生變化的往往是其中很少的 一部分,這是非常低效的方式。其次,rsync不能實時的去監測、同步資料,雖然它可以通過linux守護程序的方式進行觸發同步,但是兩次觸發動作一定 會有時間差,這樣就導致了服務端和客戶端資料可能出現不一致,無法在應用故障時完全的恢復資料。基於以上原因,rsync+inotify組合出現了!
2、inotify
Inotify 是一種強大的、細粒度的、非同步的檔案系統事件監控機制,linux核心從2.6.13起,加入了Inotify支援,通過Inotify可以監控檔案系統 中新增、刪除,修改、移動等各種細微事件,利用這個核心介面,第三方軟體就可以監控檔案系統下檔案的各種變化情況,而inotify-tools就是這樣 的一個第三方軟體。
在上面章節中,我們講到,rsync可以實現觸發式的檔案同步,但是通過crontab守護程序方式進行觸發,同步的資料和實際資料會有差異,而inotify可以監控檔案系統的各種變化,當檔案有任何變動時,就觸發rsync同步,這樣剛好解決了同步資料的實時性問題。
1.2 rsync+inotify同步邏輯圖
1.3 環境部署
1、下載所需的安裝包:
先把兩個包放在/usr/src/下。
a、rsync下載路徑:http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz/
b、inotify下載路徑:http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz
2、第一臺伺服器(192.168.188.90)配置(不分主次):
a、安裝rsync:
[[email protected] ~]# cd /usr/src/ [[email protected] src]# tar zxvf rsync-3.0.9.tar.gz [[email protected] src]# cd rsync-3.0.9 [[email protected] rsync-3.0.9]# ./configure --prefix=/usr/local/rsync [[email protected] rsync-3.0.9]# make [[email protected] rsync-3.0.9]# make install
b、建立密碼認證檔案:
[[email protected] rsync-3.0.9]# cd /usr/local/rsync/ [[email protected] rsync]# echo "rsync-pwd" >/usr/local/rsync/rsync1.passwd
c、給密碼檔案賦予600許可權:
[[email protected] rsync]# chmod 600 rsync1.passwd
d、安裝inotify:
[[email protected] rsync]# cd /usr/src/ [[email protected] src]# tar zxvf inotify-tools-3.14.tar.gz [[email protected] src]# cd inotify-tools-3.14 [[email protected] inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify [[email protected] inotify-tools-3.14]# make [[email protected] inotify-tools-3.14]# make install
e、建立監控指令碼:
#!/bin/bash host=192.168.188.89 src=/root/test/ des=web user=webuser /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src \ | while read files do /usr/bin/rsync -vzrtopg --delete --progress --password-file=/usr/local/rsync/rsync1.passwd $src $user@$host::$des echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 done
注意:host為第二臺伺服器IP,src為要監控的路徑,web是認證模組名稱,最後把監控指令碼命名為rsync1.sh放在要監控的路徑下。此處應是/root/test/
f、給監控指令碼賦予764許可權:
[[email protected] tmp]# chmod 764 rsync1.sh
g、建立rsync配置檔案:
uid = root gid = root use chroot = no max connections = 10 strict modes = yes pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log [web] path = /root/test/ comment = web file ignore errors read only = no write only = no hosts allow = 192.168.188.89 hosts deny = * list = false uid = root gid = root auth users = webuser secrets file = /usr/local/rsync/rsync1.passwd
該配置檔案是用來接收另一臺伺服器的檔案。其中web是server服務端(90伺服器)的認證模組名稱,需要與90伺服器裡的一致。把配置檔案命名為rsync1.conf,放到/usr/local/rsync/目錄裡
h、啟動該配置檔案
[[email protected] rsync]# /usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync1.conf
需要開機啟動的話:
[[email protected] rsync]# echo "/usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync1.conf" >> /etc/rc.local
3、第二臺伺服器(192.168.188.89)配置(不分主次):
a、安裝rsync:
[[email protected] ~]# cd /usr/src/ [[email protected] src]# tar zxvf rsync-3.0.9.tar.gz [[email protected] src]# cd rsync-3.0.9 [[email protected] rsync-3.0.9]# ./configure --prefix=/usr/local/rsync [[email protected] rsync-3.0.9]# make [[email protected] rsync-3.0.9]# make install
b、建立密碼認證檔案:
[[email protected] rsync-3.0.9]# cd /usr/local/rsync/ [[email protected] rsync]# echo "rsync-pwd" >/usr/local/rsync/rsync2.passwd
c、給密碼檔案賦予600許可權:
[[email protected] rsync]# chmod 600 rsync2.passwd
d、安裝inotify:
[[email protected] rsync]# cd /usr/src/ [[email protected] src]# tar zxvf inotify-tools-3.14.tar.gz [[email protected] src]# cd inotify-tools-3.14 [[email protected] inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify [[email protected] inotify-tools-3.14]# make [[email protected] inotify-tools-3.14]# make install
e、建立監控指令碼:
#!/bin/bash host=192.168.188.90 src=/root/test/ des=web user=webuser /usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src \ | while read files do /usr/bin/rsync -vzrtopg --delete --progress --password-file=/usr/local/rsync/rsync2.passwd $src $user@$host::$des echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 done
注意:host為第二臺伺服器IP,src為要監控的路徑,web是認證模組名稱,最後把監控指令碼命名為rsync2.sh放在要監控的路徑下。此處應是/root/test/
f、給監控指令碼賦予764許可權:
[[email protected] tmp]# chmod 764 rsync2.sh
g、建立rsync配置檔案:
uid = root gid = root use chroot = no max connections = 10 strict modes = yes pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log [web] path = /root/test/ comment = web file ignore errors read only = no write only = no hosts allow = 192.168.188.90 hosts deny = * list = false uid = root gid = root auth users = webuser secrets file = /usr/local/rsync/rsync2.passwd
該配置檔案是用來接收另一臺伺服器的檔案。其中web是server服務端(90伺服器)的認證模組名稱,需要與90伺服器裡的一致。把配置檔案命名為rsync2.conf,放到/usr/local/rsync/目錄裡
h、啟動該配置檔案
[[email protected] rsync]# /usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync2.conf
需要開機啟動的話:
[[email protected] rsync]# echo "/usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync2.conf" >> /etc/rc.local
4、最後啟動兩臺伺服器的監控指令碼:
a、在90伺服器:
[[email protected] tmp]# sh /root/test/rsync1.sh &
需要開機啟動的話:
[[email protected] tmp]# echo "/root/test/rsync1.sh" >> /etc/rc.local
b、在89伺服器:
[[email protected] tmp]# sh /root/test/rsync2.sh &
需要開機啟動的話:
[[email protected] tmp]# echo "/root/test/rsync2.sh" >> /etc/rc.local
1.4測試
任意在其中一臺伺服器/root/test/路徑下,新增一個檔案,你會發現另一臺伺服器也同步了該檔案。
同步之後,兩臺伺服器下都會有rsync1.sh和rsync2.sh監控指令碼,注意勿刪!
如果需要3臺或3臺以上的伺服器之間進行同步,則需要更改shell指令碼,方法類似。
轉: https://blog.csdn.net/hyh9401/article/details/52043134
參: https://www.cnblogs.com/gpfeisoft/p/6112847.html