1. 程式人生 > >Rsync服務搭建小結

Rsync服務搭建小結

最近由於業務上的考慮,把內容的點選數、播放數等變化頻換(每日1000W-2000w次)但是對於業務沒有太大實時意義的計數,由實時操作DB變更為只記錄操作日誌,每晚彙總各機器的操作日誌,計算各內容點選與播放的總數一次性更新DB,將DB的操作降低到百萬級別以內了。
這個過程中使用rsync來進行操作日誌的同步,為避免遺忘特記錄下配置rsync服務以及進行日誌檔案傳輸的過程。
機器以及配置過程如下:
192.168.1.100作為rsync伺服器,提供rsync服務;
192.168.1.101 、192.168.1.102 、192.168.1.103、192.168.1.104作為應用伺服器;
(1)配置rsync服務端(192.168.1.100)
當前的絕大多數Linux作業系統都安裝有rsnyc服務,如果不升級版本的話,可以直接使用,要是需要升級的話,可以參考網上教程。
檢查是否存在/etc/rsyncd.conf 檔案,不存在則建立,檔案的內容如下。
pid file = /var/run/rsyncd.pid
port = 873
#只監控內網的IP地址,更加安全
address = 192.168.1.100
uid =root
gid = root
use chroot = yes
#客戶端只能寫入不能讀取
read only = no
write only = yes
#只允許指定IP地址的機器能夠訪問
hosts allow = 192.168.1.101 192.168.1.102 192.168.1.103 192.168.1.104
max connections = 4
motd file = /etc/rsyncd/rsyncd.motd
timeout = 300
transfer logging = yes
log file = /var/log/rsync.log
#客戶端上傳檔案時候的儲存模組
[ logs ] 
        #客戶端上傳檔案的儲存地址
        path = /var/log/access_log  
        list = yes
        ignore errors
        auth users = zhangzk
        #密碼檔案
        secrets file = /etc/rsyncd/rsyncd.secrets
        exclude = error_log httpd.pid

建立密碼檔案 /etc/rsyncd/rsyncd.secrets,使用者名稱稱與密碼以冒號分割,整個檔案內容如下:

zhangzk:[email protected]

設定該檔案的600許可權

chmod 600 /etc/rsyncd/rsyncd.secrets
以守護程序方式啟動該服務:

/usr/local/bin/rsync --daemon
檢查服務是否執行正常:

-bash-3.2# ps -aef |grep rsync
root      8510  8481  0 18:30 pts/0    00:00:00 grep rsync
root     31787     1  0 Aug14 ?        00:00:00 rsync --daemon
至此服務端全部搞定了。

(2)客戶端(以192.168.1.101為例)

客戶端相對要簡單得多了,只需要設定密碼檔案即可。

建立密碼檔案/etc/rsyncd/ rsyncd.pass,該密碼檔案的內容與服務端的密碼檔案中的密碼必須一致。

[email protected]

設定該檔案的600許可權

chmod 600 /etc/rsyncd/rsyncd.pass
OK!現在可以使用rsync服務從客戶端192.168.1.101上無密碼的方式傳輸檔案到192.168.1.100上去了!
rsync -vzrtopg --delete --progress $tarFile [email protected]
::logs --password-file=/etc/rsyncd/rsyncd.pass

(3)建立crontab任務來定時傳輸日誌檔案

檢查並且建立指令碼檔案/var/scripts/rsync_operate_log.sh

#!/bin/sh
fileName=my_play_download.log.`date -d yesterday +%Y-%m-%d`
filePath=/var/log/app/
logFile=$filePath$fileName

ipAddress=101

tarName=$fileName.$ipAddress.tar.gz
tarFile=$filePath$tarName



cd $filePath

if [ -e "$logFile" ]; then
  tar -zcvf $tarName $fileName;
else
  echo "log file not existed.file=$logFile"
fi

if [ -e "$tarFile" ]; then
   rsync -vzrtopg --delete --progress $tarFile [email protected]::logs  --password-file=/etc/rsyncd/rsyncd.pass
   rm -rf $tarFile
else
   echo "log file not existed.file=$tarFile"
fi

設定該crontab指令碼檔案的700許可權:

chmod 700 /var/scripts/rsync_operate_log.sh

再使用crontab -e命令來設定每日凌晨3點定時執行指令碼檔案即可:

0 3 * * * /var/scripts/rsync_operate_log.sh > /dev/null 2>&1




相關推薦

Rsync服務搭建小結

最近由於業務上的考慮,把內容的點選數、播放數等變化頻換(每日1000W-2000w次)但是對於業務沒有太大實時意義的計數,由實時操作DB變更為只記錄操作日誌,每晚彙總各機器的操作日誌,計算各內容點選與播放的總數一次性更新DB,將DB的操作降低到百萬級別以內了。 這個過程中使

CentOS7 Rsync服務搭建-Rsync+Inotify架構實現實時同步

關於centos7版本上面搭建rsync服務並且實現實時同步之前一直是在6版本上面搭建rsync服務,在7版本上面折騰了半天。此處總結下 inotify下載地址:http://github.com/d

rsync服務搭建

備份 文件的 密碼文件 lock -a 模塊 源文件 path eno rsync服務主要用於不同主機間的文件同步和備份,當然也可以用在同一主機上。 一、實驗環境 rsync server:CentOS7.3 rsync client: CentOS

CentOS7 搭建 rsync 服務

con 客戶端測試 comm yum repo div host sts 不同 1:安裝軟件包: yum install -y rsync 2:修改配置文件: /etc/rsyncd.conf uid = root gid = root use chroot =

rsync服務器的搭建

完成 als color 很難 xid 技術分享 同步工具 art 工具 Rsync(remote synchronize)是一個遠程數據同步工具,簡要的概括就是主機於主機之間的文件目錄數據的一個同步。下面就是rsync服務器的搭建過程。 系統環境   平臺:

linux集群搭建rsync服務搭建

rsync服務的搭建rsync 服務總結目錄rsync 服務總結 1第1章 rsync簡介 31.1 什麽是rsync 31.2 rsync的特性 31.3 rsync常用選項 31.4 rsync的三種工作模式 41.4.1 本地模式 41.4.2 ssh通道模式(s

rsync服務搭建

rsyncrsync服務器搭建 [root@M01 ~]# yum install rsync -y [root@BACKUP ~]# cat /etc/rsyncd.conf #配置文件沒有就創建#rsync_configuid = rsync#用戶uidgid = rsync#用戶giduse chr

Rsync服務搭建遇到的報錯解決辦法

Rsync報錯 linux centOS 遇到錯誤1:[root@backup tmp]# rsync -avz /etc/hosts -e 'ssh -p 22' [email protected]:/tmp/rsync: Failed to exec ssh: No such fi

rsync服務搭建

rsync服務的搭建rsync:(遠程備份工具)這個備份工具被企業廣泛使用,這裏不做詳細描述了...rsync一般使用的有三種備份模式使用rsync做備份系統環境前提是要有rsync這個軟件,如果沒有下載一個[root@localhost ~]# yum install -y rsync 第一種備份:本地備份

Linux中詳細搭建rsync服務

one orm %d 搭建 配置 傳輸工具 火墻 gre while 1.rsync簡介 rsync是類unix系統下的數據鏡像備份工具,從軟件的命名上就可以看出來了——remote sync。rsync是Linux系統下的文件同步和數據傳輸工具,它采用“rsync

搭建rsync服務(埠號873)

rsync詳細引數 1、-v,--verbose  詳細模式輸出,傳輸是的進度資訊 2、-z,--compress  傳輸是進行壓縮以提高傳輸效率,--comperess -level = NUM可以按級別壓縮 3、-a,--archive  歸檔模式,表示以遞迴方式傳輸檔案,並保持所有檔案屬性(等於-

Linux下搭建 rsync服務

rsync詳細引數 1、-v,--verbose  詳細模式輸出,傳輸是的進度資訊 2、-z,--compress  傳輸是進行壓縮以提高傳輸效率,--comperess -level = NUM可以按級別壓縮 3、-a,--archive  歸檔模式,表示以遞迴方式傳輸檔案,並保持所有檔案屬性(等於-

搭建rsync服務

首先環境說明 伺服器說明 ip地址 應用 系統 源伺服器 192.168.100.100 rsync inotify tools指令碼 red hat7 目標伺服器 192.168.

Rsync服務搭建備份服務

copy his pairs transfer quick red 就是 命令操作 ftw rsync復制軟件應用與實踐 [rrsync命令語法]https://download.samba.org/pub/rsync/rsync.html 1、什麽是rsync? rsyn

Linux系統服務搭建之vsftp

linux、vsftp、實例、實驗、學習筆記、服務器搭建一、samba 局域網傳輸共享優點:實時修改服務器上的內容二、Vsftp :very securet file transferprotocol 2.1、網絡文本協議 特點: A、默認只有普通用戶權限,可下載不可上傳B、任何文件的修改需要上

企業級郵件服務搭建

服務器 郵件 service 背景:兩臺虛擬機:一臺作為郵件服務器(115.179)另一臺作為DNS服務器以及客戶端(115.175)DNS服務器:搭建DNS服務器,使之能解析出www、mail域名安裝DNS軟件並配置/etc/named.conf、/etc/named.rf1912.zones等

ELK服務搭建(開源實時日誌分析ELK平臺部署)(低版本—簡單部署)

搜索引擎 應用程序 官方網站 服務器 安全性 elk 開源實時日誌分析ELK平臺部署日誌主要包括系統日誌、應用程序日誌和安全日誌。系統運維和開發人員可以通過日誌了解服務器軟硬件信息、檢查配置過程中的錯誤及錯誤發生的原因。經常分析日誌可以了解服務器的負荷,性能安全性,從而及時采取措施糾正

(高版本)ELK(Elasticsearch + Logstash + Kibana)服務服務搭建

服務器 搜索引擎 雲計算 一、ELK是什麽鬼?ELK實際上是三個工具的集合,Elasticsearch + Logstash + Kibana,這三個工具組合形成了一套實用、易用的監控架構,很多公司利用它來搭建可視化的海量日誌分析平臺。1. ElasticSearchElasticSearch是一

CentOS6.x rsync+httpd搭建配置本地YUM源庫

本地yum倉庫 本地repo倉庫 自動同步網上yum倉庫一、環境說明 yum庫,是readhat/CentOS 系統軟件倉庫,可以通過http ftp協議傳輸存儲在網絡上的倉庫;yum 主要功能是更方便的添加/刪除/更新RPM 包,自動解決軟件包依賴性問題,便於管理大量系統的更新維護軟件包問題

Nuget私有服務搭建實戰

web項目 每次 問題 ref 版本 -c .com www. pack 最近更新了Nuget私有服務器的版本,之前是2.8.5,現在是2.11.3。 Nuget服務器的搭建,這裏有篇很詳細的文章,跟著弄就好了: https://docs.microsoft.com/e