需求：使用shell定制各種個性化告警工具，但需要統一化管理、規範化管理。
思路：指定一個腳本包，包含主程序、子程序、配置文件、郵件引擎、輸出日誌等。
主程序：作為整個腳本的入口，是整個系統的命脈。
配置文件：是一個控制中心，用它來開關各個子程序，指定各個相關聯的日誌文件。
子程序：這個才是真正的監控腳本，用來監控各個指標。
郵件引擎：是由一個python程序來實現，它可以定義發郵件的服務器、發郵件人以及發件人密碼
輸出日誌：整個監控系統要有日誌輸出。
要求：我們的機器角色多種多樣，但是所有機器上都要部署同樣的監控系統，也就說所有機器不管什麽角色，整個程序框架都是一致的，不同的地方在於根據不同的角色，定制不同的配置文件。

bin下是主程序
conf下是配置文件
shares下是各個監控腳本
mail下是郵件引擎
log下是日誌。

主腳本

#!/bin/bash
#是否發送郵件的開關
export send=1
#過濾ip地址
export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk ‘/inet/ {print $2}‘`
dir=`pwd`
#只需要最後一級目錄名
last_dir=`echo $dir|awk -F‘/‘ ‘{print $NF}‘`
#下面的判斷目的是，保證執行腳本的時候，我們在bin目錄裏，不然監控腳本、郵件和日誌很有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then
    conf_file="../conf/mon.conf"
else
    echo "you shoud cd bin dir"
    exit
fi
exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先檢查配置文件中是否需要監控502
if grep -q ‘to_mon_502=1‘ $conf_file; then
    export log=`grep ‘logfile=‘ $conf_file |awk -F ‘=‘ ‘{print $2}‘ |sed ‘s/ //g‘`
    /bin/bash  ../shares/502.sh
fi
 

配置文件

vim mon/conf/mon.conf

##to config the options if to monitor
##定義mysql的服務器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
##httpd   如果是1則監控，為0不監控
to_mon_httpd=0
##php 如果是1則監控，為0不監控
to_mon_php_socket=0
##http_code_502  需要定義訪問日誌的路徑
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
##request_count   定義日誌路徑以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net
 

監控項目

1 負載監控
vim /mon/shares/load.sh

#! /bin/bash
load=`uptime |awk -F ‘average:‘ ‘{print $2}‘|cut -d‘,‘ -f1|sed ‘s/ //g‘ |cut -d. -f1`
if [ $load -gt 10 ] && [ $send -eq "1" ]
then
    echo "$addr `date +%T` load is $load" >../log/load.tmp
    /bin/bash ../mail/mail.sh [email protected] "$addr\_load:$load"  "`cat ../log/load.tmp`"
fi
echo "`date +%T` load is $load"

2 502錯誤監控
vim mon/shares/502.sh

#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:  $log   |grep ‘ 502 ‘|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
     echo "$addr $d 502 count is $c_502">../log/502.tmp
     /bin/bash ../mail/mail.sh  [email protected]   "$addr\_502 $c_502"   "`cat    ../log/502.tmp`"
fi
echo "`date +%T` 502 $c_502"

3 硬盤監控
vim mon/shares/disk.sh

#! /bin/bash
rm -f ../log/disk.tmp
for r in `df -h |awk -F ‘[ %]+‘ ‘{print $5}‘|grep -v Use`
do
    if [ $r -gt 90 ] && [ $send -eq "1" ]
then
    echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ]
then
    df -h >> ../log/disk.tmp
    /bin/bash ../mail/mail.sh  [email protected]   "$addr\_disk$r"   "` cat ../log/disk.tmp`"
    echo "`date +%T` disk useage is nook"
else
    echo "`date +%T` disk useage is ok"
fi

告警腳本

vim mail.sh

log=$1   //給變量log賦值
t_s=`date +%s`  //定義當前絕對時間戳，單位為秒
t_s2=`date -d "2 hours ago" +%s` //定義上次告警時間戳，用作第一次發現異常
if [ ! -f /tmp/$log ]
then
    echo $t_s2 > /tmp/$log
fi      //將上次告警時間戳寫入日誌，用作第一次發現異常
t_s2=`tail -1 /tmp/$log|awk ‘{print $1}‘`    //從日誌取出上次告警時間戳
echo $t_s >> /tmp/$log     //將本次告警時間戳追加到日誌
v=$[$t_s-$t_s2]    //計算兩次告警相隔時間
if [ $v -gt 3600 ]
then
    ../mail/mail.py $1 $2 "$3" //當相隔超過一小時，發送郵件，提醒有故障發生。
    echo "0" > /tmp/$log.txt
else
    if [ ! -f /tmp/$log.txt ]
    then
        echo "0" > /tmp/$log.txt
    fi
    nu=`cat /tmp/$log.txt`
    nu2=$[$nu+1]
    echo $nu2 > /tmp/$log.txt
    if [ $nu2 -gt 10 ]
    then
        ../mail/mail.py $1 "trouble continue 10 min  $2 " "$3"
         echo "0" > /tmp/$log.txt
    fi  
fi  //相隔小於一小時，啟動計數器，計數器大於10發送郵件，提醒故障持續了10分鐘。

發郵件腳本

vim mail.py

#!/usr/bin/env python
#-*- coding: UTF-8 -*-
import os,sys
reload(sys)
sys.setdefaultencoding(‘utf8‘)
import getopt
import smtplib
from email.MIMEText import MIMEText
from email.MIMEMultipart import MIMEMultipart
from  subprocess import *
def sendqqmail(username,password,mailfrom,mailto,subject,content):
    gserver = ‘smtp.qq.com‘    //更具實際情況作更改
    gport = 25
    try:
        msg = MIMEText(unicode(content).encode(‘utf-8‘))
        msg[‘from‘] = mailfrom
        msg[‘to‘] = mailto
        msg[‘Reply-To‘] = mailfrom
        msg[‘Subject‘] = subject
        smtp = smtplib.SMTP(gserver, gport)
        smtp.set_debuglevel(0)
        smtp.ehlo()
        smtp.login(username,password)
        smtp.sendmail(mailfrom, mailto, msg.as_string())
        smtp.close()
    except Exception,err:
        print "Send mail failed. Error: %s" % err
def main():
    to=sys.argv[1]
    subject=sys.argv[2]
    content=sys.argv[3]
##定義QQ郵箱的賬號和密碼，你需要修改成你自己的賬號和密碼
 sendqqmail(‘[email protected]‘,‘aaaaaaaaaa‘,‘[email protected]‘,to,subject,content)
if __name__ == "__main__":
    main()

兩個問題

1 告警收斂腳本原理
首先明白一個前提，我們是發現問題才會告警發郵件通知，那麽當告警腳本未加載時，說名當前監控項正常。或者之前出現異常，但是已經恢復。
我們寫這個腳本的目的是防止問題出現，處於修復期的頻繁告警。那麽我們就要去判斷這是一個新的異常，還是一個已發現的故障。我們可以定義一個時間閾值，一小時。比如距離上一次問題出現，也就是距離上一次告警的時間大於一小時，我們認為就是一個新的異常，否則就是一個尚未解決的故障。
具體怎麽實現了，我們可以借助記錄日誌的思想，每次告警，我們都記錄一個絕對時間戳，當下一次告警到來時，用當前時間戳減去上一次報警的時間戳，然後if判斷該差值，從而確定告警動作。
在具體腳本中定義t2為上一次告警時間戳，t1為當前時間戳，t1-t2就是我們要的判斷值。t1可以用命令直接獲取，t1=`date +%s` t2 要從日誌中獲取。但是還有一個問題，對於第一次告警，該t2從哪裏來了，也簡單，我們自己定義一個滿足新異常條件的時間戳就可以，比如兩小時之前。
t2=`date -d "two hours ago" +%s`
對於一個已發現待解決的故障，也就是對應上面時間戳差值小於一小時的情況，如果我們的腳本是一分鐘執行一次，就可以做一個計數器，每發現一次，計數一次，當計數器大於10時，也就是異常持續了10分鐘，這時候發送郵件一次，同時清空計時器。
2 $1 $2 $3 參數傳遞問題
因為mail.py 腳本決定了發送郵件必須帶三個參數，收件人郵箱，主題， 內容。因此mail.sh 調用mail.py 必須傳遞給它三個參數，那麽這三個參數最終來自哪裏呢，來自監控項腳本，比如load.sh
傳遞順序為 load.sh---->mail.sh----->mail.py
再解釋mail.sh 第一行，log=$1 , 是一個變量賦值語句，此時的$1就是load.sh 傳遞過來的郵箱名稱。
在程序中我麽看到後面將時間戳保存在了/tmp/$log 下面，該復制語句是為了給該日誌文件取一個有意義的名稱，便於以後管理。當然可以給出其他賦值，比如log=time.txt

Linux記錄-監控系統開發