1. 程式人生 > >python實現spark-history-server監控

python實現spark-history-server監控

由於history-server伺服器會經常出現自己掛掉的情況,用python寫了一個自動重啟的指令碼,放在系統裡用crontab定時,再也不用擔心任務掛了,伺服器也掛掉了。

思路很簡單,就是用ps指令檢測程序,如果沒有history-server,就把伺服器拉起來。

import sys
import commands
import os

command = "ps -ef|grep spark-2.1-history-server/sbin/../conf/"
log = "-Dspark.history.fs.logDirectory=afs://tianqi.afs.baidu.com:9902/user/ubs-traffic-antispam/antispam/spark-history-log"
historyCommand = "sh /home/work/spark-2.1-history-server/sbin/start-history-server.sh" ans = 0 result = os.popen(command) res = result.read() for line in res.splitlines(): if log in line: ans =1 if ans is not 1: ret = os.system(historyCommand) sys.exit(0)

最後再crontab -e 寫一個定時就好了。