1. 程式人生 > 實用技巧 >Keepalived原理與實戰精講

Keepalived原理與實戰精講

>>> hot3.png

什麼是Keepalived呢,keepalived觀其名可知,保持存活,在網路裡面就是保持線上了,也就是所謂的高可用或熱備,用來防止單點故障(單點故障是指一旦某一點出現故障就會導致整個系統架構的不可用)的發生,那說到keepalived時不得不說的一個協議就是VRRP協議,可以說這個協議就是keepalived實現的基礎,那麼首先我們來看看VRRP協議

注:搞運維的要有足夠的耐心哦,不理解協議就很難透徹的掌握keepalived的了

VRRP協議
學過網路的朋友都知道,網路在設計的時候必須考慮到冗餘容災,包括線路冗餘,裝置冗餘等,防止網路存在單點故障,那在路由器或三層交換機處實現冗餘就顯得尤為重要,在網路裡面有個協議就是來做這事的,這個協議就是VRRP協議,Keepalived就是巧用VRRP協議來實現高可用性(HA)的

VRRP協議有一篇文章寫的非常好,大家可以直接看這裡(記得認真看看哦,後面基本都已這個為基礎的了)
帖子地址:http://bbs.ywlm.net/thread-790-1-1.html
只需要把伺服器當作路由器即可!

在《VRRP協議》裡講到了虛擬路由器的ID也就是VRID在這裡比較重要

keepalived完全遵守VRRP協議,包括競選機制等等


Keepalived原理
keepalived也是模組化設計,不同模組複雜不同的功能,下面是keepalived的元件
core check vrrp libipfwc libipvs-2.4 libipvs-2.6

core:是keepalived的核心,複雜主程序的啟動和維護,全域性配置檔案的載入解析等
check:負責healthchecker(健康檢查),包括了各種健康檢查方式,以及對應的配置的解析包括LVS的配置解析
vrrp:VRRPD子程序,VRRPD子程序就是來實現VRRP協議的
libipfwc:iptables(ipchains)庫,配置LVS會用到
libipvs*:配置LVS會用到
注意,keepalived和LVS完全是兩碼事,只不過他們各負其責相互配合而已

1.png



keepalived啟動後會有三個程序
父程序:記憶體管理,子程序管理等等
子程序:VRRP子程序
子程序:healthchecker子程序

有圖可知,兩個子程序都被系統WatchDog看管,兩個子程序各自複雜自己的事,healthchecker子程序複雜檢查各自伺服器的健康程度,例如HTTP,LVS等等,如果healthchecker子程序
檢查到MASTER上服務不可用了,就會通知本機上的兄弟VRRP子程序,讓他刪除通告,並且去掉虛擬IP,轉換為BACKUP狀態



keepalived配置詳解
keepalived有三類配置區域(姑且就叫區域吧),注意不是三種配置檔案,是一個配置檔案裡面三種不同類別的配置區域

全域性配置(Global Configuration)
VRRPD配置
LVS配置


一,全域性配置
全域性配置又包括兩個子配置:
全域性定義(global definition)
靜態路由配置(static ipaddress/routes)

1,全域性定義(global definition)配置範例
  1. global_defs
  2. {
  3. notification_email
  4. {
  5. [email protected]
  6. }
  7. notification_email_from [email protected]
  8. smtp_server 127.0.0.1
  9. stmp_connect_timeout 30
  10. router_id node1
  11. }

全域性配置解析
global_defs全域性配置標識,表面這個區域{}是全域性配置
  1. notification_email

  2. {

  3. [email protected]
  4. [email protected]

  5. }

表示keepalived在發生諸如切換操作時需要傳送email通知,以及email傳送給哪些郵件地址,郵件地址可以多個,每行一個

notification_email_from[email protected]
表示傳送通知郵件時郵件源地址是誰

smtp_server 127.0.0.1
表示傳送email時使用的smtp伺服器地址,這裡可以用本地的sendmail來實現

smtp_connect_timeout 30
連線smtp連線超時時間

router_id node1
機器標識

2,靜態地址和路由配置範例
  1. static_ipaddress
  2. {
  3. 192.168.1.1/24 brd + dev eth0 scope global
  4. 192.168.1.2/24 brd + dev eth1 scope global
  5. }
  6. static_routes
  7. {
  8. src $SRC_IP to $DST_IP dev $SRC_DEVICE
  9. src $SRC_IP to $DST_IP via $GW dev $SRC_DEVICE
  10. }


這裡實際上和系統裡面命令配置IP地址和路由一樣例如:
192.168.1.1/24 brd + dev eth0 scope global 相當於: ip addr add 192.168.1.1/24 brd + dev eth0 scope global
就是給eth0配置IP地址
路由同理
一般這個區域不需要配置
這裡實際上就是給伺服器配置真實的IP地址和路由的,在複雜的環境下可能需要配置,一般不會用這個來配置,我們可以直接用vi /etc/sysconfig/network-script/ifcfg-eth1來配置,切記這裡可不是VIP哦,不要搞混淆了,切記切記!

二,VRRPD配置
VRRPD配置包括三個類
VRRP同步組(synchroization group)

VRRP例項(VRRP Instance)

VRRP指令碼


1,VRRP同步組(synchroization group)配置範例
  1. vrrp_sync_group VG_1 {
  2. group {
  3. http
  4. mysql
  5. }
  6. notify_master /path/to/to_master.sh
  7. notify_backup /path_to/to_backup.sh
  8. notify_fault "/path/fault.sh VG_1"
  9. notify /path/to/notify.sh
  10. smtp_alert
  11. }

其中:
  1. group {
  2. http
  3. mysql
  4. }

http和mysql是例項名和下面的例項名一致

  1. notify_master /path/to/to_master.sh:表示當切換到master狀態時,要執行的指令碼

  2. notify_backup /path_to/to_backup.sh:表示當切換到backup狀態時,要執行的指令碼

  3. notify_fault "/path/fault.sh VG_1"

notify /path/to/notify.sh:

smtp alter表示切換時給global defs中定義的郵件地址傳送右鍵通知

2,VRRP例項(instance)配置範例
  1. vrrp_instance http {
  2. state MASTER
  3. interface eth0
  4. dont_track_primary
  5. track_interface {
  6. eth0
  7. eth1
  8. }
  9. mcast_src_ip <IPADDR>
  10. garp_master_delay 10
  11. virtual_router_id 51
  12. priority 100
  13. advert_int 1
  14. authentication {
  15. auth_type PASS
  16. autp_pass 1234
  17. }
  18. virtual_ipaddress {
  19. #<IPADDR>/<MASK> brd <IPADDR> dev <STRING> scope <SCOPT> label <LABEL>
  20. 192.168.200.17/24 dev eth1
  21. 192.168.200.18/24 dev eth2 label eth2:1
  22. }
  23. virtual_routes {
  24. # src <IPADDR> [to] <IPADDR>/<MASK> via|gw <IPADDR> dev <STRING> scope <SCOPE> tab
  25. src 192.168.100.1 to 192.168.109.0/24 via 192.168.200.254 dev eth1
  26. 192.168.110.0/24 via 192.168.200.254 dev eth1
  27. 192.168.111.0/24 dev eth2
  28. 192.168.112.0/24 via 192.168.100.254
  29. }
  30. nopreempt
  31. preemtp_delay 300
  32. debug
  33. }


state:state指定instance(Initial)的初始狀態,就是說在配置好後,這臺伺服器的初始狀態就是這裡指定的,但這裡指定的不算,還是得要通過競選通過優先順序來確定,裡如果這裡設定為master,但如若他的優先順序不及另外一臺,那麼這臺在傳送通告時,會發送自己的優先順序,另外一臺發現優先順序不如自己的高,那麼他會就回搶佔為master

interface:例項繫結的網絡卡,因為在配置虛擬IP的時候必須是在已有的網絡卡上新增的

dont track primary:忽略VRRP的interface錯誤

track interface:跟蹤介面,設定額外的監控,裡面任意一塊網絡卡出現問題,都會進入故障(FAULT)狀態,例如,用nginx做均衡器的時候,內網必須正常工作,如果內網出問題了,這個均衡器也就無法運作了,所以必須對內外網同時做健康檢查

mcast src ip:傳送多播資料包時的源IP地址,這裡注意了,這裡實際上就是在那個地址上傳送VRRP通告,這個非常重要,一定要選擇穩定的網絡卡埠來發送,這裡相當於heartbeat的心跳埠,如果沒有設定那麼就用預設的繫結的網絡卡的IP,也就是interface指定的IP地址

garp master delay:在切換到master狀態後,延遲進行免費的ARP(gratuitous ARP)請求

virtual router id:這裡設定VRID,這裡非常重要,相同的VRID為一個組,他將決定多播的MAC地址

priority 100:設定本節點的優先順序,優先順序高的為master

advert int:檢查間隔,預設為1秒

virtual ipaddress:這裡設定的就是VIP,也就是虛擬IP地址,他隨著state的變化而增加刪除,當state為master的時候就新增,當state為backup的時候刪除,這裡主要是有優先順序來決定的,和state設定的值沒有多大關係,這裡可以設定多個IP地址

virtual routes:原理和virtual ipaddress一樣,只不過這裡是增加和刪除路由

lvs sync daemon interface:lvs syncd繫結的網絡卡

authentication:這裡設定認證

auth type:認證方式,可以是PASS或AH兩種認證方式

auth pass:認證密碼

nopreempt:設定不搶佔,這裡只能設定在state為backup的節點上,而且這個節點的優先順序必須別另外的高

preempt delay:搶佔延遲

debug:debug級別

notify master:和sync group這裡設定的含義一樣,可以單獨設定,例如不同的例項通知不同的管理人員,http例項發給網站管理員,mysql的就發郵件給DBA

3,VRRP指令碼

  1. vrrp_script check_running {
  2. script "/usr/local/bin/check_running"
  3. interval 10
  4. weight 10
  5. }

  6. vrrp_instance http {
  7. state BACKUP
  8. smtp_alert
  9. interface eth0
  10. virtual_router_id 101
  11. priority 90
  12. advert_int 3
  13. authentication {
  14. auth_type PASS
  15. auth_pass whatever
  16. }
  17. virtual_ipaddress {
  18. 1.1.1.1
  19. }
  20. track_script {
  21. check_running weight 20
  22. }
  23. }


首先在vrrp_script區域定義指令碼名字和指令碼執行的間隔和指令碼執行的優先順序變更
vrrp_script check_running {
script "/usr/local/bin/check_running"
interval 10 #指令碼執行間隔
weight 10 #指令碼結果導致的優先順序變更:10表示優先順序+10;-10則表示優先順序-10
}
然後在例項(vrrp_instance)裡面引用,有點類似腳本里面的函式引用一樣:先定義,後引用函式名
track_script {
check_runningweight 20
}


注意:VRRP指令碼(vrrp_script)和VRRP例項(vrrp_instance)屬於同一個級別


LVS配置

如果你沒有配置LVS+keepalived那麼無需配置這段區域,裡如果你用的是nginx來代替LVS,這無限配置這款,這裡的LVS配置是專門為keepalived+LVS整合準備的。
注意了,這裡LVS配置並不是指真的安裝LVS然後用ipvsadm來配置他,而是用keepalived的配置檔案來代替ipvsadm來配置LVS,這樣會方便很多,一個配置檔案搞定這些,維護方便,配置方便是也!

這裡LVS配置也有兩個配置
一個是虛擬主機組配置
一個是虛擬主機配置

1,虛擬主機組配置檔案詳解
這個配置是可選的,根據需求來配置吧,這裡配置主要是為了讓一臺realserver上的某個服務可以屬於多個Virtual Server,並且只做一次健康檢查

virtual_server_group <STRING> {
# VIP port
<IPADDR> <PORT>
<IPADDR> <PORT>
fwmark <INT>
}

2,虛擬主機配置

virtual server可以以下面三種的任意一種來配置
  1. 1. virtual server IP port
  2. 2. virtual server fwmark int
  3. 3. virtual server group string

下面以第一種比較常用的方式來配詳細解說一下

virtual_server 192.168.1.2 80 { #設定一個virtual server: VIP:Vport
delay_loop 3 # service polling的delay時間,即服務輪詢的時間間隔

lb_algo rr|wrr|lc|wlc|lblc|sh|dh #LVS排程演算法
lb_kind NAT|DR|TUN #LVS叢集模式
persistence_timeout 120 #會話保持時間(秒為單位),即以使用者在120秒內被分配到同一個後端realserver
persistence_granularity <NETMASK> #LVS會話保持粒度,ipvsadm中的-M引數,預設是0xffffffff,即每個客戶端都做會話保持
protocol TCP #健康檢查用的是TCP還是UDP
ha_suspend #suspendhealthchecker’s activity
virtualhost <string> #HTTP_GET做健康檢查時,檢查的web伺服器的虛擬主機(即host:頭)

sorry_server <IPADDR> <PORT> #備用機,就是當所有後端realserver節點都不可用時,就用這裡設定的,也就是臨時把所有的請求都發送到這裡啦

real_server <IPADDR> <PORT> #後端真實節點主機的權重等設定,主要,後端有幾臺這裡就要設定幾個
{
weight 1 #給每臺的權重,0表示失效(不知給他轉發請求知道他恢復正常),預設是1
inhibit_on_failure #表示在節點失敗後,把他權重設定成0,而不是衝IPVS中刪除

notify_up <STRING> | <QUOTED-STRING> #檢查伺服器正常(UP)後,要執行的指令碼
notify_down <STRING> | <QUOTED-STRING> #檢查伺服器失敗(down)後,要執行的指令碼

HTTP_GET #健康檢查方式
{
url { #要堅持的URL,可以有多個
path / #具體路徑
digest <STRING>
status_code 200 #返回狀態碼
}
connect_port 80 #監控檢查的埠

bindto <IPADD> #健康檢查的IP地址
connect_timeout 3 #連線超時時間
nb_get_retry 3 #重連次數
delay_before_retry 2 #重連間隔
} # END OF HTTP_GET|SSL_GET


#下面是常用的健康檢查方式,健康檢查方式一共有HTTP_GET|SSL_GET|TCP_CHECK|SMTP_CHECK|MISC_CHECK這些
#TCP方式
TCP_CHECK {
connect_port 80
bindto 192.168.1.1
connect_timeout 4
} # TCP_CHECK

# SMTP方式,這個可以用來給郵件伺服器做叢集
SMTP_CHECK
host {
connect_ip <IP ADDRESS>
connect_port <PORT> #預設檢查25埠
14 KEEPALIVED
bindto <IP ADDRESS>
}
connect_timeout <INTEGER>
retry <INTEGER>
delay_before_retry <INTEGER>
# "smtp HELO"ž|·- ë꧌à "
helo_name <STRING>|<QUOTED-STRING>
} #SMTP_CHECK

#MISC方式,這個可以用來檢查很多伺服器只需要自己會些指令碼即可
MISC_CHECK
{
misc_path <STRING>|<QUOTED-STRING> #外部程式或指令碼
misc_timeout <INT> #指令碼或程式執行超時時間

misc_dynamic #這個就很好用了,可以非常精確的來調整權重,是後端每天伺服器的壓力都能均衡調配,這個主要是通過執行的程式或指令碼返回的狀態程式碼來動態調整weight值,使權重根據真實的後端壓力來適當調整,不過這需要有過硬的指令碼功夫才行哦
#返回0:健康檢查沒問題,不修改權重
#返回1:健康檢查失敗,權重設定為0
#返回2-255:健康檢查沒問題,但是權重卻要根據返回程式碼修改為返回碼-2,例如如果程式或指令碼執行後返回的程式碼為200,#那麼權重這回被修改為 200-2
}
} # Realserver
} # Virtual Server

轉載於:https://my.oschina.net/liting/blog/364625