2. 程式人生 > >lvs之排程演算法和叢集型別

lvs之排程演算法和叢集型別

阿新 • • 發佈：2019-01-05

LVS

LVS：Linux Virtual Server，是以“軟體”、通過“四層”排程、實現“負載均衡”。

  • 軟體方式實現叢集： lvs軟體是Linux核心中的一個框架，以模組方式載入。

  • 四層排程： lvs工作於通訊子網（核心中），即可檢測“請求報文”中各層“首部”獲取“目標實體地址”、“目標邏輯地址”、“目標傳輸層協議型別及埠”。但對於“應用層”無能為力。

  • 負載均衡： lvs實現的是負載均衡叢集，即將收到的“請求報文”使用“排程演算法”計算，再發送至後端的RS伺服器。

排程演算法

一共10中，又根據是否考慮後端RS的“負載情況”，分為“靜態方法”和“動態方法”。

  • 靜態演算法：僅根據演算法本身和請求報文特徵進行排程，起點公平
  • 動態演算法：需要額外考慮後端各RS的當前的負載狀態，結果公平

靜態方法

  • rr ：round-robin，輪替，輪詢。

    排程器將RS列個表（陣列），依次將收到的請求報文傳送至RS。

    舉個栗子吧：一個老師（lvs），12顆糖（請求報文），3個孩子（RS），每個孩子一個碗（陣列元素）。老師怎發糖呢？RS1的碗發一顆，RS2的碗發一顆，RS3的碗發一顆。還有糖，繼續按照上面的順序發。

  • wrr ：weighted rr，加權輪詢。

    方法同rr，並根據RS的效能賦予不同的權重。依據權重，RS在列表（陣列）中出現不同的次數。

    還是舉個栗子：還是老師發糖，還是發到碗。但是有個孩子有3個碗，所以他就到了3顆糖。

  • SH ：Source Hashing，源地址雜湊。

    將源地址進行雜湊運算後取模，以確定傳送至哪個RS。實現了session sticky，將來自於同一個IP地址的請求始終發往第一次挑中的RS，從而實現會話繫結。

  • DH ：Destination Hashing，目標地址雜湊。

    將目標地址進行雜湊運算後取模，以確定傳送至哪個RS。將發往同一個目標地址的請求始終轉發至第一次挑中的RS，典型使用場景是正向代理快取場景中的負載均衡。

動態方法

  • LC ：least connections，最少連結

    根據連線數計算負載。

      Overhead=activeconns*256+inactiveconns

    活動連結非活動連線的負載肯定不同。預設活動連結的負載是非活動連線的256倍。

  • WLC ：Weighted LC，加權的最少連結

    同LC，並根據RS伺服器效能賦予權重。

      Overhead=(activeconns*256+inactiveconns)/weight

    問題：雖然加權，但還是會出現負載一樣的情況，導致排程時將請求傳送至權重小的RS。例如：剛開啟服務，連線數均為0，計算結果為0。

  • SED ：Shortest Expection Delay，最短期望延遲

    為了克服WLC的缺點。不考慮非活動連結數，活動連結數+1。避免了連線數為0時，負載一樣。

      Overhead=(activeconns+1)*256/weight

    新的bug：當各RS權重差距非常大時，請求報文會一直被排程至權重大的RS，因為計算得到的負載小。例如：2臺RS權重比1:9，

      RS1的負載：(0+1)*256/1 = 1/256
  RS2的負載：(8+1)*256/9 = 1/256

    當RS2被分得8個請求後，2個RS的負載才一樣，此前RS1一直處於空閒。

  • NQ ：Never Queue，永不排隊

    先每個RS分一個請求，再SED。改進的sed。

  • LBLC ：Locality-Based LC，基於區域性性的最少連線

    動態的DH演算法，DH+LC

    此演算法是根據請求報文的目標ip地址的負載均衡排程，將相同的目標ip地址的請求排程到同一個伺服器。若該rs可用，將傳送請求；若該伺服器不可用，則用最少連線的原則選出一臺可用伺服器來進行匹配。

  • LBLCR ：LBLC with Replication，帶複製功能的LBLC

    此種演算法是針對目標ip地址的負載均衡，該演算法根據請求的目標地址ip找出該地址對應的服務組，按最少連線的原則從服務組中選出一臺伺服器。

    若伺服器沒有超載，則傳送請求到該伺服器；若該伺服器超載或者不可用，則按照最小連線的原則從這個叢集中選出一臺伺服器。

    將該伺服器新增到服務組中，在將請求傳送到該伺服器，同時當該伺服器組中有一段時間沒有被修改，將最忙的伺服器從組中剔除，以降低複製的程度。

排程演算法生產環境選型

未完待續... ...

lvs叢集型別中的術語：

LVS叢集術語 說明
vs Virtual Server、Director、Dispatcher、Balancer
rs Real Server、upstream server、backend server
CIP Client IP
VIP Virtual serve IP
RIP Real server IP
DIP Director IP

CIP ←-> VIP == DIP ←-> RIP

graph LR C(Client - CIP) D(VIP - Dispatcher - DIP) RS(RIP - Real Server) C --- D D --- RS

LVS叢集的型別

工作拓撲、轉發機制

LVS叢集的型別

LVS叢集的型別 說明
lvs-nat 多目標DNAT。通過修改請求的目標IP和（或）Port為經由排程演算法挑選出的某後端RS的RIP和PORT。
lvs-dr 封裝新的MAC地址。通過在原IP報文外封裝幀首部（源MAC、目標MAC），目標MAC是由排程演算法挑選出的某後端RS的MAC地址。
lvs-tun IP隧道。通過在源IP報文（CIP VIP）外再封裝一個新IP首部（DIP RIP）完成排程。
lvs-fullnat 修改請求報文的源和目標IP。通過修改請求的源IP（CIP --> DIP）目標IP（VIP --> RIP）完成排程。

lvs-nat

多目標IP的DNAT，通過將請求報文中的目標地址和目標埠修改為某挑出的RS的RIP和PORT實現轉發；

特性

  1. RIP和DIP必須在同一個IP網路，且應該使用私網地址；RS的閘道器要指向DIP；

  2. 請求報文和響應報文都必須經由Director轉發；Director易於成為系統瓶頸；

  3. 支援埠對映，可修改請求報文的目標PORT；

  4. vs必須是Linux系統，rs可以是任意系統；

graph LR C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1) RS2(RIP - Real Server 2) R((Router)) C -- 請求報文 源CIP目的VIP --> R R -- 請求報文 --> D D -- 排程轉發 源DIP目的RIP --> RS1 D -- 排程轉發 源DIP目的RIP --> RS2 graph RL C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1) RS2(RIP - Real Server 2) R((Router)) RS1 -- 響應報文 源RIP目的DIP --> D RS2 -- 響應報文 源RIP目的DIP --> D D -- 響應報文 源VIP目的CIP--> R R -- 響應報文 --> C

lvs-dr

Direct Routing，直接路由；

通過為請求報文重新封裝一個MAC首部進行轉發，源MAC是DIP所在的介面的MAC，目標MAC是某挑選出的RS的RIP所在介面的MAC地址；源IP/PORT，以及目標IP/PORT均保持不變；

Director和各RS都得配置使用VIP；

特性

  1. 確保前端路由器將目標IP為VIP的請求報文發往Director：

    • (a) 在前端閘道器做靜態繫結；

    • (b) 在RS上使用arptables；

    • (c) 在RS上修改核心引數以限制arp通告及應答級別；

         arp_announce
   arp_ignore

  2. RS的RIP可以使用私網地址，也可以是公網地址；RIP與DIP在同一IP網路；RIP的閘道器不能指向DIP，以確保響應報文不會經由Director；

  3. RS跟Director要在同一個物理網路；

  4. 請求報文要經由Director，但響應不能經由Director，而是由RS直接發往Client；

  5. 不支援埠對映；

graph LR C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1 - VIP on lo) RS2(RIP - Real Server 2 - VIP on lo) R((Router)) SW[Switch] C -- 請求報文 源CIP目的VIP --> R R -- 請求報文 --> SW SW -- 請求報文 --> D D -- 排程轉發 IP首部不變 源DIPMAC目的RIPMAC --> SW SW -- 排程轉發 --> RS1 SW -- 排程轉發 --> RS2 graph RL C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1 - VIP on lo) RS2(RIP - Real Server 2 - VIP on lo) R((Router)) SW[Switch] D --- SW RS1 -- 響應報文 源VIPMAC目的Router's MAC --> SW RS2 -- 響應報文 源VIPMAC目的Router's MAC --> SW SW -- 響應報文 --> R R -- 響應報文 --> C

lvs-tun

轉發方式：不修改請求報文的IP首部（源IP為CIP，目標IP為VIP），而是在原IP報文之外再封裝一個IP首部（源IP是DIP，目標IP是RIP），將報文發往挑選出的目標RS；RS直接響應給客戶端（源IP是VIP，目標IP是CIP）；

特性

  1. DIP, VIP, RIP都應該是公網地址；

  2. RS的閘道器不能，也不可能指向DIP；

  3. 請求報文要經由Director，但響應不能經由Director；

  4. 不支援埠對映；

  5. RS的OS得支援隧道功能；

graph LR C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1 - VIP on lo) RS2(RIP - Real Server 2 - VIP on lo) R((本地Router)) BR1((異地Router)) BR2((異地Router)) W((廣域網WAN)) C -- 請求報文 源CIP目的VIP --> W W -- 請求報文 --> R R -- 請求報文 --> D D -- 排程轉發 內層源CIP目的VIP 外層源DIP目的RIP --> R R -- 排程轉發 --> W W -- 排程轉發 --> BR1 W -- 排程轉發 --> BR2 BR1 -- 排程轉發 --> RS1 BR2 -- 排程轉發 --> RS2 graph RL C(Client - CIP) D(VIP - Dispatcher - DIP) R((本地Router)) RS1(RIP - Real Server 1 - VIP on lo) RS2(RIP - Real Server 2 - VIP on lo) BR1((異地Router)) BR2((異地Router)) W((廣域網WAN)) D --- R R --- W RS1 -. 相應報文 源VIP目的CIP .-> BR1 RS2 -. 相應報文 源VIP目的CIP .-> BR2 BR1 -. 相應報文 .-> W BR2 -. 相應報文 .-> W W -. 相應報文 .-> C

問題：因在IP報文外面再封裝IP頭，會造成幀大於MTU，導致分片。

lvs-fullnat

通過同時修改請求報文的源IP地址和目標IP地址進行轉發；

CIP <--> DIP 
VIP <--> RIP

特性

  1. VIP是公網地址，RIP和DIP是私網地址，且通常不在同一IP網路；因此，RIP的閘道器一般不會指向DIP；

  2. RS收到的請求報文源地址是DIP，因此，只能響應給DIP；但Director還要將其發往Client；

  3. 請求和響應報文都經由Director；

  4. 支援埠對映；

注意：此型別預設不支援；

graph LR C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1 - VIP) RS2(RIP - Real Server 2 - VIP) R((Router)) C -- 請求報文 源CIP目的VIP --> R R -- 請求報文 --> D D -- 排程轉發 源DIP目的RIP --> RS1 D -- 排程轉發 源DIP目的RIP --> RS2 graph RL C(Client - CIP) D(VIP - Dispatcher - DIP) RS1(RIP - Real Server 1 - VIP) RS2(RIP - Real Server 2 - VIP) R((Router)) RS1 -- 響應報文 源RIP目的DIP --> D RS2 -- 響應報文 源RIP目的DIP --> D D -- 響應轉發 源VIP目的CIP --> R R -- 響應轉發 --> C

總結：

  • lvs-nat, lvs-fullnat：請求和響應報文都經由Director；
    • lvs-nat：RIP的閘道器要指向DIP；
    • lvs-fullnat：RIP和DIP未必在同一IP網路，但要能通訊；
  • lvs-dr, lvs-tun：請求報文要經由Director，但響應報文由RS直接發往Client；
    • lvs-dr：通過封裝新的MAC首部實現，通過MAC網路轉發；
    • lvs-tun：通過在原IP報文之外封裝新的IP首部實現轉發，支援遠距離通訊；

相關推薦

lvs之排程演算法和叢集型別

LVS LVS：Linux Virtual Server，是以“軟體”、通過“四層”排程、實現“負載均衡”。 軟體方式實現叢集： lvs軟體是Linux核心中的一個框架，以模組方式載入。 四層排程： lvs工作於通訊子網（核心中），即可檢測“請求報文”中各層“首部”獲取“目標實體地址”、“目標

機器學習之Apriori演算法和FP-growth演算法

1 關聯分析 無監督機器學習方法中的關聯分析問題。關聯分析可以用於回答"哪些商品經常被同時購買？"之類的問題。 2 Apriori演算法   頻繁項集即出現次數多的資料集   支援度就是幾個關聯的資料在資料集中出現的次數佔總資料集的比重。或者說幾個資料關聯出現的概率。   置信度體現了一個數據出現後，另

LVS的排程演算法

LVS的排程演算法 一.排程演算法簡介以及分類 什麼是排程演算法？ 【DR按照什麼規則來從多個RS中篩選出來一個給使用者提供服務】 動態演算法：DR會實時的檢測後端的RS的負載情況，將新使用者的請求排程到一個負載較少的RS之上 靜態演算法：無論後端的RS當前的伺服器負載情況怎麼樣，都

Redis資料庫之主從複製和叢集部署

主從複製: 目前只能在一臺機子上演示主從複製 第一步 需要啟動兩臺Redis, 複製兩份相同的redis.conf 第二步 分別將兩個redis.conf檔案的port設定為6380和6381 第三步 將6381那臺的slaveof屬性 設定為 127.0.0.1 6

c語言模擬短作業優先排程演算法和時間片轉輪排程演算法

陣列模擬短作業，隊咧模擬時間片轉輪，註釋很清楚，就不贅述程式碼：#include<stdio.h> #include<stdlib.h> #include<string.h> #include<time.h> #include&

MFC之控制元件和Cstring型別轉換篇

1.開啟檔案 CFileDialog dlg(TRUE,NULL,NULL,OFN_ALLOWMULTISELECT,_T("All File |*.*|Jpeg File(*.jpg;*.jpeg;*.jpe)|*.jpg;*.jpeg;*.jpe|Windows(*

Android學習之byte陣列和double型別之間的轉換

在java中，一個byte元素佔一個位元組，一個double型別資料佔8個位元組 double 轉 byte陣列，程式碼： //double轉byte陣列 double佔8位元組 ， 一個byte佔一個位元組 public static byte[] Do

作業系統之排程演算法的六種實現

排程演算法 程序排程就是選擇程序佔用處理機 在描述程序排程演算法之前，先了解幾個概念 週轉時間 ： 程序從建立到結束執行所經歷的時間 平均週轉時間 ： n個程序週轉時間的平均值。一般來說，如果排程演算法使得平均週轉時間減少，則使用者滿意度和系統效率會提高。

FIFO排程演算法和LRU演算法

FIFO：先進先出排程演算法 最先載入到記憶體的最先被置換出去 LRU：最近最久未使用排程演算法 最近最少被訪問的最先被置換出去 兩者都是快取排程演算法，經常用作記憶體的頁面置換演算法。 打一個比方，幫助你理解。 你有很多的書，比如說10000本。 由於你的書實

層次聚類之AGNES演算法和DIANA演算法

轉載自：http://blog.csdn.net/hwwn2009/article/details/38331577 層次聚類的基本概念  層次聚類方法是古老而且常用的聚類方法。層次聚類方法又有兩種產生層次聚類的基本方法。 凝聚的：該方法是自底向上的方法，初始每個物

執行緒排程演算法和優先順序

函式pthread_attr_setschedpolicy和pthread_attr_getschedpolicy分別用來設定和得到執行緒的排程策略。 名稱:： pthread_attr_getschedpolicy pthread_attr_setschedpol

linux核心之排程演算法（二）

  上層排程，linux排程的核心函式為schedule，schedule函式封裝了核心排程的框架。細節實現上呼叫具體的排程類中的函式實現。schedule函式主要流程為： 1，將當前程序從相應的執行佇列中刪除； 2，計算和更新排程實體和程序的相關排程資訊； 3，將當前進重

每日一練——輪詢排程演算法和短作業優先排程演算法的平均等待時間

今天做亞信的筆試題遇到的輪詢排程演算法，和春招做的百度筆試題短作業優先排程演算法很相似，但是難度要UPUP。做題的過程中，因為沒有正確地處理迭代器失效的問題浪費了好多時間(>﹏<。)～，看來有必要把STL再看一遍了！不廢話了，直接上題目。 輪詢排程演算法 如

JVM之GC演算法和種類

垃圾收集演算法 這裡說說5種GC演算法，在說GC演算法前，先談談判斷物件是否活著的可達性分析演算法 可達性分析演算法 引用計數演算法 標記-清除演算法 標記-整理演算法 複製演算法 分代收集演算法 可達性分析演算法 垃圾回收，首先要判斷物件

最小生成樹之prim演算法和kruskal演算法

在日常生活中解決問題經常需要考慮最優的問題，而最小生成樹就是其中的一種。看了很多部落格，先總結如下，只需要您20分鐘的時間，就能完全理解。比如：有四個村莊要修四條路，讓村子能兩兩聯絡起來，這時就有最優的問題，怎樣修才是做好的，如下圖：第一個是網全圖，後三個圖的修路方案都可以1

linux核心分析之排程演算法（一）

linux排程演算法在2.6.32中採用排程類實現模組式的排程方式。這樣，能夠很好的加入新的排程演算法。 linux排程器是以模組方式提供的，這樣做的目的是允許不同型別的程序可以有針對性地選擇排程演算法。這種模組化結構被稱為排程器類，他允許多種不同哦可動態新增的排程演算法並

第七章 圖（最小生成樹之prime演算法和 kruskal演算法）

最小生成樹 所謂最小生成樹，就是在一個具有N個頂點的帶權連通圖G中，如果存在某個子圖G’，其包含了圖G中的所有頂點和一部分邊，且不形成迴路，並且子圖G’的各邊權值之和最小，則稱G’為圖G的最小生成樹。 由定義我們可得知最小生成樹的

LVS叢集之十種排程演算法及負載均衡——理論

編者按：在CSDN雲端計算頻道日前所做的文章《響應高達6秒 使用者揭露Heroku私自修改路由造成高支出》中，網友們認為這是“因隨機排程+Rails的單執行緒處理導致延遲增加的負載均衡失敗的案例”。但在負載均衡測試時就能發現問題並妥善解決的成功經驗有沒有？在隨後的微博中，支付寶的@Leverly評論：

55、LVS型別、排程演算法、ipvsadm命令用法

LVS型別： NAT DR TUN FULLNAT LVS的排程方法：10種 靜態方法：僅根據演算法本身進行排程 rr 輪詢 wrr 加權輪詢 sh 源地址雜湊，可實現session繫結 dh 目標地址雜湊 動態方法：根據演算法及RS當前的負載狀況 lc 最小連線，小者勝出

叢集介紹、keepalived介紹、用keepalived配置高可用叢集、負載均衡叢集介紹、LVS介紹 、LVS排程演算法、LVS NAT模式搭建

一、叢集介紹 Linux叢集根據功能劃分為兩大類：高可用和負載均衡。 高可用叢集 高可用叢集通常為2臺伺服器，一臺工作，另一臺作為冗餘，當提供服務的機器宕機時，冗餘將接替繼續提供服務。 實現高可用的開源軟體有：heartbeat、Keepalived，其中hea