1. 程式人生 > 其它 >Linux下雙網絡卡繫結bond0,1,4

Linux下雙網絡卡繫結bond0,1,4

一:原理:

linux作業系統下雙網絡卡繫結有七種模式。現在一般的企業都會使用雙網絡卡接入,這樣既能新增網路頻寬,同時又能做相應的冗餘,可以說是好處多多。而一般企業都會使用linux作業系統下自帶的網絡卡繫結模式,當然現在網絡卡產商也會出一些針對windows作業系統網絡卡管理軟體來做網絡卡繫結(windows作業系統沒有網絡卡繫結功能 需要第三方支援)。進入正題,linux有七種網絡卡繫結模式:0. round robin,1.active-backup,2.load balancing (xor),  3.fault-tolerance (broadcast), 4.lacp,  5.transmit load balancing, 6.adaptive load balancing。

Linux 多網絡卡繫結

網絡卡繫結mode共有七種(0~6) bond0、bond1、bond2、bond3、bond4、bond5、bond6

常用的有三種

mode=0:平衡負載模式,有自動備援,但需要”Switch”支援及設定。

mode=1:自動備援模式,其中一條線若斷線,其他線路將會自動備援。

mode=6:平衡負載模式,有自動備援,不必”Switch”支援及設定。

需要說明的是如果想做成mode 0的負載均衡,僅僅設定這裡options bond0 miimon=100 mode=0是不夠的,與網絡卡相連的交換機必須做特殊配置(這兩個埠應該採取聚合方式),因為做bonding的這兩塊網絡卡是使用同一個MAC地址.從原理分析一下(bond執行在mode 0下):

mode 0下bond所繫結的網絡卡的IP都被修改成相同的mac地址,如果這些網絡卡都被接在同一個交換機,那麼交換機的arp表裡這個mac地址對應的埠就有多 個,那麼交換機接受到發往這個mac地址的包應該往哪個埠轉發呢?正常情況下mac地址是全球唯一的,一個mac地址對應多個埠肯定使交換機迷惑了。所以 mode0下的bond如果連線到交換機,交換機這幾個埠應該採取聚合方式(cisco稱為 ethernetchannel,foundry稱為portgroup),因為交換機做了聚合後,聚合下的幾個埠也被捆綁成一個mac地址.我們的解 決辦法是,兩個網絡卡接入不同的交換機即可。

mode6模式下無需配置交換機,因為做bonding的這兩塊網絡卡是使用不同的MAC地址。

七種bond模式說明:

第一種模式:mod=0 ,即:(balance-rr) Round-robin policy(平衡掄迴圈策略)

特點:傳輸資料包順序是依次傳輸(即:第1個包走eth0,下一個包就走eth1….一直迴圈下去,直到最後一個傳輸完畢),此模式提供負載平衡和容錯能力;但是我們知道如果一個連線或者會話的資料包從不同的介面發出的話,中途再經過不同的鏈路,在客戶端很有可能會出現資料包無序到達的問題,而無序到達的資料包需要重新要求被髮送,這樣網路的吞吐量就會下降

 

第二種模式:mod=1,即: (active-backup) Active-backup policy(主-備份策略)

特點:只有一個裝置處於活動狀態,當一個宕掉另一個馬上由備份轉換為主裝置。mac地址是外部可見得,從外面看來,bond的MAC地址是唯一的,以避免switch(交換機)發生混亂。此模式只提供了容錯能力;由此可見此演算法的優點是可以提供高網路連線的可用性,但是它的資源利用率較低,只有一個介面處於工作狀態,在有 N 個網路介面的情況下,資源利用率為1/N

 

第三種模式:mod=2,即:(balance-xor) XOR policy(平衡策略)

特點:基於指定的傳輸HASH策略傳輸資料包。預設的策略是:(源MAC地址 XOR 目標MAC地址) % slave數量。其他的傳輸策略可以通過xmit_hash_policy選項指定,此模式提供負載平衡和容錯能力

 

第四種模式:mod=3,即:broadcast(廣播策略)

特點:在每個slave介面上傳輸每個資料包,此模式提供了容錯能力

 

第五種模式:mod=4,即:(802.3ad) IEEE 802.3ad Dynamic link aggregation(IEEE 802.3ad 動態連結聚合)

特點:建立一個聚合組,它們共享同樣的速率和雙工設定。根據802.3ad規範將多個slave工作在同一個啟用的聚合體下。

外出流量的slave選舉是基於傳輸hash策略,該策略可以通過xmit_hash_policy選項從預設的XOR策略改變到其他策略。需要注意的 是,並不是所有的傳輸策略都是802.3ad適應的,尤其考慮到在802.3ad標準43.2.4章節提及的包亂序問題。不同的實現可能會有不同的適應 性。

必要條件:

條件1:ethtool支援獲取每個slave的速率和雙工設定

條件2:switch(交換機)支援IEEE 802.3ad Dynamic link aggregation

條件3:大多數switch(交換機)需要經過特定配置才能支援802.3ad模式

 

第六種模式:mod=5,即:(balance-tlb) Adaptive transmit load balancing(介面卡傳輸負載均衡)

特點:不需要任何特別的switch(交換機)支援的通道bonding。在每個slave上根據當前的負載(根據速度計算)分配外出流量。如果正在接受資料的slave出故障了,另一個slave接管失敗的slave的MAC地址。

該模式的必要條件:ethtool支援獲取每個slave的速率

 

第七種模式:mod=6,即:(balance-alb) Adaptive load balancing(介面卡適應性負載均衡)

特點:該模式包含了balance-tlb模式,同時加上針對IPV4流量的接收負載均衡(receive load balance, rlb),而且不需要任何switch(交換機)的支援。接收負載均衡是通過ARP協商實現的。bonding驅動截獲本機發送的ARP應答,並把源硬體地址改寫為bond中某個slave的唯一硬體地址,從而使得不同的對端使用不同的硬體地址進行通訊。

來自伺服器端的接收流量也會被均衡。當本機發送ARP請求時,bonding驅動把對端的IP資訊從ARP包中複製並儲存下來。當ARP應答從對端到達 時,bonding驅動把它的硬體地址提取出來,併發起一個ARP應答給bond中的某個slave。使用ARP協商進行負載均衡的一個問題是:每次廣播 ARP請求時都會使用bond的硬體地址,因此對端學習到這個硬體地址後,接收流量將會全部流向當前的slave。這個問題可以通過給所有的對端傳送更新 (ARP應答)來解決,應答中包含他們獨一無二的硬體地址,從而導致流量重新分佈。當新的slave加入到bond中時,或者某個未啟用的slave重新 啟用時,接收流量也要重新分佈。接收的負載被順序地分佈(round robin)在bond中最高速的slave上

當某個鏈路被重新接上,或者一個新的slave加入到bond中,接收流量在所有當前啟用的slave中全部重新分配,通過使用指定的MAC地址給每個 client發起ARP應答。下面介紹的updelay引數必須被設定為某個大於等於switch(交換機)轉發延時的值,從而保證發往對端的ARP應答 不會被switch(交換機)阻截。

必要條件:

條件1:ethtool支援獲取每個slave的速率;

條件2:底層驅動支援設定某個裝置的硬體地址,從而使得總是有個slave(curr_active_slave)使用bond的硬體地址,同時保證每個bond 中的slave都有一個唯一的硬體地址。如果curr_active_slave出故障,它的硬體地址將會被新選出來的 curr_active_slave接管

其實mod=6與mod=0的區別:mod=6,先把eth0流量佔滿,再佔eth1,….ethX;而mod=0的話,會發現2個口的流量都很穩定,基本一樣的頻寬。而mod=6,會發現第一個口流量很高,第2個口只佔了小部分流量

小結:

mode 1、5、6不需要交換機設定

mode 0、2、3、4需要交換機設定

預設使用mode 0

二:案例一mode=1(active-backup):一個網絡卡處於活動狀態 ,一個處於備份狀態,所有流量都在主鏈路上處理。當活動網絡卡down掉時,啟用備份的網絡卡。

1:[root@lyt ~]# vim /etc/sysconfig/network-scripts/ifcfg-eth0           #編輯該裝置eth0如圖:

[root@lyt ~]# vim /etc/sysconfig/network-scripts/ifcfg-eth1            #編輯該裝置eth1 如圖:

2:[root@lyt ~]# cd /etc/sysconfig/network-scripts/

[root@lyt network-scripts]# cp ifcfg-eth0  ifcfg-bond0        #生成一個bond0的虛擬網絡卡

[root@lyt network-scripts]# vim ifcfg-bond0        #編輯該網絡卡內容

3:[root@lyt network-scripts]# vim /etc/modprobe.conf       #編輯該配置檔案

下圖中1表示系統在啟動時載入bonding模組,對外虛擬網路介面裝置為 bond0;miimon=100表示系統每100ms監測一次鏈路連線狀態,如果有一條線路不通就轉入另一條線

路;mode=1表示fault-tolerance (active-backup)提供冗餘功能,工作方式是主備的工作方式,也就是說預設情況下只有一塊網絡卡工作,另一塊做備份。

cat /boot/config-2.6.32-431.el6.x86_64 | grep -i bonding  

CONFIG_BONDING=m          # 這裡可以看出bonding驅動編譯成可以動態載入的核心模組

4:[root@lyt network-scripts]# vim /etc/rc.local        #編輯該開機指令碼,將eth0和eth1網絡卡進行繫結

5:[root@lyt network-scripts]# init 6       #重啟,bond0啟動成功

[root@lyt ~]# ifconfig      #檢視網絡卡資訊,在此處三塊網絡卡的mac地址是一樣的

[root@lyt ~]#vim /proc/net/bonding/bond0      #檢視模式及網絡卡資訊。實際mac地址是不一樣的

測試:

6:Xshell:\> ping 192.168.101.50  –t      #一直測試網路的連通性檢視結果

斷掉eth0網絡卡後顯示結果

將網絡卡eth0斷掉後,系統使用備份網絡卡eth1,此時eth1處於活動狀態

案例二:mode=0(round robin):所有鏈路處於負載均衡狀態,這模式的特點增加了頻寬,同時支援容錯能力。

1:在案例一的基礎上,只需要修改/etc/modprobe.conf 配置檔案:如圖:

2:vim /proc/net/bonding/bond0        #檢視使用的模式及網絡卡資訊,如圖:

 

測試:mode=0:

3:Xshell:\> ping 192.168.101.50 –t #一直測試網路的連通性檢視結果

將網絡卡eth1斷掉後,系統依然可以ping通

 

 bonding模式1配置

#  具體操作步驟就下面這步不同,其它一致。

vim /etc/modprobe.d/bond.conf   

alias bond0 bonding

options bond0 miimon=100 mode=1    # 模式1

vim /etc/rc.d/rc.local   # eth0 eth1的工作順序(僅在主備模式下)

ifenslave bond0 eth0 eth1

注:在高可用的環境下,網絡卡配置bonding後,vip_nic要為bond0 

bonding模式4配置

#  具體操作步驟就下面這步不同,其它一致。

vim /etc/modprobe.d/bond.conf   

alias bond0 bonding

options bond0 miimon=100 mode=4 lacp_rate=1    # 模式4

注意的是:交換機和伺服器連線的那塊要配置動態的channel-group 

bond4下啟動vlan子介面

# 永久載入8021q module

cat > /etc/sysconfig/modules/8021q.modules << EOF

\#\!/bin/sh

if [ ! `lsmod | grep 8021q` ] ; then

        exec /sbin/modprobe 8021q >/dev/null 2>&1

fi

EOF
 

modprobe 8021q # 載入模組

vim  /etc/sysconfig/network-scripts/ifcfg-bond0.110  # vlan子介面,發出去的包是帶有vlan tag 110的

DEVICE=bond0.110          # vlan子介面要“.”分隔

BOOTPROTO=none

ONBOOT=yes

USERCTL=no

VLAN=yes                  # 寫配置檔案,就不要安裝vconfig來配置vlan子介面

IPADDR=192.168.110.3

PREFIX=24

bond4結合OpenStack ovs flat vlan模式

1、 採用linux bridge

    brctl addbr br-bond

    brctl addif br-bond bond0

    ifconfig br-bond 192.168.1.4/24   # 這樣配置是可以通的     

2、 採用openvswitch

    ovs-vsctl add-br br-bond

    ovs-vsctl add-port br-bond bond0

    ifconfig br-bond 192.168.1.4/24   # 這樣配置是不通的     

    如果進行如下操作,網路是可以通的

    brctl addbr br-bond

    brctl addif br-bond bond0

    ifconfig br-bond 192.168.1.4/24  # 管理ip地址配置linux bridge上,不是配置在br-data上     

    ovs-vsctl add-br br-data            # 建立一個br-data

    ovs-vsctl add-port br-data br-bond  # br-bond作為ovs bridge的一個port,不然計算節點下的虛擬機器網路不通     

    [root@sha-cloud002 ~]# cat /etc/sysconfig/network-scripts/ifcfg-br-bond  # br-data配置檔案如下

    DEVICE=br-bond

    IPADDR=10.10.10.12

    NETMASK=255.255.255.0

    ONBOOT=yes

    NM_CONTROLLED="no"

    BOOTPROTO=none

    TYPE=Bridge

    DELAY=0  # prevent it waiting on interface start
     

# 這裡需要注意一下,如果是hp刀鋒伺服器,網絡卡做bond後劃vlan子接口才能

和上端交換機通訊。這時候配置需要調整下

    ovs-vsctl add-port br-data eth0.470(舉例vlan id:470)

    ovs-vsctl set Port eth0.470 tag=470(打了tag後相當於access口,access口出去的包是不帶vlan id的)