http://www.vckbase.com/index.php/wv/10
http://blog.csdn.net/zlzlei/article/details/7689409

文章一：

當前在網路傳輸應用中，廣泛採用的是TCP/IP通訊協議及其標準的socket應用開發程式設計介面（API）。TCP/IP傳輸層有兩個並列的協議：TCP和UDP。其中TCP（transport control protocol，傳輸控制協議）是面向連線的，提供高可靠性服務。UDP（user datagram protocol，使用者資料報協議）是無連線的，提供高效率服務。在實際工程應用中，對可靠性和效率的選擇取決於應用的環境和需求。一般情況下，普通資料的網路傳輸採用高效率的udp，重要資料的網路傳輸採用高可靠性的TCP。

在應用開發過程中，筆者發現基於TCP網路傳輸的應用程式有時會出現粘包現象（即傳送方傳送的若干包資料到接收方接收時粘成一包）。針對這種情況，我們進行了專題研究與實驗。本文重點分析了TCP網路粘包問題，並結合實驗結果提出瞭解決該問題的對策和方法，供有關工程技術人員參考。

一、TCP協議簡介

TCP是一個面向連線的傳輸層協議，雖然TCP不屬於iso制定的協議集，但由於其在商業界和工業界的成功應用，它已成為事實上的網路標準，廣泛應用於各種網路主機間的通訊。

作為一個面向連線的傳輸層協議，TCP的目標是為使用者提供可靠的端到端連線，保證資訊有序無誤的傳輸。它除了提供基本的資料傳輸功能外，還為保證可靠性採用了資料編號、校驗和計算、資料確認等一系列措施。它對傳送的每個資料位元組都進行編號，並請求接收方回傳確認資訊（ack）。傳送方如果在規定的時間內沒有收到資料確認，就重傳該資料。資料編號使接收方能夠處理資料的失序和重複問題。資料誤碼問題通過在每個傳輸的資料段中增加校驗和予以解決，接收方在接收到資料後檢查校驗和，若校驗和有誤，則丟棄該有誤碼的資料段，並要求傳送方重傳。流量控制也是保證可靠性的一個重要措施，若無流控，可能會因接收緩衝區溢位而丟失大量資料，導致許多重傳，造成網路擁塞惡性迴圈。TCP採用可變視窗進行流量控制，由接收方控制傳送方傳送的資料量。

TCP為使用者提供了高可靠性的網路傳輸服務，但可靠性保障措施也影響了傳輸效率。因此，在實際工程應用中，只有關鍵資料的傳輸才採用TCP，而普通資料的傳輸一般採用高效率的udp。

二、粘包問題分析與對策

TCP粘包是指傳送方傳送的若干包資料到接收方接收時粘成一包，從接收緩衝區看，後一包資料的頭緊接著前一包資料的尾。

出現粘包現象的原因是多方面的，它既可能由傳送方造成，也可能由接收方造成。傳送方引起的粘包是由TCP協議本身造成的，TCP為提高傳輸效率，傳送方往往要收集到足夠多的資料後才傳送一包資料。若連續幾次傳送的資料都很少，通常TCP會根據優化演算法把這些資料合成一包後一次傳送出去，這樣接收方就收到了粘包資料。接收方引起的粘包是由於接收方使用者程序不及時接收資料，從而導致粘包現象。這是因為接收方先把收到的資料放在系統接收緩衝區，使用者程序從該緩衝區取資料，若下一包資料到達時前一包資料尚未被使用者程序取走，則下一包資料放到系統接收緩衝區時就接到前一包資料之後，而使用者程序根據預先設定的緩衝區大小從系統接收緩衝區取資料，這樣就一次取到了多包資料（圖1所示）。

 
圖1

 
圖2

 
圖3

粘包情況有兩種，一種是粘在一起的包都是完整的資料包（圖1、圖2所示），另一種情況是粘在一起的包有不完整的包（圖3所示），此處假設使用者接收緩衝區長度為m個位元組。

不是所有的粘包現象都需要處理，若傳輸的資料為不帶結構的連續流資料（如檔案傳輸），則不必把粘連的包分開（簡稱分包）。但在實際工程應用中，傳輸的資料一般為帶結構的資料，這時就需要做分包處理。

在處理定長結構資料的粘包問題時，分包演算法比較簡單；在處理不定長結構資料的粘包問題時，分包演算法就比較複雜。特別是如圖3所示的粘包情況，由於一包資料內容被分在了兩個連續的接收包中，處理起來難度較大。實際工程應用中應儘量避免出現粘包現象。

為了避免粘包現象，可採取以下幾種措施。一是對於傳送方引起的粘包現象，使用者可通過程式設計設定來避免，TCP提供了強制資料立即傳送的操作指令push，TCP軟體收到該操作指令後，就立即將本段資料傳送出去，而不必等待發送緩衝區滿；二是對於接收方引起的粘包，則可通過優化程式設計、精簡接收程序工作量、提高接收程序優先順序等措施，使其及時接收資料，從而儘量避免出現粘包現象；三是由接收方控制，將一包資料按結構欄位，人為控制分多次接收，然後合併，通過這種手段來避免粘包。

以上提到的三種措施，都有其不足之處。第一種程式設計設定方法雖然可以避免傳送方引起的粘包，但它關閉了優化演算法，降低了網路傳送效率，影響應用程式的效能，一般不建議使用。第二種方法只能減少出現粘包的可能性，但並不能完全避免粘包，當傳送頻率較高時，或由於網路突發可能使某個時間段資料包到達接收方較快，接收方還是有可能來不及接收，從而導致粘包。第三種方法雖然避免了粘包，但應用程式的效率較低，對實時應用的場合不適合。

一種比較周全的對策是：接收方建立一預處理執行緒，對接收到的資料包進行預處理，將粘連的包分開。對這種方法我們進行了實驗，證明是高效可行的。

三、程式設計與實現

1．實現框架

實驗網路通訊程式採用TCP/IP協議的socket api程式設計實現。socket是面向客戶機/伺服器模型的。TCP實現框架如圖4所示。

圖4

2．實驗硬體環境：

伺服器：pentium 350 微機

客戶機：pentium 166微機

網路平臺：由10兆共享式hub連線而成的區域網

3．實驗軟體環境：

作業系統：windows 98

程式語言：visual c++ 5.0

4．主要執行緒

程式設計採用多執行緒方式，伺服器端共有兩個執行緒：傳送資料執行緒、傳送統計顯示執行緒。客戶端共有三個執行緒：接收資料執行緒、接收預處理粘包執行緒、接收統計顯示執行緒。其中，傳送和接收執行緒優先順序設為thread_priority_time_critical（最高優先順序），預處理執行緒優先順序為thread_priority_above_normal（高於普通優先順序），顯示執行緒優先順序為thread_priority_normal（普通優先順序）。

實驗傳送資料的資料結構如圖5所示：

圖5

5．分包演算法

針對三種不同的粘包現象，分包演算法分別採取了相應的解決辦法。其基本思路是首先將待處理的接收資料流（長度設為m）強行轉換成預定的結構資料形式，並從中取出結構資料長度欄位，即圖5中的n，而後根據n計算得到第一包資料長度。

1)若n

2)若n=m，則表明資料流內容恰好是一完整結構資料，直接將其存入臨時緩衝區即可。

3)若n>m，則表明資料流內容尚不夠構成一完整結構資料，需留待與下一包資料合併後再行處理。

對分包演算法具體內容及軟體實現有興趣者，可與作者聯絡。

四、實驗結果分析

實驗結果如下：

1．在上述實驗環境下，當傳送方連續傳送的若干包資料長度之和小於1500b時，常會出現粘包現象，接收方經預處理執行緒處理後能正確解開粘在一起的包。若程式中設定了“傳送不延遲”：（setsockopt (socket_name，ipproto_tcp，tcp_nodelay，(char *) &on，sizeof on) ，其中on=1），則不存在粘包現象。

2．當傳送資料為每包1kb～2kb的不定長資料時，若傳送間隔時間小於10ms，偶爾會出現粘包，接收方經預處理執行緒處理後能正確解開粘在一起的包。

3．為測定處理粘包的時間，傳送方依次迴圈傳送長度為1.5kb、1.9kb、1.2kb、1.6kb、1.0kb資料，共計1000包。為製造粘包現象，接收執行緒每次接收前都等待10ms，接收緩衝區設為5000b，結果接收方收到526包資料，其中長度為5000b的有175包。經預處理執行緒處理可得到1000包正確資料，粘包處理總時間小於1ms。

實驗結果表明，TCP粘包現象確實存在，但可通過接收方的預處理予以解決，而且處理時間非常短（實驗中1000包資料總共處理時間不到1ms），幾乎不影響應用程式的正常工作。

文章二：

以前老在網上找別人說recv什麼時候返回，要麼說的很籠統，要麼完全覺得不靠譜，最近還是自己做個試驗分析一下吧：

關於PUSH位的應用
        PUSH位就是用來通告接收方立即將收到的報文連同TCP接收快取裡的資料遞交應用程序處理。一般會出現在傳送方封裝最後一個應用欄位的TCP報文中，針對TCP互動式應用，則只要封裝有應用欄位的TCP報文，均會將PUSH位置一，當然，應用程式的開發者，可以根據需要，在某個應用功能模組或某個應用操作時，將所有封裝應用欄位的TCP報文PUSH位置一，以提高互動雙方的處理效率，這在理論上應該也是可行的。

測試1. 
每次傳送大小：1024
每次接收大小：32
結果：pack1
每send傳送一個包，包中資料大小1024，帶PUSH標誌
每次接收滿32後recv函式返回。


測試2.
每次傳送大小：1024
每次接收大小：2048
結果：pack2
每send傳送一個包，包中資料大小1024，帶PUSH標誌
每次接收滿1024後recv函式返回。


測試3. 
每次傳送大小：20480
每次接收大小：10240
結果：pack3
每send傳送兩個包，包中資料大小為16384（TCP分片大小，建立連線時商定）與4096，僅最後一個包帶PUSH標誌
第一次接收滿10240後recv函式返回
第二次接收6144後recv函式返回（6144+10240=16384）
第三次接收4096後recv函式返回
Recv >>> [1]10240:10240
Recv >>> [2]10240:6144
Recv >>> [3]10240:4096
Recv >>> [4]10240:10240
Recv >>> [5]10240:6144
Recv >>> [6]10240:4096




測試4. 
每次傳送大小：20480
每次接收大小：20480
結果：pack4
每send傳送兩個包，包中資料大小為16384（TCP分片大小，建立連線時商定）與4096，僅最後一個包帶PUSH標誌
第一次接收16384後recv函式返回
第二次接收4096後recv函式返回
Recv >>> [1]20480:16384
Recv >>> [2]20480:4096
Recv >>> [3]20480:16384
Recv >>> [4]20480:4096


測試5.
每次傳送大小：400000
每次接收大小：10240
結果：pack5
傳送時除最後一個包不夠意外，資料都是按照16384的包大小發送，傳送過程中經常性接收視窗滿。
接收過程初期按照16384包大小接收，後期無規律：
Recv >>> [1]10240:10240
Recv >>> [2]10240:6144 //A//滿16384
Recv >>> [3]10240:10240
Recv >>> [4]10240:6144 //B//滿16384，從開始到此滿32768（滑動視窗總大小）
Recv >>> [5]10240:10240
Recv >>> [6]10240:10240
Recv >>> [7]10240:10240
Recv >>> [8]10240:2048 //C//從開始到此處滿65536（兩個滑動視窗總大小）
Recv >>> [9]10240:10240
Recv >>> [10]10240:6144 //D//滿16384
Recv >>> [11]10240:10240
Recv >>> [12]10240:6144 //E//滿16384
Recv >>> [13]10240:10240 //F//從此往後均能收滿整個buffer
Recv >>> [14]10240:10240
。。。。。。都是10240:10240
Recv >>> [40]10240:10240
Recv >>> [41]10240:8192 //E//
Recv >>> [42]10240:6784


測試6.
每次傳送大小：400000
每次接收大小：10000
結果：pack6
傳送時除最後一個包不夠以外，資料都是按照16384的包大小發送，傳送過程中經常性接收視窗滿。
接收過程初期按照16384包大小接收，後期無規律：
Recv >>> [1]10000:10000
Recv >>> [2]10000:6384
Recv >>> [3]10000:10000
Recv >>> [4]10000:6384
Recv >>> [5]10000:10000
Recv >>> [6]10000:10000
Recv >>> [7]10000:10000
Recv >>> [8]10000:2768
Recv >>> [9]10000:10000
Recv >>> [10]10000:6384
Recv >>> [11]10000:10000
Recv >>> [12]10000:6384
Recv >>> [13]10000:10000
。。。。。。都是10000:10000
Recv >>> [41]10000:10000
Recv >>> [42]10000:4912
Recv >>> [43]10000:6784


測試7.
每次傳送大小：32，發10000次
每次接收大小：102400
結果：pack7
傳送過程中大部分包都以32大小發送，但也有部分包被合在了一起傳送，傳送的每個包都帶PUSH標誌
接收過程中大部分包都以32大小接收，但也有接收大於32的時候，並且與傳送大於32的包並無任何關係。
Recv >>> [1]102400:32
Recv >>> [2]102400:32
Recv >>> [3]102400:32
。。。。。。都是102400:32
Recv >>> [92]102400:32
Recv >>> [93]102400:49184
Recv >>> [94]102400:32
。。。。。。都是102400:32
Recv >>> [151]102400:32
Recv >>> [152]102400:32
Recv >>> [153]102400:22720
Recv >>> [154]102400:32
。。。。。。都是102400:32
Recv >>> [268]102400:32
Recv >>> [271]102400:47840
Recv >>> [272]102400:32
。。。。。。都是102400:32
Recv >>> [397]102400:32
Recv >>> [398]102400:32
Recv >>> [399]102400:59776
Recv >>> [400]102400:32
。。。。。。都是102400:32
Recv >>> [523]102400:32
Recv >>> [526]102400:54208
Recv >>> [527]102400:32
。。。。。。都是102400:32
Recv >>> [630]102400:32
Recv >>> [631]102400:32
Recv >>> [632]102400:65568
。。。。。。都是102400:32
Recv >>> [652]102400:32
Recv >>> [653]102400:32


分析：使用者從接收快取區讀取內容與kernel向接收快取區填充內容這兩個過程是互斥的，
recv只從接收快取區中獲取一次內容，並且也只關心自己獲取時接收快取區有多少內容：
a、如果當時快取區中沒有資料，則recv進入阻塞狀態，等待kernel向快取區被填入資料後重新啟用。
b、如果當時快取區中的資料比使用者接收使用的buffer大，則填滿buffer後recv函式返回。
c、如果當時快取區中的資料比使用者接收使用的buffer小，則取走快取區中的所有資料後recv函式返回。
kernel向接收快取區填充則是收到資料包後到自己的時間片並且快取區不在被讀，則將拿到的包內容全部放入快取區中。

這裡有個引數，決定了是否可讀，當緩衝區中的資料長度大於等於SO_RCVLOWAT時，recv函式才認為皇后從去中有資料，也就是socke可讀，然後recv將資料從kernel 拷貝到應用層。

Socket可讀/寫的常見情況分析：

select()返回sockfd可讀：

1、Receive緩衝區的資料大於或等於low-water mark的值。low-water mark的值可通過SO_RCVLOWAT選項控制，預設是1。 (即讀緩衝區中有資料)
       2、TCP連線接收到FIN，即Read half of the connections is closed。此時對sockfd的讀操作將返回0，即EOF。

3、如果sockfd是一個監聽套接字，則表明有新連線，可呼叫accept()函式建立新連線。 
       4、Socket出錯，此時對sockfd的讀操作將返回-1。

select()返回sockfd可寫：
       1、Send緩衝區的資料大於或等於low-water mark的值。low-water mark的值可通過SO_SNDLOWAT選項控制，預設是2048。 (即緩衝區有資料)
       2、Write half of the connection is closed，對sockfd的寫操作將產生SIGPIPE訊號。 
       3、對非阻塞的sockfd呼叫connect()，connect()完成或失敗。 
       4、Socket出錯，此時對sockfd的寫操作將返回-1。

這樣就可以解釋測試5中的現象了：
a、kernel第一二次都只收到了一個16384大小的包，所以接收的A處與B處都收到了整個資料包
b、慢慢的包陸陸續續的到來kernel第三次收到了兩個16384大小的包，填滿了整個快取區，所以接收的C處，
在使用者的時間片內使用者收走了快取區的全部資料。
c、接下來資料蜂擁而至，導致快取區一直處於滿的狀態，所以後來的接收都能收滿使用者buffer。
d、接收的E處接收完整個快取區，隨後接收收尾的包
為了驗證以上推斷，進行了測試6。


測試7驗證了快速傳送時的傳送接收情況，證明了send傳送與recv接收過程完全沒關係，
即使傳送的包帶有PUSH標記，也只能保證每一個包被單獨放入接收快取區中，無法使recv接收每收到一個包返回。
整個接收過程遵循上面的規則，何時返回，返回多少資料均要看當時快取區內的資料多少。
像測試7中大部分包每個包都返回只是因為接收比較快導致kernel每次只來得及向接收快取區中放一個包而已。


結論：
a、不要期待利用TCP協議一方send一次，另一方recv一次的邏輯，這種邏輯是不可靠，也沒有理論依據的
b、在本機進行訊息邏輯控制，或者說信令級傳輸，建議還是使用UDP
c、若必須要使用TCP訊息傳輸時一定要加同步頭，例如一個固定的值，用來分割資料包或者驗證是否包亂序或越界

三、send行為

        預設情況下，send的功能是拷貝指定長度的資料到傳送緩衝區，只有當資料被全部拷貝完成後函式才會正確返回，否則進入阻塞狀態或等待超時。如果你想修改這種預設行為，將資料直接傳送到目標機器，可以將傳送緩衝區大小設為0（或通過TCP_NODELAY禁用Nagle演算法），這樣當send返回時，就表示資料已經正確的、完整的到達了目標機器。注意，這裡只表示資料到達目標機器網路緩衝區，並不表示資料已經被對方應用層接收了。

        協議層在資料傳送過程中，根據對方的滑動視窗，再結合MSS值共同確定TCP報文中資料段的長度，以確保對方接收緩衝區不會溢位。當本方傳送緩衝區尚有資料沒有傳送，而對方滑動視窗已經為0時，協議層將啟動探測機制，即每隔一段時間向對方傳送一個位元組的資料，時間間隔會從剛開始的30s調整為1分鐘，最後穩定在2分鐘。這個探測機制不僅可以檢測到對方滑動視窗是否變化，同時也可以發現對方是否有異常退出的情況。

        push標誌指示接收端應儘快將資料提交給應用層。如果send函式提交的待發送資料量較小，例如小於1460B（參照MSS值確定），那麼協議層會將該報文中的TCP頭部的push欄位置為1；如果待發送的資料量較大，需要拆成多個數據段傳送時，協議層只會將最後一個分段報文的TCP頭部的push欄位置1。

四、recv行為

        預設情況下，recv的功能是從接收緩衝區讀取(其實就是拷貝)指定長度的資料。如果將接收緩衝區大小設為0，recv將直接從協議緩衝區(滑動視窗區)讀取資料，避免了資料從協議緩衝區到接收緩衝區的拷貝。recv返回的條件有兩種：

      1. recv函式傳入的應用層接收緩衝區已經讀滿

      2. 協議層接收到push欄位為1的TCP報文，此時recv返回值為實際接收的資料長度

        協議層收到TCP資料包後(儲存在滑動視窗區)，本方的滑動視窗合攏（視窗值減小）；當協議層將資料拷貝到接收緩衝區(滑動視窗區—>接收緩衝區)，或者應用層呼叫recv接收資料(接收緩衝區—>應用層緩衝區，滑動視窗區—>應用層緩衝區)後，本方的滑動視窗張開(視窗值增大)。收到資料更新window後，協議層向對方傳送ACK確認。

        協議層的資料接收動作完全由傳送動作驅動，是一個被動行為。在應用層沒有任何干涉行為的情況下（比如recv操作等），協議層能夠接收並儲存的最大資料大小是視窗大小與接收緩衝區大小之和。Windows系統的視窗大小預設是64K，接收緩衝區預設為8K，所以預設情況下協議層最多能夠被動接收並儲存72K的資料。