HttpWebRequest的GetResponse或GetRequestStream偶爾超時 + 總結各種超時死掉的可能和相應的解決辦法
用C#模擬網頁登陸,其中去請求幾個頁面,會發起對應的http的請求request,其中keepAlive設置為true,提交請求後,然後會有對應的response:
resp = (HttpWebResponse)req.GetResponse();
之前的多次調試,一直都是可以正常獲得對應的response,然後讀取html頁面的。
但是後來幾次的調試,在沒有改變代碼的前提下,結果GetResponse卻始終會超時死掉。
【解決過程】
1.默認request的timeout是1000000毫秒=100秒,都會超時,手動改為10秒,因此就更容易超時了,無法解決問題。
2.將http的request的keepAlive設置為false,問題依舊。
3.去參考:c# request.GetResponse();超時問題的解決,和HttpWebRequest多線程性能問題,請求超時的錯誤,
去把前面共4次的httprequest,每次都增加對應的:
resp = null; |
結果還是沒解決問題。
4. 同樣參考:HttpWebRequest多線程性能問題,請求超時的錯誤,
去嘗試關於DefaultConnectionLimit的設置,改為為10:
System.Net.ServicePointManager.DefaultConnectionLimit = 10; |
問題依舊。
5.又去測試了下,關於response.Close()
也是沒解決問題。
6. 最後無意間,索性不抱希望的,再次DefaultConnectionLimit設置為更大的值50:
System.Net.ServicePointManager.DefaultConnectionLimit = 50;
試了試,結果就解決超時的問題了。
然後才搞懂原因。
之前默認設置為2,後來改為10,都沒有解決問題的原因在於,當前有很多個http的連接,沒有被關閉掉,
而這些keepalive的連接,都是
由於代碼中,對於前面多個request。其都是keepalive為true,以及多個response也沒有close,
而之前調試了很多次了,所以,此時已經存在了很多個alive的http連接了,已經超過了10個了,所以前面設置了DefaultConnectionLimit 為10,也還是沒用的。
而改為50,才夠用。
【總結】
此處GetResponse超過的原因是,當前存在太多數目的alive的http連接(大於10個),所以再次提交同樣的http的request,再去GetResponse,就會超時死掉。
解決辦法就是,把DefaultConnectionLimit 設置為一個比較大一點的數值,此數值保證大於你當前已經存在的alive的http連接數即可。
【經驗總結】
以後寫http的request代碼,如果不是必須的要keepalive的,那麽就要設置KeepAlive為false:
req.KeepAlive = false;
以及做對應的收尾動作:
if (resp != null) |
【後記 2012-03-01】
又偶爾遇到一次,DefaultConnectionLimit已經是200了,足夠大了,但是GetResponse和GetRequestStream,還是會超時死掉的問題,具體是什麽原因導致的還不是很清楚,但是經過折騰,參考:
HttpWebResponse’s GetResponse() hangs and timeouts
在:
req = (HttpWebRequest)WebRequest.Create(constSkydriveUrl); |
之前,添加一句垃圾回收:
System.GC.Collect();
然後就解決了GetResponse的超時問題,並且後面的GetRequestStream也同時可以正常工作,不超時了。
所以,看起來像是當前系統由於調試多次,並且HttpWebRequest和HttpWebResponse都是沒有正常去Close的,可能會殘留一些http的鏈接,然後就可能影響到了後續對於http的使用,垃圾回收後,估計就把殘余的http相關資源釋放了,然後http就可以正常工作了。
【總結】
對於GetResponse或GetRequestStream超時死掉的原因,可能是:
1.DefaultConnectionLimit是默認的2,而當前的Http的connection用完了,導致後續的GetResponse或GetRequestStream超時死掉
==>> 默認系統只支持同時存在2個http的connection
==>> 使用HttpWebRequest之後如果沒有close,則會占用1個http的connection,所以如果超過2次使用HttpWebRequest而沒有close,那麽就用完系統的http的connection,之後再去使用HttpWebRequest,GetResponse就會死掉
解決辦法:
辦法1:
每次使用完HttpWebRequest,使用
?1 2 |
req.Close();
req= null ;
|
去關閉對應的http connection
最好對應的HttpWebResponse也要close:
?1 2 |
resp.Close();
resp = null ;
|
方法2:
修改DefaultConnectionLimit的值,改為足夠大,比如:
?1 |
System.Net.ServicePointManager.DefaultConnectionLimit = 200;
|
2.系統中Http相關的資源沒有正確釋放,導致後續GetResponse或GetRequestStream超時死掉
就像我此處遇到的,可能是之前調用http相關函數,沒有正確完全釋放資源,導致雖然DefaultConnectionLimit給了足夠大,但是還是會死掉,此時在http請求代碼之前去做一次垃圾回收,則後續http的GetResponse或GetRequestStream就正常了,就不會超時死掉了。
參考代碼如下:
?1 2 3 4 5 |
System.GC.Collect();
req = (HttpWebRequest)WebRequest.Create(constSkydriveUrl);
setCommonHttpReqPara( ref req);
resp = (HttpWebResponse)req.GetResponse();
|
3.Http的GET請求時,不要手動設置ContentLength的值
這個是參考這裏:HttpWebRequest.GetResponse() hangs the second time it is called而記錄於此的,也許有人是此原因,所以可供參考一下。
即Http的GET請求,不要添加類似如下的代碼:
?1 2 |
if (m_contentLength > 0)
httpWebRequest.ContentLength = m_contentLength;
|
不要去手動修改對應的ContentLength的值,C#的http相關庫函數,會自動幫你計算的。
註:POST方法中,的確是要手動填充數據和算出數據大小,然後手動給ContentLength賦值的。
4.其他可能的一些原因
(1)關於KeepAlive的問題
如果Http的請求,是設置了KeepAlive=true的話,那麽對應的http的connection會和服務器保持連接的。
所以如果上述辦法都不能解決超時的問題,可以嘗試將keepAlive設置為false試試,看看能否解決。
(2)關於Sleep
有些人好像是通過在http請求前,加了對應的Sleep,結果解決了此問題。需要的人,也可以試試。
(3)HttpWebRequest的Timeout
一般來說,既然超時了,往往是由於錯誤使用函數或者網絡有問題導致的,所以實際上此處對於有些人去把HttpWebRequest的Timeout的值改的更大,往往都是沒用的。
只不過,萬一是由於網絡響應慢而導致超時,那麽倒是可以嘗試,將HttpWebRequest的Timeout的值改為更大。
(其中HttpWebRequest的Timeout默認的值是100,000 milliseconds ==100 seconds)
參考代碼:
?1 |
req.Timeout = 5 * 60 * 1000; // 5 minutes
|
轉載請註明:在路上 » 【已解決】HttpWebRequest的GetResponse或GetRequestStream偶爾超時 + 總結各種超時死掉的可能和相應的解決辦法
HttpWebRequest的GetResponse或GetRequestStream偶爾超時 + 總結各種超時死掉的可能和相應的解決辦法