1. 程式人生 > >python爬蟲(七)_urllib2:urlerror和httperror

python爬蟲(七)_urllib2:urlerror和httperror

mat 打開 urllib dfs prot 有用 esp except log

urllib2的異常錯誤處理

在我們用urlopen或opener.open方法發出一個請求時,如果urlopen或opener.open不能處理這個response,就產生錯誤。

這裏主要說的是URLError和HTTPError,以及對它們的錯誤處理。

URLError

URLError產生的原因主要有:

  1. 沒有網絡連接
  2. 服務器鏈接失敗
  3. 找不到指定的服務器

我們可以用try except語句來補貨相應的異常。下面的例子裏我們訪問了一個不存在的域名。

#urllib2_urlerror.py
import urllib2

request = urllib2.Request("http://www.sdfsdfsf.com"
) try: urllib2.urlopen(request, timeout= 5) except urllib2.URLError, err: print err

運行結果如下:

<urlopen error [Errno 8] nodename nor servname provided, or not known>

urlopen error,錯誤代碼8.錯誤原因是沒有找到指定的服務器。

HTTPError

HTTPError是URLError的子類,我們發出一個請求時,服務器都會對應一個response應答對象,其中它包含一個數字"響應狀態碼"

如果urlopenopener.open不能處理,會發出一個HTTPError,對應相應的狀態碼,HTTP狀態碼表示HTTP協議所返回的響應的狀態。

註意,urllib2可以為我們處理重定向的頁面(也就是3開頭的響應碼),100-299範圍的號碼表示成功,所以我們只能看到400-599的錯誤號碼

#-*- coding:utf-8 -*-
#23.urllib2_urllib2_httperror.py

import urllib2

request = urllib2.Request("http://blog.baidu.com/itcast")  

try:
    urllib2.urlopen(request)
except
urllib2.HTTPError, err: print err.code print err

運行結果如下:

404
HTTP Error 404:Not Found

HTTP Error,錯誤代號是404,錯誤原因是Not Found,說明服務器無法找到被請求的頁面。

改進版

由於HTTPError的父類是URLError,所以父類的異常應當寫到子類異常的後面,所以上述的代碼可以這麽改寫:

#-*- coding:utf-8 -*-
#24.urllib2_botherror.py

import urllib2

request = urllib2.Request("http://blog.baidu.com/itcast")

try:
    urllib2.urlopen(request)
except urllib2.HTTPError,err:
    print err.code
except urllib2.URLError,err:
    print err

else:
    print "Good Job"

運行結果如下:

404

這樣我們就可以做到,首先捕捉子類的異常,如果子類捕捉不到,那麽可以捕捉父類的異常。

HTTP響應狀態碼參考:

1xx:信息

100 Continue
服務器僅接收到部分請求,但是一旦服務器並沒有拒絕該請求,客戶端應該繼續發送其余的請求。
101 Switching Protocols
服務器轉換協議:服務器將遵從客戶的請求轉換到另外一種協議。



2xx:成功

200 OK
請求成功(其後是對GET和POST請求的應答文檔)
201 Created
請求被創建完成,同時新的資源被創建。
202 Accepted
供處理的請求已被接受,但是處理未完成。
203 Non-authoritative Information
文檔已經正常地返回,但一些應答頭可能不正確,因為使用的是文檔的拷貝。
204 No Content
沒有新文檔。瀏覽器應該繼續顯示原來的文檔。如果用戶定期地刷新頁面,而Servlet可以確定用戶文檔足夠新,這個狀態代碼是很有用的。
205 Reset Content
沒有新文檔。但瀏覽器應該重置它所顯示的內容。用來強制瀏覽器清除表單輸入內容。
206 Partial Content
客戶發送了一個帶有Range頭的GET請求,服務器完成了它。



3xx:重定向

300 Multiple Choices
多重選擇。鏈接列表。用戶可以選擇某鏈接到達目的地。最多允許五個地址。
301 Moved Permanently
所請求的頁面已經轉移至新的url。
302 Moved Temporarily
所請求的頁面已經臨時轉移至新的url。
303 See Other
所請求的頁面可在別的url下被找到。
304 Not Modified
未按預期修改文檔。客戶端有緩沖的文檔並發出了一個條件性的請求(一般是提供If-Modified-Since頭表示客戶只想比指定日期更新的文檔)。服務器告訴客戶,原來緩沖的文檔還可以繼續使用。
305 Use Proxy
客戶請求的文檔應該通過Location頭所指明的代理服務器提取。
306 Unused
此代碼被用於前一版本。目前已不再使用,但是代碼依然被保留。
307 Temporary Redirect
被請求的頁面已經臨時移至新的url。



4xx:客戶端錯誤

400 Bad Request
服務器未能理解請求。
401 Unauthorized
被請求的頁面需要用戶名和密碼。
401.1
登錄失敗。
401.2
服務器配置導致登錄失敗。
401.3
由於 ACL 對資源的限制而未獲得授權。
401.4
篩選器授權失敗。
401.5
ISAPI/CGI 應用程序授權失敗。
401.7
訪問被 Web 服務器上的 URL 授權策略拒絕。這個錯誤代碼為 IIS 6.0 所專用。
402 Payment Required
此代碼尚無法使用。
403 Forbidden
對被請求頁面的訪問被禁止。
403.1
執行訪問被禁止。
403.2
讀訪問被禁止。
403.3
寫訪問被禁止。
403.4
要求 SSL。
403.5
要求 SSL 128。
403.6
IP 地址被拒絕。
403.7
要求客戶端證書。
403.8
站點訪問被拒絕。
403.9
用戶數過多。
403.10
配置無效。
403.11
密碼更改。
403.12
拒絕訪問映射表。
403.13
客戶端證書被吊銷。
403.14
拒絕目錄列表。
403.15
超出客戶端訪問許可。
403.16
客戶端證書不受信任或無效。
403.17
客戶端證書已過期或尚未生效。
403.18
在當前的應用程序池中不能執行所請求的 URL。這個錯誤代碼為 IIS 6.0 所專用。
403.19
不能為這個應用程序池中的客戶端執行 CGI。這個錯誤代碼為 IIS 6.0 所專用。
403.20
Passport 登錄失敗。這個錯誤代碼為 IIS 6.0 所專用。
404 Not Found
服務器無法找到被請求的頁面。
404.0
沒有找到文件或目錄。
404.1
無法在所請求的端口上訪問 Web 站點。
404.2
Web 服務擴展鎖定策略阻止本請求。
404.3
MIME 映射策略阻止本請求。
405 Method Not Allowed
請求中指定的方法不被允許。
406 Not Acceptable
服務器生成的響應無法被客戶端所接受。
407 Proxy Authentication Required
用戶必須首先使用代理服務器進行驗證,這樣請求才會被處理。
408 Request Timeout
請求超出了服務器的等待時間。
409 Conflict
由於沖突,請求無法被完成。
410 Gone
被請求的頁面不可用。
411 Length Required
"Content-Length" 未被定義。如果無此內容,服務器不會接受請求。
412 Precondition Failed
請求中的前提條件被服務器評估為失敗。
413 Request Entity Too Large
由於所請求的實體的太大,服務器不會接受請求。
414 Request-url Too Long
由於url太長,服務器不會接受請求。當post請求被轉換為帶有很長的查詢信息的get請求時,就會發生這種情況。
415 Unsupported Media Type
由於媒介類型不被支持,服務器不會接受請求。
416 Requested Range Not Satisfiable
服務器不能滿足客戶在請求中指定的Range頭。
417 Expectation Failed
執行失敗。
423
鎖定的錯誤。



5xx:服務器錯誤

500 Internal Server Error
請求未完成。服務器遇到不可預知的情況。
500.12
應用程序正忙於在 Web 服務器上重新啟動。
500.13
Web 服務器太忙。
500.15
不允許直接請求 Global.asa。
500.16
UNC 授權憑據不正確。這個錯誤代碼為 IIS 6.0 所專用。
500.18
URL 授權存儲不能打開。這個錯誤代碼為 IIS 6.0 所專用。
500.100
內部 ASP 錯誤。
501 Not Implemented
請求未完成。服務器不支持所請求的功能。
502 Bad Gateway
請求未完成。服務器從上遊服務器收到一個無效的響應。
502.1
CGI 應用程序超時。 ·
502.2
CGI 應用程序出錯。
503 Service Unavailable
請求未完成。服務器臨時過載或當機。
504 Gateway Timeout
網關超時。
505 HTTP Version Not Supported
服務器不支持請求中指明的HTTP協議版本

python爬蟲(七)_urllib2:urlerror和httperror