1. 程式人生 > 程式設計 >Requests的高階特性

Requests的高階特性

上一篇我們介紹了 Requests 庫的基本用法,學會之後大家就可以應付一般的請求了。這一篇我們接著介紹 Requests 的高階用法,以便應付一些棘手的問題。

會話維持

在 requests 中,直接使用 get() 或 post() 方法確實可以做到模擬網頁的請求,但是這實際上是兩個不同的會話,相當於用了兩個瀏覽器開啟不同的頁面,而這兩個頁面是不共享 cookies 的。會話維持相當於打在原來的瀏覽器上新開了一個頁面,這樣就不用每次去設定 cookies 了——這就是Session物件。

s = requests.Session()
s.get('http://httpbin.org/cookies/set/sessioncookie/123456789'
) r = s.get("http://httpbin.org/cookies") print(r.text) #返回 { "cookies": {} } 複製程式碼

這裡我們請求了一個測試網站,設定了一個 Cookie ,名稱為 num ,內容為123456,之後又發起了請求,獲取Cookies,結果並沒有取到第一次請求的 Cookie。

試想一種常見的場景:我登入一個網站之後,點選裡面某個功能的時候,是不需要再登入的,為什麼?因為登入操作之後,瀏覽器與伺服器之間就建立了一個 Session ,我在同一瀏覽器再次請求伺服器的時候,共用的是這一個 Session ,所以不用再次登入。那麼如果我使用程式碼去請求呢?按照上面的例子,我請求兩次並不會共享 Session,那就沒法實現這個場景功能。而 Requests 的會話可以實現這種場景功能。

我們再來看個例子:

session = requests.Session()
session.get('http://httpbin.org/cookies/set/num/123456')
res = session.get('http://httpbin.org/cookies')
print(res.text)

#返回
{
  "cookies": {
    "num": "123456"
  }
}
複製程式碼

這個例子中,我們使用 Session 物件請求,第一次請求設定的 Cookie ,在第二次請求中我們仍然可以獲取到,說明兩次請求在同一個 Session 中。

身份認證

在訪問網站時,我們經常會遇到需要身份認證的頁面,需要輸入使用者名稱和密碼才能登入網站。這個時候我們可以使用 Requests 自帶的身份認證功能。

import requests
from requests.auth import HTTPBasicAuth

#請將username和password替換成自己在該網站的登入使用者名稱和密碼
res = requests.get('http://www.baidu.com',auth=HTTPBasicAuth('username','password'))
print(res.status_code)

#返回
200
複製程式碼

如果使用者名稱和密碼都正確的話,就會成功,返回200狀態碼。否則返回401狀態碼。

SSL證書驗證

現在隨處可見 https 開頭的網站,Requests 可以為 HTTPS 請求驗證 SSL 證書,就像 web 瀏覽器一樣。要想檢查某個主機的 SSL 證書,你可以使用 verify 引數:

import requests

r = requests.get('https://httpbin.org',verify=True)
print(r.text)
複製程式碼

如果想檢查驗證某個主機的 SSL 證書,就將 verify 設定為 True ,如果證書無效,就會報 requests.exceptions.SSLError 的錯誤。如果想跳過檢查,就將 verify 引數設定為 False。 verify 引數預設是 True ,所以如果需要的話,需要手動設定下這個變數。

代理設定

對於某些網站,如果請求幾次,或許能正常獲取內容。一旦開始爬取,對於大規模的頻繁請求,網站可能會彈出驗證碼,或者跳轉到登陸認證,或者封禁IP,導致一定時間內無法訪問。此時,就需要設定代理還解決這個問題,就要用到 proxies 引數。

# 代理設定
proxies = {
    'http': 'http://127.0.0.1:9001','https': 'https://127.0.0.2:9002'
}
requests.get('http://www.baidu.com',proxies=proxies)

複製程式碼

這裡的兩個地址都是編的,僅做示例用。如果你想跑起來的話需要換成有效代理。

SOCKS

除了基本的 HTTP 代理,Request 還支援 SOCKS 協議的代理。這是一個可選功能,若要使用, 你需要安裝第三方庫。你可以用 pip 獲取依賴:

$ pip install requests[socks]
複製程式碼

安裝好依賴以後,使用 SOCKS 代理和使用 HTTP 代理一樣簡單:

proxies = {
    'http': 'socks5://user:pass@host:port','https': 'socks5://user:pass@host:port'
}
複製程式碼

超時設定

在 Rquests 的基本用法中,我們介紹了超時的用法,通過使用 timeout 引數來配置。例如:

r = requests.get('https://github.com',timeout=5)
複製程式碼

我們知道,一個 HTTP 請求會有 connect 和 read 兩部分時間,上面的例子中設定的是二者加起來的超時時間。如果要分別制定,我們需要傳入一個元組:

r = requests.get('https://github.com',timeout=(3.05,27))
複製程式碼

如果遠端伺服器很慢,如果你想要 Request 一直等待伺服器返回,那麼可以給 timeout 賦值 None:

r = requests.get('https://github.com',timeout=None)
複製程式碼

總結

本文為大家講述了幾個 Requests 的高階特性,通過掌握這些特性,我們就基本上掌握了 Requests 的常用功能,也可以運用 Requests 去解決實際問題了。我們的 Requests 介紹也就告一段落了,剩下的靠大家去實踐出真知了。