1. 程式人生 > 程式設計 >Python響應物件text屬性亂碼解決方案

Python響應物件text屬性亂碼解決方案

在獲得網頁響應物件res後,使用res.text屬性可以獲得網頁原始碼,但可能出現亂碼!因為requests庫會使用自動猜測的解碼方式將抓取的網頁原始碼進行解碼,然後儲存到res物件的text屬性中;

但有的網站的編碼格式和requests庫預設的解碼格式()不一樣(比如gbk gb2312是gbk的子集),這時候就要自己手動進行解碼,先獲得content屬性,返回的是bytes型別的字串,再進行解碼decode(“網頁的編碼

格式”)

這時候可能出現新的問題

'gbk' codec can't decode byte 0xd0 in position 15264: illegal multibyte sequence

這是因為遇到了非法字元

比如網頁中有這種字元

Python響應物件text屬性亂碼解決方案

全形空格往往有多種不同的實現方式,比如\xa3\xa0,或者\xa4\x57,這些 字元,看起來都是全形空格,但它們並不是“合法”的全形空格(真正的全形空格是\xa1\xa1),因此在轉碼的過程中出現了異常。

只要字串中出現了一個非法字元,整篇文章就都無法轉碼。

對於這種字元,根本不需要,不重要!

解決方法:在解碼時候指定errors引數,

decode()的函式原型是decode([encoding],[errors='strict']),可以用第二個引數控制錯誤處理的策略,預設的引數是strict,代表遇到非法字元時丟擲異常;

  • 如果設定為ignore,則會忽略非法字元;
  • 如果設定為replace,則會用?取代非法字元;
  • 如果設定為xmlcharrefreplace,則使用XML的字元引用

#requests庫預設會使用自己猜測的解碼方式將抓取下來的網頁進行解碼,然後儲存到text屬性上去;
#但在該網站中,編碼方式和預設的解碼方式不一樣,就會產生亂碼,所以要手動進行解碼,先獲得content再decode()解碼
#右鍵檢視網頁原始碼,發現是gb2312編碼,gb2312就是gbk的子集,所以用decode("gbk")

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支援我們。