python 模組 chardet下載及介紹
阿新 • • 發佈:2021-06-17
在處理字串時,常常會遇到不知道字串是何種編碼,如果不知道字串的編碼就不能將字串轉換成需要的編碼。面對多種不同編碼的輸入方式,是否會有一種有效的編碼方式?chardet是一個非常優秀的編碼識別模組。
chardet 是python的第三方庫,需要下載和安裝。下載的地址有:
1.推薦地址:http://download.csdn.net/download/aqwd2008/4256178
2.官方地址:http://pypi.python.org/pypi/chardet
如果採用原始碼安裝方法,有可能會提示缺少setuptools這個模組。因此這裡我們採用另外一種更為方便的安裝方法,不論你選擇哪種安裝包,將它解壓得到其中的資料夾【chardet】將這個資料夾複製到【python安裝根目錄\Lib\site-packages】下,確保這個位置可以被python引用到。如果不能被引用到請加入環境變數。
在安裝完chardet模組,我就可以使用它了,來看一段示例程式碼。
[python]view plain copy
1 import chardet 2 import urllib 3 4 #可根據需要,選擇不同的資料 5 TestData = urllib.urlopen('http://www.baidu.com/').read() 6 print chardet.detect(TestData) 7 8 執行結果: 9 {'confidence': 0.99, 'encoding': 'GB2312'}執行結果表示有99%的概率認為這段程式碼是GB2312編碼方式。 另外一個相對高階的應用。 [python]view plaincopy
1 import urllib 2 from chardet.universaldetector import UniversalDetector 3 usock = urllib.urlopen('http://www.baidu.com/') 4 #建立一個檢測物件 5 detector = UniversalDetector() 6 for line in usock.readlines(): 7 #分塊進行測試,直到達到閾值 8 detector.feed(line) 9 if detector.done: break 10 #關閉檢測物件 11 detector.close() 12 usock.close() 13 #輸出檢測結果 14 print detector.result 15 16 執行結果: 17 {'confidence': 0.99, 'encoding': 'GB2312'}
應用背景,如果要對一個大檔案進行編碼識別,使用這種高階的方法,可以只讀一部,去判別編碼方式從而提高檢測速