1. 程式人生 > 其它 >python 模組 chardet下載及介紹

python 模組 chardet下載及介紹

在處理字串時,常常會遇到不知道字串是何種編碼,如果不知道字串的編碼就不能將字串轉換成需要的編碼。面對多種不同編碼的輸入方式,是否會有一種有效的編碼方式?chardet是一個非常優秀的編碼識別模組。 chardet 是python的第三方庫,需要下載和安裝。下載的地址有: 1.推薦地址:http://download.csdn.net/download/aqwd2008/4256178 2.官方地址:http://pypi.python.org/pypi/chardet 如果採用原始碼安裝方法,有可能會提示缺少setuptools這個模組。因此這裡我們採用另外一種更為方便的安裝方法,不論你選擇哪種安裝包,將它解壓得到其中的資料夾【chardet】將這個資料夾複製到【python安裝根目錄\Lib\site-packages】下,確保這個位置可以被python引用到。如果不能被引用到請加入環境變數。 在安裝完chardet模組,我就可以使用它了,來看一段示例程式碼。 [python]view plain
copy
1 import chardet  
2 import urllib  
3   
4 #可根據需要,選擇不同的資料  
5 TestData = urllib.urlopen('http://www.baidu.com/').read()  
6 print chardet.detect(TestData)  
7   
8 執行結果:  
9 {'confidence': 0.99, 'encoding': 'GB2312'}  
執行結果表示有99%的概率認為這段程式碼是GB2312編碼方式。 另外一個相對高階的應用。 [python]view plaincopy
 1 import urllib  
 2 from chardet.universaldetector import UniversalDetector  
 3 usock = urllib.urlopen('http://www.baidu.com/')  
 4 #建立一個檢測物件  
 5 detector = UniversalDetector()  
 6 for line in usock.readlines():  
 7     #分塊進行測試,直到達到閾值  
 8     detector.feed(line)  
 9     if detector.done: break  
10 #關閉檢測物件  
11 detector.close()  
12 usock.close()  
13 #輸出檢測結果  
14 print detector.result  
15   
16 執行結果:  
17 {'confidence': 0.99, 'encoding': 'GB2312'}  

應用背景,如果要對一個大檔案進行編碼識別,使用這種高階的方法,可以只讀一部,去判別編碼方式從而提高檢測速

來源:http://blog.csdn.net/tianzhu123/article/details/8187470/