[轉載]Python3編碼問題詳解
阿新 • • 發佈:2017-11-02
alt ror 清晰 handle 種類型 對應關系 and 技術 字節數
原文:Python3的編碼問題
Python3 最重要的一項改進之一就是解決了 Python2 中字符串與字符編碼遺留下來的這個大坑。Python 編碼為什麽那麽蛋疼?已經介紹過 Python2 字符串設計上的一些缺陷:
- 使用 ASCII 碼作為默認編碼方式,對中文處理很不友好。
- 把字符串的牽強地分為 unicode 和 str 兩種類型,誤導開發者
在Python3中,從sys中可以看出使用的默認編碼
>>> import sys
>>> sys.getdefaultencoding()
‘utf-8‘
>>>
然後,文本字符和二進制數據區分得更清晰,分別用 str 和 bytes 表示。文本字符全部用 str 類型表示,str 能表示 Unicode 字符集中所有字符,而二進制字節數據用一種全新的數據類型,用 bytes 來表示。
str
>>> a = "a"
>>> a
‘a‘
>>> type(a)
<class ‘str‘>
>>> b = "禪"
>>> b
‘禪‘
>>> type(b)
<class ‘str‘>
bytes
Python3 中,在字符引號前加‘b’,明確表示這是一個 bytes 類型的對象,實際上它就是一組二進制字節序列組成的數據,bytes 類型可以是 ASCII範圍內的字符和其它十六進制形式的字符數據,但不能用中文等非ASCII字符表示。
>>> c = b‘ a‘
>>> c
b‘a‘
>>> type(c)
<class ‘bytes‘>
>>> d = b‘\xe7\xa6\x85‘
>>> d
b‘\xe7\xa6\x85‘
>>> type(d)
<class ‘bytes‘>
>>>
>>> e = b‘禪‘
File "<stdin>", line 1
SyntaxError: bytes can only contain ASCII literal characters.
bytes 類型提供的操作和 str 一樣,支持分片、索引、基本數值運算等操作。但是 str 與 bytes 類型的數據不能執行 +
操作,盡管在py2中是可行的。
>>> b"a"+b"c"
b‘ac‘
>>> b"a"*2
b‘aa‘
>>> b"abcdef\xd6"[1:]
b‘bcdef\xd6‘
>>> b"abcdef\xd6"[-1]
214
>>> b"a" + "b"
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
TypeError: can‘t concat bytes to str
python2 與 python3 字節與字符的對應關系
python2 | python3 | 表現 | 轉換 | 作用 |
---|---|---|---|---|
str | bytes | 字節 | encode | 存儲 |
unicode | str | 字符 | decode | 顯示 |
encode 與 decode
str 與 bytes 之間的轉換可以用 encode 和從decode 方法。
encode 負責字符到字節的編碼轉換。默認使用 UTF-8 編碼準換。
>>> s = "Python之禪"
>>> s.encode()
b‘Python\xe4\xb9\x8b\xe7\xa6\x85‘
>>> s.encode("gbk")
b‘Python\xd6\xae\xec\xf8‘
decode 負責字節到字符的解碼轉換,通用使用 UTF-8 編碼格式進行轉換。
>>> b‘Python\xe4\xb9\x8b\xe7\xa6\x85‘.decode()
‘Python之禪‘
>>> b‘Python\xd6\xae\xec\xf8‘.decode("gbk")
‘Python之禪‘>>> b‘Python\xe4\xb9\x8b\xe7\xa6\x85‘.decode()
‘Python之禪‘
>>> b‘Python\xd6\xae\xec\xf8‘.decode("gbk")
‘Python之禪‘
[轉載]Python3編碼問題詳解