1. 程式人生 > >[Python]Regular Expression Syntax(CHN)

[Python]Regular Expression Syntax(CHN)

簡介

Python 自1.5版本起增加了re 模組,它提供 Perl 風格的正則表示式模式。Python 1.5之前版本則是通過 regex 模組提供 Emecs 風格的模式。Emacs 風格模式可讀性稍差些,而且功能也不強,因此編寫新程式碼時儘量不要再使用 regex 模組,當然偶爾你還是可能在老程式碼裡發現其蹤影。

就其本質而言,正則表示式(或 RE)是一種小型的、高度專業化的程式語言,(在Python中)它內嵌在Python中,並通過 re 模組實現。使用這個小型語言,你可以為想要匹配的相應字串集指定規則;該字串集可能包含英文語句、e-mail地址、TeX命令或任何你想搞定的東西。然後你可以問諸如“這個字串匹配該模式嗎?”或“在這個字串中是否有部分匹配該模式呢?”。你也可以使用 RE 以各種方式來修改或分割字串。

正則表示式模式被編譯成一系列的位元組碼,然後由用 C 編寫的匹配引擎執行。在高階用法中,也許還要仔細留意引擎是如何執行給定 RE ,如何以特定方式編寫 RE 以令生產的位元組碼執行速度更快。本文並不涉及優化,因為那要求你已充分掌握了匹配引擎的內部機制。

正則表示式語言相對小型和受限(功能有限),因此並非所有字串處理都能用正則表示式完成。當然也有些任務可以用正則表示式完成,不過最終表示式會變得異常複雜。碰到這些情形時,編寫 Python 程式碼進行處理可能反而更好;儘管 Python 程式碼比一個精巧的正則表示式要慢些,但它更易理解。

簡單模式

我們將從最簡單的正則表示式學習開始。由於正則表示式常用於字串操作,那我們就從最常見的任務:字元匹配 下手。

有關正則表示式底層的電腦科學上的詳細解釋(確定性和非確定性有限自動機),你可以查閱編寫編譯器相關的任何教科書。

1. 字元匹配

大多數字母和字元一般都會和自身匹配。例如,正則表示式 test 會和字串“test”完全匹配。(你也可以使用大小寫不敏感模式,它還能讓這個 RE 匹配“Test”或“TEST”;稍後會有更多解釋。)

這個規則當然會有例外;有些字元比較特殊,它們和自身並不匹配,而是會表明應和一些特殊的東西匹配,或者它們會影響到 RE 其它部分的重複次數。本文很大篇幅專門討論了各種元字元及其作用。

這裡有一個元字元的完整列表;其含義會在本指南餘下部分進行討論。

. ^ $ * + ? { [ ] | ( )

我們首先考察的元字元是 "[" 和 "]"。它們常用來指定一個字元類別,所謂字元類別就是你想匹配的一個字符集。字元可以單個列出,也可以用“-”號分隔的兩個給定字元來表示一個字元區間。例如, [abc] 將匹配"a", "b", 或 "c"中的任意一個字元;也可以用區間[a-c]來表示同一字符集,和前者效果一致。如果你只想匹配小寫字母,那麼 RE 應寫成 [a-z]。

元字元在類別裡並不起作用。例如,[akm$]將匹配字元"a", "k", "m", 或 "$" 中的任意一個;"$"通常用作元字元,但在字元類別裡,其特性被除去,恢復成普通字元。

你可以用補集來匹配不在區間範圍內的字元。其做法是把"^"作為類別的首個字元;其它地方的"^"只會簡單匹配 "^" 字元本身。例如,[^5] 將匹配除 "5" 之外的任意字元。

也許最重要的元字元是反斜槓""。 做為 Python 中的字串字母,反斜槓後面可以加不同的字元以表示不同特殊意義。它也可以用於取消所有的元字元,這樣你就可以在模式中匹配它們了。舉個例子,如果你需要匹配字元 "[" 或 "",你可以在它們之前用反斜槓來取消它們的特殊意義: [ 或 /。

一些用 "" 開始的特殊字元所表示的預定義字符集通常是很有用的,象數字集,字母集,或其它非空字符集。下列是可用的預設特殊字元:

d

* 匹配任何十進位制數;它相當於類 [0-9]。

D

* 匹配任何非數字字元;它相當於類 [^0-9]。

s

* 匹配任何空白字元;它相當於類 [ tnrfv]。

S

* 匹配任何非空白字元;它相當於類 [^ tnrfv]。

w

* 匹配任何字母數字字元;它相當於類 [a-zA-Z0-9_]。

W

* 匹配任何非字母數字字元;它相當於類 [^a-zA-Z0-9_]。

這樣特殊字元都可以包含在一個字元類中。如,[s,.]字元類將匹配任何空白字元或","或"."。

本節最後一個元字元是 . 。它匹配除了換行字元外的任何字元,在 alternate 模式(re.DOTALL)下它甚至可以匹配換行。"." 通常被用於你想匹配“任何字元”的地方。

2. 重複

正則表示式第一件能做的事是能夠匹配不定長的字符集,而這是其它能作用在字串上的方法所不能做到的。 不過,如果那是正則表示式唯一的附加功能的話,那麼它們也就不那麼優秀了。它們的另一個功能就是你可以指定正則表示式的一部分的重複次數。

我們討論的第一個重複功能的元字元是 *。* 並不匹配字母字元 "*";相反,它指定前一個字元可以被匹配零次或更多次,而不是隻有一次。

舉個例子,ca*t 將匹配 "ct" (0 個 "a" 字元), "cat" (1 個 "a"), "caaat" (3 個 "a" 字元)等等。RE 引擎有各種來自 C 的整數型別大小的內部限制,以防止它匹配超過2億個 "a" 字元;你也許沒有足夠的記憶體去建造那麼大的字串,所以將不會累計到那個限制。

象 * 這樣地重複是“貪婪的”;當重複一個 RE 時,匹配引擎會試著重複儘可能多的次數。如果模式的後面部分沒有被匹配,匹配引擎將退回並再次嘗試更小的重複。

一步步的示例可以使它更加清晰。讓我們考慮表示式 a[bcd]*b。它匹配字母 "a",零個或更多個來自類 [bcd]中的字母,最後以 "b" 結尾。現在想一想該 RE 對字串 "abcbd" 的匹配。

Step      Matched        Explanation-------------------------------------1        a               匹配模式2        abcbd           引擎匹配 [bcd]*,並盡其所能匹配到字串的結尾3        Failure         引擎嘗試匹配 b,但當前位置已經是字元的最後了,所以失敗4        abcb            退回,[bcd]*嘗試少匹配一個字元。5        Failure         再次嘗次b,但在當前最後一位字元是"d"。6        abc             再次退回,[bcd]*只匹配 "bc"。7        abcb            再次嘗試 b ,這次當前位上的字元正好是 "b"

RE 的結尾部分現在可以到達了,它匹配 "abcb"。這證明了匹配引擎一開始會盡其所能進行匹配,如果沒有匹配然後就逐步退回並反覆嘗試 RE 剩下來的部分。直到它退回嘗試匹配 [bcd] 到零次為止,如果隨後還是失敗,那麼引擎就會認為該字串根本無法匹配 RE 。

另一個重複元字元是 +,表示匹配一或更多次。請注意 * 和 + 之間的不同;* 匹配零或更多次,所以根本就可以不出現,而 + 則要求至少出現一次。用同一個例子,ca+t 就可以匹配 "cat" (1 個 "a"), "caaat" (3 個 "a"), 但不能匹配 "ct"。

還有更多的限定符。問號 ? 匹配一次或零次;你可以認為它用於標識某事物是可選的。例如:home-?brew 匹配 "homebrew" 或 "home-brew"。

最複雜的重複限定符是 {m,n},其中 m 和 n 是十進位制整數。該限定符的意思是至少有 m 個重複,至多到 n 個重複。舉個例子,a/{1,3}b 將匹配 "a/b","a//b" 和 "a///b"。它不能匹配 "ab" 因為沒有斜槓,也不能匹配 "a////b" ,因為有四個。

你可以忽略 m 或 n;因為會為缺失的值假設一個合理的值。忽略 m 會認為下邊界是 0,而忽略 n 的結果將是上邊界為無窮大 -- 實際上是先前我們提到的 2 兆,但這也許同無窮大一樣。

細心的讀者也許注意到其他三個限定符都可以用這樣方式來表示。 {0,} 等同於 *,{1,} 等同於 +,而{0,1}則與 ? 相同。如果可以的話,最好使用 *,+,或?。很簡單因為它們更短也再容易懂。

使用正則表示式

現在我們已經看了一些簡單的正則表示式,那麼我們實際在 Python 中是如何使用它們的呢? re 模組提供了一個正則表示式引擎的介面,可以讓你將 REs 編譯成物件並用它們來進行匹配。

1. 編譯正則表示式

正則表示式被編譯成 RegexObject 例項,可以為不同的操作提供方法,如模式匹配搜尋或字串替換。
切換行號顯示

1 <<< import re
2 <<< p = re.compile('ab*')
3 <<< print p
4 <re.RegexObject instance at 80b4150<

re.compile() 也接受可選的標誌引數,常用來實現不同的特殊功能和語法變更。我們稍後將檢視所有可用的設定,但現在只舉一個例子:
切換行號顯示

1 <<< p = re.compile('ab*', re.IGNORECASE)

RE 被做為一個字串傳送給 re.compile()。REs 被處理成字串是因為正則表示式不是 Python 語言的核心部分,也沒有為它建立特定的語法。(應用程式根本就不需要 REs,因此沒必要包含它們去使語言說明變得臃腫不堪。)而 re 模組則只是以一個 C 擴充套件模組的形式來被 Python 包含,就象 socket 或 zlib 模組一樣。

將 REs 作為字串以保證 Python 語言的簡潔,但這樣帶來的一個麻煩就是象下節標題所講的。

2. 反斜槓的麻煩

在早期規定中,正則表示式用反斜槓字元 ("") 來表示特殊格式或允許使用特殊字元而不呼叫它的特殊用法。這就與 Python 在字串中的那些起相同作用的相同字元產生了衝突。

讓我們舉例說明,你想寫一個 RE 以匹配字串 "section",可能是在一個 LATEX 檔案查詢。為了要在程式程式碼中判斷,首先要寫出想要匹配的字串。接下來你需要在所有反斜槓和元字元前加反斜槓來取消其特殊意義。

字元                  階段--------------------------------------------section       要匹配的字串/section      為 re.compile 取消反斜槓的特殊意義"//section"  為字串取消反斜槓

簡單地說,為了匹配一個反斜槓,不得不在 RE 字串中寫 '//',因為正則表示式中必須是 "/",而每個反斜槓按 Python 字串字母表示的常規必須表示成 "/"。在 REs 中反斜槓的這個重複特性會導致大量重複的反斜槓,而且所生成的字串也很難懂。

解決的辦法就是為正則表示式使用 Python 的 raw 字串表示;在字串前加個 "r" 反斜槓就不會被任何特殊方式處理,所以 r"n" 就是包含"" 和 "n" 的兩個字元,而 "n" 則是一個字元,表示一個換行。正則表示式通常在 Python 程式碼中都是用這種 raw 字串表示。

常規字串            Raw 字串-------------------------------------------"ab*"                r"ab*""//section"        r"/section""/w+/s+/1"        r"w+s+1"

3. 執行匹配

一旦你有了已經編譯了的正則表示式的物件,你要用它做什麼呢?RegexObject 例項有一些方法和屬性。這裡只顯示了最重要的幾個,如果要看完整的列表請查閱 Library Refference。

方法/屬性         作用------------------------------------------match()   決定 RE 是否在字串剛開始的位置匹配search()  掃描字串,找到這個 RE 匹配的位置findall() 找到 RE 匹配的所有子串,並把它們作為一個列表返回finditer() 找到 RE 匹配的所有子串,並把它們作為一個迭代器返回

如果沒有匹配到的話,match() 和 search() 將返回 None。如果成功的話,就會返回一個 MatchObject 例項,其中有這次匹配的資訊:它是從哪裡開始和結束,它所匹配的子串等等。

你可以用採用人機對話並用 re 模組實驗的方式來學習它。如果你有 Tkinter 的話,你也許可以考慮參考一下 Tools/scripts/redemo.py,一個包含在 Python 發行版裡的示範程式。

首先,執行 Python 直譯器,匯入 re 模組並編譯一個 RE:
切換行號顯示

1 Python 2.2.2 (#1, Feb 10 2003, 12:57:01)
2 <<< import re
3 <<< p = re.compile('[a-z]+')
4 <<< p
5 <_sre.SRE_Pattern object at 80c3c28<
ERROR: EOF in multi-line statement

現在,你可以試著用 RE 的 [a-z]+ 去匹配不同的字串。一個空字串將根本不能匹配,因為 + 的意思是 “一個或更多的重複次數”。在這種情況下 match() 將返回 None,因為它使直譯器沒有輸出。你可以明確地打印出 match() 的結果來弄清這一點。
切換行號顯示

1 <<< p.match("")
2 <<< print p.match("")
3 None

現在,讓我們試著用它來匹配一個字串,如 "tempo"。這時,match() 將返回一個 MatchObject。因此你可以將結果儲存在變數裡以便後面使用。
切換行號顯示

1 <<< m = p.match( 'tempo')
2 <<< print m
3 <_sre.SRE_Match object at 80c4f68<

現在你可以查詢 MatchObject 關於匹配字串的相關資訊了。MatchObject 例項也有幾個方法和屬性;最重要的那些如下所示:

方法/屬性            作用--------------------------------------group()    返回被 RE 匹配的字串start()    返回匹配開始的位置end()      返回匹配結束的位置span()     返回一個元組包含匹配 (開始,結束) 的位置

試試這些方法不久就會清楚它們的作用了:
切換行號顯示

1 <<< m.group()
2 'tempo'
3 <<< m.start(), m.end()
4 (0, 5)
5 <<< m.span()
6 (0, 5)

group() 返回 RE 匹配的子串。start() 和 end() 返回匹配開始和結束時的索引。span() 則用單個元組把開始和結束時的索引一起返回。因為匹配方法檢查到如果 RE 在字串開始處開始匹配,那麼 start() 將總是為零。然而, RegexObject 例項的 search 方法掃描下面的字串的話,在這種情況下,匹配開始的位置就也許不是零了。
切換行號顯示

1 <<< print p.match('::: message')
2 None
3 <<< m = p.search('::: message') ; print m
4 <re.MatchObject instance at 80c9650<
5 <<< m.group()
6 'message'
7 <<< m.span()
8 (4, 11)

在實際程式中,最常見的作法是將 MatchObject 儲存在一個變數裡,然後檢查它是否為 None,通常如下所示:
切換行號顯示

1 p = re.compile( ... )
2 m = p.match( 'string goes here' )
3 if m:
4 print 'Match found: ', m.group()
5 else:
6 print 'No match'

兩個 RegexObject 方法返回所有匹配模式的子串。findall()返回一個匹配字串列表:
切換行號顯示

1 <<< p = re.compile('d+')
2 <<< p.findall('12 drummers drumming, 11 pipers piping, 10 lords a-leaping')
3 ['12', '11', '10']

findall() 在它返回結果時不得不建立一個列表。在 Python 2.2中,也可以用 finditer() 方法。
切換行號顯示

1 <<< iterator = p.finditer('12 drummers drumming, 11 ... 10 ...')
2 <<< iterator
3 <callable-iterator object at 0x401833ac<
4 <<< for match in iterator:
5 ... print match.span()
6 ...
7 (0, 2)
8 (22, 24)
9 (29, 31)

4. 模組級函式

你不一定要產生一個 RegexObject 物件然後再呼叫它的方法;re 模組也提供了頂級函式呼叫如 match()、search()、sub() 等等。這些函式使用 RE 字串作為第一個引數,而後面的引數則與相應 RegexObject 的方法引數相同,返回則要麼是 None 要麼就是一個 MatchObject 的例項。
切換行號顯示

1 <<< print re.match(r'Froms+', 'Fromage amk')
2 None
3 <<< re.match(r'Froms+', 'From amk Thu May 14 19:12:10 1998')
4 <re.MatchObject instance at 80c5978<

Under the hood, 這些函式簡單地產生一個 RegexOject 並在其上呼叫相應的方法。它們也在快取裡儲存編譯後的物件,因此在將來呼叫用到相同 RE 時就會更快。

你將使用這些模組級函式,還是先得到一個 RegexObject 再呼叫它的方法呢?如何選擇依賴於怎樣用 RE 更有效率以及你個人編碼風格。如果一個 RE 在程式碼中只做用一次的話,那麼模組級函式也許更方便。如果程式包含很多的正則表示式,或在多處複用同一個的話,那麼將全部定義放在一起,在一段程式碼中提前編譯所有的 REs 更有用。從標準庫中看一個例子,這是從 xmllib.py 檔案中提取出來的:
切換行號顯示

1 ref = re.compile( ... )
2 entityref = re.compile( ... )
3 charref = re.compile( ... )
4 starttagopen = re.compile( ... )

我通常更喜歡使用編譯物件,甚至它只用一次,but few people will be as much of a purist about this as I am。

5. 編譯標誌

編譯標誌讓你可以修改正則表示式的一些執行方式。在 re 模組中標誌可以使用兩個名字,一個是全名如 IGNORECASE,一個是縮寫,一字母形式如 I。(如果你熟悉 Perl 的模式修改,一字母形式使用同樣的字母;例如 re.VERBOSE的縮寫形式是 re.X。)多個標誌可以通過按位 OR-ing 它們來指定。如 re.I | re.M 被設定成 I 和 M 標誌:

這有個可用標誌表,對每個標誌後面都有詳細的說明。

標誌               含義-----------------------------------------DOTALL, S        使 . 匹配包括換行在內的所有字元IGNORECASE, I    使匹配對大小寫不敏感LOCALE, L        做本地化識別(locale-aware)匹配MULTILINE, M     多行匹配,影響 ^ 和 , X       能夠使用 REs 的 verbose 狀態,使之被組織得更清晰易懂

I
IGNORECASE

* 使匹配對大小寫不敏感;字元類和字串匹配字母時忽略大小寫。舉個例子,[A-Z]也可以匹配小寫字母,Spam 可以匹配 "Spam", "spam", 或 "spAM"。這個小寫字母並不考慮當前位置。

L
LOCALE

* 影響 w, W, b, 和 B,這取決於當前的本地化設定。 locales 是 C 語言庫中的一項功能,是用來為需要考慮不同語言的程式設計提供幫助的。舉個例子,如果你正在處理法文文字,你想用 w+ 來匹配文字,但 w 只匹配字元類 [A-Za-z];它並不能匹配 "é" 或 "ç"。如果你的系統配置適當且本地化設定為法語,那麼內部的 C 函式將告訴程式 "é" 也應該被認為是一個字母。當在編譯正則表示式時使用 LOCALE 標誌會得到用這些 C 函式來處理 w 後的編譯物件;這會更慢,但也會象你希望的那樣可以用 w+ 來匹配法文文字。

M
MULTILINE

* (此時 ^ 和 $ 不會被解釋; 它們將在 4.1 節被介紹.)

使用 只匹配字串的開始,而 $ 則只匹配字串的結尾和直接在換行前(如果有的話)的字串結尾。當本標誌指定後, 匹配字串的開始和字串中每行的開始。同樣的, $ 元字元匹配字串結尾和字串中每行的結尾(直接在每個換行之前)。

S
DOTALL

* 使 "." 特殊字元完全匹配任何字元,包括換行;沒有這個標誌, "." 匹配除了換行外的任何字元。

X
VERBOSE

* 該標誌通過給予你更靈活的格式以便你將正則表示式寫得更易於理解。當該標誌被指定時,在 RE 字串中的空白符被忽略,除非該空白符在字元類中或在反斜槓之後;這可以讓你更清晰地組織和縮排 RE。它也可以允許你將註釋寫入 RE,這些註釋會被引擎忽略;註釋用 "#"號 來標識,不過該符號不能在字串或反斜槓之後。 舉個例子,這裡有一個使用 re.VERBOSE 的 RE;看看讀它輕鬆了多少?
切換行號顯示

1 charref = re.compile(r"""
2 &[#] # Start of a numeric entity reference
3 (
4 [0-9]+[^0-9] # Decimal form
5 | 0[0-7]+[^0-7] # Octal form
6 | x[0-9a-fA-F]+[^0-9a-fA-F] # Hexadecimal form
7 )
8 """, re.VERBOSE)

沒有 verbose 設定, RE 會看起來象這樣:
切換行號顯示

1 charref = re.compile("&#([0-9]+[^0-9]"
2 "|0[0-7]+[^0-7]"
3 "|x[0-9a-fA-F]+[^0-9a-fA-F])")

在上面的例子裡,Python 的字串自動連線可以用來將 RE 分成更小的部分,但它比用 re.VERBOSE 標誌時更難懂。

更多模式功能

到目前為止,我們只展示了正則表示式的一部分功能。在本節,我們將展示一些新的元字元和如何使用組來檢索被匹配的文字部分。

1. 更多的元字元

還有一些我們還沒展示的元字元,其中的大部分將在本節展示。

剩下來要討論的一部分元字元是零寬界定符(zero-width assertions)。它們並不會使引擎在處理字串時更快;相反,它們根本就沒有對應任何字元,只是簡單的成功或失敗。舉個例子, b 是一個在單詞邊界定位當前位置的界定符(assertions),這個位置根本就不會被 b 改變。這意味著零寬界定符(zero-width assertions)將永遠不會被重複,因為如果它們在給定位置匹配一次,那麼它們很明顯可以被匹配無數次。

|

* 可選項,或者 "or" 操作符。如果 A 和 B 是正則表示式,A|B 將匹配任何匹配了 "A" 或 "B" 的字串。| 的優先順序非常低,是為了當你有多字串要選擇時能適當地執行。Crow|Servo 將匹配"Crow" 或 "Servo", 而不是 "Cro", 一個 "w" 或 一個 "S", 和 "ervo"。 為了匹配字母 "|",可以用 |,或將其包含在字元類中,如[|]。

^

* 匹配行首。除非設定 MULTILINE 標誌,它只是匹配字串的開始。在 MULTILINE 模式裡,它也可以直接匹配字串中的每個換行。 例如,如果你只希望匹配在行首單詞 "From",那麼 RE 將用 ^From。
切換行號顯示

1 <<< print re.search('^From', 'From Here to Eternity')
2 <re.MatchObject instance at 80c1520<
3 <<< print re.search('^From', 'Reciting From Memory')
4 None

$

* 匹配行尾,行尾被定義為要麼是字串尾,要麼是一個換行字元後面的任何位置。
切換行號顯示

1 <<< print re.search('}$', '{block}')
2 <re.MatchObject instance at 80adfa8<
3 <<< print re.search('}$', '{block} ')
4 None
5 <<< print re.search('}$', '{block}n')
6 <re.MatchObject instance at 80adfa8<

匹配一個 "$",使用 $ 或將其包含在字元類中,如[$]。

A

*

只匹配字串首。當不在 MULTILINE 模式,A 和 實際上是一樣的。然而,在 MULTILINE 模式裡它們是不同的;A 只是匹配字串首,而 還可以匹配在換行符之後字串的任何位置。

Z

*

Matches only at the end of the string.
只匹配字串尾。

b

* 單詞邊界。這是個零寬界定符(zero-width assertions)只用以匹配單詞的詞首和詞尾。單詞被定義為一個字母數字序列,因此詞尾就是用空白符或非字母數字符來標示的。 下面的例子只匹配 "class" 整個單詞;而當它被包含在其他單詞中時不匹配。
切換行號顯示

1 <<< p = re.compile(r'bclassb')
2 <<< print p.search('no class at all')
3 <re.MatchObject instance at 80c8f28<
4 <<< print p.search('the declassified algorithm')
5 None
6 <<< print p.search('one subclass is')
7 None

當用這個特殊序列時你應該記住這裡有兩個微妙之處。第一個是 Python 字串和正則表示式之間最糟的衝突。在 Python 字串裡,"b" 是反斜槓字元,ASCII值是8。如果你沒有使用 raw 字串時,那麼 Python 將會把 "b" 轉換成一個回退符,你的 RE 將無法象你希望的那樣匹配它了。下面的例子看起來和我們前面的 RE 一樣,但在 RE 字串前少了一個 "r" 。
切換行號顯示

1 <<< p = re.compile('bclassb')
2 <<< print p.search('no class at all')
3 None
4 <<< print p.search('b' + 'class' + 'b')
5 <re.MatchObject instance at 80c3ee0<

第二個在字元類中,這個限定符(assertion)不起作用,b 表示回退符,以便與 Python 字串相容。

B

* 另一個零寬界定符(zero-width assertions),它正好同 b 相反,只在當前位置不在單詞邊界時匹配。

2. 分組

你經常需要得到比 RE 是否匹配還要多的資訊。正則表示式常常用來分析字串,編寫一個 RE 匹配感興趣的部分並將其分成幾個小組。舉個例子,一個 RFC-822 的頭部用 ":" 隔成一個頭部名和一個值,這就可以通過編寫一個正則表示式匹配整個頭部,用一組匹配頭部名,另一組匹配頭部值的方式來處理。

組是通過 "(" 和 ")" 元字元來標識的。 "(" 和 ")" 有很多在數學表示式中相同的意思;它們一起把在它們裡面的表示式組成一組。舉個例子,你可以用重複限制符,象 *, +, ?, 和 {m,n},來重複組裡的內容,比如說(ab)* 將匹配零或更多個重複的 "ab"。
切換行號顯示

1 <<< p = re.compile('(ab)*')
2 <<< print p.match('ababababab').span()
3 (0, 10)

組用 "(" 和 ")" 來指定,並且得到它們匹配文字的開始和結尾索引;這就可以通過一個引數用 group()、start()、end() 和 span() 來進行檢索。組是從 0 開始計數的。組 0 總是存在;它就是整個 RE,所以 MatchObject 的方法都把組 0 作為它們預設的引數。稍後我們將看到怎樣表達不能得到它們所匹配文字的 span。
切換行號顯示

1 <<< p = re.compile('(a)b')
2 <<< m = p.match('ab')
3 <<< m.group()
4 'ab'
5 <<< m.group(0)
6 'ab'

小組是從左向右計數的,從1開始。組可以被巢狀。計數的數值可以能過從左到右計算開啟的括號數來確定。
切換行號顯示

1 <<< p = re.compile('(a(b)c)d')
2 <<< m = p.match('abcd')
3 <<< m.group(0)
4 'abcd'
5 <<< m.group(1)
6 'abc'
7 <<< m.group(2)
8 'b'

group() 可以一次輸入多個組號,在這種情況下它將返回一個包含那些組所對應值的元組。
切換行號顯示

1 <<< m.group(2,1,2)
2 ('b', 'abc', 'b')

The groups() 方法返回一個包含所有小組字串的元組,從 1 到 所含的小組號。
切換行號顯示

1 <<< m.groups()
2 ('abc', 'b')

模式中的逆向引用允許你指定先前捕獲組的內容,該組也必須在字串當前位置被找到。舉個例子,如果組 1 的內容能夠在當前位置找到的話,1 就成功否則失敗。記住 Python 字串也是用反斜槓加資料來允許字串中包含任意字元的,所以當在 RE 中使用逆向引用時確保使用 raw 字串。

例如,下面的 RE 在一個字串中找到成雙的詞。
切換行號顯示

1 <<< p = re.compile(r'(bw+)s+1')
2 <<< p.search('Paris in the the spring').group()
3 'the the'

象這樣只是搜尋一個字串的逆向引用並不常見 -- 用這種方式重複資料的文字格式並不多見 -- 但你不久就可以發現它們用在字串替換上非常有用。

3. 無捕獲組和命名組

精心設計的 REs 也許會用很多組,既可以捕獲感興趣的子串,又可以分組和結構化 RE 本身。在複雜的 REs 裡,追蹤組號變得困難。有兩個功能可以對這個問題有所幫助。它們也都使用正則表示式擴充套件的通用語法,因此我們來看看第一個。

Perl 5 對標準正則表示式增加了幾個附加功能,Python 的 re 模組也支援其中的大部分。選擇一個新的單按鍵元字元或一個以 "" 開始的特殊序列來表示新的功能,而又不會使 Perl 正則表示式與標準正則表示式產生混亂是有難度的。如果你選擇 "&" 做為新的元字元,舉個例子,老的表示式認為 "&" 是一個正常的字元,而不會在使用 & 或 [&] 時也不會轉義。

Perl 開發人員的解決方法是使用 (?...) 來做為擴充套件語法。"?" 在括號後面會直接導致一個語法錯誤,因為 "?" 沒有任何字元可以重複,因此它不會產生任何相容問題。緊隨 "?" 之後的字元指出擴充套件的用途,因此 (?=foo)

Python 新增了一個擴充套件語法到 Perl 擴充套件語法中。如果在問號後的第一個字元是 "P",你就可以知道它是針對 Python 的擴充套件。目前有兩個這樣的擴充套件: (?P<name<...) 定義一個命名組,(?P=name) 則是對命名組的逆向引用。如果 Perl 5 的未來版本使用不同的語法增加了相同的功能,那麼 re 模組也將改變以支援新的語法,這是為了相容性的目的而保持的 Python 專用語法。

現在我們看一下普通的擴充套件語法,我們回過頭來簡化在複雜 REs 中使用組執行的特性。因為組是從左到右編號的,而且一個複雜的表示式也許會使用許多組,它可以使跟蹤當前組號變得困難,而修改如此複雜的 RE 是十分麻煩的。在開始時插入一個新組,你可以改變它之後的每個組號。

首先,有時你想用一個組去收集正則表示式的一部分,但又對組的內容不感興趣。你可以用一個無捕獲組: (?:...) 來實現這項功能,這樣你可以在括號中傳送任何其他正則表示式。
切換行號顯示

1 <<< m = re.match("([abc])+", "abc")
2 <<< m.groups()
3 ('c',)
4 <<< m = re.match("(?:[abc])+", "abc")
5 <<< m.groups()
6 ()

除了捕獲匹配組的內容之外,無捕獲組與捕獲組表現完全一樣;你可以在其中放置任何字元,可以用重複元字元如 "*" 來重複它,可以在其他組(無捕獲組與捕獲組)中巢狀它。(?:...) 對於修改已有組尤其有用,因為你可以不用改變所有其他組號的情況下新增一個新組。捕獲組和無捕獲組在搜尋效率方面也沒什麼不同,沒有哪一個比另一個更快。

其次,更重要和強大的是命名組;與用數字指定組不同的是,它可以用名字來指定。

命令組的語法是 Python 專用擴充套件之一: (?P<name<...)。名字很明顯是組的名字。除了該組有個名字之外,命名組也同捕獲組是相同的。MatchObject 的方法處理捕獲組時接受的要麼是表示組號的整數,要麼是包含組名的字串。命名組也可以是數字,所以你可以通過兩種方式來得到一個組的資訊:
切換行號顯示

1 <<< p = re.compile(r'(?P<word<bw+b)')
2 <<< m = p.search( '(((( Lots of punctuation )))' )
3 <<< m.group('word')
4 'Lots'
5 <<< m.group(1)
6 'Lots'

命名組是便於使用的,因為它可以讓你使用容易記住的名字來代替不得不記住的數字。這裡有一個來自 imaplib 模組的 RE 示例:
切換行號顯示

1 InternalDate = re.compile(r'INTERNALDATE "'
2 r'(?P<day<[ 123][0-9])-(?P<mon<[A-Z][a-z][a-z])-'
3 r'(?P<year<[0-9][0-9][0-9][0-9])'
4 r' (?P<hour<[0-9][0-9]):(?P<min<[0-9][0-9]):(?P<sec<[0-9][0-9])'
5 r' (?P<zonen<[-+])(?P<zoneh<[0-9][0-9])(?P<zonem<[0-9][0-9])'
6 r'"')

很明顯,得到 m.group('zonem') 要比記住得到組 9 要容易得多。

因為逆向引用的語法,象 (...)1 這樣的表示式所表示的是組號,這時用組名代替組號自然會有差別。還有一個 Python 擴充套件:(?P=name) ,它可以使叫 name 的組內容再次在當前位置發現。正則表示式為了找到重複的單詞,(bw+)s+1 也可以被寫成 (?P<word<bw+)s+(?P=word):
切換行號顯示

1 <<< p = re.compile(r'(?P<word<bw+)s+(?P=word)')
2 <<< p.search('Paris in the the spring').group()
3 'the the'

4. 前向界定符

另一個零寬界定符(zero-width assertion)是前向界定符。前向界定符包括前向肯定界定符和後向肯定界定符,所下所示:

(?=...)

* 前向肯定界定符。如果所含正則表示式,以 ... 表示,在當前位置成功匹配時成功,否則失敗。但一旦所含表示式已經嘗試,匹配引擎根本沒有提高;模式的剩餘部分還要嘗試界定符的右邊。

(?!...)

* 前向否定界定符。與肯定界定符相反;當所含表示式不能在字串當前位置匹配時成功

通過示範在哪前向可以成功有助於具體實現。考慮一個簡單的模式用於匹配一個檔名,並將其通過 "." 分成基本名和副檔名兩部分。如在 "news.rc" 中,"news" 是基本名,"rc" 是檔案的副檔名。

匹配模式非常簡單:

.*[.].*$

注意 "." 需要特殊對待,因為它是一個元字元;我把它放在一個字元類中。另外注意後面的 $; 新增這個是為了確保字串所有的剩餘部分必須被包含在副檔名中。這個正則表示式匹配 "foo.bar"、"autoexec.bat"、 "sendmail.cf" 和 "printers.conf"。

現在,考慮把問題變得複雜點;如果你想匹配的副檔名不是 "bat" 的檔名?一些不正確的嘗試:

.*[.][^b].*$

上面的第一次去除 "bat" 的嘗試是要求副檔名的第一個字元不是 "b"。這是錯誤的,因為該模式也不能匹配 "foo.bar"。

.*[.]([^b]..|.[^a].|..[^t])$

當你試著修補第一個解決方法而要求匹配下列情況之一時表示式更亂了:副檔名的第一個字元不是 "b"; 第二個字元不是 "a";或第三個字元不是 "t"。這樣可以接受 "foo.bar" 而拒絕 "autoexec.bat",但這要求只能是三個字元的副檔名而不接受兩個字元的副檔名如 "sendmail.cf"。我們將在努力修補它時再次把該模式變得複雜。

.*[.]([^b].?.?|.[^a]?.?|..?[^t]?)$

在第三次嘗試中,第二和第三個字母都變成可選,為的是允許匹配比三個字元更短的副檔名,如 "sendmail.cf"。

該模式現在變得非常複雜,這使它很難讀懂。更糟的是,如果問題變化了,你想副檔名不是 "bat" 和 "exe",該模式甚至會變得更復雜和混亂。

前向否定把所有這些裁剪成:

.*[.](?!bat$).*$

前向的意思:如果表示式 bat 在這裡沒有匹配,嘗試模式的其餘部分;如果 bat$ 匹配,整個模式將失敗。後面的 $ 被要求是為了確保象 "sample.batch" 這樣副檔名以 "bat" 開頭的會被允許。

將另一個副檔名排除在外現在也容易;簡單地將其做為可選項放在界定符中。下面的這個模式將以 "bat" 或 "exe" 結尾的檔名排除在外。

.*[.](?!bat$|exe$).*$

修改字串

到目前為止,我們簡單地搜尋了一個靜態字串。正則表示式通常也用不同的方式,通過下面的 RegexObject 方法,來修改字串。

方法/屬性        作用------------------------------------split()       將字串在 RE 匹配的地方分片並生成一個列表,sub()         找到 RE 匹配的所有子串,並將其用一個不同的字串替換subn()        與 sub() 相同,但返回新的字串和替換次數

1. 將字串分片

RegexObject 的 split() 方法在 RE 匹配的地方將字串分片,將返回列表。它同字串的 split() 方法相似但提供更多的定界符;split()只支援空白符和固定字串。就象你預料的那樣,也有一個模組級的 re.split() 函式。

split(string [, maxsplit = 0])

* 通過正則表示式將字串分片。如果捕獲括號在 RE 中使用,那麼它們的內容也會作為結果列表的一部分返回。如果 maxsplit 非零,那麼最多隻能分出 maxsplit 個分片。

你可以通過設定 maxsplit 值來限制分片數。當 maxsplit 非零時,最多隻能有 maxsplit 個分片,字串的其餘部分被做為列表的最後部分返回。在下面的例子中,定界符可以是非數字字母字元的任意序列。
切換行號顯示

1 <<< p = re.compile(r'W+')
2 <<< p.split('This is a test, short and sweet, of split().')
3 ['This', 'is', 'a', 'test', 'short', 'and', 'sweet', 'of', 'split', '']
4 <<< p.split('This is a test, short and sweet, of split().', 3)
5 ['This', 'is', 'a', 'test, short and sweet, of split().']

有時,你不僅對定界符之間的文字感興趣,也需要知道定界符是什麼。如果捕獲括號在 RE 中使用,那麼它們的值也會當作列表的一部分返回。比較下面的呼叫:
切換行號顯示

1 <<< p = re.compile(r'W+')
2 <<< p2 = re.compile(r'(W+)')
3 <<< p.split('This... is a test.')
4 ['This', 'is', 'a', 'test', '']
5 <<< p2.split('This... is a test.')
6 ['This', '... ', 'is', ' ', 'a', ' ', 'test', '.', '']

模組級函式 re.split() 將 RE 作為第一個引數,其他一樣。
切換行號顯示

1 <<< re.split('[W]+', 'Words, words, words.')
2 ['Words', 'words', 'words', '']
3 <<< re.split('([W]+)', 'Words, words, words.')
4 ['Words', ', ', 'words', ', ', 'words', '.', '']
5 <<< re.split('[W]+', 'Words, words, words.', 1)
6 ['Words', 'words, words.']

2. 搜尋和替換

其他常見的用途就是找到所有模式匹配的字串並用不同的字串來替換它們。sub() 方法提供一個替換值,可以是字串或一個函式,和一個要被處理的字串。

sub(replacement, string[, count = 0])

* 返回的字串是在字串中用 RE 最左邊不重複的匹配來替換。如果模式沒有發現,字元將被沒有改變地返回。 可選引數 count 是模式匹配後替換的最大次數;count 必須是非負整數。預設值是 0 表示替換所有的匹配。

這裡有個使用 sub() 方法的簡單例子。它用單詞 "colour" 替換顏色名。
切換行號顯示

1 <<< p = re.compile( '(blue|white|red)')
2 <<< p.sub( 'colour', 'blue socks and red shoes')
3 'colour socks and colour shoes'
4 <<< p.sub( 'colour', 'blue socks and red shoes', count=1)
5 'colour socks and red shoes'

subn() 方法作用一樣,但返回的是包含新字串和替換執行次數的兩元組。
切換行號顯示

1 <<< p = re.compile( '(blue|white|red)')
2 <<< p.subn( 'colour', 'blue socks and red shoes')
3 ('colour socks and colour shoes', 2)
4 <<< p.subn( 'colour', 'no colours at all')
5 ('no colours at all', 0)

空匹配只有在它們沒有緊挨著前一個匹配時才會被替換掉。
切換行號顯示

1 <<< p = re.compile('x*')
2 <<< p.sub('-', 'abxd')
3 '-a-b-d-'

如果替換的是一個字串,任何在其中的反斜槓都會被處理。"n" 將會被轉換成一個換行符,"r"轉換成回車等等。未知的轉義如 "j" 是 left alone。逆向引用,如 "6",被 RE 中相應的組匹配而被子串替換。這使你可以在替換後的字串中插入原始文字的一部分。

這個例子匹配被 "{" 和 "}" 括起來的單詞 "section",並將 "section" 替換成 "subsection"。
切換行號顯示

1 <<< p = re.compile('section{ ( [^}]* ) }', re.VERBOSE)
2 <<< p.sub(r'subsection{1}','section{First} section{second}')
3 'subsection{First} subsection{second}'

還可以指定用 (?P<name<...) 語法定義的命名組。"g<name<" 將通過組名 "name" 用子串來匹配,並且 "g<number<" 使用相應的組號。所以 "g<2<" 等於 "2",但能在替換字串裡含義不清,如 "g<2<0"。("20" 被解釋成對組 20 的引用,而不是對後面跟著一個字母 "0" 的組 2 的引用。)
切換行號顯示

1 <<< p = re.compile('section{ (?P<name< [^}]* ) }', re.VERBOSE)
2 <<< p.sub(r'subsection{1}','section{First}')
3 'subsection{First}'
4 <<< p.sub(r'subsection{g<1<}','section{First}')
5 'subsection{First}'
6 <<< p.sub(r'subsection{g<name<}','section{First}')
7 'subsection{First}'

替換也可以是一個甚至給你更多控制的函式。如果替換是個函式,該函式將會被模式中每一個不重複的匹配所呼叫。在每個呼叫時,函式被作為 MatchObject 的匹配函屬,並可以使用這個資訊去計算預期的字串並返回它。

在下面的例子裡,替換函式將十進位制翻譯成十六進位制:
切換行號顯示

1 <<< def hexrepl( match ):
2 ... "Return the hex string for a decimal number"
3 ... value = int( match.group() )
4 ... return hex(value)
5 ...
6 <<< p = re.compile(r'd+')
7 <<< p.sub(hexrepl, 'Call 65490 for printing, 49152 for user code.')
8 'Call 0xffd2 for printing, 0xc000 for user code.'

當使用模組級的 re.sub() 函式時,模式作為第一個引數。模式也許是一個字串或一個 RegexObject;如果你需要指定正則表示式標誌,你必須要麼使用 RegexObject 做第一個引數,或用使用模式內嵌修正器,如 sub("(?i)b+", "x", "bbbb BBBB") returns 'x x'。

常見問題

正則表示式對一些應用程式來說是一個強大的工具,但在有些時候它並不直觀而且有時它們不按你期望的執行。本節將指出一些最容易犯的常見錯誤。

1. 使用字串方式

有時使用 re 模組是個錯誤。如果你匹配一個固定的字串或單個的字元類,並且你沒有使用 re 的任何象 IGNORECASE 標誌的功能,那麼就沒有必要使用正則表示式了。字串有一些方法是對固定字串進行操作的,它們通常快很多,因為都是一個個經過優化的C 小迴圈,用以代替大的、更具通用性的正則表示式引擎。

舉個用一個固定字串替換另一個的例子;如,你可以把 "deed" 替換成 "word"。re.sub() seems like the function to use for this, but consider the replace() method. 注意 replace() 也可以在單詞裡面進行替換,可以把 "swordfish" 變成 "sdeedfish",不過 RE 也是可以做到的。(為了避免替換單詞的一部分,模式將寫成 bwordb,這是為了要求 "word" 兩邊有一個單詞邊界。這是個超出替換能力的工作)。

另一個常見任務是從一個字串中刪除單個字元或用另一個字元來替代它。你也許可以用象 re.sub('n',' ',S) 這樣來實現,但 translate() 能夠實現這兩個任務,而且比任何正則表示式操作起來更快。

總之,在使用 re 模組之前,先考慮一下你的問題是否可以用更快、更簡單的字串方法來解決。

2. match() vs search()

match() 函式只檢查 RE 是否在字串開始處匹配,而 search() 則是掃描整個字串。記住這一區別是重要的。記住,match() 只報告一次成功的匹配,它將從 0 處開始;如果匹配不是從 0 開始的,match() 將不會報告它。
切換行號顯示

1 <<< print re.match('super', 'superstition').span()
2 (0, 5)
3 <<< print re.match('super', 'insuperable')
4 None

另一方面,search() 將掃描整個字串,並報告它找到的第一個匹配。
切換行號顯示

1 <<< print re.search('super', 'superstition').span()
2 (0, 5)
3 <<< print re.search('super', 'insuperable').span()
4 (2, 7)

有時你可能傾向於使用 re.match(),只在RE的前面部分新增 .* 。請儘量不要這麼做,最好採用 re.search() 代替之。正則表示式編譯器會對 REs 做一些分析以便可以在查詢匹配時提高處理速度。一個那樣的分析機會指出匹配的第一個字元是什麼;舉個例子,模式 Crow 必須從 "C" 開始匹配。分析機可以讓引擎快速掃描字串以找到開始字元,並只在 "C" 被發現後才開始全部匹配。

新增 .* 會使這個優化失敗,這就要掃描到字串尾部,然後回溯以找到 RE 剩餘部分的匹配。使用 re.search() 代替。

3. 貪婪 vs 不貪婪

當重複一個正則表示式時,如用 a*,操作結果是儘可能多地匹配模式。當你試著匹配一對對稱的定界符,如 HTML 標誌中的尖括號時這個事實經常困擾你。匹配單個 HTML 標誌的模式不能正常工作,因為 .* 的本質是“貪婪”的
切換行號顯示

1 <<< s = '<html<<head<<title<Title</title<'
2 <<< len(s)
3 32
4 <<< print re.match('<.*<', s).span()
5 (0, 32)
6 <<< print re.match('<.*<', s).group()
7 <html<<head<<title<Title</title<

RE 匹配 在 "<html<" 中的 "<",.* 消耗掉子符串的剩餘部分。在 RE 中保持更多的左,雖然 < 不能匹配在字串結尾,因此正則表示式必須一個字元一個字元地回溯,直到它找到 < 的匹配。最終的匹配從 "<html" 中的 "<" 到 "</title<" 中的 "<",這並不是你所想要的結果。

在這種情況下,解決方案是使用不貪婪的限定符 *?、+?、?? 或 {m,n}?,儘可能匹配小的文字。在上面的例子裡, "<" 在第一個 "<" 之後被立即嘗試,當它失敗時,引擎一次增加一個字元,並在每步重試 "<"。這個處理將得到正確的結果:
切換行號顯示

1 <<< print re.match('<.*?<', s).group()
2 <html<

(注意用正則表示式分析 HTML 或 XML 是痛苦的。變化混亂的模式將處理常見情況,但 HTML 和 XML 則是明顯會打破正則表示式的特殊情況;當你編寫一個正則表示式去處理所有可能的情況時,模式將變得非常複雜。象這樣的任務用 HTML 或 XML 解析器。

4. 不用 re.VERBOSE

現在你可能注意到正則表示式的表示是十分緊湊,但它們非常不好讀。中度複雜的 REs 可以變成反斜槓、圓括號和元字元的長長集合,以致於使它們很難讀懂。

在這些 REs 中,當編譯正則表示式時指定 re.VERBOSE 標誌是有幫助的,因為它允許你可以編輯正則表示式的格式使之更清楚。

re.VERBOSE 標誌有這麼幾個作用。在正則表示式中不在字元類中的空白符被忽略。這就意味著象 dog | cat 這樣的表示式和可讀性差的 dog|cat 相同,但 [a b] 將匹配字元 "a"、"b" 或 空格。另外,你也可以把註釋放到 RE 中;註釋是從 "#" 到下一行。當使用三引號字串時,可以使 REs 格式更加乾淨:
切換行號顯示

1 pat = re.compile(r"""
2 s* # Skip leading whitespace
3 (?P<header<[^:]+) # Header name
4 s* : # Whitespace, and a colon
5 (?P<value<.*?) # The header's value -- *? used to
6 # lose the following trailing whitespace
7 s*$ # Trailing whitespace to end-of-line
8 """, re.VERBOSE)

這個要難讀得多:
切換行號顯示

1 pat = re.compile(r"s*(?P<header<[^:]+)s*:(?P<value<.*?)s*$")