python—【爬蟲】學習_2(正則表示式篇）1.基礎知識
一、簡介
正則表示式本身是一種小型的、高度專業化的程式語言，而在python中，通過內嵌整合re模組，程式媛們可以直接呼叫來實現正則匹配。正則表示式模式被編譯成一系列的位元組碼，然後由用C編寫的匹配引擎執行。
r標識代表後面是正則的語句二、正則表示式中常用的字元含義
1、普通字元和11個元字元：
| 普通字元 | 匹配自身 |
abc |
abc |
| . |
匹配任意除換行符"\n"外的字元(在DOTALL模式中也能匹配換行符 | a.c |
abc |
| \ |
轉義字元，使後一個字元改變原來的意思 |
a\.c;a\\c |
a.c;a\c |
| * |
匹配前一個字元0或多次 |
abc* |
ab;abccc |
| + |
匹配前一個字元1次或無限次 |
abc+ |
abc;abccc |
| ? |
匹配一個字元0次或1次 |
abc? |
ab;abc |
| ^ |
匹配字串開頭。在多行模式中匹配每一行的開頭 | ^abc | abc |
| $ |
匹配字串末尾，在多行模式中匹配每一行的末尾 | abc$ | abc |
| | | 或。匹配|左右表示式任意一個，從左到右匹配，如果|沒有包括在()中，則它的範圍是整個正則表示式 | abc|def |
abc def |
| {} | {m}匹配前一個字元m次，{m,n}匹配前一個字元m至n次，若省略n，則匹配m至無限次 | ab{1,2}c |
abc abbc |
| [] |
字符集。對應的位置可以是字符集中任意字元。字符集中的字元可以逐個列出，也可以給出範圍，如[abc]或[a-c]。[^abc]表示取反，即非abc。 所有特殊字元在字符集中都失去其原有的特殊含義。用\反斜槓轉義恢復特殊字元的特殊含義。 | a[bcd]e |
abe ace ade
|
| () |
被括起來的表示式將作為分組，從表示式左邊開始沒遇到一個分組的左括號“（”，編號+1. 分組表示式作為一個整體，可以後接數量詞。表示式中的|僅在該組中有效。 |
(abc){2} a(123|456)c |
abcabc a456c |
2、預定義字符集（可以寫在字符集[...]中）
| \d |
數字:[0-9] | a\dc |
a1c |
| \D |
非數字:[^\d] | a\Dc |
abc |
| \s |
匹配任何空白字元:[<空格>\t\r\n\f\v] | a\sc |
a c |
| \S | 非空白字元:[^\s] | a\Sc |
abc |
| \w |
匹配包括下劃線在內的任何字字元:[A-Za-z0-9_] | a\wc |
abc |
| \W |
匹配非字母字元，即匹配特殊字元 | a\Wc |
a c |
| \A |
僅匹配字串開頭,同^ | \Aabc | abc |
| \Z |
僅匹配字串結尾，同$ | abc\Z |
abc |
| \b |
匹配\w和\W之間，即匹配單詞邊界匹配一個單詞邊界，也就是指單詞和空格間的位置。例如， 'er\b' 可以匹配"never" 中的 'er'，但不能匹配 "verb" 中的 'er'。 | \babc\b a\b!bc |
空格abc空格 a!bc |
| \B |
[^\b] | a\Bbc |
abc |
三、re模組中常用功能函式
1、compile()
編譯正則表示式模式，返回一個物件的模式。（可以把那些常用的正則表示式編譯成正則表示式物件，這樣可以提高一點效率。）
格式：
re.compile(pattern,flags=0)
pattern: 編譯時用的表示式字串。
flags 編譯標誌位，用於修改正則表示式的匹配方式，如：是否區分大小寫，多行匹配等。常用的flags有：
| 標誌 | 含義 |
| re.S(DOTALL) |
使.匹配包括換行在內的所有字元 |
| re.I（IGNORECASE） |
使匹配對大小寫不敏感 |
| re.L（LOCALE） |
做本地化識別（locale-aware)匹配，法語等 |
| re.M(MULTILINE) |
多行匹配，影響^和$ |
| re.X(VERBOSE) |
該標誌通過給予更靈活的格式以便將正則表示式寫得更易於理解 |
| re.U |
根據Unicode字符集解析字元，這個標誌影響\w,\W,\b,\B |
import re
tt = "Tina is a good girl, she is cool, clever, and so on..."
rr = re.compile(r'\w*oo\w*')
print(rr.findall(tt)) #查詢所有包含'oo'的單詞
執行結果如下：
['good', 'cool']2、match()
決定RE是否在字串剛開始的位置匹配。//注：這個方法並不是完全匹配。當pattern結束時若string還有剩餘字元，仍然視為成功。想要完全匹配，可以在表示式末尾加上邊界匹配符'$'
格式：
re.match(pattern, string, flags=0)
print(re.match('com','comwww.runcomoob').group())
print(re.match('com','Comwww.runcomoob',re.I).group())
執行結果如下：
com
com3、search()
格式：
re.search(pattern, string, flags=0)
re.search函式會在字串內查詢模式匹配,只要找到第一個匹配然後返回，如果字串沒有匹配，則返回None。
print(re.search('\dcom','www.4comrunoob.5com').group())
執行結果如下：
4com*注：match和search一旦匹配成功，就是一個match object物件，而match object物件有以下方法：
- group() 返回被 RE 匹配的字串
- start() 返回匹配開始的位置
- end() 返回匹配結束的位置
- span() 返回一個元組包含匹配 (開始,結束) 的位置
- group() 返回re整體匹配的字串，可以一次輸入多個組號，對應組號匹配的字串。
a. group（）返回re整體匹配的字串，
b. group (n,m) 返回組號為n，m所匹配的字串，如果組號不存在，則返回indexError異常
c.groups（）groups() 方法返回一個包含正則表示式中所有小組字串的元組，從 1 到所含的小組號，通常groups()不需要引數，返回一個元組，元組中的元就是正則表示式中定義的組。
import re
a = "123abc456"
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(0)) #123abc456,返回整體
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(1)) #123
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(2)) #abc
print(re.search("([0-9]*)([a-z]*)([0-9]*)",a).group(3)) #456
###group(1) 列出第一個括號匹配部分，group(2) 列出第二個括號匹配部分，group(3) 列出第三個括號匹配部分。###4、findall()
re.findall遍歷匹配，可以獲取字串中所有匹配的字串，返回一個列表。
格式：
re.findall(pattern, string, flags=0)
p = re.compile(r'\d+')
print(p.findall('o1n2m3k4'))
執行結果如下：
['1', '2', '3', '4']import re
tt = "Tina is a good girl, she is cool, clever, and so on..."
rr = re.compile(r'\w*oo\w*')
print(rr.findall(tt))
print(re.findall(r'(\w)*oo(\w)',tt))#()表示子表示式
執行結果如下：
['good', 'cool']
[('g', 'd'), ('c', 'l')]5、finditer()
搜尋string，返回一個順序訪問每一個匹配結果（Match物件）的迭代器。找到 RE 匹配的所有子串，並把它們作為一個迭代器返回。
格式：
re.finditer(pattern, string, flags=0)
iter = re.finditer(r'\d+','12 drumm44ers drumming, 11 ... 10 ...')
for i in iter:
print(i)
print(i.group())
print(i.span())
執行結果如下：
<_sre.SRE_Match object; span=(0, 2), match='12'>
12
(0, 2)
<_sre.SRE_Match object; span=(8, 10), match='44'>
44
(8, 10)
<_sre.SRE_Match object; span=(24, 26), match='11'>
11
(24, 26)
<_sre.SRE_Match object; span=(31, 33), match='10'>
10
(31, 33)6、split()
按照能夠匹配的子串將string分割後返回列表。
可以使用re.split來分割字串，如：re.split(r'\s+', text)；將字串按空格分割成一個單詞列表。
格式：
re.split(pattern, string[, maxsplit])
maxsplit用於指定最大分割次數，不指定將全部分割。
print(re.split('\d+','one1two2three3four4five5'))
執行結果如下：
['one', 'two', 'three', 'four', 'five', '']7、sub()
使用re替換string中每一個匹配的子串後返回替換後的字串。
格式：
re.sub(pattern, repl, string, count)
import re
text = "JGood is a handsome boy, he is cool, clever, and so on..."
print(re.sub(r'\s+', '-', text))
執行結果如下：
JGood-is-a-handsome-boy,-he-is-cool,-clever,-and-so-on...其中第二個函式是替換後的字串；本例中為'-'
第四個引數指替換個數。預設為0，表示每個匹配項都替換。
re.sub還允許使用函式對匹配項的替換進行復雜的處理。
如：re.sub(r'\s', lambda m: '[' + m.group(0) + ']', text, 0)；將字串中的空格' '替換為'[ ]'。
import re
text = "JGood is a handsome boy, he is cool, clever, and so on..."
print(re.sub(r'\s+', lambda m:'['+m.group(0)+']', text,0))
執行結果如下：
JGood[ ]is[ ]a[ ]handsome[ ]boy,[ ]he[ ]is[ ]cool,[ ]clever,[ ]and[ ]so[ ]on...8、subn()
返回替換次數
格式：
subn(pattern, repl, string, count=0, flags=0)
print(re.subn('[1-2]','A','123456abcdef'))
print(re.sub("g.t","have",'I get A, I got B ,I gut C'))
print(re.subn("g.t","have",'I get A, I got B ,I gut C'))
執行結果如下：
('AA3456abcdef', 2)
I have A, I have B ,I have C
('I have A, I have B ,I have C', 3)