Python爬蟲學習必備知識點:正則表示式模組詳解
阿新 • • 發佈:2018-11-07
一、基礎語法總結
1.1、匹配單個字元
a . d D w W s S [...] [^...]
匹配單個字元(.)
規則:匹配除換行之外的任意字元 In [24]: re.findall("f.o","foo is not fao") Out[24]: ['foo', 'fao']
匹配任意(非)數字字元(d D)
d [0-9] D [^0-9]
匹配任意(非)普通字元(w W)
w 普通字元 包括[_0-9A-Za-z] 同時也包括漢字 W 非普通字元
匹配任意(非)空字元(s S)
s 匹配任意空字元 [ ] S 匹配任意非空字元
匹配字元集合([...])
[A-Z][a-z][0-9][_123a-z]
匹配字符集([^...])
規則:字符集取非,除列出的字元之外的任意一個字元 [^abc] --> 除a b c之外任意字元
1.2、匹配多個字元
* 匹配0次或者多次 + 匹配1次或者多次 ? 匹配0次或者1次 {m} 匹配m次 {m,n} 匹配m次到n次區間內的任意一次
1.3、匹配位置
^ 匹配開始位置 $ 匹配結束位置 A 匹配開始位置 Z 匹配結束位置 匹配單詞邊界位置(一般用於首字母大寫的匹配) B 匹配非單詞邊界問題
1.4、轉義
在正則表示式中有一類特殊字元需要轉移,只需要在特殊字元之間加上 表示轉移即可
. * + ? ^ $ [] {} () |
1.5、子組
使用() 可以為正則表示式建立內部分組,子組為正則表示式的一部分,可以看做一個內部整體。
In [61]: re.search(r"(https|http|ftp)://w+.w+.(com|cn)","https://www.baidu.com").group(0) Out[61]: 'https://www.baidu.com' In [62]: re.search(r"(https|http|ftp)://w+.w+.(com|cn)","https://www.baidu.com").group(1) Out[62]: 'https'
1.6、貪婪模式和非貪婪模式
正則表示式的重複匹配總是儘可能多的向後匹配更多的內容。 貪婪模式包括:* + ? {m,n}
非貪婪模式:儘可能少的匹配內容 貪婪模式轉換為非貪婪模式:*? +? ?? {m,n}?
In [106]: re.findall(r"ab+?","abbbbbbbb") Out[106]: ['ab'] In [107]: re.findall(r"ab??","abbbbbbbb") Out[107]: ['a']
二、Re模組
接下來我所有函式裡面的引數解釋如下:
pattern:正則表示式 string:目標字串 pos:擷取目標字串起始位置 endpose:擷取目標字串結束位置 flags:功能標誌 replaceStr:替換的字串 max:最多替換幾處(預設替換全部)
有上圖我們看出來,接下來我們要將的Python中re模組、regex物件、match物件三者之間是存在一定關係的。
- 1、re模組的compile方法返回一個regex物件
- 2、re模組和regex物件的finditer()、fullmatch()、match()、search()等方法返回一個match物件
- 3、他們分別有自己的屬性和方法
2.1、compile
regex = re.compile(pattern, flags = 0) # 生成正則表示式物件
2.2、findall
re.findall(pattern,string,pos,endpose) # 從目標字串中匹配所有符合條件的內容
2.3、split
re.split(pattern,string,flags) #根據正則表示式對目標字串進行分割 In [79]: re.split(r's+',"Hello World") Out[79]: ['Hello', 'World']
2.4、sub
re.sub(pattern,replaceStr,string,max,flags) In [80]: re.sub(r's+',"##","hello world") Out[80]: 'hello##world'
2.5、subn
re.subn(pattern,replaceStr,string,max,flags) #功能同sub,但是返回值返回替換後的字串和替換了幾處 In [80]: re.sub(r's+',"##","hello world") Out[80]: ('hello##world',1)
2.6、finditer
re.finditer(pattern,string) #使用正則表示式匹配目標字串,返回一個match物件,match物件呼叫group()之後才能拿到值 In [87]: it = re.finditer(r'd+',"2014nianshiqiqngduo 08aoyun 512dizhen") In [88]: for i in it: ....: print(i) ....: <_sre.SRE_Match object at 0x7f0639767920> <_sre.SRE_Match object at 0x7f0639767ac0> <_sre.SRE_Match object at 0x7f0639767920> In [93]: it = re.finditer(r'd+',"2014nianshiqiqngduo 08aoyun 512dizhen") In [94]: for i in it: ....: print(i.group()) ....: 2014 08 512
2.7、fullmatch
fullmatch(pattern,string,flags) #完全匹配目標字串,相當於加了^ 和 $
2.8、match
re.match(pattern,string,flags) #匹配目標字串開頭的位置
2.9、search
re.search(pattern,string,flags) # 正則表示式匹配目標字串,只匹配第一處
三、一些練習題
3.1、匹配首字母大寫的單詞
import re f = open('test.txt') pattern= r'[A-Z][a-zA-Z]*s*' # pattern= r'[A-Z]S' L = [] for i in f: L += re.findall(pattern,i) print(L)
test.txt文件內容如下:
Hello World -12.6 Nihao 123 How are you -12 1.24 asdk 34%, 佔比 1/2 2003 - 2005./%
3.2、匹配數字(正數、負數、小數、百分數、分數)
import re pattern = "-?d+((/?d+)|((.)?d+)|((%)?))" f = open('test.txt') l = [] for line in f: l += re.finditer(pattern,line) for i in l: print(i.group())