1. 程式人生 > 其它 >爬蟲基礎_正則表示式_補

爬蟲基礎_正則表示式_補

正則表示式

正則表示式是對字串操作的一種邏輯公式,就是用事先定義好的一些特定字元、及這些特定字元的組合,組成一個 “規則字串”,這個 “規則字串” 用來表達對字串的一種過濾邏輯。

 

1. 正則表示式的語法規則

 

 

 

 

2.正則表示式相關注解

(1)數量詞的貪婪模式與非貪婪模式

正則表示式通常用於在文字中查詢匹配的字串。Python 裡數量詞預設是貪婪的(在少數語言裡也可能是預設非貪婪),總是嘗試匹配儘可能多的字元;非貪婪的則相反,總是嘗試匹配儘可能少的字元。例如:正則表示式”ab“如果用於查詢” abbbc”,將找到”abbb”。而如果使用非貪婪的數量詞”ab?”,將找到”a”。 注:我們一般使用非貪婪模式來提取。

(2)反斜槓問題

與大多數程式語言相同,正則表示式裡使用”\“作為轉義字元,這就可能造成反斜槓困擾。假如你需要匹配文字中的字元”\“,那麼使用程式語言表示的正則表示式裡將需要 4 個反斜槓”\\\\“:前兩個和後兩個分別用於在程式語言裡轉義成反斜槓,轉換成兩個反斜槓後再在正則表示式裡轉義成一個反斜槓。 Python 裡的原生字串很好地解決了這個問題,這個例子中的正則表示式可以使用 r”\\“表示。同樣,匹配一個數字的”\\d” 可以寫成 r”\d”。有了原生字串,媽媽也不用擔心是不是漏寫了反斜槓,寫出來的表示式也更直觀勒。

 

 

3.Python Re 模組

#返回pattern物件

re.compile

(string[,flag]) 

#以下為匹配所用函式

re.match(pattern, string[, flags])

re.search(pattern, string[, flags])

re.split(pattern, string[, maxsplit])

re.findall(pattern, string[, flags])

re.finditer(pattern, string[, flags])

re.sub(pattern, repl, string[, count])

re.subn(pattern, repl, string[, count])

我們先來介紹一下 pattern 的概念,pattern 可以理解為一個匹配模式,那麼我們怎麼獲得這個匹配模式呢?很簡單,我們需要利用 re.compile 方法就可以。例如

pattern = re.compile(r'hello')

在引數中我們傳入了原生字串物件,通過 compile 方法編譯生成一個 pattern 物件,然後我們利用這個物件來進行進一步的匹配。 另外大家可能注意到了另一個引數 flags,

在這裡解釋一下這個引數的含義: 引數 flag 是匹配模式,取值可以使用按位或運算子’|’表示同時生效,比如 re.I | re.M。 可選值有:

re.I(全拼:IGNORECASE): 忽略大小寫(括號內是完整寫法,下同)

re.M(全拼:MULTILINE): 多行模式,改變'^''$'的行為(參見上圖)

re.S(全拼:DOTALL): 點任意匹配模式,改變'.'的行為

re.L(全拼:LOCALE): 使預定字元類 \w \W \b \B \s \S 取決於當前區域設定

re.U(全拼:UNICODE): 使預定字元類 \w \W \b \B \s \S \d \D 取決於unicode定義的字元屬性

re.X(全拼:VERBOSE): 詳細模式。這個模式下正則表示式可以是多行,忽略空白字元,並可以加入註釋。

 

(1)re.match(pattern, string[, flags])

這個方法將會從 string(我們要匹配的字串)的開頭開始,嘗試匹配 pattern,一直向後匹配,如果遇到無法匹配的字元,立即返回 None,如果匹配未結束已經到達 string 的末尾,也會返回 None。兩個結果均表示匹配失敗,否則匹配 pattern 成功,同時匹配終止,不再對 string 向後匹配。下面我們通過一個例子理解一下

__author__ = 'YC'

# -*- coding: utf-8 -*-

#匯入re模組

import re

 

# 將正則表示式編譯成Pattern物件,注意hello前面的r的意思是“原生字串”

pattern = re.compile(r'hello')

 

# 使用re.match匹配文字,獲得匹配結果,無法匹配時將返回None

result1 = re.match(pattern,'hello')

result2 = re.match(pattern,'helloo YC!')

result3 = re.match(pattern,'helo YC!')

result4 = re.match(pattern,'hello YC!')

 

#如果1匹配成功

if result1:

    # 使用Match獲得分組資訊

    print result1.group()

else:

    print '1匹配失敗!'

#如果2匹配成功

if result2:

    # 使用Match獲得分組資訊

    print result2.group()

else:

print '2匹配失敗!'

 

#如果3匹配成功

if result3:

    # 使用Match獲得分組資訊

    print result3.group()

else:

    print '3匹配失敗!'

 

#如果4匹配成功

if result4:

    # 使用Match獲得分組資訊

    print result4.group()

else:

print '4匹配失敗!'

 

 

 

 

 

(2) re.search(pattern, string[, flags])

search 方法與 match 方法極其類似,區別在於 match () 函式只檢測 re 是不是在 string 的開始位置匹配,search () 會掃描整個 string 查詢匹配,match()只有在 0 位置匹配成功的話才有返回,如果不是開始位置匹配成功的話,match () 就返回 None。同樣,search 方法的返回物件同樣 match () 返回物件的方法和屬性。我們用一個例子感受一下

 

#匯入re模組

import re

# 將正則表示式編譯成Pattern物件

pattern = re.compile(r'world')

# 使用search()查詢匹配的子串,不存在能匹配的子串時將返回None

# 這個例子中使用match()無法成功匹配

match = re.search(pattern,'hello world!')

if match:

    # 使用Match獲得分組資訊

    print match.group()

### 輸出 ###

# world

(3)re.split(pattern, string[, maxsplit])

按照能夠匹配的子串將 string 分割後返回列表。maxsplit 用於指定最大分割次數,不指定將全部分割。我們通過下面的例子感受一下。

 

import re

pattern = re.compile(r'\d+')

print re.split(pattern,'one1two2three3four4')

 

### 輸出 ###

# ['one', 'two', 'three', 'four', '']

 

(4)re.findall(pattern, string[, flags])

搜尋 string,以列表形式返回全部能匹配的子串。我們通過這個例子來感受一下

import re

 

pattern = re.compile(r'\d+')

print re.findall(pattern,'one1two2three3four4')

 

### 輸出 ###

# ['1', '2', '3', '4']

(5)re.finditer(pattern, string[, flags])

搜尋 string,返回一個順序訪問每一個匹配結果(Match 物件)的迭代器。我們通過下面的例子來感受一下

import re

pattern = re.compile(r'\d+')

for m in re.finditer(pattern,'one1two2three3four4'):

    print m.group(),

### 輸出 ###

# 1 2 3 4

 

(6)re.sub(pattern, repl, string[, count])

使用 repl 替換 string 中每一個匹配的子串後返回替換後的字串。 當 repl 是一個字串時,可以使用 \id 或 \g、\g 引用分組,但不能使用編號 0。 當 repl 是一個方法時,這個方法應當只接受一個引數(Match 物件),並返回一個字串用於替換(返回的字串中不能再引用分組)。 count 用於指定最多替換次數,不指定時全部替換。

import re

pattern = re.compile(r'(\w+) (\w+)')

s = 'i say, hello world!'

print re.sub(pattern,r'\2 \1', s)

def func(m):

    return m.group(1).title() + ' ' + m.group(2).title()

print re.sub(pattern,func, s)

### output ###

# say i, world hello!

# I Say, Hello World!

 

(7)re.subn(pattern, repl, string[, count])

返回 (sub (repl, string [, count]), 替換次數)。

import re

pattern = re.compile(r'(\w+) (\w+)')

s = 'i say, hello world!'

print re.subn(pattern,r'\2 \1', s)

def func(m):

    return m.group(1).title() + ' ' + m.group(2).title()

print re.subn(pattern,func, s)

### output ###

# ('say i, world hello!', 2)

# ('I Say, Hello World!', 2)