1. 程式人生 > >python爬蟲第五篇--正則表示式

python爬蟲第五篇--正則表示式

Re模組正則表示式

概念

  • 正則表示式是對字串串操作的⼀一種邏輯公式,就是⽤用事先定義好的⼀一些特定
    字元、及這些特定字元的組合,組成⼀一個“規則字串串”,這個“規則字串串”⽤用
    來表達對字串串的⼀一種過濾邏輯
  • 非python獨有,re模組實現
    • re.match
    • re.search
    • re.findall
    • re.sub
    • re.compile
  • 正則表示式線上工具:http://tool.oschina.net/regex

Re常用匹配模式

模式 描述
\w 匹配字母數字及下劃線
\W 匹配非字母數字下劃線
\s 匹配任意空白字元,等價於 [\t\n\r\f]
\S 匹配任意非空字元
\d 匹配任意數字,等價於 [0-9]
\D 匹配任意非數字
\A 匹配字串開始
\Z 匹配字串結束,如果是存在換行,只匹配到換行前的結束字串
\z 匹配字串結束
\G 匹配最後匹配完成的位置
\n 匹配一個換行符
\t 匹配一個製表符
^ 匹配字串的開頭
$ 匹配字串的末尾
. 匹配任意字元,除了換行符,當re.DOTALL標記被指定時,則可以匹配包括換行符的任意字元
[…] 用來表示一組字元,單獨列出:[amk] 匹配 ‘a’,‘m’或’k’
[^…] 不在[]中的字元:[^abc] 匹配除了a,b,c之外的字元。
* 匹配0個或多個的表示式
+ 匹配1個或多個的表示式
? 匹配0個或1個由前面的正則表示式定義的片段,非貪婪方式
{n} 精確匹配n個前面表示式
{n, m} 匹配 n 到 m 次由前面的正則表示式定義的片段,貪婪方式
a|b 匹配a或b
( ) 匹配括號內的表示式,也表示一個組

Re模組例項

re.match:re.match(pattern, string, flags=0)

  • re.match 嘗試從字串的起始位置匹配一個模式,如果不是起始位置匹配成功的話,match()就返回none

常規匹配

import re
content = 'Hello 123 4567 World_This is a Regex Demo'
print(len(content))
result = re.match('^Hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$', content)
print(result)
print(result.group())#返回匹配結果
print(result.span())#返回匹配結果範圍

泛匹配

import re
content = 'Hello 123 4567 World_This is a Regex Demo'
result = re.match('^Hello.*Demo$', content)
print(result)
print(result.group())
print(result.span())

匹配目標

import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^Hello\s(\d+)\sWorld.*Demo$', content)
print(result)
print(result.group(1))#group(1)分離匹配結果,1表示匹配到的第一個括號內的資料,這裡是1234567
print(result.span())

貪婪匹配

import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*(\d+).*Demo$', content)#.*會盡可能多的匹配字元
print(result)
print(result.group(1))

非貪婪匹配

import re
content = 'Hello 1234567 World_This is a Regex Demo'
result = re.match('^He.*?(\d+).*Demo$', content)#.*?會盡可能少的匹配字元
print(result)
print(result.group(1))

匹配模式

import re
content = '''Hello 1234567 World_This
is a Regex Demo
'''
result = re.match('^He.*?(\d+).*?Demo$', content, re.S)#re.S匹配任意字元模式
print(result.group(1))

轉義

import re
content = 'price is $5.00'
result = re.match('price is $5.00', content)
print(result)

import re
content = 'price is $5.00'
result = re.match('price is \$5\.00', content)
print(result)

儘量使用泛匹配、使用括號得到匹配目標、儘量使用非貪婪模式、有換行符就用re.S

  • re.search

re.search 掃描整個字串並返回第一個成功的匹配

import re
content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.match('Hello.*?(\d+).*?Demo', content)
print(result)
import re
content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
result = re.search('Hello.*?(\d+).*?Demo', content)
print(result)
print(result.group(1))

為匹配方便,能用search就不用match

import re

html = '''<div id="songs-list">
    <h2 class="title">經典老歌</h2>
    <p class="introduction">
        經典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任賢齊">滄海一聲笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齊秦">往事隨風</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光輝歲月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陳慧琳">記事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="鄧麗君"><i class="fa fa-user"></i>但願人長久</a>
        </li>
    </ul>
</div>'''
result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))
    
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
if result:
    print(result.group(1), result.group(2))
    
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
if result:
    print(result.group(1), result.group(2))
  • re.findall

    搜尋字串,以列表形式返回全部能匹配的子串

import re

html = '''<div id="songs-list">
    <h2 class="title">經典老歌</h2>
    <p class="introduction">
        經典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任賢齊">滄海一聲笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齊秦">往事隨風</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光輝歲月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陳慧琳">記事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="鄧麗君">但願人長久</a>
        </li>
    </ul>
</div>'''
results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))
for result in results:
    print(result)
    print(result[0], result[1], result[2])
    
results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>', html, re.S)
print(results)
for result in results:
    print(result[1])
  • re.sub

    替換字串中每一個匹配的子串後返回替換後的字串

    import re
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    content = re.sub('\d+', '', content)
    print(content)
    
    import re
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    content = re.sub('(\d+)', r'\1 8910', content)
    print(content)
    #Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings
    
    import re
    
    html = '''<div id="songs-list">
        <h2 class="title">經典老歌</h2>
        <p class="introduction">
            經典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任賢齊">滄海一聲笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齊秦">往事隨風</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光輝歲月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陳慧琳">記事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="鄧麗君">但願人長久</a>
            </li>
        </ul>
    </div>'''
    html = re.sub('<a.*?>|</a>', '', html)
    print(html)
    results = re.findall('<li.*?>(.*?)</li>', html, re.S)
    print(results)
    for result in results:
        print(result.strip())
    
  • re.compile

    將正則字串編譯成正則表示式物件,以便於複用該匹配模式

import re
content = '''Hello 1234567 World_This
is a Regex Demo'''
pattern = re.compile('Hello.*Demo', re.S)
result = re.match(pattern, content)
#result = re.match('Hello.*Demo', content, re.S)
print(result)

綜合例項

  • 爬取豆瓣讀書首頁書籍資訊
import requests
import re
content = requests.get('https://book.douban.com/').text
pattern = re.compile('<li.*?title=.*?href="(.*?)".*?title="(.*?)".*?more-meta.*?author">\n(.*?)\n.*?year">\n(.*?)\n.*?</li>', re.S)
results = re.findall(pattern, content)
for result in results:
    url, name, author, year = result
    author = re.sub('\s', '', author)
    year = re.sub('\s', '', year)
    print(url, name, author, year)