1. 程式人生 > 實用技巧 >Python爬蟲必學知識點:正則表示式講解

Python爬蟲必學知識點:正則表示式講解

本文的文字及圖片來源於網路,僅供學習、交流使用,不具有任何商業用途,如有問題請及時聯絡我們以作處理。

以下文章一級AI入門學習 ,作者小伍哥

剛接觸Python的新手、小白,可以複製下面的連結去免費觀看Python的基礎入門教學視訊

https://v.douyu.com/author/y6AZ4jn9jwKW

前言

正則表示式(Regular Expression),就是具有一定規則的表示式。通過正則表示式引擎,將這些規則轉換為正則表示式物件,然後再去文字中搜索能夠與之匹配的字串。

正則表示式的語法都是一樣的,只是不同程式語言的實現不同,大部分都是師從Perl。

對Perl語言有所瞭解的朋友,學習python正則應該是手到擒來。

正則表示式入門

Python中的re模組提供了強大的正則表示式功能。

而第三方模組regex提供了與標準庫re模組相容的API介面, 同時還提供了額外的功能和更全面的Unicode支援。

匹配字元

大多數字母和字元只會匹配自身,例如:python只會匹配自己,不會匹配Python。

但是有一些字串,它們不表示自身,而是具有一些特殊含義,只能通過\轉義之後才表示自身。

這些字元包括:

. ^ $ * + ? { } [ ] \ | ( )

【.】

在預設模式中,匹配除換行外所有字元,如果指定了DOTALL標籤,則表示任意字元

import re

"""
re.findall(pattern, string, flags=0)
pattern: 匹配規則,字串
string: 需要去匹配的字串

從左到右進行掃描,匹配按找到的順序返回。如果樣式裡存在一個或多個組,就返回一個組合列表
""" re.findall('ab.', 'abc') # Out[1]: ['abc'] re.findall('ab.', 'ab\n') # Out[2]: [] re.findall('ab.', 'ab\n', re.DOTALL) # Out[3]: ['ab\n']

【^】

匹配字串的開頭, 如果是MULTILINE模式,匹配每行開頭(\n之後)的首個符號。

在字符集中可表示'非',[^a]表示除字元a之外的字元。

re.findall('^ab', 'abcda\nabddd')                                     
# Out[4]: ['ab']
re.findall('^ab', 'abcda\nabddd', re.MULTILINE) # Out[5]: ['ab', 'ab'] re.findall('[^a]', 'aaa\nbbb') # Out[6]: ['\n', 'b', 'b', 'b']

【$】

匹配字串的末尾,或者在字串末尾換行符的前一個字元。

在 MULTILINE 模式下匹配每行末尾(\n之前)的字元。

re.findall('ab$', 'abcdab\nabdab')                                   
# Out[7]: ['ab']

# 上面結果中的 ab 是 \n 前面的還是後面的呢?進行如下測試,發現是後面的 ab 被匹配了
re.findall('ab.$', 'abcdab1\nabdab2')
# Out[8]: ['ab2']

# 在 MULTILINE 模式下,兩個都被匹配了
re.findall('ab$', 'abcdab\nabdab', re.MULTILINE)
# Out[9]: ['ab', 'ab']

# 而對 $ 在換行結尾的字串中匹配時,會得到兩個空字元,一個在換行符之前,一個在字串的末尾
re.findall('$', 'abcdab1\n')
# Out[10]: ['', '']

【*】

匹配前一個規則0次或無限次

re.findall('ab*', 'a')
# Out[11]: ['a']

re.findall('ab*', 'ab')
# Out[12] ['ab']

re.findall('ab*', 'abbbbbbbbbbbbbb')
# Out[13] ['abbbbbbbbbbbbbb']

【+】

匹配前一個規則1次或無限次

re.findall('ab+', 'a')
# Out[14]: []

re.findall('ab+', 'ab')
# Out[15] ['ab']

re.findall('ab+', 'abbbbbbbbbbbbbb')
# Out[16] ['abbbbbbbbbbbbbb']

【?】

匹配前一個規則0次或1次

re.findall('ab?', 'a')
# Out[17]: ['a']

re.findall('ab?', 'ab')
# Out[18] ['ab']

re.findall('ab?', 'abbbbbbbbbbbbbb')
# Out[19] ['ab']

【.?,*?,??】

.,*,?修飾符都是貪婪的,會盡可能的匹配更多的字串

貪婪的我,當然是贊越多越好呀。

而在這些修飾符後面加上?,便成了非貪婪模式,會盡可能少的匹配字串

re.findall('<.*>', '<a>bcd>')
# Out[20] ['<a>bcd>']

re.findall('<.*?>', '<a>bcd>')
# Out[21] ['<a>']

{m}

指定前面的正則表示式出現的次數,出現次數必須完全一致。

re.findall('a{3}', 'aa') 
# Out[22]: []

re.findall('a{3}', 'aaaaa')
# Out[23]: ['aaa']

{m, n}

指定前面的正則表示式出現的次數在m~n之間,儘可能多的匹配,匹配的下界是m,上界是n。

若預設m,下界為0,若預設n,為不設上界,即無限次。

re.findall('a{3, 5}', 'aaaa') 
# Out[24]: []

# 3,5 之間不能新增空格
re.findall('a{3,5}', 'aaaa')
# Out[25]: ['aaaa']

re.findall('a{3,}', 'aaaa')
# Out[26]: ['aaaa']

re.findall('a{,5}', 'aaaa')
# Out[27] ['aaaa', '']

{m, n}?

  • 即非貪婪模式,儘可能少的匹配字串。
re.findall('a{3,}?', 'aaaaa')
# Out[28] ['aaa']

【\】

  • 轉義特殊字元。如'\.'只表示.,而不再是表示任意字元。
  • 匹配\字元需要轉義,用\\表示
re.findall('\.', 'aa')
# Out[29] []

re.findall('\.', 'aa.')
# Out[30] ['.']

反斜槓災難:反斜槓具有轉義作用,如果需要匹配的字串中存在多個\,就需要調加相應數量的\來轉義

re.findall('\\\\ab', '\\abc') # ['\\ab']
"""
在反覆使用反斜槓的正則中,這會導致大量重複的反斜槓,
並使得生成的字串難以理解。
解決方案:
  使用 Python 的原始字串表示法來表示正則表示式;
  'r' 為字首的字串,反斜槓不再表示轉義
"""
re.findall(r'\\ab', '\\abc')  # ['\\ab']

re.findall(r'\n', '\n')       # ['\n']

[]

表示字符集集合。匹配該字元需要轉義\[,\]

# 1、單獨列出,匹配 a、b 或 c
re.findall('[abc]', 'ab.')
# Out[31]: ['a', 'b']

"""
2、字元範圍:
[a-j]: 表示小寫字母 a~j
[1-6]:表示數字 1~6
轉義: 如 [a\-z] 或者它的位置在首位或者末尾([-a] 或 [a-]),它就只表示普通字元 '-'。
""" 
re.findall('[a\-z]', '-')
# Out[32]: ['-']

re.findall('[-a]', '-')
# Out[33]: ['-']

re.findall('[a-]', '-')
# Out[34]: ['-']

"""
3、特殊字元失去特殊含義
  比如 [(+*)] 只會匹配這幾個字元 '(', '+', '*', or ')'。
"""
re.findall('[(+*)]', '+-*/()')
# Out[35] ['+', '*', '(', ')']

"""
4、字元類
 可以使用字元類:\w,\S 等,它們可以匹配的字元由 ASCII 或者 LOCALE 模式決定。
"""
re.findall('[\w]', 'abfagg-/*-')
# Out[36] ['a', 'b', 'f', 'a', 'g', 'g']

"""
5、取反
如果集合首字元是 '^' ,所有不在集合內的字元將會被匹配
[^^] 將匹配所有字元,除了 '^'. 
^ 如果不在集合首位,就沒有特殊含義。
"""
# 非 \w 定義的字母
re.findall('[^\w]', 'abfagg-/*-')
# Out[37] ['-', '/', '*', '-']

"""
6、匹配字元 ']'
兩種方法
  加上反斜槓
  放到集合首位
"""
# 加上反斜槓
re.findall('\]', 'abc]')
# Out[38] [']']

# 放到集合首位
re.findall('[]{}]', ']abc')
# Out[39] [']']

【|】

或。A|B,匹配正則表示式A或B,A、B可以是任何正則表示式。

如果A匹配成功,則不會再匹配B。

匹配|字元需要轉義,\|或[|]

re.findall('a|b', 'acb')
# Out[40] ['a', 'b']

re.findall('[|]', 'ab|c')
# Out[41] ['|']

(...)

小括號,可以組合表示式,匹配括號內的組合表示式,並標註表示式的開始和結束位置,可用於後續捕獲

每對小括號代表一個組合,可以通過\number的方式引用組合,\1表示第一個組合。

要匹配字元 ( 或者 ), 用 \( 或 \), 或者放在字元集合裡: [(], [)]。

re.findall('a(b+)', 'abbb')
# Out[42] ['bbb']
。
re.findall(r'(b)a\1', 'bab')
# Out[43] ['b']

總結