正則表達式2:感受
元字符: 元字符才是正則表達式的靈魂. 元字符中的內容太多了了, 在這?裏裏我們只介紹?一些
常?用的.
1. 字符組
字符組很簡單?用[]括起來. 在[]中出現的內容會被匹配. 例例如:[abc] 匹配a或b或c
如果字符組中的內容過多還可以使?用- , 例例如: [a-z] 匹配a到z之間的所有字?母 [0-9]
匹配所有阿拉伯數字
思考: [a-zA-Z0-9]匹配的是什什麽?
2. 簡單元字符
基本的元字符. 這個東?西?網上?一搜?一?大堆. 但是常?用的就那麽?幾個:
. 匹配除換?行行符以外的任意字符
\w 匹配字?母或數字或下劃線
\s 匹配任意的空?白符
\d 匹配數字
\n 匹配?一個換?行行符
\t 匹配?一個制表符
\b 匹配?一個單詞的結尾
^ 匹配字符串串的開始
$ 匹配字符串串的結尾
\W 匹配?非字?母或數字或下劃線
\D 匹配?非數字
\S 匹配?非空?白符
a|b 匹配字符a或字符b
() 匹配括號內的表達式，也表示?一個組
[...] 匹配字符組中的字符
[^...] 匹配除了了字符組中字符的所有字符
3. 量量詞
我們到?目前匹配的所有內容都是單?一?文字符號. 那如何?一次性匹配很多個字符呢,
我們要?用到量量詞
* 重復零次或更更多次
+ 重復?一次或更更多次
? 重復零次或?一次
{n} 重復n次
{n,} 重復n次或更更多次
{n,m} 重復n到m次
4. 惰性匹配和貪婪匹配
在量量詞中的*, +,{} 都屬於貪婪匹配. 就是盡可能多的匹配到結果.
str: 麻花藤昨天讓英雄聯盟關服了了
reg: 麻花藤.*
此時匹配的是整句句話
在使?用.*後?面如果加了了? 則是盡可能的少匹配. 表?示惰性匹配
str: 麻花藤昨天讓英雄聯盟關服了了
reg: 麻花藤.*?
此時匹配的是 麻花藤
str: <div>胡辣湯</div>
reg: <.*>
結果: <div>胡辣湯</div>
str: <div>胡辣湯</div>
reg: <.*?>
結果:
<div>
</div>
str: <div>胡辣湯</div>
reg: <(div|/div*)?>
結果:
<div>
</div>
.*?x的特殊含義 找到下?一個x為?止.
str: abcdefgxhijklmn
reg: .*?x
結果:abcdefgx
5. 分組
在正則中使?用()進?行行分組. 比如. 我們要匹配?一個相對復雜的?身份證號. ?身份證號分
成兩種. 老的?身份證號有15位. 新的?身份證號有18位. 並且新的?身份證號結尾有可能是x.
給出以下正則:
^[1-9]\d{13,16}[0-9x]$
^[1-9]\d{14}(\d{2}[0-9x])?$
^([1-9]\d{16}[0-9x]|[1-9]\d{14})$
6. 轉義
在正則表達式中, 有很多有特殊意義的是元字符, ?比如\n和\s等,如果要在正則中匹
配正常的"\n"?而不不是"換?行行符"就需要對"\"進?行行轉義, 變成‘\\‘.在python中, ?無論是正則表達式, 還
是待匹配的內容, 都是以字符串串的形式出現的, 在字符串串中\也有特殊的含義, 本身還需要轉
義. 所以如果匹配?一次"\n", 字符串串中要寫成‘\\n‘, 那麽正則?裏裏就要寫成"\\\\n",這樣就太麻煩了了.
這個時候我們就?用到了了r‘\n‘這個概念, 此時的正則是r‘\\n‘就可以了了.
練習:
1. 匹配郵箱
2. 匹配?手機號
3. 匹配?生?日. ?日期格式(yyyy-MM-dd)
4. 匹配電話號碼
5. 匹配IP
?二. re模塊
re模塊是python提供的?一套關於處理理正則表達式的模塊. 核?心功能有四個:
1. ?ndall 查找所有. 返回list
lst = re.findall("m", "mai le fo len, mai ni mei!")
print(lst) # [‘m‘, ‘m‘, ‘m‘]
lst = re.findall(r"\d+", "5點之前. 你要給我5000萬")
print(lst) # [‘5‘, ‘5000‘]
2. search 會進?行行匹配. 但是如果匹配到了了第?一個結果. 就會返回這個結果. 如果匹配不
上search返回的則是None
ret = re.search(r‘\d‘, ‘5點之前. 你要給我5000萬‘).group()
print(ret) # 5
3. match 只能從字符串串的開頭進?行行匹配
ret = re.match(‘a‘, ‘abc‘).group()
print(ret) # a
4. ?nditer 和?ndall差不多. 只不過這時返回的是叠代器
it = re.finditer("m", "mai le fo len, mai ni mei!")
for el in it:
print(el.group()) # 依然需要分組
5. 其他操作
ret = re.split(‘[ab]‘, ‘qwerafjbcd‘) # 先按‘a‘分割得到‘qwer‘和‘fjbcd‘,在
對‘qwer‘和‘fjbcd‘分別按‘b‘分割
print(ret) # [‘qwer‘, ‘fj‘, ‘cd‘]
ret = re.sub(r"\d+", "_sb_", "alex250taibai250wusir250ritian38") # 把字符串串中
的數字換成__sb__
print(ret) # alex_sb_taibai_sb_wusir_sb_ritian_sb_
ret = re.subn(r"\d+", "_sb_", "alex250taibai250wusir250ritian38") # 將數字替
換成‘__sb__‘，返回元組(替換的結果,替換了了多少次)
print(ret) # (‘alex_sb_taibai_sb_wusir_sb_ritian_sb_‘, 4)
obj = re.compile(r‘\d{3}‘) # 將正則表達式編譯成為?一個 正則表達式對象, 規則要匹配的
是3個數字
ret = obj.search(‘abc123eeee‘) # 正則表達式對象調?用search, 參數為待匹配的字符串串
print(ret.group()) # 結果: 123
爬?蟲重點:
obj = re.compile(r‘(?P<id>\d+)(?P<name>e+)‘) # 從正則表達式匹配的內容每個組起名
字
ret = obj.search(‘abc123eeee‘) # 搜索
print(ret.group()) # 結果: 123eeee
print(ret.group("id")) # 結果: 123 # 獲取id組的內容
print(ret.group("name")) # 結果: eeee # 獲取name組的內容
6. 兩個坑
註意: 在re模塊中和我們在線測試?工具中的結果可能是不?一樣的.
ret = re.findall(‘www.(baidu|oldboy).com‘, ‘www.oldboy.com‘)
print(ret) # [‘oldboy‘] 這是因為findall會優先把匹配結果組?裏裏內容返回,如果想要匹
配結果,取消權限即可
ret = re.findall(‘www.(?:baidu|oldboy).com‘, ‘www.oldboy.com‘)
print(ret) # [‘www.oldboy.com‘]
split?裏裏也有?一個坑
ret=re.split("\d+","eva3egon4yuan")
print(ret) #結果 ： [‘eva‘, ‘egon‘, ‘yuan‘]
ret=re.split("(\d+)","eva3egon4yuan")
print(ret) #結果 ： [‘eva‘, ‘3‘, ‘egon‘, ‘4‘, ‘yuan‘]
#在匹配部分加上（）之後所切出的結果是不不同的，
#沒有（）的沒有保留留所匹配的項，但是有（）的卻能夠保留留了了匹配的項，
#這個在某些需要保留留匹配部分的使?用過程是?非常重要的。
這種優先級的問題有時候會幫我們完成很多功能. 我們來看?一個比較復雜的例例?子
import re
from urllib.request import urlopen
import ssl
# ?幹掉數字簽名證書
ssl._create_default_https_context = ssl._create_unverified_context
def getPage(url):
response = urlopen(url)
return response.read().decode(‘utf-8‘)
def parsePage(s):
ret = re.findall(
‘<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?
<span class="title">(?P<title>.*?)</span>‘
‘.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>
(?P<comment_num>.*?)評價</span>‘, s, re.S)
return ret
def main(num):
url = ‘https://movie.douban.com/top250?start=%s&filter=‘ % num
response_html = getPage(url)
ret = parsePage(response_html)
print(ret)
count = 0
for i in range(10): # 10?頁
main(count)
count += 25
此時利利?用的就是分組之後. 匹配成功後獲取到的是分組後的結果. (?P<id>\d+) 此時當前
組所匹配的數據就會被分組到id組內. 此時程序可以改寫成:
import ssl
import re
from urllib.request import urlopen
# ?幹掉數字簽名證書
ssl._create_default_https_context = ssl._create_unverified_context
def getPage(url):
response = urlopen(url)
return response.read().decode(‘utf-8‘)
def parsePage(s):
com = re.compile(
‘<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?
<span class="title">(?P<title>.*?)</span>‘
‘.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?
<span>(?P<comment_num>.*?)評價</span>‘, re.S)
ret = com.finditer(s)
for i in ret:
yield {
"id": i.group("id"),
"title": i.group("title"),
"rating_num": i.group("rating_num"),
"comment_num": i.group("comment_num"),
}
def main(num):
url = ‘https://movie.douban.com/top250?start=%s&filter=‘ % num
response_html = getPage(url)
ret = parsePage(response_html)
# print(ret)
f = open("move_info7", "a", encoding="utf8")
for obj in ret:
print(obj)
data = str(obj)
f.write(data + "\n")
count = 0
for i in range(10):
main(count)
count += 25
正則表達式和re模塊就說這麽多. 如果要把正則所有的內容全部講清楚講明?白, ?至少要?一周
以上的時間. 對於我們?日常使?用?而?言. 上述知識點已經夠?用了了. 如果碰到?一些極端情況建議想
辦法分部處理理. 先對字符串串進?行行拆分. 然後再考慮?用正則.
正則表達式2:感受