1. 程式人生 > 其它 >Linux/Unix工具與正則表示式的POSIX規範(轉載)

Linux/Unix工具與正則表示式的POSIX規範(轉載)

對正則表示式有基本瞭解的讀者,一定不會陌生『\d』、『[a-z]+』之類的表示式,前者匹配一個數字字元,後者匹配一個以上的小寫英文字母。但是如果你用過vi、grep、awk、sed之類Linux/Unix下的工具或許會發現,這些工具雖然支援正則表示式,語法卻很不一樣,照通常習慣的辦法寫的『\d』、『[a-z]+』之類的正則表示式,往往不是無法識別就是匹配錯誤。而且,這些工具自身之間也存在差異,同樣的結構,有時需要轉義有時不需要轉義。這,究竟是為什麼呢?

原因在於,Unix/Linux下的工具大多采用POSIX規範,同時,POSIX規範又可分為兩種流派(flavor)。所以,首先有必要了解一下POSIX規範。

POSIX規範

常見的正則表示式記法,其實都源於Perl,實際上,正則表示式從Perl衍生出一個顯赫的流派,叫做PCRE(Perl Compatible Regular Expression),『\d』、『\w』、『\s』之類的記法,就是這個流派的特徵。但是在PCRE之外,正則表示式還有其它流派,比如下面要介紹的POSIX規範的正則表示式。

POSIX的全稱是Portable Operating System Interface for uniX,它由一系列規範構成,定義了UNIX作業系統應當支援的功能,所以“POSIX規範的正則表示式”其實只是“關於正則表示式的POSIX規範”,它定義了BRE(Basic Regular Expression,基本型正則表示式)和ERE(Extended Regular Express,擴充套件型正則表示式)兩大流派。在相容POSIX的UNIX系統上,grep和egrep之類的工具都遵循POSIX規範,一些資料庫系統中的正則表示式也符合POSIX規範。

BRE

在Linux/Unix常用工具中,grep、vi、sed都屬於BRE這一派,它的語法看起來比較奇怪,元字元『(』、『)』、『{』、『}』必須轉義之後才具有特殊含義,所以正則表示式『(a)b』只能匹配字串 (a)b而不是字串ab;正則表示式『a{1,2}』只能匹配字串a{1,2},正則表示式『a\{1,2\}』才能匹配字串a或者aa。

之所以這麼麻煩,是因為這些工具的誕生時間很早,正則表示式的許多功能卻是逐步發展演化出來的,之前這些元字元可能並沒有特殊的含義;為保證向後相容,就只能使用轉義。而且有些功能甚至根本就不支援,比如BRE就不支援『+』和『?』量詞,也不支援多選結構『(…|…)』和反向引用『\1』、『\2』…。

不過今天,純粹的BRE已經很少見了,畢竟大家已經認為正則表示式“理所應當”支援多選結構和反向引用等功能,沒有確實太不方便。所以雖然vi屬於BRE流派,但提供了這些功能。GNU也對BRE做了擴充套件,支援『+』、『?』、『|』,只是使用時必須寫成『\+』、『\?』、『\|』,而且也支援『\1』、『\2』之類反向引用。這樣,GNU的grep等工具雖然名義上屬於BRE流,但更確切的名稱是GNU BRE。

ERE

在Linux/Unix常用工具中,egrep、awk則屬於ERE這一派,。雖然BRE名為“基本”而ERE名為“擴充套件”,但ERE並不要求相容BRE的語法,而是自成一體。因此其中的元字元不用轉義(在元字元之前新增反斜線會取消其特殊含義),所以『(ab|cd)』就可以匹配字串ab或者cd,量詞『+』、『?』、『{n,m}』可以直接使用。ERE並沒有明確規定支援反向引用,但是不少工具都支援『\1』、『\2』之類的反向引用。

GNU出品的egrep等工具就屬於ERE流(更準確的名字是GNU ERE),但因為GNU已經對BRE做了不少擴充套件,所謂的GNU ERE其實只是個說法而已,它有的功能GNU BRE都有了,只是元字元不需要轉義而已。

下面的表格簡要說明了幾種POSIX流派的區別[1](其實,現在的BRE和ERE在功能上並沒有什麼區別,主要的差異是在元字元的轉義上)。

幾種POSIX流派的說明

流派

說明

工具

BRE

(、)、{、}都必須轉義使用,不支援+、?、|

grep、sed、vi(但vi支援這些多選結構和反向引用)

GNU BRE

(、)、{、}、+、?、|都必須轉義使用

GNU grep、GNU sed

ERE

元字元不必轉義,+、?、(、)、{、}、|可以直接使用,\1、\2的支援不確定

egrep、awk

GNU ERE

元字元不必轉義,+、?、(、)、{、}、|可以直接使用,支援\1、\2

grep –E、GNUawk

為了方便查閱,下面再用一張表格列出基本的正則功能在常用工具中的表示法,其中的工具GNU的版本為準。

常用Linux/Unix工具中的表示法

PCRE記法

vi/vim

grep

awk

sed

*

*

*

*

*

+

\+

\+

+

\+

?

\=

\?

?

\?

{m,n}

\{m,n}

\{m,n\}

{m,n}

\{m,n\}

\b *

\< \>

\< \>

\< \>

\y \< \>

(…|…)

\(…\|…\)

\(…\|…\)

(…|…)

(…|…)

(…)

\(…\)

\(…\)

(…)

(…)

\1 \2

\1 \2

\1 \2

不支援

\1 \2

注:PCRE中常用\b來表示“單詞的起始或結束位置”,但Linux/Unix的工具中,通常用\<來匹配“單詞的起始位置”,用\>來匹配“單詞的結束位置”,sed中的\y可以同時匹配這兩個位置。

POSIX字元組

在某些文件中,你還會發現類似『[:digit:]』、『[:lower:]』之類的表示法,它們看起來不難理解(digit就是“數字”,lower就是“小寫”),但又很奇怪,這就是POSIX字元組。不僅在Linux/Unix的常見工具中,甚至一些變成語言中都出現了這些字元組,為避免困惑,這裡有必要簡要介紹它們。

在POSIX規範中,『[a-z]』、『[aeiou]』之類的記法仍然是合法的,其意義與PCRE中的字元組也沒有區別,只是這類記法的準確名稱是POSIX方括號表示式(bracket expression),它主要用在Unix/Linux系統中。POSIX方括號表示法與PCRE字元組的最主要差別在於:POSIX字元組中,反斜線\不是用來轉義的。所以POSIX方括號表示法『[\d]』只能匹配\和d兩個字元,而不是『[0-9]』對應的數字字元。

為了解決字元組中特殊意義字元的轉義問題,POSIX方括號表示法規定,如果要在字元組中表達字元](而不是作為字元組的結束標記),應當讓它緊跟在字元組的開方括號之後,所以POSIX中,正則表示式『[]a]』能匹配的字元就是]和a;如果要在POSIX方括號表示法中表達字元-(而不是範圍表示法),必須將它緊挨在閉方括號]之前,所以『[a-]』能匹配的字元就是a和-。

POSIX規範也定義了POSIX字元組,它近似等價于于PCRE的字元組簡記法,用一個有直觀意義的名字來表示某一組字元,比如digit表示“數字字元”,alpha表示“字母字元”。

不過,POSIX中還有一個值得注意的概念:locale(通常翻譯為“語言環境”)。它是一組與語言和文化相關的設定,包括日期格式、貨幣幣值、字元編碼等等。POSIX字元組的意義會根據locale的變化而變化,下面的表格介紹了常見的POSIX字元組在ASCII語言環境與Unicode語言環境下的意義,供大家參考。

POSIX字元組

POSIX字元組

說明

ASCII語言環境

Unicode語言環境

[:alnum:]*

字母字元和數字字元

[a-zA-Z0-9]

[\p{L&}\p{Nd}]

[:alpha:]

字母

[a-zA-Z]

\p{L&}

[:ascii:]

ASCII字元

[\x00-\x7F]

\p{InBasicLatin}

[:blank:]

空格字元和製表符

[ \t]

[\p{Zs}\t]

[:cntrl:]

控制字元

[\x00-\x1F\x7F]

\p{Cc}

[:digit:]

數字字元

[0-9]

\p{Nd}

[:graph:]

空白字元之外的字元

[\x21-\x7E]

[^\p{Z}\p{C}]

[:lower:]

小寫字母字元

[a-z]

\p{Ll}

[:print:]

類似[:graph:],但包括空白字元

[\x20-\x7E]

\P{C}

[:punct:]

標點符號

[][!"#$%&'()*+,./:;<=>?@\^_`{|}~-]

[\p{P}\p{S}]

[:space:]

空白字元

[ \t\r\n\v\f]

[\p{Z}\t\r\n\v\f]

[:upper:]

大寫字母字元

[A-Z]

\p{Lu}

[:word:]*

字母字元

[A-Za-z0-9_]

[\p{L}\p{N}\p{Pc}]

[:xdigit:]

十六進位制字元

[A-Fa-f0-9]

[A-Fa-f0-9]

注1:標記*的字元組簡記法並不是POSIX規範中的,但使用很多,一般語言中都提供,文件中也會出現。

注2:對應的Unicode屬性請參考本系列文章已經刊發過的關於Unicode的部分。

POSIX字元組的使用有所不同。主要區別在於,PCRE字元組簡記法可以脫離方括號直接出現,而POSIX字元組必須出現在方括號內,所以同樣是匹配數字字元,單獨出現時,PCRE中可以直接寫『\d』,而POSIX字元組就必須寫成『[[:digit:]]』。

Linux/Unix下的工具中,一般都可以直接使用POSIX字元組,而PCRE的字元組簡記法『\w』、『\d』等則大多不支援,所以如果你看到『[[:space:]]』而不是『\s』,一定不要感到奇怪。

不過,在常用的程式語言中,Java、PHP、Ruby也支援使用POSIX字元組。其中Java和PHP中的POSIX字元組都是按照ASCII語言環境進行匹配;Ruby的情況則要複雜一點,Ruby 1.8按照ASCII語言環境進行匹配,而且不支援『[:word:]』和『[:alnum:]』,Ruby 1.9按照Unicode語言環境進行匹配,同時支援『[:word:]』和『[:alnum:]』。

轉載路徑:https://blog.51cto.com/linuxkeep/956155

原始路徑已經無法開啟