1. 程式人生 > >linux萬用字元和正則表示式

linux萬用字元和正則表示式

1、 萬用字元

萬用字元是shell在做PathnameExpansion時用到的。說白了一般只用於檔名匹配,它是由shell解析的,比如findlscpmv等。

1、1 Shell常見萬用字元:

萬用字元

含義

例項

*

匹配 0 或多個字元

a*b a與b之間可以有任意長度的任意字元, 也可以一個也沒有, 如aabcb, axyzb, a012b, ab。

?

匹配任意一個字元

a?b a與b之間必須也只能有一個字元, 可以是任意字元, 如aab, abb, acb, a0b。

[list]

匹配 list 中的任意單一字元

a[xyz]b  a與b之間必須也只能有一個字元, 但只能是 x 或 y 或 z, 如: axb, ayb, azb。

[!list]或[^list]

匹配 除list 中的任意單一字元

a[!0-9]b a與b之間必須也只能有一個字元, 但不能是阿拉伯數字, 如axb, aab, a-b。

[c1-c2]

匹配 c1-c2 中的任意單一字元 如:[0-9] [a-z]

a[0-9]b 0與9之間必須也只能有一個字元 如a0b, a1b... a9b。

[!c1-c2]或[^c1-c2]

匹配不在c1-c2的任意字元

a[!0-9]b 如acb adb

{string1,string2,...}

匹配 sring1 或 string2 (或更多)其一字串

a{abc,xyz,123}b 列出aabcb,axyzb,a123b

1、2 shell Meta字元(元字元)

shell 除了有萬用字元之外,還有一系列自己的其他特殊字元。

字元

說明

IFS

由 <space> 或 <tab> 或 <enter> 三者之一組成(我們常用 space )

CR

由 <enter> 產生

=

設定變數

$

取變數值或取運算值

重定向 stdout

重定向 stdin

|

管道符號

&

重導向 file descriptor ,或將命令置於背景執行

( )

將其內的命令置於 nested subshell 執行,或用於運算或命令替換

{ }

將其內的命令置於 non-named function 中執行,或用在變數替換的界定範圍

;

在前一個命令結束時,而忽略其返回值,繼續執行下一個命令

&&

在前一個命令結束時,若返回值為 true,繼續執行下一個命令

||

在前一個命令結束時,若返回值為 false,繼續執行下一個命令

!

運算意義上的非(not)的意思

#

註釋,常用在指令碼中

\

轉移字元,去除其後緊跟的元字元或萬用字元的特殊意義

1、3 轉義字元

有時候,我們想讓 萬用字元,或者元字元 變成普通字元,不需要使用它。那麼這裡我們就需要用到轉義符了。 shell提供轉義符有三種。

字元

說明

‘’(單引號)

硬轉義,其內部所有的shell 元字元、萬用字元都會被關掉。

“”(雙引號)

軟轉義,其內部只允許出現特定的shell 元字元:$用於引數替換 `(反單引號,esc鍵下面)用於命令替換

\(反斜槓)

又叫轉義,去除其後緊跟的元字元或萬用字元的特殊意義

舉例:


2、正則表示式

正則表示式是用來匹配字串的,針對檔案內容的文字過濾工具裡,大都用到正則表示式,如vigrepawksed等。

另外,這篇文章只針對Linux下的文字過濾工具的正則表示式進行討論,其他的一些程式語言,如C++c regex,c++ regex,boost regex),javapython等都有自己的正則表示式庫。

簡單點來說,正則表示式是對一組正在處理的文字的描述。

例1:查詢檔案test中出現單詞hi,並且若干字元後出現單詞Jerry的行

$ grep -E"\<hi\>.+\<Jerry\>" test

ni hao hi nihao Jerrydsfds

例2:查詢檔案test中出現以hi開頭的單詞,並且若干字元後出現以Jerry結尾的單詞的行

grep -E "\<hi.+Jerry\>"test

ni hao hi nihao Jerrydsfds

wo buhao hiwuyanpingjfkjk Jerry

wo henhao hiwuyanJerry

在正則表示式的使用過程中,一些字元是以特定方式處理的。最常使用的特殊字元如下:

字元

含義

^

指向一行的開頭

$

指向一行的結尾

.

任意單個字元

[]

字元範圍。如[a-z]

如果想將上述字元用作普通字元,就需要在它們前面加上\字元。例如,如果想使用$字元,你需要將它寫為\$

在方括號中還可以使用一些有用的特殊匹配模式,如下:

匹配模式

含義

[:alnum:]

字母與數字字元,如grep[[:alnum:]] words.txt

[:alpha:]

字母

[:ascii:]

ASCII字元

[:blank:]

空格或製表符

[:cntrl:]

ASCII控制字元

[:digit:]

數字

[:graph:]

非控制、非空格字元

[:lower:]

小寫字母

[:print:]

可列印字元

[:punct:]

標點符號字元

[:space:]

空白字元,包括垂直製表符

[:upper:]

大寫字母

[:xdigit:]

十六進位制數字

另外,如果指定了用於擴充套件的-E選項,那些用於控制匹配完成的其他字元可能會遵循正則表示式的規則,對於grep命令,我們還需要在這些字元前面加上\,下表是擴充套件部分一覽:

選項

含義

?

最多一次

*

必須匹配0次或多次

+

必須匹配1次或多次

{n}

必須匹配n次

{n,}

必須匹配n次或以上

{n,m}

匹配次數在n到m之間,包括邊界

3、萬用字元和正則表示式比較

(1)萬用字元和正則表示式看起來有點像,不能混淆。可以簡單的理解為萬用字元只有*,?,[],{}這4種,而正則表示式複雜多了。

2*在萬用字元和正則表示式中有其不一樣的地方,在萬用字元中*可以匹配任意的0個或多個字元,而在正則表示式中他是重複之前的一個或者多個字元,不能獨立使用的。比如萬用字元可以用*來匹配任意字元,而正則表示式不行,他只匹配任意長度的前面的字元。

4、grep

引自:http://hi.baidu.com/hzslqt/blog/item/dbd0ea4e5145f819b3de05d6.html

1. grep簡介

    grep (global search regular expression(RE) and print out the line,全面搜尋正則表示式並把行打印出來)是一種強大的文字搜尋工具,它能使用正則表示式搜尋文字,並把匹配的行打印出來。Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的擴充套件,支援更多的re元字元, fgrep就是fixed grep或fast grep,它們把所有的字母都看作單詞,也就是說,正則表示式中的元字元表示回其自身的字面意義,不再特殊。linux使用GNU版本的grep。它功能更強,可以通過-G、-E、-F命令列選項來使用egrep和fgrep的功能。

    grep的工作方式是這樣的,它在一個或多個檔案中搜索字串模板。如果模板包括空格,則必須被引用,模板後的所有字串被看作檔名。搜尋的結果被送到螢幕,不影響原檔案內容。

    grep可用於shell指令碼,因為grep通過返回一個狀態值來說明搜尋的狀態,如果模板搜尋成功,則返回0,如果搜尋不成功,則返回1,如果搜尋的檔案不存在,則返回2。我們利用這些返回值就可進行一些自動化的文字處理工作。

2. grep正則表示式元字符集(基本集)

^       :錨定行的開始 如:'^grep'匹配所有以grep開頭的行。

$        :錨定行的結束 如:'grep$'匹配所有以grep結尾的行。

.       :匹配一個非換行符的字元 如:'gr.p'匹配gr後接一個任意字元,然後是p。

*       :匹配零個或多個先前字元 如:'*grep'匹配所有一個或多個空格後緊跟grep的行。 .*一起用代表任意字元。

[]       :匹配一個指定範圍內的字元,如'[Gg]rep'匹配Grep和grep。

[^]      :匹配一個不在指定範圍內的字元,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一個字母開頭,緊跟rep的行。

.. :標記匹配字元,如'love',love被標記為1

\<      :錨定單詞的開始,如:'\<grep'匹配包含以grep開頭的單詞的行。

\>       :錨定單詞的結束,如'grep\>'匹配包含以grep結尾的單詞的行。

x\{m\}   :重複字元x,m次,如:'o\{5\}'匹配包含5個o的行。

x\{m,\} :重複字元x,至少m次,如:'o\{5,\}'匹配至少有5個o的行。

x\{m,n\} :重複字元x,至少m次,不多於n次,如:'o\{5,10\}'匹配5-10個o的行。

\w       :匹配文字和數字字元,也就是[A-Za-z0-9],如:'G\w*p'匹配以G後跟零個或多個文字或數字字元,然後是p。

\W       :\w的反置形式,匹配一個或多個非單詞字元,如點號句號等。

\b       :單詞鎖定符,如: '\bgrepb\'只匹配grep。

3. 用於egrep和 grep -E的元字元擴充套件集

+       :匹配一個或多個先前的字元。如:'[a-z]+able',匹配一個或多個小寫字母后跟able的串,如loveable,enable,disable等。

?       :匹配零個或多個先前的字元。如:'gr?p'匹配gr後跟一個或沒有字元,然後是p的行。

a|b|c    :匹配a或b或c。如:grep|sed匹配grep或sed

()       :分組符號,如:love(able|rs)ov+匹配loveable或lovers,匹配一個或多個ov。

x{m},x{m,},x{m,n} :作用同x\{m\},x\{m,\},x\{m,n\}

5. Grep命令選項

   -a或--text   不要忽略二進位制的資料。

   -A   <顯示列數>--after-context=<顯示列數>    除了顯示符合範本樣式的那一列之外,並顯示該列之後的內容。

   -b或--byte-offset    在顯示符合範本樣式的那一列之前,標示出該列第一個字元的位編號。

   -B<顯示列數>--before-context=<顯示列數>    除了顯示符合範本樣式的那一列之外,並顯示該列之前的內容。

   -c或--count   計算符合範本樣式的列數。

   -C<顯示列數>--context=<顯示列數>-<顯示列數>    除了顯示符合範本樣式的那一列之外,並顯示該列之前後的內容。

   -d<進行動作>--directories=<進行動作>    當指定要查詢的是目錄而非檔案時,必須使用這項引數,否則grep指令將回報資訊並停止動作。

   -e<範本樣式>--regexp=<範本樣式>    指定字串做為查詢檔案內容的範本樣式。

   -E或--extended-regexp    將範本樣式為延伸的普通表示法來使用。

   -f<範本檔案>--file=<範本檔案>    指定範本檔案,其內容含有一個或多個範本樣式,讓grep查詢符合範本條件的檔案內容,格式為每列一個範本樣式。

   -F或--fixed-regexp    將範本樣式視為固定字串的列表。

   -G或--basic-regexp    將範本樣式視為普通的表示法來使用。

   -h或--no-filename    在顯示符合範本樣式的那一列之前,不標示該列所屬的檔名稱。

   -H或--with-filename    在顯示符合範本樣式的那一列之前,表示該列所屬的檔名稱。

   -i或--ignore-case    忽略字元大小寫的差別。

   -l或--file-with-matches    列出檔案內容符合指定的範本樣式的檔名稱。

   -L或--files-without-match    列出檔案內容不符合指定的範本樣式的檔名稱。

   -n或--line-number    在顯示符合範本樣式的那一列之前,標示出該列的列數編號。

   -q或--quiet或--silent    不顯示任何資訊。

   -r或--recursive   此引數的效果和指定“-d recurse”引數相同。

   -s或--no-messages    不顯示錯誤資訊。

   -v或--revert-match    反轉查詢。

   -V或--version   顯示版本資訊。

   -w或--word-regexp    只顯示全字符合的列。

   -x或--line-regexp    只顯示全列符合的列。

   -y    此引數的效果和指定“-i”引數相同。

   --help    線上幫助。

6. 例項

    要用好grep這個工具,其實就是要寫好正則表示式,下面列幾個例子,講解正則表示式的寫法。

$ ls -l | grep '^a'

    通過管道過濾ls -l輸出的內容,只顯示以a開頭的行。

$ grep 'test' d*

    顯示所有以d開頭的檔案中包含test的行。

$ grep 'test' aa bb cc

    顯示在aa,bb,cc檔案中匹配test的行。

$ grep '[a-z]\{5\}' aa

    顯示所有包含每個字串至少有5個連續小寫字元的字串的行。

$ grep 'west.*\1' aa

    如果west被匹配,則es就被儲存到記憶體中,並標記為1,然後搜尋任意個字元(.*),這些字元後面緊跟著另外一個es(\1),找到就顯示該行。如果用egrep或grep -E,就不用"\"號進行轉義,直接寫成'w(es)t.*\1'就可以了。

    再講解一個具體應用的例子。

    查詢所有位於當前目錄下的.cs檔案中的Main,通過grep,可以輕鬆快速地完成這項任務,命令如下:

grep ‘Main’ *.cs

輸出結果為:

ChineseDemo.cs: publicstatic void Main()

RegDemo1.cs: static voidMain(string[] args)

RegDemo2.cs:   public static void Main()

RegDemo3.cs: publicstatic void Main()

    可見,通過grep真的可以找到相關目錄中符合條件的所有檔案,並能打印出查詢到的字串所位於的那行內容。如果只想確定哪些檔案含有Main,而不需列印相應行的內容,那麼可以使用以下命令:?

grep –l‘Main’ *.cs

輸出結果為:

ChineseDemo.cs

RegDemo1.cs

RegDemo2.cs

RegDemo3.cs

只有相應的檔名稱被顯示。

    在找到了含有Main字串的幾個檔案後,如果想粗略地檢視某一具體檔案的裡原始碼的相關資訊,比如檢視RegDemo1.cs檔案中含有Main這一行的前後三行,相關的命令如下:

grep –C 3 ‘Main’ RegDemo1.cs

輸出結果為:

class GroupingApp

{

   static void Main(string[] args)

    {

       Reg7();

}

輸出結果完全符合需求,static void Main(string[] args)這一行前後三行範圍內的所有程式碼被全部打印出來(第一行是空行)。

    以上的查詢字串沒有對查詢結果是否為一個完整的單詞進行限制,也就是說TheMain和Main_Func都會被認定為查詢目標。如果想限定該查詢字串為一個完整單詞,那麼可以使用\w引數,相關命令如下:

grep –w‘Main’ *.cs

結果為:

ChineseDemo.cs: publicstatic void Main()

RegDemo1.cs: static voidMain(string[] args)

RegDemo2.cs: publicstatic void Main()

RegDemo3.cs: publicstatic void Main()

另外舉例如下:

1)顯示/etc/passwd中的一位數或兩位數(錨定詞首、記尾、分組、轉義、次數匹配)


2)找出當前系統上使用者名稱和預設shell相同的使用者(行首、行尾錨定)(開始單詞和結束單詞一樣)


3)grep配合其它命令的用法,找出本機的IP地址,只顯示IP段(管道、cut)

[[email protected] ~]# ifconfig eth0 | grep "inet addr:" | cut -d:-f2 | cut -d' ' -f1

192.168.1.102

參考:

4、Linux程式設計第四版

相關推薦

linux字元表示式

1、 萬用字元 萬用字元是shell在做PathnameExpansion時用到的。說白了一般只用於檔名匹配,它是由shell解析的,比如find,ls,cp,mv等。 1、1 Shell常見萬用字元: 萬用字元 含義 例項 * 匹配 0 或多個字元

Linux中的字元表示式

在linux中,有萬用字元和正則表示式,這是兩個不同的概念 萬用字元:它是由shell解析,並且一般用於匹配檔名。如:ls 正則表示式:是一個字元匹配標準,可以匹配文字中的內容 一些命令工具按此標準實現字元匹配,常用於支援正則表示式的工具,如grep,sed等。一般用於匹配檔案中的內

Linux字元表示式的區別

在看鳥哥的Linux私房菜的時候看到十二章一直強調萬用字元和正則表示式的區別,在我的理解中,兩者貌似是一樣的都是用來匹配的。Google之網上給出的答案是: 在文字過濾工具裡,都是用正則表示式,比如像awk,sed,等,是針對檔案的內容的 而萬用字元多用在檔名上,比如查詢

字元表示式聯絡區別

       以前總是把萬用字元和正則表示式的標誌搞混。最近沒用,又忘記做筆記了。看到一個同學的說說想起自己對於這塊也不熟悉。因此週末特意來補一篇部落格。為自己以後方便,也為大家早點福利。        以下基本出自百度百科,維基百科及網上資料。我負責收集一下。求不吐槽原創

字元表示式

萬用字元過濾 1.like操作符 2.百分號萬用字元(%) 在搜尋串中,%表示任何字元出現的任意次數。%不能匹配null,如like ‘jet%’表示以jet開頭的後面不管多少字元的匹配。 如果區分大小寫查詢,使用binary: select * from `t

Linux 字元表示式 的區別與詳解

背景:在linux使用過程中,經常需要查詢檔案,對命令中的萬用字元 pattern 和正則表示式的區分不是很清楚。有必要好好研究一下。 1 掃盲 1.1 萬用字元和正則表示式 當在使用命令列時,有很多時間都用來查詢你所需要的檔案,如 ls find 等。 Sh

Linux Shell的字元表示式

Overview wildcard是由shell處理的, 它只會出現在 command的argument 裡——既不用在 command_name裡, 也不用在 options 上。當在argument中碰到Wildcard時,shell會將其當作路徑或檔名去在磁碟上搜尋可能

Linux(七)輸入輸出重定向結合crontab,字元表示式

目錄 三、管道符 字元匹配 位置匹配 一、輸入輸出重定向 >file       //標準輸出重定向到檔案 -------覆蓋 >>file     //標準輸出重定向到檔案 -------追加 2>         

Elasticsearch中的字元表示式查詢

想要在ES中使用*或者?作為萬用字元進行模糊匹配? 看這篇就對了~ 本文為轉發!!! 轉自:https://blog.csdn.net/dm_vincent/article/details/42024799 wildcard查詢和prefix查詢類似,也是一個基於詞

elasticsearch-wildcard、regexp字元表示式查詢

萬用字元與正則表示式查詢 假設將郵編作為 not_analyzed 的精確值欄位索引,所以可以為其建立索引,如下: PUT /my_index { "mappings": { "address": { "properties

bash字元 shell表示式

在linux中 萬用字元是系統命令使用,一般用來匹配檔名或者什麼的用在系統命令中。萬用字元是系統級別的,萬用字元多用在檔名上,比如查詢find,ls,cp,rm 正則表示式是操作字串,以行尾單位來匹

字元表示式(過濾手機號,ip地址)

萬用字元 萬用字元: 鍵盤上的一些符號,在查詢某些檔案時 不知道檔案全名或由於名字太長,不想輸入全名的情況下 常常使用萬用字元 來代替一個或多個字元.(用於匹配符合條件的檔名,完全匹配) *:匹配任意多個字元或者0個字元 ?:任意一個字元 [^]:匹配

字元表示式的關係

關係 首先,先給出關係。 萬用字元 正則表示式 * (.)* ? (.)? . \. 本人在開發中,時常會把正則和萬用字元搞混,甚至一度以為通配是正則的子集。通配是一種簡單的助記符號,功能單一,而正則更為強大和豐富。並且它們之間沒有太大的聯絡,但是可以把萬用字元轉化為正則表

【轉載】字元表示式

字元匹配 .:匹配任意單個字元 *:匹配其前面一個字元出現任意次 ?:匹配其前面的字元1次或0次 +:匹配其前面一個字元出現至少一次(在擴充套件正則表示式中) 位置匹配 ^:錨定行首 $:錨定行尾 \<或\b:錨定詞首,其後面的任意字元必須作為單

Search Everything 利用操作符、字元表示式搜尋

Everything是一款穩定的檔案搜尋軟體,很少更新,我已經使用很多年了。 下面介紹一下如何使用操作符、萬用字元及正則表示式來搜尋以提高查詢效率。 1.如何使用布林操作符(and /or /not)

Requests表示式爬取豆瓣圖書TOP250

思路和上文大同小異。 import requests from requests.exceptions import RequestException import re import json headers = {'User-Agent':'Mozilla/5.0(Macinto

Requests表示式爬取貓眼電影(TOP100+最受期待榜)

目標站點分析 目標站點(貓眼榜單TOP100): 如下圖,貓眼電影的翻頁offset明顯在URL中,所以只要搞定第一頁的內容加上一個迴圈加上offset就可以爬取前100。 流程框架 1、抓取單頁內容 利用requests請求目標站點,得到單個網頁HTML程式碼,返回結

Elasticsearch-字首、字元、模糊搜尋詳解

1.對於字首的匹配搜尋: GET /forum/article/_search { "query": { "prefix": { "articleID": { "value": "J" } }

Linuxbash shell表示式批量處理檔案的應用例項

程式碼檔案頭有版本資訊,下面一段shell指令碼就是用來收索和更新程式碼頭註釋裡面的斑斑資訊的。 從中可以到shell指令碼中以下幾個小技術點是如何運用的: 1. 利用正則表示式分組匹配指定內容 2. 字串的定位,截斷和拼接處理 3. 指定檔案指定行替換指定內容 #!/bi

LINUX學習—grep表示式LINUX三劍客)

grep, egrep, fgrep grep(GLOBAL RESEARCH) 是一種強大的文字搜尋工具,它能使用正則表示式搜尋文字,並把匹配的行打印出來。根據模式,搜尋文字,並將符合模式的文字行顯示出來。只能使用基本正則表示式 要使用擴充套件正則表示式需要-E pattern