linux萬用字元和正則表示式
1、 萬用字元
萬用字元是shell在做PathnameExpansion時用到的。說白了一般只用於檔名匹配,它是由shell解析的,比如find,ls,cp,mv等。
1、1 Shell常見萬用字元:
萬用字元 |
含義 |
例項 |
* |
匹配 0 或多個字元 |
a*b a與b之間可以有任意長度的任意字元, 也可以一個也沒有, 如aabcb, axyzb, a012b, ab。 |
? |
匹配任意一個字元 |
a?b a與b之間必須也只能有一個字元, 可以是任意字元, 如aab, abb, acb, a0b。 |
[list] |
匹配 list 中的任意單一字元 |
a[xyz]b a與b之間必須也只能有一個字元, 但只能是 x 或 y 或 z, 如: axb, ayb, azb。 |
[!list]或[^list] |
匹配 除list 中的任意單一字元 |
a[!0-9]b a與b之間必須也只能有一個字元, 但不能是阿拉伯數字, 如axb, aab, a-b。 |
[c1-c2] |
匹配 c1-c2 中的任意單一字元 如:[0-9] [a-z] |
a[0-9]b 0與9之間必須也只能有一個字元 如a0b, a1b... a9b。 |
[!c1-c2]或[^c1-c2] |
匹配不在c1-c2的任意字元 |
a[!0-9]b 如acb adb |
{string1,string2,...} |
匹配 sring1 或 string2 (或更多)其一字串 |
a{abc,xyz,123}b 列出aabcb,axyzb,a123b |
1、2 shell Meta字元(元字元)
shell 除了有萬用字元之外,還有一系列自己的其他特殊字元。
字元 |
說明 |
IFS |
由 <space> 或 <tab> 或 <enter> 三者之一組成(我們常用 space ) |
CR |
由 <enter> 產生 |
= |
設定變數 |
$ |
取變數值或取運算值 |
> |
重定向 stdout |
< |
重定向 stdin |
| |
管道符號 |
& |
重導向 file descriptor ,或將命令置於背景執行 |
( ) |
將其內的命令置於 nested subshell 執行,或用於運算或命令替換 |
{ } |
將其內的命令置於 non-named function 中執行,或用在變數替換的界定範圍 |
; |
在前一個命令結束時,而忽略其返回值,繼續執行下一個命令 |
&& |
在前一個命令結束時,若返回值為 true,繼續執行下一個命令 |
|| |
在前一個命令結束時,若返回值為 false,繼續執行下一個命令 |
! |
運算意義上的非(not)的意思 |
# |
註釋,常用在指令碼中 |
\ |
轉移字元,去除其後緊跟的元字元或萬用字元的特殊意義 |
1、3 轉義字元
有時候,我們想讓 萬用字元,或者元字元 變成普通字元,不需要使用它。那麼這裡我們就需要用到轉義符了。 shell提供轉義符有三種。
字元 |
說明 |
‘’(單引號) |
硬轉義,其內部所有的shell 元字元、萬用字元都會被關掉。 |
“”(雙引號) |
軟轉義,其內部只允許出現特定的shell 元字元:$用於引數替換 `(反單引號,esc鍵下面)用於命令替換 |
\(反斜槓) |
又叫轉義,去除其後緊跟的元字元或萬用字元的特殊意義 |
2、正則表示式
正則表示式是用來匹配字串的,針對檔案內容的文字過濾工具裡,大都用到正則表示式,如vi,grep,awk,sed等。
另外,這篇文章只針對Linux下的文字過濾工具的正則表示式進行討論,其他的一些程式語言,如C++(c regex,c++ regex,boost regex),java,python等都有自己的正則表示式庫。
簡單點來說,正則表示式是對一組正在處理的文字的描述。
例1:查詢檔案test中出現單詞hi,並且若干字元後出現單詞Jerry的行
$ grep -E"\<hi\>.+\<Jerry\>" test
ni hao hi nihao Jerrydsfds
例2:查詢檔案test中出現以hi開頭的單詞,並且若干字元後出現以Jerry結尾的單詞的行
grep -E "\<hi.+Jerry\>"test
ni hao hi nihao Jerrydsfds
wo buhao hiwuyanpingjfkjk Jerry
wo henhao hiwuyanJerry
在正則表示式的使用過程中,一些字元是以特定方式處理的。最常使用的特殊字元如下:
字元 |
含義 |
^ |
指向一行的開頭 |
$ |
指向一行的結尾 |
. |
任意單個字元 |
[] |
字元範圍。如[a-z] |
如果想將上述字元用作普通字元,就需要在它們前面加上\字元。例如,如果想使用$字元,你需要將它寫為\$
在方括號中還可以使用一些有用的特殊匹配模式,如下:
匹配模式 |
含義 |
[:alnum:] |
字母與數字字元,如grep[[:alnum:]] words.txt |
[:alpha:] |
字母 |
[:ascii:] |
ASCII字元 |
[:blank:] |
空格或製表符 |
[:cntrl:] |
ASCII控制字元 |
[:digit:] |
數字 |
[:graph:] |
非控制、非空格字元 |
[:lower:] |
小寫字母 |
[:print:] |
可列印字元 |
[:punct:] |
標點符號字元 |
[:space:] |
空白字元,包括垂直製表符 |
[:upper:] |
大寫字母 |
[:xdigit:] |
十六進位制數字 |
另外,如果指定了用於擴充套件的-E選項,那些用於控制匹配完成的其他字元可能會遵循正則表示式的規則,對於grep命令,我們還需要在這些字元前面加上\,下表是擴充套件部分一覽:
選項 |
含義 |
? |
最多一次 |
* |
必須匹配0次或多次 |
+ |
必須匹配1次或多次 |
{n} |
必須匹配n次 |
{n,} |
必須匹配n次或以上 |
{n,m} |
匹配次數在n到m之間,包括邊界 |
3、萬用字元和正則表示式比較
(1)萬用字元和正則表示式看起來有點像,不能混淆。可以簡單的理解為萬用字元只有*,?,[],{}這4種,而正則表示式複雜多了。
(2)*在萬用字元和正則表示式中有其不一樣的地方,在萬用字元中*可以匹配任意的0個或多個字元,而在正則表示式中他是重複之前的一個或者多個字元,不能獨立使用的。比如萬用字元可以用*來匹配任意字元,而正則表示式不行,他只匹配任意長度的前面的字元。
4、grep
引自:http://hi.baidu.com/hzslqt/blog/item/dbd0ea4e5145f819b3de05d6.html
1. grep簡介
grep (global search regular expression(RE) and print out the line,全面搜尋正則表示式並把行打印出來)是一種強大的文字搜尋工具,它能使用正則表示式搜尋文字,並把匹配的行打印出來。Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的擴充套件,支援更多的re元字元, fgrep就是fixed grep或fast grep,它們把所有的字母都看作單詞,也就是說,正則表示式中的元字元表示回其自身的字面意義,不再特殊。linux使用GNU版本的grep。它功能更強,可以通過-G、-E、-F命令列選項來使用egrep和fgrep的功能。
grep的工作方式是這樣的,它在一個或多個檔案中搜索字串模板。如果模板包括空格,則必須被引用,模板後的所有字串被看作檔名。搜尋的結果被送到螢幕,不影響原檔案內容。
grep可用於shell指令碼,因為grep通過返回一個狀態值來說明搜尋的狀態,如果模板搜尋成功,則返回0,如果搜尋不成功,則返回1,如果搜尋的檔案不存在,則返回2。我們利用這些返回值就可進行一些自動化的文字處理工作。
2. grep正則表示式元字符集(基本集)
^ :錨定行的開始 如:'^grep'匹配所有以grep開頭的行。
$ :錨定行的結束 如:'grep$'匹配所有以grep結尾的行。
. :匹配一個非換行符的字元 如:'gr.p'匹配gr後接一個任意字元,然後是p。
* :匹配零個或多個先前字元 如:'*grep'匹配所有一個或多個空格後緊跟grep的行。 .*一起用代表任意字元。
[] :匹配一個指定範圍內的字元,如'[Gg]rep'匹配Grep和grep。
[^] :匹配一個不在指定範圍內的字元,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一個字母開頭,緊跟rep的行。
.. :標記匹配字元,如'love',love被標記為1。
\< :錨定單詞的開始,如:'\<grep'匹配包含以grep開頭的單詞的行。
\> :錨定單詞的結束,如'grep\>'匹配包含以grep結尾的單詞的行。
x\{m\} :重複字元x,m次,如:'o\{5\}'匹配包含5個o的行。
x\{m,\} :重複字元x,至少m次,如:'o\{5,\}'匹配至少有5個o的行。
x\{m,n\} :重複字元x,至少m次,不多於n次,如:'o\{5,10\}'匹配5-10個o的行。
\w :匹配文字和數字字元,也就是[A-Za-z0-9],如:'G\w*p'匹配以G後跟零個或多個文字或數字字元,然後是p。
\W :\w的反置形式,匹配一個或多個非單詞字元,如點號句號等。
\b :單詞鎖定符,如: '\bgrepb\'只匹配grep。
3. 用於egrep和 grep -E的元字元擴充套件集
+ :匹配一個或多個先前的字元。如:'[a-z]+able',匹配一個或多個小寫字母后跟able的串,如loveable,enable,disable等。
? :匹配零個或多個先前的字元。如:'gr?p'匹配gr後跟一個或沒有字元,然後是p的行。
a|b|c :匹配a或b或c。如:grep|sed匹配grep或sed
() :分組符號,如:love(able|rs)ov+匹配loveable或lovers,匹配一個或多個ov。
x{m},x{m,},x{m,n} :作用同x\{m\},x\{m,\},x\{m,n\}
5. Grep命令選項
-a或--text 不要忽略二進位制的資料。
-A <顯示列數>或--after-context=<顯示列數> 除了顯示符合範本樣式的那一列之外,並顯示該列之後的內容。
-b或--byte-offset 在顯示符合範本樣式的那一列之前,標示出該列第一個字元的位編號。
-B<顯示列數>或--before-context=<顯示列數> 除了顯示符合範本樣式的那一列之外,並顯示該列之前的內容。
-c或--count 計算符合範本樣式的列數。
-C<顯示列數>或--context=<顯示列數>或-<顯示列數> 除了顯示符合範本樣式的那一列之外,並顯示該列之前後的內容。
-d<進行動作>或--directories=<進行動作> 當指定要查詢的是目錄而非檔案時,必須使用這項引數,否則grep指令將回報資訊並停止動作。
-e<範本樣式>或--regexp=<範本樣式> 指定字串做為查詢檔案內容的範本樣式。
-E或--extended-regexp 將範本樣式為延伸的普通表示法來使用。
-f<範本檔案>或--file=<範本檔案> 指定範本檔案,其內容含有一個或多個範本樣式,讓grep查詢符合範本條件的檔案內容,格式為每列一個範本樣式。
-F或--fixed-regexp 將範本樣式視為固定字串的列表。
-G或--basic-regexp 將範本樣式視為普通的表示法來使用。
-h或--no-filename 在顯示符合範本樣式的那一列之前,不標示該列所屬的檔名稱。
-H或--with-filename 在顯示符合範本樣式的那一列之前,表示該列所屬的檔名稱。
-i或--ignore-case 忽略字元大小寫的差別。
-l或--file-with-matches 列出檔案內容符合指定的範本樣式的檔名稱。
-L或--files-without-match 列出檔案內容不符合指定的範本樣式的檔名稱。
-n或--line-number 在顯示符合範本樣式的那一列之前,標示出該列的列數編號。
-q或--quiet或--silent 不顯示任何資訊。
-r或--recursive 此引數的效果和指定“-d recurse”引數相同。
-s或--no-messages 不顯示錯誤資訊。
-v或--revert-match 反轉查詢。
-V或--version 顯示版本資訊。
-w或--word-regexp 只顯示全字符合的列。
-x或--line-regexp 只顯示全列符合的列。
-y 此引數的效果和指定“-i”引數相同。
--help 線上幫助。
6. 例項
要用好grep這個工具,其實就是要寫好正則表示式,下面列幾個例子,講解正則表示式的寫法。
$ ls -l | grep '^a'
通過管道過濾ls -l輸出的內容,只顯示以a開頭的行。
$ grep 'test' d*
顯示所有以d開頭的檔案中包含test的行。
$ grep 'test' aa bb cc
顯示在aa,bb,cc檔案中匹配test的行。
$ grep '[a-z]\{5\}' aa
顯示所有包含每個字串至少有5個連續小寫字元的字串的行。
$ grep 'west.*\1' aa
如果west被匹配,則es就被儲存到記憶體中,並標記為1,然後搜尋任意個字元(.*),這些字元後面緊跟著另外一個es(\1),找到就顯示該行。如果用egrep或grep -E,就不用"\"號進行轉義,直接寫成'w(es)t.*\1'就可以了。
再講解一個具體應用的例子。
查詢所有位於當前目錄下的.cs檔案中的Main,通過grep,可以輕鬆快速地完成這項任務,命令如下:
grep ‘Main’ *.cs
輸出結果為:
ChineseDemo.cs: publicstatic void Main()
RegDemo1.cs: static voidMain(string[] args)
RegDemo2.cs: public static void Main()
RegDemo3.cs: publicstatic void Main()
可見,通過grep真的可以找到相關目錄中符合條件的所有檔案,並能打印出查詢到的字串所位於的那行內容。如果只想確定哪些檔案含有Main,而不需列印相應行的內容,那麼可以使用以下命令:?
grep –l‘Main’ *.cs
輸出結果為:
ChineseDemo.cs
RegDemo1.cs
RegDemo2.cs
RegDemo3.cs
只有相應的檔名稱被顯示。
在找到了含有Main字串的幾個檔案後,如果想粗略地檢視某一具體檔案的裡原始碼的相關資訊,比如檢視RegDemo1.cs檔案中含有Main這一行的前後三行,相關的命令如下:
grep –C 3 ‘Main’ RegDemo1.cs
輸出結果為:
class GroupingApp
{
static void Main(string[] args)
{
Reg7();
}
輸出結果完全符合需求,static void Main(string[] args)這一行前後三行範圍內的所有程式碼被全部打印出來(第一行是空行)。
以上的查詢字串沒有對查詢結果是否為一個完整的單詞進行限制,也就是說TheMain和Main_Func都會被認定為查詢目標。如果想限定該查詢字串為一個完整單詞,那麼可以使用\w引數,相關命令如下:
grep –w‘Main’ *.cs
結果為:
ChineseDemo.cs: publicstatic void Main()
RegDemo1.cs: static voidMain(string[] args)
RegDemo2.cs: publicstatic void Main()
RegDemo3.cs: publicstatic void Main()
另外舉例如下:
1)顯示/etc/passwd中的一位數或兩位數(錨定詞首、記尾、分組、轉義、次數匹配)
2)找出當前系統上使用者名稱和預設shell相同的使用者(行首、行尾錨定)(開始單詞和結束單詞一樣)
3)grep配合其它命令的用法,找出本機的IP地址,只顯示IP段(管道、cut)
[[email protected] ~]# ifconfig eth0 | grep "inet addr:" | cut -d:-f2 | cut -d' ' -f1
192.168.1.102
參考:
4、Linux程式設計第四版
相關推薦
linux萬用字元和正則表示式
1、 萬用字元 萬用字元是shell在做PathnameExpansion時用到的。說白了一般只用於檔名匹配,它是由shell解析的,比如find,ls,cp,mv等。 1、1 Shell常見萬用字元: 萬用字元 含義 例項 * 匹配 0 或多個字元
Linux中的萬用字元和正則表示式
在linux中,有萬用字元和正則表示式,這是兩個不同的概念 萬用字元:它是由shell解析,並且一般用於匹配檔名。如:ls 正則表示式:是一個字元匹配標準,可以匹配文字中的內容 一些命令工具按此標準實現字元匹配,常用於支援正則表示式的工具,如grep,sed等。一般用於匹配檔案中的內
Linux中萬用字元和正則表示式的區別
在看鳥哥的Linux私房菜的時候看到十二章一直強調萬用字元和正則表示式的區別,在我的理解中,兩者貌似是一樣的都是用來匹配的。Google之網上給出的答案是: 在文字過濾工具裡,都是用正則表示式,比如像awk,sed,等,是針對檔案的內容的 而萬用字元多用在檔名上,比如查詢
萬用字元和正則表示式聯絡和區別
以前總是把萬用字元和正則表示式的標誌搞混。最近沒用,又忘記做筆記了。看到一個同學的說說想起自己對於這塊也不熟悉。因此週末特意來補一篇部落格。為自己以後方便,也為大家早點福利。 以下基本出自百度百科,維基百科及網上資料。我負責收集一下。求不吐槽原創
萬用字元和正則表示式
萬用字元過濾 1.like操作符 2.百分號萬用字元(%) 在搜尋串中,%表示任何字元出現的任意次數。%不能匹配null,如like ‘jet%’表示以jet開頭的後面不管多少字元的匹配。 如果區分大小寫查詢,使用binary: select * from `t
Linux 萬用字元 與 正則表示式 的區別與詳解
背景:在linux使用過程中,經常需要查詢檔案,對命令中的萬用字元 pattern 和正則表示式的區分不是很清楚。有必要好好研究一下。 1 掃盲 1.1 萬用字元和正則表示式 當在使用命令列時,有很多時間都用來查詢你所需要的檔案,如 ls find 等。 Sh
Linux Shell的萬用字元與正則表示式
Overview wildcard是由shell處理的, 它只會出現在 command的argument 裡——既不用在 command_name裡, 也不用在 options 上。當在argument中碰到Wildcard時,shell會將其當作路徑或檔名去在磁碟上搜尋可能
Linux(七)輸入輸出重定向結合crontab,萬用字元,正則表示式
目錄 三、管道符 字元匹配 位置匹配 一、輸入輸出重定向 >file //標準輸出重定向到檔案 -------覆蓋 >>file //標準輸出重定向到檔案 -------追加 2>
Elasticsearch中的萬用字元及正則表示式查詢
想要在ES中使用*或者?作為萬用字元進行模糊匹配? 看這篇就對了~ 本文為轉發!!! 轉自:https://blog.csdn.net/dm_vincent/article/details/42024799 wildcard查詢和prefix查詢類似,也是一個基於詞
elasticsearch-wildcard、regexp萬用字元與正則表示式查詢
萬用字元與正則表示式查詢 假設將郵編作為 not_analyzed 的精確值欄位索引,所以可以為其建立索引,如下: PUT /my_index { "mappings": { "address": { "properties
bash萬用字元 shell正則表示式
在linux中 萬用字元是系統命令使用,一般用來匹配檔名或者什麼的用在系統命令中。萬用字元是系統級別的,萬用字元多用在檔名上,比如查詢find,ls,cp,rm 正則表示式是操作字串,以行尾單位來匹
萬用字元與正則表示式(過濾手機號,ip地址)
萬用字元 萬用字元: 鍵盤上的一些符號,在查詢某些檔案時 不知道檔案全名或由於名字太長,不想輸入全名的情況下 常常使用萬用字元 來代替一個或多個字元.(用於匹配符合條件的檔名,完全匹配) *:匹配任意多個字元或者0個字元 ?:任意一個字元 [^]:匹配
萬用字元與正則表示式的關係
關係 首先,先給出關係。 萬用字元 正則表示式 * (.)* ? (.)? . \. 本人在開發中,時常會把正則和萬用字元搞混,甚至一度以為通配是正則的子集。通配是一種簡單的助記符號,功能單一,而正則更為強大和豐富。並且它們之間沒有太大的聯絡,但是可以把萬用字元轉化為正則表
【轉載】萬用字元與正則表示式
字元匹配 .:匹配任意單個字元 *:匹配其前面一個字元出現任意次 ?:匹配其前面的字元1次或0次 +:匹配其前面一個字元出現至少一次(在擴充套件正則表示式中) 位置匹配 ^:錨定行首 $:錨定行尾 \<或\b:錨定詞首,其後面的任意字元必須作為單
Search Everything 利用操作符、萬用字元及正則表示式搜尋
Everything是一款穩定的檔案搜尋軟體,很少更新,我已經使用很多年了。 下面介紹一下如何使用操作符、萬用字元及正則表示式來搜尋以提高查詢效率。 1.如何使用布林操作符(and /or /not)
用Requests和正則表示式爬取豆瓣圖書TOP250
思路和上文大同小異。 import requests from requests.exceptions import RequestException import re import json headers = {'User-Agent':'Mozilla/5.0(Macinto
用Requests和正則表示式爬取貓眼電影(TOP100+最受期待榜)
目標站點分析 目標站點(貓眼榜單TOP100): 如下圖,貓眼電影的翻頁offset明顯在URL中,所以只要搞定第一頁的內容加上一個迴圈加上offset就可以爬取前100。 流程框架 1、抓取單頁內容 利用requests請求目標站點,得到單個網頁HTML程式碼,返回結
Elasticsearch-字首、萬用字元、正則、模糊搜尋詳解
1.對於字首的匹配搜尋: GET /forum/article/_search { "query": { "prefix": { "articleID": { "value": "J" } }
Linux 下用bash shell正則表示式批量處理檔案的應用例項
程式碼檔案頭有版本資訊,下面一段shell指令碼就是用來收索和更新程式碼頭註釋裡面的斑斑資訊的。 從中可以到shell指令碼中以下幾個小技術點是如何運用的: 1. 利用正則表示式分組匹配指定內容 2. 字串的定位,截斷和拼接處理 3. 指定檔案指定行替換指定內容 #!/bi
LINUX學習—grep和正則表示式(LINUX三劍客)
grep, egrep, fgrep grep(GLOBAL RESEARCH) 是一種強大的文字搜尋工具,它能使用正則表示式搜尋文字,並把匹配的行打印出來。根據模式,搜尋文字,並將符合模式的文字行顯示出來。只能使用基本正則表示式 要使用擴充套件正則表示式需要-E pattern