Linux生產環境上,最常用的一套“Sed“技巧
sed
命令應用廣泛,使用簡單,是快速文字處理的利器。它其實沒多少技巧,背誦、使用是最合適的學習渠道,屬於硬技能。但它又很複雜,因為高階功能太多。本篇不去關注sed的高階功能,僅對常用的一些操作,進行說明。
隨著使用,你會發現它和vim
的一些理念是想通的,正則表示式的語法也基本上一樣,並沒有多少學習成本。從個人視野和工作效率上來看,sed命令都是程式設計師必須掌握的一個重要工具。
那些說可以現場google用法的,大多習慣將文字拷貝到excel裡,慢慢磨洋工,遇到大批量檔案更是手忙腳亂。不是一家人不進一家門,本文不是為你寫的。
一個簡單的入門
如圖,一個簡單的sed命令包含三個主要部分:引數
範圍
、操作
。要操作的檔案,可以直接掛在命令列的最後。除了命令列,sed也可以通過-f引數指定一個sed指令碼,這個屬於高階用法,不做過多描述。
有些示例命令我會重複多次,聰明如你一定能發現其中規律,有時連解釋都用不著。
引數
-n這個引數是--quiet
或者--silent
的意思。表明忽略執行過程的輸出,只輸出我們的結果即可。
我們常用的還有另外一個引數 :-i
。
使用此引數後,所有改動將在原檔案上執行。你的輸出將覆蓋原檔案。非常危險,一定要注意。
範圍
1,4表示找到檔案中1,2,3,4行的內容。
這個範圍的指定很有靈性,請看以下示例(請自行替換圖中的範圍部分)。
5選擇第5行。
2,5選擇2到5行,共4行。
1~2選擇奇數行。
2~2選擇偶數行。
2,+3和2,5
的效果是一樣的,共4行。
2,$從第二行到檔案結尾。
範圍的選擇還可以使用正則匹配。請看下面示例。
/sys/,+3選擇出現sys字樣的行,以及後面的三行。
/\^sys/,/mem/選擇以sys開頭的行,和出現mem字樣行之間的資料。
為了直觀,下面的命令一一對應上面的介紹,範圍和操作之間是可以有空格的。
sed -n '5p' file
sed -n '2,5 p' file
sed -n '1~2 p' file
sed -n '2~2 p' file
sed -n '2,+3p' file
sed -n '2,$ p' file
sed -n '/sys/,+3 p' file
sed -n '/^sys/,/mem/p' file
操作
最常用的操作就是p
,意思就是列印。比如,以下兩個命令就是等同的:
cat file
sed -n 'p' file
除了列印,還有以下操作,我們來說常用的。
p對匹配內容進行列印。
d對匹配內容進行刪除。這個時候就要去掉-n
引數了,想想為什麼。
w將匹配內容寫入到其他地方。
a
,i
,c
等操作雖基本但使用少,不做介紹。我們依然拿一些命令來說明。
sed -n '2,5 p' file
sed '2,5 d' file
sed -n '2,5 w output.txt' file
我們來看一下sed命令都能幹些啥,上點命令體驗一下。
刪除所有#開頭的行和空行。
sed -e 's/#.*//' -e '/^$/ d' file
最常用的,比如下面這個。
sed -n '2p' /etc/group
表示列印group檔案中的第二行。
1、引數部分 比如 -n
2、模式部分 比如'2p'
3、檔案,比如/etc/group
那麼我想一次執行多個命令,還不想寫sed指令碼檔案怎麼辦?那就需要加-e引數。
sed的操作單元是行
。
替換模式
以上是sed
命令的常用匹配模式,但它還有一個強大的替換模式,意思就是查詢替換其中的某些值,並輸出結果。使用替換模式很少使用-n
引數。
替換模式的引數有點多,但第一部分和第五部分都是可以省略的。替換後會將整個文字輸出出來。
前半部分用來匹配一些範圍,而後半部分執行替換的動作。
範圍
這個範圍和上面的範圍語法類似。看下面的例子。
/sys/,+3選擇出現sys字樣的行,以及後面的三行。
/\^sys/,/mem/選擇以sys開頭的行,和出現mem字樣行之間的資料。
具體命令為:
sed '/sys/,+3 s/a/b/g' file
sed '/^sys/,/mem/s/a/b/g' file
命令
這裡的命令是指s。也就是substitute的意思。
查詢匹配
查詢部分會找到要被替換的字串。這部分可以接受純粹的字串,也可以接受正則表示式。看下面的例子。
a查詢範圍行中的字串
a
。
[a,b,c]從範圍行裡查詢字串a或者b或者c。
命令類似:
sed 's/a/b/g' file
sed 's/[a,b,c]/<&>/g' file#這個命令我們下面解釋
替換
是時候把找出的字串給替換掉了。本部分的內容將替換查詢匹配部分找到的內容。
可惜的是,這部分不能使用正則。常用的就是精確替換。比如把a替換成b。
但也有高階功能。和java或者python的正則api類似,sed的替換同樣有Matched Pattern
的含義,同樣可以得到Group,不深究。常用的替位符,就是&
。
&
號,再重複一遍。當它用在替換字串中的時候,代表的是原始的查詢匹配資料。
[&]表明將查詢到的資料使用[]包圍起來。
“&”表明將查詢的資料使用””包圍起來。
下面這條命令,將會把檔案中的每一行,使用引號包圍起來。
sed 's/.*/"&"/' file
flag 引數
這些引數可以單個使用,也可以使用多個,僅介紹最常用的。
g預設只匹配行中第一次出現的內容,加上g,就可以全文替換了。常用。
p當使用了-n
引數,p
將僅輸出匹配行內容。
w和上面的w模式類似,但是它僅僅輸出有變換的行。
i這個引數比較重要,表示忽略大小寫。
e表示將輸出的每一行,執行一個命令。不建議使用,可以使用xargs配合完成這種功能。
看兩個命令的語法:
sed -n 's/a/b/gipw output.txt' file
sed 's/^/ls -la/e' file
好玩
由於正則的關係,很多字元需要轉義。你會在腳本里做些很多\\
,\*
之類的處理。你可以使用|^@!
四個字元來替換\
。
比如,下面五個命令是一樣的。
sed '/aaa/s/\/etc/\/usr/g' file
sed '/aaa/s@/etc@/usr@g' file
sed '/aaa/s^/etc^/usr^g' file
sed '/aaa/s|/etc|/usr|g' file
sed '/aaa/s!/etc!/usr!g' file
注意:前半部分的範圍是不能使用這種方式的。我習慣使用符號@
。
其他
正則表示式
可以看到,正則表示式在命令列中無處不在。以下,緊做簡要說明。
^行首
$行尾
.單個字元
*0個或者多個匹配
+1個或者多個匹配
?0個或者1個匹配
{m}前面的匹配重複m次
{m,n}前面的匹配重複m到n次
\轉義字元
[0-9]匹配括號中的任何一個字元,or的作用
| or,或者
\b匹配一個單詞。比如\blucky\b
只匹配單詞lucky
引數i
上面已經簡單介紹了引數i,它的作用是讓操作在原檔案執行。無論你執行了啥,原始檔案都將會被覆蓋。這是非常危險的。
通過加入一個引數,可以將原檔案做個備份。
sed -i.bak 's/a/b/' file
以上命令會對原file檔案生效,並生成一個file.bak檔案。強烈建議使用i引數同時指定bak檔案。
表演一下
我們通過兩個命令,來稍微看下sed和其他命令組合起來的威力。
輸出長度不小於50個字元的行
sed -n '/^.{50}/p'
統計檔案中有每個單詞出現了多少次
sed 's/ /\n/g' file | sort | uniq -c
查詢目錄中的py檔案,刪掉所有行級註釋
find ./ -name "*.py" | xargs sed -i.bak '/^[ ]*#/d'
檢視第5-7行和10-13行
sed -n -e '5,7p' -e '10,13p' file
僅輸出ip地址
ip route show | sed -n '/src/p' | sed -e 's/ */ /g' | cut -d' ' -f9