1. 程式人生 > >《SED 單行指令碼快速參考》的 awk 實現

《SED 單行指令碼快速參考》的 awk 實現

sed 和 awk 都是 Linux 下常用的流編輯器,他們各有各的特色,本文並不是要做什麼對比,而是權當好玩,把《SED 單行指令碼快速參考》這文章,用 awk 做了一遍~ 至於孰好孰壞,那真是很難評論了。一般來說,sed 的命令會更短小一些,同時也更難讀懂;而 awk 稍微長點,但是 if、while 這樣的,邏輯性比較強,更加像“程式”。到底喜歡用哪個,就讓各位看官自己決定吧!

文字間隔:

# 在每一行後面增加一空行

sed G
awk '{printf("%s\n\n",$0)}'

# 將原來的所有空行刪除並在每一行後面增加一空行。
# 這樣在輸出的文字中每一行後面將有且只有一空行。

sed '/^$/d;G'
awk '!/^$/{printf("%s\n\n",$0)}'

# 在每一行後面增加兩行空行

sed 'G;G'
awk '{printf("%s\n\n\n",$0)}'

# 將第一個指令碼所產生的所有空行刪除(即刪除所有偶數行)

sed 'n;d'
awk '{f=!f;if(f)print $0}'

# 在匹配式樣“regex”的行之前插入一空行

sed '/regex/{x;p;x;}'
awk '{if(/regex/)printf("\n%s\n",$0);else print $0}'

# 在匹配式樣“regex”的行之後插入一空行

sed '/regex/G'
awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'

# 在匹配式樣“regex”的行之前和之後各插入一空行

sed '/regex/{x;p;x;G;}'
awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'

編號:

# 為檔案中的每一行進行編號(簡單的左對齊方式)。這裡使用了“製表符”
# (tab,見本文末尾關於’\t’的用法的描述)而不是空格來對齊邊緣。

sed = filename | sed 'N;s/\n/\t/'
awk '{i++;printf("%d\t%s\n",i,$0)}'

# 對檔案中的所有行編號(行號在左,文字右端對齊)。

sed = filename | sed 'N; s/^/     /; s/ *\(.\{6,\}\)\n/\1  /'
awk '{i++;printf("%6d  %s\n",i,$0)}'

# 對檔案中的所有行編號,但只顯示非空白行的行號。

sed '/./=' filename | sed '/./N; s/\n/ /'
awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'

# 計算行數 (模擬 “wc -l”)

sed -n '$='
awk '{i++}END{print i}'

文字轉換和替代:

# Unix環境:轉換DOS的新行符(CR/LF)為Unix格式。

sed 's/.$//'                     # 假設所有行以CR/LF結束
sed 's/^M$//'                    # 在bash/tcsh中,將按Ctrl-M改為按Ctrl-V
sed 's/\x0D$//'                  # ssed、gsed 3.02.80,及更高版本
awk '{sub(/\x0D$/,"");print $0}'

# Unix環境:轉換Unix的新行符(LF)為DOS格式。

sed "s/$/`echo -e \\\r`/"        # 在ksh下所使用的命令
sed 's/$'"/`echo \\\r`/"         # 在bash下所使用的命令
sed "s/$/`echo \\\r`/"           # 在zsh下所使用的命令
sed 's/$/\r/'                    # gsed 3.02.80 及更高版本
awk '{printf("%s\r\n",$0)}'

# DOS環境:轉換Unix新行符(LF)為DOS格式。

sed "s/$//"                      # 方法 1
sed -n p                         # 方法 2

DOS環境的略過

# DOS環境:轉換DOS新行符(CR/LF)為Unix格式。
# 下面的指令碼只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的
# sed可以通過其特有的“–text”選項。你可以使用幫助選項(“–help”)看
# 其中有無一個“–text”項以此來判斷所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed則無法進行這一轉換。但可以用“tr”來實現這一轉換。

sed "s/\r//" infile >outfile     # UnxUtils sed v4.0.7 或更高版本
tr -d \r <infile >outfile        # GNU tr 1.22 或更高版本

DOS環境的略過

# 將每一行前導的“空白字元”(空格,製表符)刪除
# 使之左對齊

sed 's/^[ \t]*//'                # 見本文末尾關於'\t'用法的描述
awk '{sub(/^[ \t]+/,"");print $0}'

# 將每一行拖尾的“空白字元”(空格,製表符)刪除

sed 's/[ \t]*$//'                # 見本文末尾關於'\t'用法的描述
awk '{sub(/[ \t]+$/,"");print $0}'

# 將每一行中的前導和拖尾的空白字元刪除

sed 's/^[ \t]*//;s/[ \t]*$//'
awk '{sub(/^[ \t]+/,"");sub(/[ \t]+$/,"");print $0}'

# 在每一行開頭處插入5個空格(使全文向右移動5個字元的位置)

sed 's/^/     /'
awk '{printf("     %s\n",$0)}'

# 以79個字元為寬度,將所有文字右對齊
# 78個字元外加最後的一個空格

sed -e :a -e 's/^.\{1,78\}$/ &/;ta'
awk '{printf("%79s\n",$0)}'

# 以79個字元為寬度,使所有文字居中。在方法1中,為了讓文字居中每一行的前
# 頭和後頭都填充了空格。 在方法2中,在居中文字的過程中只在文字的前面填充
# 空格,並且最終這些空格將有一半會被刪除。此外每一行的後頭並未填充空格。

sed  -e :a -e 's/^.\{1,77\}$/ & /;ta'                     # 方法1
sed  -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/'  # 方法2
awk '{for(i=0;i<39-length($0)/2;i++)printf(" ");printf("%s\n",$0)}'  #相當於上面的方法二

# 在每一行中查詢字串“foo”,並將找到的“foo”替換為“bar”

sed 's/foo/bar/'                 # 只替換每一行中的第一個“foo”字串
sed 's/foo/bar/4'                # 只替換每一行中的第四個“foo”字串
sed 's/foo/bar/g'                # 將每一行中的所有“foo”都換成“bar”
sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替換倒數第二個“foo”
sed 's/\(.*\)foo/\1bar/'            # 替換最後一個“foo”
awk '{gsub(/foo/,"bar");print $0}'   # 將每一行中的所有“foo”都換成“bar”

# 只在行中出現字串“baz”的情況下將“foo”替換成“bar”

sed '/baz/s/foo/bar/g'
awk '{if(/baz/)gsub(/foo/,"bar");print $0}'

# 將“foo”替換成“bar”,並且只在行中未出現字串“baz”的情況下替換

sed '/baz/!s/foo/bar/g'
awk '{if(/baz$/)gsub(/foo/,"bar");print $0}'

# 不管是“scarlet”“ruby”還是“puce”,一律換成“red”

sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g'  #對多數的sed都有效
gsed 's/scarlet\|ruby\|puce/red/g'               # 只對GNU sed有效
awk '{gsub(/scarlet|ruby|puce/,"red");print $0}'

# 倒置所有行,第一行成為最後一行,依次類推(模擬“tac”)。
# 由於某些原因,使用下面命令時HHsed v1.5會將檔案中的空行刪除

sed '1!G;h;$!d'               # 方法1
sed -n '1!G;h;$p'             # 方法2
awk '{A[i++]=$0}END{for(j=i-1;j>=0;j--)print A[j]}'

# 將行中的字元逆序排列,第一個字成為最後一字,……(模擬“rev”)

sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'
awk '{for(i=length($0);i>0;i--)printf("%s",substr($0,i,1));printf("\n")}'

# 將每兩行連線成一行(類似“paste”)

sed '$!N;s/\n/ /'
awk '{f=!f;if(f)printf("%s",$0);else printf(" %s\n",$0)}'

# 如果當前行以反斜槓“\”結束,則將下一行併到當前行末尾
# 並去掉原來行尾的反斜槓

sed -e :a -e '/\\$/N; s/\\\n//; ta'
awk '{if(/\\$/)printf("%s",substr($0,0,length($0)-1));else printf("%s\n",$0)}'

# 如果當前行以等號開頭,將當前行併到上一行末尾
# 並以單個空格代替原來行頭的“=”

sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
awk '{if(/^=/)printf(" %s",substr($0,2));else printf("%s%s",a,$0);a="\n"}END{printf("\n")}'

# 為數字字串增加逗號分隔符號,將“1234567”改為“1,234,567”

gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta'                     # GNU sed
sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta'  # 其他sed

#awk的正則沒有後向匹配和引用,搞的比較狼狽,呵呵。

awk '{while(match($0,/[0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'

# 為帶有小數點和負號的數值增加逗號分隔符(GNU sed)

gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'

#和上例差不多

awk '{while(match($0,/[^\.0-9][0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'

# 在每5行後增加一空白行 (在第5,10,15,20,等行後增加一空白行)

gsed '0~5G'                      # 只對GNU sed有效
sed 'n;n;n;n;G;'                 # 其他sed
awk '{print $0;i++;if(i==5){printf("\n");i=0}}'

選擇性地顯示特定行:

# 顯示檔案中的前10行 (模擬“head”的行為)

sed 10q
awk '{print;if(NR==10)exit}'

# 顯示檔案中的第一行 (模擬“head -1”命令)

sed q
awk '{print;exit}'

# 顯示檔案中的最後10行 (模擬“tail”)

sed -e :a -e '$q;N;11,$D;ba'

#用awk幹這個有點虧,得全文快取,對於大檔案肯定很慢

awk '{A[NR]=$0}END{for(i=NR-9;i<=NR;i++)print A[i]}'

# 顯示檔案中的最後2行(模擬“tail -2”命令)

sed '$!N;$!D'
awk '{A[NR]=$0}END{for(i=NR-1;i<=NR;i++)print A[i]}'

# 顯示檔案中的最後一行(模擬“tail -1”)

sed '$!d'                        # 方法1
sed -n '$p'                      # 方法2

#這個比較好辦,只存最後一行了。

awk '{A=$0}END{print A}'

# 顯示檔案中的倒數第二行

sed -e '$!{h;d;}' -e x              # 當檔案中只有一行時,輸出空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x  # 當檔案中只有一行時,顯示該行
sed -e '1{$d;}' -e '$!{h;d;}' -e x  # 當檔案中只有一行時,不輸出

#存兩行唄(當檔案中只有一行時,輸出空行)

awk '{B=A;A=$0}END{print B}'

# 只顯示匹配正則表示式的行(模擬“grep”)

sed -n '/regexp/p'               # 方法1
sed '/regexp/!d'                 # 方法2
awk '/regexp/{print}'

# 只顯示“不”匹配正則表示式的行(模擬“grep -v”)

sed -n '/regexp/!p'              # 方法1,與前面的命令相對應
sed '/regexp/d'                  # 方法2,類似的語法
awk '!/regexp/{print}'

# 查詢“regexp”並將匹配行的上一行顯示出來,但並不顯示匹配行

sed -n '/regexp/{g;1!p;};h'
awk '/regexp/{print A}{A=$0}'

# 查詢“regexp”並將匹配行的下一行顯示出來,但並不顯示匹配行

sed -n '/regexp/{n;p;}'
awk '{if(A)print;A=0}/regexp/{A=1}'

# 顯示包含“regexp”的行及其前後行,並在第一行之前加上“regexp”所在行的行號 (類似“grep -A1 -B1”)

sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
awk '{if(F)print;F=0}/regexp/{print NR;print b;print;F=1}{b=$0}'

# 顯示包含“AAA”、“BBB”和“CCC”的行(任意次序)

sed '/AAA/!d; /BBB/!d; /CCC/!d'   # 字串的次序不影響結果
awk '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'

# 顯示包含“AAA”、“BBB”和“CCC”的行(固定次序)

sed '/AAA.*BBB.*CCC/!d'
awk '{if(match($0,/AAA.*BBB.*CCC/))print}'

# 顯示包含“AAA”“BBB”或“CCC”的行 (模擬“egrep”)

sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d    # 多數sed
gsed '/AAA\|BBB\|CCC/!d'                        # 對GNU sed有效
awk '/AAA/{print;next}/BBB/{print;next}/CCC/{print}'
awk '/AAA|BBB|CCC/{print}'

# 顯示包含“AAA”的段落 (段落間以空行分隔)
# HHsed v1.5 必須在“x;”後加入“G;”,接下來的3個指令碼都是這樣

sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
awk 'BEGIN{RS=""}/AAA/{print}'
awk -vRS= '/AAA/{print}'

# 顯示包含“AAA”“BBB”和“CCC”三個字串的段落 (任意次序)

sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
awk -vRS= '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'

# 顯示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 (任意次序)

sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d'         # 只對GNU sed有效
awk -vRS= '/AAA|BBB|CCC/{print "";print}'

# 顯示包含65個或以上字元的行

sed -n '/^.\{65\}/p'

cat ll.txt | awk '{if(length($0)>=65)print}'

# 顯示包含65個以下字元的行

sed -n '/^.\{65\}/!p'            # 方法1,與上面的指令碼相對應
sed '/^.\{65\}/d'                # 方法2,更簡便一點的方法
awk '{if(length($0)<=65)print}'

# 顯示部分文字——從包含正則表示式的行開始到最後一行結束

sed -n '/regexp/,$p'
awk '/regexp/{F=1}{if(F)print}'

# 顯示部分文字——指定行號範圍(從第8至第12行,含8和12行)

sed -n '8,12p'                   # 方法1
sed '8,12!d'                     # 方法2
awk '{if(NR>=8 && NR<12)print}'

# 顯示第52行

sed -n '52p'                     # 方法1
sed '52!d'                       # 方法2
sed '52q;d'                      # 方法3, 處理大檔案時更有效率
awk '{if(NR==52){print;exit}}'

# 從第3行開始,每7行顯示一次

gsed -n '3~7p'                   # 只對GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}'     # 其他sed
awk '{if(NR==3)F=1}{if(F){i++;if(i%7==1)print}}'

# 顯示兩個正則表示式之間的文字(包含)

sed -n '/Iowa/,/Montana/p'       # 區分大小寫方式
awk '/Iowa/{F=1}{if(F)print}/Montana/{F=0}'

選擇性地刪除特定行:

# 顯示通篇文件,除了兩個正則表示式之間的內容

sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'

# 刪除檔案中相鄰的重複行(模擬“uniq”)
# 只保留重複行中的第一行,其他行刪除

sed '$!N; /^\(.*\)\n\1$/!P; D'
awk '{if($0!=B)print;B=$0}'

# 刪除檔案中的重複行,不管有無相鄰。注意hold space所能支援的快取大小,或者使用GNU sed。

sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'  #bones7456注:我這裡此命令並不能正常工作
awk '{if(!($0 in B))print;B[$0]=1}'

# 刪除除重複行外的所有行(模擬“uniq -d”)

sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'
awk '{if($0==B && $0!=l){print;l=$0}B=$0}'

# 刪除檔案中開頭的10行

sed '1,10d'
awk '{if(NR>10)print}'

# 刪除檔案中的最後一行

sed '$d'

#awk在過程中並不知道檔案一共有幾行,所以只能通篇快取,大檔案可能不適合,下面兩個也一樣

awk '{B[NR]=$0}END{for(i=0;i<=NR-1;i++)print B[i]}'

# 刪除檔案中的最後兩行

sed 'N;$!P;$!D;$d'
awk '{B[NR]=$0}END{for(i=0;i<=NR-2;i++)print B[i]}'

# 刪除檔案中的最後10行

sed -e :a -e '$d;N;2,10ba' -e 'P;D'   # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba'  # 方法2
awk '{B[NR]=$0}END{for(i=0;i<=NR-10;i++)print B[i]}'

# 刪除8的倍數行

gsed '0~8d'                           # 只對GNU sed有效
sed 'n;n;n;n;n;n;n;d;'                # 其他sed
awk '{if(NR%8!=0)print}' |head

# 刪除匹配式樣的行

sed '/pattern/d'                      # 刪除含pattern的行。當然pattern可以換成任何有效的正則表示式
awk '{if(!match($0,/pattern/))print}'

# 刪除檔案中的所有空行(與“grep ‘.’ ”效果相同)

sed '/^$/d'                           # 方法1
sed '/./!d'                           # 方法2
awk '{if(!match($0,/^$/))print}'

# 只保留多個相鄰空行的第一行。並且刪除檔案頂部和尾部的空行。
# (模擬“cat -s”)

sed '/./,/^$/!d'        #方法1,刪除檔案頂部的空行,允許尾部保留一空行
sed '/^$/N;/\n$/D'      #方法2,允許頂部保留一空行,尾部不留空行
awk '{if(!match($0,/^$/)){print;F=1}else{if(F)print;F=0}}'  #同上面的方法2

# 只保留多個相鄰空行的前兩行。

sed '/^$/N;/\n$/N;//D'
awk '{if(!match($0,/^$/)){print;F=0}else{if(F<2)print;F++}}'

# 刪除檔案頂部的所有空行

sed '/./,$!d'
awk '{if(F || !match($0,/^$/)){print;F=1}}'

# 刪除檔案尾部的所有空行

sed -e :a -e '/^\n*$/{$d;N;ba' -e '}'  # 對所有sed有效
sed -e :a -e '/^\n*$/N;/\n$/ba'        # 同上,但只對 gsed 3.02.*有效
awk '/^.+$/{for(i=l;i<NR-1;i++)print "";print;l=NR}'

# 刪除每個段落的最後一行

sed -n '/^$/{p;h;};/./{x;/./p;}'

#很長,很ugly,應該有更好的辦法

awk -vRS= '{B=$0;l=0;f=1;while(match(B,/\n/)>0){print substr(B,l,RSTART-l-f);l=RSTART;sub(/\n/,"",B);f=0};print ""}'

特殊應用:

# 移除手冊頁(man page)中的nroff標記。在Unix System V或bash shell下使
# 用’echo’命令時可能需要加上 -e 選項。

sed "s/.`echo \\\b`//g"    # 外層的雙括號是必須的(Unix環境)
sed 's/.^H//g'             # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/.\x08//g'           # sed 1.5,GNU sed,ssed所使用的十六進位制的表示方法
awk '{gsub(/.\x08/,"",$0);print}'

# 提取新聞組或 e-mail 的郵件頭

sed '/^$/q'                # 刪除第一行空行後的所有內容
awk '{print}/^$/{exit}'

# 提取新聞組或 e-mail 的正文部分

sed '1,/^$/d'              # 刪除第一行空行之前的所有內容
awk '{if(F)print}/^$/{F=1}'

# 從郵件頭提取“Subject”(標題欄欄位),並移除開頭的“Subject:”字樣

sed '/^Subject: */!d; s///;q'
awk '/^Subject:.*/{print substr($0,10)}/^$/{exit}'

# 從郵件頭獲得回覆地址

sed '/^Reply-To:/q; /^From:/h; /./d;g;q'

#好像是輸出第一個Reply-To:開頭的行?From是幹啥用的?不清楚規則。。

awk '/^Reply-To:.*/{print;exit}/^$/{exit}'

# 獲取郵件地址。在上一個指令碼所產生的那一行郵件頭的基礎上進一步的將非電郵地址的部分剃除。(見上一指令碼)

sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'

#取尖括號裡的東西吧?

awk -F'[<>]+' '{print $2}'

# 在每一行開頭加上一個尖括號和空格(引用資訊)

sed 's/^/> /'
awk '{print "> " $0}'

# 將每一行開頭處的尖括號和空格刪除(解除引用)

sed 's/^> //'
awk '/^> /{print substr($0,3)}'

# 移除大部分的HTML標籤(包括跨行標籤)

sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
awk '{gsub(/<[^>]*>/,"",$0);print}'

# 將分成多卷的uuencode檔案解碼。移除檔案頭資訊,只保留uuencode編碼部分。
# 檔案必須以特定順序傳給sed。下面第一種版本的指令碼可以直接在命令列下輸入;
# 第二種版本則可以放入一個帶執行許可權的shell指令碼中。(由Rahul Dhesi的一
# 個指令碼修改而來。)

sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode   # vers. 1
sed '/^end/,/^begin/d' "[email protected]" | uudecode                    # vers. 2

#我不想裝個uudecode驗證,大致寫個吧

awk '/^end/{F=0}{if(F)print}/^begin/{F=1}' file1 file2 ... fileX

# 將檔案中的段落以字母順序排序。段落間以(一行或多行)空行分隔。GNU sed使用
# 字元“\v”來表示垂直製表符,這裡用它來作為換行符的佔位符——當然你也可以
# 用其他未在檔案中使用的字元來代替它。

sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'
gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'
awk -vRS= '{gsub(/\n/,"\v",$0);print}' ll.txt | sort | awk '{gsub(/\v/,"\n",$0);print;print ""}'

# 分別壓縮每個.TXT檔案,壓縮後刪除原來的檔案並將壓縮後的.ZIP檔案
# 命名為與原來相同的名字(只是副檔名不同)。(DOS環境:“dir /b”
# 顯示不帶路徑的檔名)。

echo @echo off >zipup.bat
dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat

DOS 環境再次略過,而且我覺得這裡用 bash 的引數 ${i%.TXT}.zip 替換更帥。

下面的一些 SED 說明略過,需要的朋友自行檢視原文。

Source. Thanks bones7456. }