Linux shell 知識心得10 三劍客之awk
阿新 • • 發佈：2021-10-23
三劍客之sed命令
一 awk簡介
awk命名源自於它的三大作者名字的首字母，分別是Alfred Aho、Brian Kernighan、Peter Weinberger。（gawk是awk的GNU版本，它提供了Bell實驗室和GNU的一些擴充套件）。
awk 是一種程式語言，用於在linux/unix下對文字和資料進行處理。資料可以來自標準輸入、一個
或多個檔案，或其它命令的輸出。它支援使用者自定義函式和動態正則表示式等先進功能，是linux/unix
下的一個強大程式設計工具。它在命令列中使用，但更多是作為指令碼來使用。
awk的處理文字和資料的方式是這樣的，它逐行掃描檔案，從第一行到最後一行，尋找匹配的特定
模式的行，並在這些行上進行你想要的操作。如果沒有指定處理動作，則把匹配的行顯示到標準輸出(
螢幕)，如果沒有指定模式，則所有被操作所指定的行都被處理
awk的兩種語法格式
awk [options] 'commands' filename
awk [options] -f awk-script-file filename
awk選項options
-F 定義欄位分隔符，預設的分隔符是空格或製表符(tab)
awk的命令commands總共由三部分組成
BEGIN{} {} END{}
讀所有行之前做的事情 讀一行處理一行 所有讀完之後要做的事情
可以省略BEGIN{} 和END{}，只進行{}行處理，並且{}行處理前可以加匹配，匹配成功後再處理
awk 'pattern' filename 示例：awk -F: '/root/' /etc/passwd awk '{action}' filename 示例：awk -F: '{print $1}' /etc/passwd awk 'pattern{action}' filename 示例：awk -F: '/root/{print $1,$3}' /etc/passwd 示例：awk 'BEGIN{FS=":"} /root/{print $1,$3}' /etc/passwd 其他命令 |awk 'pattern' 其他命令 |awk '{action}' 其他命令 |awk 'pattern{action}' # 匹配pattern可以是：/正則表示式/也可以是條件，如下 示例：df -P |awk '$4 > 999999{print $0}' # 也可以省略{print $0} 模式pattern還可以是其他，詳解第五章節
awk -F: 'BEGIN {print "直譯器\t\t家目錄\n@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@"};{print $NF"\t\t"$(NF-1)};END{print "@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@"}' /etc/passwd
awk 'BEGIN { FS=":"; print "直譯器\t\t家目錄\n@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@"};{print $NF"\t\t"$(NF-1)};END{print "@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@"}' /etc/passwd
awk -F: 'BEGIN{OFS="\t\t"; print "使用者名稱\t\t家目錄\t\t直譯器\n"};{printf "%-20s %-20s %-20s\n",$1,$(NF-1),$NF};END{print ""}' /etc/passwd 注意：若不加END 每行都列印分隔線
二 awk工作原理
awk -F: '{print $1,$3}' /etc/passwd
(1)awk會接收一行作為輸入，並將這一行賦給awk的內部變數$0，每一行也可稱為一個記錄，行的邊界是以換行符作為結束
(2)然後，剛剛讀入的行被以:為分隔符分解成若干欄位（或域），每個欄位儲存在已編號的變數中，編號從$1開始，最多達100個欄位
注意：如果未指定行分隔符，awk將使用內建變數FS的值作為預設的行分隔符，FS預設值為空格
(3)使用print函式列印，如果$1$3之間沒有逗號，它倆在輸出時將貼在一起，應該在$1,$3之間加逗號，該逗號與awk的內建變數OFS保持一致，OFS預設為空格，於是以空格為分隔符輸出$1和$3
我們可以指定：awk -F: 'BEGIN{OFS="-"}{print $1,$3}' /etc/passwd
(4)輸出之後，將從檔案中獲取另一行，然後覆蓋給$0，繼續(2)的步驟將該行內容分隔成欄位。。。繼續(3)的步驟
該過程一直持續到所有行處理完畢
三 記錄與欄位相關內部變數
$0： 儲存當前行的內容 # awk -F: '{print $0}' /etc/passwd
NR： 記錄號，每處理完一條記錄，NR值加1 # awk -F: '{print NR, $0}' /etc/passwd
NF： 儲存記錄的欄位數，$1,$2...$100 # awk -F: '{print $0,NF}' /etc/passwd
FS： 輸入欄位分隔符，預設空格 # awk -F: '/alice/{print $1, $3}' /etc/passwd
# awk -F'[ :\t]' '{print $1,$2,$3}' /etc/passwd
# awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd
OFS：輸出欄位分隔符 # awk -F: '/root/{print $1,$2,$3,$4}' /etc/passwd
# awk -F: 'BEGIN{OFS="+++"} /^root/{print $1,$2,$3,$4}' /etc/passwd
# awk 'BEGIN{OFS="-";FS=":"}/root/{print NR,$0,NF}' /etc/passwd
四 格式化輸出
================print函式===================
[root@egon ~]# date | awk '{print "月:",$2,"\n年:",$1}'
月: 09月
年: 2020年
[root@egon ~]#
[root@egon ~]# awk -F: '{print "使用者名稱:",$1,"使用者id:",$3}' /etc/passwd
================printf函式===================
[root@egon ~]# awk -F: '{printf "使用者名稱:%s 使用者id:%s\n",$1,$3}' /etc/passwd
[root@egon ~]# awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd
%s 字元型別
%d 數值型別
佔15格的字串
- 表示左對齊，預設是右對齊
printf預設不會在行尾自動換行，加\n
五 模式pattern與動作action
awk 'pattern{action}' filename
模式pattern可以是
-
正則表示式
# 匹配整行 awk -F: '/egon/{print $1,$3}' /etc/passwd awk '/^root/' /etc/passwd # 匹配一行的某個欄位 # awk '$0 ~ /^root/' /etc/passwd # awk '$1 ~ /^root/' /etc/passwd # awk '$7 !~ /bash$/' /etc/passwd -
比較表示式
比較表示式指的是使用關係運算符來比較數字以及字串，只有當條件為真，才執行指定的動作 關係運算符 運算子 含義 示例 < 小於 x<y <= 小於或等於 x<=y == 等於 x==y != 不等於 x!=y >= 大於等於 x>=y > 大於 x>y ~ 正則表示式匹配 x~/y/ !~ 正則表示式不匹配 x!~/y/ 示例： # awk -F: '$3 == 0' /etc/passwd # awk -F: '$3 < 10' /etc/passwd # awk -F: '$7 == "/bin/bash"' /etc/passwd # awk -F: '$1 == "root" ' /etc/passwd -
條件表示式
# awk -F: '{if($3>300) {print $0}}' /etc/passwd # awk -F: '{if($3>300) {print $3} else{print $1}}' /etc/passwd # awk -F: '{if($3>300) {max=$3;print max} else{max=$1;print max}}' /etc/passwd # awk -F: '{max=($3>300) ? $3 : $1; print max}' /etc/passwd # awk -F: '{if($3>$4) {max=$3;print max} else{max=$4; print max}}' /etc/passwd # awk -F: '{max=($3 > $4) ? $3: $4; print max}' /etc/passwd 相當於： if ($3 > $4) max=$3 else max=$4 -
算數運算
+ - * / %(模) ^(冪2^3) 可以在模式中執行計算，awk都將按浮點數方式執行算術運算 # awk -F: '$3 * 10 > 500' /etc/passwd -
邏輯運算和複合模式
&& 邏輯與 a&&b || 邏輯或 a||b ! 邏輯非 !a 示例： # awk '$2 > 5 && $2 <= 15' filename # awk '$3 == 100 || $4 > 50' filename # awk '!($2 < 100 && $3 < 20)' filename -
範圍模式
# 正則 awk '/root/,/egon/' filename 說明： awk將顯示從root首次出現的行到egon首次出現的行這個範圍內的所有行，包括兩個邊界在內。如果沒有找到egon，awk將繼續列印各行直至檔案末尾。 如果列印完root到egon的內容之後，又出現了root， awk就又一次開始顯示行，直至找到下一個egon或檔案末尾。 [root@aliyun ~]# cat a.txt 1111root 2222root22222 egon123123123123 4444 5555 6666 root7777 1asf asdfasdf egon 7788 [root@aliyun ~]# awk '/root/,/egon/{print NR,$0}' a.txt 1 1111root 2 2222root22222 3 egon123123123123 7 root7777 8 1asf 9 asdfasdf 10 egon [root@aliyun ~]# # 行號 awk -F: 'NR>=1 && NR <=3{print $1}' test.txt
六 awk示例
# awk '/west/' datafile
# awk '/^north/' datafile
# awk '/^(no|so)/' datafile
# awk '{print $3,$2}' datafile
# awk '{print $3 $2}' datafile
# awk '{print $0}' datafile
# awk '{print "Number of fields: "NF}' datafile
# awk '/northeast/{print $3,$2}' datafile
# awk '/E/' datafile
# awk '/^[ns]/{print $1}' datafile
# awk '$5 ~ /\.[7-9]+/' datafile
# awk '$2 !~ /E/{print $1,$2}' datafile
# awk '$3 ~ /^Joel/{print $3 " is a nice guy."}' datafile
# awk '$8 ~ /[0-9][0-9]$/{print $8}' datafile
# awk '$4 ~ /Chin$/{print "The price is $" $8 "."}' datafile
# awk '/Tj/{print $0}' datafile
# awk '{print $1}' datafile2
# awk -F: '{print $1}' datafile2
# awk '{print "Number of fields: "NF}' datafile2
# awk -F: '{print "Number of fields: "NF}' datafile2
# awk -F"[ :]" '{print $1,$2}' datafile2
# awk '$7 == 5' datafile
# awk '$2 == "CT" {print $1, $2}' datafile
# awk '$7 != 5' datafile
# awk '$7 < 5 {print $4, $7}' datafile
# awk '$6 > .9 {print $1,$6}' datafile
# awk '$8 <= 17 {print $8}' datafile
# awk '$8 >= 17 {print $8}' datafile
# awk '$8 > 10 && $8 < 17' datafile
# awk '$2 == "NW" || $1 ~ /south/ {print $1, $2}' datafile
# awk '!($8 == 13){print $8}' datafile
# awk '/southem/{print $5 + 10}' datafile
# awk '/southem/{print $8 + 10}' datafile
# awk '/southem/{print $5 + 10.56}' datafile
# awk '/southem/{print $8 - 10}' datafile
# awk '/southem/{print $8 / 2 }' datafile
# awk '/southem/{print $8 / 3 }' datafile
# awk '/southem/{print $8 * 2 }' datafile
# awk '/southem/{print $8 % 2 }' datafile
# awk '$3 ~ /^Suan/ {print "Percentage: "$6 + .2 " Volume: " $8}' datafile
# awk '/^western/,/^eastern/' datafile
# awk '{print ($7 > 4 ? "high "$7 : "low "$7)}' datafile //條件運算子
# awk '$3 == "Chris" {$3 = "Christian"; print}' datafile //賦值運算子
# awk '/Derek/ {$8 += 12; print $8}' datafile //$8 += 12等價於$8 = $8 + 12
# awk '{$7 %= 3; print $7}' datafile //$7 %= 3等價於$7 = $7 % 3
七 awk流程控制
＝＝條件判斷
if語句：
格式
{if(表示式)｛語句;語句；...｝}
awk -F: '{if($3==0) print $1 " is administrator."}' /etc/passwd
awk -F: '{if($3>0 && $3<500){count++; print $1}} END{print count}' /etc/passwd //統計系統使用者數
if...else語句:
格式
{if(表示式)｛語句;語句;...｝else｛語句;語句;...}}
awk -F: '{if($3==0){print $1} else {print $7}}' /etc/passwd
awk -F: '{if($3>0) {count++} else{i++}' /etc/passwd
awk -F: '{if($3>0){count++} else{i++}} END{print "管理員個數: "i "\n系統使用者數: "count}' /etc/passwd
if...else if...else語句：
格式
{if(表示式)｛語句;語句；...｝else if(表示式)｛語句;語句；...｝else if(表示式)｛語句;語句；...｝else｛語句;語句；...｝}
awk -F: '{if($3==0){i++} else if($3>499){k++} else{j++}} END{print i; print k; print j}' /etc/passwd
awk -F: '{if($3==0){i++} else if($3>499){k++} else{j++}} END{print "管理員個數: "i; print "普通用個數: "k; print "系統使用者: "j}' /etc/passwd
＝＝迴圈
while:
awk -F: '{i=1; while(i<=10) {print $0; i++}}' /etc/passwd //將每行列印10次
for:
awk -F: '{for(i=1;i<=10;i++) print $0}' /etc/passwd //將每行列印10次
＝＝陣列(索引或key對應值)
# awk -F: '{username[++i]=$1} END{print username[1]}' /etc/passwd
root
# awk -F: '{username[i++]=$1} END{print username[1]}' /etc/passwd
bin
# awk -F: '{username[i++]=$1} END{print username[0]}' /etc/passwd
root
# awk -F: '{username[x++]=$1} END{for(i=0;i<NR;i++) print i,username[i]}' /etc/passwd
0 root
1 bin
2 daemon
3 adm
4 lp
5 sync
6 shutdown
7 halt
...
# awk -F: 'BEGIN{x=1} {user[x++]=$1} END{for(i=1;i<=NR;i++) {print i,user[i]} }' /etc/passwd
# awk -F: 'BEGIN{j=1} {if($3<5){user[j++]=$1}} END{for(i=1;i<j;i++) {print i,user[i]} }' /etc/passwd
# awk -F: 'BEGIN{i=1} {username[i]=$1;i++}'
# awk -F: 'BEGIN{i=1} $3<10{username[i]=$1;++i} END{for(j=1;j<i;j++){print j,username[j]}}' /etc/passwd
1 root
2 bin
3 daemon
4 adm
5 lp
6 sync
7 shutdown
8 halt
9 mail
10 admin
========================================================
# awk -F: '{username[++x]=$1} END{for(i=1;i<=NR;i++) {print i,username[i]}}' passwd1
1 root
2 bin
3 daemon
4 adm
5 lp
6 sync
7 shutdown
8 halt
9 mail
10 uucp
# awk -F: '{username[++x]=$1} END{for(i in username) {print username[i]} }' passwd1
adm
lp
sync
shutdown
halt
mail
uucp
root
bin
daemon
》》》》》》》》》》》》key：value《《《《《《《《《《《《
# awk -F: '{user_id[$1]=$3} END{for(i in user_id) {print i,user_id[i]}}' passwd1
bin 1
uucp 10
mail 8
sync 5
shutdown 6
adm 3
daemon 2
halt 7
root 0
lp 4
========================================================
統計使用者名稱為4個字元的使用者：
[root@aliyun ~]# awk -F: '$1~/^....$/{count++; print $1} END{print "count is: " count}' /etc/passwd
root
sync
halt
mail
news
uucp
nscd
vcsa
pcap
sshd
dbus
jack
count is: 12
[root@aliyun ~]# awk -F: 'length($1)==4{count++; print $1} END{print "count is: "count}' /etc/passwd
root
sync
halt
mail
news
uucp
nscd
vcsa
pcap
sshd
dbus
jack
count is: 12
作業
1. 取得網絡卡IP（除ipv6以外的所有IP）
2. 獲得記憶體使用情況
3. 獲得磁碟使用情況
4. 清空本機的ARP快取
5. 打印出/etc/hosts檔案的最後一個欄位（按空格分隔）
6. 列印指定目錄下的目錄名
[root@aliyun dir1]# arp -a |awk -F"[()]" '{print "arp -d", $2}'
arp -d 192.168.2.26
arp -d 192.168.2.44
arp -d 192.168.2.28
arp -d 192.168.2.130
arp -d 192.168.2.90
arp -d 192.168.2.18
arp -d 192.168.2.129
[root@aliyun dir1]# arp -a |awk -F"[()]" '{print "arp -d " $2}' |sh
[root@aliyun ~]# awk -F: '{print $7}' /etc/passwd
[root@aliyun ~]# awk -F: '{print $NF}' /etc/passwd
[root@aliyun ~]# awk -F: '{print $(NF-1)}' /etc/passwd
[root@aliyun ~]# ll |grep '^d'
drwxr-xr-x 104 root root 12288 09-22 05:37 192.168.0.48
drwxr-xr-x 2 root root 4096 10-30 15:47 apache_log
drwxr-xr-x 2 root root 4096 10-30 15:23 awk
drwxr-xr-x 2 root root 4096 10-24 09:09 Desktop
drwxr-xr-x 12 root root 4096 10-08 06:12 LEMP_Soft
drwxr-xr-x 2 root root 4096 10-24 07:38 scripts
drwxr-xr-x 6 root root 4096 2012-03-29 uplayer
drwxr-xr-x 7 root root 4096 10-23 04:53 vmware
[root@aliyun ~]#
[root@aliyun ~]# ll |grep '^d' |awk '{print $NF}'
192.168.0.48
apache_log
awk
Desktop
LEMP_Soft
scripts
uplayer
vmware
awk指令碼：
user1.awk
BEGIN {
FS=":"
}
{
if($3==0){
print $1
}
else{
print $7
}
}
user2.awk
BEGIN{
FS=":"
OFS="\t\t"
print "username\tuid"
print "-------------------"
}
{if($3==0){
print $1,$3;i++
}
}
END{
print "-------------------"
print "total users is: "i
}
八 練習題
已知一個變數 msg="I am a teacher, my name is egon"，列印字元長度小於3的單詞
# 方式一：
[root@egon /]# for i in $msg;do [ ${#i} -lt 3 ] && echo $i;done
I
am
a
my
is
# 方式二：
[root@egon /]# echo $msg |xargs -n1 |awk '{if(length<3) print}'
I
am
a
my
is
# 方式三：
[root@egon /]# echo $msg |awk '{for(i=1;i<=NF;i++) if(length($i)<3) print $i}'
I
am
a
my
is
# 方式四：
[root@egon /]# echo $msg |egrep -wo '[a-z]{1,3}'
am
a
my
is