Linux shell讀取檔案
在Linux中有很多方法逐行讀取一個檔案的方法,其中最常用的就是下面的腳本里的方法,而且是效率最高,使用最多的方法。為了給大家一個直觀的感受,我們將通過生成一個大的檔案的方式來檢驗各種方法的執行效率。
方法1:while迴圈中執行效率最高,最常用的方法。
function while_read_LINE_bottm(){
While read LINE
do
echo $LINE
done < $FILENAME
}
註釋:我習慣把這種方式叫做read釜底抽薪,因為這種方式在結束的時候需要執行檔案,就好像是執行完的時候再把檔案讀進去一樣。
方法2 : 重定向法;管道法: cat $FILENAME | while read LINE
Function While_read_LINE(){
cat $FILENAME | while read LINE
do
echo $LINE
done
}
註釋:我只所有把這種方式叫做管道法,相比大家應該可以看出來了吧。當遇見管道的時候管道左邊的命令的輸出會作為管道右邊命令的輸入然後被輸入出來。
方法3: 檔案描述符法
Function while_read_line_fd(){
Exec 3<&0
Exec 0<$FILENAME
While read LINE
Do
Echo $LINE
Exec 0<&<3
}
註釋: 這種方法分2步驟,第一,通過將所有內容重定向到檔案描述符3來關閉檔案描述符0.為此我們用了語法Exec 3<&0 。第二部將輸入檔案放送到檔案描述符0,即標準輸入。
方法4 for 迴圈。
function for_in_file(){
For i in `cat $FILENAME`
do
echo $i
done
}
註釋:這種方式是通過for迴圈的方式來讀取檔案的內容相比大家很熟悉了,這裡不多說。
對各個方法進行測試,看那方法的執行效率最高。
首先我們用指令碼(指令碼見附件)生成一個70000行的檔案,檔案位置在/scripts/bigfile。然後通過下面的指令碼來測試各個方法的執行效率,指令碼很簡單,不再解釋。
#!/bin/bash
FILENAME="$1"
TIMEFILE="/tmp/loopfile.out" > $TIMEFILE
SCRIPT=$(basename $0)
function usage(){
echo -e "\nUSAGE: $SCRIPT file \n"
exit 1
}
function while_read_bottm(){
while read LINE
do
echo $LINE
done < $FILENAME
}
function while_read_line(){
cat $FILENAME | while read LINE
do
echo $LINE
done
}
function while_read_line_fd(){
exec 3<&0
exec 0< $FILENAME
while read LINE
do
echo $LINE
done
exec 0<&3
}
function for_in_file(){
for i in `cat $FILENAME`
do
echo $i
done
}
if [ $# -lt 1 ] ; then
usage
fi
echo -e " \n starting file processing of each method\n"
echo -e "method 1:"
echo -e "function while_read_bottm"
time while_read_bottm >> $TIMEFILE
echo -e "\n"
echo -e "method 2:"
echo -e "function while_read_line "
time while_read_line >> $TIMEFILE
echo -e "\n"
echo -e "method 3:"
echo "function while_read_line_fd"
time while_read_line_fd >>$TIMEFILE
echo -e "\n"
echo -e "method 4:"
echo -e "function for_in_file"
time for_in_file >> $TIMEFILE
執行指令碼後: [
指令碼輸出內容:
method 1:
function while_read_bottm
real 0m5.689s
user 0m3.399s
sys 0m1.588s
method 2:
function while_read_line
real 0m11.612s
user 0m4.031s
sys 0m4.956s
method 3:
function while_read_line_fd
real 0m5.853s
user 0m3.536s
sys 0m1.469s
method 4:
function for_in_file
real 0m5.153s
user 0m3.335s
sys 0m1.593s
下面我們對各個方法按照速度進行排序。
real 0m5.153s method 4 (for 迴圈法)
real 0m5.689s method 1 (while 釜底抽薪法)
real 0m5.853s method 3 (識別符號法)
real 0m11.612s method 2 (管道法)
由此可見在各個方法中,for語句效率最高,而在while迴圈中讀寫檔案時,
while read LINE
do
echo $LINE
done < $FILENAME
相關推薦
Linux shell讀取檔案
在Linux中有很多方法逐行讀取一個檔案的方法,其中最常用的就是下面的腳本里的方法,而且是效率最高,使用最多的方法。為了給大家一個直觀的感受,我們將通過生成一個大的檔案的方式來檢驗各種方法的執行效率。 方法1:while迴圈中執行效率最高,最常用的方法。 funct
linux shell 讀取配置檔案
隨著linux接觸的越來越多,我們難免需要從一些配置檔案中進行讀取配置引數,linux中shell屬於指令碼型語言,讀取時沒有其它語言方便,特將用過的一種方式分享給大家 實戰程式碼: $ more a.txt name=hello world age=22 ip=192.168.
Linux--shell 讀取配置檔案的方法
配置檔案config內容如下ID=123 IP=192.168.3.154 Name=test 方法一,利用sed解析文字,提取配置資訊 id=`sed '/^ID=/!d;s/.*=//' urfile` ip=`sed '/^IP=/!d;s/.*=/
linux shell大檔案操作
查詢字串所在行 : grep -n “待查詢字串” “檔名” 顯示指定行資訊:sed -n '1,5p' “指定檔案” 表示顯示指定檔案第一至五行的資訊 ----------------------------------------------------------
Shell讀取檔案內容
while read wOne wTwo wThreedo [ -z $wOne ] && continue #測試此行內容是否為空 xxx=$wOne #提取內容done
linux shell讀取使用者輸入
變數 1 [[email protected] test]$ name=yunix [[email protected] test]$ echo $name yunix 2 [[email protected] test]$ name="y
windows下類似linux readdir()讀取檔案
仿寫標頭檔案 dirent.h 模擬linux下標頭檔案 myDirent.h #ifndef MYDIRENT_H #define MYDIRENT_H typedef struct _dirdesc { int dd_fd;
windows和linux下讀取檔案換行符的一個坑——\r\n和\n
拿同事的一個windows下的C程式,在Linux下跑,結果不正確。定位為讀取.ini配置檔案錯誤。該配置檔案是在windows下編輯的,網上查到資料,說是windows和linux下對換行符處理不同導致的。
shell讀取檔案第一行和最後一行,小數的運算比較
1. 讀取檔案的第一行:head -n +1 file.txt 讀取檔案的最後一行: tail -n -1 file.txt echo 12:30:55 | cut -d: -f 1 結果為12,意思為將字串12:30:55以:符號進行拆分,輸出索引為1的值。 -d後跟以什麼字元進行拆分, -f 後的
shell 讀取檔案第幾行 第幾列的值
1 . 問題: 讀取 list檔案(內容如下) 中 NO1 和NO2 的值 platform NO1 NO2 -------------------- -----------
Linux Shell 文字檔案處理
通過sort/uniq獲取檔案內容的交集、合集和不同之處:假設有a、b兩個文字檔案,檔案本身已經去除了重複內容。下面是效率最高的方法,可以處理任何體積的檔案,甚至幾個G的檔案。(Sort對記憶體沒有要求,但也許你需要用 -T 引數。)可以試著比較一下,你可以看看如果用Ja
linux shell測試檔案狀態
寫指令碼是,有時要判斷字串是否相等,可能還要檢查檔案狀態或是數字測試。 Test命令用於測試字串,檔案狀態和數字。 對檔案、字串和數字使用test命令 對數字和字串使用expr命令 expr命令測試和執行數值輸出。使用最後退出狀態命令$?可測知test和expr,二者均以0表示正確,1表示返回錯誤。
Linux shell判斷檔案或目錄是否存在
#!/bin/sh myPath="/var/log/httpd/" myFile="/var /log/httpd/access.log" #這裡的-x 引數判斷$myPath是否存在並且是否具有可執行許可權 if [ ! -x "$myPath"]; then mkdi
linux shell 獲取檔案中包含特殊字元的第一行行數 和最後一行行數
獲取包含“2018-01-02”的第一行行號cat 1.txt | egrep "2018-01-02" -nR | awk -F ":" '{print $1}'| awk '(NR==1){print $0}'獲取包含“2018-01-02”的最後一行行號cat 1.t
linux shell 判斷 檔案整數 存在、大小、空、等
轉自:http://hi.baidu.com/nbye2000/item/371624271fdc1dd3a417b642 * 檔案測試操作符 如果下面的條件成立將會返回真. -e 檔案存在 -a 檔案存在,這個選項的效果與-e相同.
Linux-Shell之檔案操作
學些了Linux Shell命令列使用,對於檔案的操作除了記下來,但還沒有找到相應方法掌握,常常混亂。資料庫有“增刪改查”,因而同樣按理來分類檔案操作方法,較為清晰。同時作為檔案,有許可權、大小等檔案屬性,因而加入“看”來看檔案屬性。這樣就變為“增刪看改查”
Linux核心讀取檔案流程原始碼及阻塞點超詳解
以linux核心3.13版本為例,首先核心通過系統呼叫read(),執行sys_read()函式,在檔案linux/fs/read_write.c中: //linux/fs/read_write.c SYSCALL_DEFINE3(read, unsigne
shell讀取檔案的每一行
寫法一: ---------------------------------------------------------------------------- #!/bin/bash while read line do echo $line done < filename
Linux Shell指令碼檔案的判斷、中文符號及其字串入參解析
1、shell指令碼中判斷檔案是否存在 if [ -f "$var" ] then...... 2、shell指令碼中判斷字串為空 if [ -z "$str"] then...... 3、shell指令碼中判斷字串不為空 if[ "$str"] then..... 4、字串入參的注意事項
Linux Shell 指令碼讀取配置檔案
一、應用場景 為了靈活應用shell指令碼,適當的加入配置檔案,對於後期的維護和優化會有很大幫助。例如指令碼中使用的檔案/檔案路徑,都可以通過讀取配置檔案完成。 配置檔案 filename=boomlee 指令碼檔案 #!/bin/bash workdir=$(cd $(di