1. 程式人生 > >Linux shell讀取檔案

Linux shell讀取檔案

在Linux中有很多方法逐行讀取一個檔案的方法,其中最常用的就是下面的腳本里的方法,而且是效率最高,使用最多的方法。為了給大家一個直觀的感受,我們將通過生成一個大的檔案的方式來檢驗各種方法的執行效率。

方法1:while迴圈中執行效率最高,最常用的方法。
 
function while_read_LINE_bottm(){
 While read LINE
 do
echo $LINE
done  < $FILENAME
}
 
        註釋:我習慣把這種方式叫做read釜底抽薪,因為這種方式在結束的時候需要執行檔案,就好像是執行完的時候再把檔案讀進去一樣。
 
方法2 : 重定向法;管道法: cat $FILENAME | while read LINE
 
Function While_read_LINE(){
 cat $FILENAME | while read LINE
 do 
echo $LINE
done
}
          註釋:我只所有把這種方式叫做管道法,相比大家應該可以看出來了吧。當遇見管道的時候管道左邊的命令的輸出會作為管道右邊命令的輸入然後被輸入出來。
 
方法3: 檔案描述符法
 
Function while_read_line_fd(){
Exec 3<&0
Exec 0<$FILENAME
While read LINE
Do 
 Echo $LINE
 Exec 0<&<3
}
 
        註釋: 這種方法分2步驟,第一,通過將所有內容重定向到檔案描述符3來關閉檔案描述符0.為此我們用了語法Exec 3<&0 。第二部將輸入檔案放送到檔案描述符0,即標準輸入。
  
方法4    for  迴圈。
 
function  for_in_file(){
For  i  in  `cat $FILENAME`
do
echo $i
done
}
          註釋:這種方式是通過for迴圈的方式來讀取檔案的內容相比大家很熟悉了,這裡不多說。
 
 
    對各個方法進行測試,看那方法的執行效率最高。
 
          首先我們用指令碼(指令碼見附件)生成一個70000行的檔案,檔案位置在/scripts/bigfile。然後通過下面的指令碼來測試各個方法的執行效率,指令碼很簡單,不再解釋。
 
#!/bin/bash
FILENAME="$1"
TIMEFILE="/tmp/loopfile.out" > $TIMEFILE 
SCRIPT=$(basename $0)
 
function usage(){
echo -e "\nUSAGE: $SCRIPT file \n"
 
exit 1
}
 
function while_read_bottm(){
 
while read LINE
do
echo $LINE
 
done < $FILENAME
 
}
 
function while_read_line(){
 
cat $FILENAME | while read LINE
do
echo $LINE
done
 
}
 
 function while_read_line_fd(){
 
exec 3<&0
exec 0< $FILENAME
while read LINE
do 
 echo $LINE
done
 exec 0<&3
}
 
function for_in_file(){
for i in  `cat $FILENAME`
do
echo $i
done
}
 
if [ $# -lt 1 ] ; then
usage
fi
 echo -e " \n starting file processing of each method\n"
 echo -e "method 1:"
 echo -e "function while_read_bottm"
 time while_read_bottm >> $TIMEFILE
 
echo -e "\n"
 
echo -e "method 2:"
echo -e "function while_read_line "
time while_read_line >> $TIMEFILE
 
echo -e "\n"
echo -e "method 3:"
echo "function while_read_line_fd"
time while_read_line_fd >>$TIMEFILE
 
echo -e "\n"
echo -e "method 4:"
echo -e "function  for_in_file"
time  for_in_file >> $TIMEFILE
 
    執行指令碼後: [

[email protected] shell]# ./while /scripts/bigfile 
指令碼輸出內容:
method 1:
function while_read_bottm
 
real    0m5.689s
user    0m3.399s
sys    0m1.588s
 
 
method 2:
function while_read_line 
 
real    0m11.612s
user    0m4.031s
sys    0m4.956s
 
 
method 3:
function while_read_line_fd
 
real    0m5.853s
user    0m3.536s
sys    0m1.469s
 
 
method 4:
function  for_in_file
 
real    0m5.153s
user    0m3.335s
sys    0m1.593s
 
 
下面我們對各個方法按照速度進行排序。
real    0m5.153s    method 4 (for 迴圈法)
real    0m5.689s    method 1  (while 釜底抽薪法)
real    0m5.853s    method 3    (識別符號法)
real    0m11.612s  method 2    (管道法)
 
 由此可見在各個方法中,for語句效率最高,而在while迴圈中讀寫檔案時,
while read LINE
do
echo $LINE
 
done < $FILENAME

相關推薦

Linux shell讀取檔案

在Linux中有很多方法逐行讀取一個檔案的方法,其中最常用的就是下面的腳本里的方法,而且是效率最高,使用最多的方法。為了給大家一個直觀的感受,我們將通過生成一個大的檔案的方式來檢驗各種方法的執行效率。 方法1:while迴圈中執行效率最高,最常用的方法。   funct

linux shell 讀取配置檔案

隨著linux接觸的越來越多,我們難免需要從一些配置檔案中進行讀取配置引數,linux中shell屬於指令碼型語言,讀取時沒有其它語言方便,特將用過的一種方式分享給大家 實戰程式碼: $ more a.txt name=hello world age=22 ip=192.168.

Linux--shell 讀取配置檔案的方法

配置檔案config內容如下ID=123 IP=192.168.3.154 Name=test 方法一,利用sed解析文字,提取配置資訊 id=`sed '/^ID=/!d;s/.*=//' urfile` ip=`sed '/^IP=/!d;s/.*=/

linux shell檔案操作

查詢字串所在行 : grep -n “待查詢字串” “檔名” 顯示指定行資訊:sed -n '1,5p' “指定檔案”  表示顯示指定檔案第一至五行的資訊 ----------------------------------------------------------

Shell讀取檔案內容

            while read wOne wTwo wThreedo    [ -z $wOne ] && continue           #測試此行內容是否為空    xxx=$wOne                                 #提取內容done

linux shell讀取使用者輸入

變數 1 [[email protected] test]$ name=yunix [[email protected] test]$ echo $name yunix  2 [[email protected] test]$ name="y

windows下類似linux readdir()讀取檔案

仿寫標頭檔案 dirent.h 模擬linux下標頭檔案 myDirent.h #ifndef MYDIRENT_H #define MYDIRENT_H typedef struct _dirdesc { int dd_fd;

windows和linux讀取檔案換行符的一個坑——\r\n和\n

      拿同事的一個windows下的C程式,在Linux下跑,結果不正確。定位為讀取.ini配置檔案錯誤。該配置檔案是在windows下編輯的,網上查到資料,說是windows和linux下對換行符處理不同導致的。      

shell讀取檔案第一行和最後一行,小數的運算比較

1. 讀取檔案的第一行:head -n +1 file.txt 讀取檔案的最後一行: tail -n -1 file.txt echo 12:30:55 | cut -d: -f 1 結果為12,意思為將字串12:30:55以:符號進行拆分,輸出索引為1的值。 -d後跟以什麼字元進行拆分, -f 後的

shell 讀取檔案第幾行 第幾列的值

1 .  問題:  讀取 list檔案(內容如下) 中 NO1  和NO2 的值  platform                      NO1            NO2  --------------------         -----------

Linux Shell 文字檔案處理

通過sort/uniq獲取檔案內容的交集、合集和不同之處:假設有a、b兩個文字檔案,檔案本身已經去除了重複內容。下面是效率最高的方法,可以處理任何體積的檔案,甚至幾個G的檔案。(Sort對記憶體沒有要求,但也許你需要用 -T 引數。)可以試著比較一下,你可以看看如果用Ja

linux shell測試檔案狀態

寫指令碼是,有時要判斷字串是否相等,可能還要檢查檔案狀態或是數字測試。 Test命令用於測試字串,檔案狀態和數字。 對檔案、字串和數字使用test命令 對數字和字串使用expr命令  expr命令測試和執行數值輸出。使用最後退出狀態命令$?可測知test和expr,二者均以0表示正確,1表示返回錯誤。

Linux shell判斷檔案或目錄是否存在

#!/bin/sh myPath="/var/log/httpd/" myFile="/var /log/httpd/access.log" #這裡的-x 引數判斷$myPath是否存在並且是否具有可執行許可權 if [ ! -x "$myPath"]; then   mkdi

linux shell 獲取檔案中包含特殊字元的第一行行數 和最後一行行數

獲取包含“2018-01-02”的第一行行號cat 1.txt | egrep "2018-01-02" -nR | awk -F ":" '{print $1}'| awk '(NR==1){print $0}'獲取包含“2018-01-02”的最後一行行號cat 1.t

linux shell 判斷 檔案整數 存在、大小、空、等

轉自:http://hi.baidu.com/nbye2000/item/371624271fdc1dd3a417b642 *      檔案測試操作符    如果下面的條件成立將會返回真.    -e    檔案存在    -a    檔案存在,這個選項的效果與-e相同.

Linux-Shell檔案操作

  學些了Linux Shell命令列使用,對於檔案的操作除了記下來,但還沒有找到相應方法掌握,常常混亂。資料庫有“增刪改查”,因而同樣按理來分類檔案操作方法,較為清晰。同時作為檔案,有許可權、大小等檔案屬性,因而加入“看”來看檔案屬性。這樣就變為“增刪看改查”

Linux核心讀取檔案流程原始碼及阻塞點超詳解

以linux核心3.13版本為例,首先核心通過系統呼叫read(),執行sys_read()函式,在檔案linux/fs/read_write.c中: //linux/fs/read_write.c SYSCALL_DEFINE3(read, unsigne

shell讀取檔案的每一行

寫法一: ---------------------------------------------------------------------------- #!/bin/bash while read line do     echo $line done < filename

Linux Shell指令碼檔案的判斷、中文符號及其字串入參解析

1、shell指令碼中判斷檔案是否存在 if [ -f  "$var" ] then...... 2、shell指令碼中判斷字串為空  if [ -z "$str"] then...... 3、shell指令碼中判斷字串不為空 if[ "$str"] then..... 4、字串入參的注意事項      

Linux Shell 指令碼讀取配置檔案

一、應用場景 為了靈活應用shell指令碼,適當的加入配置檔案,對於後期的維護和優化會有很大幫助。例如指令碼中使用的檔案/檔案路徑,都可以通過讀取配置檔案完成。 配置檔案 filename=boomlee 指令碼檔案 #!/bin/bash workdir=$(cd $(di