1. 程式人生 > >[shell]去除檔案重複的行

[shell]去除檔案重複的行

1. 在shell中可以利用uniq

     sort unsorted.txt | uniq   

    注意:要先進行排序,才能呼叫uniquniq命令,只是把相鄰的重複的資料行去掉

    缺點:會打亂原有檔案的內容

2.利用Perl 實現

  unless (open FILE,"<D:/test.txt") {die "Can't open file:$!"}

  unless (open OUT,">D:/test_uniq.txt") {die "Can't open file:$!"}

  chomp(@temp=<FILE>);

  my %seen;

       foreach

$t (@temp){

           if($seen{$t++}){}

           else{

               print OUT "$t \n";    

           }

     }