2. 程式人生 > >使用Faster-Rcnn進行目標檢測(實踐篇)

使用Faster-Rcnn進行目標檢測(實踐篇)

阿新 • • 發佈：2018-12-30

原理

實驗

我使用的程式碼是python版本的Faster Rcnn，官方也有Matlab版本的,連結如下:

環境配置

按照官方的README進行配置就好,不過在這之前大家還是看下硬體要求吧

  • For training smaller networks (ZF, VGG_CNN_M_1024) a good GPU (e.g., Titan, K20, K40, …) with at least 3G of memory suffices

  • For training Fast R-CNN with VGG16, you’ll need a K40 (~11G of memory)

  • For training the end-to-end version of Faster R-CNN with VGG16, 3G of GPU memory is sufficient (using CUDNN)

我的是環境是Ubuntu 14.04 + Titan X(12GB) + cuda 7.0 + cudnn V3

1 Caffe環境配置

Caffe環境需要python layer的支援,在你的Caffe的Makefile.config中去掉以下的註釋

  • WITH_PYTHON_LAYER := 1
  • USE_CUDNN := 1

2 安裝python庫依賴

cython,python-opencv和easydict

pip install cython
pip install python-opencv
pip install easydict

3 克隆py-faster-rcnn原始碼

git clone --recursive https://github.com/rbgirshick/py-faster-rcnn.git

4 編譯cython模組

cd $FRCN_ROOT/lib
make

5 編譯Caffe和pycaffe

cd $FRCN_ROOT/caffe-fast-rcnn
make -j8 && make pycaffe

-j8的選項是進行多核編譯，可以加速編譯過程，推薦使用

資料集

參考VOC2007的資料集格式，主要包括三個部分:

  • JPEGImages

  • Annotations

  • ImageSets/Main

JPEGImages —> 存放你用來訓練的原始影象

Annotations —> 存放原始影象中的Object的座標資訊，XML格式

ImageSets/Main —> 指定用來train，trainval，val和test的圖片的編號

這部分非常重要，資料集做不好直接導致程式碼出現異常，無法執行，或者出現奇怪的錯誤，我也是掉進了很多坑，爬上來之後才寫的這篇部落格，希望大家不要趟我趟過的渾水！每一個部分我都會細說的！

JPEGImages

這個沒什麼，直接把你的圖片放入就可以了，但是有三點注意:

  • 編號要以6為數字命名，例如000034.jpg

  • 圖片要是JPEG/JPG格式的，PNG之類的需要自己轉換下

  • 圖片的長寬比(width/height)要在0.462-6.828之間，就是太過瘦長的圖片不要

0.462-6.828是我自己實驗得出來的，就我的資料集而言是這個比例，總之長寬比太大或者太小的，你要注意將其剔除，否則可能會出現下面我實驗時候出的錯:

Traceback (most recent call last):
File “/usr/lib/python2.7/multiprocessing/process.py”, line 258, in _bootstrap
self.run()
File “/usr/lib/python2.7/multiprocessing/process.py”, line 114, in run
self._target(*self._args, **self._kwargs)
File “./tools/train_faster_rcnn_alt_opt.py”, line 130, in train_rpn
max_iters=max_iters)
File “/home/work-station/zx/py-faster-rcnn/tools/../lib/fast_rcnn/train.py”, line 160, in train_net
model_paths = sw.train_model(max_iters)
File “/home/work-station/zx/py-faster-rcnn/tools/../lib/fast_rcnn/train.py”, line 101, in train_model
self.solver.step(1)
File “/home/work-station/zx/py-faster-rcnn/tools/../lib/rpn/anchor_target_layer.py”, line 137, in forward
gt_argmax_overlaps = overlaps.argmax(axis=0)
ValueError: attempt to get argmax of an empty sequence

Google給出的原因是 Because the ratio of images width and heights is too small or large，這個非常重要

Annotations

faster rcnn訓練需要影象的bounding box資訊作為監督(ground truth),所以你需要將你的所有可能的object使用框標註，並寫上座標，最終是一個XML格式的檔案，一個訓練圖片對應Annotations下的一個同名的XML檔案

參考官方VOC的Annotations的格式:

<annotation>
    <folder>VOC2007</folder> #資料集資料夾
    <filename>000105.jpg</filename> #圖片的name
    <source> #註釋資訊，無所謂有無
        <database>The VOC2007 Database</database>
        <annotation>PASCAL VOC2007</annotation>
        <image>flickr</image>
        <flickrid>321862192</flickrid>
    </source>
    <owner> #註釋資訊，無所謂有無
        <flickrid>Eric T. Johnson</flickrid>
        <name>?</name>
    </owner>
    <size> #圖片大小
        <width>500</width>
        <height>333</height>
        <depth>3</depth>
    </size>
    <segmented>0</segmented>
    <object> #多少個框就有多少個object標籤
        <name>boat</name> #bounding box中的object的class name
        <pose>Frontal</pose>
        <truncated>1</truncated>
        <difficult>0</difficult>
        <bndbox>
            <xmin>22</xmin> #框的座標
            <ymin>1</ymin>
            <xmax>320</xmax>
            <ymax>314</ymax>
        </bndbox>
    </object>
    <object>
        <name>person</name>
        <pose>Frontal</pose>
        <truncated>1</truncated>
        <difficult>0</difficult>
        <bndbox>
            <xmin>202</xmin>
            <ymin>71</ymin>
            <xmax>295</xmax>
            <ymax>215</ymax>
        </bndbox>
    </object>
    <object>
        <name>person</name>
        <pose>Frontal</pose>
        <truncated>1</truncated>
        <difficult>0</difficult>
        <bndbox>
            <xmin>170</xmin>
            <ymin>107</ymin>
            <xmax>239</xmax>
            <ymax>206</ymax>
        </bndbox>
    </object>
</annotation>

這裡有一個非常好用的工具VOC框圖工具，可以自動幫你生成需要的XML格式，實際中發現格式基本無誤，只有小的地方需要改動下，大家對比下就知道怎麼改了，我是在linux下藉助sed修改的，這個不難

Imagesets/Main

因為VOC的資料集可以做很多的CV任務，比如Object detection, Semantic segementation, Edge detection等，所以Imageset下有幾個子資料夾(Layout, Main, Segementation)，我們只要修改下Main下的檔案就可以了(train.txt, trainval.txt, val.txt, test.txt)，裡面寫上你想要進行任務的圖片的編號

將上述你的資料集放在py-faster-rcnn/data/VOCdevkit2007/VOC2007下面，替換原始VOC2007的JPEGIMages,Imagesets,Annotations

程式碼修改

工程目錄介紹

  • caffe-fast-rcnn —> caffe框架

  • data —> 存放資料，以及讀取檔案的cache

  • experiments —>存放配置檔案以及執行的log檔案,配置檔案

  • lib —> python介面

  • models —> 三種模型, ZF(S)/VGG1024(M)/VGG16(L)

  • output —> 輸出的model存放的位置，不訓練此資料夾沒有

  • tools —> 訓練和測試的python檔案

修改原始檔

faster rcnn有兩種各種訓練方式:

  • Alternative training(alt-opt)

  • Approximate joint training(end-to-end)

推薦使用第二種，因為第二種使用的視訊記憶體更小，而且訓練會更快，同時準確率差不多，兩種方式需要修改的程式碼是不一樣的，同時faster rcnn提供了三種訓練模型，小型的ZFmodel，中型的VGG_CNN_M_1024和大型的VGG16,論文中說VGG16效果比其他兩個好，但是同時佔用更大的GPU視訊記憶體(~11GB)

我使用的是VGG model + alternative training，需要檢測的類別只有一類，加上背景所以總共是兩類(background + captcha)

1 py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage1_fast_rcnn_train.pt

layer {  
  name: 'data'  
  type: 'Python'  
  top: 'data'  
  top: 'rois'  
  top: 'labels'  
  top: 'bbox_targets'  
  top: 'bbox_inside_weights'  
  top: 'bbox_outside_weights'  
  python_param {  
    module: 'roi_data_layer.layer'  
    layer: 'RoIDataLayer'  
    param_str: "'num_classes': 2" #按訓練集類別改，該值為類別數+1  
  }  
}  
layer {  
  name: "cls_score"  
  type: "InnerProduct"  
  bottom: "fc7"  
  top: "cls_score"  
  param { 
  lr_mult: 1.0
  }  
  param {
  lr_mult: 2.0 
  }  
  inner_product_param {  
    num_output: 2 #按訓練集類別改，該值為類別數+1  
    weight_filler {  
      type: "gaussian"  
      std: 0.01  
    }  
    bias_filler {  
      type: "constant"  
      value: 0  
    }  
  }  
}  
layer {  
  name: "bbox_pred"  
  type: "InnerProduct"  
  bottom: "fc7"  
  top: "bbox_pred"  
  param { 
  lr_mult: 1.0 
  }  
  param { 
  lr_mult: 2.0 
  }  
  inner_product_param {  
    num_output: 8 #按訓練集類別改，該值為（類別數+1）*4，四個頂點座標  
    weight_filler {  
      type: "gaussian"  
      std: 0.001  
    }  
    bias_filler {  
      type: "constant"  
      value: 0  
    }  
  }  
}

2 py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage1_rpn_train.pt

layer {  
  name: 'input-data'  
  type: 'Python'  
  top: 'data'  
  top: 'im_info'  
  top: 'gt_boxes'  
  python_param {  
    module: 'roi_data_layer.layer'  
    layer: 'RoIDataLayer'  
    param_str: "'num_classes': 2" #按訓練集類別改，該值為類別數+1  
  }  
}

3 py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage2_fast_rcnn_train.pt

layer {  
  name: 'data'  
  type: 'Python'  
  top: 'data'  
  top: 'rois'  
  top: 'labels'  
  top: 'bbox_targets'  
  top: 'bbox_inside_weights'  
  top: 'bbox_outside_weights'  
  python_param {  
    module: 'roi_data_layer.layer'  
    layer: 'RoIDataLayer'  
    param_str: "'num_classes': 2" #按訓練集類別改，該值為類別數+1  
  }  
}  
layer {  
  name: "cls_score"  
  type: "InnerProduct"  
  bottom: "fc7"  
  top: "cls_score"  
  param { 
  lr_mult: 1.0 
  }  
  param { 
  lr_mult: 2.0 
  }  
  inner_product_param {  
    num_output: 2 #按訓練集類別改，該值為類別數+1  
    weight_filler {  
      type: "gaussian"  
      std: 0.01  
    }  
    bias_filler {  
      type: "constant"  
      value: 0  
    }  
  }  
}  
layer {  
  name: "bbox_pred"  
  type: "InnerProduct"  
  bottom: "fc7"  
  top: "bbox_pred"  
  param { 
  lr_mult: 1.0
  }  
  param { 
  lr_mult: 2.0 
  }  
  inner_product_param {  
    num_output: 8 #按訓練集類別改，該值為（類別數+1）*4,四個頂點座標  
    weight_filler {  
      type: "gaussian"  
      std: 0.001  
    }  
    bias_filler {  
      type: "constant"  
      value: 0  
    }  
  }  
}

4 py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage2_rpn_train.pt

layer {  
  name: 'input-data'  
  type: 'Python'  
  top: 'data'  
  top: 'im_info'  
  top: 'gt_boxes'  
  python_param {  
    module: 'roi_data_layer.layer'  
    layer: 'RoIDataLayer'  
    param_str: "'num_classes': 2" #按訓練集類別改，該值為類別數+1  
  }  
}

5 py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/faster_rcnn_test.pt

layer {  
  name: "cls_score"  
  type: "InnerProduct"  
  bottom: "fc7"  
  top: "cls_score"  
  inner_product_param {  
    num_output: 2 #按訓練集類別改，該值為類別數+1  
  }  
}

6 py-faster-rcnn/lib/datasets/pascal_voc.py

class pascal_voc(imdb):  
    def __init__(self, image_set, year, devkit_path=None):  
        imdb.__init__(self, 'voc_' + year + '_' + image_set)  
        self._year = year  
        self._image_set = image_set  
        self._devkit_path = self._get_default_path() if devkit_path is None \  
                            else devkit_path  
        self._data_path = os.path.join(self._devkit_path, 'VOC' + self._year)  
        self._classes = ('__background__', # always index 0  
                         captcha' # 有幾個類別此處就寫幾個，我是兩個
                      )

line 212

cls = self._class_to_ind[obj.find('name').text.lower().strip()]

如果你的標籤含有大寫字母，可能會出現KeyError的錯誤，所以建議全部使用小寫字母

7 py-faster-rcnn/lib/datasets/imdb.py

將append_flipped_images函式改為如下形式:

def append_flipped_images(self):  
        num_images = self.num_images  
        widths = [PIL.Image.open(self.image_path_at(i)).size[0]  
                  for i in xrange(num_images)]  
        for i in xrange(num_images):  
            boxes = self.roidb[i]['boxes'].copy()  
            oldx1 = boxes[:, 0].copy()  
            oldx2 = boxes[:, 2].copy()  
            boxes[:, 0] = widths[i] - oldx2 - 1  
            print boxes[:, 0]  
            boxes[:, 2] = widths[i] - oldx1 - 1  
            print boxes[:, 0]  
            assert (boxes[:, 2] >= boxes[:, 0]).all()  
            entry = {'boxes' : boxes,  
                     'gt_overlaps' : self.roidb[i]['gt_overlaps'],  
                     'gt_classes' : self.roidb[i]['gt_classes'],  
                     'flipped' : True}  
            self.roidb.append(entry)  
        self._image_index = self._image_index * 2

到此程式碼修改就搞定了

訓練

訓練前還需要注意幾個地方

1 cache問題

假如你之前訓練了官方的VOC2007的資料集或其他的資料集，是會產生cache的問題的，建議在重新訓練新的資料之前將其刪除

(1) py-faster-rcnn/output
(2) py-faster-rcnn/data/cache

2 訓練引數

py-faster-rcnn/models/pascal_voc/VGG16/faster_rcnn_alt_opt/stage_fast_rcnn_solver*.pt

base_lr: 0.001
lr_policy: 'step'
step_size: 30000
display: 20
....

迭代次數在檔案py-faster-rcnn/tools/train_faster_rcnn_alt_opt.py中進行修改

line 80

max_iters = [80000, 40000, 80000, 40000]

分別對應rpn第1階段，fast rcnn第1階段，rpn第2階段，fast rcnn第2階段的迭代次數，自己修改即可，不過注意這裡的值不要小於上面的solver裡面的step_size的大小，大家自己修改吧

開始訓練:

cd py-faster-rcnn
./experiments/scripts/faster_rcnn_alt_opt.sh 0 VGG16 pascal_voc

指明使用第一塊GPU(0),模型是VGG16,訓練資料是pascal_voc(voc2007)，沒問題的話應該可以迭代訓練了

結果

訓練完畢，得到我們的訓練模型，我們就可以使用它來進行我們的object detection了，具體是:
1 將py-faster-rcnn/output/faster_rcnn_alt_opt/voc_2007_trainval/VGG16_faster_rcnn_final.caffemodel，拷貝到py-faster-rcnn/data/faster_rcnn_models下

2 將你需要進行test的images放在py-faster-rcnn/data/demo下

3 修改py-faster-rcnn/tools/demo.py檔案


CLASSES = ('_background_', 'captcha') #參考你自己的類別寫


NETS = {'vgg16': ('VGG16',
'VGG16_faster_rcnn_final.caffemodel'), #改成你訓練得到的model的name
'zf': ('ZF',
'ZF_faster_rcnn_final.caffemodel')
} 

im_names = ['1559.jpg','1564.jpg']  # 改成自己的test image的name

上幾張我的檢測結果吧

1

2

3

參考

相關推薦

使用Faster-Rcnn進行目標檢測(實踐篇)

原理 實驗 我使用的程式碼是python版本的Faster Rcnn，官方也有Matlab版本的,連結如下: 環境配置 按照官方的README進行配置就好,不過在這之前大家還是看下硬體要求吧 For tra

使用faster rcnn進行目標檢測

本文轉載自： http://blog.csdn.net/Gavin__Zhou/article/details/52052915 原理 實驗 我使用的程式碼是Python版本的Faster Rcnn，官方也有Matlab版本的,連結如下: 環境配置 按照官方的README進行配置就好,不過在這之

使用Faster-Rcnn進行目標檢測

Object Detection發展介紹 Faster rcnn是用來解決計算機視覺(CV)領域中Object Detection的問題的。經典的解決方案是使用: SS(selective search)產生proposal,之後使用像SVM之類的cl

SqueezeNet運用到Faster RCNN進行目標檢測

目錄 一、SqueezeNet介紹 論文提交ICLR 2017  論文地址：https://arxiv.org/abs/1602.07360  程式碼地址：https://github.com/DeepScale/SqueezeNet  注：程式碼只放出了pro

關於學習使用Faster-RCNN做目標檢測和物件捕捉問題

這裡主要是為了做遙感方向的物件捕捉問題而從目標檢測開始入手，首先大體採用的是遷移學習的思路，注主要是對模型遷移，在img做了切割和西工大及北航的資料集上進行一個交叉訓練，這樣使得RPN的網路外面的打分函式有了一個更好的0.7的結果， 這個結果主要是通過對reu

深度學習之目標檢測常用演算法原理+實踐精講 YOLO / Faster RCNN / SSD / 文字檢測 / 多工網路

深度學習之目標檢測常用演算法原理+實踐精講 YOLO / Faster RCNN / SSD / 文字檢測 / 多工網路 資源獲取連結：點選這裡 第1章 課程介紹 本章節主要介紹課程的主要內容、核心知識點、課程涉及到的應用案例、深度學習演算法設計通用流程、適應人群、學習本門

faster-RCNN臺標檢測

F5 style bsp 圖片 HR 實踐 目標檢測 位置 ID 最近學習了faster-RCNN算法，收獲不少，記此文為證。faster-RCNN是一個目標檢測算法，它能夠識別多個目標，對目標分類並標註位置，非常好用。它的輸入樣本是標註好的圖片，輸出是一個hdf5模型。

tensorflow利用預訓練模型進行目標檢測（一）：預訓練模型的使用

err sync numpy sna sta porting trac git int32 一、運行樣例 官網鏈接：https://github.com/tensorflow/models/blob/master/research/object_detection/obje

tensorflow利用預訓練模型進行目標檢測

一、安裝 首先系統中已經安裝了兩個版本的tensorflow，一個是通過keras安裝的， 一個是按照官網教程https://www.tensorflow.org/install/install_linux#InstallingNativePip使用Virtualenv 進行安裝的，第二個在根目錄下，做標記

使用opencv訓練cascade分類器進行目標檢測

文章目錄 0.建立訓練目錄 1.建立正負樣本 2.生成正負樣本的txt檔案 3.生成 pos.vec描述檔案 4.訓練cascade分類器 5.目標檢測 總結

Faster R-CNN 目標檢測演算法詳細總結分析（two-stage)(深度學習)(NIPS 2015)

論文名稱：《 Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks 》 論文下載：https://papers.nips.cc/paper/5638-faster-r-cnn-t

tensorflow利用預訓練模型進行目標檢測（二）：將檢測結果存入mysql資料庫

mysql版本：5.7 ； 資料庫：rdshare；表captain_america3_sd用來記錄某幀是否被檢測。表captain_america3_d用來記錄檢測到的資料。 python模組，包部分內容參考http://www.runoob.com/python/python-modules.html&

tensorflow利用預訓練模型進行目標檢測（四）：檢測中的精度問題以及evaluation

一、tensorflow提供的evaluation Inference and evaluation on the Open Images dataset：https://github.com/tensorflow/models/blob/master/research/object_detection/g

gluoncv 訓練自己的資料集，進行目標檢測

跑了一晚上的模型，實在佔GPU資源，這兩天已經有很多小朋友說我了。我選擇了其中一個引數。 https://github.com/dmlc/gluon-cv/blob/master/scripts/detection/faster_rcnn/train_faster_rcnn.py train_faster

Tensorflow訓練自己的Object Detection模型並進行目標檢測

0.準備工作 1.專案目錄概覽 圖1 object detection專案目錄 2.準備資料集和相關檔案 下載VOC2007資料集，解壓放到dataset目錄下，如圖1。

零基礎使用深度學習進行目標檢測

實驗目的 下面這張影象存在9處瑕疵劃痕(使用微軟畫圖工具亂畫的)，就是要檢測的目標。經過深度學習的訓練，可以預測新影象上是否有瑕疵和這些瑕疵的位置(以下這張圖是未參加訓練的測試圖)。 實驗效果 經過深度學習訓練後得出一個模型，利用該模型對測試圖片進行預測，其預測效果如下圖

Opencv對視訊進行目標檢測

在Opencv3.3版本中集成了deeplearning功能。其實現了對caffe和tensorflow兩個框架的推理，但不支援訓練。本文使用caffe訓練的檔案對目標進行檢測。整個思路是首先讀取視訊檔案，然後載入模型檔案，最後讀取到視訊的每一幀對其進行檢測。

在Windows系統下，用faster-RCNN進行模型訓練

一、圖片標註程式1:（實用性不高）下載地址：參考網址：使用方法:程式碼已經封裝成DLL，你只需要開啟專案，將影象路徑修改成你的即可。（我用的VS為2013）。生成的txt內容為：影象名 標籤 x1 y1 x2 y2。（包圍框座標）圖片顯示出來後，輸入法切換到英文；在目標的左上

使用判別訓練的部件模型進行目標檢測（DPM）

這是看到比人翻譯的DPM的文章 怕以後找不到 所以轉一下 供大家欣賞 使用判別訓練的部件模型進行目標檢測 Pedro F. Felzenszwalb, Ross B.Girshick, David McAllester and Deva Ramanan

關於在fpga上進行目標檢測、跟蹤的設計

對於目標檢測、跟蹤一般的科研，主要是使用matalab，VS,VC6.0結合opencv（開源計算機視覺庫）進行開發。主要是使用一下兩個方法【通過論文總結】 一、 使用matalab，選定檢測、識別的演算法，弄懂演算法的含義，新增自己的改進方案。編寫matal