2. 程式人生 > >深度學習之caffe

深度學習之caffe

阿新 • • 發佈：2019-02-09
Caffe是一個清晰而高效的深度學習框架，本文詳細介紹了caffe的優勢、架構，網路定義、各層定義，Caffe的安裝與配置，解讀了Caffe實現的影象分類模型AlexNet，並演示了CIFAR-10在caffe上進行訓練與學習。

Caffe是一個清晰而高效的深度學習框架，其作者是博士畢業於UC Berkeley的 賈揚清，目前在Google工作。

Caffe是純粹的C++/CUDA架構，支援命令列、Python和MATLAB介面；可以在CPU和GPU直接無縫切換：

Caffe::set_mode(Caffe::GPU);

Caffe的優勢

  1. 上手快：模型與相應優化都是以文字形式而非程式碼形式給出。 
    Caffe給出了模型的定義、最優化設定以及預訓練的權重，方便立即上手。
  2. 速度快：能夠執行最棒的模型與海量的資料。 
    Caffe與cuDNN結合使用，測試AlexNet模型，在K40上處理每張圖片只需要1.17ms.
  3. 模組化：方便擴充套件到新的任務和設定上。 
    可以使用Caffe提供的各層型別來定義自己的模型。
  4. 開放性：公開的程式碼和參考模型用於再現。
  5. 社群好：可以通過BSD-2參與開發與討論。

Caffe的網路定義

Caffe中的網路都是有向無環圖的集合，可以直接定義： 

name: "dummy-net"
layers {<span><span>name: <span>"data" …</span></span></span>}
layers {<span><span>name: <span>"conv" …</span></span></span>}
layers {<span><span>name: <span>"pool" …</span></span></span>}
layers {<span><span>name: <span>"loss" …</span></span></span>}

資料及其導數以blobs的形式在層間流動。

Caffe的各層定義

Caffe層的定義由2部分組成：層屬性與層引數，例如 
name:"conv1"
type:CONVOLUTION
bottom:"data"
top:"conv1"
convolution_param{
    num_output:<span>20
    kernel_size:5
    stride:1
    weight_filler{
        type: "<span style="color: #c0504d;">xavier</span>"
    }
}
這段配置檔案的前4行是層屬性，定義了層名稱、層型別以及層連線結構（輸入blob和輸出blob）；而後半部分是各種層引數。 

Blob

Blob是用以儲存資料的4維陣列，例如

  • 對於資料：Number*Channel*Height*Width
  • 對於卷積權重：Output*Input*Height*Width
  • 對於卷積偏置：Output*1*1*1

訓練網路

網路引數的定義也非常方便，可以隨意設定相應引數。

甚至呼叫GPU運算只需要寫一句話：

solver_mode:GPU
Caffe 深度學習框架上手教程

Caffe的安裝與配置

Caffe需要預先安裝一些依賴項，首先是CUDA驅動。不論是CentOS還是Ubuntu都預裝了開源的nouveau顯示卡驅動（SUSE沒有這種問題），如果不禁用，則CUDA驅動不能正確安裝。以Ubuntu為例，介紹一下這裡的處理方法，當然也有其他處理方法。

生成mnist-train-leveldb/ 和 mnist-test-leveldb/，把資料轉化成leveldb格式：

訓練網路:

# sudo vi/etc/modprobe.d/blacklist.conf
# 增加一行 ：blacklist nouveau
sudoapt-get --purge remove xserver-xorg-video-nouveau   #把官方驅動徹底解除安裝：
sudoapt-get --purge remove nvidia-*    #清除之前安裝的任何NVIDIA驅動
sudo service lightdm stop    #進命令列，關閉Xserver
sudo kill all Xorg

安裝了CUDA之後，依次按照Caffe官網安裝指南安裝BLAS、OpenCV、Boost即可。

Caffe跑跑MNIST試試

在Caffe安裝目錄之下，首先獲得MNIST資料集：

cd data/mnist
sh get_mnist.sh

生成mnist-train-leveldb/ 和 mnist-test-leveldb/，把資料轉化成leveldb格式：

cd examples/lenet 
sh create_mnist.sh

訓練網路:

sh train_lenet.sh
Caffe 深度學習框架上手教程

讓Caffe生成的資料集能在Theano上直接執行

不論使用何種框架進行CNNs訓練，共有3種資料集：

  • Training Set：用於訓練網路
  • Validation Set：用於訓練時測試網路準確率
  • Test Set：用於測試網路訓練完成後的最終正確率

Caffe生成的資料分為2種格式：Lmdb和Leveldb

  • 它們都是鍵/值對（Key/Value Pair）嵌入式資料庫管理系統程式設計庫。
  • 雖然lmdb的記憶體消耗是leveldb的1.1倍，但是lmdb的速度比leveldb快10%至15%，更重要的是lmdb允許多種訓練模型同時讀取同一組資料集。
  • 因此lmdb取代了leveldb成為Caffe預設的資料集生成格式。

Google Protocol Buffer的安裝

./configure
$ make
$ make check
$ make install
pip installprotobuf

新增動態連結庫

export LD_LIBRARY_PATH=/usr/local/lib:$LD_LIBRARY_PATH

Lmdb的安裝

pip install lmdb

要parse（解析）一個protobuf型別資料，首先要告訴計算機你這個protobuf資料內部是什麼格式（有哪些項，這些項各是什 麼資料型別的決定了佔用多少位元組，這些項可否重複，重複幾次），安裝protobuf這個module就可以用protobuf專用的語法來定義這些格式 （這個是.proto檔案）了，然後用protoc來編譯這個.proto檔案就可以生成你需要的目標檔案。 
想要定義自己的.proto檔案請閱讀： 
https://developers.google.com/protocol-buffers/docs/proto?hl=zh-cn

編譯.proto檔案

protoc--proto_path=IMPORT_PATH --cpp_out=DST_DIR --java_out=DST_DIR--python_out=DST_DIR path/to/file.proto
--proto_path 也可以簡寫成-I 是.proto所在的路徑
輸出路徑：
--cpp_out 要生成C++可用的標頭檔案，分別是***.pb.h（包含申明類）***.pb.cc（包含可執行類），使用的時候只要include “***.pb.h”
--java_out 生成java可用的標頭檔案
--python_out 生成python可用的標頭檔案，**_pb2.py，使用的時候import**_pb2.py即可
最後一個引數就是你的.proto檔案完整路徑。

Caffe (CNN, deep learning) 介紹

Caffe -----------Convolution Architecture For Feature Embedding (Extraction)

  1. Caffe 是什麼東東？
    • CNN (Deep Learning) 工具箱
    • C++ 語言架構
    • CPU 和GPU 無縫交換
    • Python 和matlab的封裝
    • 但是，Decaf只是CPU 版本。

  2. 為什麼要用Caffe？

    • 運算速度快。簡單 友好的架構 用到的一些庫：
    • Google Logging library (Glog): 一個C++語言的應用級日誌記錄框架，提供了C++風格的流操作和各種助手巨集.
    • lebeldb(資料儲存)： 是一個google實現的非常高效的kv資料庫，單程序操作。
    • CBLAS library（CPU版本的矩陣操作）
    • CUBLAS library (GPU 版本的矩陣操作)

  3. Caffe 架構

Caffe 深度學習框架上手教程
  1. 預處理影象的leveldb構建 
    輸入：一批影象和label （2和3） 
    輸出：leveldb （4） 
    指令裡包含如下資訊：
    • conver_imageset （構建leveldb的可執行程式）
    • train/ （此目錄放處理的jpg或者其他格式的影象)
    • label.txt (影象檔名及其label資訊)
    • 輸出的leveldb資料夾的名字
    • CPU/GPU (指定是在cpu上還是在gpu上執行code)

  2. CNN網路配置檔案

    • Imagenet_solver.prototxt （包含全域性引數的配置的檔案）
    • Imagenet.prototxt （包含訓練網路的配置的檔案）
    • Imagenet_val.prototxt （包含測試網路的配置檔案）

Caffe深度學習之影象分類模型AlexNet解讀

在imagenet上的影象分類challenge上Alex提出的alexnet網路結構模型贏得了2012屆的冠軍。要研究CNN型別DL網路模型在影象分類上的應用，就逃不開研究alexnet，這是CNN在影象分類上的經典模型（DL火起來之後）。

在DL開源實現caffe的model樣例中，它也給出了alexnet的復現，具體網路配置檔案如下 train_val.prototxt

接下來本文將一步步對該網路配置結構中各個層進行詳細的解讀（訓練階段）：

從計算該模型的資料流過程中，該模型引數大概5kw+。

  1. conv1階段DFD（data flow diagram）： Caffe 深度學習框架上手教程

  2. conv2階段DFD（data flow diagram）： Caffe 深度學習框架上手教程

  3. conv3階段DFD（data flow diagram）：

    Caffe 深度學習框架上手教程

  4. conv4階段DFD（data flow diagram）： 
    Caffe 深度學習框架上手教程    

  5. conv5階段DFD（data flow diagram）： 
    Caffe 深度學習框架上手教程

  6. fc6階段DFD（data flow diagram）： 
    Caffe 深度學習框架上手教程

  7. fc7階段DFD（data flow diagram）： 
                 Caffe 深度學習框架上手教程

  8. fc8階段DFD（data flow diagram）： 
    Caffe 深度學習框架上手教程             

caffe的輸出中也有包含這塊的內容日誌，詳情如下：
I0721 10:38:15.326920  4692 net.cpp:125] Top shape: 256 3 227 227 (39574272)
I0721 10:38:15.326971  4692 net.cpp:125] Top shape: 256 1 1 1 (256)
I0721 10:38:15.326982  4692 net.cpp:156] data does not need backward computation.
I0721 10:38:15.327003  4692 net.cpp:74] Creating Layer conv1
I0721 10:38:15.327011  4692 net.cpp:84] conv1 <- data
I0721 10:38:15.327033  4692 net.cpp:110] conv1 -> conv1
I0721 10:38:16.721956  4692 net.cpp:125] Top shape: 256 96 55 55 (74342400)
I0721 10:38:16.722030  4692 net.cpp:151] conv1 needs backward computation.
I0721 10:38:16.722059  4692 net.cpp:74] Creating Layer relu1
I0721 10:38:16.722070  4692 net.cpp:84] relu1 <- conv1
I0721 10:38:16.722082  4692 net.cpp:98] relu1 -> conv1 (in-place)
I0721 10:38:16.722096  4692 net.cpp:125] Top shape: 256 96 55 55 (74342400)
I0721 10:38:16.722105  4692 net.cpp:151] relu1 needs backward computation.
I0721 10:38:16.722116  4692 net.cpp:74] Creating Layer pool1
I0721 10:38:16.722125  4692 net.cpp:84] pool1 <- conv1
I0721 10:38:16.722133  4692 net.cpp:110] pool1 -> pool1
I0721 10:38:16.722167  4692 net.cpp:125] Top shape: 256 96 27 27 (17915904)
I0721 10:38:16.722187  4692 net.cpp:151] pool1 needs backward computation.
I0721 10:38:16.722205  4692 net.cpp:74] Creating Layer norm1
I0721 10:38:16.722221  4692 net.cpp:84] norm1 <- pool1
I0721 10:38:16.722234  4692 net.cpp:110] norm1 -> norm1
I0721 10:38:16.722251  4692 net.cpp:125] Top shape: 256 96 27 27 (17915904)
I0721 10:38:16.722260  4692 net.cpp:151] norm1 needs backward computation.
I0721 10:38:16.722272  4692 net.cpp:74] Creating Layer conv2
I0721 10:38:16.722280  4692 net.cpp:84] conv2 <- norm1
I0721 10:38:16.722290  4692 net.cpp:110] conv2 -> conv2
I0721 10:38:16.725225  4692 net.cpp:125] Top shape: 256 256 27 27 (47775744)
I0721 10:38:16.725242  4692 net.cpp:151] conv2 needs backward computation.
I0721 10:38:16.725253  4692 net.cpp:74] Creating Layer relu2
I0721 10:38:16.725261  4692 net.cpp:84] relu2 <- conv2
I0721 10:38:16.725270  4692 net.cpp:98] relu2 -> conv2 (in-place)
I0721 10:38:16.725280  4692 net.cpp:125] Top shape: 256 256 27 27 (47775744)
I0721 10:38:16.725288  4692 net.cpp:151] relu2 needs backward computation.
I0721 10:38:16.725298  4692 net.cpp:74] Creating Layer pool2
I0721 10:38:16.725307  4692 net.cpp:84] pool2 <- conv2
I0721 10:38:16.725317  4692 net.cpp:110] pool2 -> pool2
I0721 10:38:16.725329  4692 net.cpp:125] Top shape: 256 256 13 13 (11075584)
I0721 10:38:16.725338  4692 net.cpp:151] pool2 needs backward computation.
I0721 10:38:16.725358  4692 net.cpp:74] Creating Layer norm2
I0721 10:38:16.725368  4692 net.cpp:84] norm2 <- pool2
I0721 10:38:16.725378  4692 net.cpp:110] norm2 -> norm2
I0721 10:38:16.725389  4692 net.cpp:125] Top shape: 256 256 13 13 (11075584)
I0721 10:38:16.725399  4692 net.cpp:151] norm2 needs backward computation.
I0721 10:38:16.725409  4692 net.cpp:74] Creating Layer conv3
I0721 10:38:16.725419  4692 net.cpp:84] conv3 <- norm2
I0721 10:38:16.725427  4692 net.cpp:110] conv3 -> conv3
I0721 10:38:16.735193  4692 net.cpp:125] Top shape: 256 384 13 13 (16613376)
I0721 10:38:16.735213  4692 net.cpp:151] conv3 needs backward computation.
I0721 10:38:16.735224  4692 net.cpp:74] Creating Layer relu3
I0721 10:38:16.735234  4692 net.cpp:84] relu3 <- conv3
I0721 10:38:16.735242  4692 net.cpp:98] relu3 -> conv3 (in-place)
I0721 10:38:16.735250  4692 net.cpp:125] Top shape: 256 384 13 13 (16613376)
I0721 10:38:16.735258  4692 net.cpp:151] relu3 needs backward computation.
I0721 10:38:16.735302  4692 net.cpp:74] Creating Layer conv4
I0721 10:38:16.735312  4692 net.cpp:84] conv4 <- conv3
I0721 10:38:16.735321  4692 net.cpp:110] conv4 -> conv4
I0721 10:38:16.743952  4692 net.cpp:125] Top shape: 256 384 13 13 (16613376)
I0721 10:38:16.743988  4692 net.cpp:151] conv4 needs backward computation.
I0721 10:38:16.744000  4692 net.cpp:74] Creating Layer relu4
I0721 10:38:16.744010  4692 net.cpp:84] relu4 <- conv4
I0721 10:38:16.744020  4692 net.cpp:98] relu4 -> conv4 (in-place)
I0721 10:38:16.744030  4692 net.cpp:125] Top shape: 256 384 13 13 (16613376)
I0721 10:38:16.744038  4692 net.cpp:151] relu4 needs backward computation.
I0721 10:38:16.744050  4692 net.cpp:74] Creating Layer conv5
I0721 10:38:16.744057  4692 net.cpp:84] conv5 <- conv4
I0721 10:38:16.744067  4692 net.cpp:110] conv5 -> conv5
I0721 10:38:16.748935  4692 net.cpp:125] Top shape: 256 256 13 13 (11075584)
I0721 10:38:16.748955  4692 net.cpp:151] conv5 needs backward computation.
I0721 10:38:16.748965  4692 net.cpp:74] Creating Layer relu5
I0721 10:38:16.748975  4692 net.cpp:84] relu5 <- conv5
I0721 10:38:16.748983  4692 net.cpp:98] relu5 -> conv5 (in-place)
I0721 10:38:16.748998  4692 net.cpp:125] Top shape: 256 256 13 13 (11075584)
I0721 10:38:16.749011  4692 net.cpp:151] relu5 needs backward computation.
I0721 10:38:16.749022  4692 net.cpp:74] Creating Layer pool5
I0721 10:38:16.749030  4692 net.cpp:84] pool5 <- conv5
I0721 10:38:16.749039  4692 net.cpp:110] pool5 -> pool5
I0721 10:38:16.749050  4692 net.cpp:125] Top shape: 256 256 6 6 (2359296)
I0721 10:38:16.749058  4692 net.cpp:151] pool5 needs backward computation.
I0721 10:38:16.749074  4692 net.cpp:74] Creating Layer fc6
I0721 10:38:16.749083  4692 net.cpp:84] fc6 <- pool5
I0721 10:38:16.749091  4692 net.cpp:110] fc6 -> fc6
I0721 10:38:17.160079  4692 net.cpp:125] Top shape: 256 4096 1 1 (1048576)
I0721 10:38:17.160148  4692 net.cpp:151] fc6 needs backward computation.
I0721 10:38:17.160166  4692 net.cpp:74] Creating Layer relu6
I0721 10:38:17.160177  4692 net.cpp:84] relu6 <- fc6
I0721 10:38:17.160190  4692 net.cpp:98] relu6 -> fc6 (in-place)
I0721 10:38:17.160202  4692 net.cpp:125] Top shape: 256 4096 1 1 (1048576)
I0721 10:38:17.160212  4692 net.cpp:151] relu6 needs backward computation.
I0721 10:38:17.160222  4692 net.cpp:74] Creating Layer drop6
I0721 10:38:17.160230  4692 net.cpp:84] drop6 <- fc6
I0721 10:38:17.160238  4692 net.cpp:98] drop6 -> fc6 (in-place)
I0721 10:38:17.160258  4692 net.cpp:125] Top shape: 256 4096 1 1 (1048576)
I0721 10:38:17.160265  4692 net.cpp:151] drop6 needs backward computation.
I0721 10:38:17.160277  4692 net.cpp:74] Creating Layer fc7
I0721 10:38:17.160286  4692 net.cpp:84] fc7 <- fc6
I0721 10:38:17.160295  4692 net.cpp:110] fc7 -> fc7
I0721 10:38:17.342094  4692 net.cpp:125] Top shape: 256 4096 1 1 (1048576)
I0721 10:38:17.342157  4692 net.cpp:151] fc7 needs backward computation.
I0721 10:38:17.342175  4692 net.cpp:74] Creating Layer relu7
I0721 10:38:17.342185  4692 net.cpp:84] relu7 <- fc7
I0721 10:38:17.342198  4692 net.cpp:98] relu7 -> fc7 (in-place)
I0721 10:38:17.342208  4692 net.cpp:125] Top shape: 256 4096 1 1 (1048576)
I0721 10:38:17.342217  4692 net.cpp:151] relu7 needs backward computation.
I0721 10:38:17.342228  4692 net.cpp:74] Creating Layer drop7
I0721 10:38:17.342236  4692 net.cpp:84] drop7 <- fc7
I0721 10:38:17.342245  4692 net.cpp:98] drop7 -> fc7 (in-place)
I0721 10:38:17.342254  4692 net.cpp:125] Top shape: 256 4096 1 1 (1048576)
I0721 10:38:17.342262  4692 net.cpp:151] drop7 needs backward computation.
I0721 10:38:17.342274  4692 net.cpp:74] Creating Layer fc8
I0721 10:38:17.342283  4692 net.cpp:84] fc8 <- fc7
I0721 10:38:17.342291  4692 net.cpp:110] fc8 -> fc8
I0721 10:38:17.343199  4692 net.cpp:125] Top shape: 256 22 1 1 (5632)
I0721 10:38:17.343214  4692 net.cpp:151] fc8 needs backward computation.
I0721 10:38:17.343231  4692 net.cpp:74] Creating Layer loss
I0721 10:38:17.343240  4692 net.cpp:84] loss <- fc8
I0721 10:38:17.343250  4692 net.cpp:84] loss <- label
I0721 10:38:17.343264  4692 net.cpp:151] loss needs backward computation.
I0721 10:38:17.343305  4692 net.cpp:173] Collecting Learning Rate and Weight Decay.
I0721 10:38:17.343327  4692 net.cpp:166] Network initialization done.
I0721 10:38:17.343335  4692 net.cpp:167] Memory required for Data 1073760256

CIFAR-10在caffe上進行訓練與學習

使用資料庫：CIFAR-10

60000張 32X32 彩色影象 10類，50000張訓練，10000張測試

Caffe 深度學習框架上手教程

準備

在終端執行以下指令：

cd $CAFFE_ROOT/data/cifar10
./get_cifar10.sh
cd $CAFFE_ROOT/examples/cifar10
./create_cifar10.sh

其中CAFFE_ROOT是caffe-master在你機子的地址

執行之後，將會在examples中出現數據庫檔案./cifar10-leveldb和資料庫影象均值二進位制檔案./mean.binaryproto

Caffe 深度學習框架上手教程

模型

該CNN由卷積層，POOLing層，非線性變換層，在頂端的區域性對比歸一化線性分類器組成。該模型的定義在CAFFE_ROOT/examples/cifar10 directory’s cifar10_quick_train.prototxt中，可以進行修改。其實字尾為prototxt很多都是用來修改配置的。

Caffe 深度學習框架上手教程

訓練和測試

訓練這個模型非常簡單，當我們寫好引數設定的檔案cifar10_quick_solver.prototxt和定義的文 件cifar10_quick_train.prototxt和cifar10_quick_test.prototxt後，執行 train_quick.sh或者在終端輸入下面的命令：

cd $CAFFE_ROOT/examples/cifar10
./train_quick.sh

即可，train_quick.sh是一個簡單的指令碼，會把執行的資訊顯示出來，培訓的工具是train_net.bin,cifar10_quick_solver.prototxt作為引數。

然後出現類似以下的資訊：這是搭建模型的相關資訊

I0317 21:52:48.945710 2008298256 net.cpp:74] Creating Layer conv1
I0317 21:52:48.945716 2008298256 net.cpp:84] conv1 <- data
I0317 21:52:48.945725 2008298256 net.cpp:110] conv1 -> conv1
I0317 21:52:49.298691 2008298256 net.cpp:125] Top shape: 100 32 32 32 (3276800)
I0317 21:52:49.298719 2008298256 net.cpp:151] conv1 needs backward computation.

接著：

0317 21:52:49.309370 2008298256 net.cpp:166] Network initialization done.
I0317 21:52:49.309376 2008298256 net.cpp:167] Memory required for Data 23790808
I0317 21:52:49.309422 2008298256 solver.cpp:36] Solver scaffolding done.
I0317 21:52:49.309447 2008298256 solver.cpp:47] Solving CIFAR10_quick_train

之後，訓練開始

I0317 21:53:12.179772 2008298256 solver.cpp:208] Iteration 100, lr = 0.001
I0317 21:53:12.185698 2008298256 solver.cpp:65] Iteration 100, loss = 1.73643
...
I0317 21:54:41.150030 2008298256 solver.cpp:87] Iteration 500, Testing net
I0317 21:54:47.129461 2008298256 solver.cpp:114] Test score #0: 0.5504
I0317 21:54:47.129500 2008298256 solver.cpp:114] Test score #1: 1.27805

其中每100次迭代次數顯示一次訓練時lr(learningrate),和loss（訓練損失函式），每500次測試一次，輸出score 0（準確率）和score 1（測試損失函式）

當5000次迭代之後，正確率約為75%，模型的引數儲存在二進位制protobuf格式在cifar10_quick_iter_5000

然後，這個模型就可以用來執行在新資料上了。

其他

另外，更改cifar*solver.prototxt檔案可以使用CPU訓練，

# solver mode: CPU or GPU
solver_mode: CPU

可以看看CPU和GPU訓練的差別。

主要資料來源：caffe官網教程

轉自：http://www.open-open.com/lib/view/open1421995285109.html

原文連結：Caffe 深度學習框架上手教程

相關推薦

深度學習之Caffe框架

 caffe提供多媒體科學家和從業者一個乾淨可修改的框架，框架提供最新的深度學習演算法和一個參考模型的集合。  框架是一個BSD許可C++庫且繫結Python以及MATLAB來進行訓練，部署在通用目的卷積神經網路和其他有效的深度模型上。  Caffe適

深度學習之Caffe環境搭建

window10(64位)+VS2013+CUDA+CUDNN+caffe 配置過程 2.1 caff配置過程 進入你剛才儲存windows_caffe的資料夾下，進入 windows\CommonSettings.props.example，並重

深度學習之caffe環境搭建（3）

ubuntu 系統下的Caffe環境搭建 作者：hjimce 對於caffe的系統一般使用linux系統，當然也有windows版本的caffe，不過如果你一開始使用了windows下面的caffe，後面學習的過程中，會經常遇到各種錯誤，網上下載的一些原始碼、模型也往往不

【深度學習之Caffe】將模型測試Classification過程生成動態連結庫dll以方便其他專案呼叫

#include "caffe_classify.h"   #include "head.h"   Classifier::Classifier(const string& model_file,const string& trained_file,const string& mean

深度學習之caffe

Caffe是一個清晰而高效的深度學習框架，本文詳細介紹了caffe的優勢、架構，網路定義、各層定義，Caffe的安裝與配置，解讀了Caffe實現的影象分類模型AlexNet，並演示了CIFAR-10在caffe上進行訓練與學習。 Caffe是一個清晰而高效的深度學習框架，

深度學習之Windows下安裝caffe及配置Python和matlab介面

去年下半年看了相關目標檢測的論文，一些傳統的演算法，一些CVPR,TPAMI,ECCV,ICCV,,NIPS,比較前沿的進展，主要都是基於深度學習卷積神經網路方面的，包括RCNN,SPP-NET,Fast-RCNN,Faster-RCNN,以及YOLO,SSD，然後明天準備

開始深度學習之旅——caffe安裝

因為要參加Intel的軟創大賽，而本次大賽的主題是“基於深度學習的應用創新”，官方要求是使用Intel優化的caffe。故記錄下caffe安裝過程。 安裝依賴 sudo apt-get update sudo apt-get install bu

[caffe]深度學習之MSRA影象分類模型Deep Residual Network(深度殘差網路)解讀

一、簡介         MSRA的深度殘差網路在2015年ImageNet和COCO如下共5個領域取得第一名：ImageNet recognition, ImageNet detection, ImageNet localization, COCO detection,

[caffe]深度學習之影象分類模型VGG解讀

一、簡介 vgg和googlenet是2014年imagenet競賽的雙雄，這兩類模型結構有一個共同特點是go deeper。跟googlenet不同的是，vgg繼承了lenet以及alexnet的一些框架，尤其是跟alexnet框架非常像，vgg也是5個group的卷積、

深度學習之MAC(cpu-only)下利用anaconda安裝caffe

如何在Mac下安裝caffe 在安裝caffe之前，應該瞭解些計算機的基本知識，以及Linux的基本知識，這是因為Linux和Mac的作業系統非常像。比如什麼是Linux,它是怎麼來的？Linux和GNU啥關係？gcc又是啥。。Linux的目錄配置是咋

深度學習之收斂問題

bat 模擬 訓練 gin i-o 都是 wid 分類 number http://blog.csdn.net/xlbryant/article/details/48470987 1.數據庫太小一般不會帶來不收斂的問題，只要你一直在train總會收斂（rp問題跑飛了不算）。

1.深度學習之安裝教程

步驟 install sta tensor lib64 libc 鏈接 lib flow 在centos5下安裝TensorFlow。 步驟： 1.安裝python3.5 2.安裝pip3，同時建立軟鏈接。 3.安裝TensorFlow，pip install --upgr

深度學習之tensorflow （一）

spa 計算 put range mst reduce logs 分析 pen 一、TensorFlow簡介 1.TensorFlow定義： tensor ：張量，N維數組 Flow : 流，基於數據流圖的計算 TensorFlow : 張量從圖像

深度學習之 seq2seq 進行 英文到法文的翻譯

enc super load mark ext pre res drop zeros 深度學習之 seq2seq 進行 英文到法文的翻譯 import os import torch import random source_path = "data/small

深度學習之圖片壓縮算法

深度學習、圖片壓縮近年來，深度學習在計算機視覺領域已經占據主導地位，不論是在圖像識別還是超分辨重現上，深度學習已成為圖片研究的重要技術；現在深度學習技術已進入圖片壓縮領域。以圖鴨科技最新研發的圖片壓縮——Tiny Network Graphics (TNG) 為例，其以深度學習卷積神經網絡為內核，在保持相同圖

Tensorflow深度學習之十二：基礎圖像處理之二

fcm 數字 ssi port con tty .net term file Tensorflow深度學習之十二：基礎圖像處理之二 from：https://blog.csdn.net/davincil/article/details/76598474 首先放出

深度學習 之 GRU 算法例子

深度學習 GRU 算法 例子首先下載代碼：https://github.com/whk6688/rnn 例子1：預測下文 private void train(CharText ctext, double lr) { Map<Integer, String> indexChar

深度學習之 TensorFlow（四）：卷積神經網絡

padding valid 叠代 val 分析 此外 nbsp drop BE 基礎概念： 　　卷積神經網絡（CNN）：屬於人工神經網絡的一種，它的權值共享的網絡結構顯著降低了模型的復雜度，減少了權值的數量。卷積神經網絡不像傳統的識別算法一樣，需要對數據進行特征提取和數據重

深度學習 之 DeepLearning4j 預測股市走向

深度學習 之 DeepLearning4上一篇，預測花的類型，是沒有用到中間件的，實際情況是，數據量是非常大的，所以不實用，這次使用DeepLearning4j來預測股市走向，後續加上spark。代碼如下： public class DailyData { //開盤價 private doub

機器學習&深度學習之路

線性 概率論 向量 正則 決策 下機 正則化 希望 池化 計劃最近好好按步驟按階段系統性的學習下機器學習和深度學習，希望能堅持下去。 基礎數學篇 [高等數學：求導、梯度] [高等數學：泰勒展開] [概率論：基本概念、條件概率、全概率、樸素貝葉斯] [概率論：期望、方差