caffe是由伯克利視覺和學習中心(BVLC)開發的基於C++/CUDA/python實現的深度學習框架。

一. 特點：

1. 實現卷積神經網路架構(CNN)
2. 速度快，採用google的ProtoBuffer資料格式，提高效率
3. 完全開源，由C++語言編寫
4. caffe提供了一整套工具集，可用於訓練、預測、資料預處理等。
5. caffe自帶一系列參考模型和快速教程

二. 程式碼結構：

如上圖為caffe的資料結構，一個CNN模型由Net表示，Net由多個Layer組成，Layer輸入輸出資料由Blob資料結構儲存。

Blob,Layer,Net,Solver這幾個大類，自下而上，環環相扣，貫穿了整個caffe的結構。

1. Blob：是基礎的資料結構、儲存單元，是用來儲存學習到的引數以及網路傳輸過程中產生資料的類。
   
   
2. Layer：是網路的基本計算單元，由此派生出了各種層類。修改這部分的人主要是研究特徵表達方向的。
   
3. Net：是網路的搭建，代表一個完整CNN，將Layer所派生出層類組合成網路。Solver：是Net的求解，修改這部分人主要會是研究DL求解方向的。

三. 具體程式碼結構

• Blob
• Blob型別描述

Caffe內部採用的資料型別主要是對protocol buffer所定義的資料結構的繼承，因此可以在儘可能小的記憶體佔用下獲得很高的效率，雖然追求效能的同時Caffe也會犧牲了一些程式碼可讀性。

Blob在記憶體中表示4維陣列，維度從低到高為(width_,height_,channels_,num_)，可分別表示影象的寬和高、顏色通道、影象為第幾幀。Blob儲存資料或權值(data)和權值增量(diff)。

Blob為模板類。宣告在 include/caffe/blob.hpp，使用時需包含該標頭檔案 #include<caffe/blob.hpp> 並使用名稱空間caffe。類的實現在 src/caffe/proto/caffe.proto。

BlobProto物件可以進行磁碟與記憶體中資料的互動。

• Blob重要成員函式和變數

shared_ptr<SyncedMemory> data_; //資料
shared_ptr<SyncedMemory> diff_;//梯度

void Blob<Dtype>::Reshape(const int num, const int channels, const int height,const int width); //重新修改Blob形狀，根據形狀申請動態記憶體資料和梯度
 

inline int count(int start_axis, int end_axis) const; //計算Blob需要的基本資料單元的數量

• Layer
• Layer型別描述

Layer至少有一個輸入Blob(Bottom Blob)和一個輸出Blob(Top Blob)，部分Layer帶有權值(weight)和偏執項(Bias),有兩個運算方向：前向傳播(Forward)和反向傳播(Backward)。其中前向傳播對輸入Blob進行處理得到輸出Blob，反向傳播計算則對輸出Blob的diff進行某種處理，得到輸入Blob的diff。

Layer為抽象類，不能直接建立Layer物件，其大部分函式都只有虛擬函式，函式的真正實現在其派生類中。

標頭檔案 include/caffe/layer.hpp  原始檔src/caffe/layer.cppBlob重要成員函式和變數

• Layer重要成員函式和變數

vector<Dtype> loss_ //每一層都會有一個loss值，但只有LossLayer才會產生非0的loss
vector<shared_ptr<Blob<Dtype> > > blobs_ ;//Layer所學習的引數，包括權值和偏差

virtual void Forward(const vector<Blob<Dtype>*> &bottom,vector<Blob<Dtype>*> *top) = 0;// Layer內部資料正向傳播，從bottom到top方向

virtual void Backward(const vector<Blob<Dtype>*> &top,const vector<bool> &propagate_down,vector<Blob<Dtype>*> *bottom) = 0;

//Layer內部梯度反向傳播，從top到bottom方向

在Layer內部，資料主要有兩種傳遞方式，Forward和Backward，分別有CPU和GPU（部分有）兩種實現。

Layer函式：

layers {
  bottom: "decode1neuron"   // 該層底下連線的第一個Layer
  bottom: "flatdata"        // 該層底下連線的第二個Layer
  top: "l2_error"           // 該層頂上連線的一個Layer
  name: "loss"              // 該層的名字
  type: EUCLIDEAN_LOSS      // 該層的型別
  loss_weight: 0
}

• Net
• Net型別描述

Net用容器的形式將多個Layer有序地放在一起，其自身實現的功能主要是對逐層Layer進行初始化，以及提供Update( )的介面（更新網路引數），本身不能對引數進行有效地學習過程。

• Net的重要成員函式和變數

vector<shared_ptr<Layer<Dtype> > > layers_ ;//構成該net的layers

void Init(const NetParameter& param);
//根據NetParameter進行net初始化,簡單的來說就是先把網路中所有層的bottom Blobs&top Blobs（無重複）例項化，並從輸入層開始，逐層地進行Setup的工作，從而完成了整個網路的搭建，為後面的資料前後傳輸打下基礎。

vector<Blob<Dtype>*>& Forward(const vector<Blob<Dtype>* > & bottom,Dtype* loss = NULL);
void Net<Dtype>::Backward();
//是對整個網路的前向和反向傳導，各呼叫一次就可以計算出網路的loss了。

• Solver
• Solver的型別描述
  

Solver類中包含一個Net的指標，主要是實現了訓練模型引數所採用的優化演算法，根據優化演算法的不同會派生不同的類，而基於這些子類就可以對網路進行正常的訓練過程。

• Solver的重要成員函式和變數

shared_ptr<Net<Dtype> > net_ ;//net物件

virtual void ComputeUpdateValue() = 0;//不同的模型訓練方法通過過載函式ComputeUpdateValue( )實現計算update引數的核心功能

ComputeUpdateValue();
net_->Update();

caffemodel為訓練好的模型，權重檔案。

solverstate為求解器狀態檔案，存放訓練的中間過程，可暫停後繼續訓練