NVIDIA DIGITS 學習筆記（引數）
阿新 • • 發佈：2019-02-05
本文主要記錄了NVIDIA DIGITS的引數設定方法及其與Caffe中的引數的對應關係。
資料集
手寫體MNIST資料集的原始資料格式為：png，每幅影象大小為：
| 資料集屬性 | 值 |
|---|---|
| Image Type | Grayscale |
| Image Encoding | png |
| Image Dimensions | |
| Number of Categories | 10 |
| Number of Training Images | 45002 |
| Number of Validation Images | 14998(25% of 60000) |
| Number of test Images | 10000 |
模型引數
| Solver Options | 意義 | 示例值 | solver.prototxt | 計算 |
|---|---|---|---|---|
| Training epochs | 訓練代數：將訓練用資料反覆送入網路訓練的次數 | 30 | max_iter | （Training epochs）×（ |
| Snapshot interval (in epochs) | 快照間隔：是指訓練多少代後進行一次快照記錄 | 1 | snapshot | |
| Validation interval (in epochs) | 驗證間隔 | 1 | test_interval | |
| Random seed | 權重隨機初始化種子 | [none] | - | - |
| Batch size | 批處理大小 | [network defaults]，網路預設值，訓練：64，測試100 | - | - |
| Solver type | 優化方法 | Stochastic Gradient Descent （SGD） | solver_type | SGD |
| Base Learning Rate | 學習率 | 0.01 | base_lr | 0.01 |
| Policy | 學習率策略 | Step Size | lr_policy | “step” |
| Step Size | 步長 | 33% | stepsize | max_iter*Step Size，如：21120×33%=6970 |
| Gamma | Gamma引數 | 0.1 | gamma | 0.1 |
DIGITS中的錯誤
在模型中，對於 LeNet模型，其網路引數有一個小錯誤，就是Softmax前面的那一層的輸出為10而不是0，可以點選Customize修改，下圖左是直接視覺化的DIGITS的LeNet，右圖是將Caffe中MNIST例子中的LeNet.prototxt檔案內容直接複製到DIGITS的Customize中視覺化後的結果：
