mnist各種網路研究2 結果統計
阿新 • • 發佈：2018-12-06
統計實驗結果：
| 網路 | 關鍵字 | 引數量 | acc | 估計運算量 |
|---|---|---|---|---|
| Net1 | softmax | 7850 | 0.9169 | 7840 |
| Net2 | 全連線 | 669706 | 0.9843 | 668672 |
| Net3 | 全標準卷積 | 3274634 | 0.9921 | 13883904 |
| Net4 | stride | 3274634 | 0.9881 | 5887104 |
| Net5 | 可分離卷積 | 3225011 | 0.9877 | 3781476 |
| Net6 | 可分離卷積 | 82419 | 0.9715 | 836452 |
| Net7 | sgd | 82419 | 0.9748 | 836452 |
| Net8 | 5*5 | 82947 | 0.9788 | 1642404 |
| Net9 | 縮小通道 | 24595 | 0.9735 | 418404 |
| Net10 | 縮小通道 | 8091 | 0.9687 | 110340 |
| Net11 | 合併 | 16172 | 0.9716 | 220680 |
| Net12 | 合併 | 211611 | 0.9675 | 313604 |
| Net13 | 合併 | 16028 | 0.9661 | 167368 |
| Net14 | 7*7 | 8307 | 0.9723 | 192868 |
| Net15 | 多尺寸卷積 | 18235 | 0.9759 | 264356 |
| Net16 | 卷積 | 204161 | 0.982 | 385556 |
可以看到：
1、運算量最小的是Net1，但是ACC也是最低的
2、引數量最小的也是Net1
3、效能最好的是Net3，但是同時也是引數最大，運算量最大的
4、可分離卷積效能非常出色，大大降低了，運算量，效能僅僅下跌一點點
5、本網路引數都集中在最後的全連線層
6、更大的卷積核，效能更好
7、Net14使用可分離卷積，7*7卷積核，運算量只有Net3的0.0139，引數只有Net3的0.0025，ACC跌了約2%
8、幾個網路組合的結果比單個網路還差，還有待後續研究