記錄一下吳恩達老師深度學習的第二週的筆記，全是文字記錄推薦繼續擼視訊... .. .

新增截圖了，增加瓶頸層的解釋（聽說是某面試題，，，）

一般的卷積運算可以壓縮輸入的長度和寬度，1*1卷積核可以整合各個資料通道資訊縮小資料尺寸的深度，同時減小計算量

卷積核引數計算：卷積核的長度*卷積核的寬度*卷積核的個數

卷積計算量計算：輸出資料大小*卷積核的尺寸*輸入通道數

比如（懶得繪圖）求輸入28*28*192經過5*5*32的卷積核輸出為28*28*32的引數大小和運算量大小

① 引數計算：5*5*32

② 運算量計算：（28*28*32）*（5*5）*（192）≈1.2億

那麼1*1卷積核是怎麼通過壓縮通道資訊來減少計算量的呢？

我們把上面你那個例子改一下在中間新增以一個1*1的卷積核

28*28*192先通過一個1*1*16卷積核得到28*28*16的大小然後再經過5*5*32的卷積核得到28*28*32的輸出，那麼輸入輸出都和前面那個例子是一樣的，只是中間多了一個1*1的卷積核。我們來計算一下現在的計算量

① （28*28*16）*（1*1）*（192）≈2.4M

②（28*28*32）*（5*5）*（16）≈10.0M

所以total computational cost ≈1240萬和1.2億相比

看到了吧，就是添加了一個1*1的卷積核就大大降低計算量的哦，同時應該注意添加了1*1產生的“bottleneck layer”的意思

The end.