1.11×1 卷積（Network in Network and 1×1 convolutions）

輸入一張 6×6×1 的圖片，然後對它做卷積，起過濾器大小為 1×1×1，結果相當於把這個圖片乘以數字 2，但這僅僅是對於6×6×1 的一個通道圖片來說，1×1 卷積效果不佳。如果是一張 6×6×32 的圖片，那麼使用 1×1 過濾器進行卷積效果更好，具體來說，1×1 卷積所實現的功能是遍歷這 36 個單元格，計算左圖中 32 個數字和過濾器中 32 個數字的元素積之和，然後應用 ReLU 非線性函式。我們以其中一個單元為例，它是這個輸入層上的某個切片，用這 36 個數字乘以這個輸入層上 1×

1.2 Inception 網路簡介

構建卷積層時，你要決定過濾器的大小究竟是 1×1，，3×3 還是 5×5，或者要不要新增池化層。而 Inception 網路的作用就是代替你來決定，雖然網路架構因此變得更加複雜，但網路表現卻非常好。

這是你 28×28×192 維度的輸入層，Inception 網路或 Inception 層的作用就是代替人工來確定卷積層中的過濾器型別，或者確定是否需要建立卷積層或池化層。如果使用 1×1 卷積，輸出結果會是 28×28×#（某個值），假設輸出為 28×28×64，並且這裡只有一個層。如果使用 3×3 的過濾器，那麼輸出是 28×28×128。然後我們把第二個值堆積到第一個值

有了這樣的 Inception 模組，你就可以輸入某個量，因為它累加了所有數字，這裡的最終輸出為 32+32+128+64=256。Inception 模組的輸入為 28×28×192，輸出為 28×28×256。這就是 Inception 網路的核心內容。

1.3 Inception 網路（Inception network）

Inception 模組會將之前層的啟用或者輸出作為它的輸入，作為前提，這是一個28×28×192 的輸入，先通過一個 1×1的層，再通過一個 5×5 的層，1×1 的層可能有 16 個通道，而 5×5 的層輸出為 28×28×32，共32 個通道。為了在這個 3×3 的卷積層中節省運算量，你也可以做相同的操作，這樣的話 3×3 的層將會輸出 28×28×128。或許你還想將其直接通過一個 1×1 的卷積層，這時就不必在後面再跟一個 1×1 的層了，這樣的話過程就只有一步，假設這個層的輸出是 28×28×64。最後是池化層。為了能在最後將這些輸出都連線起來，我們會使用 same型別的 padding 來池化，使得輸出的高和寬依然是 28×28，這樣才能將它與其他輸出連線起來，在這過程中，把得到的各個層的通道都加起來，最後得到一個 28×28×256 的輸出，這就是一個 Inception 模組。

而 Inception 網路所做的就是將這些模組都組合到一起，最後組成了網路。

本文來自部落格園，作者：zhang-X，轉載請註明原文連結：https://www.cnblogs.com/YY-zhang/p/15075137.html