1. 程式人生 > >1*1卷積核作用分析

1*1卷積核作用分析

1*1卷積核,這種小巧的卷積核從GoogLeNet,ResNet之後得到了廣泛的使用,其在理論上和時間上都被證明了針對特定的問題可以一定程度地提升神經網路的效率。

關於1*1卷積核的作用,總體而言主要有如下兩個方面的內容:

  1. 進行升維與降維並減少網路引數。關於其降維並減少網路引數的特點在GooLeNet中表現得一覽無遺,詳情可以參見GooLeNet,關於其升維並減少網路引數的功能在ResNet中使用得非常突出。關於詳情可以參考http://www.caffecn.cn/?/question/136
  2. 提升跨通道的資訊整合與資訊互動。我們知道,1*1的卷積核的每一個filter可以實現跨通道的資訊通訊,因此雖然是簡單的線性組合,但是卻豐富了資訊的表現形式,因此有利於特徵的提取。

總體而言,小卷積已經成為了一種主流,在實踐中是一種應該特別考慮的技巧。