1. 程式人生 > >hidden layer隱藏層的自我理解

hidden layer隱藏層的自我理解

在學習深層神經網路的時候在思考隱藏層的明確的定義和到底為什麼要它,它到底能起到什麼作用

一下見解僅代表個人和收集到的網上的觀點,僅此記錄

隱藏層的定義是:除輸入層和輸出層以外的其他各層叫做隱藏層。隱藏層不直接接受外界的訊號,也不直接向外界傳送訊號。

在Cross Validated上有人問了:隱藏層在神經網路中的作用

綜合起來最高票的答案是:

  1. Each layer can apply any function you want to the previous layer (usually a linear transformation followed by a squashing nonlinearity).
  2. The hidden layers’ job is to transform the inputs into something that the output layer can use.
  3. The output layer transforms the hidden layer activations into whatever scale you wanted your output to be on.
  1. 每個圖層都可以應用您想要的任何函式到前一層(通常是線性變換,然後是壓縮非線性)。

  2. 隱藏層的工作是將輸入轉換為輸出層可以使用的東西。

  3. 輸出層將隱藏層啟用轉換為您希望輸出所在的任何比例。

作用: 中間的黑盒子,可以認為是很其他的不同功能層的一個總稱