1. 程式人生 > >3.7 為什麼需要非線性啟用函式?

3.7 為什麼需要非線性啟用函式?

linear activation function 線性啟用函式
又稱
identity activation function 恆等啟用函式

如果是線性啟用函式,那麼神經網路只是輸入的線性組合。所以隱藏層不能用線性啟用函式。

只有一種情況可以使用線性啟用函式,那就是輸出層是連續性變數比如房價資訊(可以使用relu啟用,因為房價都是正數)。

在這裡插入圖片描述