1. 程式人生 > >Sigmoid 函式(logistic函式)筆記

Sigmoid 函式(logistic函式)筆記

其實logistic函式也就是經常說的sigmoid函式,它的幾何形狀也就是一條sigmoid曲線(S型曲線)。

 

該函式具有如下的特性:當x趨近於負無窮時,y趨近於0;當x趨近於正無窮時,y趨近於1;當x=1/2時,y=0.

 

優點:

1.Sigmoid函式的輸出對映在(0,1)之間,單調連續,輸出範圍有限,優化穩定,可以用作輸出層。

2.求導容易。

缺點:

1.由於其軟飽和性,容易產生梯度消失,導致訓練出現問題。

2.其輸出並不是以0為中心的。

 

應用:

logistic函式在統計學和機器學習領域應用最為廣泛或者最為人熟知的肯定是邏輯迴歸模型了。邏輯迴歸(Logistic Regression,簡稱LR)作為一種對數線性模型(log-linear model)被廣泛地應用於分類和迴歸場景中。此外,logistic函式也是神經網路最為常用的啟用函式,即sigmoid函式。

 

參考文章:

https://blog.csdn.net/magicqit/article/details/42525399

http://www.cnblogs.com/maybe2030/p/5678387.html