1. 程式人生 > >機器學習4/100-Logistic迴歸

機器學習4/100-Logistic迴歸

Day4 Logistic迴歸

github: 100DaysOfMLCode
Logistic迴歸用於分類問題,可以直接用於二分類問題,也可以設計應用於多分類問題。

原理

傳統的感知機將wx+b>0和wx+b<0實現二分類(0、1),Logistics迴歸更進一步,通過Logistic函式表示分類1的概率。
sigmoid(z) = 1/(1+e^(-z)),
sigmoid(wx+b>0) > 0.5,屬於1類,
sigmoid(wx+b<0) < 0.5,屬於0類。
最大似然函式:Mul(p^(y) * (1-p)^(1-y))
L = Mul( y * log( p )+ (1-y) * log(1 - p))

Logistic函式是怎麼來的

logit(p/(1-p)) = wx + b