1. 程式人生 > >【吳恩達 機器學習】邏輯迴歸的損失函式偏導

【吳恩達 機器學習】邏輯迴歸的損失函式偏導

1) 邏輯迴歸(Logistic Regression, Logistic Function, Sigmoid Function)的損失函式為:

J(θ)=1mi=1m[y(i)loghθ(x(i))+(1y(i))log(1hθ(x(i)))]
其中hθ(x(i))=11+exp(θTx(i))θTx(i)=θ0x0+θ1x1+θ2x2+...

2) 對其中一個引數,比如θ1

對其求偏導:

J(θ)θ1=1mi=1m[y(i)hθ(x(i))lnehθ(x(i))θ1+(1y(i))(1hθ(x(i)))lnehθ(x(i))θ1]

3) 提取公因式hθ(x(i))θ1