1. 程式人生 > >多類svm

多類svm

交叉驗證 確定引數的選取(類似帶反向傳播的訓練過程)

loss 函式
SVM的損失函式想要SVM字正確分類上的得分始終比不正確得分高出一個邊界值
影象x,類別標籤y,f(x,W)得分值s
正則化懲罰 消除模糊性,對特定的權重W新增偏好,通過對所有引數進行逐元素的平方懲罰來抑制較大數值的權重

對訓練集中資料做出準確分類預測和讓損失值最小化這兩件事是等價的。

softmax分類器
對多個分類的一般化歸納,對結果歸一化
對結果計算交叉熵
梯度計算方法
···數值梯度法
···分析梯度法
梯度決定方向,步長決定走多遠

反向傳播
是利用鏈式法則遞迴計算表示式梯度的方法,對於理解、實現、設計和除錯神經網路非常關鍵

念念碎