1. 程式人生 > >感知機學習演算法(PLA)的修正過程的理解(機器學習基石)

感知機學習演算法(PLA)的修正過程的理解(機器學習基石)

原理

首先,PLA修正過程的數學表示:
在一個迴圈中,t代表當前的迭代次數
1. 找到一個錯誤分類的點(xt,yt):
sign(wtTxn(t))yn(t)
2. 修正該錯誤
Wt+1Wt+yn(t)xn(t)
重複迴圈,直到沒有錯誤分類的點存在

圖解

說明:用權重W來代表一個假設

剛開始的時候,在一個二維的座標上將所有點畫出來:
這裡寫圖片描述
1. 隨機選擇一個權重W0 來對點分類:
這裡寫圖片描述
2. 對錯誤分類的點修正:
這裡寫圖片描述
3. 通過迴圈,不斷的完成修正:
這裡寫圖片描述
4. 最終會完成分類:
這裡寫圖片描述

總結

雖然老師在視訊中並沒有講具體是怎麼分類的(反正我當時聽不懂……),後來仔細研究才懂得圖中各個部分所代表的意思。

藍色線段:目前迭代次數的權重W所代表的直線
黑色點:錯誤分類點
紅色線段:上一次迭代的權重所代表的直線
決策邊界:與權重W直線垂直,這是真正決定點類別的直線

最後,感知機學習演算法的更新過程的依據是線性代數中的矩陣運算規則