1. 程式人生 > 其它 >2、統計學習方法--感知機

2、統計學習方法--感知機

感知機

1、 感知機模型

二分類的線性分類模型,其輸入為例項的特徵向量,輸出為例項的類別,取+1和-1 二值,屬於判別模型。

假設訓練資料集是線性可分的,感知機學習的目標是求得一個能夠將訓練資料集正例項點和負例項點完全正確分開的分離超平面。如果是非線性可分的資料,則最後無法獲得超平面。

2、感知機學習策略

1、資料集的線性可分性


2、感知機學習策略

假設訓練資料集市線性可分的,感知機學習的目標是求得一個能夠將訓練集正例項和負例項點完全正確分開的分離超平面,為了找出這樣的超平面,即確定感知機模型引數w,b ,需要確定一個學習策略,即定義損失函式,並將損失函式極小化。

實際應用中一般用幾何間距

感知機學習演算法

1、感知機演算法的原始形式

這裡使用的函式間隔、目的就是得到的結果沒有一個誤分類點
感知機是誤分類點驅動 所以用函式間隔就滿足要求

  • 例項


1、感知機演算法的對偶形式