1. 程式人生 > >人工智慧初學- 1.5 支援向量機

人工智慧初學- 1.5 支援向量機

術語概念

1. 分割面

2. 超平面

3.間隔

4.支援向量

支援向量機是一種二分類模型,定義在特徵空間上的間隔最大的線性分類器

三種情況

1. 線性可分

2.近似線性可分

3.非線性可分

線性可分

計算過程

è¿éåå¾çæè¿°

得到的目標:

以下兩個部落格給出了比較詳細的推導過程:

實現方式:

近似線性可分

è¿éåå¾çæè¿°

非線性可分

這裡我們要做的就是找到一種變換的方法,將資料的特徵進行高維的對映,但是問題也來了,這樣的計算複雜度是不是也上來了呀!其實是這個樣子的SVM在數學上有這樣一個巧合,我們可以把高維特徵的內積在低維當中直接計算好然後做對映也是一樣,恰好解決計算的問題!

SMO演算法

關於SMO 演算法的理論推導可以參考