1. 程式人生 > >baigoocn的專欄

baigoocn的專欄

摘要:SVM(支援向量機)演算法是一種典型的監督式學習演算法。介紹SVM演算法的思想和應用。

關鍵詞:機器學習   SVM    支援向量機

SVM(Support Vector Machine)支援向量機,簡稱SV機,一種監督式學習演算法,廣泛地應用於統計分類和迴歸分析中。

SVM演算法的思想可以概括為兩點。

第一點:SVM是針對線性可分情況進行分析,對於線性不可分的情況,通過使用非線性對映演算法將低維輸入空間線性不可分的樣本對映到高維特徵空間使其線性可分,從而使得高維特徵空間採用採用線性演算法對樣本的非線性特徵進行線性分析成為可能。

第二點:SVM基於結構風險最小化理論在特徵空間中構建最優分割超平面,使得學習器全域性最優化,並且在整個樣本空間的期望風險以某個概率滿足一定上界。

SVM演算法的主要優點:

1 可以解決小樣本情況下的機器學習問題

2 可以提高泛化效能

3 可以解決高維問題

4 可以解決非線性問題

5 可以避免神經網路結構選擇和區域性極小點問題

總之,SVM建立在VC維理論和結構風險最小原理之上,根據有限的樣本資訊在模型的複雜性(即對特定訓練樣本的學習精度)和學習能力(即無錯誤地識別任意樣本的能力)之間尋求最佳折中,以獲得最佳的推廣能力。