1. 程式人生 > >05 SVM - 支援向量機 - 概念、線性可分

05 SVM - 支援向量機 - 概念、線性可分

一、SVM概念

支援向量機(Support Vector Machine, SVM)本身是一個__二元分類演算法__,是對感知器演算法模型的一種擴充套件,現在的SVM演算法支援__線性分類__和__非線性分類__的分類應用,並且也能夠直接將SVM應用於__迴歸應用__中,同時通過OvR或者OvO的方式我們也可以將SVM應用在__多元分類__領域中。在不考慮整合學習演算法,不考慮特定的資料集的時候,在分類演算法中SVM可以說是特別優秀的。

SVM概念

在感知器模型中,演算法是在資料中找出一個劃分超平面,讓儘可能多的資料分佈在這個平面的兩側,從而達到分類的效果,但是在實際資料中這個符合我們要求的超平面是可能存在多個的。

出一個劃分超平面,讓儘可能多的資料分佈在這個平面的兩側

在感知器模型中,我們可以找到多個可以分類的超平面將資料分開,並且優化時希望所有的點都離超平面儘可能的遠,但是實際上離超平面足夠遠的點基本上都是被正確分類的,所以這個是沒有意義的;反而比較關心那些離超平面很近的點,這些點比較容易分錯。所以說我們只要__讓離超平面比較近的點儘可能的遠離這個超平面__,那麼我們的模型分類效果應該就會比較不錯。SVM其實就是這個思想。

原文連結