SVM（支持向量機）
1.什麽是SVM
通過跟高斯“核”的結合，支持向量機可以表達出非常復雜的分類界線，從而達成很好的的分類效果。“核”事實上就是一種特殊的函數，最典型的特征就是可以將低維的空間映射到高維的空間。
?
我們如何在二維平面劃分出一個圓形的分類界線？在二維平面可能會很困難，但是通過“核”可以將二維空間映射到三維空間，然後使用一個線性平面就可以達成類似效果。也就是說，二維平面劃分出的非線性分類界線可以等價於三維平面的線性分類界線。於是，我們可以通過在三維空間中進行簡單的線性劃分就可以達到在二維平面中的非線性劃分效果。
?
圖 三維空間的切割
SVM的英文全稱是Support Vector Machines，我們叫它支持向量機。支持向量機是我們用於分類的一種算法。讓我們以一個小故事的形式，開啟我們的SVM之旅吧。
在很久以前的情人節，一位大俠要去救他的愛人，但天空中的魔鬼和他玩了一個遊戲。
魔鬼在桌子上似乎有規律放了兩種顏色的球，說："你用一根棍分開它們？要求：盡量在放更多球之後，仍然適用。"
?
於是大俠這樣放，幹的不錯？
?
然後魔鬼，又在桌上放了更多的球，似乎有一個球站錯了陣營。顯然，大俠需要對棍做出調整。
?
SVM就是試圖把棍放在最佳位置，好讓在棍的兩邊有盡可能大的間隙。這個間隙就是球到棍的距離。
?
現在好了，即使魔鬼放了更多的球，棍仍然是一個好的分界線。
?
魔鬼看到大俠已經學會了一個trick(方法、招式)，於是魔鬼給了大俠一個新的挑戰。
?
現在，大俠沒有棍可以很好幫他分開兩種球了，現在怎麽辦呢？當然像所有武俠片中一樣大俠桌子一拍，球飛到空中。然後，憑借大俠的輕功，大俠抓起一張紙，插到了兩種球的中間。
?
現在，從空中的魔鬼的角度看這些球，這些球看起來像是被一條曲線分開了。
?
再之後，無聊的大人們，把這些球叫做data，把棍子叫做classifier, 找到最大間隙的trick叫做optimization，拍桌子叫做kernelling, 那張紙叫做hyperplane。
SVM（支持向量機）