1. 程式人生 > >統計學習筆記13

統計學習筆記13

支援向量機

線性可分支援向量機與硬間隔最大化

對於一個二分類問題,假設輸入空間與特徵空間是兩個不同的空間。輸入空間為歐幾里得空間或離散集合,特徵空間為歐幾里得空間或希爾伯特空間;線性可分支援向量機假設這兩個空間的元素一一對應,並將輸入空間的輸入對映到特徵空間的特徵向量;非線性支援向量機則利用一個從輸入空間到特徵空間的非線性對映將輸入對映為特徵向量;所以,輸入都是由輸入空間轉換到特徵空間,支援向量機的學習是在特徵空間進行的

希爾伯特空間:
https://baike.baidu.com/item/希爾伯特空間/5630049?fr=aladdin
一般的,當訓練資料集線性可分時,存在無窮多個分離超平面可將兩類資料正確分開;感知機利用誤分類最小的策略求得無窮多個分離超平面;線性可分支援向量機用間隔最大化求最優分類超平面,解是唯一的
在這裡插入圖片描述