1. 程式人生 > >視覺機器學習------KNN學習

視覺機器學習------KNN學習

algo 否則 取出 特征 學習 -- ear near 惰性

KNN(K-Nearest Neighbor algorithm, K最近鄰方法)是一種統計分類器,屬於惰性學習。

基本思想:輸入沒有標簽即未經分類的新數據,首先提取新數據的特征並與測試集中的每一個數據特征進行比較;然後從樣本中提取k個最鄰近(最相似)數據特征的分類標簽,統計這k個最鄰近數據中出現次數最多的分類,將其作為新數據的類別。

1. 分類

KNN按照一定規則將相似的數據樣本進行歸類。在KNN學習中,首先計算待分類數據特征與訓練數據特征之間呃距離並排序,取出距離最近的k個訓練數據特征;然後,根據這k個相近訓練數據特征所屬的類別來判定新樣本的類別:如果它們都屬於同一類,那麽新樣本也屬於這個類;否則,對每個候選類別進行評分,按照某種規則確定新樣本的類別。

一般采用投票規則,即少數服從多數,期望的k值是一個奇數。精確的投票方法是計算每一個測試樣本與k個樣本之間的距離。

視覺機器學習------KNN學習