1. 程式人生 > >統計學習筆記7

統計學習筆記7

k 近鄰演算法的實現:kd樹

在實現k近鄰演算法時,主要考慮的是對訓練資料進行快速地k近鄰搜尋;最簡單的方法就是線性掃描,即計算輸入例項與每一個訓練例項的距離,當訓練集很大時,運算量是很大的,所以這種做法是不可取的;為了提高k近鄰演算法的執行效率,我們可以用特殊的結構來儲存訓練資料,下面介紹其中的kd樹方法

構造kd樹:

首先,我們看一下樹的概念:
https://baike.baidu.com/item/樹/2699484?fr=aladdin
在這裡插入圖片描述
在這裡插入圖片描述
在這裡插入圖片描述
下面我們來看一個例子:
在這裡插入圖片描述
在這裡插入圖片描述
下面是相應的kd樹:
在這裡插入圖片描述
注:由於kd樹的每一個根節點對應於一個k維超矩形區域,在將所得的區間劃分轉化為相應的kd樹時可利用矩形區域的“包含”關係確定節點的“父子”關係