用R語言實現knn演算法，步驟如下：

一、載入R包

library(kknn)
library(sampling)
library(class)

如果不能載入上面幾個包請先下載。

二、準備資料

我用的資料是kknn包自帶的資料集miete，可以通過幾個不同的函式檢視資料集miete的屬性。

data(miete)
head(miete)
dim(miete)
str(miete)

先去掉第1、3、12列資料：

# 去掉第1、3、12列資料
miete = miete[, -c(1, 3, 12)]
 

需要用來做分類的列是miete$nmkat，通過函式table(miete$nmkat)可以看到，此列屬性共分為5類，分別標記為1、2、3、4、5，每一類所包含的物件大概都是200多一點，如下圖：

所以我們可以取三分之二的資料作為訓練集，三分之一的資料作為測試集。所以五類資料每一類的資料各隨機取三分之二，抽樣為不放回抽樣。

n = round(2 / 3 * nrow(miete) / 5)
sub_train = strata(miete,
                   stratanames = "nmkat",
                   size = rep(n, 5),
                   method = "srswor")
 

sub_train裡的資料是需要抽取出來的列的序號，通過方法：

# 構造訓練集
data_train = miete[sub_train$ID_unit, ]
# 構造測試集
data_test = miete[-sub_train$ID_unit, ]

# 函式歸一化
normalize = function(x) {
  return((x - min(x)) / (max(x) - min(x)))
}
ix = c(1, 8, 10)
miete[, ix] = as.data.frame(lapply(miete[, ix], normalize))
 

三、實現knn演算法

fit_pre = knn(data_train[, -12], data_test[, -12], cl = data_train[, 12])

把得出來的訓練集結果fit_pre和真實的訓練集data_test做對比：

table(data_test$nmkat, fit_pre)

如果不夠直觀，還可以計算一下判斷準確率：

correct = sum(as.numeric(fit_pre)==as.numeric(data_test$nmkat))/nrow(data_test)

這個準確率是k=1時的準確率，knn函式未設定k時，k的預設值是1，如果想測試不同k值得準確率，可以設定迴圈求k=1：20的準確率。

correct = rep(0,20)
for(i in 1:20){
  fit_pre = knn(data_train[, -12], data_test[, -12], cl = data_train[, 12],k=i)
  correct[i] = sum(as.numeric(fit_pre)==as.numeric(data_test$nmkat))/nrow(data_test)
}

四、實現有權重的knn演算法（kknn）

fit_kknn = kknn(nmkat~.,data_train,data_test[,-12],k=1)
fit = fitted(fit_kknn)
table(data_test$nmkat,fit)

得出分類的準確率為0.5138122。

當然，也可以讓k取不同的值觀察分類準確率最高時，k的值為多少。

六、最後

以上，為knn演算法的R語言實現過程，如果讀者有什麼疑問或者意見建議，歡迎留言。