最近在讀《R語言與網站分析》，書中對分類、聚類演算法的講解通俗易懂，和資料探勘理論一起看的話，有很好的參照效果。

然而，這麼好的講解，作者居然沒提供對應的資料集。手癢之餘，我自己動手整理了一個可用於分類演算法的資料集（下載連結：csdn下載頻道搜尋“R語言與網站分析：資料集樣例及分類演算法實現”），並用R語言實現了樸素貝葉斯、SVM和人工神經網路分類。

資料集記錄的是泰坦尼克號乘客的存活情況。資料集包括乘客的等級（class）、年齡（age）、性別（sex）和存活情況（survive），最終希望通過分析乘客的等級、年齡和性別建立模型，對乘客是否能夠存活進行分類。

以下是使用read.table()函式讀取的資料集情況，可以看到class的3/4分位數和最大值、age的最小值和1/4分位數以及sex的1/4分位數和中位值分別相等，判斷資料集可能已經離散化。

> data <- read.table("./titanic_s.txt", header = TRUE, sep = ",")
> summary(data)
     class                 age                 sex                survive       
 Min.   :-1.8700000   Min.   :-0.228000   Min.   :-1.9200000   Min.   :-1.0000  
 1st Qu.:-0.9230000   1st Qu.:-0.228000   1st Qu.: 0.5210000   1st Qu.:-1.0000  
 Median : 0.0214000   Median :-0.228000   Median : 0.5210000   Median :-1.0000  
 Mean   :-0.0007595   Mean   : 0.000202   Mean   :-0.0002494   Mean   :-0.3539  
 3rd Qu.: 0.9650000   3rd Qu.:-0.228000   3rd Qu.: 0.5210000   3rd Qu.: 1.0000  
 Max.   : 0.9650000   Max.   : 4.380000   Max.   : 0.5210000   Max.   : 1.0000 
 

將資料全部轉換為因子型別。可以看到經過轉換後，class有四類（貴族、高、中、低）、age有兩類（孩子和成人）、sex有兩類（男和女）、survive有兩類（存活和未存活）。

> data$class <- as.factor(data$class)
> data$age <- as.factor(data$age)
> data$sex <- as.factor(data$sex)
> data$survive <- as.factor(data$survive)
> summary(data)
    class         age          sex       survive  
 -1.87 :325   -0.228:2092   -1.92: 470   -1:1490  
 -0.923:285   4.38  : 109   0.521:1731   1 : 711  
 0.0214:706                                       
 0.965 :885
 

> table(data$survive)

  -1    1 
1490  711

為此，對資料量較少的存活人員樣本進行重抽樣，使得二者的樣本數量一致。

> balance <- function(data,yval) {
+   y.vector <- with(data,get(yval))
+   index.0 <- which(y.vector==-1)
+   index.1 <- which(y.vector==1)
+   index.1 <- sample(index.1, length(index.0), replace = TRUE)
+   result <- data[sample(c(index.0,index.1)),]
+   result
+ }
> 
> sdata <- balance(data, "survive")
> table(sdata$survive)

  -1    1 
1490 1490

將重抽樣後的資料分為訓練資料集和樣本資料集，比例預設按7:3分配。

> apart.data <- function(data, percent = 0.7) {
+   train.index <- sample(c(1:nrow(data)),round(percent*nrow(data)))
+   data.train <- data[train.index,]
+   data.test <- data[-c(train.index),]
+   result <- list(train = data.train, test = data.test)
+   result
+ }
> p.data <- apart.data(sdata)
> data.train <- p.data$train
> data.test <- p.data$test

資料準備妥當後，可以開始採用不同的分類演算法構建模型，並使用測試資料集對模型的分類效果進行評估。要構建的模型是關於存活情況survive與class、age以及sex之間的關係，可用如下公式表示。

> mod.formula <- as.formula("survive~class+age+sex")</span>

分類演算法1：樸素貝葉斯分類，注意要載入e1071庫。應用測試資料集對效果進行評估，結果真正率tpr（也就是“預測活著也真活著的人數”/“實際活著的人數”）為57%，真負率tnr（也就是“預測沒活也真沒活的人數”/“實際沒活的人數”）84%。看來預測“沒活”的情況比較準。

> install.packages("e1071")
> library(e1071)
> nb.sol <- naiveBayes(mod.formula, data.train);nb.sol
> nb.predict <- predict(nb.sol, newdata = data.test)
> tb <- table(nb.predict, data.test$survive)
> tpr <- tb[2,2]/(tb[2,2]+tb[1,2]);tpr
[1] 0.5735608
> tnr <- tb[1,1]/(tb[1,1]+tb[2,1]);tnr
[1] 0.8447059

分類演算法2：支援向量機（SVM）分類。應用測試資料集對效果進行評估，結果也是真正率tpr較低，真負率tnr較高。

> svm.sol <- svm(mod.formula, data.train);svm.sol
> svm.predict <- predict(svm.sol, data.test)
> tb <- table(svm.predict, data.test$survive)
> tpr <- tb[2,2]/(tb[2,2]+tb[1,2]);tpr
[1] 0.5095949
> tnr <- tb[1,1]/(tb[1,1]+tb[2,1]);tnr
[1] 0.9152941

分類演算法3：人工神經網路（ANN）分類，注意載入nnet包。應用測試資料集對效果進行評估，結果也是真正率tpr較低，真負率tnr較高。

> library(nnet)
> nnet.sol <- nnet(mod.formula, data.train, size =7, maxit = 1000);nnet.sol
> pred.prob <- predict(nnet.sol, data.test)
> pred.class <- ifelse(pred.prob>0.5, 1,0)
> table(pred.class, data.test$survive)
> tb <- table(pred.class, data.test$survive)
> tpr <- tb[2,2]/(tb[2,2]+tb[1,2]);tpr
[1] 0.5095949
> tnr <- tb[1,1]/(tb[1,1]+tb[2,1]);tnr
[1] 0.9152941

通過對具體的資料集進行資料的重抽樣、劃分訓練資料集和測試資料集，以及最終實施相應的分類演算法，可以加深對於R語言分類分析過程和方法的理解。