信用卡檢測案例

原始資料：0特別多，1特別少——樣本不均衡。
要麼讓0和1一樣多，要麼讓0和1一樣少。

1.下采樣

對於資料0和1，要變為同樣少——在0裡選擇和1一樣多資料。

from sklearn.preprocessing import StandardScaler
data['normAmount']=StandardScaler().fit_transform(data['Amount'].reshape(-1,1)
data = data.drop(['Time','Amount'],axis=1)
data.head()

讓所有資料的取值範圍儘量相同。
- reshape(-1,1) , -1是個佔位符。

在正常index隨機選擇多少個。

under_sample_indices=np.concatenate([fraud_indices,random_normal_indices]);

通過索引定位資料
under_sample_data=data.iloc[under_sample_indices,:]
這樣就做好了下采樣資料集。

交叉驗證

假設現在拿到1筆資料，那首先我們要把資料分成2部分，一部分train（訓練），一部分test（測試）。
一般比例是train:test=0.9:0.1

第1步 訓練集再分成3份，

1+2訓練，3作為驗證。

即調引數是在訓練資料中拿一部分作驗證。

第2步 2+3作模型，3作驗證
第3步 1+3作模型，2作驗證
把三次的結果相加 / 3作為最終結果。

實際中可以把資料集切成更多份進行交叉驗證。

程式碼示例：

from sklearn.cross_validation import train_test_split

X_train,X_test,y_train,y_test = train_test_split(X,y,test_size=0.3,random_state=0);
30%作訓練集，random_state復現的結果(?)

print("Number transactions train dataset: " ,len(X_train))

X_train_
 
undersample,X_test_undersample,y_train_undersample,y_test_undersample

建模：
![這裡寫圖片描述](https://img-blog.csdn.net/20170615203117546?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveHVuZGg=/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)

後一個for是交叉驗證。
lr = LogisticRegression(C= c_param,penalty = ‘l1’) 分類器，懲罰力度傳進來 。
lr.fit(x_train_data.iloc[indices[0],:],y_train_data.iloc[indices[0],:].values.rave1()
訓練模型

接下來預測
y_pred_undersample = lr.predict(x_train_data.iloc[indices[1],:].values)
拿測試樣本預測
recall_acc= recall_score(y_train_data.iloc[indices[1],:].values,y_pred_undersample)
recall_accs.append(recall_acc)

列印結果：

得到5次recall值，計算平均值：
Mean recall score 0.960846151257
目前是驗證級的結果。

C parameter: 0.1的時候

Mean recall score 0.885020…
引數會對結果有非常大的影響 。

模型評估標準
精度指標
recall指標=TP/(TP+FN)
TP:

fold=KFold(
資料分幾份。

懲罰項
X[1,1,1,1]
W₁=[1,0,0,0]
W₂=[1/4,1/4,1/4,1/4]
X*W₁^T=1
X*W₂^T=1
對W₁，X後面的三個特徵沒有作用。
而對W₂，每個特徵都會考慮進來 。
W₂會更好，綜合考慮各個特徵。 要指定一個懲罰引數，對W₁進行懲罰。
L₂加平方項，W²
L₁加絕對值，|W|。
選擇懲罰項比較小的方式。最終目標要把正則化懲罰項加上。

L1 L2前加λ懲罰係數，λ可以取不同的值。什麼樣的懲罰係數好呢？

Confusion matrix 混淆矩陣

對比真實值與預測值的結果：

現在混淆矩陣顯示的是測試集的結果。

下週要講怎麼解決誤殺的問題。主要是下采樣策略引起的。主要是過取樣策略。

如果直接：
best_c = printing_Kfold_scores(Xtrain.y_train)
看交叉驗證的結果,recall值會很小。

2. 過取樣

邏輯迴歸：預值概念

預值對recall值的影響

精度與recall值的權衡要視具體任務來定。

smote演算法

對於少數類中每一個樣本x，以歐氏距離為標準計算它到少數類樣本集中所有樣本的距離，得到其k近鄰。

安裝 pip install imblearn
演算法示例：

目前混淆矩陣

誤殺大約1%，recall稍高一些。