微信公眾號

關鍵字全網搜尋最新排名

【機器學習演算法】：排名第一

【機器學習】：排名第一

【Python】：排名第三

【演算法】：排名第四

轉自：小象

在銀行欺詐檢測、實時競價或網路入侵檢測等領域通常是什麼樣的資料集呢？這些領域使用的資料通常有不到1％少量但“有趣的”事件，例如欺詐者利用信用卡，使用者點選廣告或者損壞的伺服器掃描網路。 然而，大多數機器學習演算法不能有效的處理不平衡資料集的學習問題，以下七種技術可以有效的幫助你處理上述存在的問題。

1.使用正確的評估指標 

如上圖，對於該問題如果使用精度來衡量模型的好壞，將所有測試樣本分類為“0”的模型具有很好的準確性（99.8％），但顯然這種模型不能為我們提供任何有價值的資訊。

在這種情況下，可以使用如下所示的其他指標：

• 精度/特異性：有多少個選定的相關例項。

• 呼叫/靈敏度：選擇了多少個相關例項。

• F1得分：精度和召回的諧波平均值。

• MCC：觀察和預測的二進位制分類之間的相關係數。

• AUC：正確率與誤報率之間的關係。

2.重新取樣訓練集 

欠取樣通過減少冗餘類的數量來平衡資料集。通過將所有樣本儲存在少數類中，並在多數類中隨機選擇相等數量的樣本，可以檢索平衡的新資料集以進一步建模。

相反，當資料量不足時應採用過取樣，嘗試通過增加稀有樣本的數量來平衡資料集。不是去除樣本的多樣性，而是通過使用諸如重複、自舉或SMOTE等方法生成新樣本（合成少數過取樣技術）

請注意，一種重取樣方法與另一種相比沒有絕對的優勢。這兩種方法的應用取決於它適用的用例和資料集本身。

3.以正確的方式使用K-fold交叉驗證 

需要注意的是，使用過取樣方法來解決不平衡問題時，應適當地應用交叉驗證。過取樣會觀察到稀有的樣本，並根據分佈函式自舉生成新的隨機資料。如果在過取樣之後應用交叉驗證，那麼我們所做的就是將模型過度適應於特定的人工引導結果。這就是為什麼在過取樣資料之前應該始終進行交叉驗證，就像實現特徵選擇一樣。只有對資料進行重複取樣，可以將隨機性引入到資料集中，以確保不會出現過擬合問題。

4.組合不同的重取樣資料集

生成通用模型的最簡單方法是使用更多的資料。問題是，開箱即用的分類器，如邏輯迴歸或機森隨林，傾向於通過丟棄稀有樣例來推廣。一個簡單的最佳實現是建立n個模型，使用少數類的所有樣本和數量充足類別的n個不同樣本。假如您想要組合10個模型，需要少數類1000例，隨機抽取10.000例多數類的樣本。然後，只需將10000個樣本分成10個塊，訓練出10個不同的模型。

 如果有大量資料，那麼這種方法很簡單，完美地實現水平擴充套件，因此可以在不同的叢集節點上訓練和執行模型。集合模型也趨於一般化，使得該方法容易處理。

5.用不同比例重新取樣

以前的方法可以通過少數類和多數類之間的比例進行微調。最好的比例在很大程度上取決於所使用的資料和模型。但是，不是在整體中以相同的比例訓練所有模型，合併不同的比例值得嘗試。 所以如果訓練了10個模型，對一個模型比例為1：1（少數：多數），另一個1：3甚至是2：1的模型是有意義的。 根據使用的模型可以影響一個類獲得的權重。

6. 對多數類進行聚類

Sergey Quora提出了一種優雅的方法。他建議不要依賴隨機樣本來覆蓋訓練樣本的種類，而是將r個分組中的多數類進行聚類，其中r為r中的樣本數。對於每個組，只保留質心（樣本的中心）。然後該模型僅保留了少數類和樣本質心來訓練。

7.設計自己的模型

以前的所有方法都集中在資料上，並將模型作為固定的元件。但事實上，如果模型適用於不平衡資料，則不需要對資料進行重新取樣。如果資料樣本沒有太多的傾斜，著名的XGBoost已經是一個很好的起點，因為該模型內部對資料進行了很好的處理，它訓練的資料並不是不平衡的。但是再次，如果資料被重新取樣，它只是悄悄進行。

通過設計一個損失函式來懲罰少數類的錯誤分類，而不是多數類，可以設計出許多自然泛化為支援少數類的模型。例如，調整SVM以相同的比例懲罰未被充分代表的少數類的分類錯誤。

綜上所述

這不是一份獨家的技術清單，而是處理不平衡資料的一個起點。

沒有適合所有問題的最佳方法或模型，強烈建議嘗試不同的技術和模型來評估哪些方法最有效。 可以嘗試創造性地結合不同的方法。

廣告、商業合作

請發郵件：[email protected]

喜歡，別忘關注~

幫助你在AI領域更好的發展，期待與你相遇！