1. 程式人生 > >模型融合的主要方法

模型融合的主要方法

提交檔案建立融合模型(只需要之前得到的結果,不需要重新訓練)Bagging
投票融合(Voting)
加權融合(weighing)
平均融合(Averaging)
排序平均(Rank averaging)
對於auc,其本質就是一個排序,預測出的auc的值可以轉化為排名的特徵,然後在進行融合(參考DC人品預測大賽)
堆疊泛化建立融合模型Boosting
堆疊泛化(stacking)
訓練集A+B
訓練A之後預測B的結果
訓練B之後預測A的結果
用所有的資料訓練模型,然後對測試集預測
訓練一個第二階段的堆疊模型,利用第一階段得到的概率作為特徵,單獨訓練
混合(Blending)
使用邏輯迴歸堆疊
特徵加權線性堆疊