1. 程式人生 > >模型融合stacking與blending

模型融合stacking與blending

1.stacking

給定資料集\(D\),首先將資料集劃分為訓練集\(D_{train}\)和驗證集\(D_{valid}\),然後將訓練集劃分為k份,記為\(D_{train}^1,\cdots,D_{train}^k\)。用其中的k-1份訓練一個基模型並對剩餘的一份進行預測,重複k次得到整個訓練集的預測值(是k個相同模型使用不同訓練集得到的預測結果),再換用不同的基模型可以得到訓練集的多列預測值,將這些預測值堆疊起來訓練次級模型,預測的時候,用所有模型對測試集進行預測並取結果的平均送入次級模型,具體如下圖(使用一個基模型的情況)

2.Blending