1. 程式人生 > >整合學習-stacking

整合學習-stacking

參考文獻:https://blog.csdn.net/Mr_tyting/article/details/72957853
stacking具體的演算法流程
這裡寫圖片描述
以上圖為例,我們現在有訓練集train_x,train_y,測試集test
① 我們首先選擇一種模型比如隨機森林rf。(未經訓練)
②這裡假設把訓練集均分成5份,把其中四份作為小的訓練集s_train_x,s_train_y另外一份作為小的測試集s_test,測試集test不變。
③我們以s_train_x,s_train_y訓練rf模型,訓練出的模型預測s_test得出對應的s_pred,再預測test得出y_pred。
④在訓練集再選擇另外一份作為小的測試集s_test_x,其他四份作為訓練集訓練模型rf。
⑤重複②,③,④步驟五次。我們會得到五個s_pred和五個y_pred。
五個s_pred作為一個train_X,原始的train_y作為train_Y訓練模型得到模型G,五個y_pred取個平均值作為新的test_X,把test_X帶入到模型G中得出預測結果。