1. 程式人生 > >機器學習過擬合

機器學習過擬合

出現過擬合的原因:

a)在進行資料探勘或者機器學習模型建立的時候,假設資料滿足獨立同分布。即當前已產生的資料可以對未來的資料進行推測與模擬,因此都是使用歷史資料建立模型。即使用已經產生的資料去訓練,然後使用該模型去擬合未來的資料。但是一般獨立同分布的假設往往不成立,即資料的分佈可能會發生變化。

b)在對模型進行訓練時,有可能遇到訓練資料不夠,即訓練資料無法對整個資料的分佈進行估計的時候,或者在對模型進行過度訓練(overtraining)時,常常會導致模型的過擬合(overfitting)。

c)模型建立的太複雜

如何防止過擬合:

a)正則化(Regularization):最常見方法便是:正則化,即在對模型的目標函式(

objective function)或代價函式(cost function)加上正則項。

b)資料集擴增(Data augmentation):在對模型進行訓練時,有可能遇到訓練資料不夠,即訓練資料無法對整個資料的分佈進行估計的時候,或者在對模型進行過度訓練(overtraining)時,常常會導致模型的過擬合(overfitting)。

c)early stoppingDropout

如何判斷是否過擬合:

隨著模型訓練的進行,模型的複雜度會增加,此時模型在訓練資料集上的訓練誤差會逐漸減小,但是在模型的複雜度達到一定程度時,模型在驗證集上的誤差反而隨著模型的複雜度增加而增大。此時便發生了過擬合,即模型的複雜度升高,但是該模型在除訓練集之外的資料集上卻不

work

訓練資料不夠怎麼處理:

我們在使用訓練資料訓練模型,通過這個模型對將來的資料進行擬合,而在這之間有一個假設便是,訓練資料與將來的資料是獨立同分布的。即使用當前的訓練資料來對將來的資料進行估計與模擬,而更多的資料往往估計與模擬地更準確。因此,更多的資料有時候更優秀。資料機擴增即需要得到更多的符合要求的資料,即和已有的資料是獨立同分布的,或者近似獨立同分布的。一般有以下方法:

a)從資料來源頭採集更多資料

b)複製原有資料並加上隨機噪聲

c)重取樣

d)根據當前資料集估計資料分佈引數,使用該分佈產生更多資料等

e)對訓練資料進行左右對稱以及平移變換

f)對畫素進行PCA

變換,增加主成分,構造新樣本