1. 程式人生 > >歸一化,標準化,正則化的概念和區別

歸一化,標準化,正則化的概念和區別

總的來說,歸一化是為了消除不同資料之間的量綱,方便資料比較和共同處理,比如在神經網路中,歸一化可以加快訓練網路的收斂性;標準化是為了方便資料的下一步處理,而進行的資料縮放等變換,並不是為了方便與其他資料一同處理或比較,比如資料經過零-均值標準化後,更利於使用標準正態分佈的性質,進行處理;正則化而是利用先驗知識,在處理過程中引入正則化因子(regulator),增加引導約束的作用,比如在邏輯迴歸中使用正則化,可有效降低過擬合的現象。