1. 程式人生 > >淺談回歸Regression

淺談回歸Regression

blog post 函數 矩陣運算 -m 圖片 導致 info 智商

一、什麽是回歸?

孩子的身高是否與父母有關?
實際上,父母和孩子的身高是受到回歸效應影響的。在時間縱軸上受影響、具有隨機性的事物,無不遵循這一規律。
只要數據足夠大,人類的身高或者智商,都有趨於平均值的回歸性。

1.1 回歸與函數逼近

function approximation or regression

P.S. Reinforcement learning 以及 Regression
均是被誤用的名詞,但約定俗成沿用至今。so,請理解真正含義。

1.2 多項式的階數

聯想之傅裏葉級數:
低階決定形狀,高階決定細節

技術分享圖片

回到多項式的階數,高階多項式可利用自由度將誤差降低。

but,過高的階數可能導致模型過擬合
如圖,高階擬合可降低誤差

技術分享圖片

如圖 ,誤差與擬合多項式階數的關系
技術分享圖片

二、多項式回歸

多項式求系數——Review Linear Algeria

技術分享圖片

求系數——矩陣運算
技術分享圖片

淺談回歸Regression