常見的曲線擬合方法

1.使偏差絕對值之和最小

2.使偏差絕對值最大的最小

3.使偏差平方和最小

按偏差平方和最小的原則選取擬合曲線，並且採取二項式方程為擬合曲線的方法,稱為最小二乘法。

皮皮blog

多項式擬合

多項式擬合公式

多項式階數對資料擬合的影響

資料量較少，階數過高，可能過擬合。

多項式擬合問題描述

假定給定一個訓練資料集：T={(x1,y1),(x2,y2),⋯,(xN,yN)}

其中，xi∈R是輸入x的觀測值，yi∈R是相應的輸出y的觀測值，i=1,2,⋯,N，多項式函式擬合的任務是假設給定資料由M次多項式函式生成，選擇最有可能產生這些資料的M次多項式函式，即在M

次多項式函式中選擇一個對已知資料以及未知資料都有很好預測能力的函式。

設M次多項式為fM(x,w)=w0+w1x+w2x2+⋯+wMxM=∑j=0Mwjxj，式中x式單變數輸入，w0,w1,⋯,wm是M+1個引數。

引數W求解1

{實際上是一個最小二乘法多項式曲線擬合問題，根據給定的m個點,並不要求這條曲線精確地經過這些點，而是曲線y=f(x)的近似曲線y= φ(x)。}

用平方損失作為損失函式，係數12是為了方便計算，將模型與訓練資料代入，有L(w)=12∑i=1N(∑j=0Mwjxji−yi)2

對wj求偏導並令其為0

set∂L(w)∂wk=0⇒12∑i=1N2(∑j=0Mwjxji−yi)×xk

i=0⇒∑i=1N∑j=0Mwjxji＝∑i=1Nxkiyi(k=0,1,2,⋯,M) 所以要求擬合多項式係數w∗0,w∗1,⋯,w∗M需要解下面這個線性方程組，求和符號上下限都是i=1到N。 ⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢N∑xi∑x2i⋮∑xMi∑xi∑x2i∑x3i⋮∑xM+1i∑x2i∑x3i∑x4i⋮∑xM+2i⋯⋯⋯⋱⋯∑xMi∑xM+1i∑xM+2i⋯∑x2Mi⎤⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎛⎝⎜⎜⎜⎜⎜⎜⎜w0w1w2⋮wm⎞⎠⎟⎟⎟⎟⎟⎟⎟=⎡⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢∑yi∑xiyi∑x2iyi⋮∑xMiyi⎤⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥

所以計算出