①前置知識：

曲線擬合問題：
已知一組二維資料，尋求一個函式（曲線）\(y=f(x)\)使\(f(x)\)在某種準則下與所有資料點最為接近，即曲線擬合得最好。

②線性最小二乘法：

\(1.1\) 定義
線性最小二乘法是解決曲線擬合最常用的方法，基本思路是，令：

\[f(x)=a_1r_1(x)+a_2r_2(x)+...+a_mr_m(x), \]

式中：\(r_k(x)\)為事先選定的一組線性無關的函式;\(a_k\)為待定係數。

\(1.2\) 擬合準則
使\(y_i\)與\(f(x_i)\)的距離\(\delta_i\)的平方和最小

\(1.3\) 係數確認
記

\[J(a_1,...,a_m)=\sum_{i=1}^n \delta_i^2=\sum_{i=1}^n [f(x_i)-y_i]^2, \]

要使J最小，即令\(\frac{\partial J}{\partial a_j}=0(j=1,...,m)\)

,
即：

\[\sum_{i=1}^nr_j(x_i)[\sum_{k=1}^ma_kr_k(x_i)-y_i]=0,j=1,...,m, \]

即：

\[\sum_{k=1}^ma_k[\sum_{i=1}^n r_j(x_i)r_k(x_i)]=\sum_{i=1}^nr_j(x_i)y_i,j=1,...,m, \]

記：

\[R=\begin{bmatrix} r_1(x_1)& \cdots & r_m(x_1) \\ \vdots &\vdots& \vdots \\ r_1(x_n)& \cdots & r_m(x_n) \end{bmatrix} ,\]\[A=[a_1,\cdots,a_m]^T,Y=[y_1,\cdots,y_n]^T, \]

則方程式可表示為：

\[R^TRA=R^TY。 \]

當\({r_1(x),\cdots,r_m(x)}\)線性無關時，R滿秩，\(R^TR\)可逆，此時有唯一解：

\[A=(R^TR)^{-1}R^TY \]

1.4 實際意義