1. 程式人生 > 其它 >LS演算法 最小二乘法(Least Squares, LS)對線性時不變系統響應的估計應用

LS演算法 最小二乘法(Least Squares, LS)對線性時不變系統響應的估計應用

解決最小二乘問題

讓我們簡要回顧一下構建迴歸問題最小二乘解的其他方法。

在迴歸問題中,您有一個nxm資料矩陣X和一個nx 1 觀測響應向量y

n>m 時,這是一個超定系統,通常沒有精確解。因此,目標是找到迴歸係數bmx 1 向量,以便預測值 (X b) 儘可能接近觀察值。

如果b是最小二乘解,則b最小化向量範數 ||X b-y||2, 其中 ||v||2是向量分量的平方和。

使用微積分,您可以證明解向量b滿足正規方程(X`X) b = X`y

當叉積矩陣X`X是非奇異的時,正規方程有唯一解大多數最小二乘迴歸數值演算法都從正規方程開始,這些方程具有可以利用的良好數值特性。

線性時不變系統

對於線性時不變系統,輸入輸出分別是: x[n]與y[n],

並設x[n]經過系統響應h[n]輸出一組值為z[n],使用最小二乘估計求解h[n],

期望輸出y[n]=covn(x[n],h[n])

LS_error

z[n] = X*h

係數LS估計: