本文主要專註討論LTI系統對WSS Process的影響。WSS Process的主要特性有mean以及correlation，其中correlation特性在濾波器設計，信號檢測，信號預測以及系統識別中扮演者非常重要的作用。

LTI系統的數學式由卷積定義，假設LTI系統的脈沖響應為$h(t)$，輸入的WSS Process為$x(t)$，輸出的Process為$y(t)$，那麽有如下公式：

$\displaystyle{y(t) = \int_{-\infty}^{+\infty}h(v)x(t-v)dv=\int_{-\infty}^{+\infty}x(v)h(t-v)dv}$

對於一個穩定的LTI系統來說，只要輸入是有界的，那麽輸出也是有界的（BIBO）。不過我們這裏的輸入的是WSS Process，不同於固定的輸入信號，比起要求每一個采樣點上的輸入都有界，要求$E[x^2(t)]=R_{xx}(0)$是有界的就足夠了。（白噪聲是特殊情況）

Mean/Expectation

WSS Processes在通過LTI系統之後，該process的mean為

$\begin{align*}
\mu_y = E[y(t)] &= E\left\{ \int_{-\infty}^{+\infty}h(v)x(t-v)dv \right\}\\
&=\int_{-\infty}^{+\infty}h(v)E[x(t-v)]dv\\
&=\int_{-\infty}^{+\infty}h(v)\mu_x dv\\
&=\mu_x \int_{-\infty}^{+\infty}h(v)dv\\
&=H(j0)\mu_x
\end{align*}$

這意味著輸出的mean也是一個常數$\mu_y$，輸入輸出的mean相差的倍數為$\frac{\mu_y}{\mu_x} = H(j0)$，這個數值是該連續時間LTI系統的頻率響應$H(j\Omega)$在零點處的取值，我們也可以把它稱為該LTI系統的DC增益（DC gain）。

Cross-correlation

WSS Process在LTI系統的輸入輸出有cross-correlation如下

$\begin{align*}
E\{y(t+\tau)x(t)\} &= E\left\{ \left[\int_{-\infty}^{+\infty}h(v)x(t+\tau-v)dv \right ]x(t)\right \}\\
&=\int_{-\infty}^{+\infty}h(v)E\Big\{x(t+\tau-v)x(t)\Big\}dv\\
&=\int_{-\infty}^{+\infty}h(v)R_{xx}(\tau-v)dv \qquad x(t)\ is\ WSS\ Process\\
&=h(\tau)*R_{xx}(\tau) \qquad this\ crosscorrelation\ is\ only\ relevant\ to\ \tau\\
&=R_{yx}(\tau)
\end{align*}$

從上面的式子也能得到如下關系：

輸入輸出的process之間的cross-correlation只與兩者的時間延遲$\tau$有關。

另外，根據WSS的相關性質，還可以得到

$R_{xy}(\tau)=R_{yx}(-\tau)=R_{xx}(-\tau)*h(-\tau)=R_{xx}(\tau)*h(-\tau)$

Auto-correlation

WSS Process在LTI系統的輸出有auto-correlation如下

$\begin{align*}
E\{y(t+\tau)y(t)\} &= E\left\{ \left[\int_{-\infty}^{+\infty}h(v)x(t+\tau-v)dv \right ]y(t)\right \}\\
&=\int_{-\infty}^{+\infty}h(v)E\Big\{x(t+\tau-v)y(t)\Big\}dv\\
&=\int_{-\infty}^{+\infty}h(v)R_{xy}(\tau-v)dv \\
&=h(\tau)*R_{xy}(\tau) \qquad this\ autocorrelation\ is\ only\ relevant\ to\ \tau\\
&=R_{yy}(\tau)
\end{align*}$

從上面的式子也能得到如下關系：

WSS Process在經過LTI系統後所得到的輸出的auto-correlation僅與時間差$\tau$有關，並且前面也提到該輸出process的mean是固定常數，因此輸出仍然是WSS Process。

Jointly WSS

由於LTI系統的輸入$x(t)$與輸出$y(t)$都是WSS·Process，並且這兩者的cross-correlation只與時間差$\tau$有關，因此$x(t)$與$y(t)$是Jointly WSS的。

Summary

Continuous-Time

前面我們已經得出WSS process在經過LTI系統時的mean特性:

$\mu_y=H(j0)\mu_x$

correlation特性：

$\begin{align*}
R_{yx}(\tau)&=h(\tau)\ * \ R_{xx}(\tau)\\
R_{xy}(\tau)&=h(-\tau) * \ R_{xx}(\tau)\\
R_{yy}(\tau)&=h(\tau)\ * \ R_{xy}(\tau)
\end{align*}$

另外，covariance與correlation之間有關系$C_{x,y}(t+\tau,t) = R_{x,y}(t+\tau,t) + \mu_x(t+\tau)\mu_y(t)$，並且此處$x(t),y(t)$均為WSS Process，因此有如下covariance特性：

$\begin{align*}
C_{yx}(\tau)&=h(\tau)\ * \ C_{xx}(\tau)\\
C_{xy}(\tau)&=h(-\tau) * \ C_{xx}(\tau)\\
C_{yy}(\tau)&=h(\tau)\ * \ C_{xy}(\tau)
\end{align*}$

通過上面的特性也能得到：

$\begin{align*}
R_{yy}(\tau)&=R_{xx}(\tau)*\underbrace{h(\tau) * h(-\tau)}_{h(\tau) * h(-\tau)\triangleq\overline{R}_{hh}(\tau)}&=R_{xx}(\tau)*\overline{R}_{hh}(\tau) \\
C_{yy}(\tau)&=C_{xx}(\tau)*\underbrace{h(\tau) * h(-\tau)}_{h(\tau) * h(-\tau)\triangleq\overline{R}_{hh}(\tau)}&=C_{xx}(\tau)*\overline{R}_{hh}(\tau)
\end{align*}$

在式子當中，我們定義了$\overline{R}_{hh}(\tau)$表示為LTI系統脈沖響應$h(\tau)$與其對稱函數進行卷積，有

$\displaystyle{\overline{R}_{hh}(\tau)=h(\tau)*h(-\tau) = \int_{-\infty}^{+\infty}h(t+\tau)h(t)dt}$

我們把$\overline{R}_{hh}(\tau)$稱為deterministic autocorrelation function of $h(t)$。

而在頻域，令$S_{xx}(j\Omega) = \mathcal{F}\Big(R_{xx}(\tau)\Big)$，有

$\begin{align*}
S_{yx}(j\Omega)&=H(j\Omega) \ S_{xx}(j\Omega)\\
S_{xy}(j\Omega)&=H^*(j\Omega) S_{xx}(j\Omega)\\
S_{yy}(j\Omega)&=H(j\Omega) \ S_{xy}(j\Omega)
\end{align*}$

※$h(t)$是實函數，那麽$h(-t)$的傅裏葉變換就是$H(j\Omega)$的復共軛，即$H^*(j\Omega)$，並且有$H(j\Omega)H^*(j\Omega) = |H(j\Omega)|^2$。

同時也能推導出

$S_{yy}(j\Omega) = S_{xx}(j\Omega) H(j\Omega) H^*(j\Omega) = S_{xx}(j\Omega)|H(j\Omega)|^2$

Discrete-Time

同理，我們在離散時間的信號與系統中，可以得到

Mean：

$\displaystyle{\mu_y = \mu_x\sum_{-\infty}^{\infty}h[n]}$

Correlation:

$\begin{align*}R_{yx}[m] &= h[m]*R_{xx}[m]\\
R_{xy}[m] &= h[-m]*R_{xx}[m]\\
R_{yy}[m] &= h[m]*R_{xy}[m]\\
R_{yy}[m] &= h[m]*h[-m]*R_{xx}[m] = \overline{R}_{hh}[m]*R_{xx}[m]
\end{align*}$

其中$\overline{R}_{hh}[m]$為$h[m]$的deterministic autocorrelation function，定義如下

$\displaystyle{ \overline{R}_{hh}[m] = h[m]*h[-m]=\sum_{-\infty}^{\infty}h[n+m]h[n] }$

上述關系式的傅裏葉變換以及z變換有如下關系

$\begin{align*}
\mu_y &= H(e^{j0})\mu_x ,& S_{yx}(e^{j\Omega})&=S_{xx}(e^{j\Omega})H(e^{j\Omega}), &S_{yy}(e^{j\Omega})&=S_{xx}(e^{j\Omega})|H(e^{j\Omega})|^2\\
\mu_y &= H(1)\mu_x ,& S_{yx}(z)&=S_{xx}(z)H(z) ,& S_{yy}(z)&=S_{xx}(z)H(z)H(1/z)
\end{align*}$

※$h[m]$是實數序列，因此才可以得到$H(e^{j\Omega})H(e^{-j\Omega}) = |H(e^{j\Omega})|^2$。

以上correlation式子也能寫成covariance式子（略）。

Reference：

Alan V. Oppenheim: Signals, Systems and Inference, Chapter 9:Random Process

LTI系統對WSS Processes的作用