1. 程式人生 > >線性代數之——特徵值和特徵向量

線性代數之——特徵值和特徵向量

線性方程 \(Ax=b\) 是穩定狀態的問題,特徵值在動態問題中有著巨大的重要性。\(du/dt=Au\) 的解隨著時間增長、衰減或者震盪,是不能通過消元來求解的。接下來,我們進入線性代數一個新的部分,基於 \(Ax=\lambda x\),我們要討論的所有矩陣都是方陣。

1. 特徵值和特徵向量

幾乎所有的向量在乘以矩陣 \(A\) 後都會改變方向,某些特殊的向量 \(x\)\(Ax\) 位於同一個方向,它們稱之為特徵向量

\[Ax = \lambda x\]

數字 \(\lambda\) 稱為特徵值。它告訴我們在乘以 \(A\) 後,向量是怎麼被拉伸、縮小、反轉或者不變的。 \(\lambda = 0\)

意味著特徵向量存在於矩陣的零空間中。任意向量都是單位矩陣的特徵向量,因為 \(Ix=x\),其特徵值為 1。

要計算特徵值的話,我們只需要知道 \(det (A-\lambda I)=0\) 即可。

如果 \(x_1\) 乘以 \(A\) 的話,我們仍然得到 \(x_1\),任意 \(A\) 的乘方仍然得到 \(A^nx_1=x_1\) 。如果 \(x_2\) 乘以 \(A\) 的話,我們得到 \(\frac{1}{2}x_2\),再乘以 \(A\) 我們得到 \((\frac{1}{2})^2x_2\)

\(A\) 被平方的時候,其特徵向量不變,特徵值也變為平方。

這種模式將會繼續保持,因為特徵向量一直待在他們自己的方向,不會改變。

其它向量都會改變方向,但它們可以表示為特徵向量的線性組合。

當我們將這個向量乘以 \(A\) 後,每個特徵向量都乘以了它們對應的特徵值

利用這個特性,我們可以進行 99 次乘法。

特徵向量 \(x_1\) 處於穩定狀態,因為 \(\lambda_1=1\),所以它不會改變。特徵向量 \(x_2\) 處於衰減狀態,因為 \(\lambda_2=0.5\),乘方次數很大時,它就相當於消失了。

上述這個特殊的矩陣是一個馬爾科夫矩陣,它的每個元素都為正並且每一列相加之後和為 1,這保證了它的最大特徵值為 1。

對於投影矩陣,它的特徵值為 0 和 1。\(\lambda = 1\)

對應於穩定狀態,投影矩陣將列空間的所有向量都投影到列空間中去,也即還是它自身,\(Px_1 = x_1\)\(\lambda = 0\) 對應於零空間,投影矩陣將零空間的所有向量都投影到零向量,\(Px_2 = \boldsymbol 0\)

對於映象矩陣,它的特徵值為 1 和 -1。\(\lambda = 1\) 說明乘以矩陣 \(R\) 後特徵向量 \(x_1\) 不變,\(\lambda = -1\) 說明乘以矩陣 \(R\) 後特徵向量 \(x_2\) 變為相反方向。

同時,由於 \(R = 2P-I\),因此投影矩陣和映象矩陣有著相同的特徵向量。如果 \(Px=\lambda x\),那麼

\[(2P-I)x = 2Px-Ix = (2\lambda -1)x\]

2. 特徵值的計算

\[Ax=\lambda x \to (A-\lambda I) x = \boldsymbol 0\]

如果上述式子有非零解,那麼 \(A-\lambda I\) 是奇異的,也就是行列式為零。因此,我們先通過下式求出特徵值。

\[det(A-\lambda I)=0\]

然後,針對每個特徵值,再通過求解 \((A-\lambda I)x=\boldsymbol 0\) 來找到特徵向量。

一些 \(2×2\) 矩陣可能只有一個特徵向量,這時候,它的兩個特徵值相同。同理,\(n×n\) 的矩陣如果沒有 \(n\) 個線性不相關的特徵向量,那麼就不能將任意一個向量都表示為特徵向量的線性組合。

消元過程通常會改變矩陣的特徵值,三角型矩陣 \(U\) 的對角線元素即為特徵值,但它們不是矩陣 \(A\) 的特徵值。

但是,我們可以從矩陣中很快地就發現特徵值的乘積以及和。

\(n\) 個特徵值的乘積就是矩陣的行列式值。\(n\) 個特徵值的和就是矩陣 \(n\) 個對角線元素的和。

主對角線上元素的和稱為矩陣的(trace)。

另外,特徵值也可能會不是實數。

獲取更多精彩,請關注「seniusen」!