線性代數之——特徵值和特徵向量
線性方程 \(Ax=b\) 是穩定狀態的問題,特徵值在動態問題中有著巨大的重要性。\(du/dt=Au\) 的解隨著時間增長、衰減或者震盪,是不能通過消元來求解的。接下來,我們進入線性代數一個新的部分,基於 \(Ax=\lambda x\),我們要討論的所有矩陣都是方陣。
1. 特徵值和特徵向量
幾乎所有的向量在乘以矩陣 \(A\) 後都會改變方向,某些特殊的向量 \(x\) 和 \(Ax\) 位於同一個方向,它們稱之為特徵向量。
\[Ax = \lambda x\]
數字 \(\lambda\) 稱為特徵值。它告訴我們在乘以 \(A\) 後,向量是怎麼被拉伸、縮小、反轉或者不變的。 \(\lambda = 0\)
要計算特徵值的話,我們只需要知道 \(det (A-\lambda I)=0\) 即可。
如果 \(x_1\) 乘以 \(A\) 的話,我們仍然得到 \(x_1\),任意 \(A\) 的乘方仍然得到 \(A^nx_1=x_1\) 。如果 \(x_2\) 乘以 \(A\) 的話,我們得到 \(\frac{1}{2}x_2\),再乘以 \(A\) 我們得到 \((\frac{1}{2})^2x_2\)。
當 \(A\) 被平方的時候,其特徵向量不變,特徵值也變為平方。
這種模式將會繼續保持,因為特徵向量一直待在他們自己的方向,不會改變。
其它向量都會改變方向,但它們可以表示為特徵向量的線性組合。
當我們將這個向量乘以 \(A\) 後,每個特徵向量都乘以了它們對應的特徵值。
利用這個特性,我們可以進行 99 次乘法。
特徵向量 \(x_1\) 處於穩定狀態,因為 \(\lambda_1=1\),所以它不會改變。特徵向量 \(x_2\) 處於衰減狀態,因為 \(\lambda_2=0.5\),乘方次數很大時,它就相當於消失了。
上述這個特殊的矩陣是一個馬爾科夫矩陣,它的每個元素都為正並且每一列相加之後和為 1,這保證了它的最大特徵值為 1。
對於投影矩陣,它的特徵值為 0 和 1。\(\lambda = 1\)
對於映象矩陣,它的特徵值為 1 和 -1。\(\lambda = 1\) 說明乘以矩陣 \(R\) 後特徵向量 \(x_1\) 不變,\(\lambda = -1\) 說明乘以矩陣 \(R\) 後特徵向量 \(x_2\) 變為相反方向。
同時,由於 \(R = 2P-I\),因此投影矩陣和映象矩陣有著相同的特徵向量。如果 \(Px=\lambda x\),那麼
\[(2P-I)x = 2Px-Ix = (2\lambda -1)x\]
2. 特徵值的計算
\[Ax=\lambda x \to (A-\lambda I) x = \boldsymbol 0\]
如果上述式子有非零解,那麼 \(A-\lambda I\) 是奇異的,也就是行列式為零。因此,我們先通過下式求出特徵值。
\[det(A-\lambda I)=0\]
然後,針對每個特徵值,再通過求解 \((A-\lambda I)x=\boldsymbol 0\) 來找到特徵向量。
一些 \(2×2\) 矩陣可能只有一個特徵向量,這時候,它的兩個特徵值相同。同理,\(n×n\) 的矩陣如果沒有 \(n\) 個線性不相關的特徵向量,那麼就不能將任意一個向量都表示為特徵向量的線性組合。
消元過程通常會改變矩陣的特徵值,三角型矩陣 \(U\) 的對角線元素即為特徵值,但它們不是矩陣 \(A\) 的特徵值。
但是,我們可以從矩陣中很快地就發現特徵值的乘積以及和。
\(n\) 個特徵值的乘積就是矩陣的行列式值。\(n\) 個特徵值的和就是矩陣 \(n\) 個對角線元素的和。
主對角線上元素的和稱為矩陣的跡(trace)。
另外,特徵值也可能會不是實數。
獲取更多精彩,請關注「seniusen」!