1. A = LU

之前在消元的過程中，我們看到可以將矩陣 $A$ 變成一個上三角矩陣 $U$， $U$

U 的對角線上就是主元。下面我們將這個過程反過來，通一個下三角矩陣 $L$ 我們可以從 $U$ 得到 $A$

A ， $L$ 中的元素也就是乘數 $l_{ij}$

l_{ij} 。

如果有一個 3*3 的矩陣，假設不需要進行行交換，那我們需要三個消元矩陣 $E_{21}, E_{31}, E_{32}$ 來分別使矩陣 $A$ 的 (2, 1)、(3, 1) 和 (3, 2) 位置為零，然後我們就有

乘數 $l_{ij}$ 正好就是 $L$ 中 $(i, j)$ 處的元素。因為當我們計算 $U$ 的第三行的時候，實際上是用 $A$ 的第三行減去 $U$ 的前兩行的一些倍數。

因此有

下面看一個特殊的例子

如果 $A$ 的某一行以 0 開始，說明該位置不需要進行消元，也即 $L$ 中對應位置的元素為 0。

如果 $A$ 的某一列以 0 開始，該位置元素在消元過程始終不會改變，也即 $U$ 中對應位置的元素為 0。

由於 $L$ 的對角線上都是 1，而 $U$ 的對角線上為主元，因此，這是不對稱的。我們可以進一步將 $U$ 進行分解，使得 $U$ 的對角線上元素也都為 1。

這時候， $A$ 的分解就變成了 $A = LU = LDU$，其中 $D$ 是一個對角矩陣， $L$ 是一個下三角矩陣， $U$ 是一個上三角矩陣。

當我們從左邊的 $A$ 得到 $L$ 和 $U$ 後，我們就對右邊的 $b$ 進行同樣的消元過程得到 $Lc = b$，然後再通過迴帶 $Ux=c$ 求出方程組的解。

2. 消元過程的計算複雜度

假設我們有一個 $n*n$ 的矩陣，首先我們要將第一列主元以下的元素都變成 $0$。這時候，每一個元素變成 $0$ 我們都需要 $n$ 次乘法和 $n$ 次減法，總共有 $n-1$ 個元素需要變成 $0$，總的乘法次數為 $n(n-1)$，近似為 $n^2$。然後，我們要依次將後面列的主元下面的元素變成 $0$，需要的總的乘法次數為 $n^2+(n-1)^2+\cdots + 2 + 1 \approx \frac{1}{3}n^3$。

也就是說對左邊的 $A$ 消元要進行 $\frac{1}{3}n^3$ 次的乘法操作和 $\frac{1}{3}n^3$ 次的加法操作。

再來看右邊對 $b$ 進行消元，首先我們需要將 $b_2, b_3 \cdots b_n$ 都減去 $b_1$，需要 $n-1$ 次操作，往後我們依次需要 $n-2, n-3 \cdots 1$ 次操作。迴帶的時候，求解最後一個方程的時候，我們只需要進行 1 次操作，依次往上我們需要 $2, 3 \cdots n$ 次操作。因此，求解的過程總共需要 $n^2$ 次的乘法操作和 $n^2$ 次的加法操作

3. 轉置和置換矩陣

$A$ 的轉置矩陣稱為 $A^T$，其中 $A^T$ 的列就是 $A$ 的行，也即 $(A^T)_{ij} = A_{ji}$。

$(A+B)^T = A^T + B^T$
$(AB)^T = B^TA^T$

相關推薦