3 - 矩陣的運算、逆矩陣
布布的線代筆記 3
0. 前序知識
1.行圖、列圖
2.高斯消元法：確定主元 → 消去主元下方所有係數 → 得到只含一個未知量的方程 → 回代得解
3.利用矩陣表示消元法：消去矩陣 \(E\)，置換矩陣 \(P\)，增廣矩陣 i.e. \([A\boldsymbol b]\)
1. 矩陣
一個 \(m\) 行 \(m\) 列的矩陣稱為 \(m \times m\) 矩陣，第 \(i\) 行第 \(j\) 列的元素用 \(a_{ij}\) 表示，稱為 \(A\) 的 \((i,j)\) 元素
\[i.e. ~~A=\begin{bmatrix} a_{11} & ... & a_{1j} & ... & a_{1n} \\ \vdots & & \vdots & & \vdots \\ a_{i1} & ... & a_{ij} & ... & a_{in} \\ \vdots & & \vdots & & \vdots \\ a_{m1} & ... & a_{mj} & ... & a_{mn} \\ \end{bmatrix} = \begin{bmatrix} a_1 & ... & a_n\end{bmatrix}\]行數，列數都相同的矩陣可以相加，矩陣可以乘以任意常數 \(C\)
\(i.e. ~~ \begin{bmatrix} 1&2&3\\4&5&6 \end{bmatrix} + \begin{bmatrix} 1&0&1\\1&0&1 \end{bmatrix} = \begin{bmatrix} 2&2&4\\5&5&7 \end{bmatrix}\)
\(i.e. ~~ 2\begin{bmatrix} 1&2&3\\4&5&6 \end{bmatrix} = \begin{bmatrix} 2&4&6\\8&10&12 \end{bmatrix}\)
\(0\) 矩陣：所有元素都為 \(0\)
\(~~i.e. ~\begin{bmatrix}
0&0&0\\0&0&0\\0&0&0
\end{bmatrix}\)
方陣：\(m=n\)
\(~~i.e. ~\begin{bmatrix}
a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}
\end{bmatrix}\)
對角矩陣：非對角都是 \(0\) 的方陣
\(~~i.e. ~\begin{bmatrix}
a_{11}&0&0\\0&a_{22}&0\\0&0&a_{33}
\end{bmatrix}\)
2. 矩陣的乘法
\[A=\begin{bmatrix} row~1\\...\\row~m \end{bmatrix}, ~~B=\begin{bmatrix} \boldsymbol b_1 & ... & \boldsymbol b_n \end{bmatrix}\] \[~~~~~~A\boldsymbol b_1 = \begin{bmatrix} \vec {row~1} \cdot \boldsymbol b_1\\...\\\vec {row~m} \cdot \boldsymbol b_1 \end{bmatrix} ~~~ A\boldsymbol b_2 ~ ...\] \[\begin{aligned} (AB)_{ij} &= a_{i1}b_{1j} + a_{i2}b_{2j}+...+a_{in}b_{nj} =\sum\limits^n_{k=1}a_{ik}b_{kj} \\ (AB)_{i.j} & = (row~i~of~A) \cdot (column~j~of~B) \end{aligned} \]
矩陣乘法是怎麼來的？
\[ \left\{ \begin{aligned} x' & = a_{11}x+a_{12}y \\ y' & = a_{21}x+a_{22}y \end{aligned} \right. ~~~~~ \begin{bmatrix} x' \\ y' \end{bmatrix} = \begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} \] \[\left\{ \begin{aligned} x'' & = b_{11}x'+b_{12}y' \\ y'' & = b_{21}x'+b_{22}y' \end{aligned} \right. ~~~~~ \begin{bmatrix} x'' \\ y'' \end{bmatrix} = \begin{bmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \end{bmatrix} \begin{bmatrix} x' \\ y' \end{bmatrix} \]用 \(x,y\) 表示 \(x'',y''\)
\[\begin{aligned} x'' & = b_{11}(a_{11}x+a_{12}y)+b_{12}(a_{21}x+a_{22}y) \\ & = (b_{11}a_{11}+b_{12}a_{21})x + (b_{11}a_{12}+b_{12}a_{22})y \\ y'' &= (b_{21}a_{11}+b_{22}a_{21})x+(b_{21}a_{12}+b_{22}a_{22})y \end{aligned} \] \[\begin{aligned} \begin{bmatrix} x'' \\ y'' \end{bmatrix} & = \begin{bmatrix} b_{11}a_{11}+b_{12}a_{21} & b_{11}a_{12}+b_{12}a_{22}\\ b_{21}a_{11}+b_{22}a_{21} & b_{21}a_{12}+b_{22}a_{22} \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} = \begin{bmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \end{bmatrix} \begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} \end{aligned} \]要想做矩陣 \(A,B\) 的乘法，要求 \(A\) 的列數 \(=B\) 的行數
\[A_{m\times n}B_{n\times p}=C_{m\times p} \]\(i.e. ~~ A_{23}=\begin{bmatrix} a_{11} & a_{12} & a_{13}\\ a_{21} & a_{22} & a_{23} \end{bmatrix} ~~~ B_{32}=\begin{bmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \\ b_{31} & b_{32} \end{bmatrix} \to \begin{bmatrix} x'' \\ y'' \end{bmatrix} =AB \begin{bmatrix} x \\ y \end{bmatrix}\)
\( \left\{ \begin{aligned} x' & = b_{11}x + b_{12}y \\ y' & = b_{21}x + b_{22}y \\ z' & = b_{31}x + b_{32}y \end{aligned} \right. ~~ \to ~~ \left\{ \begin{aligned} x'' & = a_{11}x' + a_{12}y' + a_{13}z' \\ y'' & = a_{21}x' + a_{22}y' + a_{23}z' \end{aligned} \right. \)
其它兩種理解方式
\[\begin{bmatrix} 1 & 1 \\ 2 & -1 \end{bmatrix}_{A} \begin{bmatrix} 2 & 2 \\ 3 & 4 \end{bmatrix}_{B} = \begin{bmatrix} 5 & 6 \\ 1 & 0 \end{bmatrix}_{AB} \]\(i.~AB\) 的第 \(i\) 行 \(=A\) 的第 \(i\) 行 \(\times B\)
\[\begin{bmatrix} 1 & 1 \end{bmatrix} \begin{bmatrix} 2 & 2 \\ 3 & 4 \end{bmatrix} = \begin{bmatrix} 5 & 6 \end{bmatrix} \]\(ii.~AB\) 的第 \(j\) 列 \(=A \times B\) 的第\(j\)列
\[\begin{bmatrix} 1 & 1 \\ 2 & -1 \end{bmatrix} \begin{bmatrix} 2 \\ 4 \end{bmatrix} = \begin{bmatrix} 6 \\ 0 \end{bmatrix} \]
3. 矩陣運算的性質
加法交換律：\(A+B=B+A\)
數乘分配律： \(c(A+B)=cA+cB\)
加法結合律：\(A+(B+C)=(A+B)+C\)
乘法左分配律：\(A(B+C)=AB+AC\)
乘法右分配律：\((A+B)C=AC+BC\)
乘法結合律：\(A(BC)=(AB)C\)
沒有乘法交換律：\(AB\neq BA\) （例外：單位矩陣、數量矩陣）
\(AB=AC\) 不代表 \(B=C\) （不滿足消去律，可逆才可消去）
\(AB=0\) 不代表 \(A=0\) 或 \(B=0\)
4. 矩陣的方冪
設 \(A\) 是 \(m \times n\) 的矩陣，\(p\) 是正整數，則 \(A^p=\underbrace{A~...~A}_{p個A}\) 稱為矩陣 \(A\) 的 \(p\) 次冪
規定 \(A^0=I_{m \times n}\)， 有 \(A^p \cdot A^q = A^{p+q},~~(A^p)^q=A^{pq}\)，但 \((AB)^p \neq A^pB^p\)
5. 分塊矩陣
分塊矩陣乘法時：若矩陣 \(A\) 的列的劃分與矩陣 \(B\) 的行的劃分一致，可對 \(AB\) 進行分塊運算
\[A = \begin{bmatrix} \begin{array}{ccc|c} 1 & 2 & 1 & 0 & 4 \\ 3 & 5 & 0 & 2 & 3 \\ \hline -1 & 2 & 2 & 1 & 0 \\ \end{array} \end{bmatrix} ~~~ B = \begin{bmatrix} 1 & 2 \\ 0 & -1 \\ 3 & 2 \\ \hline 1 & -1 \\ 0 & 1 \end{bmatrix} \] \[A_{11} = \begin{bmatrix} 1 & 2 & 1 \\ 3 & 5 & 0 \end{bmatrix} ~~ A_{12} = \begin{bmatrix} 0 & 4 \\ 2 & 3 \end{bmatrix} ~~ A_{21}=\begin{bmatrix} -1 & 2 & 2 \end{bmatrix} ~~ A_{22}=\begin{bmatrix} 1 & 0 \end{bmatrix} \] \[B_{11} = \begin{bmatrix} 1 & 2\\ 0 & -1 \\ 3 & 2 \end{bmatrix} ~~ B_{21} = \begin{bmatrix} 1 & -1 \\ 0 & 1 \end{bmatrix} \] \[A = \begin{bmatrix} A_{11} & A_{12} \\ A_{21} & A_{22} \end{bmatrix} ~~ B = \begin{bmatrix} B_{11} \\ B_{22} \end{bmatrix} ~ \Rightarrow ~ AB = \begin{bmatrix} A_{11}B_{11}+A_{12}B_{21} \\ A_{21}B_{11}+A_{22}B_{21} \end{bmatrix} \] \[\begin{aligned} A_{11}B_{11}+A_{12}B_{21} &= \begin{bmatrix} 4 & 6 \\ 5 & 2 \end{bmatrix} \\ A_{21}B_{11}+A_{22}B_{21} &= \begin{bmatrix} 6 & -1 \end{bmatrix} \end{aligned} ~ \Rightarrow ~ AB = \begin{bmatrix} 4 & 6\\ 5 & 2 \\ 6 & -1 \end{bmatrix} \]將 \(m \times n\) 的矩陣 \(A\) 分為每列一塊，\(n \times p\) 的矩陣 \(B\) 分為每行一塊
\[\begin{bmatrix} \begin{array}{c|c|c} a_1 & ... & a_n \end{array} \end{bmatrix}_A \begin{bmatrix} b_1 \\ \hline \vdots \\ \hline b_n \end{bmatrix}_B = \begin{bmatrix} a_1b_1+...+a_nb_n \end{bmatrix}_{AB} \]從線性組合的角度看矩陣乘法（矩陣可以看作向量）
矩陣 * 列向量 是關於 矩陣列 的 線性組合，係數是 列向量 的對應元素
行向量 * 矩陣 是關於 矩陣行 的 線性組合，係數是 行向量 的對應元素
\[\begin{aligned} \begin{bmatrix} 1 & 1 \\ 2 & -1 \end{bmatrix} \begin{bmatrix} 2 & 2 \\ 3 & 4 \end{bmatrix} & = \begin{bmatrix} 1 \\ 2 \end{bmatrix} \begin{bmatrix} 2 & 2 \end{bmatrix} + \begin{bmatrix} 1 \\ -1 \end{bmatrix} \begin{bmatrix} 3 & 4 \end{bmatrix} = \begin{bmatrix} 2 & 2 \\ 4 & 4 \end{bmatrix} + \begin{bmatrix} 3 & 4 \\ -3 & -4 \end{bmatrix} = \begin{bmatrix} 5 & 6 \\ 1 & 0 \end{bmatrix} \end{aligned} \]
6. 逆矩陣
若方陣 \(A\) 存在矩陣 \(B\)，滿足 \(AB=BA=I\)，則 \(A\) 可逆，稱 \(B\) 是 \(A\) 的逆矩陣，記 \(A^{-1}\)
有 \(A^{-1}A = AA^{-1} = A^{0} = I\)，\(A\boldsymbol{x}=\boldsymbol{b}~\Rightarrow~\boldsymbol{x}=A^{-1}\boldsymbol{b}\)
不可逆矩陣也稱為奇異矩陣，可逆矩陣也稱為非奇異矩陣
7. 矩陣可逆的性質
\(1.~n \times n\) 的方陣的逆矩陣存在當且僅當消元法得到 \(n\) 個主元
\(2.~\)矩陣 \(A\) 不可能存在兩個不同的逆矩陣，若 \(A\) 有 \(BA=I, ~AC=I\) 則 \(B=C\)
\(3.~\)若矩陣 \(A\) 可逆，則 \(A\boldsymbol{x}=\boldsymbol{b}\) 有唯一解 \(\boldsymbol{x}=A^{-1}\boldsymbol{b}\)
\(4.~\)若 \(A\boldsymbol{x}=\boldsymbol{0}\) 有非零解，則矩陣 \(A\) 不可逆
\(5.~2\times 2\) 矩陣
\(A =
\begin{bmatrix}
a & b \\ c & d
\end{bmatrix}\) 可逆 \(~~\Leftrightarrow~~ ad-bc \neq 0\) 且有 \(A^{-1}=\cfrac{1}{ad-bc}
\begin{bmatrix}
d & -b \\ -c & a
\end{bmatrix}\)
\(6.~對角矩陣可逆 ~\Leftrightarrow~\) 其對角元都不為 \(0\)，且有：
\[A= \begin{bmatrix} d_1 & & 0 \\ & \ddots & \\ 0 & & d_n \end{bmatrix} ~~~~ A^{-1} = \begin{bmatrix} \cfrac{1}{d_1} & & 0 \\ & \ddots & \\ 0 & & \cfrac{1}{d_n} \end{bmatrix}\]\(定理：\) 若 \(n\) 階方陣 \(A,B\) 都可逆，則 \(AB\) 可逆，\((AB)^{-1}=B^{-1}A^{-1}\)
8. Gauss - Jordan 消元法
假設有 \(3\times 3\) 矩陣 \(A\)，有逆矩陣 \(A^{-1}\)，則有：
\[AA^{-1}=A \begin{bmatrix} \boldsymbol{x_1} & \boldsymbol{x_2} & \boldsymbol{x_3} \end{bmatrix}_{A^{-1}的列向量}= \begin{bmatrix} \boldsymbol{e_1} & \boldsymbol{e_2} & \boldsymbol{e_3} \end{bmatrix}_{單位矩陣}=I\] \[A\boldsymbol{x_1}=\boldsymbol{e_1},~~A\boldsymbol{x_2}=\boldsymbol{e_2},~~A\boldsymbol{x_3}=\boldsymbol{e_3} \] \[Multiply~ \begin{bmatrix} A~I \end{bmatrix}~by~A^{-1}~to~get~ \begin{bmatrix} I~A^{-1} \end{bmatrix} \] \[i.e.~~ \begin{aligned} \begin{bmatrix} A~I \end{bmatrix} &= \begin{bmatrix} \begin{array}{ccc|ccc} 1 & 0 & 0 & 1 & 0 & 0 \\ 2 & 1 & 3 & 0 & 1 & 0 \\ 0 & 0 & 1 & 0 & 0 & 1 \end{array} \end{bmatrix} ~\stackrel{R_2-2R_1}{\longrightarrow}~ \begin{bmatrix} \begin{array}{ccc|ccc} 1 & 0 & 0 & 1 & 0 & 0 \\ 0 & 1 & 3 & -2 & 1 & 0 \\ 0 & 0 & 1 & 0 & 0 & 1 \end{array} \end{bmatrix} \\\\ & \stackrel{R_2-3R_3}{\longrightarrow} \begin{bmatrix} \begin{array}{ccc|ccc} 1 & 0 & 0 & 1 & 0 & 0 \\ 0 & 1 & 0 & -2 & 1 & -3 \\ 0 & 0 & 1 & 0 & 0 & 1 \end{array} \end{bmatrix} = \begin{bmatrix} I~A^{-1} \end{bmatrix} \end{aligned}\]若 \(A\) 有 \(AB=I\)，則 \(BA=I,~~B=A^{-1}\)