We describe all solutions to Ax = b based on the free variables and special solutions encoded in the reduced form R.

求解Ax=b：可解性和解的結構

可解的條件 Solvability conditions on b

Q：給定 \( A= \begin{bmatrix} 1 & 2 & 2 & 2\\ 2 & 4 & 6 & 8\\ 3 & 6 & 8 & 10\\ \end{bmatrix} \)，求\(Ax=b\)的解？

方程 \(Ax=b\) 可以表示為：\(\begin{bmatrix} 1 & 2 & 2 & 2\\2 & 4 & 6 & 8\\3 & 6 & 8 & 10\\ \end{bmatrix} \begin{bmatrix} x_1\\x_2\\x_3\\x_4\\ \end{bmatrix} =\begin{bmatrix} b_1\\b_2\\b_3\\ \end{bmatrix}\)

寫出其增廣矩陣（augmented matrix）\(\left[\begin{array}{c|c}A & b\end{array}\right]\)：

\[\left[ \begin{array}{c c c c|c} 1 & 2 & 2 & 2 & b_1 \\ 2 & 4 & 6 & 8 & b_2 \\ 3 & 6 & 8 & 10 & b_3 \\ \end{array} \right] \underrightarrow{消元} \left[ \begin{array}{c c c c|c} 1 & 2 & 2 & 2 & b_1 \\ 0 & 0 & 2 & 4 & b_2-2b_1 \\ 0 & 0 & 0 & 0 & b_3-b_2-b_1 \\ \end{array} \right] \]

顯然，有解的必要條件為\(b_3-b_2-b_1=0\)

。

Q：\(b\) 滿足什麼條件才能讓方程 \(Ax=b\) 有解（solvability condition on b）？

當且僅當 \(b\) 屬於 \(A\) 的列空間時。

本講推匯出矩陣 \(A\) 的行向量若經過線性組合成為了零向量，則對應的 \(b\) 經同樣的線性組合後也要等於 \(0\)。

這兩點是等價的。

求解Ax=b

通解 Complete solution

為求得 \(Ax=b\) 的所有解，我們首先檢驗方程是否可解，然後找到一個特解。將特解和矩陣零空間的向量相加即為方程的通解。

In order to find all solutions to \(Ax=b\) we first check that the equation is solvable

, then find a particular solution. We get the complete solution of the equation by adding the particular solution to all the vectors in the nullspace.

特解 A particular solution

求 \(Ax=b\) 特解的方法是將自由變數均賦值為0，求解其主變數。

對於上文的例子，令 \(x_2=x_4=0\)，有 \( \Big\lbrace \begin{eqnarray*} x_1 & + & 2x_3 & = & 1 \\ & & 2x_3 & = & 3 \\ \end{eqnarray*} \)，解得 \(\Big\lbrace\begin{eqnarray*}x_1 & = & -2 \\x_3 & = & \frac{3}{2} \\\end{eqnarray*}\)，代入 \(Ax=b\) ，可以求得特解\( x_p= \begin{bmatrix} -2 \\ 0 \\ \frac{3}{2} \\ 0 \end{bmatrix} \)。

主元列和自由列的一個重要區別就是，自由列可以表示為其左側所有主元列的線性組合，而主元列則不可以。

\[\begin{bmatrix} \underline{*} & * & * & *\\ 0 & 0 & \underline{*} & *\\ 0 & 0 & 0 & \underline{*}\\ \end{bmatrix}\]

對於 \(Ax=b\) 的求解轉變為 \(Ux=c\)，其中 \(c\) 是向量經過與 \(Ax\)相同的行操作得到的向量。（使用增廣矩陣）

將 \(x\) 中的自由變數賦值為0就可以去掉自由列的列向量的干擾，從而求得方程的特解 \(x_p\)。

如果消元得到的行階梯矩陣 \(U\) 最後i行為0，就要求的 \(c\) 最後i個分量為0，這時主元列才可以通過線性組合得到 \(c\)，否則無解。

與零空間進行線性組合 Combined with nullspace

令\(Ax=b\)成立的所有解：

\[\begin{cases} Ax_p & = & b \\ Ax_n & = & 0 \\ \end{cases} \quad \underrightarrow{兩式相加} \quad A(x_p+x_n)=b\]

即 \(x_{complete}=x_p+x_n\)， \(x_p\) 為矩陣 \(A\) 的特解，\(x_n\) 為矩陣零空間的一般向量。

即 \(Ax=b\)的解集為其特解+零空間。

對於上文的例子，根據 \(Ax=0\) 求得 \(A\) 的零空間（前篇文章已求得）為\(c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix}+c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)

所以可以求得上文例子的通解 \(x_{complete}=x_p+x_n=\begin{bmatrix} -2 \\ 0 \\ \frac{3}{2} \\ 0 \end{bmatrix} + c_1\begin{bmatrix}-2\\1\\0\\0\\\end{bmatrix} + c_2\begin{bmatrix}2\\0\\-2\\1\\\end{bmatrix}\)，式中 \(c_1\) 和 \(c_2\) 為任意實數。

矩陣的零空間\(N(A)\)是\(\mathbb{R}^4\)空間中的二維子空間，方程 \(Ax=b\) 的解構成了穿過 \(x_p\) 點並和矩陣零空間平行的“平面“。但該”平面“並不是空間 \(\mathbb{R}^4\) 的子空間。

秩 Rank

矩陣的秩等於矩陣的主元數。如果mxn矩陣的秩為r，則必有r<=m且r<=n。

討論滿秩（full rank）的情形：

• 列滿秩：r=n。每列都有主元，\(x\) 的每一個分量都是主變數，沒有自由變數。零空間\(N(A)\)之內只有零向量。方程 \(Ax=b\) 無解或者有唯一解 \(x_p\)。example:\( A= \begin{bmatrix} 1 & 3 \\ 2 & 1 \\ 6 & 1 \\ 5 & 1 \\ \end{bmatrix} \)

• 行滿秩：r=m。每行都有主元，無論 \(b\) 取何值，方程 \(Ax=b\) 都有解。主變數r個，自由變數n-r個。example:\( A= \begin{bmatrix} 1 & 2 & 6 & 5 \\ 3 & 1 & 1 & 1 \\ \end{bmatrix} \)

• 行列滿秩情況：r=m=n，矩陣可逆，零空間只有零向量，無論 \(b\) 取何值，方程 \(Ax=b\) 都有唯一解。example:\( A= \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ \end{bmatrix} \)，則\(A\)最終可以化簡為\(R=I\)。

總結：秩決定了方程組解的數量。

mxn給出了矩陣的尺寸，但是秩r給出的是矩陣的實際“大小”。

\[\begin{array}{c|c|c|c}r=m=n&r=n\lt m&r=m\lt n&r\lt m,r\lt n\\R=I&R=\begin{bmatrix}I\\0\end{bmatrix}&R=\begin{bmatrix}I&F\end{bmatrix}&R=\begin{bmatrix}I&F\\0&0\end{bmatrix}\\1\ solution&0\ or\ 1\ solution&\infty\ solution&0\ or\ \infty\ solution\end{array} \]

總結

求解 \(Ax=b\) 的步驟：

1. 變化為行階梯形矩陣 \(U\)
2. 看是否可解
3. 求特解：將自由變數均賦值為0，求解其主變數。
4. 求零解：求 \(Ax=0\)的解
5. 特解和零解的線性組合即是 \(Ax=b\) 的通解

reference

[1] textbook

[2] mit18.06學習筆記-0

[3] mit18.06學習筆記-1