06 逆矩陣,列空間,零空間
Table of Contents
I. 重申矩陣的作用
矩陣就是描述線性變換的,線性變換指的是對空間的操作
,有一維空間,二維空間,三維空間到無限維空間,一般我們只用到三維,卷積神經網路用到四維,再高維我沒用到過,矩陣的每列代表新空間下的新的基向量。如下圖所示,向量(-1,2) 代表 老空間下的位置,矩陣*向量 代表 新空間下的位置
說明: 較淺的白色線是原空間的網格線,深顏色的藍線是新空間下的網格線
II. 矩陣和線性方程組
1.矩陣的用途
矩陣最大的用途是方便的求解複雜的線性方程組,注意說的是線性,而不再使用小學或初中時學的代入法一點點求解方程組
2.從線性變換角度解釋線性方程組
A描述了線性變換,把原來的網格線變成斜的網格線,扭曲了原空間
是老空間下的向量,而是對應的新空間下的向量
現在是你知道了矩陣A,也知道了新空間下的的向量,求老空間下的向量長啥樣?
3.矩陣A扭曲空間的幾種效果
(1) 共線
運氣差的話,你把二維的老空間一變換,得到的新的基向量居然共線了,這你就丟了一個維度
行列式的幾何意義是描述了單位區域面積的縮放比例,行列式=0
(2) 不共線
運氣還不錯,保留二維空間,並且行列式0
III.矩陣的逆
1.矩陣逆的幾何意義
逆就是跟你反著來,你順時針旋轉90度,逆就是逆時針旋轉90度;你向左剪下變換,逆向右變換
如圖,A矩陣代表逆時針旋轉,牢記矩陣描述了變換
A的逆就是順時針旋轉,一正一負等於沒動彈,所以(E是單位矩陣,代表什麼也不做)
所以通過逆矩陣來求解原空間的向量
2.逆矩陣與行列式與方程組的解
(1)逆矩陣與行列式的取值
A的行列式非0
說明新空間保持了維度,可以通過把倆基向量撥回到原空間下的位置來跟蹤v的位置的變化來看出x在哪,逆矩陣A^(-1)就是用於把新空間變換到老空間,存在逆矩陣
A的行列式為0
說明新空間丟失了維度,丟失的資訊找不回來了,所以沒有辦法再撥回到原空間,也就不存在逆變換
撥回的過程: 網格線撥回了一點點
撥回來了
(2) 行列式為0一定不存在解嗎?
<1> 二維空間下
倆基向量共線時,det(A)=0。這時v向量如果正好和基向量共線
那麼一個v可以映射回好多個x
舉個實際點的例子,
化簡得x+2y=1; 所以x和y的取值有無數多種
當v向量不能用基描述時,說明無解。
<2> 三維空間下
三個基向量共線或共面或共點,同樣丟失維度,det(A)=0,所以也沒逆變換
當共線時,與壓縮成平面相比,解存在的難度更高,因為現在只有一維資訊,我們可以用秩來描述當前空間的維度,來表明到底損失沒損失維度
IV. 秩
1.秩的幾何意義
描述了變換後的空間的維數,線是一維,平面是二維,也就是線性無關的基向量的個數,也就是矩陣線性無關的列向量的個數
原來的二維空間壓縮成一根線,2x2矩陣的rank最大為2(矩陣就是變換後的空間的基向量)
原來的三維空間壓縮成一個面,3x3矩陣的rank最大為3
2.矩陣的列空間(好像和秩沒關,但還是放這裡講了)
矩陣的列空間是指所有基向量的線性組合。為啥叫列空間呢?因為矩陣的列就是變換後的空間的基向量
換個詞描述,就是基向量的張成空間,也是列向量的張成空間,咋感覺這麼多文字遊戲啊!
矩陣的秩也就是列空間的維數,秩達到列數時稱為滿秩
3.零空間
其實就是在原點的向量,也就是列空間一定包含0向量
如果矩陣滿秩的話,也就是新空間沒有維度損失,那麼只有老空間的零向量能對映到新空間的零向量
舉個例子,
化簡得到: 2x=0,2y=0,解得x=0,y=0。
下圖新空間還是二維,滿秩
非滿秩情況下有維度損失,比如把二維空間壓縮到一根直線
這時新空間的零向量對應原空間的好多向量,為啥呢?
舉個例子,
化簡得2x+y=0; 所以y=-2x,解確實在一條直線上
總結
1.矩陣的逆代表相反的線性變換
2.行列式為0,說明維度相比原空間有損失,從新空間撥回不到老空間了,也就沒有逆變換。也就是降維容易升維難啊
3.秩描述了現在空間的維度