這是關於正交性最後一講，已經知道正交空間，比如行空間和零空間，今天主要看正交基和正交矩陣 一組基裡的向量，任意q都和其他q正交，兩兩垂直，內積為零，且qi不和自己正交，qi的長度為1，這樣的向量組叫標準正交基 把如上的這些標準正交的向量作為矩陣Q的列，那麼Q^TQ=I為單位矩陣。 只有當Q是一個方陣時，Q各列向量相互垂直且長度為1，Q叫正交矩陣。 如果Q是方陣，然後Q^TQ=I，那麼Q^T=Q^-1，正交矩陣很容易得到，比如單位陣，或交換單位陣的列向量的位置也可。     舉幾個正交矩陣的例子： 如上圖，那樣構造的正交矩陣（阿德瑪矩陣：是一種只有1和-1的正交矩陣）可以是2維，4維，16維，64維，究竟哪些維數的正交陣可以由1和-1們構成？ 設Q是標準正交列向量的矩陣。現在要投影到列空間，那麼投影到列空間的投影矩陣是什麼？投影矩陣P=Q(Q^T

Q)^-1Q^T，因為空間Q有標準正交基，那投影到列空間時，有P=QQ^T，即： P=Q(Q^TQ)^-1Q^T=Q(I)^-1Q^T=QQ^T， P是對稱的，而且（QQ^T）（QQ^T）=QQ^T 且當Q是方陣時，P=QQ^T=I，因為Q是方陣，且各列線性無關，那麼Q的列空間就是整個空間，投影到整個空間裡的投影矩陣就是I。 對於投影方程：A^TAx’=A^Tb，如果A是標準正交基Q，那麼可得到：x’=Q^Tb。那麼x'的分向量：xi'=qi^Tb，即第i個基方向上的投影就等於qi^Tb。 格拉姆-施密特正交化 格拉姆-施密特正交化的目標是讓列向量線性無關的矩陣正交化（向量垂直且長度為1）。（就像消元法的目標是將矩陣變成三角矩陣） 已知相互無關的向量a,b，目標要將a,b變成相互正交且長度為1的q1,q2，可將向量a固定，然後b投影到a上，誤差e=B，那麼基本步驟如下：可驗證A^TB=0 可得到格拉姆-施密特公式： 假設有三個向量呢，a,b,c，正交化得到A,B,C。可由上已知了A和B，求得C： 一個例子，已知兩個向量a,b，求格拉姆-施密特標準正交基Q，Q的列空間和原來的矩陣列空間是一樣的。 假設原來的矩陣A（a1,a2），向量a1,a2線性無關，通過格拉姆-施密特標準正交化得到Q（q1,q2），A與Q的列空間相同，就像消元法A=LU一樣，存在一個矩陣R，滿足公式如下： 這就是格拉姆-施密特表示式。 A=QR  ，R是一個上三角矩陣。 也就是說一個由線性無關的向量組成的矩陣A，與格拉姆-施密特標準正交化矩陣Q的關係是一個上三角矩陣R。 由A和Q得到R很方便（也可參照文章上面有句話：對於投影方程：A^T

Ax’=A^Tb，如果A是標準正交基Q，那麼可得到：x’= Q^Tb。那麼x'的分向量：xi'=qi^Tb，即第i個基方向上的投影就等於qi^Tb），A=QR，Q^TA=R。由於左下角元素q2^Ta1相互垂直，所以相乘為0，R是一個上三角矩陣。