在介紹主題之前，先來談一個非常重要的數學思維方法：幾何方法。在大學之前，我們學習過一次函數、二次函數、三角函數、指數函數、對數函數等，方程則是求函數的零點；到了大學，我們學微積分、復變函數、實變函數、泛函等。我們一直都在學習和研究各種函數及其性質，函數是數學一條重要線索，另一條重要線索——幾何，在函數的研究中發揮著不可替代的作用，幾何是函數形象表達，函數是幾何抽象描述，幾何研究“形”，函數研究“數”，它們交織在一起推動數學向更深更抽象的方向發展。

函數圖象聯系了函數和幾何，表達兩個數之間的變化關系，映射推廣了函數的概念，使得自變量不再僅僅局限於一個數，也不再局限於一維，任何事物都可以拿來作映射，維數可以是任意維，傳統的函數圖象已無法直觀地表達高維對象之間的映射關系，這就要求我們在觀念中，把三維的幾何空間推廣到抽象的n維空間。

由於映射的對象可以是任何事物，為了便於研究映射的性質以及數學表達，我們首先需要對映射的對象進行“量化”，取定一組“基”，確定事物在這組基下的坐標，事物同構於我們所熟悉的抽象幾何空間中的點，事物的映射可以理解為從一個空間中的點到另一個空間的點的映射，而映射本身也是事物，自然也可以抽象為映射空間中的一個點，這就是泛函中需要研究的對象——函數。

從一個線性空間到另一個線性空間的線性映射，可以用一個矩陣來表達，矩陣被看線性作映射，線性映射的性質可以通過研究矩陣的性質來獲得，比如矩陣的秩反映了線性映射值域空間的維數，可逆矩陣反映了線性映射的可逆，而矩陣的範數又反映了線性映射的哪些方面的性質呢？矩陣範數反映了線性映射把一個向量映射為另一個向量，向量的“長度”縮放的比例

範數是把一個事物映射到非負實數，且滿足非負性、齊次性、三角不等式，符合以上定義的都可以稱之為範數，所以，範數的具體形式有很多種（由內積定義可以導出範數，範數還也可以有其他定義，或其他方式導出），要理解矩陣的算子範數，首先要理解向量範數的內涵。矩陣的算子範數，是由向量範數導出的，由形式可以知：

由矩陣算子範數的定義形式可知，矩陣A把向量x映射成向量Ax，取其在向量x範數為1所構成的閉集下的向量Ax範數最大值作為矩陣A的範數，即矩陣對向量縮放的比例的上界，矩陣的算子範數是相容的。由幾何意義可知，矩陣的算子範數必然大於等於矩陣譜半徑（最大特征值的絕對值），矩陣算子範數對應一個取到向量Ax範數最大時的向量x方向，譜半徑對應最大特征值下的特征向量的方向。而矩陣的奇異值分解SVD，分解成左右各一個酉陣，和擬對角矩陣，可以理解為對向量先作旋轉、再縮放、最後再旋轉，奇異值，就是縮放的比例，最大奇異值就是譜半徑的推廣，所以，矩陣算子範數大於等於矩陣的最大奇異值，酉陣在此算子範數的意義下，範數大於等於1。此外，不同的矩陣範數是等價的。

範數理論是矩陣分析的基礎，度量向量之間的距離、求極限等都會用到範數，範數還在機器學習、模式識別領域有著廣泛的應用。

http://chanyukunpeng88.blog.163.com/blog/static/2830691620109895321205/

什麽是矩陣的範數【轉載】