Hessian Matrix，它有著廣泛的應用，如在牛頓方法、求極值以及邊緣檢測、消除邊緣響應等方面的應用。一個Hessian Matrix涉及到很多數學相關的知識點，比如泰勒公式、極值判斷、矩陣特徵值及特徵向量、二次型等。本篇文章，主要說明多元情況下的極值判定、hessian矩陣與二次型的聯絡以及有關hessian matrix在影象上的應用。

1. 二元函式泰勒公式

對於一元函式的泰勒公式，大家都有所瞭解，其意義是使用多次多項式來近似表達原函式f(x)，一元函式的f(x)的泰勒公式如下：

在實際應用中，我們一般取前面幾階多項式的和來近似表達原函式f(x)。

然而，在影象處理中，我們應用的都是二元函式f(x,y)，下面著重講解下二元函式的泰勒公式：

如果在點的某一鄰域內連續且有到n+1階的連續偏導數，為此鄰域的任意一點，則有

其中記號表示，

表示，

通用記號表示

人生苦短，關於這些公式這裡就不證明了，大家可以參考相關數學資料進行證明。

2. 極值判斷

如果對於函式中某一點其一階導數為0，二階導數不為0，那麼該點必定為極值點。再進一步分析，如果二階導數大於0，那麼該點為極小值點，如果二階導數小於0，那麼該點為極大值點。關於這些性質的描述，最直觀方法就是自己畫圖進行理解。另外可以通過表示式給予一些直觀理解(省略後面的多階餘項)，雖然表示式並非嚴格，比如，對於一元函式進行泰勒公式展開並認定完全相等：

針對凸函式，如果在x0處的一階為0，二階為正，那麼我們就可以斷定f(x)肯定比在x0處的函式值大，我們可以認為x0為極小值點。對於影象中的二元函式呢？我們是可以類推的。根據上述二元泰勒公式可得二階近似表示式：

，對於二元函式極值情形，我們可以根據二階表示式的正負進行判定。

對於這種情形，這裡面會涉及到Hessian矩陣正定以及負定的判斷，這裡令，，如果對於任意向量，都有為正，那麼有最小值，且H為正定的。如果對於任意向量，都有非負，那麼有最大值，且H為負定的。

3. 二次型的性質

可以發現上面矩陣H即為Hessian矩陣，具有對稱性。而二次型的矩陣也是對稱的，接下來主要介紹下二次型最優化，以一個具體例子進行說明。

最小化二次型函式，其中A是實對稱二階矩陣，即是hessian矩陣，，對於該問題的優化很簡單，最終該問題的結果與矩陣A的特徵值相關。我們可以繪製二次型函式以及對應的等高線如下：

並且我們求得矩陣A的特徵向量[-0.7071，0.7071]，[0.7071,0.7071]，

我們可以知道等高線越密集的地方，說明函式值變化較快，而這個函式變化最快的方向即是特徵向量[0.7071,0.7071]所對應的方向；等高線越稀疏的地方，說明函式值變化較慢，而變化最慢的方向即是特徵向量[-0.7071,0.7071]所對應的方向，並且可以觀察矩陣特徵值的大小與函式值變化程度有關，較大特徵值所對應的特徵向量方向上的函式值變化最快，較小特徵值所對應的特徵向量方向上的函式值變化最慢。

這裡描述二次型的目的就是講解Hessian矩陣的特徵值以及特徵向量與二次型函式值變化之間的關係。其中二次型函式的二階偏導就構成了Hessian矩陣，也即是A矩陣。

4. 邊緣檢測以及邊緣響應消除

既然檢測到的對應點確認為邊緣點，那麼我們就有理由消除這個邊緣點，所以邊緣檢測與邊緣響應消除的應用是一回事。邊緣到底有什麼特徵呢？如下圖所示，一個二維平面上的一條直線，影象的特徵具體可以描述為：沿著直線方向，亮度變化極小，垂直於直線方向，亮度由暗變亮，再由亮變暗，沿著這個方向，亮度變化很大。我們可以將邊緣影象分佈特徵與二次型函式圖形進行類比，是不是發現很相似，我們可以找到兩個方向，一個方向影象梯度變化最慢，另一個方向影象梯度變化最快。那麼影象中的邊緣特徵就與二次型函式的影象對應起來了，其實二次型函式中的hessian矩陣，也是通過對二次型函式進行二階偏導得到的(可以自己求偏導測試下)，這就是我們為什麼可以使用hessian矩陣來對邊緣進行檢測以及進行邊緣響應消除，我想大家應該明白其中的緣由了。還是那句話，數學模型其實就是一種反映影象特徵的模型。

所以Hessian matrix實際上就是多變數情形下的二階導數，他描述了各方向上灰度梯度變化，這句話應該很好理解了吧。我們在使用對應點的hessian矩陣求取的特徵向量以及對應的特徵值，較大特徵值所對應的特徵向量是垂直於直線的，較小特徵值對應的特徵向量是沿著直線方向的。對於SIFT演算法中的邊緣響應的消除可以根據hessian矩陣進行判定。

關於hessian的應用基本講完了，有問題可以留言討論。

參考文獻：

1.https://www.zhihu.com/question/40181086

2.https://zh.wikipedia.org/wiki/%E6%B5%B7%E6%A3%AE%E7%9F%A9%E9%98%B5

3.http://www.zhihujingxuan.com/18143.html

4.http://blog.sina.cn/dpool/blog/s/blog_5d2990b70101c1pc.html

5.http://blog.sina.com.cn/s/blog_790bb71901015087.html

6.http://painterlin.com/2015/09/12/Intuition-of-Eigen-Value.html