在最大後驗估計中 如果分佈為高斯分佈 資訊矩陣 = 協方差的逆

多元變數x
x又兩部分組成：

它的協方差矩陣為：

其中：

它的資訊矩陣就是協方差矩陣的逆：

作用：便於計算邊界概率和條件概率 但邊際概率對於協方差矩陣的操作是很容易的，但不好操作資訊矩陣。條件概率恰好相反，對於資訊矩陣容易操作，不好操作協方差矩陣。

Hessian矩陣在最大似然問題中（MLE）約等於資訊矩陣

直接反映到最小二乘的問題上：

這裡的 H 也被稱為資訊矩陣 個人理解這個資訊矩陣和上一個資訊矩陣雖然叫一個名 但是可以理解成兩個東西
這裡資訊矩陣的作用：分析殘差矩陣的稀疏性 進行下一步的計算 也可以用作滑動視窗演算法的的分析

最大後驗、最大似然、最小二乘

最大似然和最小二乘 同為求最優引數的方法 當分佈為高斯分佈時 二者形式上近似相同 但思想上完全不同
最小二乘：構建誤差和 通過調整引數使得誤差之和最小 當誤差最小時認為獲得了最優引數值
最大似然：前提是知道概率密度函式 求概率密度之和 通過調整引數得到最大概率 當得到最大概率時 即認為獲得最優引數值
最大後驗 即比最大似然多了一項先驗
實際應用中大部分使用的為最大似然