一、基本內容

1.隱馬爾可夫模型

1.1. 假定所有關心的變數集合為Y,可觀測變數集合為O,其他變數集合為R,

生成式模型考慮聯合分佈P(Y,R,O),判別式模型考慮條件分佈P(Y,R|O)，給定一組觀測變數值，推斷就是要由P(Y,R,O)或者P(Y,R|O)得到條件概率分佈P(Y,O).

1.2. 概率圖模型大致分為兩類：第一類是使用有向無環圖表示變數間的依賴關係，稱為有向圖模型或貝葉斯網；第二類是使用無向圖表示變數間的相關關係，稱為無向圖模型或馬爾可夫網

1.3. 隱馬爾可夫模型（Hidden Markov Model,簡稱HMM）是結構最簡單的動態貝葉斯網，這是一種著名的有向圖模型。

2.馬爾可夫隨機場（Markov Random Field， 簡稱MRF）：是典型的馬爾可夫網，這是一種著名的無向圖模型。

2.1 極大團，勢函式

2.2 全域性馬爾可夫性，推論：區域性馬爾可夫性，成對馬爾可夫性

3.條件隨機場（Conditional Random Field, 簡稱CRF）：是一種判別式無向圖模型

4.學習與推斷

變數消去，信念傳播

5.近似推斷

兩類：1.取樣：通過使用隨機化方法完成近似2.使用確定性近似完成近似推斷，典型代表為變分推斷

5.1 MCMC取樣（馬爾可夫鏈蒙特卡羅方法（Markov Chain Monte Carlo））

MCMC方法的關鍵就在於通過構造“平穩分佈為p的markov chain”來產生sample。

Metropolis-Hastings(MH)演算法是MCMC的重要代表。

吉布斯取樣

5.2 變分推斷

盤式記法