文章目錄

• 1. 隱馬爾可夫模型(Hidden Markov Model,HMM)
• 2. 馬爾科夫隨機場(Markov Random Field, MRF)
• 3. 條件隨機場(Conditional Random Field, CRF)
• 4. 學習與推斷
• 4.1 變數消去
• 4.2 信念傳播(Belief Propagation)
• 5. 近似推斷
• 5.1 馬爾科夫鏈蒙特卡羅方法(MCMC取樣)
• 5.2 變分推斷
• 6. 話題模型(Topic Model)

概率模型：(probabilistic model)提供了一種描述框架，將學習任務歸結於計算變數的概率分佈。
生成式模型:對聯合概率建模；
判別式模型:對條件概率建模。
概率圖模型：(probabilistic graphical model)是一類用圖來表達變數相關關係的概率模型。它以圖為表示工具，最常見的是用一個結點表示一個或一組隨機變數，結點之間的邊表示變數間的概率相關關係，即"變數關係圖"根據邊的性質不間，概率圖模型可大致分為兩類:
第一類是使用 有向無環圖表示變數間的依賴關係，稱為有向圖模型或 貝葉斯網(Bayesian network);
第二類是使用 無向圖表示變數間的相關關係，稱為無向圖模型或 馬爾可夫網(Markov network)。

1. 隱馬爾可夫模型(Hidden Markov Model,HMM)

  隱馬爾可夫模型是結構最簡單的動態貝葉斯網，一種著名的有向圖模型。

其中 $y_i$

y_i 稱為第i時刻的狀態，也稱為隱變數； $x_i$是觀測變數。在任意時刻， $x_t$由 $y_t$確定， $y_t$由 $y_{t-1}$確定，與其他時刻的狀態無關。
基於上述的情況，狀態變數y與觀測變數x的聯合概率分佈可以寫為：
$P(x_1,y_1,...,x_n,y_n) = P(y_1)P(x_1|y_1)\prod_{i=2}^{n}P(y_i|y_i-1)P(x_i|y_i)$
幾個重要的概率：
狀態轉移概率： 表示在任意時刻t，若狀態為 $s_i$，則在下一時刻狀態為 $s_j$的概率
$a_{ij}=P(y_{t+1}=s_j|y_t=s_i), \ \ \ 1 \leq i,j \leq N$
輸出觀測概率： 表示在任意時刻t，若狀態為 $s_i$，則觀測值 $o_j$被獲取的概率
$b_{ij} = P(x_t=o_j|y_t=s_i) \ \ \ 1 \leq i \leq N,1 \leq j \leq M$
初始狀態概率： 表示模型的初始狀態為 $s_i$的概率:
$\pi_i=P(y_1=s_i) \ \ \ 1 \leq i \leq N$
通過指定狀態空間Y，觀測空間X，及 $a_{ij}, b_{ij}, \pi_i$就可以確定一個隱馬爾科夫模型：
[1]：設定t=1，並根據初始狀態概率 $\pi$選擇初始狀態 $y_1$;
[2]：根據狀態 $y_t$和輸出觀測概率B選擇觀測變數的取值 $x_t$;
[3]：根據狀態 $y_t$和狀態轉移矩陣A轉移狀態模型，即確定 $y_{t+1}$;
[4]：若t<n，設定t=t+1，並轉移到[2]，否則停止。

  隱馬爾科夫主要關注的三個基本問題：
1.給定[A,B,π]，計算產生觀測序列 $x=\{x_1,x_2,...,x_n\}$: 評估模型與序列間的匹配關係
2.給定[A,B,π]和觀測序列 $x=\{x_1,x_2,...,x_n\}$