案例入門

沒有一種有向圖可以表達上面的關係，所以這時候就需要用無向圖來表示

基本概念

\(\color{red}{因子,或者叫勢函式}\)
\(\color{red}{轄域/scope}\)

因子的表示

輸入是一個隨機變數具體的值 輸出是對應的可能情況,這說明因子就是沒有歸一化的概率密度函式/概率質量函式!
\(\color{red}{因子分解}\)
\(\color{red}{配分函式}\)
注意，這裡的P(a,b,c,d)不是公式，不具有通用性，只是針對四學生的案例推導的，看下面這個因子分解對應的獨立性說明


歸一化常數，說白了就是聯合分佈的所有可能性情況總和

有了歸一化常數後，就可以做因式分解得到聯合分佈
\(在這個表裡面，既可以求邊緣概率，P(b^0)\approx 0.268,P(b^1)\approx 0.732,也可以求條件概率 P(b^1|c^0)\approx 0.06 (把所有c^0的行先拿出來，在分佈統計b^1,b^0的概率)\)

因子分解和獨立性的關係

解題過程待補充吧。。。。

四學生問題中 因子分解和獨立性的說明

表示方式

因子的一些說明

MRF是無向圖，沒法像貝葉斯網路那樣使用CPD(條件概率分佈)去表示
一個因子既包含了聯合分佈的概念，也包含了CPD的概念
MRF是無向的，所以表示也應該是無向的，引數化也應該是無向的

\(\color{red}{因子積}\)

吉布斯分佈

這個例子很不錯,4.1,4.2兩個圖得到了截然不同的答案，是因為4.2受到了外力(其他因子)的影響

MRF的全域性馬爾科夫性

\(x_A \perp x_C | x_B , A,C之間只有B連線\)

MRF的區域性馬爾科夫性

\(a節點在給定鄰居節點的情況下，和其他節點(非鄰居節點)都是獨立的\)

MRF的成對馬爾科夫性

\(x_i\perp x_j |x_{全集-i-j},i,j不相鄰\)

上面三個MRF的馬爾科夫性不是獨立的，是相互等價的

MRF的因子分解

因子分解要體現條件獨立性，也就是滿足上面三種馬爾科夫性的節點不應該放在一個因子裡面
引入團的概念

團,最大團

一個節點的集合，集合中的任意兩個節點是互相連線的

這時候
\(\color{red}{MRF的因子分解為}\)
\(P(x)=\frac{1}{Z}\sum\limits_{i=1}^{K}\phi(x_{c_i}),x_{c_i} 對應一個團\)

基於最大圖案的因子分解的證明-Hammersley-Clifford定理
\(\color{red}{重點來了!!!}\)
\(一般因子/勢函式定義為指數族分佈exp{-E(x_{c_i})},-E(x_{c_i})稱為能量函式\)
\(當因子/勢函式按照上面這種定義後，P(x)稱為吉布斯分佈或者\color{red}{玻爾茲曼分佈}\)
真興奮啊，看到玻爾茲曼了
這塊的知識都是來自於統計物理學
\(最後結論,P(x)就是一個指數族分佈\)
\(\color{red}{MRF等價于吉布斯分佈}\)

回到書上的定義

因子分解

這裡的完備子圖就是團的概念

四學生案例中的團和因子分解

書上的成對馬爾科夫性質，區域性馬爾科夫性質

三者等價的說明