1. 程式人生 > >貝葉斯公式理解(先驗概率/後驗概率)

貝葉斯公式理解(先驗概率/後驗概率)

轉載自https://www.cnblogs.com/ohshit/p/5629581.html

(1)條件概率公式

        設A,B是兩個事件,且P(B)>0,則在事件B發生的條件下,事件A發生的條件概率(conditional probability)為:

                     P(A|B)=P(AB)/P(B)

 

(2)乘法公式

         1.由條件概率公式得:

                       P(AB)=P(A|B)P(B)=P(B|A)P(A)    

             上式即為乘法公式;

         2.乘法公式的推廣:對於任何正整數n≥2,當P(A1A2...An-1) > 0 時,有:

                      P(A1A2...An-1An)=P(A1)P(A2|A1)P(A3|A1A2)...P(An|A1A2...An-1)

                 

  (3)全概率公式

        1. 如果事件組B1,B2,.... 滿足

               1.B1,B2....兩兩互斥,即 Bi ∩ Bj = ∅ ,i≠j , i,j=1,2,....,且P(Bi)>0,i=1,2,....;

               2.B1∪B2∪....=Ω ,則稱事件組 B1,B2,...是樣本空間Ω的一個劃分

          設 B1,B2,...是樣本空間Ω的一個劃分,A為任一事件,則:

                      P(A)=\sum_{i=1}^{\infty }P(B_{i})P(A|B_{i})

           上式即為全概率公式(formula of total probability)

 

       2.全概率公式的意義在於,當直接計算P(A)較為困難,而P(Bi),P(A|Bi)  (i=1,2,...)的計算較為簡單時,可以利用全概率公式計算P(A)。思想就是,將事件A分解成幾個小事件,通過求小事件的概率,然後相加從而求得事件A的概率,而將事件A進行分割的時候,不是直接對A進行分割,而是先找到樣本空間Ω的一個個劃分B1,B2,...Bn,這樣事件A就被事件AB1,AB2,...ABn分解成了n部分,即A=AB1+AB2+...+ABn, 每一Bi發生都可能導致A發生相應的概率是P(A|Bi),由加法公式得

         P(A)=P(AB1)+P(AB2)+....+P(ABn)

               =P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(PBn)

        3.例項:某車間用甲、乙、丙三臺機床進行生產,各臺機床次品率分別為5%,4%,2%,它們各自的產品分別佔總量的25%,35%,40%,將它們的產品混在一起,求任取一個產品是次品的概率。

                解:設.....     P(A)=25%*5%+4%*35%+2%*40%=0.0345

 

    (4)貝葉斯公式

      1.與全概率公式解決的問題相反,貝葉斯公式是建立在條件概率的基礎上尋找事件發生的原因(即大事件A已經發生的條件下,分割中的小事件Bi的概率),設B1,B2,...是樣本空間Ω的一個劃分,則對任一事件A(P(A)>0),有

                      P(B_{i}|A)=\frac{P(B_{i})P(A|B_{i})}{\sum_{j=1}^{n}P(B_{j})P(A|B_{j})}

         上式即為貝葉斯公式(Bayes formula),Bi 常被視為導致試驗結果A發生的”原因“,P(Bi)(i=1,2,...)表示各種原因發生的可能性大小,故稱先驗概率;P(Bi|A)(i=1,2...)則反映當試驗產生了結果A之後,再對各種原因概率的新認識,故稱後驗概率。

      2.例項:發報臺分別以概率0.6和0.4發出訊號“∪”和“—”。由於通訊系統受到干擾,當發出訊號“∪”時,收報臺分別以概率0.8和0.2受到訊號“∪”和“—”;又當發出訊號“—”時,收報臺分別以概率0.9和0.1收到訊號“—”和“∪”。求當收報臺收到訊號“∪”時,發報臺確係發出“∪”的概率。

         解:設...., P(B1|A)= (0.6*0.8)/(0.6*0.8+0.4*0.1)=0.923