1. 程式人生 > >全概率公式、貝葉斯公式推導過程(在原博文的基礎上有補充)

全概率公式、貝葉斯公式推導過程(在原博文的基礎上有補充)

(1)條件概率公式

設A,B是兩個事件,且P(B)>0,則在事件B發生的條件下,事件A發生的條件概率(conditional probability)為:

P(A|B)=P(AB)/P(B)

(2)乘法公式

1.由條件概率公式得:

P(AB)=P(A|B)P(B)=P(B|A)P(A)

上式即為乘法公式;

2.乘法公式的推廣:對於任何正整數n≥2,當P(A1A2…An-1) > 0 時,有:

P(A1A2…An-1An)=P(A1)P(A2|A1)P(A3|A1A2)…P(An|A1A2…An-1)

(3)全概率公式

如果事件組B1,B2,…. 滿足

1.B1,B2….兩兩互斥,即 Bi ∩ Bj = ∅ ,i≠j , i,j=1,2,….,且P(Bi)>0,i=1,2,….;

2.B1∪B2∪….=Ω ,則稱事件組 B1,B2,…是樣本空間Ω的一個劃分

設 B1,B2,…是樣本空間Ω的一個劃分,A為任一事件,則:
這裡寫圖片描述
上式即為全概率公式(formula of total probability)

全概率公式的意義在於,當直接計算P(A)較為困難,而P(Bi),P(A|Bi) (i=1,2,…)的計算較為簡單時,可以利用全概率公式計算P(A)。思想就是,將事件A分解成幾個小事件,通過求小事件的概率,然後相加從而求得事件A的概率,而將事件A進行分割的時候,不是直接對A進行分割,而是先找到樣本空間Ω的一個個劃分B1,B2,…Bn,這樣事件A就被事件AB1,AB2,…ABn分解成了n部分,即A=AB1+AB2+…+ABn, 每一Bi發生都可能導致A發生相應的概率是P(A|Bi),由加法公式得

P(A)=P(AB1)+P(AB2)+….+P(ABn)=P(A|B1)P(B1)+P(A|B2)P(B2)+…+P(A|Bn)P(PBn)

3.例項:某車間用甲、乙、丙三臺機床進行生產,各臺機床次品率分別為5%,4%,2%,它們各自的產品分別佔總量的25%,35%,40%,將它們的產品混在一起,求任取一個產品是次品的概率。

解:設….. P(A)=25%*5%+4%*35%+2%*40%=0.0345

(4)貝葉斯公式

1.與全概率公式解決的問題相反,貝葉斯公式是建立在條件概率的基礎上尋找事件發生的原因(即大事件A已經發生的條件下,分割中的小事件Bi的概率),設B1,B2,…是樣本空間Ω的一個劃分,則對任一事件A(P(A)>0),有
這裡寫圖片描述

上式即為貝葉斯公式(Bayes formula),Bi 常被視為導致試驗結果A發生的”原因“,P(Bi)(i=1,2,…)表示各種原因發生的可能性大小,故稱先驗概率;P(Bi|A)(i=1,2…)則反映當試驗產生了結果A之後,再對各種原因概率的新認識,故稱後驗概率。

2.例項:發報臺分別以概率0.6和0.4發出訊號“∪”和“—”。由於通訊系統受到干擾,當發出訊號“∪”時,收報臺分別以概率0.8和0.2受到訊號“∪”和“—”;又當發出訊號“—”時,收報臺分別以概率0.9和0.1收到訊號“—”和“∪”。求當收報臺收到訊號“∪”時,發報臺確係發出“∪”的概率。

解:設…., P(B1|A)= (0.6*0.8)/(0.6*0.8+0.4*0.1)=0.923

補充:

此篇博文作者總結簡練,最後得出了貝葉斯公式,並以例項加深理解,但是這裡全是公式,因此我將其中一個次品的例子用畫圖的形式加深理解。
這裡寫圖片描述