1. 程式人生 > >條件概率,乘法公式,全概率公式及貝葉斯公式的推導

條件概率,乘法公式,全概率公式及貝葉斯公式的推導

條件概率,乘法公式,全概率公式及貝葉斯公式的推導

條件概率

條件概率是指事件A在另外一個事件B已經發生條件下的發生概率。條件概率表示為: P ( A B

) P(A\mid B ) ,讀作“在B的條件下A發生的概率”
條件概率公式為:
P ( A B
) = P ( A B ) P
( B )
P(A\mid B) = \frac{P(AB)}{P(B)}

同理可得出在A條件下B發生的概率為
P ( B A ) = P ( A B ) P ( A ) P(B\mid A) = \frac{P(AB)}{P(A)}

乘法公式

1.由上面的條件概率公式得:
P ( A B ) = P ( A B ) P ( B ) = P ( B A ) P ( A ) P(AB) = P(A \mid B) * P(B)=P(B \mid A ) * P(A)

全概率公式

如果事件組B1,B2,… 滿足

  • B1,B2…兩兩互斥,即 Bi ∩ Bj = ∅ ,i≠j , i,j=1,2,…,且P(Bi)>0,i=1,2,…;
  • B1∪B2∪…=Ω ,則稱事件組 B1,B2,…是樣本空間Ω的一個劃分,也稱B為完備事件組
    設 B1,B2,…是樣本空間Ω的一個劃分,A為任一事件,則:
    P ( A ) = i = 1 P ( B i ) P ( A B i ) P(A)= \sum\limits_{i=1}^\infty {P(B_i)}{P(A\mid B _i)}
    因為 P ( A ) = P ( A Ω ) = P ( A ( B 1 + B 2 + B 3 + . . . ) ) P(A) = P(A\Omega)=P(A(B_1+B_2+B_3+...))
    又因為 B i B_i 之間互斥,所以 P ( A ) = P ( A B 1 ) + P ( A B 2 ) + P ( A B 3 ) + . . . P(A)=P(AB_1)+P(AB_2)+P(AB_3)+...
    根據上面的乘法公式我們可以得到:
    P ( A B 1 ) = P ( B 1 ) P ( A B 1 ) P(AB_1)=P(B_1)*P(A\mid B_1)
    P ( A B 2 ) = P ( B 2 ) P ( A B 2 ) P(AB_2)=P(B_2)*P(A\mid B_2)
    P ( A B 3 ) = P ( B 3 ) P ( A B 3 ) P(AB_3)=P(B_3)*P(A\mid B_3)
    由此可得 = P ( A Ω ) = P ( A ) = i = 1 P ( B i ) P ( A B i ) = P(A \Omega)=P(A)= \sum\limits_{i=1}^\infty {P(B_i)}{P(A\mid B _i)}

貝葉斯公式

P ( B i A ) = P ( A B i ) P ( B i ) j = 1 P ( B j ) P ( A B j ) P(B_i\mid A)= \frac{P(A\mid B_i) * P(B_i)}{\sum\limits_{j=1}^\infty{P(B_j)}{P(A\mid B_j)}}

推導過程

  • 利用條件概率公式得到
    P ( B i A ) = P ( A B i ) P ( A ) P(B_i\mid A)=\frac{P(AB_i)}{P(A)}
  • 利用乘法公式得到變形 P ( A B i ) = P ( A B i ) P ( B i ) P(AB_i) = P(A \mid B_i) * P(B_i)