基本概念

樣本空間：{試驗所有可能結果}-->一個試驗所有可能結果的集合，用 Ω 表示。所以P(Ω) = 1

事件：樣本空間的一個子集。用A、B、C表示。

條件概率

其實P(A|B)與P(AB)很相似，即“A和B都會發生”。

我們換一句話來解釋這個P(AB)：“在所有可能的結果下，a和b都發生的概率”。而這個“所有可能的結果的概率”就是樣本空間的概率，也就是1。

用條件概率來表示就是

P(AB) = P(AB) / P(Ω)

即：

P(AB) = P(AB) / 1

而P(A|B)則有稍許的不同，雖然還是P(A)和P(B)都會發生，但給出了一個大前提“B事件發生的前提下，A和B都發生的概率（表面上是A發生，其實是A和B都發生，因為P(AB)和P(A|B)在發生數量上沒有區別，僅僅是P(A|B)加了個先後順序）”，所以條件概率的分母變成了P(B)

即：

P(A|B) = P(AB)/P(B)

全概率公式

首先要有一個樣本空間集合（如圖中的S），我們後面的所有概率事件都要在這個樣本空間裏。

然後我們將整個樣本空間劃分成n個子集（也可說n塊空間，如圖中的B1~Bn），這n個子集共同可以構成一個樣本空間S，每個子集都可以看成一個單獨事件，這n個事件我們可以稱之為“完備事件組”。

我們的任意一個事件，必然在樣本空間裏（如圖中的紅色圓圈），如圖所示，這個任意事件肯定會和

完備事件組中的各個事件“或多或少的產生交集”。

我們假設中間的任意事件概率為P(A)

我們可以通過將A與所有的完備事件“相交的部分”相加而找出P(A).

這些相交的部分自然就是：P(AB1),P(AB2)·······P(ABn)

即：P(A) = P(AB1) + P(AB2) + ······· + P(ABn)

根據條件概率可知P(AB) = P(A|B)P(B) = P(B|A)P(A)

所以可將公式轉化成P(A) = P(A|B1) P(B1)+ P(A|B2) P(B2)+ ······· + P(A|Bn)P(Bn)

即：

上面這個就是全概率公式。

由此可見，用全概率公式的前提是：

我們要求任意事件P(A)，

在我們知道完備事件組中各事件與A事件的交集概率的情況下，我們將事件A拆成所有交集的和。

貝葉斯公式

貝葉斯公式核心是，知道某一條件概率後，找出這個條件發生的原因。

這麽說可能抽象了點。

舉個栗子：我們知道了B發生後A發生的概率P(A|B)，由此我們可以用貝葉斯公式推出A發生後B發生的概率。

貝葉斯公式可以根據條件概率和全概率公式推導出來。

在推導之前有幾個提前假設：

1、Ai概率事件是某一個完備概率組中的事件，該完備事件組有n個事件，Ai是其中一個。1<=i<=n（如A事件與非A事件，這兩事件就能構成一個完備事件組）

推導過程如下：

根據條件概率有：

原式 = P(Ai|B) = P(AiB) / P(B)

將B事件與A事件所屬的完備概率組做全概率公式後，將P(B)展開得：

原式 = P(Ai|B) = P(AiB) / ( P(B|A1)P(A1) + P(B|A2)P(A2) +······+P(B|An)P(An) )

此時我們可看出，我們求的是P(Ai|B)，而分母已經全被我們轉化成了P(B|A)的條件。

接下來我們利用條件概率將分子也轉化成P(B|A)的條件樣式

即：P(AB) = P(A|B)P(B) = P(B|A)P(A)

所以繼續轉化原式分子得：

原式 = P(Ai|B) = P(B|Ai)P(Ai) / ( P(B|A1)P(A1) + P(B|A2)P(A2) +······+P(B|An)P(An) )

最後這個公式就是貝葉斯公式

貝葉斯公式推導