貝葉斯簡介：

貝葉斯(約1701-1761) Thomas Bayes，英國數學家

貝葉斯方法源於他生前為解決一個“逆概”問題寫的一篇文章

生不逢時，死後它的作品才被世人認可

貝葉斯要解決的問題：

正向概率：假設袋子裏面有N個白球，M個黑球，你伸手進去摸一把，摸出黑球的概率是多大

逆向概率：如果我們事先並不知道袋子裏面黑白球的比例，而是閉著眼睛摸出一個（或好幾個）球，觀察這些取出來的球的顏色之後，那麽我們可以就此對袋子裏面的黑白球的比例作出什麽樣的推測

Why貝葉斯？

現實世界本身就是不確定的，人類的觀察能力是有局限性的

我們日常所觀察到的只是事物表面上的結果，因此我們需要提供一個猜測

男生：60%
女生：40%

男生總是穿長褲，女生則一半穿長褲一半穿裙子
正向概率：隨機選取一個學生，他（她）穿長褲的概率和穿裙子的概率是多大

逆向概率：迎面走來一個穿長褲的學生，你只看得見他（她）穿的是否長褲，而無法確定他（她）的性別，你能夠推斷出他（她）是女生的概率是多大嗎？

假設學校裏面人的總數是U 個
穿長褲的（男生）：U * P(Boy) * P(Pants|Boy)
P(Boy) 是男生的概率= 60%
P(Pants|Boy) 是條件概率，即在Boy 這個條件下穿長褲的概率是多大，這裏是100% ，因為所有男生都穿長褲
穿長褲的（女生）：U * P(Girl) * P(Pants|Girl)

求解：穿長褲的人裏面有多少女生

穿長褲總數：$U(Pants)=U \times P(Boy) \times P(Pants|Boy) + U \times P(Girl) \times P(Pants|Girl)$

$P(Girl|Pants) = \frac{U \times P(Girl) \times P(Pants|Girl)}{U(Pants)}$

$U(Pants)=U\times P(Boy) \times P(Pants|Boy) + U \times P(Girl) \times P(Pants|Girl)$

$U(Pants)=U\times [(P(Boy) \times P(Pants|Boy) + P(Girl) \times P(Pants|Girl)]$

$P(Girl|Pants)=\frac{U \times P(Girl) \times P(Pants|Girl)}{U\times [(P(Boy) \times P(Pants|Boy) + P(Girl) \times P(Pants|Girl)]}$

$P(Girl|Pants)=\frac{ P(Girl) \times P(Pants|Girl)}{P(Boy) \times P(Pants|Boy) + P(Girl) \times P(Pants|Girl)}$

$P(Girl|Pants)=\frac{ P(Girl) \times P(Pants|Girl)}{ P(Pants)}$

貝葉斯公式：

$P(A|B)=\frac{ P(A) \times P(B|A)}{ P(B)}$

001-貝葉斯算法簡介