概率論與數理統計(一):教你一步步推貝葉斯公式
阿新 • • 發佈:2018-12-21
參考資料:《概率論與數理統計》 陳希孺 2000.3/2016.8
1,概率是什麼? 概率是表示某種情況出現的可能性大小的一種數量指標,它介於0和1之間。 概率包括主觀概率和客觀概率。主觀概率可以理解為一種心態或傾向性,是人們根據經驗和知識、利害關係做出的判斷,其具有一定的社會意義。
2,客觀概率 事件:某種(或某些)情況的陳述,它可能發生,也可能不發生,其發生與否要等待試驗的結果。 試驗:包含了觀察的主動行為,全部可能結果在試驗前就明確(或知曉範圍)。
事件是與試驗結果有關的一個命題,其正確與否取決於試驗結果如何。
單一試驗結果稱為基本事件。一個或多個基本事件並在一起,就構成了一個事件。基本事件本身也是事件。
隨機事件:事件是否在某次試驗中發生,取決於機遇。在概率論中,常稱事件為“隨機事件”或“偶然事件”。
古典概率:試驗的有限結果具有等可能性 幾何概率:將古典概率拓展到了無限的情況。 概率的統計定義:一種通過實驗去估計概率的方法。即,用頻率估計概率。它實際上沒有提供確定概率的方法,而是提供了一種估計概率的方法和檢驗理論正確性的手段。 概率的公理化定義:基本事件構成集合O,集合類F包括O的所有子集。對F的任意成員A,定義P(A)為事件概率
柯爾莫戈羅夫公理體系的三條假設:概率介於0和1之間、必然事件概率為1且不可能事件概率為0、加法公理。
古典概率、幾何概率滿足加法公理,故其在柯式體系之內。
3,事件運算 事件的蘊含關係,A蘊含B,即B包含A。有P(A)<=P(B) A B 相互蘊含則推出A 和 B 相等 事件的和:也稱事件的並,兩個事件至少發生一個。記為A+B。 互斥:兩個事件不可能同時發生。 對立:兩個事件不可能同時發生且必然發生一個。 加法公理:互斥事件和的概率等於各個事件的概率之和。 事件的積:也稱事件的交,兩個事件同時發生。記為AB。
事件的差:A發生B不發生,記為A-B。顯然: A-B=A*(B補)
條件概率:P(AB)=P(A|B)*P(B)
事件獨立性:若P(A|B)=P(A),稱事件B對事件A的發生無影響,即A與B 獨立。
概率乘法定理:對於獨立事件,P(AB)=P(A)*P(B)
相互獨立的事件相當於事件空間的若干維度。故而相互獨立可推出兩兩獨立,反之不成立。
完備事件群:一組事件(有限或無限),兩兩互斥且每次試驗中至少發生一個。
全概率公式:對事件A,構造完備事件群B,由A=AO=AB1+AB2+AB3...(這一步是事件計算)
P(A)=P(AB1)+P(AB2)+....
故P(A)=P(B1)*P(A|B1)+P(B2)*P(A|B2)...,即事件A發生的概率,為其在因素集合B中各因素下A發生的條件概率以各因素自身概率為權的加權平均和。此式稱為全概率公式。
貝葉斯定理:由全概率公式反推,P(Bi|A)=P(ABi)/P(A)=P(Bi)*P(A|Bi)/[P(B1)*P(A|B1)+P(B2)*P(A|B2)...]
上式指出了一個深刻的道理:若事件A發生了,它是由某原因Bi造成的概率,為【Bi 發生概率乘上在Bi下A發生的條件概率】佔【在因素集合B中各因素下A發生的條件概率以各因素自身概率為權的加權平均和】的比例。
我們可以根據貝葉斯公式,從一項結果中推斷其發生的原因;更重要的是,新的資訊可能改變人們對原有結論的認識,在生活中,原以為不甚可能的一種情況,可以因某項事件的發生而變得甚為可能。
舉例言之,某病在人群中的帶菌率為0.03,因為檢驗手段有不完備,在帶菌情況下被檢測出陽性的概率為0.99,在不帶菌情況下被檢測出陽性的概率為0.05,則假設某人被檢出陽性,根據貝葉斯公式,他帶菌的概率為0.99*0.03/(0.99*0.03+0.97*0.05)=0.38。可見,貝葉斯定理可以得出一些反常識的有趣結論。
1,概率是什麼? 概率是表示某種情況出現的可能性大小的一種數量指標,它介於0和1之間。 概率包括主觀概率和客觀概率。主觀概率可以理解為一種心態或傾向性,是人們根據經驗和知識、利害關係做出的判斷,其具有一定的社會意義。
2,客觀概率 事件:某種(或某些)情況的陳述,它可能發生,也可能不發生,其發生與否要等待試驗的結果。 試驗:包含了觀察的主動行為,全部可能結果在試驗前就明確(或知曉範圍)。
古典概率:試驗的有限結果具有等可能性 幾何概率:將古典概率拓展到了無限的情況。 概率的統計定義:一種通過實驗去估計概率的方法。即,用頻率估計概率。它實際上沒有提供確定概率的方法,而是提供了一種估計概率的方法和檢驗理論正確性的手段。 概率的公理化定義:基本事件構成集合O,集合類F包括O的所有子集。對F的任意成員A,定義P(A)為事件概率
古典概率、幾何概率滿足加法公理,故其在柯式體系之內。
3,事件運算 事件的蘊含關係,A蘊含B,即B包含A。有P(A)<=P(B) A B 相互蘊含則推出A 和 B 相等 事件的和:也稱事件的並,兩個事件至少發生一個。記為A+B。 互斥:兩個事件不可能同時發生。 對立:兩個事件不可能同時發生且必然發生一個。 加法公理:互斥事件和的概率等於各個事件的概率之和。 事件的積:也稱事件的交,兩個事件同時發生。記為AB。