概率期望小記
目錄
前言·參考資料
這裡介紹 OI 中常見的簡化了的離散概率理論。
很多初學者覺得概率期望難， 大多數情況下並不是初學者智商上的鍋， 是資訊源質量奇差的鍋， 當然本文就是那些傻逼資訊源的其中之一……
參考資料：
《淺析資訊學競賽中概率論的基礎與應用》胡淵鳴 （寫得不好 ，相互獨立的離散期望的乘積等於乘積的期望的證明有大的漏洞）
《具體數學》 正道的光， 我認為最好的教程
《演算法競賽進階指南》主要習題來源
《演算法競賽入門經典 訓練指南》主要習題來源
概率
定義
把一個隨機實驗的某種可能結果稱為 樣本點， 所有樣本點構成的集合稱為 樣本空間， 通常記為 \(\Omega\) (\Omega) 。一個 隨機事件 是樣本空間的一個子集， 記所有隨機事件的集合為 \(F\) 。
記概率測度 \(P : F \rightarrow \Bbb R\) ， 其需要滿足以下三條公理：
1.對於任意事件 \(A\) ， 有 \(P(A) \ge 0\)
2.\(P(\Omega) = 1\)
3.對於事件 \(A\) 和 \(B\) ， 若 \(A \cap B = \emptyset\) ， 則 \(P(A\cup B) = P(A) + P(B)\)
條件概率
記事件 \(B\) 發生的前提下， 事件 \(A\) 發生的概率為 \(P(A\mid B)\) 。
\[P(A \mid B) = \dfrac{P(AB)}{P(B)} \]
\(P(A\cap B)，\)\(P(AB)\) ， \(P(A,B)\) 都表示事件 \(A\) 和事件 \(B\) 同時發生的概率。
全概率公式
如果 \(B_1 \cdots B_k\) 是對樣本空間的一個劃分， 那麼
\[P(A) = \sum_{1\le i \le k} P(A\mid B_i) P(B_i) \]
貝葉斯(Bayes)公式
由於 \(P(A\mid B)P(B) = P(AB) = P(B\mid A)P(A)\)
\[P(A\mid B) = \dfrac{P(B \mid A)P(A)}{P(B)} \]
期望
隨機變數
函式 \(X : \Omega \rightarrow \Bbb R\) 被稱為一個隨機變數。
隨機變數的期望
對於一個隨機變數 \(X\) ， 定義其期望為
\[E[X] = \sum_{\omega \in \Omega} P(\omega)X(\omega) \]
對於 \(\{\omega\mid \omega\in \Omega, X(\omega)=x\}\) ， 可以記為 \(X=x\) 。
顯然 \(E[X]\) 也可以表示為
\[\sum_{x \in X(\Omega)}x\sum_{\omega \in X=x} P(\omega) \]
\(X(\Omega)\) 是隨機變數 \(X : \Omega \rightarrow \Bbb R\) 的值域。
\(\sum\limits_{\omega \in X=x} P(\omega)\) 可以寫成 \(P(X=x)\) 。
隨機變數的獨立性和兩個隨機變數乘積的期望
對於兩個隨機變數 \(X_1\) 和 \(X_2\) ， 如果對於任意 \(x_1 \in X_1(\Omega)\) 和 \(x_2 \in X_2(\Omega)\) 都有 \(P(X_1=x_1, X_2=x_2) = P(X_1=x_1)P(X_2=x_2)\) ， 就稱 \(X_1\) 和 \(X_2\) 相互獨立。
對於兩個隨機變數 \(X_1\) 和 \(X_2\) ， 它們的積 \(X_1X_2\) 是一個隨機變數 \(X_1X_2 : \Omega \rightarrow \Bbb R\) ， 滿足 \((X_1X_2)(\omega) = X_1(\omega)X_2(\omega)\) 。
兩個獨立的隨機變數的積的期望等於這兩個隨機變數期望的積， 證明如下：
\[E[X_1X_2] = \sum_{\omega\in\Omega}X_1(\omega)X_2(\omega)P(\omega) \\ =\sum_{x_1\in X_1(\Omega)} \sum_{x_2 \in X_2(\Omega)} x_1x_2 P(X_1=x_1,X_2=x_2) \\ = \sum_{x_1\in X_1(\Omega)} \sum_{x_2 \in X_2(\Omega)} x_1x_2 P(X_1=x_1)P(X_2=x_2) \\ = E[X_1]E[X_2] \]
期望的線性性
對於兩個隨機變數 \(X_1\) 和 \(X_2\) ， 它們的和是一個隨機變數 \(X_1+X_2 : \Omega \rightarrow \Bbb R\) ， 滿足 \((X_1+X_2)(\omega) = X_1(\omega) + X_2(\omega)\) 。
不管兩個隨機變數 \(X_1\) 和 \(X_2\) 是否獨立， 總有：
\[E[\alpha X_1 + \beta X_2] = \alpha E[X_1] + \beta E[X_2] \]
證明如下：
\[E[X_1+X_2] = \sum_{\omega\in\Omega} P(\omega)(X_1+X_2)(\omega) \\ = \sum_{\omega\in\Omega} P(\omega)[X_1(\omega)+X_2(\omega)] \\ = \sum_{\omega\in\Omega} P(\omega)X_1(\omega)+\sum_{\omega\in\Omega} P(\omega)X_2(\omega) \\ = E[X_1] + E[X_2] \tag{1} \]
\[E[cX] = \sum_{\omega\in\Omega} P(\omega)cX(\omega) = cE[X] \tag{2} \]
全期望公式
不會證。也不知道是啥。
訓練指南里給出的一個定義是：把所有情況不重不漏分成若干類， 每類計算期望， 然後按概率加權求和。似乎很顯然， 以後再證。
題目
UVA11427 玩紙牌
每晚都玩紙牌， 單局遊戲獲勝的概率是 P， 每次遊戲結束後， 計算獲勝局數和總局數的比， 如果嚴格大於 P 就睡覺， 明晚繼續玩。 每晚最多玩 n 局， 如果第 n 局結束後， 勝局比還是不超過 P， 就再也不玩紙牌了。計算玩紙牌次數的期望。
首先計算每晚再也不玩紙牌的概率 Q 。設 f(i,j) 表示前 i 局勝局比都不超過 P， 一共獲勝 j 局的概率， 有：f(i,j) = f(i-1,j)(1-P) + f(i-1,j-1)P (當 j/i<=p時)， f(i,j) = 0 (其他情況)， 邊界為 f(0,0)=1, f(0,1)=0。 則 Q = \(\sum_if(n,i)\) 。
設隨機變數 X 為玩遊戲的天數， 則：
\[E[X] = Q + 2Q(1-Q) + 3Q(1-Q)^2 + \cdots + kQ(1-Q)^{k-1} + \cdots \]
\[E[X]/Q - E[X](1-Q)/Q = (1-Q)+(1-Q)^2+(1-Q)^3+\cdots = E[X] = 1/Q \]
UVA11762 得到 1
給出一個整數 N， 每次在不超過 N 的素數中隨機選擇一個 P， 如果 P | N， 則把 N 變成 N/P， 否則 N 不變。 問期望多少次把 N 變成 1？
設 f(i) 為當前數為 i 時期望多少次變成 1 。p(i) 為不超過 i 的素數有多少個， g(i) 為不超過 i 且是 i 的約數的素數有多少個。
\[f(i) = 1+\frac{p(i)-g(i)}{p(i)}f(i) + \sum_{d是i的素因子} \frac{1}{p(i)}f(\frac{i}d) \\ [1-\frac{p(i)-g(i)}{p(i)}]f(i) = 1 + \sum_{d是i的素因子} \frac{1}{p(i)}f(\frac{i}d) \\ f(i) = \frac{p(i)}{g(i)}[ 1 + \sum_{d是i的素因子} \frac{1}{p(i)}f(\frac{i}d)] \\ f(i) = {p(i)+\sum\limits_{d是i的素因子} f(\frac{i}d) \over g(i)} \]