1. 程式人生 > >漫步數理統計三十——依概率收斂

漫步數理統計三十——依概率收斂

本篇博文我們將正式地陳述一系列隨機變數靠近某個隨機變數。

1{Xn}是一系列隨機變數,X是定義在樣本空間上的隨機變數。我們說Xn依概率收斂到X,如果對於ϵ>0

limnP[|XnX|ϵ]=0

或者等價的

limnP[|XnX|<ϵ]=1

如果成立,我們一般寫成

XnPX

如果XnPX,我們常說XnX的差收斂到0。極限隨機變數X經常是一個常數;例如X是一個退化的隨機變數。

說明依概率收斂的一種方法是用切比雪夫定理,具體會在下面的證明中給出,為了強調我們是一系列隨機變數,我們在隨機變數上給出下標,像X¯寫成X¯n

1(弱大數定理){Xn}是一系列獨立同分布的隨機變數,均值為μ

,方差為σ2<X¯n=n1ni=1Xi,那麼

X¯nPμ

回憶一下X¯n的均值與方差分別為μ,σ2/n,因此根據切比雪夫定理,對於任意的ϵ>0

P[|X¯μ|ϵ]=P[|X¯μ|](ϵn/σ)(σ/n)σ2nϵ20

||

這個定理說明,當n取向時,X¯分佈的所有質量收斂到μ。也就時候對於大的nX¯接近μ,但是多接近呢?例如如果我們用X¯n估計μ,那麼估計誤差是多少?這個問題留到下篇博文講解。

還有一個強大數定理,它弱化了定理1的假設:隨機變數Xi獨立且都有有限的均值μ,因此強大數定理是一階矩定理,而弱大數定理需要二階矩存在。

還有些關於依概率收斂的定理,我們在後面會用到,首先是兩個關於依概率收斂對線性封閉的定理。

2假設XnPX,YnPY,那麼Xn+YnPX+Y