定律就是契贝晓夫大数定律的一个特例。再到后面,出现独立同分布的辛钦大数定律等常用的大数定律。
2.2几个常用的大数定律
由于随机变量序列向常数的收敛有多种不同的形式,按其收敛为依概率收敛,以概率1收敛或均方收敛,分别有弱大数定律、强大数定律和均方大数定律。
定义1 设有一列随机变量?,?1,?2…..,如果对于任意的??0,有
limP??n??????1则
n??称随机变量序列??n?依概率收敛于?,记作
?n????,?n???。
p定义2 设有随机变量
n???和一
列随机变量??n? ,?1,?2…..,若
a.e则称??n?几乎处处收敛于?,记作?n????,?n??? limP??n?????1??成立,定义3 若?1,?2,???????n是随机变量序列,如果存在常数列a1,a2,???,使得对任意的??0,有
?1limP?n???nn??i?an????1 (8)
i?1??成立,则称随机变量序列??i?满足大数定律.
定义4 设有随机变量?和随机变量序列??n?的r阶原点矩E?r、E?nr(n=1,2……)存在,其中r>0,若limE?n??n??r?0则称?nr次平均收敛到?。记
作 ?n?L???。
此时必有E?nr?E?r。
当r=2时是常用的二阶矩,?n?L???称为均方收敛。
定义5 若?1,?2,???????n是随机变量序列,它们的数学期望E?i(i?1,2,.....)存在,???0有
?1lim?n???nn2r?i?k?1nn?i?E?k????1
?则称随机变量序列?1,?2,???????n服从弱大数定律。
- 3 -
定义6 若?1,?2,???????n是随机变量序列,它们的数学期望E?i(i?1,2,.....)存在,???0有
?1limP?n???nn???ik?E?k???0???或等价地11nk??ni?1nk?E?ni ???0,
a.e则称?1,?2,???????n服从强大数定律。
上述两个大数定律要注意,强大数定律和弱大数定律区别不仅仅是一个法则的不同,不能简单的把极限符号lim从概率号P()中移出来,弱大数
n??定律描述的是一列概率的收敛性,而强大数定律说的是一列随机变量收敛到一个常数,也正是这点,保证了用事件出现的频率来作为事件概率的估计的正确性。
定理1 对任意的随机变量?,若E??a,又D?存在,则对任意的正常数?,有P???a????D??2, 则称此式子为契贝晓夫不等式。
粗糙地说,如果D?越大,那么P???a???也会大一些。 大数定律形式有很多种,我们仅介绍几种最常用的大数定律。
定理2 (伯努利大数定律)设?n是n重伯努利实验中事件A出现的次数,且A在每次试验中出现的概率为p(0
limP?n????n??p?????n? 1 (5)
此定理表明:当n很大时,n重伯努利试验中事件A发生的频率几乎等于事件A在每次试验中发生的概率,这个定律以严格的数学形式刻画了频率的稳定性,因此,在实际应用中,当试验次数很大时,便可以用事件发生的频率来代替事件的概率。
定理3 (契贝晓夫大数定律) 设?1,?2,???????n是一列两两不相关的随机变量,又设它们的方差有界,即存在常数C?0,使有D?i?C,i?1,2,3???,则对于任意的
??0,有
?1 limP?n???nn?i?1?i?1nn?i?1?E?i????1
? (9)
在上述的定理中,因为用到契贝晓夫不等式,都有对方差的要求,其实方差这个条件并不是必要的。例如独立同分布时的辛钦大数定律
定理4 (辛钦大数定律) 设?1,?2,???????n是独立同分布的随机变量序列,
- 4 -
且有有限的数学期望E?i?a?i?1,2????,则对于任意的??0,有
?1limP?n???nn??i?a???? 1 (10)
i?1??上式也可表示为lim收敛于.
1nipn????ni?1?a或
1ni??ni?1???a?n???,并且称
p1ni?依概率 ?ni?1定理5 (泊松大数定律)设?1,?2,???????n是相互独立的随机变量序列,
P??n?1??p,P??n?0??q,其中p?q?1,则?1,?2,???????n服从泊松大数
nnnn定律。
泊松大数定律是伯努利大数定律的推广,伯努利大数定律证明了事件在完全相同的条件下重复进行的随机试验中频率的稳定性;而泊松定理表明,当独立进行的随机试验的条件变化时,频率仍然具有稳定性:随着n的无限增大,在n次独立试验中,事件A的频率趋于稳定在各次试验中事件A出现概率的算术平均值附近。
定理6 (马尔科夫大数定律)对于随机变量序列?1,?2,???????n,若有
?n?D???i??0,n??2n?i?1?1
则有
?1limP?n???nn?i?1?i?1nn?i?1?E?i????1
?
- 5 -
第三章 大数定律的一些应用
3.1大数定律在数学分析中的一些应用
3.1.1大数定律在极限、重积分上的应用
大数定律本身便是概率论中非常重要的定理之一,而它与其他数学理论也有密不可分的联系,而且对这些数学理论分支有不可或缺的作用。
大数定律本身便是频率靠近概率的极限理论,是大量随机现象的平均结果稳定于平均值的极限理论。可以说大数定律是利用极限才得出的,同时利用大数定律可以来求解极限,这当然只是众多求极限方法之一,但也有它独特的简洁和巧妙。就以大数定律和极限这个概念的关系为例子,用它来对我们要求的重积分和极限相关的问题进行另一种方式的求解。极限伴随重积分出现的类型在高数中是常见的,在利用大数定律来求解这类重积分的极限的题目前,先介绍一个相关定理。
定理7(勒贝格控制收敛定理)
设(1)?fn?是可测集E上的可测函数列;
(2)fn?x??F?x?a.e于E(n=1,2,…..,)且F?x?在E上可积分(称?fn?
为F?x?所控制,而F?x?叫控制函数);
(3)fn?x??f?x?;
则f?x?在E上可积分且lim?fn?x?dx?En11?ab1Ef?x?dx;
aa例1:已知a?b?0,求lim?......?n??00x1?x2?......?xnx?x?......?xb2bndx1......dxn的值。
解:设x1,……xn,为独立同分布的随机变量序列,xn(n?1)服从(0,1)
bb,......,xn为独立同分布。且 上的均匀分布,x1a,x2a,......,xna为独立同分布,x1b,x2Ex?E?xiaai??10xidxi?aa1a?1,i?1 1,i?1
?2?10?xi?2dxi?2a?12
2D?xai??E?x?ai2??Exai?2a?1?????,i?1 ?22a?1?a?1??2a?1??a?1?1- 6 -
?又 D?n?1Dxnn2a???nn?112a22?2a?1??a?1??a22??2a?1??a?1??nn?112??
由契贝晓夫大数定律可知:当?xn?是独立的同分布的随机变量序列,且
??n?1Dxnn2??1由前面知道是强大数定律可知,limP????,
n????nn?k?1xk?1nn?k?1??Exk??0??1;
??由此可知
1nn?1lim?n???nxk?an?k?1x?ak1n?nk?1a?Exk??0?
即 limn???k?11a?1
nnak又因为0?xn?1,k?1,且a?b故有x?x,k?1,因此?x?akbk?x。
bkk?1k?1由此?n,有
?10?????10x1?x2?......?xnx?x?......?xb1b2aaabndx1......dxn??10?????10x1?x2?......?xnx?x?......?xb1b2aaabndx1......dxndx1......dxn?1
根据勒贝格控制收敛定理可知:
limn???10????10x1?x2?......?xnx1?x2?......?xnabbaaabdx1......dxn?limbn????x1????......?xn???x1????......?xn???bbabPd???=
?lim?x1????......?xn???xb1n??????......?aaxbn???Pd???=??b?1a?1Pd????b?1Pd??? ?a?1?即lim?????n??0110x1?x2?......?xnx?x?......?xnb1b2adx1......dxn?bb?1a?1。
可以看出,利用大数定律求解数学分析中的重积分和极限收敛问题有它简洁的一面,也体现了大数定律等概率论等知识的广泛联系和应用。
[7]
3.1.2 大数定律在级数上的应用
大数定律在求解无穷级数上也有很大的作用,它为一些定理和固定公式的理论证明提供另一种有趣而且也有用的办法。下面我们就引用一个很著名的问题来展现大数定律在级数中的应用:
伯努利是一位伟大而且著名的数学家,但是他也被一个在现在已经解决的问题难住了:一个求级数和的问题。
- 7 -