cov(X,Y)?D(X)D(Y). 结论：??1，并且当且仅当存在a，b，使得P?Y?aX?b??1，取得等号. 4.相关
(1)若?XY?1，则称随机变量X与Y不相关. (2)独立与不相关的关系
独立一定不相关，反之不然.
四.矩与协方差矩阵
1.原点矩定义
若E(Xk)，k?1,2,3,......存在，则称其为X的k阶原点矩. 2.中心矩定义
若E?X?E(X)?，k?1,2,3,......存在，则称其为X的k阶中心矩. 3.混合矩定义
若E(XkYl)，k?1,2,3,......，l?1,2,3,......，存在，则称其为X与Y的k+l混合矩.
4.混合中心矩
若E(?X?E(X)??Y?E(Y)?)，k?1,2,3,......，l?1,2,3,......，存在，则称其为X与Y的k?l的混合中心矩. 5.协方差矩阵
设n维随机变量?X1,X2,......,Xn?的二阶中心矩
cij?cov(Xi,Xj)?E?Xi?E(Xi)???Xj?E(Xj)??，i,j?1,2,3,......,n，则称矩阵
kl?k??? 36
?c11c12?c1n??c?c?c21222n?为n维随机变量?X,X,......,X?的协方差矩阵.由于 C=?12n?????????cn1cn2?cnn?cij?cji，因此，上述矩阵是一个对称矩阵.
37
第五章 大数定律和中心极限定理
一.大数定律
1.辛钦大数定律(弱大数定律)
设X1，X2，……是相互独立，服从同一分布的随机变量，且具有数学期望
1nE(Xk)??(k?1,2,.......).作前n个变量的算术平均?Ek，则对于任意??0，有
nk?1?1n?limP??Xk??????1. n???nk?1?这里只能对Xk方差存在的情形给予证明.（然而定理成立只需要期望存在.）
1n?1n?1n设D(Xk)??.则E??Xk???E(Xk)?????，
nk?1?nk?1?nk?121n2?2?1n?1n(这是因为Xk是相互独立的) D??Xk??2?D(Xk)?2???nnnnk?1k?1?k?1?由切比雪夫不等式，有
2?1n??D??Xk??1n?n1?n?1(n???), P??Xk??????1??k??1??2?2?nk?1??1n??1n?但P??Xk??????1.因此，limP??Xk??????1.
n???nk?1??nk?1?2.依概率收敛
(1)随机变量依概率收敛的定义
若存在实数a，使得对任意??0，有limP?Xn?a????1，则称随机变量
n??序列?Xn?依概率收敛于a，记为Xn?a. (2)依概率收敛的性质
P 38
假设随机变量序列?Xn?，?Yn?满足Xn?a，Yn?b，g(x,y)在(a,b)连续，则g(Xn,Yn)?g(a,b). 3.伯努利大数定律
假设fn是n次独立重复试验中事件A发生的次数，p是一次试验中A发生的
fnP概率，则?p.
nPPP?1,第k次试验，事件A发生 事实上，记Xk??，于是，Xk是独立同分布，
?0,第k次试验，事件A不发生?1n?E(Xk)??.由辛钦大数定律，对任意??0，有limP??Xi??????1，即
n????nk?1?fnP?fn?limP??p????1，即?p. n???n?n? 伯努利大数定律是辛钦大数定律的推论. 4.切比雪夫大数定律
设随机变量X1，X2，……，Xn相互独立，且数学期望和方差相同，即
P1nE(Xi)??，D(Xi)??，则?Xi??.
nk?12nn?n?n?n?n事实上，E??Xi???E(Xi)????n?，D??Xi???D(Xi)???2?n?2
i?1i?1?k?1?i?1?k?1?i?1?1n??1n??2(这是因为X1，X2，……，Xn相互独立).于是，E??Xi???，D??Xi??.
?nk?1??nk?1?n由切比雪夫不等式，得到对任意??0，
?1n?DX?i??nP?1n?1n?2k?1??1?P??Xi??????1??1?2?1(n???).于是，?Xi??. 2nk?1n?n??k?1? 39
二.中心极限定理
1.独立同分布的中心极限定理(林德伯格-列维定理)
设随机变量X1，X2，……，Xn，……相互独立，服从同一分布，且具有数学期望和方差：E(Xk)??，D(Xk)???0(k?1,2,3,......)，则随机变量之和
nn2?Xk?1nk的标准化
Yn??Xk?1kn?n???Xk?1k?n?的分布函数Fn(x)对于任意x满足
D(?Xk)k?1n??n?X?n?t2?k??x?1??limFn(x)?limP?k?1?x???e2dt??(x).
??n???n??n?2??????? 证明要用到随机变量的特征函数等知识.
2.棣莫弗-拉普拉斯中心极限定理
设随机变量?n(n?1,2,3,......)服从参数为n，p(0?p?1)的二项分布，则对
??x1?t2??n?np??x???edt. 于任意x，有limP???n??2??np(1?p)???2?1,第i次试验中事件A发生事实上，记Xi??，于是X1，X2，X3，……独
?0,第i次试验中事件A不发生立同分布，且E(Xk)?p，D(Xk)?p(1?p)，?n=?Xk，这样，由林德伯格-列
k?1n维定理，可得
??limP?n?????n?X?npt2?k???x??n?np1????x??limP?k?1?x??e2dt
??n??np(1?p)2???np(1?p)??????棣莫弗-拉普拉斯中心极限定理是林德伯格-列维定理的推论.
40