?*???E?Var?, **E??称它为随机变量ξ的标准化. 求与Var.
解 由均值与方差的性质可知
E?*?E(??E?)?0Var?,
Var(??E?)Var???1Var?Var?.
Var?*?
二、协方差
数学期望和方差反映了随机变量的分布特征. 对于随机向量(?1,?,?n)?, 除去各分量的期望和方差外,还有表示各分量间相互关系的数字特征——协方差. 定义2 记?i和?j的联合分布函数为Fij(x,y). 若
E(?i?E?i)(?j?E?j)?????,就称
??E(?i?E?i)(?j?E?j)???????(x?E?i)(y?E?j)dFij(x,y) (8)
为?i,?j的协方差( covariance),记作Cov(?i,?j). 显然,
Cov??i,?j??Var?i.公式(6)可改写为
Var(
??i?1ni)??Var?i?1ni+2
1?i?j?n?Cov(?,?ij).
'(6)
容易验证,协方差有如下性质:
性质1 Cov(?,?) = Cov(?,?)?E???E?E?. 性质2 设a,b是常数,则
n
Cov(a?,b?)?abCov(?,?).
n
性质3
Cov(??i,?)??Cov(?i,?)i?1i?1.
对于n维随机向量ξ=(?1,?,?n)?,可写出它的协方差阵
?b11b12??b21b22?????B?E???E?????E?????bn1bn2?b1n???b2n??????bnn??, (9)
其中bij?Cov(?i,?j).
由性质1可知B是一个对称阵,且对任何实数tj,j?1,?,n, 二次型
j,k?1?bnjkjktt?j,k?1?ttE(?jknj?E?j)(?k?E?k)?E(?tj(?j?E?j))2?0j?1n,
即随机向量ξ的协方差阵B是非负定的. 性质4 设
ξ=(?1,?,?n)? ,
?c11?c1n???????c?c?mn?C =?m1,
则C?的协方差阵为CBC?,其中B是ξ的协方差阵.
'''''EC?(C?)?EC??C?CE??C,所以CBC?的第?i,j?元素就是C?的第因为
i元素与第j元素的协方差.
三、相关系数
协方差虽在某种意义上表示了两个随机变量间的关系,但Cov??,??的取值大小与ξ,?的量纲有关. 为避免这一点,用ξ,?的标准化随机变量(见例7)来讨论.
定义3 称
r??=Cov(??,??)
?
E(??E?)(??E?)Var??Var?
(10)
为ξ, ?的相关系数(correlation coefficient). 为了讨论相关系数的意义,先看一个重要的不等式.
柯西—许瓦茨(Cauchy—Schwarz)不等式 对任意随机变量ξ, ?有
E???E?2E?22. (11)
等式成立当且仅当存在常数t0使
P???t0???1.
证 对任意实数t
(12)
u (t)?E(t???)2?t2E?2?2tE???E?2
是t的二次非负多项式,所以它的判别式
222 (E??)?E?E??0,
证得(11)式成立. (11)式中等式成立当且仅当多项式u (t)有重根t0,即
2ut?E(t???)?0. ??00
又由(3)
Var?t0?????E?t0????2,
故得Var?t0?????0,同时有E?t0?????0. 所以由方差的性质1就证得
P?t0????0??1,此即 (12)式. 由此即可得相关系数的一个重要性质. 性质1 对相关系数r??有
r???1. (13)
r??=1当且仅当
????E???E???P????1Var???Var??; ?r??=-1当且仅当
????E???E???P?????1Var?Var?????.
(14)
证 由(11)式得
r???E?????E??2E??2?Var??Var???1,
证得(13)式成立. 证明第二个结论. 由定义
r???r?*?*?E?*?*. 由柯西-许瓦兹
2*2***2|r|?1u(t)tE??2tE???E???不等式的证明可知, 等价于=有重根
t0?2E?*?*/(2e?*)=E?*?*.因此由(12)式得r???1当且仅当?(?*??*)?1;
2r????1当且仅当?(?*??*)?1.
注 性质1表明相关系数r????1时,ξ与?以概率1存在着线性关系. 另一个极端是r??= 0,此时我们称ξ与?不相关(uncorrected). 性质2 对随机变量ξ和?, 下列事实等价: (1) Cov(ξ,?)=0; (3) E???E?E?;
(2) ξ与?不相关;
(4) Var??????Var??Var?.
'证 显然(1)与(2)等价. 又由协方差的性质1得(1)与(3)等价. 再由(6)式,得(1)与(4)等价.
性质3 若ξ与?独立,则ξ与?不相关.
显然, 由ξ与η独立知(3)成立,从而ξ与?不相关. 但其逆不真.
例8 设随机变量θ服从均匀分布U [0, 2?],ξ=cos?,??sin?,显然
?2??2?1, 故ξ与?不独立. 但
E??Ecos? ??cos?02?2?1d??02?,
E??Esin?=?sin?01d??02?,
2?E???Ecos?sin?=?cos??sin?01d??02?,
故Cov??,??=E???E?E??0 ,即ξ与?不相关.
注 性质2不能推广到n??3?个随机变量情形. 事实上从n??3?个随机变量
两两不相关只能推得
Var(??i)??Var?ii?1i?1nn,不能推得E?1??n?E?1?E?n. 反
之,从这两个等式也不能推得?1,?,?n两两不相关. 具体例子不列出了. 对于性质3, 在正态分布情形,独立与不相关是一致的,这将在下面进行讨论.
Na,b;?1,?2,r?例9 设(ξ,?)服从二元正态分布?, 试求Cov??,??和r??.
22解
Cov??,???????????????(x?a)(y?b)p(x,y)dxdy
=12??1?22???1x?ay?b(y?b)2???(x?a)(y?b)?exp??r???dxdy??222??????2(1?r)??1?2?2?2?1?r???,
z?x?a令于是
?1?ry?b?2,
t?y?bx?a?2, 则?1?(x,y)?z?rtJ???1?2?(z,t),,
Cov??,????1?22?1?r212????????????(zt?rt2)?e?z2/2(1?r2)e?t/2dzdt
?2 =
?1?2?t?e?t2/2dt1·2?1?r12?1?r22??????z?e?z2/2(1?r2)dz
2 故得
r?1?2 +2?????t2?e?t/2dt?2?e?z/2(1?r2)dz
= 0+r?1?2.
r???
Cov(?,?)?rVar?Var?.
这就是说二元正态分布中参数r就是ξ,?的相关系数. 所以对二元正态分布,ξ、
?不相关等价于r = 0. 但在第二章已证ξ与?相互独立等价于r = 0. 这样我们
有
性质4 对二元正态分布,两个分量不相关与相互独立是等价的.