第2章 单变量线性随机模型
第一节 预期、平稳性和遍历性
一、预期和随机过程
1．实现值（Realization）：观测到的序列值?x1,x2,...,xT?。
2．随机过程：随机过程Y??Yt,t?T?是一族随机变量，即对指标集T中的每个t，Yt是一个随机变量。如果t为时间，则Yt是过程在时刻t的状态。因此随机过程可以视为T个随机变量Yt的样本。 3．无条件均值
设想生成I个独立同分布N0,??2?的无穷序列?y??1?t?t??? ,yt???2??t??? ,..., ytt???I??，
t???再从每一个序列中取出t期观测值yt,yt,...,yt本。它的概率密度称为Yt的无条件密度：
??1??2??I??，这就是随机变量Y的I个实现的样
??yt2?1fYt?yt??exp?2? （1）
2???2??其均值如果存在，则称为无条件均值：
?E?Yt???ytfYt?yt?dyt （2）
??例如过程Y?t?????t，其无条件均值为E?Yt???是常数；过程Y?t???t??t是含时间趋势的过程，其无条件均值为E?Yt???t，是时间的函数。 二．自协方差和自相关
1．对于随机过程Y??Yt,t?T?是随机变量Yt的联合分布。可由该分布计算出Yt的第j各自协方差?jt：
?jt?E?Yt??t??Yt?j??t?j? （3）
它是Yt及其滞后值之间的协方差，因此称为自协方差。第0个自协方差?0t恰是Yt的方差。 2．自相关系数
对于协方差平稳过程?Yt?，定义
?j??j/?0?cov?Yt?Yt?j?Var?Yt?Var?Yt?j? （4）
为第j个自相关系数。显然?j?1。并且任意协方差平稳过程的第0阶自相关系数?0?1。
11
自相关系数?j也可以看作j的函数，称为自相关函数。自相关函数做成图形就是自相关图。ACF和均值、方差一起共同表现了弱平稳随机过程的特征。ACF通过测量过程的某个值和历史值的相关程度，显示了过程的“记忆”长度和力度。 三．平稳性 1．严平稳：
假设随机过程的性质不受时间地点变化的影响，称为绝对（严）平稳。即联合分布函数只取决于时期的间隔，与时期本身无关。从而它的所有矩都不依赖于时间。 2．弱（协方差）平稳：
如果随机过程的均值和协方差都不依赖于时间t，即
E?Yt??? 对所有t
E?Yt????Yt?j?????j 对所有的t和j
则过程是协方差平稳的或弱平稳的。过程Y?t?????t是协方差平稳的，其E?Yt???，
??2 j?0均为常数；过程Y?t???t??t是含时间趋势的过程，E?Yt????Yt?j??????0 j?0其无条件均值E?Yt???t是时间的函数，因此就不是协方差平稳的。 3．平稳和宽平稳的关系：
1） 具有有限二阶矩的严平稳过程，一定是弱平稳过程。
2） 弱平稳过程只限定一阶矩和二阶矩，但如果弱平稳过程是高斯过程，则它一定是严格平稳过程。 四．遍历性
前面进行的把时间序列的期望看作是总体平均。因此它是时间序列平均。如果时间平均收敛于总体平均，则称为过程是关于均值遍历的。仅当过程是遍历时，利用单组实现值来推断联合概率分布的未知参数才是正确的。 1．均值遍历：
如果一个协方差平稳过程?Yt?的自协方差?j满足
?则?Yt?是关于均值遍历的。 2．二阶矩遍历：
如果协方差平稳过程满足
?j?0?j??
??1?T?j???t?j?1??Y????YtTp??????j ?t?j 12
对所有的j成立，则称该过程是关于二阶矩遍历的。如果?Yt?是一个高斯平稳过程，则
??j?0?j??就能够保证过程关于所有矩都是遍历的。
3．平稳性和遍历性的区别：
?i? 考察一个平稳但非遍历的例子。假定第i个实现yt???t???的均值u?i?2是由N0,?生成
??的，即
Yt????????t （5）
ii其中??i
t?是独立于???的均值为零、方差为?2
的高斯白噪声过程。此时
?t?E???i???E??t??0
??i?0t?E?????2??2??2t
??E???i???????i?2jtt??t?j???
j?0
明显，过程是协方差平稳的。但并不满足遍历性条件。此时时间平均
?TT1/T??Y?i?t??1/T?t?1????i???t????i?T??1/T???t
t?1t?1收敛于??i?而不是Yt的均值零。
13
第二节 白噪声
一．白噪声过程：
22对于一个均值E??t??0、方差E?t??的序列??t?t???，满足
???E??t????0 t??
此时过程??t?t???称作一个白噪声过程。 二．独立白噪声过程
22对于一个均值E??t??0、方差E?t??的序列??t?t???，满足
?????t,??相互独立 t??
此时过程??t?t???称作一个白噪声过程。 三．高斯白噪声过程
222对于一个均值E??t??0、方差E?t??的序列??t?t???， ?t?N0,?，满足
???????t,??相互独立 t??
此时过程??t?t???称作高斯白噪声过程。
? 14
第三节 移动平均MA过程
一．一阶移动平均MA?1?
1．如果??t?满足白噪声过程，定义过程
Yt????t???t?1 （6）
其中?和?为常数。这个序列称为一阶移动平均过程MA?1?。期望为
E?Yt????E??t???E??t?1??? （7）
方差为
E?Yt????E??t???t?1? ??1??2??2一阶自协方差为
22 ?E??t2?2??t?t?1??t2?1? （8）
E?Yt????Yt?1????E??t???t?1???t?1???t?2? ?E??t?t?1???t2?1???t?t?2? （9） ???2高阶自协方差
E?Yt????Yt?j????E??t???t?1???t?j???t?j?1? ?0 j?1 （10）
上述均值和协方差都不是时间的函数，因此不管?为何，MA?1?过程都是协方差平稳的。 一阶自相关系数
??2??1?? （11） 2221???1????高阶自相关系数均为0。此时自相关函数在1阶处截尾。 例子：Yt??t?0.8?t?1，此时?1?2．几点结论：
1）正的?值得到正的自相关系数，一个大的Yt后面通常是一个比平均值大的Yt。 2）负的正的?值得到负的自相关系数，一个大的Yt后面通常是一个比平均值小的Yt。 3）自相关系数的取值区间?1???1,1?，并且对于每一个?1???0.5,0.5?，都有?和1/?与之对应。
二．q阶移动平均过程MA?q?：
?0.8??0.5 1??21.64 15