第七节 预测
一.预测原理(基于条件的预测):
定义1:均方误差
对于任何预测都存在误差,我们需要给出一个损失函数来度量预测偏离一个特定的量的程度。假定一个二次损失函数,选择Yt*,使得 ?1t (66) EYt?1?Yt*?1t最小。表达式(66)称为预测值Y*t?1t??2的均方误差,记做MSEY???E?Y*t?1tt?1?Y*t?1t?。
2定理1:最小均方误差预测就是Xt条件下Yt?1的期望。 证明:
假定Yt*为基于条件期望以外的其他函数g?Xt?的预测Yt*?g?Xt?,其MSE为: ?1t?1tE?Yt?1?g?Xt??22?E??Yt?1?E?Yt?1Xt??E?Yt?1Xt??g?Xt???2?E??Yt?1?E?Yt?1Xt????E??E?Yt?1Xt??g?Xt???2 (67)
?2E??Yt?1?E?Yt?1Xt??????Yt?1Xt??g?Xt???2???E??Yt?1?E?Yt?1Xt????E??E?Yt?1Xt??g?Xt????2E??t?1?因为在Xt的条件下,EYt?1Xt与g?Xt?都是常数,因此
2??E???t?1Xt?? (68) ?E??Yt?1?E?Yt?1Xt???XtE???Yt?1Xt??g?Xt????0根据迭代期望法则,(68)的期望就是无条件期望,即
????E??t?1??E??E??t?1Xt???Xt?0 (69)
从而,(67)变为
??E?Yt?1?g?Xt???E??Yt?1?E?Yt?1Xt????E??E?Yt?1Xt??g?Xt??? (70)
右边第一项为常数,因此如果希望均方误差最小,只有:
222E?Yt?1Xt??g?Xt? (71)
定理得证。
定义2:线性投影
假设预测Yt*为Xt的线性函数,即Yt*?a?Xt。如果存在一个?,使得预测误差?1t?1t 26
?Yt?1???Xt?与Xt,即
E???Yt?1???Xt?Xt????0? (72)
则预测??Xt称为Yt?1关于Xt的线性投影。
定理2:在线性预测族中,线性投影具有最小均方误差。 证明和定理1相似。
线性投影是随机过程总体特征的归纳;而OLS回归是对样本观察值的归纳。 二.基于无限观察值的预测 1.基于滞后?的预测:
对于MA???过程
?Yt??????L??t (73)
其中?t为白噪声且
???L????jLjj?0?0?1 (74)
??j?0?j??假定已知t期以前的?的所有观测值??t,?t?1,...?、?以及?,?1,?2,...?的值。根据(73)可以得到:
Yt?s????t?s??1?t?s?1?....??s?1?t?1??s?t??s?1?t?1?... (75)
最优线性预测形式为
??Y?,?,....??????????... (76) Ests?1t?1?t?stt?1?即令未知的?等于期望值零。预测误差为
??Y?,?,....??????Yt?s?Et?s1t?s?1?....??s?1?t?1 (77) ?t?stt?1?根据线性投影的性质,预测误差的均值为零,且与??t,?t?1,...?线性无关。所以(76)为最优预测。其均方误差为:
??Y?,?,....?EYt?s?E?t?stt?1?2????1??221?....??s2?1??2 (78)
例: MA?q?过程,??L??1??1L??2L?....??qL
q解:最优线性预测为:
???s?t??s?1?t?1?...??q?t?q?s??Y?,?,....???E?t?stt?1????
s?1,2,...,q (79)
s?q?1,q?2,...27
均方误差MSE为
?2?1???1??2121?....??s2?1??2?....??q2??2s?1s?2,3,...,q (80) s?q?1,q?2,...均方误差MSE随着预测长度的增加而增加,直到s?q为止。对于MA?q?的q解以后的预测,其预测值为该序列的无条件均值E?Yt???。MSE为该序列的无条件方差
?1??21?....??q2??2。
s取多项式??L?除以L:
??L?Ls?L?s??1L1?s??2L2?s?....??s?1L?1??sL0??s?1L1???s?2L2?.... (81)
其零化算子?.??表示将L中的负次方变为零,即
???L??12?s???s??s?1L??s?2L?.... (82) ?L??此时最优预测
??Y?,?,....???????L??? (83) E?s?t?t?stt?1??L??2.基于滞后Y的预测:
对于AR???过程
??L??Yt?????t (84)
其中?t为白噪声,??L????Ljj?0?j,?0?1,
??j?0?j??。假定AR多项式??L?和MA多
项式??L?之间有如下关系:
??L??????L??? (85)
满足条件(82),则根据?Yt,Yt?1,....?的观察值构造出??t,?t?1,...?。将(84)代入(83),得到
?11??YY,Y,....???????L????L??Y?????????L??E?Yt???(86) ?s??s?t?t?stt?1??L???L????L?(86)称为维纳-科尔摩格洛夫(Wiener-Kolmogorov)预测。它以初始值
??Y???,?Ytt?1???,....?以及继后值??t?1,?t?2,...,?t?s?的形式表达?Yt?s???的值,再将式
28
中含未来的?的项去掉。
定理3 多重投影定理
如果Yt?2的t?1期的预测是t期信息的投影,则结果为Yt?2的t期最小均方误差预测。 例1 AR?1?过程?1??L??Yt?????t预测: 解: ??L??1?1??L??2L2?.....
1??L???L???sss?11s?22 ?s?????L??L?....?1??L?L??代入(86),得到
?ss?E??Yt?sYt,Yt?1,....?????1??L?1??L??Yt????????Yt???
随着预测期s的增加,预测值从?Yt???按几何方式衰减到?。前s期预测的均方误差为:
2?s?1?24??2 MSE??1?????....?????2随着s的增加,渐进于无条件方差。 21??例2 AR?p?过程的预测 解:AR?p?过程可以表示为:
????Yt?s???f11?Yt????f12?Yt?1????...?f1?p??Yt?p?1???sss ??t?s??1?t?s?1??2?t?s?2?...??s?1?t?1其中?j?f11。因此最优前s期预测为:
?j?
????f?s??Y????f?s??Y????...?f?s??YY11t12t?11pt?p?1??? t?st预测误差为:
??????Yt?s?Yt?s1t?s?1??2?t?s?2?...??s?1?t?1 t?st?,则最优预测为: 对于AR?p?过程的预测,最简单的方法是简单递归。首先预测Yt?1??????Y??????Y????...???YY1t2t?1pt?p?1??? t?1t预测Yt?2的最优预测为:
?Y????1?Yt?1?????2?Yt????...??p?Yt?p?2??? t?2t?1于是
???????Y????...???YYt?2t????1Yt?12tpt?p?2???
?? 29
?代入,得到 将Yt?1?Yt?2t????1?1?Yt?????2?Yt?1????...??p?Yt?p?1?????
??2?Yt????...??p?Yt?p?2??? ?????2??Yt??????1?2??3??Yt?1???21 ?...???1?p?1??p??Yt?p?2?????1?p?Yt?p?1???前s期预测可由下面的迭代得到:
????Yt?jt????1Yt?j?1t????2Yt?j?2t???...??pYt?j?pt?? j?1,2,...s ,???????其中Y?t?Y? ??t。
例3 MA?1?过程的预测
解:MA?1?过程的表达式为Yt????1??L??t,其中??1。将维纳-科尔摩格洛夫公式(86)中的??L?换成?1??L?,得到
?1?1??L?Yt?st????s??Yt???
?L??1??L?1??L?s?1时, ?1???,于是
?L???Yt?1t?????Yt????????Yt?????2?Yt?1?????3?Yt?2????.... 1??L?1??L?s?2,3,....时,?1??0,于是
?L??? Yt?st?? s?2,3,...例4:MA?q?过程的预测
2q解:对于可逆的MA?q?过程Yt???1??1L??2L?....??qL?t,则预测公式(86)变
??为:
?Yt?st?1??1L??2L2?....??qLq?1????Y??? ?s2q?tL?????1??1L??2L?....??qLs?1,2,...,qs?q?1,q?2,...
?1??1L??2L2?....??qLq???s??s?1L??s?2L2?....??s?qLq?s????sL0??????因此,s?1,2,....,q时,预测为:
????????L??L2?....??Lq?s???t Yss?1s?2s?qt?st 30