实用回归分析第四版 第一章 回归分析概述
1.3 回归模型中随机误差项ε的意义是什么?
答:ε为随机误差项,正是由于随机误差项的引入,才将变量间的关系描述为一个随机方程,使得我们可以借助随机数学方法研究y与x1,x2…..xp的关系,由于客观经济现象是错综复杂的,一种经济现象很难用有限个因素来准确说明,随机误差项可以概括表示由于人们的认识以及其他客观原因的局限而没有考虑的种种偶然因素。
1.4 线性回归模型的基本假设是什么?
答:线性回归模型的基本假设有:1.解释变量x1.x2….xp是非随机的,观测值
xi1.xi2…..xip是常数。2.等方差及不相关的假定条件为{E(εi)=0 i=1,2…. Cov(εi,εj)={σ^2
3.正态分布的假定条件为相互独立。4.样本容量的个数要多于解释变量的个数,即n>p.
第二章 一元线性回归分析
思考与练习参考答案
2.1 一元线性回归有哪些基本假定?
答: 假设1、解释变量X是确定性变量,Y是随机变量;
假设2、随机误差项ε具有零均值、同方差和不序列相关性: E(εi)=0 i=1,2, …,n Var (εi)=?2 i=1,2, …,n Cov(εi, εj)=0 i≠j i,j= 1,2, …,n 假设3、随机误差项ε与解释变量X之间不相关: Cov(Xi, εi)=0 i=1,2, …,n
假设4、ε服从零均值、同方差、零协方差的正态分布 εi~N(0, ?2 ) i=1,2, …,n 2.3 证明(2.27式),?ei =0 ,?eiXi=0 。
????X))2?)??(Y?(?Q??(Yi?Yii01i2nn证明:
11
其中:
????X???Yi01i?ei?Yi?Yi?Q?0???0?Q?0???1即: ?ei =0 ,?eiXi=0
?是β0的无偏估计。 2.5 证明?0nnXi?X1?)?E(Y???X)?E[Y?XYi) 证明:E(??i?01ni?1Li?1xxnXi?XX?X11?E[?(?X)Yi]?E[?(?Xi)(?0??1Xi ??i)]
LxxLxxi?1ni?1nnXi?XX?X11?E[?0??(?X)?i]??0??(?Xi)E(?i)??0nLnLi?1i?1xxxxnn2.6 证明 证明:
n?)?(1?Var(?0nX2??Xi?1ni?X?1X2)???(?)nLxx222nX?XXi?X211i?)?Var[(?XVar(?)Y]?[(?X)Var(?0??1Xi ??i)] ??0inLnLi?1i?1xxxxXi?XXi?X22121X22??[()?2X?(X)]??[?]?
nnLxxLxxnLxxi?1n2.7 证明平方和分解公式:SST=SSE+SSR
nn证明: 2?)?(Y??Y]2SST???Yi?Y???[Yi?Yiii?1i?1
??
??Y??Yii?1nn??2?)(Y??Y??)?2?Yi?Y?Yi?Yiiii?1i?1nn??n??2???i?12??)Yi?Y??Yi?Yii?1???2?SSR?SSE2.8 验证三种检验的关系,即验证: (1)t?(n?2)r1?r2?2Lxx?SSR/121??t;(2)F? 2?SSE/(n?2)?证明:(1)
?L?rLyyLxxrLyy??n?2rn?2rxx t??????22??SSE(Lxx(n?2))SSE(n?2)SSESST?Lxx?1?r(2)
????x?y)2?(y???(x?x)?y)2?(??i?y)??(?SSR??(y???1(xi?x))2???12Lxx01i1i2i?1i?1i?1i?1nnnn?2?L?SSR/1?F??12xx?t2
?SSE/(n?2)?1(xi?x)22)? 2.9 验证(2.63)式:Var(ei)?(1??nLxx证明:
?i)?var(yi)?var(y?i)?2cov(yi,y?i)var(ei)?var(yi?y????x)?2cov(y,y???(x?x))?var(y)?var(?i01ii1i(xi?x)21(xi?x)221????[?]?2?[?]nLxxnLxx22
1(xi?x)22?[1??]?nLxx?(x?x))?Cov(y,y)?Cov(y,??(x?x))Cov(yi,y??1iii1in(x?x)1n其中:?Cov(yi,?yi)?(xi?x)Cov(yi,?iyi)ni?1Li?1xx
12(xi?x)221(xi?x)22?????(?)?nLxxnLxx??22.10 用第9题证明证明:
?e?2in?2是?2的无偏估计量
1n1n2?)??)?E(?E(yi?yE(ei2)??n?2i?1n?2i?121n1n1(xi?x)22?[1??]? ?var(ei)?n?2?n?2i?1nLi?1xx?1(n?2)?2??2n?2 第三章
1.一个回归方程的复相关系数R=0.99,样本决定系数R2=0.9801,我们能判断这个回归方程就很理想吗? 答:不能断定这个回归方程理想。因为:
1. 在样本容量较少,变量个数较大时,决定系数的值容易接近1,而此时可能F检验或者关于回归系数的t检验,所建立的回归方程都没能通过。
2. 样本决定系数和复相关系数接近于1只能说明Y与自变量X1,X2,…,Xp整体上的线性关系成立,而不能判断回归方程和每个自变量是显著的,还需进行F检验和t检验。
3. 在应用过程中发现,在样本容量一定的情况下,如果在模型中增加解释变量必定使得自由度减少,使得 R2往往增大,因此增加解释变量(尤其是不显著的解释变量)个数引起的R2的增大与拟合好坏无关。
?*??jLjjLyy?,?jnj?1,2,...,p
其中: Ljj??(Xij?Xj)2i?12.被解释变量Y的期望值与解释变量X1,X2,?,Xk的线性方程为:
??X E(Y)??0??1X12?2???kXk
(3-2)
称为多元总体线性回归方程,简称总体回归方程。
对于n组观测值Yi,X1i,X2i,?,Xki(i?1,2,?,n),其方程组形式为:
Yi??0??1X1i??2X2i????kXki??i,(i?1,2,?,n)
(3-3) 即
?Y1??0??1X11??2X21????kXk1??1?Y????X??X????X???20112222kk22 ??????Yn??0??1X1n??2X2n????kXkn??n其矩阵形式为
?Y1??1X11?Y???2?=?1X12??????????Yn??1X1n即
X21?X22?X2nXk1??Xk2???????Xkn???0??????1??1??????2?+?2? ????????????n?????k?Y?Xβ?μ(3-4)
其中
Yn?1?Y1??1X11?Y??1X212???为被解释变量的观测值向量;Xn?(k?1)???????????Y?n??1X1nX21?X22?X2nXk1??Xk2??为解释变?????Xkn???0?????1?量的观测值矩阵;β(k?1)?1???2?为总体回归参数向量;μn?1?????????k??多元回归线性模型基本假定:课本P57
??1?????2?为随机误差项向量。 ???????n?第四章
4.3 简述用加权最小二乘法消除一元线性回归中异方差性的思想与方法。
答:普通最小二乘估计就是寻找参数的估计值使离差平方和达极小。其中每个平方项的权数相同,是普通最小二乘回归参数估计方法。在误差项等方差不相关的条件下,普通最小二乘估计是回归参数的最小方差线性无偏估计。然而在异方差的条件下,平方和中的每一项的地位是不相同的,误差项的方差大的项,在残差平方和中的取值就偏大,作用就大,因而普通最小二乘估计的回归线就被拉向方