4.5(4.5)式一元加权最小二乘回归系数估计公式。
证明:
4.6验证(4.8)式多元加权最小二乘回归系数估计公式。 证明:对于多元线性回归模型 ,y =X β+ε (1)
2()0,cov(,)E σ'?==εεεW ,即存在异方差。设
,
00n w '=??= ? ???
W DD D , 用-1D 左乘(1)式两边,得到一个新的的模型:
---111D y =D X β+D ε,即***y =X β+ε。
因为22()()()E E E σσ---''''''====1-11-11-1εεD εεD D εεD D WD I ,
故新的模型具有同方差性,故可以用广义最小二乘法估计该模型,得 原式得证。
4.7 有同学认为当数据存在异方差时,加权最小二乘回归方程与普通最小二乘回归方程之间必然有很大的差异,异方差越严重,两者之间的差异就越大。你是否同意这位同学的观点?说明原因。
答:不同意。当回归模型存在异方差时,加权最小二乘估计(WLS )只是普通最小二乘估计(OLS )的改进,这种改进可能是细微的,不能理解为WLS 一定会得到与OLS 截然不同的方程来,或者大幅度的改进。实际上可以构造这样的数据,回归模型存在很强的异方差,但WLS 与OLS 的结果一样。加权最小二乘法不会消除异方差,只是消除异方差的不良影响,从而对模型进行一点改进。
第五章
5.4 试述前进法的思想方法。
答:前进法的基本思想方法是:首先因变量Y 对全部的自变量x1,x2,...,xm 建立m 个一元线性回归方程, 并计算F 检验值,选择偏回归平方和显着的变量(F 值最大且大于临界值)进入回归方程。每一步只引入一个变量,同时建立m -1个220111
???()()N N
w i i i i i i i i Q w y y w y x ββ===-=--∑∑