∑=----=n i ip p i i i p w x x y w Q 1211010)( ),,,(ββββββ
(2)
加权最小二乘估计就是寻找参数p βββ,,,10 的估计值pw
w w βββ?,,?,?10 使式(2)的离差平方和w Q 达极小。所得加权最小二乘经验回归方程记做
p
pw w w w x x y βββ????110+++= (3) 多元回归模型加权最小二乘法的方法:
首先找到权数i w ,理论上最优的权数i w 为误差项方差2i σ的倒数,即
2
1i i w σ= (4)
误差项方差大的项接受小的权数,以降低其在式(2)平方和中的作用; 误差项方差小的项接受大的权数,以提高其在平方和中的作用。由(2)式求出的
加权最小二乘估计pw
w w βββ?,,?,?10 就是参数p βββ,,,10 的最小方差线性无偏估计。
一个需要解决的问题是误差项的方差2i σ是未知的,因此无法真正按照式(4)选取权数。在实际问题中误差项方差2i σ通常与自变量的水平有关(如误差项方差2i σ随着自变量的增大而增大),可以利用这种关系确定权数。例如2i σ与第j 个自
变量取值的平方成比例时, 即2i σ=k 2ij x 时,
这时取权数为
21
ij i x w
= (5)
更一般的情况是误差项方差2i σ与某个自变量j x (与|e i |的等级相关系数最大
的自变量)取值的幂函数m ij x 成比例,即2i σ=k m ij x ,其中m 是待定的未知参数。此
时权数为
m ij
i x w 1= (6) 这时确定权数i w 的问题转化为确定幂参数m 的问题,可以借助SPSS 软件解决。
2
20111???()()N N w i i i i i i i i Q w y y w y x ββ===-=--∑∑