数据拟合线性最小二乘法及其应用(householder变换)
利用QR分解,就可以实现正交化方法. 设 ∈ × (m≥n)有线性无关的列, ∈ ,并且假定已知A的QR分解. 现将Q分块为
Q=[ 1 2]
并且令
1 1 Q = b= 22
那么
222 x b 22= Q Q 2= 1 2+ 2 2
由此即知,x是最小二乘问题的解当且仅当x是 = 1的解. 这样一来,最小二乘问题的解可以很容易从上三角方程组 = 1求得.
综合上面的分析,可得求正交化方法的基本步骤为:
(1)计算A的QR分解;
(2)计算 1= 1 ;
(3)求解上三角方程组 = 1;
由此可知,实现正交化方法的关键是如何实现矩阵A的QR分解.
3.3 算法
设 ∈ × ,把 的列向量记作 =( 1 , 2 , , ) , =1,2, , .
第一步,令 1= = 1, 2, , ,利用定理二,取 = 1= 11, 12,, 1 ,
1求出 =± , 1= + 1, 1= 1 2, 1= 1 1 1T, 1 1=2
1,令 1= σ
于是
1 12 0 (2)
22 2= 1 1= (2) 0 2(2) (2) 2 (2) 1 (2)
假设进行了 1步,得到Householder变换 1, 2, , k 1,使
= k 1 k 2 1 = 11
( ) 12 1 ( ) +1 22( )