数据拟合线性最小二乘法及其应用(householder变换)
其次,注意到
= 2 =
2 2 = 其中 = u不可,而只需求出 和 即可. 然而在实际
计算时,将 规格化为第一个分量为1的向量是方便的,这是因为这样正好可以把 的后 1个分量保存在 的后 1个化为0的分量位置上,而 的第一个分量1就无需保存了.
此外,上溢和下溢也是计算中需要考虑的问题. 当下溢发生时,一些计算机系统自动置其为零,这就可能出现 为零的情形. 另外如果x的分量太大,当该分量平方时,便会出现上溢. 考虑到对任意的非零实数α有α 与 的单位化向量相同,为了避免溢出现象的出现,我们可用 ∞代替x来构造v(这样做相当于在原来的v之前乘了常数α=1 ∞)
3.2 QR分解
设 ∈ × , = ,由于2范数具有正交不变性,故对任意的正交矩阵 ∈ × 有
2= ( ) 2
这样,最小二乘问题
min 2
就等价于原最小二乘问题. 因此,就可以通过适当选取正交矩阵Q,使原问题转化为较容易求解的最小二乘问题,这就是正交化方法的基本思想.
定理3(QR分解定理)设 ∈ × (m≥n),则A有QR分解:
A=Q 0
其中 ∈ × 是正交矩阵, ∈ × 是具有非负对角元的上三角阵;而且当m=n且A非奇异时,上述的分解时唯一的.
证明见附录.