第二十一讲 广义特征值与极小极大原理
一、 广义特征值问题
1、定义:设A、B为n阶方阵,若存在数?,使得方程Ax??Bx存在非零解,则称?为A相对于B的广义特征值,x为A相对于B的属于广义特征值?的特征向量。
● 是标准特征值问题的推广,当B=I(单位矩阵)时,广义特征值问题退化为标准特征值问题。 ● 特征向量是非零的 ● 广义特征值的求解
?A??B?x?0 或者 ??B?A?x? 0
? 特征方程 det?A??B??0
求得?后代回原方程Ax??Bx可求出x
本课程进一步考虑A、B厄米且为正定矩阵的情况。 2、等价表述
(1) B正定,B?1存在 ?B?1Ax??x,广义特征值问题化为了标准
特征值问题,但一般来说,B?1A一般不再是厄米矩阵。 (2) B厄米,存在Cholesky分解,B?GGH,G满秩 Ax??GGHx 令GHx?y 则 GAG?1??H?1y??y 也成为标准特征值问题。
GAG?1??H?1为厄米矩阵,广义特征值是实数,可以按大小顺序
排列?1??2????n,一定存在一组正交归一的特征向量,即存在
y1,y2?,yn满足
1
GAG?1??H?1yi??yi
i?j i?j?1 yHy????ijij?0还原为xi?GHHi??H?1yi (i=1,2,?,n),则
Hi?1 yyj?xGGxj?xBxj??ij???0?Hi???i?j (带权正交) i?j
二、 瑞利商
xHAxA、B为n阶厄米矩阵,且B正定,称R?x??H?x?0?为A
xBx相对于B的瑞利商。
x1,x2?,xn线性无关,所以,?x?Cn,存在a1,a2?,an?C,使得 x??aixi
i?1nn?n2???nH xBx???aixi?B??ajxj???aiajxiBxj??ai
i?1?i?1??j?1?i,j?1HnH xAx??aiaxAxj??aiax?iBxj???iai
HHjiHjii,j?1i,j?1i?1nnn2? R?x????iaii?1nn2
?aii?12●minR?x???1 maxR?x???n
x?0x?0xAx?kx?A?kx??证明:R?x??H k为非零常数 HxBx?kx?B?kx?HH1 可取k?, kx?1
x
2
? R?x??xHAxxHBx (闭区域)
x?1当x?x1或ai?0?i?2,3,?,n?时,R?x???1 n2i ?i??1 R?x????ai?11?n??a21
ii?1 ?
minRx?0?x???1
另一方面,??na2ii?1i??n R?x???n?n??a2n
ii?1 ? maxRx?0?x???n
[证毕] 当B=I时,标准特征值问题 Ax??x (AH?A)???1??2????nx ?Hixj??ij minxH则 AxxHAx?x?0?xHx??1 max?x?0?xHx??n
进一步分析可得
minRx?0?x??? maxa2 1?0x?0R?x???
an?1n?0? ?
minRx?0?x?????a1?a2???a?1 maxx?0R?x?k?0kan?an?1???an?k?1n?k?0定理1.设L?span?xr,xr?1,?,xs? ??r??r?1????s? ,则 minRx?x???r maxR?x???s
x??0Lxx??0L 3
这一结果不便于应用,希望对上述结果进行改造,改造成不依赖于xi的一种表达方式。
a1?0和an?0的情况均对应于x在(n-1)维的子空间内变动,x在L中变动是在一个(s-r+1)维子空间中变化。
一般的,x在Cn的(n-1)维子空间Vn?1中变动时,
xmin?0R?x???2 maxxR?x???n?1
x?Vn?1x??0Vn?1即,对于不同的Vn?1,R?x?的最小值及最大值有可能不同,其中各个最小值中最大者为?2,各个最大值中的最小者为?n?1
Vmax??minR?x???????2 minn?1?Cn?n?max?xx??0Vn?1??Vn?1?C??xx??0R?x??Vn?1???n?1
?定理2. 设Vk是Cn的一个k维子空间,则
max?Vn??minR?x??????n?k?1 min?maxR?x?????k k?C?xx??0VVk?Cnx?0k????x?Vk??以上两式称为广义特征值的极小极大原理。 ● B=I时,标准特征值问题同样存在上述关系。
● 矩阵奇异值问题:???A?2??????AHA? (非零) H2R?x??x?AHA?x2xHx?Axx2
2 ??Ax2?n?k?1?maxV?min?
k?Cn??xx??0Vkx2?? ?min?Ax2?k?Vk?Cn??max?xx??0? Vkx2??
4