第4章矩阵的分解.ppt

《第4章矩阵的分解.ppt》由会员分享，可在线阅读，更多相关《第4章矩阵的分解.ppt（19页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第4章矩阵的分解 Still waters run deep.流静水深流静水深,人静心深人静心深 Where there is life,there is hope。有生命必有希望。有生命必有希望矩阵分解的概述矩阵分解的概述矩阵的分解：矩阵的分解：A=AA=A1 1+A+A2 2+A+Ak k 矩阵的和矩阵的和矩阵的和矩阵的和A=AA=A1 1A A2 2 A Am m 矩阵的乘积矩阵的乘积矩阵的乘积矩阵的乘积矩阵分解的原则：矩阵分解的原则：实际应用的需要实际应用的需要实际应用的需要实际应用的需要理论上的需要理论上的需要理论上的需要理论上的需要计算上的需要计算上的需要计算上的需要计算上的需要显

2、示原矩阵的某些特性显示原矩阵的某些特性显示原矩阵的某些特性显示原矩阵的某些特性矩阵化简的方法之一矩阵化简的方法之一矩阵化简的方法之一矩阵化简的方法之一主要技巧：主要技巧：各种标准形的理论和计算方法各种标准形的理论和计算方法各种标准形的理论和计算方法各种标准形的理论和计算方法矩阵的分块矩阵的分块矩阵的分块矩阵的分块4.1 LU分解分解(图灵图灵Turing,1948)LU分解：分解：A Cn n，若若A的顺序主子式的顺序主子式不为零，则存在唯一的主对角线上元素不为零，则存在唯一的主对角线上元素全为全为1的下三角形矩阵的下三角形矩阵L 与与唯一的上三角唯一的上三角形矩阵形矩阵U，使得，使得A=LU

3、.例如：例如：Application可以简化求解线性方程的算法可以简化求解线性方程的算法可以简化求解线性方程的算法可以简化求解线性方程的算法举例4.2 QR分解分解1.1.利用利用利用利用Gram-SchmidtGram-Schmidt正交化过程的正交化过程的正交化过程的正交化过程的QRQR分解分解分解分解 Theorem Theorem 设矩阵设矩阵设矩阵设矩阵A A C Cmm n n，R(A)=n(R(A)=n(列满秩列满秩列满秩列满秩)。则。则。则。则存在非奇异上三角阵存在非奇异上三角阵存在非奇异上三角阵存在非奇异上三角阵R R，和矩阵，和矩阵，和矩阵，和矩阵QQ，QQHHQ=EQ=E

4、，使，使，使，使得得得得A=QRA=QR。Remark:Remark:这样的分解称之为这样的分解称之为这样的分解称之为这样的分解称之为QRQR分解。分解。分解。分解。实施步骤实施步骤实施步骤实施步骤G-SG-S正交化正交化单位化单位化4.2 QR分解分解例例例例 P090 P090 例例例例4.2.14.2.1 此例中矩阵是列满秩的此例中矩阵是列满秩的此例中矩阵是列满秩的此例中矩阵是列满秩的例例例例 P091 P091 例例例例4.2.24.2.2 此例表明即使矩阵不是列满秩的，也可以用此例表明即使矩阵不是列满秩的，也可以用此例表明即使矩阵不是列满秩的，也可以用此例表明即使矩阵不是列满秩的，也

5、可以用G-SG-S正交化方正交化方正交化方正交化方法，但是其法，但是其法，但是其法，但是其QRQR分解不是唯一的。分解不是唯一的。分解不是唯一的。分解不是唯一的。4.3 满秩分解满秩分解矩阵的满秩分解矩阵的满秩分解矩阵的满秩分解矩阵的满秩分解 对秩为对秩为r 的矩阵的矩阵A Fm n，存在秩为，存在秩为r的矩的矩阵阵 B Fm r，C Fr n，使得，使得A=BC为为A 的的满秩分解。满秩分解。列列满满秩秩行满秩行满秩已知的结论已知的结论已知的结论已知的结论 满秩分解的实现：满秩分解的实现：满秩分解的实现：满秩分解的实现：向量组最大无关组的求法向量组最大无关组的求法向量组最大无关组的求法向量组

6、最大无关组的求法 例例例例 求矩阵求矩阵求矩阵求矩阵A A的满秩分解的满秩分解的满秩分解的满秩分解 矩阵的满秩分解的做法矩阵的满秩分解的做法 设设设设A A C Cmm n n ，R(A)=r,R(A)=r,对对对对A A作行初等变换得行最简形作行初等变换得行最简形作行初等变换得行最简形作行初等变换得行最简形HH，若若若若HH的首的首的首的首1 1元分别在元分别在元分别在元分别在HH的第的第的第的第j1,j2,jrj1,j2,jr列，取列，取列，取列，取HH的前的前的前的前r r行所成行所成行所成行所成矩阵为矩阵为矩阵为矩阵为C C，取，取，取，取A A的的的的j1,j2,jrj1,j2,jr

7、列所成矩阵为列所成矩阵为列所成矩阵为列所成矩阵为B B，则，则，则，则 B B C Cmm r r，C C C Cr r n n ，其秩序均为，其秩序均为，其秩序均为，其秩序均为r r，且，且，且，且A=BCA=BC。例例例例 P098 P098 例例例例4.3.24.3.2；例例例例 P098 P098 例例例例4.3.14.3.1（此矩阵为列满秩矩阵）（此矩阵为列满秩矩阵）（此矩阵为列满秩矩阵）（此矩阵为列满秩矩阵）4.4 奇异值分解奇异值分解(Singular Value Decomposition)(Singular Value Decomposition)Problem:Proble

8、m:矩阵的奇异值分解是矩阵的奇异值分解是酉等价型酉等价型的分的分解解:A C mn，酉矩阵酉矩阵U C mm,V C nn ,使得使得A=U VH。矩阵矩阵A等价于等价于=w奇异值分解基本适用于内积空间中与矩阵秩相奇异值分解基本适用于内积空间中与矩阵秩相奇异值分解基本适用于内积空间中与矩阵秩相奇异值分解基本适用于内积空间中与矩阵秩相关的问题关的问题关的问题关的问题 wA A的奇异值分解依赖于正规矩阵的奇异值分解依赖于正规矩阵的奇异值分解依赖于正规矩阵的奇异值分解依赖于正规矩阵A A HHA A 的酉相似的酉相似的酉相似的酉相似分解的。分解的。分解的。分解的。一、矩阵一、矩阵A的奇异值及其性质的

9、奇异值及其性质1、矩阵、矩阵AHA和和AAH的性质：的性质：A A C C mm n n，A AHHA A C C n n n n，AAAAHH C C mm m m，都，都，都，都是是是是HermiteHermite矩阵。矩阵。矩阵。矩阵。Theorem 2.7.8Theorem 2.7.8（P052）1.1.秩（秩（秩（秩（A A）秩（）秩（）秩（）秩（A AHHA A）=秩（秩（秩（秩（AAAAHH）。）。）。）。2.2.A AHHA A 和和和和AAAAH H 的非零特征值相等。的非零特征值相等。的非零特征值相等。的非零特征值相等。3.3.A AHHA A和和和和AAAAH H 是半正

10、定矩阵。是半正定矩阵。是半正定矩阵。是半正定矩阵。A AHHA A和和和和AAAAH H 的特征值是非负实数：的特征值是非负实数：的特征值是非负实数：的特征值是非负实数：1 1 2 2 n n2 2、奇异值的定义：、奇异值的定义：、奇异值的定义：、奇异值的定义：（P099P099）A A C C mm n n，秩（秩（秩（秩（A A）=r=r，设，设，设，设A AHHA A的特征值的特征值的特征值的特征值 1 1 2 2 r r 0 0，r+1r+1=r+2r+2 =n n=0=0 ，则矩阵的奇异，则矩阵的奇异，则矩阵的奇异，则矩阵的奇异值值值值二、矩阵的奇异值分解二、矩阵的奇异值分解1、Th

11、eorem 4.4.1（P099）设设设设A A C C mm n n，秩（，秩（，秩（，秩（A A）=r=r，则存在酉矩阵，则存在酉矩阵，则存在酉矩阵，则存在酉矩阵 U U C C mm mm，V V C C n n n n，使得使得使得使得证明思想：证明思想：证明思想：证明思想：Step1.Step1.A AHHA A正规，正规，正规，正规，V VHHA AHHAV=AV=，酉矩阵酉矩阵酉矩阵酉矩阵V V。例例 求矩阵求矩阵A的奇异值分解，的奇异值分解，A=。u Step2.令令令令 ,得得得得U U1 1=u=u1，u u2，u ur,扩充为标准正交基扩充为标准正交基扩充为标准正交基扩充

12、为标准正交基 酉矩阵酉矩阵酉矩阵酉矩阵U U。4.5 Moore-Penrose（M-P）广义逆）广义逆由由由由Moore 1920Moore 1920年提出，年提出，年提出，年提出，19551955年由年由年由年由PenrosePenrose发展。发展。发展。发展。1 1、DefinitionDefinition设设设设A A C C m m n n ，如果，如果，如果，如果 X X C C n n m m，使，使，使，使得得得得1.A AX XA=A A=A 2.X XA AX X=X X3.（A AX X）H H=A=AX X4.（X XA A）H H =X XA A 则称则称则称则称G

13、G为为为为A A的的的的M-PM-P广义逆，记为广义逆，记为广义逆，记为广义逆，记为G=G=A A+。A A1 1=A=A+；例例例例 讨论原有的逆的概念和讨论原有的逆的概念和讨论原有的逆的概念和讨论原有的逆的概念和M-PM-P广义逆的关系。广义逆的关系。广义逆的关系。广义逆的关系。例例例例 求下列特殊矩阵的广义逆；求下列特殊矩阵的广义逆；求下列特殊矩阵的广义逆；求下列特殊矩阵的广义逆；零矩阵零矩阵零矩阵零矩阵0 0；对角矩阵对角矩阵对角矩阵对角矩阵 0 0+mm n n =0=0 n n mm 3 3、M-PM-P广义逆的存在性及其求法广义逆的存在性及其求法广义逆的存在性及其求法广义逆的存在

14、性及其求法Theorem Theorem 任何矩阵都有任何矩阵都有任何矩阵都有任何矩阵都有M-PM-P广义逆。广义逆。广义逆。广义逆。求法求法求法求法：设设设设A A满秩分解满秩分解满秩分解满秩分解A=BCA=BC，则，则，则，则 奇异值分解可以用于求广义逆奇异值分解可以用于求广义逆奇异值分解可以用于求广义逆奇异值分解可以用于求广义逆(Theorem 4.5.3,P105)(Theorem 4.5.3,P105)设设设设A A奇异值分解奇异值分解奇异值分解奇异值分解 ：（：（：（：（可以不讲可以不讲可以不讲可以不讲），则，则，则，则2、M-P 广义逆的惟一性广义逆的惟一性TheoremTheo

15、rem 如果如果如果如果A A有有有有M-PM-P广义逆，则广义逆，则广义逆，则广义逆，则A A的的的的M-PM-P广义逆广义逆广义逆广义逆是惟一的。是惟一的。是惟一的。是惟一的。例例例例 设设设设 ，求求求求A A+。例例例例 设向量设向量设向量设向量 的的的的M-PM-P广义逆。广义逆。广义逆。广义逆。3、M-P广义逆的性质广义逆的性质Theorem 4.5.2Theorem 4.5.2 (P P103103)：1.（A A+）+=A=A2.（A A+）H H=（A A HH ）+3.（A A）=+A A+4.A A列满秩，则列满秩，则列满秩，则列满秩，则A A+=（A A HH A A）

16、1A A HH ，A A行满行满行满行满秩，则秩，则秩，则秩，则A A+=A=AHH （AAAAHH）1。5.A A有满秩分解：有满秩分解：有满秩分解：有满秩分解：A=BCA=BC，则，则，则，则A A+=C=C+B B+。A A+与与与与A A1 1 性质的差异比较：性质的差异比较：性质的差异比较：性质的差异比较：（ABAB）11=B=B 11 A A 11 ，一般不成立（一般不成立（一般不成立（一般不成立（ABAB）+=B=B+A A+。(只有满秩分解成立只有满秩分解成立只有满秩分解成立只有满秩分解成立)（A A11）k k=（A Ak k）1 1，但不成立（但不成立（但不成立（但不成立（A A+）k k=（A Ak k）+