第二章矩阵分解4 矩阵的奇异值分解.ppt

《第二章矩阵分解4 矩阵的奇异值分解.ppt》由会员分享，可在线阅读，更多相关《第二章矩阵分解4 矩阵的奇异值分解.ppt（15页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、4 矩阵的奇异值分解矩阵的奇异值分解 矩阵的奇异值分解在矩阵理论中的重要性是不言而喻的，它在矩阵的奇异值分解在矩阵理论中的重要性是不言而喻的，它在最优化问题、特征值问题、最小二乘方问题、广义逆矩阵问题最优化问题、特征值问题、最小二乘方问题、广义逆矩阵问题和统计学等方面都有十分重要的应用。和统计学等方面都有十分重要的应用。一一.预备知识预备知识为了论述和便于理解奇异值分解，本节回顾线性代数有关知识为了论述和便于理解奇异值分解，本节回顾线性代数有关知识。定义定义2.14 若实方阵若实方阵Q满足满足 ,则称则称Q是正交矩阵是正交矩阵.定义定义2.15 若存在正交矩阵若存在正交矩阵P,使得使得 ,则称

2、则称A正交相似于正交相似于B.定义定义2.16 共轭转置矩阵记为共轭转置矩阵记为 ,即即 .定义定义2.17 若若 ,则称则称A为为Hermit矩阵矩阵.定义定义2.18 设设 ,若若 ,则称则称A为正规矩阵为正规矩阵.定义定义2.19 设设 ,若若 ,则称则称A为酉矩阵为酉矩阵.定义定义2.20 设设 ,若存在酉矩阵若存在酉矩阵P,使得使得,则则A称酉相似于称酉相似于B.性质性质1 若若A是是n阶实对称矩阵，阶实对称矩阵，是的特征值，则是的特征值，则恒存在正交阵恒存在正交阵Q，使得，使得而且而且Q的的n个列向量是的一个完备的标准正交特征向量系。个列向量是的一个完备的标准正交特征向量系。性质性

3、质2 若若 ，是非奇异矩阵，则存在正交阵，是非奇异矩阵，则存在正交阵P和和Q，使得使得其中其中.性质性质3 (1)设设 ,则则 是是Hermit矩阵矩阵,且其特征值且其特征值均是非负实数均是非负实数;(2);(3)设设 ,则则 的充要条件为的充要条件为 .把性质把性质2中的等式改写为中的等式改写为称上式是称上式是A的正交对角分解的正交对角分解.性质性质4 (1)设设 ,则则A酉相似于对角阵的充分必要条件酉相似于对角阵的充分必要条件是是A为正规矩阵为正规矩阵;(2)设设 ,且且A的特征值都是实数的特征值都是实数,则正交相似于对角矩则正交相似于对角矩阵的充要条件阵的充要条件A是为正规矩阵是为正规矩

4、阵.二二.矩阵的奇异值分解矩阵的奇异值分解 现在开始论述矩阵的奇异值分解。现在开始论述矩阵的奇异值分解。定义定义2.21 设设 ，的特征值为的特征值为则称则称 是是A的奇异值；规定零矩阵的奇异值；规定零矩阵0的奇异值都的奇异值都是是0.定理定理2.9 设设 ,则存在则存在m阶酉矩阵阶酉矩阵U和和n阶酉阶酉矩阵矩阵V,使得使得 （2.41）其中矩阵其中矩阵 ,而数而数是矩阵是矩阵A的所有非零奇异值的所有非零奇异值.称式（称式（2.41）是矩阵）是矩阵A的奇异值分解的奇异值分解.证证 根据性质根据性质3,是是Hermit矩阵矩阵,且其特征值均是非负实数且其特征值均是非负实数,且且 记为记为显然显然

5、,是是 正规矩阵正规矩阵.根据性质根据性质4,存在存在n阶酉矩阵阶酉矩阵V,使得使得 或或其中其中:设设V有分块形式有分块形式则有则有即即 由由 ,得得 或或,其中其中.由由 ,得得 或或 令令 ，则，则根据线性代数理论知，可将两两正交的单位列向量根据线性代数理论知，可将两两正交的单位列向量扩充为扩充为 的标准正交基的标准正交基，记矩阵，记矩阵 ，则，则是是m阶酉矩阵，且阶酉矩阵，且于是于是所以所以 (证毕证毕)由上述定理的证明过程可知由上述定理的证明过程可知,A的奇异值是由的奇异值是由A唯一确定的唯一确定的,但是但是,由于酉矩阵由于酉矩阵U和和V是不唯一的是不唯一的,故故A的奇异值分解的奇异

6、值分解(2.41)式也是不惟一的式也是不惟一的.例例10 求矩阵求矩阵 的奇异值分解的奇异值分解.解解:可以求得矩阵可以求得矩阵的特征值是的特征值是 ,对应的特征向量可取为对应的特征向量可取为 ，于是可得，于是可得，奇异值为，奇异值为 ，且使得，且使得成立的正交矩阵为成立的正交矩阵为 ，其中其中经计算经计算,将将 扩张成扩张成 的正交标准基的正交标准基则则A的奇异值分解是的奇异值分解是 例例11 设矩阵设矩阵 ，求它的奇异值分解，求它的奇异值分解.解解 经过计算，矩阵经过计算，矩阵的特征值为的特征值为 ,对应的特征向量分别是对应的特征向量分别是，从而正交矩阵从而正交矩阵以及以及 ，计算计算，构

7、造构造.的奇异值分解是的奇异值分解是.三三.正交相抵矩阵正交相抵矩阵 定义定义2.22 设设 ,若存在若存在m阶正交矩阵阶正交矩阵U和和n阶正交阶正交矩矩 阵阵V,使得使得 ,则称则称A与与B正交相抵正交相抵.在上述定义中在上述定义中,若若A和和B都是都是n阶方阵阶方阵,U=V,则则 即即A与与B正交相似正交相似.可见正交相似概念是正交相抵概念的特殊情况可见正交相似概念是正交相抵概念的特殊情况.定理定理2.10 正交相抵的两个矩阵具有相同的奇异值正交相抵的两个矩阵具有相同的奇异值.证证 若若 ,则则上式表明上式表明 与与 相似相似,而相似矩阵有相同的特征值而相似矩阵有相同的特征值,所以所以A与与B有相同的奇异值有相同的奇异值.证毕证毕直接验证可知直接验证可知,正交相抵具有自反性、对称性和传递性，因正交相抵具有自反性、对称性和传递性，因此，所有正交相抵的矩阵构成了正交相抵等价类。在正交相此，所有正交相抵的矩阵构成了正交相抵等价类。在正交相抵等价类中的任一矩阵抵等价类中的任一矩阵A，奇异值分解，奇异值分解 中的矩中的矩阵都是相同的，阵都是相同的，D称为正交相抵等价类中的标准形矩阵。称为正交相抵等价类中的标准形矩阵。