第4章 矩阵的广义逆精选文档.ppt

《第4章 矩阵的广义逆精选文档.ppt》由会员分享，可在线阅读，更多相关《第4章 矩阵的广义逆精选文档.ppt（19页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第4章 矩阵的广义逆本讲稿第一页，共十九页矩阵的广义逆矩阵的广义逆概述概述：矩阵的逆：矩阵的逆：A n n n n，B B n n n，B A=A B=I,则则则则B=A 1 广义逆的目标：广义逆的目标：逆的推广逆的推广对一般的矩阵对一般的矩阵 A m n可建立部分逆的性质。可建立部分逆的性质。当矩阵当矩阵A n n可逆时，广义逆与逆相一致。可逆时，广义逆与逆相一致。可以用广义逆作求解方程组可以用广义逆作求解方程组AX=b的理论分析。的理论分析。本讲稿第二页，共十九页 4.1 矩阵的左逆与右逆矩阵的左逆与右逆一、满秩矩阵和单侧逆一、满秩矩阵和单侧逆1、左逆和右逆的定义、左逆和右逆的定义定义定义

2、4.1(P.93)A C m m n，B B C C n m，BA=IBA=In，则称矩阵则称矩阵则称矩阵则称矩阵B B 为矩阵为矩阵为矩阵为矩阵A A 的的左左左左逆，记为逆，记为逆，记为逆，记为 B=B=。例题例题1 矩阵矩阵A的左逆的左逆A=。A C m m n n，C C n n mm ，AC=Im，则称矩阵则称矩阵则称矩阵则称矩阵C C 为为 矩阵矩阵矩阵矩阵A 的的的的右右逆，记为逆，记为逆，记为逆，记为 C=。本讲稿第三页，共十九页 2、左逆和右逆存在的条件、左逆和右逆存在的条件 的存在性的存在性直观分析直观分析 存在存在矩阵矩阵A A列满秩列满秩 =（A AHA A）1A AH

3、 定理定理4.1(P.93)设设设设A C C mm n，下列条件等价，下列条件等价，下列条件等价，下列条件等价1.A左可逆左可逆2.A的零空间的零空间的零空间的零空间N（A）=0。3.3.mm n，秩（秩（秩（秩（A A）=n=n，即矩阵即矩阵即矩阵即矩阵A A是列满秩的。是列满秩的。4.矩阵矩阵AH A A可逆。可逆。可逆。可逆。例题例题2 求矩阵求矩阵A=A=的左逆。的左逆。的左逆。的左逆。本讲稿第四页，共十九页矩阵右逆的存在性矩阵右逆的存在性矩阵右逆的存在性矩阵右逆的存在性定理定理定理定理4.24.2 (P.94)A A C C m m n n ，则下列条件等价：则下列条件等价：则下列

4、条件等价：则下列条件等价：1.1.矩阵矩阵矩阵矩阵A A右可逆。右可逆。右可逆。右可逆。2.2.A A的列空间的列空间的列空间的列空间R R（A A）=C=Cmm3.3.n n mm ，秩（秩（秩（秩（A A）=m=m，A A是行满秩的。是行满秩的。是行满秩的。是行满秩的。4.4.矩阵矩阵矩阵矩阵A AA AH H 可逆可逆可逆可逆 =A AH H（AAAAH H）1 1讨论：可逆矩阵讨论：可逆矩阵讨论：可逆矩阵讨论：可逆矩阵A An n n n的左、右逆和逆的关系的左、右逆和逆的关系的左、右逆和逆的关系的左、右逆和逆的关系 可逆矩阵可逆矩阵可逆矩阵可逆矩阵A A的左、右逆就是矩阵的左、右逆就

5、是矩阵的左、右逆就是矩阵的左、右逆就是矩阵A A的逆的逆的逆的逆A A A A 1 1=（A AHHA A）1 1A AHH=A AH H（AAAAH H）1 1本讲稿第五页，共十九页二、单侧逆和求解线性方程组二、单侧逆和求解线性方程组AX=b讨论讨论AX=b 有解与左、右逆存在的关系。有解与左、右逆存在的关系。借助于左、右逆求借助于左、右逆求AX=b的形如的形如X=Bb的解。的解。1、右可逆矩阵、右可逆矩阵定理定理4 4(P.95)1.A C m n右可逆，则右可逆，则 b Cm，AX=b有解。有解。2.X=b 是方程组是方程组AX=b的解。的解。本讲稿第六页，共十九页二、单侧逆和求解线性方

6、程组二、单侧逆和求解线性方程组AX=b2、左可逆矩阵、左可逆矩阵求解分析：求解分析：求解分析：求解分析：定理定理定理定理4 4 3 3 (P.94)设矩阵设矩阵设矩阵设矩阵A A C C m m n n左可逆，左可逆，左可逆，左可逆，B B是矩阵是矩阵是矩阵是矩阵A A的任何的任何的任何的任何一个左逆，则一个左逆，则一个左逆，则一个左逆，则1.1.AX=bAX=b有形如有形如有形如有形如X=BbX=Bb的解的充要条件是的解的充要条件是的解的充要条件是的解的充要条件是 (I Imm ABAB )b=0 b=0 ()()2.2.当当当当()()式成立时，方程组的解是惟一的，而且惟一解是式成立时，方

7、程组的解是惟一的，而且惟一解是式成立时，方程组的解是惟一的，而且惟一解是式成立时，方程组的解是惟一的，而且惟一解是X=X=（A AH HA A）1 1A AH H b b证明：证明：证明：证明：讨论讨论讨论讨论：对任何满足式对任何满足式对任何满足式对任何满足式()的左逆的左逆的左逆的左逆B B，X=BbX=Bb都是方程组的都是方程组的都是方程组的都是方程组的 解，如何解释方程组的解是惟一的？解，如何解释方程组的解是惟一的？解，如何解释方程组的解是惟一的？解，如何解释方程组的解是惟一的？本讲稿第七页，共十九页 4.2 广义逆矩阵广义逆矩阵思想思想：用公理来定义广义逆。用公理来定义广义逆。一、减号

8、广义逆一、减号广义逆定义定义4.2(P.95)A C m n，如果，如果，G C n m使得，使得，AGA=A，则矩阵则矩阵G为的为的A减号广义逆。或减号广义逆。或1逆。逆。A的减号逆集合的减号逆集合A1=A11，A21，Ak1 例题例题1 A C n n可逆，则可逆，则A1 A1；A单侧可逆，则单侧可逆，则A 1L A1；A1R A1。减号逆的求法：减号逆的求法：定理定理4.5（P.95）减号逆的性质：减号逆的性质：定理定理4.6(P.96)本讲稿第八页，共十九页二、二、Moore-Penrose（M-P）广义逆广义逆由由由由Moore 1920年提出，年提出，1955年由年由Penrose

9、Penrose发展。发展。1、定义定义定义定义4 4.3(P.98)设矩阵设矩阵设矩阵设矩阵A C m n ，如果，如果 G C C n m，使得，使得，使得，使得1.1.AGA=A AGA=A 2.2.GAG=G GAG=G3.3.（AGAG）H H=AG=AG4.4.（GAGA）H H =GA=GA 则称则称GG为为为为A的的M-P广义逆，记为广义逆，记为G=A A+。A A1 1=A=A+；A A11L L=（A AHHA A）11A AHH=A=A+；A A 11R R=A=AHH（AAAAHH）11=A=A+；若若若若 A A+，则则则则A A+是是是是 A1 A1。例题例题2 讨论

10、原有的逆的概念和讨论原有的逆的概念和M-PM-P广义逆的关系。广义逆的关系。广义逆的关系。广义逆的关系。本讲稿第九页，共十九页3、M-P广义逆的存在性及其求法广义逆的存在性及其求法定理定理4.8（P.99）任何矩阵都有任何矩阵都有M-P广义逆。广义逆。求法求法：设设设设A A满秩分解满秩分解满秩分解满秩分解A=BCA=BC，则则则则A A+=C=CH H（CCCCH H ）1 1（B BH H B B）1 1B BH H。（定理定理定理定理4 4.9.9）设）设）设）设A A奇异值分解奇异值分解奇异值分解奇异值分解 ：，则，则2、M-P 广义逆的惟一性广义逆的惟一性定理定理定理定理4 4.9(

11、P.98)如果如果A A有有M-P广义逆，则广义逆，则A A的的的的 M-P M-P广义逆是惟一的。广义逆是惟一的。本讲稿第十页，共十九页例题例题1 求下列特殊矩阵的广义逆；求下列特殊矩阵的广义逆；零矩阵零矩阵0；1阶矩阵阶矩阵(数数)a；对角矩阵对角矩阵 例题例题3 设设 ，求求A A+。0 0+mn n=0 nmm 例题例题2 设向量设向量 的的M-P广义逆。广义逆。.本讲稿第十一页，共十九页4、M-P广义逆的性质广义逆的性质定理定理4.12(P.100)：则：则：则：则A A满足下列性质：满足下列性质：满足下列性质：满足下列性质：1.1.（A A+）+=A=A2.2.（A A+）H H=

12、（A A HH ）+3.3.（A A）=+A A+4.4.A A列满秩，则列满秩，则列满秩，则列满秩，则A A+=（A A HH A A）1A A HH ，A A行满秩，则行满秩，则行满秩，则行满秩，则A A+=A=AHH （AAAAHH）1。5.5.A A有满秩分解：有满秩分解：有满秩分解：有满秩分解：A=BCA=BC，则则则则A A+=C=C+B B+。A A+与与与与A A1 1 性质的差异比较：性质的差异比较：性质的差异比较：性质的差异比较：（ABAB）11=B=B 11 A A 11 ，一般不成立一般不成立一般不成立一般不成立（ABAB）+=B=B+A A+。（只有满秩分解成立）只有

13、满秩分解成立）只有满秩分解成立）只有满秩分解成立）（A A11）k k=（A Ak k）1 1，但不成立（但不成立（但不成立（但不成立（A A+）k k=（A Ak k）+本讲稿第十二页，共十九页 4.3 投影变换投影变换（为讨论（为讨论A+的应用做准备）的应用做准备）问题：问题：逆在什么情形下是有用的？逆在什么情形下是有用的？逆在什么情形下是有用的？逆在什么情形下是有用的？一、投影变换和投影矩阵一、投影变换和投影矩阵一、投影变换和投影矩阵一、投影变换和投影矩阵定义定义定义定义4 4.4 4（P P.101101）设设设设C Cn n=L=L MM ，向量向量向量向量x x C Cn n,x=

14、y+z x=y+z，y y L L，z z M M，如果线性变换如果线性变换如果线性变换如果线性变换 ：C C n nC Cn n ，（x x）=y=y，则称则称则称则称 为从为从为从为从 C Cn n 沿子空间沿子空间沿子空间沿子空间MM到子空间到子空间到子空间到子空间L L的投影变换。的投影变换。的投影变换。的投影变换。投影变换的矩阵投影变换的矩阵R R（）=L=L；N N（）=M=M，C Cn n=R=R（）N N（）L L和和和和MM是是是是 的不变子空间；的不变子空间；的不变子空间；的不变子空间；L L=I=I；MM=0=0投影的矩阵和变换性质投影的矩阵和变换性质：1.1.定理定理定

15、理定理4 4.13（P P.101101）是投影是投影 是幂等变换是幂等变换2.推论推论：为投影变换的充要条件是变换矩阵是为投影变换的充要条件是变换矩阵是为投影变换的充要条件是变换矩阵是为投影变换的充要条件是变换矩阵是 幂等矩阵幂等矩阵幂等矩阵幂等矩阵本讲稿第十三页，共十九页二、正交投影和正交投影矩阵二、正交投影和正交投影矩阵1.正交投影的定义：正交投影的定义：定义定义定义定义4 4.5（P P.103103）设设 ：C C nCn n 是投影变换，是投影变换，是投影变换，是投影变换，C C n n=R R（）N N（），），），），如果如果 R （）=N（），），则称为正交投影。则称为正交投

16、影。2 2 正交投影矩阵正交投影矩阵正交投影矩阵正交投影矩阵定理定理定理定理4 4.14.14（P P.103103）是正交投影是正交投影是正交投影是正交投影 投影矩阵投影矩阵投影矩阵投影矩阵A A满足：满足：满足：满足：A A 2 2=A=AA AHH=A=A例题例题1 设设设设WW是是是是C n 的子空间，证明的子空间，证明 存在到存在到W的投影变的投影变换，换，使使R（）=W。本讲稿第十四页，共十九页3、正交投影的性质、正交投影的性质定理定理定理定理4 4.16.16（P P.104）设设WW是是C n n的子空间，的子空间，的子空间，的子空间，x0 C C n，x x 0 0 W，如果

17、如果 是空间是空间C n向空间向空间向空间向空间WW的正交投影，则的正交投影，则含义：含义：点点（x0）是空间是空间 W 中与点中与点x 0距离最近的点。距离最近的点。距离最近的点。距离最近的点。本讲稿第十五页，共十九页4、A+A与与AA+的性质的性质定理定理4.15（P.104）A+A的性质：的性质：（A A+A A）2 2=A=A+A A，（，（，（，（A A+A A）HH=A =A+A A C C n n=R=R（A A+）N N（A A）R R （A A+）=N=N（A A）A A+的性质：的性质：（A A A A+）2 2=A A=A A+，（，（，（，（A A A A+）HH=A

18、A =A A+C C mm=R=R（A A）N N（A A+）R R （A A+）=N=N（A A）A A+A A 是正交投影，将向量是正交投影，将向量是正交投影，将向量是正交投影，将向量 x x 投影到空间投影到空间投影到空间投影到空间R R（A A+）中。中。中。中。A A A A+是正交投影，将向量是正交投影，将向量是正交投影，将向量是正交投影，将向量 x x 投影到空间投影到空间投影到空间投影到空间R R（A A）中。中。中。中。含义：含义：含义：含义：本讲稿第十六页，共十九页4.4 最佳最小二乘解最佳最小二乘解一、最佳最小二乘解一、最佳最小二乘解A mn X n 1=b m1有解有解

19、有解有解b b R R（A A）无解无解无解无解b b R R（A A）1 1、AX=bAX=b的最佳最小二乘解的最佳最小二乘解的最佳最小二乘解的最佳最小二乘解定义定义定义定义4 4.6.6（P P.105105）u 是最小二乘解是最小二乘解是最小二乘解是最小二乘解 x0 0是最佳最小二乘解是最佳最小二乘解2 2、AX=bAX=b的最佳最小二乘解的计算的最佳最小二乘解的计算的最佳最小二乘解的计算的最佳最小二乘解的计算定理定理定理定理4 4.17.17 设方程组设方程组设方程组设方程组AX=bAX=b，则则则则A A+b b 是是是是AX=b AX=b 的最佳最小二乘解的最佳最小二乘解的最佳最小

20、二乘解的最佳最小二乘解。例题例题例题例题1 1 （P P.106106，eg8eg8）本讲稿第十七页，共十九页例题例题2、设，、设，=1.证明证明 R（A）2.在列空间在列空间R（A）上找一点上找一点X0，X0距离距离 最近。最近。本讲稿第十八页，共十九页 二、最佳拟合曲线二、最佳拟合曲线问题问题：在实际问题中，已知变量：在实际问题中，已知变量X和变量和变量Y之间之间存在函数关系存在函数关系Y=F（X），），但不知道但不知道F（X）的具的具体形式，由观察和实验数据寻求经验公式体形式，由观察和实验数据寻求经验公式:Y=f（X），），使得误差最小。使得误差最小。例题例题1（P.107，eg9）一组实验数据一组实验数据（1 1，2 2），（），（），（），（2 2，3 3），），），），（3 3，5 5），（），（），（），（4 4，7 7）的分布呈直线趋势，求最佳拟合直线。）的分布呈直线趋势，求最佳拟合直线。）的分布呈直线趋势，求最佳拟合直线。）的分布呈直线趋势，求最佳拟合直线。方法：方法：将误差向量表示为将误差向量表示为将误差向量表示为将误差向量表示为 e =A b b，求方程组求方程组 A b=0的最小二乘解的最小二乘解 ，由，由，由，由 给出拟合参数。给出拟合参数。给出拟合参数。给出拟合参数。本讲稿第十九页，共十九页