工程矩阵理论(第6章-矩阵的广义逆).ppt

《工程矩阵理论(第6章-矩阵的广义逆).ppt》由会员分享，可在线阅读，更多相关《工程矩阵理论(第6章-矩阵的广义逆).ppt（38页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 主讲主讲:张小向 http:/http:/ 工程矩阵理论工程矩阵理论工程矩阵理论工程矩阵理论 第六章第六章 矩阵的广义逆矩阵的广义逆 第一节第一节 广义逆及其性质广义逆及其性质 第二节第二节 A+的求法的求法 第三节第三节 广义逆的一个广义逆的一个 应用应用 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 6.1 广义逆及其性质广义逆及其性质 一一.Penrose方程与方程与MP-逆逆 定义定义6.1.1 Penrose方程方程 设设A s n.若存在若存在G n s满足满足(1)AGA=A

2、;(2)GAG=G;(3)(AG)H=AG;(4)(GA)H=GA,则称则称G为为A的的广义逆广义逆(或或Moore-Penrose逆逆,简称简称MP-逆逆).第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 二二.存在性与唯一性存在性与唯一性 定理定理6.1.1 设设A s n,则则A有唯一的广义逆有唯一的广义逆.证明证明:(存在性存在性)根据根据定理定理4.2.6(奇值分解奇值分解),存在存在酉矩阵酉矩阵U与与V使得使得 A=U VH,D D O O O O O O 其中其中D=diag(1

3、,r),1,r 0为为AHA的特征值的特征值.令令G=V UH,D D 1 1 O O O O O O n n s s 则可直接验证则可直接验证G为为A的广义逆的广义逆.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 设设X,Y满足满足(1)AXA=A=AYA;(2)XAX=X,YAY=Y;(3)(AX)H=AX,(AY)H=AY;(4)(XA)H=XA,(YA)H=YA,则则X=XAX =X(AX)H=XXHAH=XXH(AYA)H=XXHAH(AY)H=X(AX)H(AY)H=XAXAY=

4、XAY=XAYAY=(XA)H(YA)HY=(YAXA)HY=(YA)HY=YAY=Y.(唯一性唯一性)第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 注注:A的广义逆记为的广义逆记为A+.例例1(1)若若A为可逆阵为可逆阵,则则A+=A 1.(2)O+=OT.例例2(1)(2)A A+O O O O B B+=,+A A O O O O B B O O B B+A A+O O=.+O O A A B B O O =(A+,O),+A A O O (A,O)+A A O O +=.第六章第六章

5、第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 1 1 1 1 0 0 0 0 例例3 设设A=,求求A+.解解:令令B=(1,1),B+=,x x y y 则则 BB+B=B=(1,1),(x+y)(1,1)=(B+B)H=B+B=,x x x x y y y y =x x y y x x y y 由此可得由此可得x=y=1/2.故故B+=,1/2 1/2 1/2 1/2 A+=(B+,O)+B B O O =.1/2 0 1/2 0 1/2 0 1/2 0 第六章第六章第六章第六章 矩阵的广义逆矩阵的

6、广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 定理定理6.1.2 设设A s n,则则(1)(A+)+=A;(2)(AH)+=(A+)H;(3)(AT)+=(A+)T;(4)(kA)+=k+A+,三三.A+的性质的性质 其中其中k ,k 1,k 0,0,k=0;k+=证明证明:根据根据Penrose方程直接验证方程直接验证.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (5)AH=AHAA+=A+AAH;(6)(AHA)+=A+(A

7、H)+,(AAH)+=(AH)+A+;证明证明:(5)AHAA+=AH(AA+)H=(AA+A)H=AH.A+AAH=(A+A)HAH=(AA+A)H=AH.(6)利用利用定理定理4.2.6(奇值分解奇值分解),或或根据根据Penrose方程直接验证方程直接验证.(A AHHA A)A A+(A AHH)+(A AHHA A)=)=A AHHA AA A+(A A+)HHA AHHA A =A AHHA AA A+A AA A+A A =A AHHA AA A+(A AA A+)HHA A =A AHHA AA A+A A =A AHHA A;第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆

8、矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 A A+(A AHH)+(A AHHA A)A A+(A AHH)+=A A+(A A+)HHA AHHA AA A+(A AHH)+=A A+A AA A+A AA A+(A AHH)+=A A+(A AA A+)HHA AA A+(A AHH)+=A A+A AA A+(A AHH)+=A A+(A AHH)+;(A AHHA A)A A+(A AHH)+HH=(=(A AHH)+HH(A A+)HHA AHH(A AHH)HH =A A+(A AA A+)HHA A =A A+(A A+)

9、HHA AHHA A =(=(A A+A A)HH =A A+(A AA A+)A A HH =A A+A AA A+A A =A A+A A =A AHH(A AA A+)HH(A A+)H H=A AHHA AA A+(A A+)HH =(=(A AHHA A)A A+(A AHH)+;A A+(A AHH)+(A AHHA A)HH=A AHH(A AHH)HH(A AHH)+HH(A A+)HH =A AHH(A AA A+)HH(A A+)HH =A AHHA AA A+(A A+)HH =(=(A A+A A)HH =A A+(A AA A+)A A =A A+(A AA A+)A

10、 A HH =A A+(A AA A+)HHA A =A A+(A A+)HHA AHHA A=A A+(A AHH)+(A AHHA A).).=A A+A A 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (7)A+=(AHA)+AH=AH(AAH)+;(8)(UAV)+=VHA+UH,其中其中U,V为酉矩阵为酉矩阵;(9)A+AB=A+AC AB=AC.证明证明:(7)(AHA)+AH=A+(AH)+AH=A+(A+)HAH=A+AA+=A+(AA+)H=A+.A AHH(AAAAHH

11、)+=A AHH(A AHH)+A A+=A AHH(A A+)HHA A+=(8)利用利用定理定理4.2.6(奇值分解奇值分解),(9)()A+AB=A+AC AB=AA+AB=AA+AC=AC.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 证明证明:X R(A)定理定理6.1.3 设设A s n,则则(1)AA+X=X,X R(A),0,X K(AH);Y n s.t.X=AY AA+X=AA+AY=AY=X.X K(AH)AHX=0 AA+X=(AA+)HX=(A+)HAHX=0.第六

12、章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (2)A+AX=X,X R(AH),0,X K(A);证明证明:X R(AH)Y s s.t.X=AHY A+AX=A+AAHY X K(A)AX=0 A+AX=0.=(A+A)HAHY=(AA+A)HY=AHY=X.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (3)R(A)=R(AA+)=R(AAH)=K(I AA+);证明证明:X R(A)Y

13、 n s.t.X=AY X=AA+AY R(AA+),可见可见R(A)R(AA+),X R(AA+)Y s s.t.X=AA+Y X R(A),可见可见R(AA+)R(A),综合上述两个方面可得综合上述两个方面可得R(A)=R(AA+).第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 又因为又因为 dimR(AAH)=r(AAH)可见可见R(AAH)=R(A).X R(AAH)Y s s.t.X=AAHY X R(A),可见可见R(AAH)R(A),=r(A)=dimR(A).第六章第六章第六

14、章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 X R(A)X=AA+X (I AA+)X=0 X K(I AA+),可见可见R(A)K(I AA+),X K(I AA+)(I AA+)X=0 X=AA+X R(A),可见可见K(I AA+)R(A),综合上述两个方面可得综合上述两个方面可得R(A)=K(I AA+).第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (4)R(A+)=R(A+A)=R(AH)=

15、R(AHA)证明证明:用用A+替换替换(3)中的中的A得得 R(A+)=R(A+A)=RA+(A+)H=K(I A+A);=K(I A+A).用用AH替换替换(3)中的中的A得得 R(AH)=RAH(AH)+=R(AHA).同时有同时有 RAH(AH)+=R(A+A)H=R(A+A).第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (5)R(A)=R(I AA+)=K(AA+)=K(AH)证明证明:对对(3)中的每一项取正交补得中的每一项取正交补得 R(A)=R(AA+)=K(AA+)=R(I

16、 AA+),R(A)=R(AAH)=K(AAH).在在2.2中已经得到中已经得到R(A)=K(AH).最后由最后由 K(A+)K(AA+)K(A+AA+)=K(A+)可得可得 K(A+)=K(AA+).=K(A+)=K(AAH);第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 (6)R(A+)=R(I A+A)=K(A+A)证明证明:用用A+替换替换(5)中的中的A得得 R(A+)=R(I A+A)=K(A+A)=K(A).又因为又因为K(A)K(AHA)而且而且 dimK(A)=n r(A)

17、=n r(AHA)=dimK(A+A),故故K(A)=K(AHA).在在2.2中已经得到中已经得到R(AH)=K(A).=K(A)=K(AHA)=R(AH);第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 定理定理6.1.4 AGX=X,X R(A),0,X R(A);设设A s n,G n s,则则G=A+的充要条件为的充要条件为 GAX=X,X R(G),0,X R(G).以及以及 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广

18、义逆及其性质广义逆及其性质广义逆及其性质 证明证明:()X R(A)Y n s.t.X=AY AGX=AGAYX R(A)=K(AH)AGX=(AG)HX=GHAHX=0.这就证明了这就证明了=AY=X.AGX=X,X R(A),0,X R(A);GAX=X,X R(G),0,X R(G).类似地类似地,可以证明可以证明 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 ()对于对于e1=(1,0,0)T,e2=(0,1,0)T,en=(0,0,1)T,有有Aei R(A),i=1,2,n,故故

19、AGA=AGA(e1,en)=(AGAe1,AGAen)=(Ae1,Aen)=A(e1,en)=A,类似地类似地,可以证明可以证明GAG=G.下面证明下面证明AG为为Hermite阵阵,即即(AG)H=AG.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.1 6.1 广义逆及其性质广义逆及其性质广义逆及其性质广义逆及其性质 事实上事实上,s=R(A)R(A).分别取分别取R(A)和和R(A)的标准正交基的标准正交基 X1,Xr和和Xr+1,Xs,则则 AG(X1,Xs)=(X1,Xs).Ir O O O 令令P=(X1,Xs),则则P 1=PH,AG=P PH=

20、(AG)H.Ir O O O 类似地类似地,可以证明可以证明GA为为Hermite阵阵.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 6.2 A+的求法的求法 一一.利用矩阵的满秩分解利用矩阵的满秩分解 定理定理6.2.1 设设A s n,r(A)=r 1.若若A=BC为为A的满秩分解的满秩分解,则则A+=CH(CCH)1(BHB)1BH.特别地特别地,若若r(A)=n,则则A+=(AHA)1AH.若若r(A)=s,则则A+=AH(AAH)1.证明证明:直接代入直接代入Penrose方程加以验证方程加以验证.第六章第

21、六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 1 2 3 1 2 3 2 4 6 2 4 6 例例1 设设A=,求求A+.解解:C=(1,2,3),令令B=,1 1 2 2 则则A=BC为为A的满秩分解的满秩分解,BHB=5,(BHB)1=1/5,CCH=14,(CCH)1=1/14,A+=CH(CCH)1(BHB)1BH 根据根据定理定理6.2.1可知可知 1 1 2 2 3 3=1 1 14 14 1 1 5 5(1,2).1 2 1 2 2 4 2 4 3 6 3 6=1 1 70 70 第六章第六章第六章第六章 矩阵

22、的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 二二.利用利用R(AH)和和K(AH)的基的基 定理定理6.2.2 设设A s n,r(A)=r 1.若若X1,Xr为为R(AH)的一组基的一组基,Yr+1,Ys为为K(AH)的一组基的一组基,令令B=(X1,Xr,0,0)n s,C=(AX1,AXr,Yr+1,Ys),则则A+=BC 1.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 证明证明:根据根据定理定理6.1.3(5)和和(2)可知可知 A+Yj=0 (j=r+1,

23、s),A+AXi=Xi (i=1,r).于是有于是有 A+C=A+(AX1,AXr,Yr+1,Ys)=(X1,Xr,0,0)n s=B.注意到注意到 r(AX1,AXr)r(A+AX1,A+AXr)=r(X1,Xr)=r,可见可见AX1,AXr构成构成R(A)的一组基的一组基.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 又因为又因为 s=R(A)K(AH),故故AX1,AXr,Yr+1,Ys构成构成 s的一组基的一组基.因而因而C=(AX1,AXr,Yr+1,Ys)可逆可逆,于是由于是由A+C=B得得A+=BC 1

24、.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 例例2 设设A=,求求A+.解解:B=(X1,X2)=AH,1 1 2 1 1 2 2 1 3 2 1 3 AH=,1 2 1 2 1 1 1 1 2 3 2 3 X1=,1 1 1 1 2 2 X2=2 2 1 1 3 3 为为R(AH)的一组基的一组基,K(AH)=0,6 9 6 9 9 14 9 14 C=(AX1,AX2)=,14 14 9 9 9 6 9 6 C 1=,1 1 3 3 取法不唯一取法不唯一 A+=BC 1=.4 4 5 5 1 1 1 1 3

25、3 3 3 3 3 0 0 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.2 A6.2 A+的求法的求法的求法的求法 例例3 设设M=,其中其中A=,解解:A A O O O O B B 1 1 2 1 1 2 2 1 3 2 1 3 0 2 0 2 3 0 3 0 B=,求求M+.B+=B 1=.0 1/3 0 1/3 1/2 0 1/2 0 M+=A A+O O O O B B+A+=.1 1 3 3 4 4 5 5 1 1 3 3 3 3 0 0=.4/3 4/3 5/3 5/3 1/3 1/3 0 0 0 0 1 1 1 1 0 0 0 0 0 0 0

26、 0 0 0 0 0 0 0 1/2 1/2 0 0 0 0 0 0 1/3 1/3 0 0 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 6.3 广义逆的一个应用广义逆的一个应用 一一.最小二乘解的概念最小二乘解的概念 定义定义6.3.1 设设A s n,b s.若若X0 n 满足满足 则称则称X=X0为方程组为方程组AX=b的的最小最小 二乘解二乘解.|AX0 b|2=min|AX b|2|X n,AX=b的最小二乘解中的最小二乘解中,长度最小的叫做长度最小的叫做极小最小二乘解极

27、小最小二乘解.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 二二.正规方程正规方程 r(AHA)=r(A)=r(AH)r(AH(A,b)r(AH)r(AHA,AHb)=r(AHA,AHb)r(AHA)r(AHA)r(AHA,AHb)=r(AHA)AHAx=AHb有解有解 Ax=b的的正规方程正规方程 定理定理6.3.1 设设A s n,b s,则则TFAE:(1)X0是是AX=b的最小二乘解的最小二乘解;(2)AX0 b R(A);(3)AHAX0=AHb.第六章第六章第六章第六章

28、矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 证明证明:所以所以b可以唯一地分解为可以唯一地分解为 因为因为 s=R(A)R(A),b=AY0+(b AY0),其中其中AY0 R(A),b AY0 R(A).于是对于任意的于是对于任意的X n,有有|AX b|2=|AX AY0+AY0 b|2 2 2=|AX AY0|2+|AY0 b|2 2 2|AY0 b|2.2 由此可见由此可见 第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广

29、义逆的一个应用广义逆的一个应用 (1)X0是是AX=b的最小二乘解的最小二乘解|AX0 b|2=|AY0 b|2|AX0 AY0|2=0 AX0=AY0 (2)AX0 b=AY0 b R(A).(2)AX0 b R(A)AX0=AY0 (1)X0是是AX=b的最小二乘解的最小二乘解.(2)AX0 b R(A)AX0 b K(AH)AH(AX0 b)=0 (3)AHAX0=AHb.b b=A AX X0 0+(+(b b A AX X0 0)b b=AYAY0 0+(+(b b AYAY0 0)第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一

30、个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 三三.最小二乘解的表达式最小二乘解的表达式 定理定理6.3.2 设设A s n,则则AX=b的最小二乘解的的最小二乘解的通式为通式为 X=A+b+(I A+A)Y (Y n)其中其中X=A+b是是AX=b的唯一的的唯一的 极小最小二乘解极小最小二乘解.b s,第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 (2)根据根据定理定理6.1.3(6),故故(I A+A)Y (Y n)K(AHA)=R(I A+A),所以所以AX=b的最小

31、二乘解的的最小二乘解的通式为通式为 X=A+b+(I A+A)Y (Y n)证明证明:(1)A+b是是AHAx=AHb的解的解.事实上事实上,根据根据定理定理6.1.2(5),AHAA+=AH,故故AHAA+b=AHb.是是AHAx=0的通解的通解.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 (3)根据根据定理定理6.1.3(6),R(I A+A)=R(A+).因为因为A+b R(A+),所以所以(I A+A)Y R(I A+A),|A+b+(I A+A)Y|2 2=|A+b|2 2+|(I A+A)Y|2 2|A+b|2,2 其中等号成立当且仅当其中等号成立当且仅当(I A+A)Y=0.可见可见X=A+b是是AX=b的唯一的极小最小的唯一的极小最小 二乘解二乘解.第六章第六章第六章第六章 矩阵的广义逆矩阵的广义逆矩阵的广义逆矩阵的广义逆 6.3 6.3 广义逆的一个应用广义逆的一个应用广义逆的一个应用广义逆的一个应用 注注:设设A s n,则则AX=b的最小二乘解就是的最小二乘解就是AX=b的解的解,X=A+b+(I A+A)Y (Y n).此时此时,AX=b的通解为的通解为 若若AX=b有解有解,b s.