矩阵特征值和特征向量.pptx

《矩阵特征值和特征向量.pptx》由会员分享，可在线阅读，更多相关《矩阵特征值和特征向量.pptx（89页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、从理论上讲，可利用代数方程求根求出特征值，再利用线性方程组的解法，求出特征向量。缺点：工作量大且特征向量对矩阵的依赖很高；当矩阵阶数较高时，高次代数方程求根的计算稳定性较差。另外，实际问题中的具体要求不同，有时只要求A的绝对值最大的特征值（主特征值）及相应的特征向量；有时又要求全部的特征值及特征向量。根据这两种不同要求，求矩阵的特征值与特征向量的方法也大致分为两类：迭代法（幂法反幂法）、变换法。第1页/共89页关于矩阵特征值及特征向量的一些结论：Th1.（i=1,n）为A的特征值，则有 1.2.det(A)=第2页/共89页Th2、A B(相似相似)，即存在可逆阵，即存在可逆阵T，使，使B=T

2、-1AT,则则 1.A与与B有相同的特征值。有相同的特征值。2.设设x是是B的关于的关于 的特征向量的特征向量,则则Tx是是A的关于的关于 的特征向量。的特征向量。Th3、（Gershgorins定理,园盘定理）：A=(aij),则A的每个特征值必在下述某个园盘中：A的每行元素确定一个圆盘，共n个。Th3 表明A的任一特征值必在这n个圆盘中的某一个内。第3页/共89页证明：设 为A的任一特征值，x0为对应特征向 量，则有(I-A)x=0,设|xi|=max|xj|,显然xi0,第i个方程：Th3 的证明过程表明A的任一特征值必在其对应特征向量模最大的分量的指标所对应的圆盘中。第4页/共89页

3、称为A对应于向量x的Rayleigh商。Def1.Ann 实对称阵，0 xRn,Th4.Ann 实对称阵，其特征值依次排序为 ,对应特征向量 组成规范正交系，即 ，则 1.0 xRn,第5页/共89页2.3.Proof.1.0 xRn,forms an orthogonal basis of Rn,so it is possible to write x as where not all could be zero.Thus we have 第6页/共89页=第7页/共89页2.From 1 we know so we only need to prove there exists an x0

4、 such that Taking x=x1,we get3.Proof is similar to 2.第8页/共89页1 幂法与反幂法（按模最大与最小特征值的求法）F幂法：求模最大的特征值主特征值及相应特征 向量的迭代法。用A的乘幂构造迭代序列，因此称为幂法。条件：A Rnn具有线性初等因子 A有n个线性无关的特征向量。优点：简单，适合稀疏矩阵。缺点：有时收敛速度很慢。第9页/共89页Algorithm 1.suppose A has eigen-values (This implies is a single real root of the characteristic polynom

5、ial;else )，and n independent eigen-vectors .Take an initial vector start the iteration system 第10页/共89页Convergence analysis of Algorithm 1.第11页/共89页 is an eigen-vector of A,and is also an eigen-vector corresponding to of A.The same is Eigen-vector第12页/共89页Eigen value 1第13页/共89页Th5.A Rnn有n个线性无关特征向量 主

6、特征值 1满足则做迭代有 第14页/共89页Principal eigen value 1summaryiteration systemeigen-vector corresponding to 1第15页/共89页1.收敛速度：主要由来收敛速度：主要由来 确定，确定，r 越小，收越小，收敛越快。敛越快。时收敛可能很慢。时收敛可能很慢。2.若有若有 ，说明，说明10，以及以及 都不能作为近似特征都不能作为近似特征向量，需要重新取初始向量再迭代。向量，需要重新取初始向量再迭代。3.用幂法进行计算时，若用幂法进行计算时，若 在计算机中会产生在计算机中会产生“溢出溢出”或或 “机器零机器零”的情的情

7、况（超过计算机字长所能表示的精度）况（超过计算机字长所能表示的精度）note第16页/共89页Algorithm 2(improvement of A.1).第17页/共89页Convergence analysis of A.2.Max(x)取出向量x中模最大的分量第18页/共89页对应 1的特征向量x1的规范化向量第19页/共89页第20页/共89页Th6.A Rnn有n个线性无关特征向量 主特征值 1满足 则做迭代有 第21页/共89页第22页/共89页第23页/共89页第24页/共89页第25页/共89页第26页/共89页第27页/共89页第28页/共89页第29页/共89页第30页/

8、共89页第31页/共89页2第32页/共89页平面旋转矩阵第33页/共89页第34页/共89页雅可比法的基本思想:设法用一系列简单的正角阵Rk,逐步地将 A 化为近似对角阵(非对角元近似化为0)。即选择Rk,令 A的全部特征值问题的关键：如何构造正交阵Rk？第35页/共89页 平面旋转变换第36页/共89页第37页/共89页第38页/共89页第39页/共89页第40页/共89页第41页/共89页第42页/共89页第43页/共89页第44页/共89页第45页/共89页第46页/共89页雅可比算法:设Ak-1(k1,A0=A)未对角化，即非对角元中有较大的元素，设非对角元中按模最大的元素是引入平面

9、旋转矩阵第47页/共89页利用Rk(p,q)对Ak-1作旋转变换，使 中的非对角元 应满足常将限制在第48页/共89页对Jacobi算法有几点说明：1.构造旋转矩阵时只需计算sin,cos,为了防止舍入误差扩大，sin,cos按下面公式计算：否则，第49页/共89页第50页/共89页 2.由于Ak 是对称阵，因此只要计算上三角（或下三角）元素即可，既节省计算量，有能保证Ak 严格对称。3.的计算过程如下：第51页/共89页 4.Ak 中经旋转变换化为零的元素，可能在Ak+1中又成为非零元素，因此不能期望通过有限次旋转变换将原矩阵A对角化，但可证 证明Jacobi法的收敛性第52页/共89页由前

10、面推论知第53页/共89页 5.实际计算时，当k充分大或者当 时迭代终止，A的全部近似特征值 6.特征向量的计算：设经过m次旋转变换迭代结束，则说明Pm的第j列就是 j的标准正交特征向量的近似值。第54页/共89页实际计算时，并不是保留 到最后才形成Pm，而是逐步形成的。令 每一步的计算公式为第55页/共89页 7.对经典Jacobi法的改进-避免每次在非对角元中选主元素花费太多时间：循环雅可比法和雅可比过关法。雅可比过关法：1.设阈值T0(一般取为 )，在A的非对角 元中按行（或列）扫描（只需扫描上（或下）三角元素），即按如下顺序与阈值T0作比 较：若|aij|j+1时，bij=0,则称B为

11、上Hessenberg阵(或准上三角阵)，即i=j+1i j+1第62页/共89页理论基础：A是n阶实矩阵，存在正交阵P，s.t.是1阶或2阶方阵。若Aii 是1阶的，则它是A的一个实特征值；若Aii 是2阶的，则它的两个特征值是A的一对共轭复特征值。第63页/共89页定理说明：用正交阵相似变换可将一般实矩阵约化为上Hessenberg阵，将实对称阵约化为对称三对角阵。正交相似变换不改变特征值和特征向量，因此求原矩阵的特征值问题就转化为求上Hessenberg阵或对称三对角阵的特征值问题。问题的关键：如何将一般实矩阵正交约化为上Hessenberg阵，将实对称阵约化为对称三对角阵？初等反射阵D

12、ef第64页/共89页初等反射阵性质:对称、正交、对合第65页/共89页初等反射阵的几何意义Swv=x+yyx-yv=x-yv是v关于平面S的镜面反射。初等反射阵将 Rn 中任意向量关于以w为法向量且过原点的超平面做镜面反射。初等反射阵的作用：对向量作变换第66页/共89页Proposition证明：令第67页/共89页Corollary第68页/共89页 第69页/共89页结论推论说明：通过初等反射阵即可将任何非零向量约化成只有一个非0 0元素的向量。注意：计算 时可能上溢或下溢，为防止溢出，将x 规范化，第70页/共89页用正交相似变换(初等反射阵)约化矩阵为Hessenberg阵(n-1

13、)(n-1)维第71页/共89页令第72页/共89页第73页/共89页第74页/共89页重复这一过程直到 第75页/共89页结论第76页/共89页设x是c 的对应于的特征向量，则有 说明 P x 是 A 对应于 的特征向量。A的特征值和特征向量第77页/共89页若A是实对称阵，则C也是实对称阵(CT=PTATP=PTAP=C),故C为对称三对角阵，即关于实对称阵第78页/共89页4 QR方法是一种变换方法，计算一般中小型矩阵全部特征值的最有效方法之一。主要用于计算：1.1.上Hessenberg阵的全部特征值;2.2.对称三对角矩阵的全部特征值。对于一般矩阵或对称阵，先用Householder

14、方法将其约化为上Hessenberg阵或对称三对角阵，再用QR法计算全部特征值。优点：算法稳定，收敛快。矩阵的QR分解Lemma1（旋转对向量的作用）第79页/共89页i行j行i列j列第80页/共89页证：P左乘x只对的第i,j个元素有影响，其它元素不变。（旋转对矩阵的作用）A A非奇异，则存在旋转阵P1,P2,Pn,s.t.为上三角阵，且对角线元素 Theorem2第81页/共89页证明：A=A1非奇异，A1的第一列一定存在ai10,1.若ai10,由引理1，存在旋转阵 ,s.t.2.同理，若 ,由引理1,存在旋转阵 ,s.t.第82页/共89页3.重复上述过程，得到 ,s.t.矩阵的QR分解Theorem3第83页/共89页下三角正交阵上三角阵证(仅证唯一性，反正)：设第84页/共89页QR算法 第85页/共89页算法收敛性证明：Th4.在QR算法中，有 第86页/共89页Lemma5证：第87页/共89页Theorem6(QR法的收敛性)A非奇异,且有n个不同的特征根：定理说明，Ak收敛于上三角阵，其对角线上的元素就是A的特征值。第88页/共89页感谢您的观看！第89页/共89页