第三章解线性方程组的直接法PPT讲稿.ppt
第三章解线性方程组的直接法数值分析 主讲教师 1第1页,共93页,编辑于2022年,星期二3.1 基础知识n3.1.1 引言n3.1.2 矩阵特征值与谱半径n3.1.3 对称正定矩阵n3.1.4 正交矩阵与初等矩阵第2页,共93页,编辑于2022年,星期二3.1.1 引言n对于n个变量n个线性方程组求解,其表达式为:n用向量矩阵表示可表示为:第3页,共93页,编辑于2022年,星期二其中第4页,共93页,编辑于2022年,星期二第5页,共93页,编辑于2022年,星期二3.1.2矩阵特征向量与谱半径第6页,共93页,编辑于2022年,星期二第7页,共93页,编辑于2022年,星期二第8页,共93页,编辑于2022年,星期二第9页,共93页,编辑于2022年,星期二第10页,共93页,编辑于2022年,星期二第11页,共93页,编辑于2022年,星期二3.1.3 对称正定矩阵第12页,共93页,编辑于2022年,星期二第13页,共93页,编辑于2022年,星期二3.1.4 正交矩阵与初等矩阵第14页,共93页,编辑于2022年,星期二第15页,共93页,编辑于2022年,星期二第16页,共93页,编辑于2022年,星期二第17页,共93页,编辑于2022年,星期二第18页,共93页,编辑于2022年,星期二3.2 Gauss消去法n3.2.1 Gauss顺序消去法 n3.2.2 消去法与矩阵三角分解n3.2.3 列主元消去法第19页,共93页,编辑于2022年,星期二3.2.1 Gauss顺序消去法第20页,共93页,编辑于2022年,星期二第21页,共93页,编辑于2022年,星期二第22页,共93页,编辑于2022年,星期二第23页,共93页,编辑于2022年,星期二第24页,共93页,编辑于2022年,星期二第25页,共93页,编辑于2022年,星期二第26页,共93页,编辑于2022年,星期二第27页,共93页,编辑于2022年,星期二3.2.2消去法与矩阵三角分解定理:第28页,共93页,编辑于2022年,星期二3.2.3 列主元消去法第29页,共93页,编辑于2022年,星期二选主元素的矩阵表示也称初等置换矩阵第30页,共93页,编辑于2022年,星期二3.3 直接三角分解法n3.3.1 Doolittle分解法n3.3.2 Cholesky分解与平方根法 n3.3.3 三对角方程组的追赶法第31页,共93页,编辑于2022年,星期二3.3.1 Doolittle分解法第32页,共93页,编辑于2022年,星期二第33页,共93页,编辑于2022年,星期二第34页,共93页,编辑于2022年,星期二第35页,共93页,编辑于2022年,星期二第36页,共93页,编辑于2022年,星期二3.3.2 Cholesky分解与平方根法第37页,共93页,编辑于2022年,星期二第38页,共93页,编辑于2022年,星期二利用Cholesky分解将AX=b转化为,令,则原方程等价解以下两个方程第39页,共93页,编辑于2022年,星期二例 用平方根法解方程组解 验证A正定,由Cholesky分解求得第40页,共93页,编辑于2022年,星期二3.3.3 三对角方程组的追赶法第41页,共93页,编辑于2022年,星期二第42页,共93页,编辑于2022年,星期二下面举实例用追赶法来解三对角方程组。第43页,共93页,编辑于2022年,星期二第44页,共93页,编辑于2022年,星期二追赶法计算量:5n-4次乘法,o(n),计算量小;稳定性:普半径小于1,稳定。第45页,共93页,编辑于2022年,星期二直接解法的直接解法的atlab求解求解1利用左除运算符的直接解法利用左除运算符的直接解法对于线性方程组对于线性方程组Ax=b,可以利用左除运算符,可以利用左除运算符“”求解:求解:x=Ab第46页,共93页,编辑于2022年,星期二例例1 用直接解法求解下列线性方程组。用直接解法求解下列线性方程组。命令如下:命令如下:A=2,1,-5,1;1,-5,0,7;0,2,1,-1;1,6,-1,-4;b=13,-9,6,0;x=Ab第47页,共93页,编辑于2022年,星期二2利用矩阵的分解求解线性方程组利用矩阵的分解求解线性方程组矩阵分解是指根据一定的原理用某种算法将一个矩阵分解成若干矩阵分解是指根据一定的原理用某种算法将一个矩阵分解成若干个矩阵的乘积。常见的矩阵分解有个矩阵的乘积。常见的矩阵分解有LU分解、分解、QR分解、分解、Cholesky分解,以及分解,以及Schur分解、分解、Hessenberg分解、奇异分解分解、奇异分解等。等。第48页,共93页,编辑于2022年,星期二(1)LU分解分解矩阵的矩阵的LU分解就是将一个矩阵表示为一个交换下三角矩阵和一分解就是将一个矩阵表示为一个交换下三角矩阵和一个上三角矩阵的乘积形式。线性代数中已经证明,只要方阵个上三角矩阵的乘积形式。线性代数中已经证明,只要方阵A是非奇异的,是非奇异的,LU分解总是可以进行的。分解总是可以进行的。MATLAB提供的提供的lu函数用于对矩阵进行函数用于对矩阵进行LU分解,其调用格式分解,其调用格式为:为:L,U=lu(X):产生一个上三角阵:产生一个上三角阵U和一个变换形式的下三角阵和一个变换形式的下三角阵L(行交换行交换),使之满足,使之满足X=LU。注意,这里的矩阵。注意,这里的矩阵X必须是方阵。必须是方阵。L,U,P=lu(X):产生一个上三角阵:产生一个上三角阵U和一个下三角阵和一个下三角阵L以及一个置换以及一个置换矩阵矩阵P,使之满足,使之满足PX=LU。当然矩阵。当然矩阵X同样必须是方阵。同样必须是方阵。实现实现LU分解后,线性方程组分解后,线性方程组Ax=b的解的解x=U(Lb)或或x=U(LPb),这样可以大大提高运算速度。这样可以大大提高运算速度。第49页,共93页,编辑于2022年,星期二例例2 用用LU分解求解例题中的线性方程组。分解求解例题中的线性方程组。命令如下:命令如下:A=2,1,-5,1;1,-5,0,7;0,2,1,-1;1,6,-1,-4;b=13,-9,6,0;L,U=lu(A);x=U(Lb)或采用或采用LU分解的第分解的第2种格式,命令如下:种格式,命令如下:L,U,P=lu(A);x=U(LP*b)第50页,共93页,编辑于2022年,星期二(2)QR分解分解对矩阵对矩阵X进行进行QR分解,就是把分解,就是把X分解为一个正交矩阵分解为一个正交矩阵Q和一个上三和一个上三角矩阵角矩阵R的乘积形式。的乘积形式。QR分解只能对方阵进行。分解只能对方阵进行。MATLAB的函的函数数qr可用于对矩阵进行可用于对矩阵进行QR分解,其调用格式为:分解,其调用格式为:Q,R=qr(X):产生一个一个正交矩阵:产生一个一个正交矩阵Q和一个上三角矩阵和一个上三角矩阵R,使之满足,使之满足X=QR。Q,R,E=qr(X):产生一个一个正交矩阵:产生一个一个正交矩阵Q、一个上三角矩阵、一个上三角矩阵R以以及一个置换矩阵及一个置换矩阵E,使之满足,使之满足XE=QR。实现实现QR分解后,线性方程组分解后,线性方程组Ax=b的解的解x=R(Qb)或或x=E(R(Qb)。第51页,共93页,编辑于2022年,星期二例例3 用用QR分解求解例题中的线性方程组。分解求解例题中的线性方程组。命令如下:命令如下:A=2,1,-5,1;1,-5,0,7;0,2,1,-1;1,6,-1,-4;b=13,-9,6,0;Q,R=qr(A);x=R(Qb)或采用或采用QR分解的第分解的第2种格式,命令如下:种格式,命令如下:Q,R,E=qr(A);x=E*(R(Qb)第52页,共93页,编辑于2022年,星期二(3)Cholesky分解分解如果矩阵如果矩阵X是对称正定的,则是对称正定的,则Cholesky分解将矩阵分解将矩阵X分解成分解成一个下三角矩阵和上三角矩阵的乘积。设上三角矩阵为一个下三角矩阵和上三角矩阵的乘积。设上三角矩阵为R,则下三角矩阵为其转置,即,则下三角矩阵为其转置,即X=RR。MATLAB函数函数chol(X)用于对矩阵用于对矩阵X进行进行Cholesky分解,其调用格式为:分解,其调用格式为:R=chol(X):产生一个上三角阵:产生一个上三角阵R,使,使RR=X。若。若X为非对称正定,为非对称正定,则输出一个出错信息。则输出一个出错信息。R,p=chol(X):这个命令格式将不输出出错信息。当:这个命令格式将不输出出错信息。当X为对称正为对称正定的,则定的,则p=0,R与上述格式得到的结果相同;否则与上述格式得到的结果相同;否则p为一为一个正整数。如果个正整数。如果X为满秩矩阵,则为满秩矩阵,则R为一个阶数为为一个阶数为q=p-1的上三角阵,且满足的上三角阵,且满足RR=X(1:q,1:q)。实现实现Cholesky分解后,线性方程组分解后,线性方程组Ax=b变成变成RRx=b,所以,所以x=R(Rb)。第53页,共93页,编辑于2022年,星期二例例4 用用Cholesky分解求解例分解求解例1中的线性方程组。中的线性方程组。命令如下:命令如下:A=2,1,-5,1;1,-5,0,7;0,2,1,-1;1,6,-1,-4;b=13,-9,6,0;R=chol(A)?Error using=cholMatrix must be positive definite命令执行时,出现错误信息,说明命令执行时,出现错误信息,说明A为非正定矩阵。为非正定矩阵。第54页,共93页,编辑于2022年,星期二3.4 向量和矩阵范数n3.4.1 向量内积与范数n3.4.2 矩阵范数(迭代解法数学基础)第55页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数第56页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数内积定义:设X为一个线性空间,为X上的一个二元泛函,满足:(1)(正定性)0,当且仅当x=0时等号成立;(2)(对第一变元线性)对任意a,bC1,=a+b;(3)(共扼对称性)=*。则称该二元泛函为线性空间X上的一个内积。第57页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数第58页,共93页,编辑于2022年,星期二3.4.1向量内积与范数第59页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数例如:对RN(或CN),有如下的范数:这说明了范数的多样性。第60页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数从该定理可知内积可导出范数,第61页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数此外,内积还满足下述性质:第62页,共93页,编辑于2022年,星期二3.4.1 内积与向量范数第63页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第64页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第65页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第66页,共93页,编辑于2022年,星期二3.4.2 矩阵范数注2 通常的范数未必满足上述相容性条件,如:注3 由每种向量范数均可按前述定义构造出一种矩阵的从属范数。第67页,共93页,编辑于2022年,星期二3.4.2 矩阵范数(A的行范数)(A的列范数)(A的2范数)第68页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第69页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第70页,共93页,编辑于2022年,星期二3.4.2 矩阵范数证明(1):(2)参见 关治、陆金甫。第71页,共93页,编辑于2022年,星期二问题思考第72页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第73页,共93页,编辑于2022年,星期二3.4.2 矩阵范数第74页,共93页,编辑于2022年,星期二相关的定理*第75页,共93页,编辑于2022年,星期二证明:第76页,共93页,编辑于2022年,星期二3.5 误差分析与病态方程组n3.5.1矩阵条件数与扰动方程组误差界n3.5.2条件数与剩余误差估计的关系n3.5.3病态方程组的解法第77页,共93页,编辑于2022年,星期二3.5.1矩阵条件数与扰动方程组误差界第78页,共93页,编辑于2022年,星期二一个并不显然的例子第79页,共93页,编辑于2022年,星期二第80页,共93页,编辑于2022年,星期二3.5.1矩阵条件数与扰动方程组误差界n病态方程组的定义:第81页,共93页,编辑于2022年,星期二3.5.1矩阵条件数与扰动方程组误差界对照条件数观察此式第82页,共93页,编辑于2022年,星期二证明:第83页,共93页,编辑于2022年,星期二3.5.1矩阵条件数与扰动方程组误差界第84页,共93页,编辑于2022年,星期二3.5.2条件数与剩余误差估计的关系对上式比照条件数进行分析从而获得矩阵条件数的定义!第85页,共93页,编辑于2022年,星期二第86页,共93页,编辑于2022年,星期二3.5.2条件数与剩余误差估计的关系第87页,共93页,编辑于2022年,星期二著名的病态矩阵(Hilbert)第88页,共93页,编辑于2022年,星期二3.5.2条件数与剩余误差估计的关系第89页,共93页,编辑于2022年,星期二3.5.3病态方程组的解法n病态方程组的症状:nCond(A)较大n在列主元素消元法中出现小主元n在计算过程中行或列几乎线性相关n矩阵A的元素数量级相差很大且无规律第90页,共93页,编辑于2022年,星期二病态方程组的预处理平衡方法:第91页,共93页,编辑于2022年,星期二3.5.3病态方程组的解法第92页,共93页,编辑于2022年,星期二第93页,共93页,编辑于2022年,星期二