第二章解线性方程组的直接方法PPT讲稿.ppt

《第二章解线性方程组的直接方法PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《第二章解线性方程组的直接方法PPT讲稿.ppt（52页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第二章解线性方程组的直接方法第1页，共52页，编辑于2022年，星期二若矩阵A A非奇异,即det(A A)0,则方程组(2.1)有唯一解。所谓直接解法是指，若不考虑计算过程中的舍入误差，经过有限次算术运算就能求出线性方程组的精确解的方法。但由于实际计算中舍入误差的存在，用直接解法一般也只能求出方程组的近似解。Cramer法则是一种不实用的直接法，下面介绍几种实用的直接法。1 Gauss1 Gauss消去法消去法 Gauss Gauss消元法是一种规则化的加减消元法，其基本思想是通过逐次消元计算，把一般线性方程组的求解转化为等价的上三角形方程组的求解。1.1 1.1 顺序顺序GaussGaus

2、s消去法消去法 为了清楚起见,先看一个简单的例子.考虑线性方程组第2页，共52页，编辑于2022年，星期二消去后两个方程中的x1得再消去最后一个方程的x2得消元结束,经过回代得解:第3页，共52页，编辑于2022年，星期二上述求解的消元过程可用矩阵表示为:(A,bA,b)=这是GaussGauss消去法的计算形式,新的增广矩阵对应的线性方程组就是上三角形方程组,可进行回代求解。现在介绍求解线性方程组（2.1)的顺序GaussGauss消去法:记则,线性方程组(2.1)的增广矩阵为第4页，共52页，编辑于2022年，星期二 第一步.设 ,依次用乘矩阵的第1行加到第i行,得到矩阵:第5页，共52页

3、，编辑于2022年，星期二其中 第二步.设 ,依次用乘矩阵的第2行加到第i行,得到矩阵:其中第6页，共52页，编辑于2022年，星期二如此继续消元下去,第n-1步结束后得到矩阵:这就完成了消元过程。对应的方程组变成：对此方程组进行回代，就可求出方程组的解。第7页，共52页，编辑于2022年，星期二 顺序Gauss消去法求解n元线性方程组的乘除运算量是：n2-1 +(n-1)2-1 +22-1 +1+2+n n=20时,顺序Gauss消去法只需3060次乘除法运算.顺序Gauss消去法通常也简称为GaussGauss消去法消去法.顺序Gauss消去法中的 称为主元素主元素.主元素都不为零矩阵A

4、A的各阶顺序主子式都不为零.第8页，共52页，编辑于2022年，星期二 1.2 1.2 主元主元GaussGauss消去法消去法 (用十进制四位浮点计算):(用Cramer法则可得精确解x1*=1.00010,x2*=0.99990)解解 用顺序Gauss消去法,消元得 回代得解:x2=1.00,x1=0.00 若将方程组改写成:例例1 解线性方程组第9页，共52页，编辑于2022年，星期二 用顺序Gauss消去法,消元得 回代得解:x2=1.00,x1=1.00 为了提高计算的数值稳定性,在消元过程中采用选择主元的方法.常采用的是列主元消去法和全主元消去法列主元消去法和全主元消去法.给定线性

5、方程组AxAx=b b,记A A(1)=A A,b b(1)=b b,列主元列主元GaussGauss消去法消去法的具体过程如下:首先在增广矩阵B B(1)=(A A(1),b b(1)的第一列元素中,取 然后进行第一步消元得增广矩阵B B(2)=(A A(2),b b(2).再在矩阵B B(2)=(A A(2),b b(2)的第二列元素中,取 第10页，共52页，编辑于2022年，星期二然后进行第二步消元得增广矩阵B(3)=(A(3),b(3).按此方法继续进行下去,经过n-1步选主元和消元运算,得到增广矩阵B(n)=(A(n),b(n).则方程组A(n)x=b(n)是与原方程组等价的上三角

6、形方程组,可进行回代求解.易证,只要|A|0,列主元Gauss消去法就可顺利进行.采用十进制四位浮点计算,分别用顺序Gauss消去法和列主元Gauss消去法求解线性方程组:例例2第11页，共52页，编辑于2022年，星期二 方程组具有四位有效数字的精确解为 x1*=17.46,x2*=-45.76,x3*=5.546 解解 1.1.用顺序Gauss消去法求解,消元过程为回代得:x3=5.546,x2=100.0,x1=-104.0第12页，共52页，编辑于2022年，星期二 2.2.用列主元Gauss消去法求解,消元过程为第13页，共52页，编辑于2022年，星期二回代得:x3=5.545,x

7、2=-45.77,x1=17.46 可见，列主元Gauss消去法是在每一步消元前,在主元所在的一列选取绝对值最大的元素作为主元素.而全主元Gauss消去法是在每一步消元前,在所有元素中选取绝对值最大的元素作为主元素.但由于运算量大增,实际应用中并不经常使用.第14页，共52页，编辑于2022年，星期二2 2 直接三角分解法直接三角分解法 2.1 Gauss2.1 Gauss消去法的矩阵表示消去法的矩阵表示 对矩阵若 令 记第15页，共52页，编辑于2022年，星期二则有 A(2)=记 令若则有第16页，共52页，编辑于2022年，星期二 A(3)=如此进行下去,第n-1步得到:A(n)=其中第

8、17页，共52页，编辑于2022年，星期二也就是:A(n)=Ln-1A(n-1)其中 =Ln-1Ln-2A(n-2)=Ln-1Ln-2L2L1A(1)第18页，共52页，编辑于2022年，星期二所以有:A=A(1)=L1-1L2-1Ln-1-1A(n)=LU而且有其中L=L1-1L2-1Ln-1-1,U=A(n).L L称为单位下三角矩阵;U U是上三角矩阵.第19页，共52页，编辑于2022年，星期二 式 A=LU称为矩阵A的三角分解三角分解.2.2 Doolittle2.2 Doolittle分解法分解法 设n阶方阵A的各阶顺序主子式不为零,则存在唯一单位下三角矩阵L和上三角矩阵U使A=L

9、U.证明证明 只证唯一性,设有两种分解 A=LU则有 =E所以得于是 Ax=b LUx=b 令 Ux=y 得定理定理2.1第20页，共52页，编辑于2022年，星期二 下面介绍矩阵三角分解的Doolittle分解方法,则得对k=2,3,n,计算 设 akj=lk1u1j+lk2u2j+lkk-1uk-1j+ukj aik=li1u1k+li2u2k+likukk第21页，共52页，编辑于2022年，星期二第22页，共52页，编辑于2022年，星期二对k=2,3,n,计算第23页，共52页，编辑于2022年，星期二由可得这就是求解方程组AxAx=b b的Doolittle三角分解方法。第24页，

10、共52页，编辑于2022年，星期二 利用三角分解方法解线性方程组 解解 因为所以例例3第25页，共52页，编辑于2022年，星期二先解 ,得再解 ,得 解线性方程组Ax=b的Doolittle三角分解法的计算量约为1/3n3,与Gauss消去法基本相同.其优点在于求一系列同系数的线性方程组Ax=bk,(k=1,2,m)时,可大大节省运算量.例如,求上例中矩阵A A的逆矩阵.可分别取常向量 b b1=(1,0,0)T,b b2=(0,1,0)T,b b3=(0,0,1)T 第26页，共52页，编辑于2022年，星期二由所以第27页，共52页，编辑于2022年，星期二 为了提高数值稳定性,可考虑列

11、主元三角分解法,设已完成A=LU的k-1步分解计算,矩阵分解成设 令 rkri 相当于取 为第k步分解的主元素.但要注意方程组的常数项也要相应变换.第28页，共52页，编辑于2022年，星期二 例如,用列主元三角分解解例3中方程组.则有第29页，共52页，编辑于2022年，星期二 设A为对称正定矩阵,则有唯一分解A=LU,且ukk0.则有 A=LDM又因为 (LDM)T=MTDLT=LDM 所以 M=LT =LDLT则有 2.3 平平 方方 根根 法法第30页，共52页，编辑于2022年，星期二 分解A=GGT称为对称正定矩阵的Cholesky分解分解.Ax=b 转换为 Gy=b,GTx=y

12、若记G G=(gij),则有:对k=1,2,n 实际计算时,可采用紧凑格式 _平方根法平方根法.第31页，共52页，编辑于2022年，星期二 解三角方程 Gy=b,GTx=y 可得 解解 例例4 解线性方程组第32页，共52页，编辑于2022年，星期二 平方根法是求对称正定系数线性方程组的三角分解法,对称正定矩阵的Cholesky分解的计算量和存贮量均约为一般矩阵的LU分解的一半.且Cholesky分解具有数值稳定性.第33页，共52页，编辑于2022年，星期二 追赶法是求三对角线性方程组的三角分解法.即方程 三对角矩阵A的各阶顺序主子式都不为零的一个充分条件是:|a1|c1|0;|an|dn

13、|0;|ai|ci|+|di|,cidi 0,i=2,3,n-1.在此条件下,A=LDM=TM,称之为矩阵A的Crout分解分解.对三对角矩阵A进行Crout分解,有2.4 2.4 追追 赶赶 法法第34页，共52页，编辑于2022年，星期二其中 解三角方程 Ty=b,Mx=y 可得称之为解三对角方程组的追赶法追赶法.第35页，共52页，编辑于2022年，星期二 解解 例例5 解线性方程组第36页，共52页，编辑于2022年，星期二 当满足条件|a1|c1|0;|an|dn|0;|ai|ci|+|di|,cidi 0,i=2,3,n-1.时,追赶法是数值稳定的,追赶法具有计算程序简单,存贮量少

14、,计算量小的优点.第37页，共52页，编辑于2022年，星期二3 3 向量和矩阵的范数向量和矩阵的范数 3.1 3.1 向量的范数向量的范数 定义定义2.1 2.1 设是向量空间Rn上的实值函数,且满足条件:(1)非负性非负性:对任何向量xRn,x0,且x=0当 且仅当x=0 0 (2)齐次性齐次性:对任何向量x Rn 和实数,x=|x (3)三角不等式三角不等式:对任何向量x,yRn x+yx+y则称为空间Rn上的范数,x为向量x的范数.第38页，共52页，编辑于2022年，星期二 记x=(x1,x2,xn)T,常用的向量范数有:向量的向量的1-1-范数范数:x1=|x1|+|x2|+|xn

15、|向量的向量的2-2-范数范数:x2=向量的向量的-范数范数:x=例例6 6 设向量x=(2,-4,3,1)T,求向量范数xp,p=1,2,.解解 由定义x1=10,x2=,x=4.虽然不同范数的值可能不同，但它们间存在等价关系.定理定理2.2 (范数的等价性范数的等价性)对于 Rn 上的任何两种范数和,存在正常数m,M,使得 m x x M x,xRn第39页，共52页，编辑于2022年，星期二 常用的三种向量范数满足如下等价关系 x x1 nx,xRn 定义定义2.2 设向量序列 k=1,2,向量 如果 则称向量序列x(k)收敛于向量x*,记作 易见,第40页，共52页，编辑于2022年，

16、星期二3.2 3.2 矩阵的范数矩阵的范数 定义定义2.3 2.3 设是以n阶方阵为变量的实值函数,且满足条件:(1)非负性非负性:A0,且A=0当且仅当A=0 0 (2)齐次性齐次性:A=|A,R (3)三角不等式三角不等式:A+BA+B (4)三角不等式三角不等式:ABAB则称A为矩阵A的范数.记A=(aij),常用的矩阵范数有:矩阵的矩阵的1-1-范数范数:A1 ,也称矩阵的列范数列范数.矩阵的矩阵的2-2-范数范数:A2 ,也称为谱范数谱范数.第41页，共52页，编辑于2022年，星期二 矩阵的矩阵的-范数范数:A ,也称为行范数行范数.矩阵的矩阵的F F-范数范数:AF 例例7 设矩

17、阵求矩阵A的范数Ap,p=1,2,F.解解 A1=4,A=5,AF 第42页，共52页，编辑于2022年，星期二 设是一种向量范数,则定义称之为由向量范数派生的矩阵算子范数矩阵算子范数.矩阵的算子范数满足 AxAx,xRn把满足上式的矩阵范数称为与向量范数相容的矩阵范数与向量范数相容的矩阵范数.对于p=1,2,矩阵范数Ap是由向量范数xp派生的矩阵算子范数,所以Ap是与xp相容的矩阵范数.但AF不是一种算子范数,却与x2是相容的.设是一种算子范数,则第43页，共52页，编辑于2022年，星期二 矩阵的范数与矩阵的特征值之间也有密切的联系.设是矩阵A的特征值,x是对应的特征向量,则有 Ax=x利

18、用向量和矩阵范数的相容性,则得|x=x=AxAx 于是|A 设n阶矩阵A的n个特征值为1,2,n,则称 为矩阵A的谱半径谱半径.对矩阵的任何一种相容范数都有 (A)A 另外,0,一种相容范数,使 A(A)+第44页，共52页，编辑于2022年，星期二 任何两种矩阵范数也具有等价性 m A A M A,ARnn 矩阵序列的收敛性也定义为4 4 线性方程组固有性态与误差分析线性方程组固有性态与误差分析4.1 4.1 线性方程组的固有性态线性方程组的固有性态考虑线性方程组其精确解为 x*=(-9800b1+9900b2 ,9900b1-10000b2)T第45页，共52页，编辑于2022年，星期二若

19、把线性方程组变为解为x=(-9800b1+9900b2-19700 ,9900b1-10000b2+19900)T可见 x-x*=(-19700 ,19900)T 解的误差可能放大到常数项的误差的近2万倍。若把线性方程组变为则线性方程组可能无解.这种由于原始数据微小变化而导致解严重失真的线性方程组称为病态方程组病态方程组,相应的系数矩阵称为病态矩阵病态矩阵.第46页，共52页，编辑于2022年，星期二 设线性方程组 Ax=b系数矩阵是精确的,常数项有误差b,此时记解为x+x,则 A(x+x)=b+b于是 Ax=b所以 x=A-1b A-1 b又由于 b=Ax A x因此 x b AA-1bx即

20、第47页，共52页，编辑于2022年，星期二 再设b是精确的,A有误差A,此时记解为x+x,则 (A+A)(x+x)=b则有 Ax+A(x+x)=0所以 x=-A-1A(x+x)=0于是 x A-1Ax+x也就是记 Cond(A)=AA-1,称为方程组Ax=b或矩阵A的条件数.第48页，共52页，编辑于2022年，星期二经常使用的条件数有 Condp(A)=ApA-1p p=1，2，。当A为对称矩阵时，有 Cond2(A)=|1|/|n|其中1，n分别是A的按绝对值最大和最小的特征值。例如，对前面方程组的系数矩阵A有 Cond1(A)=Cond(A)=39601，Cond2(A)39206 由

21、于计算条件数运算量较大,实际计算中若遇到下述情况之一,方程组就有可能是病态的:第49页，共52页，编辑于2022年，星期二 (1)矩阵元素间数量级差很大,且无一定规律;(2)矩阵的行列式值相对来说很小;(3)列主元消去法求解过程中出现量级很小的主元素;(4)数值求解过程中,计算解x的剩余向量r=b-Ax已经很小,但x仍不符合要求.4.2 4.2 预条件和迭代改善预条件和迭代改善1.1.线性方程组的预条件处理线性方程组的预条件处理 对病态方程组Ax=b,考虑线性方程组其中第50页，共52页，编辑于2022年，星期二 称之为预条件方程组预条件方程组,显然与原方程组等价.可逆矩阵C称为预条件矩阵预条

22、件矩阵.矩阵C应满足条件 (1)条件数 (2)方程组Cz=d容易求解。比Cond(A)明显小.对于一般的矩阵A没有十分有效的方法去选择预条件矩阵.当A是对称正定矩阵时,可取C .2.2.线性方程组的迭代改善线性方程组的迭代改善 设已求得方程组Ax=b的近似解x(1),计算剩余向量 r(1)=b-Ax(1)再求解余量方程组Ax=r(1),得到解 则x(1)的迭代改善解为:第51页，共52页，编辑于2022年，星期二练习题练习题第第50页页 习题习题22-2(1),2-6(1)（用三位浮点计算）（用三位浮点计算）2-3(1),2-4,2-5,2-8 ,2-10,2-11,2-12,2-14,2-16,2-17第52页，共52页，编辑于2022年，星期二