第二章解线性方程组的直接方法精选文档.ppt

《第二章解线性方程组的直接方法精选文档.ppt》由会员分享，可在线阅读，更多相关《第二章解线性方程组的直接方法精选文档.ppt（52页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第二章解线性方程组的直接方法本讲稿第一页，共五十二页若矩阵A A非奇异,即det(A A)0,则方程组(2.1)有唯一解。所谓直接解法是指，若不考虑计算过程中的舍入误差，经过有限次算术运算就能求出线性方程组的精确解的方法。但由于实际计算中舍入误差的存在，用直接解法一般也只能求出方程组的近似解。Cramer法则是一种不实用的直接法，下面介绍几种实用的直接法。1 Gauss1 Gauss消去法消去法 Gauss Gauss消元法是一种规则化的加减消元法，其基本思想是通过逐次消元计算，把一般线性方程组的求解转化为等价的上三角形方程组的求解。1.1 1.1 顺序顺序GaussGauss消去法消去法 为

2、了清楚起见,先看一个简单的例子.考虑线性方程组本讲稿第二页，共五十二页消去后两个方程中的x1得再消去最后一个方程的x2得消元结束,经过回代得解:本讲稿第三页，共五十二页上述求解的消元过程可用矩阵表示为:(A,bA,b)=这是GaussGauss消去法的计算形式,新的增广矩阵对应的线性方程组就是上三角形方程组,可进行回代求解。现在介绍求解线性方程组（2.1)的顺序GaussGauss消去法:记则,线性方程组(2.1)的增广矩阵为本讲稿第四页，共五十二页 第一步.设 ,依次用乘矩阵的第1行加到第i行,得到矩阵:本讲稿第五页，共五十二页其中 第二步.设 ,依次用乘矩阵的第2行加到第i行,得到矩阵:其

3、中本讲稿第六页，共五十二页如此继续消元下去,第n-1步结束后得到矩阵:这就完成了消元过程。对应的方程组变成：对此方程组进行回代，就可求出方程组的解。本讲稿第七页，共五十二页 顺序Gauss消去法求解n元线性方程组的乘除运算量是：n2-1 +(n-1)2-1 +22-1 +1+2+n n=20时,顺序Gauss消去法只需3060次乘除法运算.顺序Gauss消去法通常也简称为GaussGauss消去法消去法.顺序Gauss消去法中的 称为主元素主元素.主元素都不为零矩阵A A的各阶顺序主子式都不为零.本讲稿第八页，共五十二页 1.2 1.2 主元主元GaussGauss消去法消去法 (用十进制四位

4、浮点计算):(用Cramer法则可得精确解x1*=1.00010,x2*=0.99990)解解 用顺序Gauss消去法,消元得 回代得解:x2=1.00,x1=0.00 若将方程组改写成:例例1 解线性方程组本讲稿第九页，共五十二页 用顺序Gauss消去法,消元得 回代得解:x2=1.00,x1=1.00 为了提高计算的数值稳定性,在消元过程中采用选择主元的方法.常采用的是列主元消去法和全主元消去法列主元消去法和全主元消去法.给定线性方程组AxAx=b b,记A A(1)=A A,b b(1)=b b,列主元列主元GaussGauss消去法消去法的具体过程如下:首先在增广矩阵B B(1)=(A

5、 A(1),b b(1)的第一列元素中,取 然后进行第一步消元得增广矩阵B B(2)=(A A(2),b b(2).再在矩阵B B(2)=(A A(2),b b(2)的第二列元素中,取 本讲稿第十页，共五十二页然后进行第二步消元得增广矩阵B(3)=(A(3),b(3).按此方法继续进行下去,经过n-1步选主元和消元运算,得到增广矩阵B(n)=(A(n),b(n).则方程组A(n)x=b(n)是与原方程组等价的上三角形方程组,可进行回代求解.易证,只要|A|0,列主元Gauss消去法就可顺利进行.采用十进制四位浮点计算,分别用顺序Gauss消去法和列主元Gauss消去法求解线性方程组:例例2本讲

6、稿第十一页，共五十二页 方程组具有四位有效数字的精确解为 x1*=17.46,x2*=-45.76,x3*=5.546 解解 1.1.用顺序Gauss消去法求解,消元过程为回代得:x3=5.546,x2=100.0,x1=-104.0本讲稿第十二页，共五十二页 2.2.用列主元Gauss消去法求解,消元过程为本讲稿第十三页，共五十二页回代得:x3=5.545,x2=-45.77,x1=17.46 可见，列主元Gauss消去法是在每一步消元前,在主元所在的一列选取绝对值最大的元素作为主元素.而全主元Gauss消去法是在每一步消元前,在所有元素中选取绝对值最大的元素作为主元素.但由于运算量大增,实

7、际应用中并不经常使用.本讲稿第十四页，共五十二页2 2 直接三角分解法直接三角分解法 2.1 Gauss2.1 Gauss消去法的矩阵表示消去法的矩阵表示 对矩阵若 令 记本讲稿第十五页，共五十二页则有 A(2)=记 令若则有本讲稿第十六页，共五十二页 A(3)=如此进行下去,第n-1步得到:A(n)=其中本讲稿第十七页，共五十二页也就是:A(n)=Ln-1A(n-1)其中 =Ln-1Ln-2A(n-2)=Ln-1Ln-2L2L1A(1)本讲稿第十八页，共五十二页所以有:A=A(1)=L1-1L2-1Ln-1-1A(n)=LU而且有其中L=L1-1L2-1Ln-1-1,U=A(n).L L称为

8、单位下三角矩阵;U U是上三角矩阵.本讲稿第十九页，共五十二页 式 A=LU称为矩阵A的三角分解三角分解.2.2 Doolittle2.2 Doolittle分解法分解法 设n阶方阵A的各阶顺序主子式不为零,则存在唯一单位下三角矩阵L和上三角矩阵U使A=LU.证明证明 只证唯一性,设有两种分解 A=LU则有 =E所以得于是 Ax=b LUx=b 令 Ux=y 得定理定理2.1本讲稿第二十页，共五十二页 下面介绍矩阵三角分解的Doolittle分解方法,则得对k=2,3,n,计算 设 akj=lk1u1j+lk2u2j+lkk-1uk-1j+ukj aik=li1u1k+li2u2k+likuk

9、k本讲稿第二十一页，共五十二页本讲稿第二十二页，共五十二页对k=2,3,n,计算本讲稿第二十三页，共五十二页由可得这就是求解方程组AxAx=b b的Doolittle三角分解方法。本讲稿第二十四页，共五十二页 利用三角分解方法解线性方程组 解解 因为所以例例3本讲稿第二十五页，共五十二页先解 ,得再解 ,得 解线性方程组Ax=b的Doolittle三角分解法的计算量约为1/3n3,与Gauss消去法基本相同.其优点在于求一系列同系数的线性方程组Ax=bk,(k=1,2,m)时,可大大节省运算量.例如,求上例中矩阵A A的逆矩阵.可分别取常向量 b b1=(1,0,0)T,b b2=(0,1,0

10、)T,b b3=(0,0,1)T 本讲稿第二十六页，共五十二页由所以本讲稿第二十七页，共五十二页 为了提高数值稳定性,可考虑列主元三角分解法,设已完成A=LU的k-1步分解计算,矩阵分解成设 令 rkri 相当于取 为第k步分解的主元素.但要注意方程组的常数项也要相应变换.本讲稿第二十八页，共五十二页 例如,用列主元三角分解解例3中方程组.则有本讲稿第二十九页，共五十二页 设A为对称正定矩阵,则有唯一分解A=LU,且ukk0.则有 A=LDM又因为 (LDM)T=MTDLT=LDM 所以 M=LT =LDLT则有 2.3 平平 方方 根根 法法本讲稿第三十页，共五十二页 分解A=GGT称为对称

11、正定矩阵的Cholesky分解分解.Ax=b 转换为 Gy=b,GTx=y 若记G G=(gij),则有:对k=1,2,n 实际计算时,可采用紧凑格式 _平方根法平方根法.本讲稿第三十一页，共五十二页 解三角方程 Gy=b,GTx=y 可得 解解 例例4 解线性方程组本讲稿第三十二页，共五十二页 平方根法是求对称正定系数线性方程组的三角分解法,对称正定矩阵的Cholesky分解的计算量和存贮量均约为一般矩阵的LU分解的一半.且Cholesky分解具有数值稳定性.本讲稿第三十三页，共五十二页 追赶法是求三对角线性方程组的三角分解法.即方程 三对角矩阵A的各阶顺序主子式都不为零的一个充分条件是:|

12、a1|c1|0;|an|dn|0;|ai|ci|+|di|,cidi 0,i=2,3,n-1.在此条件下,A=LDM=TM,称之为矩阵A的Crout分解分解.对三对角矩阵A进行Crout分解,有2.4 2.4 追追 赶赶 法法本讲稿第三十四页，共五十二页其中 解三角方程 Ty=b,Mx=y 可得称之为解三对角方程组的追赶法追赶法.本讲稿第三十五页，共五十二页 解解 例例5 解线性方程组本讲稿第三十六页，共五十二页 当满足条件|a1|c1|0;|an|dn|0;|ai|ci|+|di|,cidi 0,i=2,3,n-1.时,追赶法是数值稳定的,追赶法具有计算程序简单,存贮量少,计算量小的优点.本

13、讲稿第三十七页，共五十二页3 3 向量和矩阵的范数向量和矩阵的范数 3.1 3.1 向量的范数向量的范数 定义定义2.1 2.1 设是向量空间Rn上的实值函数,且满足条件:(1)非负性非负性:对任何向量xRn,x0,且x=0当 且仅当x=0 0 (2)齐次性齐次性:对任何向量x Rn 和实数,x=|x (3)三角不等式三角不等式:对任何向量x,yRn x+yx+y则称为空间Rn上的范数,x为向量x的范数.本讲稿第三十八页，共五十二页 记x=(x1,x2,xn)T,常用的向量范数有:向量的向量的1-1-范数范数:x1=|x1|+|x2|+|xn|向量的向量的2-2-范数范数:x2=向量的向量的-

14、范数范数:x=例例6 6 设向量x=(2,-4,3,1)T,求向量范数xp,p=1,2,.解解 由定义x1=10,x2=,x=4.虽然不同范数的值可能不同，但它们间存在等价关系.定理定理2.2 (范数的等价性范数的等价性)对于 Rn 上的任何两种范数和,存在正常数m,M,使得 m x x M x,xRn本讲稿第三十九页，共五十二页 常用的三种向量范数满足如下等价关系 x x1 nx,xRn 定义定义2.2 设向量序列 k=1,2,向量 如果 则称向量序列x(k)收敛于向量x*,记作 易见,本讲稿第四十页，共五十二页3.2 3.2 矩阵的范数矩阵的范数 定义定义2.3 2.3 设是以n阶方阵为变

15、量的实值函数,且满足条件:(1)非负性非负性:A0,且A=0当且仅当A=0 0 (2)齐次性齐次性:A=|A,R (3)三角不等式三角不等式:A+BA+B (4)三角不等式三角不等式:ABAB则称A为矩阵A的范数.记A=(aij),常用的矩阵范数有:矩阵的矩阵的1-1-范数范数:A1 ,也称矩阵的列范数列范数.矩阵的矩阵的2-2-范数范数:A2 ,也称为谱范数谱范数.本讲稿第四十一页，共五十二页 矩阵的矩阵的-范数范数:A ,也称为行范数行范数.矩阵的矩阵的F F-范数范数:AF 例例7 设矩阵求矩阵A的范数Ap,p=1,2,F.解解 A1=4,A=5,AF 本讲稿第四十二页，共五十二页 设是

16、一种向量范数,则定义称之为由向量范数派生的矩阵算子范数矩阵算子范数.矩阵的算子范数满足 AxAx,xRn把满足上式的矩阵范数称为与向量范数相容的矩阵范数与向量范数相容的矩阵范数.对于p=1,2,矩阵范数Ap是由向量范数xp派生的矩阵算子范数,所以Ap是与xp相容的矩阵范数.但AF不是一种算子范数,却与x2是相容的.设是一种算子范数,则本讲稿第四十三页，共五十二页 矩阵的范数与矩阵的特征值之间也有密切的联系.设是矩阵A的特征值,x是对应的特征向量,则有 Ax=x利用向量和矩阵范数的相容性,则得|x=x=AxAx 于是|A 设n阶矩阵A的n个特征值为1,2,n,则称 为矩阵A的谱半径谱半径.对矩阵

17、的任何一种相容范数都有 (A)A 另外,0,一种相容范数,使 A(A)+本讲稿第四十四页，共五十二页 任何两种矩阵范数也具有等价性 m A A M A,ARnn 矩阵序列的收敛性也定义为4 4 线性方程组固有性态与误差分析线性方程组固有性态与误差分析4.1 4.1 线性方程组的固有性态线性方程组的固有性态考虑线性方程组其精确解为 x*=(-9800b1+9900b2 ,9900b1-10000b2)T本讲稿第四十五页，共五十二页若把线性方程组变为解为x=(-9800b1+9900b2-19700 ,9900b1-10000b2+19900)T可见 x-x*=(-19700 ,19900)T 解

18、的误差可能放大到常数项的误差的近2万倍。若把线性方程组变为则线性方程组可能无解.这种由于原始数据微小变化而导致解严重失真的线性方程组称为病态方程组病态方程组,相应的系数矩阵称为病态矩阵病态矩阵.本讲稿第四十六页，共五十二页 设线性方程组 Ax=b系数矩阵是精确的,常数项有误差b,此时记解为x+x,则 A(x+x)=b+b于是 Ax=b所以 x=A-1b A-1 b又由于 b=Ax A x因此 x b AA-1bx即本讲稿第四十七页，共五十二页 再设b是精确的,A有误差A,此时记解为x+x,则 (A+A)(x+x)=b则有 Ax+A(x+x)=0所以 x=-A-1A(x+x)=0于是 x A-1

19、Ax+x也就是记 Cond(A)=AA-1,称为方程组Ax=b或矩阵A的条件数.本讲稿第四十八页，共五十二页经常使用的条件数有 Condp(A)=ApA-1p p=1，2，。当A为对称矩阵时，有 Cond2(A)=|1|/|n|其中1，n分别是A的按绝对值最大和最小的特征值。例如，对前面方程组的系数矩阵A有 Cond1(A)=Cond(A)=39601，Cond2(A)39206 由于计算条件数运算量较大,实际计算中若遇到下述情况之一,方程组就有可能是病态的:本讲稿第四十九页，共五十二页 (1)矩阵元素间数量级差很大,且无一定规律;(2)矩阵的行列式值相对来说很小;(3)列主元消去法求解过程中

20、出现量级很小的主元素;(4)数值求解过程中,计算解x的剩余向量r=b-Ax已经很小,但x仍不符合要求.4.2 4.2 预条件和迭代改善预条件和迭代改善1.1.线性方程组的预条件处理线性方程组的预条件处理 对病态方程组Ax=b,考虑线性方程组其中本讲稿第五十页，共五十二页 称之为预条件方程组预条件方程组,显然与原方程组等价.可逆矩阵C称为预条件矩阵预条件矩阵.矩阵C应满足条件 (1)条件数 (2)方程组Cz=d容易求解。比Cond(A)明显小.对于一般的矩阵A没有十分有效的方法去选择预条件矩阵.当A是对称正定矩阵时,可取C .2.2.线性方程组的迭代改善线性方程组的迭代改善 设已求得方程组Ax=b的近似解x(1),计算剩余向量 r(1)=b-Ax(1)再求解余量方程组Ax=r(1),得到解 则x(1)的迭代改善解为:本讲稿第五十一页，共五十二页练习题练习题第第50页页 习题习题22-2(1),2-6(1)（用三位浮点计算）（用三位浮点计算）2-3(1),2-4,2-5,2-8 ,2-10,2-11,2-12,2-14,2-16,2-17本讲稿第五十二页，共五十二页