3.1向量和矩阵的范数.ppt
第三章第三章线性方程组的数值解法线性方程组的数值解法3.1向量与矩阵的范数向量与矩阵的范数3.2直接法直接法3.3迭代法迭代法3.4迭代法的收敛性分析迭代法的收敛性分析范数范数是对向量和矩阵的一种度量是对向量和矩阵的一种度量,实际上是实际上是二维和三维向量长度概念的一种推广二维和三维向量长度概念的一种推广二维向量和三维向量都可以度量其大小和长度二维向量和三维向量都可以度量其大小和长度高维向量的高维向量的长度长度能否定义呢能否定义呢?为了研究线性方程组近似解的误差估计和迭代的为了研究线性方程组近似解的误差估计和迭代的收敛性，需要对收敛性，需要对n维向量空间中的向量以及矩阵引进维向量空间中的向量以及矩阵引进“大小大小”的概念。的概念。对于实数和复数，由于定义了它们的对于实数和复数，由于定义了它们的绝对绝对值或模，值或模，这样我们就可以用这个这样我们就可以用这个度量度量来表示它来表示它们的们的大小大小（几何上就是（几何上就是长度长度），进而可以考察），进而可以考察两个实数或复数的两个实数或复数的距离距离。对于对于 维线性空间，定义了维线性空间，定义了内积内积以后，以后，向量就有了向量就有了长度长度（大小）、（大小）、角度角度、距离距离等度量等度量概念，这显然是概念，这显然是3维现实空间中相应概念的推维现实空间中相应概念的推广。利用广。利用公理化的方法公理化的方法，可以进一步把向量长，可以进一步把向量长度的概念推广到度的概念推广到范数范数。3.1 3.1 向量与矩阵的范数向量与矩阵的范数从向量的长度或模谈起从向量的长度或模谈起 ，当且仅当，当且仅当 时，等号成立。时，等号成立。例例例例 1 1 1 1复数复数 的长度或的长度或模模模模指的是量指的是量显然复向量显然复向量 的模的模 具有下列三条性质：具有下列三条性质：，当且仅当，当且仅当 时，等号成立。时，等号成立。显然向量显然向量 的模的模 也具有下列三条性质：也具有下列三条性质：例例例例 2 2 2 2 维欧氏空间中向量维欧氏空间中向量 的长度或模定义为的长度或模定义为定义定义3.3.1按某种规则(或映射)（一）（一）向量的范数向量的范数由由(3)(3)可推出不等式：可推出不等式：-(1)-(2)-(3)-(4)显然显然并且由于例例3.3.1 求下列向量的各种常用范数解解向量范数是其分量的连续函数，即有下述定理：定理定理3.1（向量范数连续性定理向量范数连续性定理）证明证明v 有限维向量空间的范数等价性定理有限维向量空间的范数等价性定理定理定理3.2容易验证：容易验证：（1 1）x x2 2x x1 1 n n1 1/2/2x x2 2；（2 2）x xx x2 2 n n1 1/2/2x x；（3 3）x xx x1 1 n nx x。3种范数相互等价v 向量序列的收敛性向量序列的收敛性定义定义3.3 如果向量序列x(k)Rn和向量 xRn满足则称向量序列x(k)收敛于向量 x，记为定理3.3 向量序列x(k)收敛于 x 的充分必要条件是由向量范数的等价性定理可得到结论：如果在一种范数意义下向量序列收敛时，则在任何一种范数意义下向量序列亦收敛证明：证明：定义定义3.43.1.2 3.1.2 矩阵的范数矩阵的范数由于大多数与估计有关的问题中，矩阵和向量会同时由于大多数与估计有关的问题中，矩阵和向量会同时参与运算，所以希望引进一种矩阵范数，它和向量范数参与运算，所以希望引进一种矩阵范数，它和向量范数相联系而且和向量范数相容，即相联系而且和向量范数相容，即为此我们引进矩阵的算子范数为此我们引进矩阵的算子范数-(3.5)定义定义3.5定理定理3.4-(3.6)定理定理3.53.5 向量的常用范数可以得到常用的矩阵算子范数证明：证明：对于2范数，应有注意，注意，是半正定的对称阵，设其特征值为是半正定的对称阵，设其特征值为以及其对应的正交规范特征向量为则对任一满足则对任一满足 的向量的向量 有有和和 于是，有另一方面，若取另一方面，若取 ，则有，则有所以例例3.3.4求矩阵A的各种常用范数解解由于特征方程为容易计算计算较复杂对矩阵元素的变化比较敏感(理论上)使用最广泛性质较好定义定义3.7 如果n阶矩阵序列A(k)Rnn和矩阵ARnn 满足 （其中A(k)=(aij(k)nn,A=(aij)nn）v 矩阵序列的收敛性矩阵序列的收敛性则称矩阵序列A(k)收敛于矩阵 A，记为定理3.6，Rnn 中矩阵序列A(k)收敛于矩阵A 的充分必要条件是定理定理3.7设设A为任意为任意n阶方阵，则对任意矩阵范阶方阵，则对任意矩阵范数数|A|，有：，有：(A)|A|证证:设设为为A的任意一个特征值的任意一个特征值,X为对应的特征向量为对应的特征向量A X=X两边取范数两边取范数,得得:|A X|=|X|=|X|X|=|X|=|A X|A|X|由由X 0,所以所以|X|0,故有故有:|A|所以特征值的最大值所以特征值的最大值|A|，即，即(A)|A|对任给的对任给的 存在存在 上的算子范数上的算子范数 使得使得定理定理3.8证明：证明：由Jordan分解定理知，存在非奇异矩阵，使得其中，=1或0，对于任意给定的 ，令，令则有在在上引入一个算子矩阵范数，定义如下上引入一个算子矩阵范数，定义如下它所对应的向量范数，定义如下该范数对于矩阵该范数对于矩阵有有定理定理证明证明补充补充定理定理3.9-(3.8)证明证明3.1.3、方程组的性态条件数与摄动理论、方程组的性态条件数与摄动理论（一）（一）线性代数方程组的性态线性代数方程组的性态 判断一个计算方法的好坏，可用方法是否稳定、解的精确度高低以及计算量、存储量大小等来衡量。然而，对于不同的问题，同一方法却可以产生完全不同的效果，这就涉及到所提供问题的性态，即“好、坏”。例例3.3.5 可见，在上述方程组中，系数误差的小扰动对解的影响不大。可见，在上述方程组中，系数误差的小扰动对解的影响很大。思考思考:求解求解 时时,A 和和 的误差对解的误差对解 有何影响有何影响？设设 A 精确，精确，有误差有误差 ，得到的解为，得到的解为 ，即，即绝对误差放大因子绝对误差放大因子又又相对误差放大因子相对误差放大因子 设设 精确，精确，A有误差有误差 ，得到的解为，得到的解为 ，即，即(只要只要 A充分小，使得充分小，使得 是关键是关键的误差放大因子，称为的误差放大因子，称为A的状态数的状态数(条件数条件数)，记为记为cond(A),定义定义3.9定义定义3.8矩阵A的条件数与所取范数有关。通常记显然，当A对称时，条件数有下列性质：条件数有下列性质：定理定理3.9推论推论1推论推论2v 常数项常数项 b 的扰动对解的影响的扰动对解的影响v 系数矩阵系数矩阵A 的扰动对解的影响的扰动对解的影响定义定义3.3.8例例3.3.6 试求例3.3.5中两个线性代数方程组的条件数解解 因而，第二个方程组的性态远比第一个方程组坏，从而对系数的敏感程度要高得多。值得强调的是，线性代数方程组的性质是问题本身的固有性质。用一个稳定的方法去解一个良态的方程组，必然得到较准确的结果。同样用一个稳定的方法去解一个病态的方程组，结果就可能很差。例例3.3.7 解解线性代数方程组的精确解为用列选主元消元法计算：回代后得到计算结果完全不可靠，实际上，此时因此，方程组病态！方程组病态！如把方程组的系数舍入成两位有效数字例例3.3.8设有线性代数方程组试分析其性态。试分别计算两组方程组的精确解。它的精确解为x1=-6.222.x2=38.25 x3=-33.65.它的精确解为x1=x2=x3=1.条件数不是很好。两个解相差大，说明解对系数矩阵敏感程度高事实上，上例中矩阵A是三阶Hilbert矩阵n阶Hilbert矩阵是有名的病态矩阵，它随着矩阵阶数的增大，条件数迅速增大。解解v “病态”方程的经验判断v “病态”问题的处理方法例例3.3.10 解解等价的方程组解解回代后得到用列选主元消元法计算：与例3.3.7的计算结果相比，这是一个很好的近似解证明证明对于对于1 1范数，将给定的范数，将给定的 按列分块为按列分块为并记并记则对任意的则对任意的 满足满足 有有此外，若取此外，若取 为为 阶单位矩阵的第阶单位矩阵的第 列列，则有则有 ，而且，而且因此，我们有
