矩阵论范数理论(完整版)实用资料.doc

矩阵论范数理论（完整版）实用资料(可以直接使用，可编辑 完整版实用资料，欢迎下载）第二章 范数理论在第一章我们曾利用内积定义了向量的长度，他是几何向量长度概念的一种推广。虽然当n>3时对定义的向量长度无法作出具体的几何解释，但这样规定的长度具有几何向量长度的基本性质，即非负性，齐次性和三角不等式。本章我们采用公理化的方法，八项量长度的概念推广到更一般的情形，主要讨论向量范数、矩阵范数及其有关的应用。§2.1 向量范数定义2.1 若对任意都有一个实数与之对应，且满足：（1） 非负性：当（2） 齐次性：对任何（3） 三角不等式：对任意都有则称为上的向量x的范数，简称向量范数。定义中并未给出向量范数的计算方法，只是规定了向量范数应满足的三条公理，称之为向量范数三公理。从范数定义可得范数的下列基本性质。定理2.1 对任意有（1）=；（2） 只证（2）。根据三角不等式，有 综合二式即得 证毕例 2.1 设 规定 第一章已表明是向量x的一种范数，并称之为向量2-范数，该范数具有如下重要的性质，对任意和任意n阶酉矩阵U，有称之为向量2-范数的酉不变性。例2.2 设规定 则是向量x的一种范数，称为向量1-范数。证 当 对任意又对任意 有 故是上的一种向量范数。例2.3 设规定 则是向量x的一种范数，称为向量-范数。 证 当时，有当x=0时，现然有0.对任意，有又对任意有故是上的一种向量范数。为给出其他的向量范数，先证明如下结论.引理 2.1 对任意实数，都有，其中证 若，显然结论成立，下面就只就来讨论，考虑函数 因为可见，当而当时，故总有令，有故结论成立。定理2.2 对任意，有 （2.1）其中p>1，q>1，且证 当时，结论成立。下设不全为0，故结论成立。 称式（2.1）为Holder不等式。当p=q=2时，即得Cauchy-Schwarz不等式（1.5）例2.4 设，规定 则是向量x的一种范数，称为向量p-范数。证 易知非负性和齐次性成立，当p=1时，例2.2中已证明三角不等式成立。下设p>1，则对，利用定理2.2得故对于向量p-范数，显然p=1和p=2时，分别得到向量1-范数和2-范数，并且-范数也是时的特殊情形。定理2.3 设，则证 当x=0时，结论成立。下设，又设则有由于 证毕下面我们给出一种从已知的某种向量范数构造的向量范数的方法。定理2.4 设，是上的一种向量范数，对任意，规定则是中的向量范数。证 当x=0时，Ax=0，从而，由rankA=n知Ax0，于是>0.对任意，有又对任意，有故是中的向量范数。 由于满足的矩阵有无穷多个，这样由一个已知的向量范数（不一定是p-范数）就可构造出无穷多个新的向量范数。如取A=diag(1,2,n)则对于任意由上的向量的1-范数和2-范数可得这是两种新的向量范数。例2.5 设A是n阶Hermite正定矩阵，对任意，规定则是一种向量范数，称为加权范数或椭圆范数。 证 有定理1.24知，存在矩阵，使得A=，于是由定理2.4知是上的一种向量范数。虽然在中可以定义各种不同的向量范数，且同一向量按不同范数算出的值一般不等，如对于向量有但是，不同的范数之间存在着一种重要的关系，为了描述这种关系，先给出如下的定义。定义2.2 设和是上的两种向量范数，如果存在正数，使对任意都有则称向量范数与等价。定理 2.5 上的所有向量范数等价。证 设是上的向量范数，记首先证明是连续函数，因为对任意有而(k=1,2,n)都是确定的实数，故当时，有即是连续函数。考虑集合S=这是中的一个有界闭集。根据连续的性质知，在S上达到最大值和最小值，且.当时，且有即当x=0时，上式也成立，这表明任意向量范数与向量2-范数等价。又若是上的向量范数，则存在正实数使得故即等价。 证毕对于上向量的1，2，范数，易知下面二不等式成立向量范数及其等价性，使得在研究向量序列的收敛问题时表现出简洁性和明显的一致性。见如下的定义和定理。定义2.3 给定中的向量序列，其中 如果则称向量序列收敛于简称收敛，记为不收敛的向量序列称为是发散的。定理2.6 中向量序列收敛于x的充分必要条件是，对于上的任意一种向量范数，都有证 设，则有可见的充分必要条件是。对于上的任意一种向量范数，有等价性知从而的充分必要条件是。 证毕§2.2 矩阵范数 由于一个矩阵可以看做mn维的向量，因此可以按定义向量范数的方法来定义矩阵范数。但是，矩阵之间还有乘法运算，在研究矩阵范数时应予以考虑。首先研究方阵范数。一、方阵的范数定义2.4 若对任意 都有一个实数 与之对应，且满足：（1） 非负性：当时，；当 时，；（2） 齐次性：对任何（3） 三角不等式：对任意，都有（4） 相容性：对任意，都有则称为上矩阵A的范数，简称矩阵范数。由于定义中前三条公理与向量范数一致，因此矩阵范数与向量范数所具有的性质类似，如以及上的任意两个矩阵范数等价，又由于矩阵范数定义中相容性公理的出现，使得由向量范数的表达式推广到矩阵情形时，有时需做一些修改。例2.6 设规定则是上的一种矩阵范数，称为矩阵的范数。证 只证相容性，设B=,则故是上的一种矩阵范数。例2.7 设规定则是上的一种矩阵范数，称为矩阵的Frobenius范数，简称F范数。证 只证相容性，设B=,由Cauchy-Schwarz不等式（1.5），得故是上的一种矩阵范数。F范数有下列良好的性质。定理2.7 设，则对任意n阶酉矩阵U和V，恒有称之为F-范数的酉不变性。证 利用定理1.6，得最后 证毕需要指出的是，对于如果将向量的范数直接推广到，即，则矩阵范数定义中前三条公理成立，但相容性公理却不成立。如取，则，而AB。于是。因此要做适当的修改。例2.8 设规定则是上的矩阵范数，称为矩阵的范数。证只证相容性。设则故是上的一种矩阵范数。二、与向量范数的相容性由于矩阵与向量在实际运算中常同时出现，所以矩阵范数和向量范数也会同时出现，因此需要建立矩阵范数与向量范数的联系。定义2.5设是上的矩阵范数，是上的向量范数，如果对任意和都有则称矩阵范数与向量范数是相容的。例2.9 证明的矩阵范数和F范数分别与上的向量1范数和2范数相容。证 设，则利用Cauchy-Schwarz不等式，得例2.10 证明上的矩阵的范数分别与上的向量1、2、范数相容。证 只证矩阵的范数与向量范数相容，其余证明留给读者。设，则上例表明，与一个矩阵范数相容的向量范数可能不唯一，那么，对于上任意给定的一种矩阵范数，是否一定存在与之相容的向量范数呢?对此有下面的结论。定理 2.8 设是上的一种矩阵范数，则称上必存在与它相容的向量范数。证 取定，对任意，规定则当时，于是；而当x=0时，所以=0.对任意，有又对任意,有故是上的一种向量范数，并且对任意有即矩阵范数与向量范数相容。证毕。三、从属范数我们知道，单位矩阵在矩阵乘法中的作用类似于1在数的乘法中的作用，但对于矩阵的，F，和范数，有这对于一些理论分析带来不便，那么能否构造出使的矩阵范数呢？下面给出的就是这样一类矩阵范数。定理2.9 已知上的向量范数，对任意，规定则是上与向量范数相容的矩阵范数，且，称之为由向量范数导出的矩阵范数或从属于向量范数的矩阵范数，简称导出范数或从属范数。证 显然，又由得从而与向量范数相容。当时，；而当时，存在使从而任意，有又对任意，有=故是上的矩阵范数。证毕 矩阵的从属范数的计算归结为求函数的最大值，从分析的角度来看，连续函数在有界闭集上可以达到最大值，但计算却不是很容易，下面给出由向量1、2、范数导出的矩阵范数的具体计算公式。定理2.10 设记由向量1、2、范数导出的矩阵范数分别为，则有(1) (2) 为的最大特征值；(3) 通常依次称为矩阵的1范数、2范数、范数，或称为列和范数、谱范数和行和范数。证 (1)对，有即设取其中则且有故（2）由定理1.24知，的特征值为非负实数，设的n个特征值为由于是Hermite矩阵，故存在n阶酉矩阵U，使记其中是U的第j列向量，对任意有可求得而即有取则有故（4） 对，有 于是 设 取其中则，且有于是故矩阵2范数有下列良好的性质。定理2.11 设，U和V为n阶酉矩阵，则（1）（2）（3）若A是正规矩阵，且是A的n个特征值，则。证 （1）由定理1.26知，与有相同的非零特征值，于是（2） （3）当A是正规矩阵时，存在n阶酉矩阵U，使得于是故 证毕有其他矩阵范数的计算公式易知：，四、长方阵的范数前面介绍的主要是方阵的防范数，给相应的定义做一些修改可以推广到吗m*n矩阵的情形。首先，在矩阵范数的定义中，相容性公理应改为：对任意，都有上式左边是上的矩阵范数，右边分别是上的矩阵范数，他们应取为同类的矩阵范数，如均取为F-范数。其次，在与向量范数相容性的定义中，对任意，有其中上式左边的是上的向量范数，右边的是上的向量范数，它们应取为同类的向量范数。最后，在从属范数定义中，对任意，有其中右边分子上的是上的向量范数，分母上的是上的向量范数，它们应取为同类的向量范数。对于任意，常用的矩阵范数为如下七种：（1）（2） F-范数；（3），M-范数或最大范数；（4），G-范数或几何平均范数；（5），1-范数或列和范数；（6），2-范数或谱范数；（7），-范数或者行和范数。其中F-范数和2-范数是酉不变的，范数与向量1范数相容；F范数和G范数与向量2范数相容；M范数分别与向量1、2、范数相容；而矩阵的1、2范数分别有向量1、2范数导出，从而与相应的向量范数相容。§2.3 范数应用举例在§2.1中介绍了向量范数在讨论向量序列极限中的应用，有关范数在矩阵分析中的应用可见下一章，本届主要介绍范数在特征值的估计及数值分析中的应用。一、矩阵的谱半径定义2.6 设，为A的n个特征值，称为A的谱半径。利用定义可得到谱半径的如下性质：（1）（2）；（3）当A是正规矩阵时，。证 （1）设A的n个特征值为，则的特征值为于是（2）由矩阵2范数的计算公式和有相同的非零特征值即得；（3）利用定理2.11的结果即得。 证毕有关矩阵的谱半径，有如下的一些估计式。定理2.13 设，则对上的任意矩阵范数，都有证 设是A的特征值，x是A的对应的特征向量，又设是上与矩阵范数相容的向量范数，则由Ax=x，可得从而 证毕例2.11 已知，试估计A的谱半径。解 可求得于是。 实际计算可知A的特征值为0，0.4i，0.4i，从而，可见对此矩阵谱半径的估计很精确，但对多数矩阵来说，估计的结果偏保守。 定理2.14 设，对任意给定的正数，存在某一矩阵范数，使得证 由定理1.9，存在，使得，令D=diag，则易验证于是对任意规定容易验证是上的一种矩阵范数，且有 证毕需要指出的是，定理2.14中构造的矩阵范数与给定的矩阵A和正数均密切相关。二、矩阵的条件数设 ，在工程实际中经常需要计算和线性方程组Ax=b的解，由于矩阵A和向量b的元素一般是由观测或者计算得到的，所以不可避免的带有微小的误差。我们首先必须研究的一个重要问题是：数据的误差对于问题的解将会产生什么样的影响呢？如对于求逆矩阵的问题，要研究的近似程度如何；而对于线性方程组求解问题，要研究系数矩阵A与有段b有误差和时，引起解x的误差的大小问题，利用范数可以给出误差对于问题的解产生影响大小的一个度量。引理 2.2 设,若对上的某一矩阵范数有<1，则IP可逆。证 如果IP不可逆，则齐次线性方程组（IP）x=0有非零解，即有 设是上的矩阵范数相容的向量范数，则即有，这与假设条件矛盾，故IP可逆。 证毕定理2.15 设，若对上的某一种矩阵范数有，则 （1）可逆；（2）（3）证 （1）因为，有引理2.2知I+可逆，从而可逆； （2）由得 即从而故（3）利用（2），得所以 证毕推论 设，若对上的某一种矩阵范数有，则 （2.2）证 由于，并注意是增函数，根据定理2.15（3）可得所需结果。 定理2.16 设，若对上的某一种矩阵范数有，则非齐次线性方程组Ax=b与的解满足 （2.3）其中是上的矩阵范数相容的向量范数。证 将展开，并利用Ax=b，得即于是整理得又有，代入上式即得 证毕由式 （2.2）和式（2.3）可以看出，数据的误差对逆矩阵和线性方程组解的影响与数的大小有关，当该数较大时，近似逆矩阵的相对误差或线性方程组解的相对误差可能就较大。因此概述可以作为数据误差对与求逆矩阵和线性方程组的解影响大小的一种度量。定义2. 7 设，是上的矩阵范数，称为矩阵A(关于求逆或求解线性方程组)的条件数。一般的，如果矩阵A的条件数大就称A对于求逆矩阵或求解线性方程组是病态的，或坏条件的；否则，则称为良态或好条件的。有定义知，条件数的值与所取范数有关，常用的条件有其中分别为的最大和最小特征值，当A是正规矩阵时，有其中，分别是A的按模最大和最小的特征值。