第五章--范数及其应用ppt课件.ppt
《第五章--范数及其应用ppt课件.ppt》由会员分享,可在线阅读,更多相关《第五章--范数及其应用ppt课件.ppt(112页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第五章第五章 范数及其应用范数及其应用虽然在微积分开端时期贝克莱将无穷小称虽然在微积分开端时期贝克莱将无穷小称为为“上帝的幽灵上帝的幽灵”,进而导致,进而导致“第二次数第二次数学危机学危机”,直到柯西的,直到柯西的“极限论极限论”和戴德和戴德金等的金等的“实数理论实数理论”的出现危机才算彻底的出现危机才算彻底解决。但微积分在近代社会的巨大作用我解决。但微积分在近代社会的巨大作用我们早已深有体会,们早已深有体会,将微积分中的极限、导将微积分中的极限、导数、积分、级数等分析思想和方法应用于数、积分、级数等分析思想和方法应用于矩阵的研究矩阵的研究,自然就在情理之中。,自然就在情理之中。对于实数和复数
2、,由于定义了它们的对于实数和复数,由于定义了它们的绝对绝对值或模,值或模,这样我们就可以用这个这样我们就可以用这个度量度量来表示它来表示它们的们的大小大小(几何上就是(几何上就是长度长度),进而可以考察),进而可以考察两个实数或复数的两个实数或复数的距离距离。对于对于 维线性空间,定义了维线性空间,定义了内积内积以后,以后,向量就有了向量就有了长度长度(大小)、(大小)、角度角度、距离距离等度量等度量概念,这显然是概念,这显然是3维现实空间中相应概念的推维现实空间中相应概念的推广。利用广。利用公理化的方法公理化的方法,可以进一步把向量长,可以进一步把向量长度的概念推广到度的概念推广到范数范数。
3、1、从向量范数到矩阵范数、从向量范数到矩阵范数一、一、从向量的长度或模谈起从向量的长度或模谈起 ,当且仅当,当且仅当 时,等号成立。时,等号成立。例例例例 1 1 1 1复数复数 的长度或的长度或模模模模指的是指的是量量显然复数显然复数 的模的模 具有下列三条性质:具有下列三条性质:,当且仅当,当且仅当 时,等号成立。时,等号成立。显然向量显然向量 的模的模 也具有下列三条性质:也具有下列三条性质:例例例例 2 2 2 2 维欧氏空间维欧氏空间 中向量中向量 的长度或范数的长度或范数定义为定义为定义定义定义定义3 3 3 3如果如果 是是数域数域 上的上的线性空间线性空间,对,对 中的任中的任
4、意向量意向量 ,都有一个,都有一个非负实数非负实数 与之对应,并与之对应,并且具有下列三个条件(且具有下列三个条件(正定性、正齐性和三角不等式正定性、正齐性和三角不等式):):则称则称 是向量是向量 的的向量范数向量范数向量范数向量范数,称定义了范数的线,称定义了范数的线性空间性空间 为为赋范线性空间赋范线性空间赋范线性空间赋范线性空间。例例例例 4 4 4 4 设设 是内积空间,则由是内积空间,则由定义的定义的 是是 上的向量范数,称为由内积上的向量范数,称为由内积 导导导导出的范数出的范数出的范数出的范数。这说明有内积必有范数,有范数则未必有这说明有内积必有范数,有范数则未必有内积,即范数
5、未必都可由内积导出内积,即范数未必都可由内积导出。例如后面介绍的。例如后面介绍的 范数范数 和和 都不是由内积导出的范数。都不是由内积导出的范数。例例例例 5 5 5 5 在赋范线性空间在赋范线性空间 中,定义任意两向量之间的中,定义任意两向量之间的距离距离为为则称此距离则称此距离 为为为为 由范数由范数由范数由范数 导出的距离导出的距离导出的距离导出的距离。此。此时按此式定义了距离的时按此式定义了距离的 满足度量空间的满足度量空间的距离三公距离三公理理(对称性、三角不等式和非负性对称性、三角不等式和非负性),所以赋范线性,所以赋范线性空间按由范数导出的距离构成一个特殊的空间按由范数导出的距离
6、构成一个特殊的度量(距离)度量(距离)度量(距离)度量(距离)空间空间空间空间。拓扑空间拓扑空间线性空间线性空间Hausdorff空间空间赋范空间赋范空间 距离空间距离空间(度量空间度量空间)拓扑线性空间拓扑线性空间完备距离完备距离线性空间线性空间距离线性空间距离线性空间内积空间内积空间Hilbert空间空间Banach空间空间欧氏空间欧氏空间 和和各类空间的层次关系各类空间的层次关系二、二、常用的向量范数常用的向量范数例例例例 6 6 6 6 对任意对任意 ,由,由定义的定义的 是是 上的向量范数,称为上的向量范数,称为2-2-范数范数范数范数或或 范数,也称为范数,也称为 Euclid E
7、uclid 范数范数范数范数。例例例例 7 7 7 7 对任意对任意 ,由,由定义的定义的 是是 上的向量范数,称为上的向量范数,称为p-p-范数范数范数范数或或 范数或范数或Holder范数。范数。定义的定义的 是是 上的向量范数,称为上的向量范数,称为1-1-范数范数范数范数或或 范数或范数或和范数和范数和范数和范数,也被风趣地称为,也被风趣地称为ManhattanManhattan范数范数范数范数。特别地,特别地,p=1 时,有时,有例例例例 8 8 8 8 对任意对任意 ,由,由ABC遗憾的是,当遗憾的是,当 时,由时,由定义的定义的 不是不是 上的向量范数。上的向量范数。因为因为 时
8、,取时,取 ,则,则定义的定义的 是是 上的向量范数,称为上的向量范数,称为 -范数范数范数范数或或 范数或范数或极大范数极大范数极大范数极大范数。在在广义实数(即将广义实数(即将“无穷无穷”看成数)看成数)范围内,范围内,P P能否能否取到正无穷大呢?具体而言,如何计算这种范数呢?取到正无穷大呢?具体而言,如何计算这种范数呢?例例例例 9 9 9 9 对任意对任意 ,由,由(1)正定性:)正定性:(2)正齐性:)正齐性:(3)三角不等式:)三角不等式:令令例例例例 10101010 计算向量计算向量的的p范数,这里范数,这里解解解解 :%exm501.m a=3*i,-4*i,0,-12;n
9、orm(a),norm(a,1),norm(a,inf)ans=13ans=19ans=12这些范数在几何上如何理解呢?这些范数在几何上如何理解呢?例例例例11 11 11 11 对任意对任意 ,对应于,对应于 四四种范数的种范数的闭单位圆闭单位圆 的图形分别为的图形分别为定义的定义的 是是 上的向量范数,称为上的向量范数,称为加权范数加权范数加权范数加权范数或或椭椭椭椭圆范数圆范数圆范数圆范数。例例例例 12 12 12 12 若矩阵若矩阵 为正定为正定Hermite矩阵,则由矩阵,则由对于任意对于任意 ,有,有当当 时,时,;当;当 时由时由 知知 ,即,即 。由于由于 ,故存在酉矩阵,故
10、存在酉矩阵 ,使得,使得从而有从而有这里这里 的特征值的特征值 都为正数。都为正数。因此对任意因此对任意 ,即定理即定理2.4.9从几何上可以理解成求可逆变换从几何上可以理解成求可逆变换 的像的像 的的“长长度度”。这说明只要运算这说明只要运算 成立即可,因此成立即可,因此对矩阵对矩阵 的要求可放宽为的要求可放宽为列满秩矩阵列满秩矩阵。如果如果 ,此时,此时这就是这就是加权范数加权范数加权范数加权范数或或椭圆范数椭圆范数椭圆范数椭圆范数名称的由来。名称的由来。为为李雅普诺夫(李雅普诺夫(李雅普诺夫(李雅普诺夫(LyapunovLyapunov)函数)函数)函数)函数,这里,这里 是正定是正定H
11、ermite矩阵。大家已经知道,此函数是讨论线性和矩阵。大家已经知道,此函数是讨论线性和非线性系统稳定性的重要工具。非线性系统稳定性的重要工具。在现代控制理论中,称二次型函数在现代控制理论中,称二次型函数例例例例 13 13 13 13(模式识别中的模式分类问题模式识别中的模式分类问题)模式分类模式分类模式分类模式分类的问题指的是根据已知类型属性的观测样本的问题指的是根据已知类型属性的观测样本的模式向量的模式向量 ,判断未知类型属性的模式,判断未知类型属性的模式向量向量 归属于哪一类模式。其基本思想是归属于哪一类模式。其基本思想是根据根据 与与模式样本向量模式样本向量 的相似度大小作出判断。的
12、相似度大小作出判断。最简单的方法是用最简单的方法是用两向量之间的距离两向量之间的距离来表示相似度,来表示相似度,距离越小,相似度越大距离越小,相似度越大。最典型的是。最典型的是Euclidean距离距离其他其他距离测度距离测度还包括还包括以及与椭圆范数类似的以及与椭圆范数类似的Mahalanobis距离距离:这里这里 是从正态总体是从正态总体 中抽取的两个样本。中抽取的两个样本。例例例例 14141414 对任意对任意 ,由,由定义的定义的 是是 上的向量范数,称为上的向量范数,称为 范数。范数。特别地,特别地,范数、范数、范数和范数和 范数分别为范数分别为定理定理定理定理15 15 15 1
13、5 设线性空间设线性空间 中任意向量中任意向量 在基在基下的坐标向量为下的坐标向量为 ,则,则是是 上的向量范数。上的向量范数。三、三、向量范数的几个性质向量范数的几个性质定理定理定理定理16 16 16 16 Euclid范数是范数是酉不变酉不变酉不变酉不变的,即对任意酉矩阵的,即对任意酉矩阵 以及任意以及任意 ,均有,均有这个定理的结论是显然的,因为酉变换保持向量的这个定理的结论是显然的,因为酉变换保持向量的内积不变内积不变,自然也保持了,自然也保持了Euclid意义下的意义下的几何结构几何结构(长度、(长度、角度角度或或范数范数等)等)不变不变。注意这个结论对注意这个结论对无限维无限维未
14、必成立。另外,根据等价未必成立。另外,根据等价性,处理向量问题(例如向量序列的敛散性)时,性,处理向量问题(例如向量序列的敛散性)时,我们可以基于一种范数来建立理论,而使用另一种我们可以基于一种范数来建立理论,而使用另一种范数来进行计算。范数来进行计算。定理定理定理定理17 17 17 17 有限维线性空间有限维线性空间 上的上的不同范数是等价的不同范数是等价的不同范数是等价的不同范数是等价的,即对即对 上定义的任意两种向量范数上定义的任意两种向量范数 ,必,必存在两个任意正常数存在两个任意正常数 ,使得,使得 向量是特殊的矩阵,向量是特殊的矩阵,矩阵可以看矩阵可以看成一个成一个 维向量,因此
15、自然想到将向维向量,因此自然想到将向量范数推广到矩阵范数。量范数推广到矩阵范数。2、矩阵范数、矩阵范数定义定义定义定义1 1 1 1 对对 中的任意矩阵中的任意矩阵 ,都有一个非负实,都有一个非负实数数 与之对应,并且具有下列三个条件(与之对应,并且具有下列三个条件(正定性、正正定性、正齐性和三角不等式齐性和三角不等式):):则称则称 是矩阵是矩阵 的(的(广义广义广义广义)矩阵范数矩阵范数矩阵范数矩阵范数。一、一、矩阵范数的概念矩阵范数的概念例例例例 2 2 2 2 对任意对任意 ,由,由定义的定义的 是是 上的矩阵范数,称为上的矩阵范数,称为 范数。范数。时退化为时退化为 中的中的1范数;
16、范数;时退化为时退化为 中的中的1范数。范数。例例例例 3 3 3 3 对任意对任意 ,由,由定义的定义的 是是 上的(广义)矩阵范数,称为上的(广义)矩阵范数,称为 范数。范数。时退化为时退化为 中的中的 范数;范数;时退化为时退化为 中的中的 范数。范数。例例例例 4 4 4 4 对任意对任意 ,由,由定义的定义的 是是 上的矩阵范数,称为上的矩阵范数,称为 范范数或数或Euclid Euclid 范数或范数或范数或范数或SchurSchur范数范数范数范数或或FrobeniusFrobenius范数范数范数范数(F(F范数范数范数范数)或或或或Hibert-SchmidtHibert-S
17、chmidt范数范数范数范数。时退化为时退化为 中的中的2范数;范数;时退化为时退化为 中的中的2范数。范数。二、二、算子范数和范数的相容性算子范数和范数的相容性矩阵不仅仅是向量,它还可以看成变换或算子。矩阵不仅仅是向量,它还可以看成变换或算子。实际实际中,从算子或变换的角度来定义范数更加有用。中,从算子或变换的角度来定义范数更加有用。定义定义定义定义5 5 5 5 对对 中的任意矩阵中的任意矩阵 ,用一个非负实,用一个非负实数数 表示对于任意向量表示对于任意向量 ,可以可以“拉伸拉伸”向量向量 的最大倍数的最大倍数,即使得不等式,即使得不等式成立的最小的数成立的最小的数 。称。称 为范数为范
18、数 和和 诱导出的矩阵范数诱导出的矩阵范数诱导出的矩阵范数诱导出的矩阵范数或或算子范数算子范数算子范数算子范数。由矩阵范数的正齐性可知由矩阵范数的正齐性可知 的作用是由它对单位向的作用是由它对单位向量的作用所决定,因此可以等价地用量的作用所决定,因此可以等价地用单位向量在单位向量在 下下的像的像来定义算子范数,即来定义算子范数,即从几何上看,算子范数反映了线性映射把一个向量映从几何上看,算子范数反映了线性映射把一个向量映射为另一个向量,射为另一个向量,向量的向量的“长度长度”缩放的比例缩放的比例 的上界。的上界。而且考虑到而且考虑到矩阵乘法的重要地位矩阵乘法的重要地位,因此讨论矩阵范数,因此讨
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第五 范数 及其 应用 ppt 课件
限制150内