矩阵理论讲义第四章内积空间优秀课件.ppt

《矩阵理论讲义第四章内积空间优秀课件.ppt》由会员分享，可在线阅读，更多相关《矩阵理论讲义第四章内积空间优秀课件.ppt（63页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、矩阵理论讲义第四章内积空间第1页，本讲稿共63页4.1 实内积空间实内积空间定定义义.设设V 是一个实线性空间，是一个实线性空间，R为实数域，为实数域，2若若 a a,b b V,存在唯一的存在唯一的 r R与之对应，与之对应，记作记作(a a,b b)=r,并且满足并且满足(1)(a a,b b)=(b b,a a)(2)(a a+b b,g g)=(a a,g g)+(b b,g g)(3)(ka a,b b)=k(a a,b b)(4)(a a,a a)0,(a a,a a)=0 a a=0则称则称 (a a,b b)为为a a 与与b b 的内积，的内积，V 为为实实内积空间。内积空间

2、。实实内积空间也称欧几里得内积空间也称欧几里得(Euclid)空间。空间。对称性对称性线性性线性性非负性非负性第2页，本讲稿共63页3定义内积定义内积(内积的离散形式内积的离散形式)例例.线性线性空间空间称为称为内积内积空间空间 的标准内积的标准内积。第3页，本讲稿共63页4定义内积（定义内积（内积一般形式）内积一般形式）A为为 n 阶阶实正定矩阵实正定矩阵，例例.线性线性空间空间第4页，本讲稿共63页5定义内积（内积的连续形式）定义内积（内积的连续形式）例例.线性线性空间空间Ca,b，f,gCa,b第5页，本讲稿共63页6由定义知（关于第二个元素的线性性质）由定义知（关于第二个元素的线性性质

3、）(5)(a a,b b+g g)=(a a,b b)+(a a,g g)(6)(a a,kb b)=k(a a,b b)第6页，本讲稿共63页向量长度向量长度,Cauchy-Schwarz不等式不等式定义定义.设设V 为为实实内积空间，称内积空间，称 为向量为向量a a 的长度，的长度，记作记作|a a|。定理定理.设设V 是是实实内积空间，内积空间，a a,b b V,k R，则，则等号成立当且仅当等号成立当且仅当a a,b b 线性相关；线性相关；Cauchy-Schwarz不等式不等式三角不等式三角不等式正定性正定性齐次性齐次性第7页，本讲稿共63页第8页，本讲稿共63页第9页，本讲稿

4、共63页第10页，本讲稿共63页11例：利用例：利用Cauchy-Schwaz不等式证明不等式证明第11页，本讲稿共63页向量的夹角向量的夹角由由Cauchy-Schwaz不等式可知不等式可知第12页，本讲稿共63页向量的正交向量的正交定义定义.设设V 是是实实内积空间，内积空间，a a,b b V,若若(a a,b b)=0=0,则称则称 a a 与与b b 正交，记作正交，记作 a a b b。a a 与与b b 正交正交这就是实这就是实内积空间中的勾股定理。内积空间中的勾股定理。第13页，本讲稿共63页第14页，本讲稿共63页15向量向量a a 与与b b 在该基下的坐标为在该基下的坐标

5、为第15页，本讲稿共63页16第16页，本讲稿共63页度量矩阵度量矩阵矩阵矩阵 A 称为基的度量矩阵。称为基的度量矩阵。即即 A 为实对称矩阵。为实对称矩阵。即即 A 为为实正定矩阵实正定矩阵。第17页，本讲稿共63页定理：设内积空间定理：设内积空间V 的两个基是：的两个基是：它们的度量矩阵它们的度量矩阵分别分别为为A与与B，则，则A与与B是合同的，是合同的，即存在可逆矩阵即存在可逆矩阵P，使得，使得其中可逆矩阵其中可逆矩阵P 是由前组基到后组基的过渡矩阵。是由前组基到后组基的过渡矩阵。第18页，本讲稿共63页4.2 标准正交基标准正交基若它们两两正交，则称其为一个正交向量组。若它们两两正交，

6、则称其为一个正交向量组。定理：正交向量组必是线性无关的。定理：正交向量组必是线性无关的。第19页，本讲稿共63页20且其中每个向量的长度都是且其中每个向量的长度都是 1 1，注意：注意：(1)标准正交基的度量矩阵是单位矩阵，即标准正交基的度量矩阵是单位矩阵，即(2)向量在标准正交基下的坐标是该向量在对应的向量在标准正交基下的坐标是该向量在对应的基向量上的正投影，即基向量上的正投影，即第20页，本讲稿共63页Gram-Schmidt 正交化过程正交化过程Gram-Schmidt 正交化过程：正交化过程：设设是内积空间是内积空间V 中线性无关中线性无关的向量组的向量组，使得，使得则则V 中存在正交

7、向量组中存在正交向量组第21页，本讲稿共63页Gram-Schmidt 正交化过程正交化过程 图解图解第22页，本讲稿共63页23令令是是正交向量组，并且正交向量组，并且则则第23页，本讲稿共63页记记第24页，本讲稿共63页或或注意到注意到K是可逆矩阵，因此是可逆矩阵，因此第25页，本讲稿共63页是正交向量组是正交向量组下面用归纳法说明下面用归纳法说明由归纳法假设可知由归纳法假设可知是正交向量组。是正交向量组。即即第26页，本讲稿共63页矩阵矩阵A的的QR分解分解推论推论1：n 维实内积空间维实内积空间V 必存在标准正交基。必存在标准正交基。推论推论2：n 维实内积空间维实内积空间V 中任一

8、中任一正交向量组都可扩充成正交向量组都可扩充成V 的一个正交基。的一个正交基。推论推论3:设设A为可逆阵，则存在为可逆阵，则存在正交阵正交阵Q和可逆上三角阵和可逆上三角阵R使得使得 A=QR，称为矩阵，称为矩阵A的的QR分解。分解。第27页，本讲稿共63页28设设A为为 n 阶可逆阵，则利用阶可逆阵，则利用Gram-Schmidt正交化过程，正交化过程，第28页，本讲稿共63页29第29页，本讲稿共63页30例例:求求矩阵矩阵A的的QR分解，分解，第30页，本讲稿共63页第31页，本讲稿共63页第32页，本讲稿共63页第33页，本讲稿共63页第34页，本讲稿共63页4.3 正交子空间正交子空间

9、定义定义:设设W,U是实内积空间是实内积空间V 的子空间，的子空间，(1)a a V,若若 b b W,都有都有(a,b a,b)=0,则称则称a a 与与W 正交，记作正交，记作a a W;(2)若若 a a W,b b U,都有都有(a,b a,b)=0,则称则称W 与与U 正交，记作正交，记作W U;(3)若若W U，并且，并且W +U=V,则称则称U 为为W 的正交补。的正交补。注意：若注意：若W U，则则 W与与U 的和必是直和。的和必是直和。第35页，本讲稿共63页正交补的存在唯一性正交补的存在唯一性定理定理:设设W 是实内积空间是实内积空间V 的子空间，则的子空间，则W 的正交补

10、的正交补存在且唯一，记该存在且唯一，记该正交补为正交补为 ，并且，并且第36页，本讲稿共63页向量的正投影向量的正投影定义定义:设设W 是实内积空间是实内积空间V 的子空间，的子空间，则称向量则称向量b b 为向量为向量a a 在在W上的正投影，上的正投影，称向量长度称向量长度|g g|为向量为向量a a 到到W 的距离。的距离。Wd db bOa ag g第37页，本讲稿共63页垂线最短定理垂线最短定理定理定理:设设W 是实内积空间是实内积空间V 的子空间，的子空间，a a V,b b 为为a a 在在W上的正投影，则上的正投影，则 d d W,有有并且等号成立当且仅当并且等号成立当且仅当

11、b b=d d。Wd db ba a第38页，本讲稿共63页最小二乘法最小二乘法 问题提出问题提出:实系数线性方程组实系数线性方程组（1）即任意即任意 都可能使都可能使 （2）不等于零不等于零可能无解，可能无解，第39页，本讲稿共63页 设法找实数组设法找实数组 使使（2）最小最小,这样的这样的 为方程组为方程组（1）的的最小二乘解最小二乘解，此问题叫此问题叫最小二乘法问题最小二乘法问题.最小二乘法的表示最小二乘法的表示:设设（3）第40页，本讲稿共63页用距离的概念，（用距离的概念，（2）就是就是 由由（3）,设设 则则要找要找 使（使（2）最小，等价于找子空间）最小，等价于找子空间 中向量

12、中向量 使使 到它的距离到它的距离 比到比到 中其它向量的距离都短中其它向量的距离都短.第41页，本讲稿共63页设设这等价于这等价于（4）即即 这样（这样（4）等价于）等价于（5）为此必为此必或或这就是最小二乘解所满足的代数方程这就是最小二乘解所满足的代数方程.第42页，本讲稿共63页 已知某种材料在生产过程中的废品率已知某种材料在生产过程中的废品率 与某种与某种 化学成份化学成份 有关下列表中记载了某工厂生产有关下列表中记载了某工厂生产 中中 与相应的与相应的 的几次数值：的几次数值：找出找出 对对 的一个近似公式的一个近似公式.例题例题第43页，本讲稿共63页把表中数值画出图来看，发现它的

13、变化趋势把表中数值画出图来看，发现它的变化趋势近于一条直线近于一条直线 因此我们决定选取因此我们决定选取 的一次式的一次式 来表达当然最好能选到适当的来表达当然最好能选到适当的使得下面的等式使得下面的等式解：解：都成立都成立.第44页，本讲稿共63页实际上是不可能的任何实际上是不可能的任何 代入上面各式都发生代入上面各式都发生 些误差些误差.于是想找到于是想找到 使得上面各式的误差的平方使得上面各式的误差的平方和最小，和最小，即找即找 使使 最小最小.易知易知 第45页，本讲稿共63页 最小二乘解最小二乘解 所满足的方程就是所满足的方程就是 第46页，本讲稿共63页解得解得（取三位有效数字）（

14、取三位有效数字）.即为即为 第47页，本讲稿共63页4.4 正交变换正交变换定义定义:设设T 是实内积空间是实内积空间V 的线性变换，若的线性变换，若 a a V 有有则称则称T 为为V 的正交变换。的正交变换。第48页，本讲稿共63页正交变换的特征刻画正交变换的特征刻画定理定理:设设T 是实内积空间是实内积空间V 的线性变换，的线性变换，a a,b b V，则下列命题等价，则下列命题等价，第49页，本讲稿共63页50推论推论：(1)两个正交变换的积仍是正交变换；两个正交变换的积仍是正交变换；(2)正交变换的逆变换仍是正交变换。正交变换的逆变换仍是正交变换。第50页，本讲稿共63页Househ

15、older 变换变换构造构造 的正交变换的正交变换讨论正交变换讨论正交变换H 的几何意义。的几何意义。第51页，本讲稿共63页故故H(a a)是是a a关于子空间的反射，关于子空间的反射，d da ag gb bw wO-g-g矩阵矩阵H 称为称为Householder矩阵，矩阵，变换变换H 称为称为Householder变换，变换，变换变换H 也称初等反射也称初等反射变换。变换。第52页，本讲稿共63页53求一个求一个初等反射初等反射变换变换H，使，使H(a a)=b b。只需求一个只需求一个w w 使得使得b b 是是a a 关于子空间关于子空间 的反射，的反射，于是于是w w 与与a-b

16、 a-b 平行，故可取平行，故可取第53页，本讲稿共63页4.5 复内积空间复内积空间定定义义.设设V 是一个是一个复复线性空间，线性空间，C 为复数域，为复数域，54若若 a a,b b V,存在唯一的存在唯一的 c C与之对应，与之对应，记作记作(a a,b b)=c,并且满足并且满足(2)(a a+b b,g g)=(a a,g g)+(b b,g g)(3)(ka a,b b)=k(a a,b b)(4)(a a,a a)0,(a a,a a)=0 a a=0则称则称 (a a,b b)为为a a 与与b b 的内积，的内积，V 为为复复内积空间。内积空间。复复内积空间也称酉空间。内积

17、空间也称酉空间。对称性对称性线性性线性性非负性非负性(1)(a a,b b)=(b b,a a)第54页，本讲稿共63页55定义内积定义内积例例.线性线性空间空间称为复内积称为复内积空间空间 的标准内积。的标准内积。第55页，本讲稿共63页56在复内积空间中还有在复内积空间中还有(5)(a a,b b+g g)=(a a,b b)+(a a,g g)(6)(a a,kb b)=k(a a,b b)(8)Cauchy-Schwaz不等式不等式且且(a a,b b)=0=0 a a 与与b b 正交正交(10)Schmidt正交化过程把线性无关的向量组变成正交组正交化过程把线性无关的向量组变成正交

18、组第56页，本讲稿共63页57向量向量a a 与与b b 在该基下的坐标为在该基下的坐标为第57页，本讲稿共63页58第58页，本讲稿共63页度量矩阵度量矩阵矩阵矩阵 A 称为基的称为基的度量矩阵度量矩阵。，即，即 A 为复正定矩阵。为复正定矩阵。，则称，则称 A 为为Hermite矩阵。矩阵。，即，即A 为为Hermite矩阵。矩阵。称称 A 为复正定矩阵。为复正定矩阵。第59页，本讲稿共63页设设T 是复内积空间是复内积空间V 的线性变换，若的线性变换，若 a a V 有有则称则称T 为为V 的酉变换。的酉变换。第60页，本讲稿共63页定理定理:设设T 是复内积空间是复内积空间V 的线性变

19、换，的线性变换，a a,b b V，则下列命题等价，则下列命题等价，第61页，本讲稿共63页4.6 正规矩阵正规矩阵例如，对角阵，酉矩阵，例如，对角阵，酉矩阵，Hermite阵都是正规阵。阵都是正规阵。定义定义2：设：设 A,B是复方阵，若存在酉矩阵是复方阵，若存在酉矩阵U，使，使则称则称A与与B酉相似。酉相似。第62页，本讲稿共63页定理定理1：任意复方阵必与上三角阵：任意复方阵必与上三角阵酉相似酉相似。对复方阵的阶数用归纳法。对复方阵的阶数用归纳法。引理引理1：正规的三角阵必是对角阵。：正规的三角阵必是对角阵。定理定理2：复方阵：复方阵A与对角阵与对角阵酉相似的充分必要条件是酉相似的充分必要条件是A是正规阵。是正规阵。推论：实对称推论：实对称阵必与对角阵相似的阵必与对角阵相似的。第63页，本讲稿共63页