矩阵理论讲义第四章内积空间优秀PPT.ppt

《矩阵理论讲义第四章内积空间优秀PPT.ppt》由会员分享，可在线阅读，更多相关《矩阵理论讲义第四章内积空间优秀PPT.ppt（63页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、矩阵理论讲义第四章内积空间现在学习的是第1页，共63页4.1 实内积空间实内积空间定定义义.设设V 是一个实线性空间，是一个实线性空间，R为实数域，为实数域，2若若 a a,b b V,存在唯一的存在唯一的 r R与之对应，与之对应，记作记作(a a,b b)=r,并且满足并且满足(1)(a a,b b)=(b b,a a)(2)(a a+b b,g g)=(a a,g g)+(b b,g g)(3)(ka a,b b)=k(a a,b b)(4)(a a,a a)0,(a a,a a)=0 a a=0则称则称 (a a,b b)为为a a 与与b b 的内积，的内积，V 为为实实内积空间。内

2、积空间。实实内积空间也称欧几里得内积空间也称欧几里得(Euclid)空间。空间。对称性对称性线性性线性性非负性非负性现在学习的是第2页，共63页3定义内积定义内积(内积的离散形式内积的离散形式)例例.线性线性空间空间称为称为内积内积空间空间 的标准内积的标准内积。现在学习的是第3页，共63页4定义内积（定义内积（内积一般形式）内积一般形式）A为为 n 阶阶实正定矩阵实正定矩阵，例例.线性线性空间空间现在学习的是第4页，共63页5定义内积（内积的连续形式）定义内积（内积的连续形式）例例.线性线性空间空间Ca,b，f,gCa,b现在学习的是第5页，共63页6由定义知（关于第二个元素的线性性质）由定

3、义知（关于第二个元素的线性性质）(5)(a a,b b+g g)=(a a,b b)+(a a,g g)(6)(a a,kb b)=k(a a,b b)现在学习的是第6页，共63页向量长度向量长度,Cauchy-Schwarz不等式不等式定义定义.设设V 为为实实内积空间，称内积空间，称 为向量为向量a a 的长度，的长度，记作记作|a a|。定理定理.设设V 是是实实内积空间，内积空间，a a,b b V,k R，则，则等号成立当且仅当等号成立当且仅当a a,b b 线性相关；线性相关；Cauchy-Schwarz不等式不等式三角不等式三角不等式正定性正定性齐次性齐次性现在学习的是第7页，共

4、63页现在学习的是第8页，共63页现在学习的是第9页，共63页现在学习的是第10页，共63页11例：利用例：利用Cauchy-Schwaz不等式证明不等式证明现在学习的是第11页，共63页向量的夹角向量的夹角由由Cauchy-Schwaz不等式可知不等式可知现在学习的是第12页，共63页向量的正交向量的正交定义定义.设设V 是是实实内积空间，内积空间，a a,b b V,若若(a a,b b)=0=0,则称则称 a a 与与b b 正交，记作正交，记作 a a b b。a a 与与b b 正交正交这就是实这就是实内积空间中的勾股定理。内积空间中的勾股定理。现在学习的是第13页，共63页现在学习

5、的是第14页，共63页15向量向量a a 与与b b 在该基下的坐标为在该基下的坐标为现在学习的是第15页，共63页16现在学习的是第16页，共63页度量矩阵度量矩阵矩阵矩阵 A 称为基的度量矩阵。称为基的度量矩阵。即即 A 为实对称矩阵。为实对称矩阵。即即 A 为为实正定矩阵实正定矩阵。现在学习的是第17页，共63页定理：设内积空间定理：设内积空间V 的两个基是：的两个基是：它们的度量矩阵它们的度量矩阵分别分别为为A与与B，则，则A与与B是合同的，是合同的，即存在可逆矩阵即存在可逆矩阵P，使得，使得其中可逆矩阵其中可逆矩阵P 是由前组基到后组基的过渡矩阵。是由前组基到后组基的过渡矩阵。现在学

6、习的是第18页，共63页4.2 标准正交基标准正交基若它们两两正交，则称其为一个正交向量组。若它们两两正交，则称其为一个正交向量组。定理：正交向量组必是线性无关的。定理：正交向量组必是线性无关的。现在学习的是第19页，共63页20且其中每个向量的长度都是且其中每个向量的长度都是 1 1，注意：注意：(1)标准正交基的度量矩阵是单位矩阵，即标准正交基的度量矩阵是单位矩阵，即(2)向量在标准正交基下的坐标是该向量在对应的向量在标准正交基下的坐标是该向量在对应的基向量上的正投影，即基向量上的正投影，即现在学习的是第20页，共63页Gram-Schmidt 正交化过程正交化过程Gram-Schmidt

7、 正交化过程：正交化过程：设设是内积空间是内积空间V 中线性无关中线性无关的向量组的向量组，使得，使得则则V 中存在正交向量组中存在正交向量组现在学习的是第21页，共63页Gram-Schmidt 正交化过程正交化过程 图解图解现在学习的是第22页，共63页23令令是是正交向量组，并且正交向量组，并且则则现在学习的是第23页，共63页记记现在学习的是第24页，共63页或或注意到注意到K是可逆矩阵，因此是可逆矩阵，因此现在学习的是第25页，共63页是正交向量组是正交向量组下面用归纳法说明下面用归纳法说明由归纳法假设可知由归纳法假设可知是正交向量组。是正交向量组。即即现在学习的是第26页，共63页

8、矩阵矩阵A的的QR分解分解推论推论1：n 维实内积空间维实内积空间V 必存在标准正交基。必存在标准正交基。推论推论2：n 维实内积空间维实内积空间V 中任一中任一正交向量组都可扩充成正交向量组都可扩充成V 的一个正交基。的一个正交基。推论推论3:设设A为可逆阵，则存在为可逆阵，则存在正交阵正交阵Q和可逆上三角阵和可逆上三角阵R使得使得 A=QR，称为矩阵，称为矩阵A的的QR分解。分解。现在学习的是第27页，共63页28设设A为为 n 阶可逆阵，则利用阶可逆阵，则利用Gram-Schmidt正交化过程，正交化过程，现在学习的是第28页，共63页29现在学习的是第29页，共63页30例例:求求矩阵

9、矩阵A的的QR分解，分解，现在学习的是第30页，共63页现在学习的是第31页，共63页现在学习的是第32页，共63页现在学习的是第33页，共63页现在学习的是第34页，共63页4.3 正交子空间正交子空间定义定义:设设W,U是实内积空间是实内积空间V 的子空间，的子空间，(1)a a V,若若 b b W,都有都有(a,b a,b)=0,则称则称a a 与与W 正交，记作正交，记作a a W;(2)若若 a a W,b b U,都有都有(a,b a,b)=0,则称则称W 与与U 正交，记作正交，记作W U;(3)若若W U，并且，并且W +U=V,则称则称U 为为W 的正交补。的正交补。注意：

10、若注意：若W U，则则 W与与U 的和必是直和。的和必是直和。现在学习的是第35页，共63页正交补的存在唯一性正交补的存在唯一性定理定理:设设W 是实内积空间是实内积空间V 的子空间，则的子空间，则W 的正交补的正交补存在且唯一，记该存在且唯一，记该正交补为正交补为 ，并且，并且现在学习的是第36页，共63页向量的正投影向量的正投影定义定义:设设W 是实内积空间是实内积空间V 的子空间，的子空间，则称向量则称向量b b 为向量为向量a a 在在W上的正投影，上的正投影，称向量长度称向量长度|g g|为向量为向量a a 到到W 的距离。的距离。Wd db bOa ag g现在学习的是第37页，共

11、63页垂线最短定理垂线最短定理定理定理:设设W 是实内积空间是实内积空间V 的子空间，的子空间，a a V,b b 为为a a 在在W上的正投影，则上的正投影，则 d d W,有有并且等号成立当且仅当并且等号成立当且仅当 b b=d d。Wd db ba a现在学习的是第38页，共63页最小二乘法最小二乘法 问题提出问题提出:实系数线性方程组实系数线性方程组（1）即任意即任意 都可能使都可能使 （2）不等于零不等于零可能无解，可能无解，现在学习的是第39页，共63页 设法找实数组设法找实数组 使使（2）最小最小,这样的这样的 为方程组为方程组（1）的的最小二乘解最小二乘解，此问题叫此问题叫最小

12、二乘法问题最小二乘法问题.最小二乘法的表示最小二乘法的表示:设设（3）现在学习的是第40页，共63页用距离的概念，（用距离的概念，（2）就是就是 由由（3）,设设 则则要找要找 使（使（2）最小，等价于找子空间）最小，等价于找子空间 中向量中向量 使使 到它的距离到它的距离 比到比到 中其它向量的距离都短中其它向量的距离都短.现在学习的是第41页，共63页设设这等价于这等价于（4）即即 这样（这样（4）等价于）等价于（5）为此必为此必或或这就是最小二乘解所满足的代数方程这就是最小二乘解所满足的代数方程.现在学习的是第42页，共63页 已知某种材料在生产过程中的废品率已知某种材料在生产过程中的废

13、品率 与某种与某种 化学成份化学成份 有关下列表中记载了某工厂生产有关下列表中记载了某工厂生产 中中 与相应的与相应的 的几次数值：的几次数值：找出找出 对对 的一个近似公式的一个近似公式.例题例题现在学习的是第43页，共63页把表中数值画出图来看，发现它的变化趋势把表中数值画出图来看，发现它的变化趋势近于一条直线近于一条直线 因此我们决定选取因此我们决定选取 的一次式的一次式 来表达当然最好能选到适当的来表达当然最好能选到适当的使得下面的等式使得下面的等式解：解：都成立都成立.现在学习的是第44页，共63页实际上是不可能的任何实际上是不可能的任何 代入上面各式都发生代入上面各式都发生 些误差

14、些误差.于是想找到于是想找到 使得上面各式的误差的平方使得上面各式的误差的平方和最小，和最小，即找即找 使使 最小最小.易知易知 现在学习的是第45页，共63页 最小二乘解最小二乘解 所满足的方程就是所满足的方程就是 现在学习的是第46页，共63页解得解得（取三位有效数字）（取三位有效数字）.即为即为 现在学习的是第47页，共63页4.4 正交变换正交变换定义定义:设设T 是实内积空间是实内积空间V 的线性变换，若的线性变换，若 a a V 有有则称则称T 为为V 的正交变换。的正交变换。现在学习的是第48页，共63页正交变换的特征刻画正交变换的特征刻画定理定理:设设T 是实内积空间是实内积空

15、间V 的线性变换，的线性变换，a a,b b V，则下列命题等价，则下列命题等价，现在学习的是第49页，共63页50推论推论：(1)两个正交变换的积仍是正交变换；两个正交变换的积仍是正交变换；(2)正交变换的逆变换仍是正交变换。正交变换的逆变换仍是正交变换。现在学习的是第50页，共63页Householder 变换变换构造构造 的正交变换的正交变换讨论正交变换讨论正交变换H 的几何意义。的几何意义。现在学习的是第51页，共63页故故H(a a)是是a a关于子空间的反射，关于子空间的反射，d da ag gb bw wO-g-g矩阵矩阵H 称为称为Householder矩阵，矩阵，变换变换H

16、称为称为Householder变换，变换，变换变换H 也称初等反射也称初等反射变换。变换。现在学习的是第52页，共63页53求一个求一个初等反射初等反射变换变换H，使，使H(a a)=b b。只需求一个只需求一个w w 使得使得b b 是是a a 关于子空间关于子空间 的反射，的反射，于是于是w w 与与a-b a-b 平行，故可取平行，故可取现在学习的是第53页，共63页4.5 复内积空间复内积空间定定义义.设设V 是一个是一个复复线性空间，线性空间，C 为复数域，为复数域，54若若 a a,b b V,存在唯一的存在唯一的 c C与之对应，与之对应，记作记作(a a,b b)=c,并且满足

17、并且满足(2)(a a+b b,g g)=(a a,g g)+(b b,g g)(3)(ka a,b b)=k(a a,b b)(4)(a a,a a)0,(a a,a a)=0 a a=0则称则称 (a a,b b)为为a a 与与b b 的内积，的内积，V 为为复复内积空间。内积空间。复复内积空间也称酉空间。内积空间也称酉空间。对称性对称性线性性线性性非负性非负性(1)(a a,b b)=(b b,a a)现在学习的是第54页，共63页55定义内积定义内积例例.线性线性空间空间称为复内积称为复内积空间空间 的标准内积。的标准内积。现在学习的是第55页，共63页56在复内积空间中还有在复内积

18、空间中还有(5)(a a,b b+g g)=(a a,b b)+(a a,g g)(6)(a a,kb b)=k(a a,b b)(8)Cauchy-Schwaz不等式不等式且且(a a,b b)=0=0 a a 与与b b 正交正交(10)Schmidt正交化过程把线性无关的向量组变成正交组正交化过程把线性无关的向量组变成正交组现在学习的是第56页，共63页57向量向量a a 与与b b 在该基下的坐标为在该基下的坐标为现在学习的是第57页，共63页58现在学习的是第58页，共63页度量矩阵度量矩阵矩阵矩阵 A 称为基的称为基的度量矩阵度量矩阵。，即，即 A 为复正定矩阵。为复正定矩阵。，则

19、称，则称 A 为为Hermite矩阵。矩阵。，即，即A 为为Hermite矩阵。矩阵。称称 A 为复正定矩阵。为复正定矩阵。现在学习的是第59页，共63页设设T 是复内积空间是复内积空间V 的线性变换，若的线性变换，若 a a V 有有则称则称T 为为V 的酉变换。的酉变换。现在学习的是第60页，共63页定理定理:设设T 是复内积空间是复内积空间V 的线性变换，的线性变换，a a,b b V，则下列命题等价，则下列命题等价，现在学习的是第61页，共63页4.6 正规矩阵正规矩阵例如，对角阵，酉矩阵，例如，对角阵，酉矩阵，Hermite阵都是正规阵。阵都是正规阵。定义定义2：设：设 A,B是复方阵，若存在酉矩阵是复方阵，若存在酉矩阵U，使，使则称则称A与与B酉相似。酉相似。现在学习的是第62页，共63页定理定理1：任意复方阵必与上三角阵：任意复方阵必与上三角阵酉相似酉相似。对复方阵的阶数用归纳法。对复方阵的阶数用归纳法。引理引理1：正规的三角阵必是对角阵。：正规的三角阵必是对角阵。定理定理2：复方阵：复方阵A与对角阵与对角阵酉相似的充分必要条件是酉相似的充分必要条件是A是正规阵。是正规阵。推论：实对称推论：实对称阵必与对角阵相似的阵必与对角阵相似的。现在学习的是第63页，共63页