第3章曲线拟合的最小二乘法PPT讲稿.ppt

《第3章曲线拟合的最小二乘法PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《第3章曲线拟合的最小二乘法PPT讲稿.ppt（23页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第3章曲线拟合的最小二乘法第1页，共23页，编辑于2022年，星期一 有时候，问题本身不要求构造的函数过所有的点。如：5个风景点，要修一条公路S使得S为直线，且到所有风景点的距离和最小。先讲些预备知识 对如上2类问题，有一个共同的数学提法：找函数空间上的函数g，使得g到f的距离最小。第2页，共23页，编辑于2022年，星期一向量范数向量范数映射：满足：非负性齐次性三角不等式称该映射为向量的一种范数范数预备知识我们定义两点的距离距离为：定义定义第3页，共23页，编辑于2022年，星期一常见的范数有：定理（范数等价性）：设为任意两种范数，则存在与x无关的正常数c1和c2，使得第4页，共23页，编辑

2、于2022年，星期一定义：函数f，g的关于离散点列的离散内积离散内积为：常用范数的等价关系：第5页，共23页，编辑于2022年，星期一定义：函数 f 的离散范数离散范数为提示：该种内积，范数的定义与向量的 2 范数一致我们还可以定义函数的离散范数为：第6页，共23页，编辑于2022年，星期一f(x)为定义在区间a,b上的函数，为区间上n+1个互不相同的点，为给定的某一函数类。求 上的函数 g(x)满足 f(x)和 g(x)的距离最小如果这种距离取为2范数的话，称为最小二乘问题曲线拟合的最小二乘问题定义定义第7页，共23页，编辑于2022年，星期一下面我们来看看最小二乘问题：求 使得 最小设最小

3、则即关于系数第8页，共23页，编辑于2022年，星期一由于它关于系数最小，因此有：即第9页，共23页，编辑于2022年，星期一写成矩阵形式有：法方程法方程由的线性无关性，知道该方程存在唯一解第10页，共23页，编辑于2022年，星期一第一步：函数空间的基，然后列出法方程第一步：函数空间的基，然后列出法方程例：第11页，共23页，编辑于2022年，星期一第一步：函数空间的基，然后列出法方程第12页，共23页，编辑于2022年，星期一由，可以先做第13页，共23页，编辑于2022年，星期一求解一个矛盾方程组，计算的是在均方误差极小意义下的解也就是最小二乘问题。我们有：矛盾方程组恒有解，且矛盾方程组

4、的求解第14页，共23页，编辑于2022年，星期一定义：矩阵范数矩阵范数矩阵范数，是由向量的范数定义的矩阵范数和条件数矩阵范数和条件数矩阵范数也是等价的第15页，共23页，编辑于2022年，星期一对应于3种常见的向量范数，有3种矩阵范数列和的最大值行和的最大值矩阵范数的一些性质：第16页，共23页，编辑于2022年，星期一定理：若为的特征值，则证：x为A的特征向量#证毕定义：谱半径谱半径易知：第17页，共23页，编辑于2022年，星期一条件数和病态矩阵条件数和病态矩阵定义：条件数表示某种范数设，引入误差 后，解引入误差，则第18页，共23页，编辑于2022年，星期一注意到注意到因为：第19页，

5、共23页，编辑于2022年，星期一条件数很小条件数表示了对误差的放大率同样，类似有第20页，共23页，编辑于2022年，星期一注：注：一般判断矩阵是否病态，并不计算一般判断矩阵是否病态，并不计算A 1，而由经验得出。，而由经验得出。行列式很大或很小（如某些行、列近似相关）；行列式很大或很小（如某些行、列近似相关）；元素间相差大数量级，且无规则；元素间相差大数量级，且无规则；主元消去过程中出现小主元；主元消去过程中出现小主元；特征值相差大数量级。特征值相差大数量级。精确解精确解为为例例计算计算cond(A)2。A 1=第21页，共23页，编辑于2022年，星期一解：解：考察考察 A 的特征根的特征根39206 1 测试病态程度：测试病态程度：给一个扰动给一个扰动，其相对误差为，其相对误差为此时此时精确解精确解为为2.0102 200%为对称矩阵第22页，共23页，编辑于2022年，星期一Homework对数据点估计如下两组基函数的法方程的条件数第23页，共23页，编辑于2022年，星期一