第六章-拟合ppt课件.ppt

《第六章-拟合ppt课件.ppt》由会员分享，可在线阅读，更多相关《第六章-拟合ppt课件.ppt（59页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1.均差与均差与Newton插值插值前一次课内容回顾前一次课内容回顾2.Hermite插值（已知函数值和一阶导数值、插值（已知函数值和一阶导数值、分段三次分段三次Hermite插值）插值）3.三次样条插值（定义及建立方法）三次样条插值（定义及建立方法）第六章第六章数据拟合方法数据拟合方法第六章第六章 数据拟合方法数据拟合方法数据拟合的最小二乘法数据拟合的最小二乘法Bezier曲线曲线正交多项式正交多项式最佳平方逼近最佳平方逼近例：考察某种纤维的强度与其拉伸倍数的关系例：考察某种纤维的强度与其拉伸倍数的关系,下表是实下表是实际测定的际测定的24个纤维样品的强度与相应的拉伸倍数的记录个纤维样品的强

2、度与相应的拉伸倍数的记录:纤维强度随拉伸倍数增加而增加。纤维强度随拉伸倍数增加而增加。纤维强度随拉伸倍数增加而增加。纤维强度随拉伸倍数增加而增加。6.1 数据拟合的最小二乘法数据拟合的最小二乘法一、一、曲线拟合的数学描述与问题求解曲线拟合的数学描述与问题求解24个点大致分布个点大致分布在一条直线附近。在一条直线附近。故可认为强度故可认为强度y与拉伸倍数与拉伸倍数x的的主要关系应为线主要关系应为线性关系：性关系：必须找到一种度量标准来衡量什么曲线最接近所有数据点。必须找到一种度量标准来衡量什么曲线最接近所有数据点。x x1 x2 xmf(x)y1 y2 ym1、数据拟合问题、数据拟合问题研究内容

3、：从一大堆看上去杂乱无章的数据中找出规律研究内容：从一大堆看上去杂乱无章的数据中找出规律研究内容：从一大堆看上去杂乱无章的数据中找出规律研究内容：从一大堆看上去杂乱无章的数据中找出规律性来，即设法构造一条曲线（拟合曲线）反映所给数据性来，即设法构造一条曲线（拟合曲线）反映所给数据性来，即设法构造一条曲线（拟合曲线）反映所给数据性来，即设法构造一条曲线（拟合曲线）反映所给数据点总的趋势，以消除其局部波动。这种要求曲线尽可能点总的趋势，以消除其局部波动。这种要求曲线尽可能点总的趋势，以消除其局部波动。这种要求曲线尽可能点总的趋势，以消除其局部波动。这种要求曲线尽可能逼近给定数据的过程称逼近给定数据

4、的过程称逼近给定数据的过程称逼近给定数据的过程称“拟合拟合拟合拟合”。给定一组值：给定一组值：给定一组值：给定一组值：求函数求函数求函数求函数使得使得使得使得最小。最小。最小。最小。据实验数据分布特点选取，可选幂函数类、据实验数据分布特点选取，可选幂函数类、指数函数类、三角函数类等。指数函数类、三角函数类等。（1）若）若(x)为一元函数，则函数曲线为平面图为一元函数，则函数曲线为平面图形，称形，称曲线拟合曲线拟合。（2）(x)为拟合函数，上式最小为拟合条件为拟合函数，上式最小为拟合条件（即要求拟合曲线与各数据点在（即要求拟合曲线与各数据点在y方向的误差平方向的误差平方和最小）。方和最小）。（3

5、）函数类的选取：）函数类的选取：说明：说明：残差向量的各分量平方和记为：残差向量的各分量平方和记为：残差向量的各分量平方和记为：残差向量的各分量平方和记为：2、最小二乘法：、最小二乘法：以残差平方和最小问题的解来确定拟合函数的以残差平方和最小问题的解来确定拟合函数的方法。方法。令令在回归分析中称为残差(i=1,2,m)残差向量：残差向量：残差向量：残差向量：由多元函数求极值的必要条件，有由多元函数求极值的必要条件，有可得可得即即上式为由上式为由n+1个方程组成的方程组，称个方程组成的方程组，称正规方程组正规方程组。由由由由得得得得即即即即引入记号引入记号则由内积的概念可知则由内积的概念可知显然

6、内积满足交换律显然内积满足交换律正规方程组便可化为正规方程组便可化为将其表示成矩阵形式：将其表示成矩阵形式：其系数矩阵为对称阵。其系数矩阵为对称阵。所以正规方程组的系数矩阵非奇异所以正规方程组的系数矩阵非奇异,即即根据根据Crame法则，正规方程组有唯一解，称其为最小二乘解。法则，正规方程组有唯一解，称其为最小二乘解。作为一种简单的情况，常使用多项式函数作为一种简单的情况，常使用多项式函数Pn(x)作为作为(xi,yi)(i=1,2,m)的拟合函数。的拟合函数。基函数之间的内积为：基函数之间的内积为：拟合函数拟合函数拟合函数拟合函数(x x)=)=P Pn n(x x)的基函数的基函数的基函数

7、的基函数为为为为：即正规方程组为即正规方程组为即正规方程组为即正规方程组为例例.回到本节开始的实例回到本节开始的实例，从散点图可以看出，从散点图可以看出，纤维强度和拉伸倍数之间近似线性关系，故可选取纤维强度和拉伸倍数之间近似线性关系，故可选取线性函数线性函数为拟合函数建立正规方程组，其基函数为为拟合函数建立正规方程组，其基函数为根据内积公式，可得根据内积公式，可得正规方程组为正规方程组为解得解得残差平方和：残差平方和：拟合曲线与散点拟合曲线与散点的关系如右图的关系如右图:即为所求的最小二乘解。即为所求的最小二乘解。即为所求的最小二乘解。即为所求的最小二乘解。故故故故若若mn+1，则此方程组称，

8、则此方程组称超定方程组超定方程组（方程个数（方程个数未知数未知数个数）个数）二、二、超定方程组的最小二乘解超定方程组的最小二乘解将拟合函数以向量表示：将拟合函数以向量表示：令令（i=1,2,m）可得可得考虑正规方程组考虑正规方程组（k=0,1,n）（1 1）未知数）未知数）未知数）未知数a aj j的系数的系数的系数的系数为超定方程组中系数阵第为超定方程组中系数阵第k列与第列与第j列对应积之和列对应积之和（即内积（即内积(k,j)）；）；（2 2）右端向量）右端向量）右端向量）右端向量为系数阵第为系数阵第k列与列与m个函数值对应积之和。个函数值对应积之和。可知：可知：可知：可知：故正规方程组矩

9、阵形式为：故正规方程组矩阵形式为：若有唯一解，称其为超定方程组的若有唯一解，称其为超定方程组的最小二乘解最小二乘解。注：注：最小二乘解并不能满足超定方程组中每个方程，最小二乘解并不能满足超定方程组中每个方程，但要求尽可能接近给定数据，即允许每个等式可以稍但要求尽可能接近给定数据，即允许每个等式可以稍有偏差（即有偏差（即残差残差）。）。求一般超定方程组求一般超定方程组Ax=b的主要过程：的主要过程：（1 1）求出系数矩阵）求出系数矩阵）求出系数矩阵）求出系数矩阵A A的转置矩阵的转置矩阵的转置矩阵的转置矩阵A AT T；（2 2）计算矩阵）计算矩阵）计算矩阵）计算矩阵D D=A AT TA A和

10、向量和向量和向量和向量f f=A AT Tb b；（3 3）求解正规方程组）求解正规方程组）求解正规方程组）求解正规方程组DxDx=f f。x 1 23 4y 4 10 18 26例例1 用多项式函数拟合下述给定数据：用多项式函数拟合下述给定数据：解：解：设设得得即即即即记系数矩阵为记系数矩阵为，则，则故正规方程组为故正规方程组为解得解得注：注：具体用几次多项式拟合，可据实际情况具体用几次多项式拟合，可据实际情况而定。可先画草图，将已知点描上去，看与而定。可先画草图，将已知点描上去，看与什么函数相近，就以什么函数拟合。什么函数相近，就以什么函数拟合。拟合曲线：拟合曲线：Bezier曲线曲线：由

11、一组多边形折线的各顶点：由一组多边形折线的各顶点P0,P1,Pm定义定义。只有第一点和最后一点在曲。只有第一点和最后一点在曲线上，其余点用以定义曲线的阶次与导数，多线上，其余点用以定义曲线的阶次与导数，多边折线的第一段与最后一段表示出曲线在起点边折线的第一段与最后一段表示出曲线在起点和终点处的切线方向。和终点处的切线方向。6.2 Bezier曲线曲线若给定控制多边形顶点若给定控制多边形顶点P0,P1,Pm坐标坐标(x0,y0),(xm,ym)，则相应的，则相应的Bezier多项式多项式定定义为：义为：Bezier曲线的数学表达式：曲线的数学表达式：其中其中（1）一次一次Bezier曲线曲线（m

12、=1）：）：通过平面上两点通过平面上两点P0,P1 的直线段。的直线段。若记若记(k=0,1,m)则有则有矢量表示矢量表示下面给出下面给出m=1,2,3时，时，Bezier曲线数学表达式：曲线数学表达式：（2）二次）二次Bezier曲线（曲线（m=2）：通过平面上三点）：通过平面上三点P0,P1,P2的抛物线。的抛物线。若记若记则则m次次Bezier多项式可表示为多项式可表示为（3）三次）三次Bezier曲线（曲线（m=3）：通过平面上四点）：通过平面上四点P0,P1,P2,P3的三次曲线。的三次曲线。Bezier多项式性质：多项式性质：（1）（2）（3）1.曲线拟合的最小二乘法曲线拟合的最小

13、二乘法前一次课内容回顾前一次课内容回顾2.超定方程组的最小二乘解超定方程组的最小二乘解3.Bezier曲线曲线*6.3 正交多项式正交多项式正交函数系的概念：正交函数系的概念：定定义义1 设设 f(x),g(x)Ca,b,(x)是是区区间间a,b上上的的非非负负函函数，则称数，则称为为为为a,b上以上以(x)为权函数的内积。为权函数的内积。定定义义2 设设 f(x),g(x)Ca,b,(x)是是区区间间a,b上上的的权权函函数数，若若成立，则称成立，则称f(x),g(x)在在a,b上带权上带权(x)正交。当正交。当(x)=1时，简称正交。时，简称正交。函数逼近的重要工具函数逼近的重要工具若函数

14、系若函数系若函数系若函数系满足关系满足关系满足关系满足关系则称则称 是是a,b上带权上带权(x)的正交函数系。的正交函数系。若若Ak1，则称之为标准正交函数系。，则称之为标准正交函数系。例：三角函数系例：三角函数系例：三角函数系例：三角函数系在区间在区间-,上是正交函数系。上是正交函数系。例例1 验证验证 0(x)=1,1(x)=x 在在 1,1上正交。上正交。解解:所以所以 0(x)与与 1(x)在在 1,1上正交。上正交。例例2 证明证明:当当mn时时,cos(m )和和 cos(n)在区间在区间-,上正交。上正交。证证所以所以,cos,cos2,cos3,cos(n),是正交函数系。是正

15、交函数系。定义：定义：设设 n(x)是是a,b上首项系数上首项系数an0的的n次多项式，次多项式，(x)为为a,b上的权函数，如果多项式序列上的权函数，如果多项式序列 k(x)(k=0,1,2,)满足关系式满足关系式则称多项式序列则称多项式序列 k(x)(k=0,1,2,)在在a,b上上带权正交带权正交;n(x)为区间为区间a,b上带权上带权(x)的的n次正交多项式。次正交多项式。下面给出几种常见的正交多项式。下面给出几种常见的正交多项式。1.表达式表达式 P0(x)=1,P1(x)=x(n 1)2.正交性正交性一、勒让德（一、勒让德（Legendre）多项式：）多项式：区间为区间为-1,1，

16、权函数，权函数 (x)1时，由时，由1,x,xn,正交化正交化得到的多项式称为勒让德多项式，并用得到的多项式称为勒让德多项式，并用P0(x),P1(x),Pn(x),表示。表示。3.递推式递推式 4.零点分布零点分布Pn(x)在区间在区间 1,1内有内有n 个不同的实零点。个不同的实零点。P2(x)的两个零点的两个零点:P3(x)的三个零点的三个零点:T0(x)=1,T1(x)=cos =x,T2(x)=cos2 Tn(x)=cos(n),二、切比雪夫（二、切比雪夫（Chebyshev）多项式：）多项式：区间为区间为-1,1 时，由时，由1,x,xn,正交化得到的多项式就正交化得到的多项式就是

17、切比雪夫多项式，它可表示为：是切比雪夫多项式，它可表示为：当权函数当权函数若令若令若令若令则则则则切比雪夫多项式有如下重要性质：切比雪夫多项式有如下重要性质：由由 cos(n+1)=2 cos cos(n)cos(n-1)得得 Tn+1(x)=2 x Tn(x)Tn-1(x)(n 1)所以所以,1.递递推推公式公式:由递推关系可得由递推关系可得Tn(x)的最高次项系数是的最高次项系数是2n-1，(n1)。切比雪夫多项式切比雪夫多项式在在 1,1上带权上带权 正交，且正交，且2.切比雪夫多项式的正交性切比雪夫多项式的正交性事实上，令事实上，令事实上，令事实上，令则则则则于是于是于是于是3.切比雪

18、夫多项式零点切比雪夫多项式零点n阶阶Chebyshev多项式多项式:Tn=cos(n),或或 Tn(x)=cos(n arccos x)(k=0,1,n-1)取取T1=cos=x即即(k=0,1,n-1)Tn(x)在区间在区间 1,1内有内有n 个零点。个零点。正交多项式是与区间和权函数相关的，正交多项式是与区间和权函数相关的，不同的区间，不同的权函数就给出了不同不同的区间，不同的权函数就给出了不同的正交多项式。但一般都具有正交性质和的正交多项式。但一般都具有正交性质和三项递推性质。三项递推性质。三、其它常用的正交多项式：三、其它常用的正交多项式：1、第二类切比雪夫（、第二类切比雪夫（Cheb

19、yshev）多项式：）多项式：区间：区间：权函数：权函数：权函数：权函数：表达式：表达式：令令令令可得可得可得可得递推公式：递推公式：递推公式：递推公式：2、拉盖尔多项式：、拉盖尔多项式：区间：区间：区间：区间：权函数：权函数：权函数：权函数：表达式：表达式：表达式：表达式：正交性：正交性：正交性：正交性：递推公式：递推公式：递推公式：递推公式：3、埃尔米特多项式：、埃尔米特多项式：区间：区间：区间：区间：权函数：权函数：权函数：权函数：表达式：表达式：表达式：表达式：正交性：正交性：正交性：正交性：递推公式：递推公式：递推公式：递推公式：6.4 最佳平方逼近最佳平方逼近函数逼近函数逼近函数逼

20、近函数逼近：已知给定区间：已知给定区间：已知给定区间：已知给定区间 a a,b b 上的连续函数上的连续函数上的连续函数上的连续函数f f(x x),),用一个用一个用一个用一个简单的、易于计算的函数简单的、易于计算的函数简单的、易于计算的函数简单的、易于计算的函数P P(x x)来近似代替来近似代替来近似代替来近似代替f f(x x)。定义：定义：定义：定义：设设设设 0(x),1(x),n(x)是是a,b上线性无关的连上线性无关的连续函数，续函数，a0,a1,an是任意实数，则是任意实数，则的全体是的全体是的全体是的全体是CCa a,b b 的一个子集，记为的一个子集，记为的一个子集，记为

21、的一个子集，记为并称并称并称并称 0(x),1(x),n(x)是该集合的一个基底。是该集合的一个基底。例如，例如，例如，例如，表示由基底表示由基底表示由基底表示由基底1,x,xn生成的普通多项式的集合。生成的普通多项式的集合。定义：定义：定义：定义：对于给定区间对于给定区间对于给定区间对于给定区间 a a,b b 上的连续函数上的连续函数上的连续函数上的连续函数f f(x x)，如果存在，如果存在，如果存在，如果存在函数函数函数函数S S*(x x)=spanspan 0(x),1(x),n(x)使使使使则称则称则称则称S S*(x x)是是是是f f(x x)在集合在集合在集合在集合中的中的

22、中的中的最佳平方逼近函数最佳平方逼近函数最佳平方逼近函数最佳平方逼近函数。当当当当=P Pn n=spanspan1,1,x x,x x2 2,xn 时，满足上述条件的时，满足上述条件的时，满足上述条件的时，满足上述条件的S S*(x x)是是是是f f(x x)的的的的n n次最佳平方逼近多项式次最佳平方逼近多项式次最佳平方逼近多项式次最佳平方逼近多项式，简称，简称，简称，简称n n次最佳平方逼近次最佳平方逼近次最佳平方逼近次最佳平方逼近。设设设设显然求最佳平方逼近函数显然求最佳平方逼近函数显然求最佳平方逼近函数显然求最佳平方逼近函数的问题可归结为求其系数的问题可归结为求其系数的问题可归结为

23、求其系数的问题可归结为求其系数a a0 0*,a a1 1*,a an n*,使多元函数使多元函数使多元函数使多元函数取得最小值。点取得最小值。点取得最小值。点取得最小值。点a a0 0*,a a1 1*,a an n*是是是是a a0 0,a a1 1,a an n的极值点。的极值点。的极值点。的极值点。利用多元函数求极值的必要条件，可得关于系数利用多元函数求极值的必要条件，可得关于系数利用多元函数求极值的必要条件，可得关于系数利用多元函数求极值的必要条件，可得关于系数a a0 0,a a1 1,a an n的的的的n n+1+1阶线性方程组，即正规方程组，其矩阵阶线性方程组，即正规方程组，

24、其矩阵阶线性方程组，即正规方程组，其矩阵阶线性方程组，即正规方程组，其矩阵形式为形式为形式为形式为由于由于由于由于 0(x),1(x),n(x)线性无关，该方程组系数矩线性无关，该方程组系数矩线性无关，该方程组系数矩线性无关，该方程组系数矩阵行列式不为零，故存在唯一解阵行列式不为零，故存在唯一解阵行列式不为零，故存在唯一解阵行列式不为零，故存在唯一解a ak k =a ak k*（k k=0,1,=0,1,n n）。）。）。）。例：例：已知已知 f(x)C0,1,求多项式求多项式 P(x)=a0+a1x+a2 x2+an x n解解:令令使得使得系数矩阵是严重病态矩阵（系数矩阵是严重病态矩阵（

25、Hilbert矩阵）。矩阵）。令令例：例：在区间在区间1/4,1上给定函数上给定函数f(x)=，求其在集合，求其在集合span1,x上上(x)=1的最佳平方逼近函数。的最佳平方逼近函数。解：解：因正规方程组的矩阵形式为：因正规方程组的矩阵形式为：由由由由 0(x)=1,1(x)=x，x 1/4,1，故所求的最佳平，故所求的最佳平方逼近函数可设为方逼近函数可设为先计算六个内积：先计算六个内积：先计算六个内积：先计算六个内积：故正规方程组为故正规方程组为故正规方程组为故正规方程组为解得解得解得解得故所求多项式函数为故所求多项式函数为上面方法中，需要计算六个积分值，同时还需要求解线上面方法中，需要计

26、算六个积分值，同时还需要求解线上面方法中，需要计算六个积分值，同时还需要求解线上面方法中，需要计算六个积分值，同时还需要求解线性方程组，故计算量较大。性方程组，故计算量较大。性方程组，故计算量较大。性方程组，故计算量较大。可采用正交多项式作基底的方法使问题简化。可采用正交多项式作基底的方法使问题简化。实际应用中，对于一般的基底实际应用中，对于一般的基底实际应用中，对于一般的基底实际应用中，对于一般的基底 0(x),1(x),n(x)，当当n稍大时，求解正规方程的工作量是很大的，若采用稍大时，求解正规方程的工作量是很大的，若采用1,x,xn作基底，当作基底，当(x)=1时，虽然计算简单，但其正规

27、时，虽然计算简单，但其正规方程组的系数矩阵往往是病态的，一般来说，当方程组的系数矩阵往往是病态的，一般来说，当n4时时，其其计计算算结结果就不能令人果就不能令人满满意。意。用正交多项式作最佳平方逼近：用正交多项式作最佳平方逼近：设设P0(x),P1(x),Pn(x)为区间为区间a,b上的正交多项式上的正交多项式,即即(k j,k,j=0,1,n)求求 P(x)=a0P0(x)+a1P1(x)+anPn(x)使使由正交多项式的性质，正规方程组由正交多项式的性质，正规方程组可化为可化为即即得得(k=0,1,2,n)例：例：在区间在区间1/4,1上求函数上求函数f(x)=的最的最佳平方逼近函数。佳平方逼近函数。解解:令令 P0(x)=1,P1(x)=x 5/8，则，则P0(x)与与P1(x)正交，正交，故取最佳平方逼近函数形式为故取最佳平方逼近函数形式为则则计算积分如下：计算积分如下：计算积分如下：计算积分如下：所以所以所求最佳平方逼近函数为所求最佳平方逼近函数为:P159习题六：习题六：1，2，3，4，6本章作业