第3章 函数逼近优秀PPT.ppt
第3章 函数逼近现在学习的是第1页,共58页3.1 3.1 基本概念基本概念第第3 3章章 函数逼近函数逼近 函数逼近函数逼近:用比较简单的函数代替复杂的函数要求构造函数在要求构造函数在整个区间整个区间上上与已知函数的误差尽可能与已知函数的误差尽可能小小现在学习的是第2页,共58页 误差误差度量度量标准:标准:其中其中 为为权权函数函数(2)(1)对于给定的函数系对于给定的函数系 ,寻求一组系数,寻求一组系数使得函数使得函数 满足满足(1)(2)一致一致逼近逼近逼近逼近现在学习的是第3页,共58页 可见,对同一个被逼近函数,不同距离意可见,对同一个被逼近函数,不同距离意义下的逼近,逼近函数是不同的义下的逼近,逼近函数是不同的.现在学习的是第4页,共58页 设给定函数设给定函数 ,则对,则对 ,存,存在一多项式在一多项式 ,使得,使得对所有对所有 一致一致成立。成立。Bernstein给出了一种给出了一种构造性构造性证明证明.Bernstein多项式:多项式:WeierstrassWeierstrass定理定理3.2 最佳最佳一致一致逼近逼近/*/*Best Uniform Approximation*/现在学习的是第5页,共58页现在学习的是第6页,共58页注:注:Bernstein多项式具有良好的多项式具有良好的一致逼近一致逼近性质;性质;如果要求如果要求精度很高,精度很高,Bernstein多项式次数多项式次数会很高,即它的收敛速度很慢;会很高,即它的收敛速度很慢;Chebyshev方法:在所有次数不超过固定次方法:在所有次数不超过固定次数数n的多项式中寻找一个的多项式中寻找一个最精确最精确地逼近函数地逼近函数的多项式。的多项式。故称之为最佳故称之为最佳一致一致逼近逼近现在学习的是第7页,共58页(最佳(最佳一致一致逼近的定义)逼近的定义)和和 的的偏差偏差设函数设函数 ,集合,集合如果存在如果存在 ,满足,满足其中其中则则称称 为为 的的n次次最最佳佳一一致致逼逼近近多多项项式式,简简称称n次次最佳逼近多项式。最佳逼近多项式。称为称为 的的n次次最佳最佳逼近或逼近或最小最小偏差偏差现在学习的是第8页,共58页几何几何意义意义(Chebyshev交错点组交错点组/*Group of Alternating Points*/)假设假设 ,若存在,若存在n个点:个点:满足满足 且且 则称则称 为为 在在 上的上的Chebyshev 交错点组。交错点组。现在学习的是第9页,共58页(Chebyshev定理)定理)设函数设函数 ,则则 是是 的最佳一致逼近多项式的的最佳一致逼近多项式的充要条件充要条件是:是:在区间在区间 上存在一个至少有上存在一个至少有n+2个点个点组成的交错点组。组成的交错点组。Chebyshev定理给出了最佳一致逼近多项式满足的性质定理给出了最佳一致逼近多项式满足的性质现在学习的是第10页,共58页(最佳一致逼近多项式的一种最佳一致逼近多项式的一种求法求法)设设 在在 上有上有n+1阶导数,阶导数,在在 上不变号,上不变号,是是 的最佳一致的最佳一致逼近多项式,则:逼近多项式,则:的端点属于的端点属于 的的交错点组交错点组。(存在唯一性(存在唯一性)设设函函数数 ,则则在在 中中,有有唯唯一一的最佳的最佳一致一致逼近多项式逼近多项式 。现在学习的是第11页,共58页最佳最佳一致一致逼近多项式逼近多项式求解过程求解过程总结总结设在设在 中所求的最佳一致逼近多项式为:中所求的最佳一致逼近多项式为:的的n+2个个交错点组为:交错点组为:则有则有n+1个方程,个方程,2n+3个未知数个未知数当交错点当交错点 在区间在区间 内部内部时满足时满足求最佳一致逼近多项式最终归结为求解求最佳一致逼近多项式最终归结为求解非线性方程组非线性方程组现在学习的是第12页,共58页例例1 1:求函数求函数 在在 上的上的一次一次最佳一致逼最佳一致逼近多项式。近多项式。解:解:设所求的设所求的一次一次最佳一致逼近多项式为:最佳一致逼近多项式为:由由 Th 知,知,和和 设设 的的交错点组交错点组为:为:由由交错点组交错点组的性质得到的性质得到现在学习的是第13页,共58页相应的方程组为相应的方程组为解之得解之得一次一次最佳一致逼近多项式为:最佳一致逼近多项式为:现在学习的是第14页,共58页现在学习的是第15页,共58页3.3 最佳最佳平方平方逼近逼近/*/*Best Approximation in Quadratic Norm*/假设假设 ,是是a,ba,b上的一个线性无上的一个线性无关函数系关函数系,且且 ,为为a,ba,b上的一个权函数。上的一个权函数。如果存在一组系数如果存在一组系数使得使得广义广义多项式多项式满足满足称函数称函数 为为 在在a,ba,b上关于权函数上关于权函数 的的最佳最佳平方平方逼近或逼近或最小二乘最小二乘逼近;逼近;特别,特别,若若 ,则称,则称 是是 在在a,ba,b上的上的最佳平方最佳平方逼近逼近.现在学习的是第16页,共58页由定义可以看出,最佳由定义可以看出,最佳平方平方逼近问题实际上是个多元逼近问题实际上是个多元极值极值问题问题记记由极值的由极值的必要必要条件条件即:即:现在学习的是第17页,共58页记记将将 代入前式:代入前式:现在学习的是第18页,共58页令令对称矩阵对称矩阵 是关于函数系是关于函数系 的的Gram(格拉姆格拉姆)矩阵矩阵易证易证Gram矩阵为实对称矩阵为实对称正定正定矩阵:矩阵:上述方程组存在上述方程组存在唯一唯一解解现在学习的是第19页,共58页设由上述方程组的设由上述方程组的解解确定的确定的广义广义多项式为:多项式为:对于对于任意任意广义多项式广义多项式下面证明下面证明即即现在学习的是第20页,共58页记记现在学习的是第21页,共58页 设给定节点设给定节点 ,则其最佳平方逼近,则其最佳平方逼近唯一存在唯一存在,且可以由前述,且可以由前述Gram组成的组成的方程组求解构造。方程组求解构造。注:注:前述前述Gram组成的组成的方程组通常称为方程组通常称为法方程组法方程组最佳平方逼近可以通过求解最佳平方逼近可以通过求解法方程组法方程组而得到而得到 Gram矩阵是实对称矩阵是实对称正定正定矩阵矩阵现在学习的是第22页,共58页例例1:求函数求函数 在在 上的最佳平方逼近:上的最佳平方逼近:解:解:本题的函数系和权函数为:本题的函数系和权函数为:首先计算首先计算Gram矩阵:矩阵:现在学习的是第23页,共58页求解下列求解下列法方程组法方程组:所求最佳所求最佳平方平方逼近为:逼近为:现在学习的是第24页,共58页现在学习的是第25页,共58页注:例注:例1中的中的法方程组法方程组推广到一般情况推广到一般情况即函数系和权函数取为:即函数系和权函数取为:法方程组法方程组的系数矩阵为:的系数矩阵为:n+1阶的阶的Hilbert矩阵矩阵病态病态矩阵矩阵现在学习的是第26页,共58页 函数系的函数系的选择选择方法方法如果如果(正交函数系)(正交函数系)/*Orthogonal System of Function*/则称则称为区间为区间 上关于权函数上关于权函数的正交(的正交(直交直交)函数系。)函数系。特别,若特别,若称之为标准(称之为标准(规范规范)正交函数系。)正交函数系。现在学习的是第27页,共58页如果取正交函数系:如果取正交函数系:则则法方程组法方程组的系数矩阵变为的系数矩阵变为对角对角矩阵。矩阵。所以方程组的解为:所以方程组的解为:现在学习的是第28页,共58页 常用的几种常用的几种正交正交函数系函数系1、三角(三角(Trigonometric)函数)函数系系:(或或 )正正交交性性质质现在学习的是第29页,共58页2、勒让德(勒让德(Legendre)多项式系多项式系:性质性质1 1(递推递推公式)公式)现在学习的是第30页,共58页性质性质2 2(正交正交性质)性质)性质性质3 3(最佳逼近最佳逼近性质)性质)或者或者说明说明:在区间在区间-1,1-1,1上,上,n次首次首1的的Legendre多项式多项式是是零函数零函数的最佳平方逼近多项式的最佳平方逼近多项式现在学习的是第31页,共58页3、切比雪夫(切比雪夫(Chebyshev)多项式系多项式系:性质性质1 1(递推递推公式)公式)例如:例如:现在学习的是第32页,共58页性质性质3 3(正交正交性质)性质)性质性质2 2(零点零点与与最值点最值点)在在(-1,1-1,1)内的内的n个个零点和零点和n+1个个最值点为:最值点为:现在学习的是第33页,共58页性质性质4 4(最佳逼近最佳逼近性质)性质)在区间在区间-1,1-1,1上,上,n次首次首1的的Chebyshev多项式多项式是是零函数零函数的最佳的最佳一致一致逼近逼近现在学习的是第34页,共58页4、其它其它多项式系多项式系:拉盖尔(拉盖尔(Laguerre)多项式系多项式系是区间是区间 上关于权函数上关于权函数 的正交系的正交系现在学习的是第35页,共58页埃尔米特(埃尔米特(Hermite)多项式系多项式系是区间是区间 上关于权函数上关于权函数 的正交系的正交系现在学习的是第36页,共58页 有限区间的有限区间的转化转化问题问题有限区间有限区间 经过下列经过下列变换变换可变为区间可变为区间从而可以利用勒让德(从而可以利用勒让德(Legendre)多项式系多项式系或切比雪夫或切比雪夫(Chebyshev)多项式系多项式系来构造最佳平方逼近。来构造最佳平方逼近。现在学习的是第37页,共58页三、三、正交正交多项式应用举例多项式应用举例例例2:利用利用Legendre多项式系,求函数多项式系,求函数 在在 上的上的三次三次最佳平方逼近多项式。最佳平方逼近多项式。解:解:现在学习的是第38页,共58页现在学习的是第39页,共58页现在学习的是第40页,共58页现在学习的是第41页,共58页 关于切比雪夫(关于切比雪夫(Chebyshev)多项式系的应用:多项式系的应用:设设Chebyshev级数级数()现在学习的是第42页,共58页例例3:利用利用Chebyshev多项式系,求函数多项式系,求函数 在在 上的上的五次五次最佳平方逼近多项式。最佳平方逼近多项式。解:解:现在学习的是第43页,共58页所求的所求的五次五次最佳平方逼近多项式为最佳平方逼近多项式为化为一般多项式的形式:化为一般多项式的形式:现在学习的是第44页,共58页现在学习的是第45页,共58页一、一、最小二乘最小二乘问题问题的一般提法的一般提法 在实际应用中,经常遇到下列在实际应用中,经常遇到下列数据处理数据处理问题:问题:已知函数已知函数 在在m个点上的数据表,寻求其个点上的数据表,寻求其近似函近似函数数。设设 的的近似函近似函数数为为其中其中 是某是某函数族函数族中的已知中的已知线性无关线性无关函数。函数。3.4 曲线拟合曲线拟合 /*Curve Fitting*/现在学习的是第46页,共58页称为称为残向量残向量寻求一组常数寻求一组常数 ,要求,要求的的2-范数达到最小。范数达到最小。如果如果m=n,且,且以及以及即多项式即多项式插值插值现在学习的是第47页,共58页记记则得到则得到最小二乘最小二乘问题:问题:上述问题的解也称为方程组上述问题的解也称为方程组 的的最小二乘最小二乘解解当当 时称之为时称之为超定超定(或(或矛盾矛盾)方程组。)方程组。现在学习的是第48页,共58页 所谓所谓”曲线拟合曲线拟合”,是指根据给定的数据表是指根据给定的数据表,寻找一个寻找一个简单的表达式来简单的表达式来”拟合拟合”该组数据该组数据,此处的此处的”拟合拟合”的含义的含义为为:不要求该表达式对应的近似曲线不要求该表达式对应的近似曲线完全通过完全通过所有的数所有的数据点据点,只要求该只要求该近似曲线近似曲线能够反映数据的基本变化趋势能够反映数据的基本变化趋势.二、二、最小二乘最小二乘多项式拟合多项式拟合现在学习的是第49页,共58页引例引例1:考察某种纤维的考察某种纤维的强度强度与其与其拉伸倍数拉伸倍数的关系的关系.下表是实际测定的下表是实际测定的2424个纤维样品的强度与相应的个纤维样品的强度与相应的拉伸倍数的数据记录拉伸倍数的数据记录:编号编号 拉伸倍数拉伸倍数 强强 度度编号编号 拉伸倍数拉伸倍数 强强 度度1 1.91.41355.5221.3145.2532.11.81565.542.52.5166.36.452.72.8176.5662.72.5187.15.373.531986.583.52.72087944218.98.51043.52298114.54.2239.58.1124.63.524108.1现在学习的是第50页,共58页可以看出可以看出,纤维强度随纤维强度随拉伸倍数增加而增加拉伸倍数增加而增加并且并且2424个点大致分个点大致分布在一条直线附近布在一条直线附近该直线称为这一问题的该直线称为这一问题的数学模型。数学模型。因此可认为因此可认为强度强度与与拉伸倍数拉伸倍数之间的主之间的主要关系是要关系是线性关系线性关系现在学习的是第51页,共58页怎样确定怎样确定a,b,a,b,使得直线能较好地反映所给使得直线能较好地反映所给数据的基数据的基本本“变化趋势变化趋势”?一般情况一般情况各点误差各点误差总误差总误差令令问题转化为求参数问题转化为求参数 使使 达到达到最小值。最小值。现在学习的是第52页,共58页这种求线性函数这种求线性函数y=a+bx的过程称为的过程称为线性拟合线性拟合。现在学习的是第53页,共58页一般地,设一般地,设 的的近似函数近似函数为为寻求寻求 ,使得,使得则称则称 为函数为函数 的的多项式拟合多项式拟合。满足下列满足下列法方程组:法方程组:现在学习的是第54页,共58页非线性非线性拟合拟合(补充)(补充)已知函数已知函数 在在若干若干个点上的数据表,确定参数个点上的数据表,确定参数 和和 ,利用,利用经验函数经验函数 拟合某组拟合某组数据:数据:某些非线性某些非线性拟合拟合问题可转化为线性问题可转化为线性拟合拟合问题问题线性化线性化处理:处理:令令则则 由线性由线性拟合拟合方法可得到方法可得到 和和 ,从而的到,从而的到 和和现在学习的是第55页,共58页又如:若又如:若非线性非线性函数取为函数取为令令其中其中现在学习的是第56页,共58页解:解:例:例:求一个形如求一个形如 (为常数为常数)的经验公的经验公 式,使它能和下表给出的数据相拟合式,使它能和下表给出的数据相拟合:x 2.2 2.6 3.4 4.0 y 65 61 54 50对对 两边取对数得两边取对数得 令令0.7885 0.9555 1.22381.3863 4.1744 4.1109 3.9890 3.9120 此时此时现在学习的是第57页,共58页写出写出法方程组法方程组现在学习的是第58页,共58页