最佳逼近.ppt
最佳逼近最佳逼近主讲 孟纯军博士曲线拟合的最小二乘法（离散）曲线拟合的最小二乘法（离散）l 设一组观测数据为 xx0 x1 x2 x3 xnyy0 y1 y2 y3 ynl 其中xixj(ij),我们要根据这一系列数据找出函数关系y=f(x)。l 若用插值多项式函数P(x)代替函数关系f(x),要求满足插值原则l (xi)=f(xi),i=0,1,2,nl 有可能给的条件个数n大于多项式P(x)的待定系数个数，如，10个插值条件求5次多项式，该问题是无解的。l有时我们所需的近似函数不一定是多项式。l 在实际问题中,往往并不要求近似函数(x)所表示的曲线通过这些观测点,而只要求由已知数据(xi,yi)(i=0,1,n)找出x,y之间的依赖关系,使得近似函数(x)能充分地反映函数y=f(x)的大致面目,也即与f(x)有最好的拟合(或逼近)。这就是曲线拟合问题。有的还称为配曲线或找经验公式。x 0 1 2 3 4 5y 1 1.6 2.1 2.4 3.2 3.4我们可以用近似函数 例如例如,已知数据已知数据 图 4.4 l 因为曲线拟合问题并不要求满足插值原则l (xi)=yi,i=0,1,2,nl 故在基点x0,x1,x2,xn上(x)与f(x)有误差l ri=(xi)-yi,i=0,1,2,n (469)l 称ri为用(x)拟合f(x)的偏差。l设 函 数 关 系 y=f(x)的 一 组 观 测 数 据 为(xi,yi)(i=0,1,2,n),欲求一个m(mn)次多项式l Pm(x)=0+1x+mxm (470)l这种方法称为多项式拟合数据。l 偏差的平方和(471)为最小,这样的方法称为线性最小二乘法,R称为用Pm(x)拟合f(x)的总偏差。根据极值理论,要使得R达到极小,必有 (472)l 称此方程组为正则方程组。通过它可求出0,1,m。l 下面对m=2的情形作具体讨论。也就是用二次函数 l P2(x)=0+1x+2x2l 来拟合f(x),此时总偏差为l 由(472)式知 l 从而得到正则方程组 l 解此方程组得0,1,2的值,即可求得近似函数P2(x)。l 一般地,对于Pm(x),可类似地得到m+1阶正则方程组(473)写成矩阵形式(4-74)l 例8 设有一组数据表 x1345678910y27810 11 11 10 98试用二次多项式来拟合这组数据。解 首先算出 的值分别为53,76,489,381,3547,3017,25317,然后得到正则方程组l 90+531+3812=76 l 530+3811+30172=489 l 3810+30171+253172=3547 l 解得l 0=-1.4597,1=3.6053,2=-0.2676l 因此所求的二次多项式l P2(x)=-1.4597+3.6053x=0.2676x2l 给出的数据和二次多项式表示的曲线见图4.5。图 4.5 l 最后必须指出,在实际问题中,近似函数(x)的选取只能凭经验得到。例 l (1)加速度与时间的关系是线性关系,可选取l (x)=0+1xl (2)炮弹在空中的高度与时间的关系近似于抛物线,可选取l (x)=0+1x+2x2l此外,当(x)不是多项式时,如 l(1)幂函数l (x)=axbl(2)指数函数l (x)=aebxl(3)对数函数l (x)=a+blnxl l 例9求一个经验函数l (x)=aebx (a,b为常数)l 使它能和下面给出的数据相拟合。x12345678y15.3 20.5 27.4 36.6 49.1 65.6 87.8117.6解 对经验公式两边取对数得 ln(x)=lna+bx 令 A=lna,B=b u=ln(x)l 则l u=A+Bxl 可算得l 于是得到正则方程组l 8A+36B=29.9787 l 36A+204B=147.1948l 解得l A=11.36,B=0.2926l 因此经验公式为l (x)=11.36e0.2926xl 曲线拟和的最佳平方逼近法（连续）曲线拟和的最佳平方逼近法（连续）l首先引进关于最佳平方逼近的一些基本概念内积的性质内积的性质称线性空间Y为内积空间，(f,g)为内积。连续函数空间Ca,b的内积定义方法l定义：设 称 为函数 在区间a,b上的内积.其中 为区间a,b上的权函数,且满足下面两个条件:连续函数空间Ca,b的内积定义方法容易验证,上述定义的函数内积满足一般内积概念中四条基本性质.函数的欧几里得范数函数的欧几里得范数l定义4.5.2 设 称 为函数f(x)的欧几里得范数,或2范数.函数的欧几里得范数性质函数的欧几里得范数性质线性相关的函数系线性相关的函数系l定义4.5.3 设函数 ,如果存在一组不全为零的数 使成立,则称函数系 是线性相关的,否则称 是线性无关的.线性相关的函数系的判定线性相关的函数系的判定l定理4.5.1 函数 在区间a,b上线性相关的充分必要条件是Gramer行列式l不难证明 在R上线性无关.l定理4.5.1的等价说法是:函数系 线性无关的充分必要条件是Gramer行列式 .l设函数 及函数系 且线性无关.记 为连续函数空Ca,b的子空间,如果存在元素满足则称 为f(x)在 上的最佳平方逼近函数.最佳平方逼近函数的求法最佳平方逼近函数的求法l令 则误差为特例特例l取则法方程为其中例题例题l例4.5.1 设 求f(x)在区间0,1上的一次最佳平方逼近多项式.l解 设 由于l故法方程为解得l平方误差为4.5.3 矛盾方程组的最小二乘解矛盾方程组的最小二乘解l设矛盾方程组l这里mn,记l则上式可简记为Ax=b.l矛盾方程组的最小二乘解x*是指满足l引理 设 则B为半正定对称方阵,当R(A)=n,则B是正定对称方程.若A的各列线性无关,则 是非奇异方阵.l定理4.5.2 设 且各列向量线性无关,则(1)矛盾方程组(4.5.19)的法方程组 恒有解;(2)设x*是法方程组 的解,则x*是矛盾方程组(4.5.19)的最小二乘解.
