数值计算方法-第6章-函数逼近ppt课件.ppt





《数值计算方法-第6章-函数逼近ppt课件.ppt》由会员分享,可在线阅读,更多相关《数值计算方法-第6章-函数逼近ppt课件.ppt(44页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第第6 6章章 函数逼近函数逼近实际问题中实际问题中, 通过测量或数值计算得到一批离散的数据通过测量或数值计算得到一批离散的数据, 希望通过希望通过某种函数某种函数(曲线曲线)来描述它来描述它, 且使得它在某种意义下最且使得它在某种意义下最“贴近贴近”这批这批数据数据, 这就是这就是数据拟合数据拟合, 也称为也称为函数逼近函数逼近.一组实验数据一组实验数据:l函数逼近的概念函数逼近的概念l函数逼近的例子函数逼近的例子i1234Xi2468yi1.12.84.97.2从图形上可看出从图形上可看出, 数据分布接近数据分布接近于直线于直线:yaxb如何选取如何选取a,b, 使得直线使得直线“最好最好
2、”地贴近于数据点地贴近于数据点?记记,*iiyaxb*iiiyy残差残差评判残差大小的标准评判残差大小的标准?l衡量残差大小的标准衡量残差大小的标准 使残差的绝对值之和最小使残差的绝对值之和最小, 即即:minii第第6 6章章 函数逼近函数逼近这一标准虽然简单这一标准虽然简单, 但使用上不太方便但使用上不太方便. 使残差绝对值最大的分量达到最小使残差绝对值最大的分量达到最小, 即即:maxminii这一方法称为这一方法称为最佳一致逼近最佳一致逼近. 使残差的平方和达到最小使残差的平方和达到最小, 即即:2minii这一方法称为这一方法称为最佳平方逼近最佳平方逼近, 通常也称为曲线通常也称为曲
3、线(数据数据)拟合的拟合的最小二最小二乘法乘法. 该方法较简单该方法较简单, 是应用中常用的一种方法是应用中常用的一种方法.一一. 数据拟合的最小二乘法数据拟合的最小二乘法u 多项式拟合多项式拟合(xi, yi)第第6 6章章 函数逼近函数逼近l最小二乘法的基本思想最小二乘法的基本思想一组给定的数据点一组给定的数据点 (i=0,1,n)选取近似函数类选取近似函数类H, 寻求寻求函数函数 使得使得( ),xH2211( )nniiiiiyx最小最小.01( )mmmP xaa xa x()mn即即,( ,) (1, )iix yin要求要求F(a0,am) 极小极小H通常采用比较简单的函数类通常
4、采用比较简单的函数类, 如低阶多项式如低阶多项式, 指数函数等指数函数等.2211( )min( )nniiiiHiiyxyxl方法方法数据点数据点:m次多项式次多项式:残差平方和残差平方和:220111(,)( )nnmiimiiiF a aayP x0 (0,1,)jFjma12( )0njimiiiyP xx101()nmnkjjkiiiiikia xxy x 011()mnnkjjikiikiixay x (0,1,)jml确定拟合多项式的系数确定拟合多项式的系数第第6 6章章 函数逼近函数逼近011()mnnkjjikiikiixay x 2012111123101211111122
5、01211111()()()()()()()()()()()nnnnmiiimiiiiinnnnnmiiiimiiiiiiinnnnnmmmmmiiiimiiiiiiinax axaxayx axax axay xxaxaxaxay xj=0(0,1,)jmj=1j=m称为称为正则方程组正则方程组, 或或法方程组法方程组.记为记为,可以证明可以证明, 该方程组有唯一解该方程组有唯一解(a0,a1,am), 从而得从而得Pm(x). afA但要注意但要注意, 系数矩阵系数矩阵A通常是病态的通常是病态的, 其条件数其条件数cond(A)非常大非常大.l多项式拟合的例子多项式拟合的例子第第6 6章章
6、 函数逼近函数逼近用二次多项式拟合这批数据用二次多项式拟合这批数据.i123456Xi012345yi0.3560.8051.0050.9420.6680.325解解. 二次拟合多项式二次拟合多项式:211102311111223421111nnniiiiiinnnniiiiiiiiinnnniiiiiiiiinxxyaxxxay xaxxxy x22012( )P xaa xa x正则方程正则方程 (n=6):012615554.10115552259.9385522597932.116aaa0120.3798570.5048860.104571aaa拟合曲线图拟合曲线图21( , )ina
7、xiiF a bybeu 指数拟合指数拟合l方法方法axybe取极小取极小关于关于x的线性函数的线性函数称为称为非线性最小二乘问题非线性最小二乘问题.lnlnzybax即即:第第6 6章章 函数逼近函数逼近( ,) (1, )iix yin当数据点当数据点接近于指数曲线分布时接近于指数曲线分布时, 可用指数函数进行拟合可用指数函数进行拟合:0Fa10iinaxaxiiiybebx e0Fb10iinaxaxiiybeel改进的方法改进的方法数据点数据点( ,)iix z拟合多项式拟合多项式:01zaa x正则方程正则方程:11021111nniiiinnniiiiiiinxzaaxxz xln
8、iy线性最小二乘问题线性最小二乘问题01aa01aa xzyee01aa xyeeu 分式线性拟合分式线性拟合l当数据点分布接近于函数当数据点分布接近于函数 时时1yaxb1zaxby第第6 6章章 函数逼近函数逼近作变换作变换:对数据点对数据点 进行线性最小二乘拟合进行线性最小二乘拟合. 1( ,)iiix zy112111nniiiinnniiiiiiinxzbaxxz x ba 参数参数a, b拟合曲线拟合曲线 zaxb11yzaxbl当数据点分布接近于函数当数据点分布接近于函数 时时tyabt作变换作变换:1,xt1zaxby对数据点对数据点 进行线性最进行线性最小二乘拟合小二乘拟合.
9、 11(,)iiiixzty参数参数a, b拟合曲线拟合曲线 zaxb11tyzaxbabt上面两种拟合中上面两种拟合中, 参数参数a, b 满足以下正则方程满足以下正则方程:l最小二乘拟合的一般步骤最小二乘拟合的一般步骤第第6 6章章 函数逼近函数逼近 通过观测数据点的形态通过观测数据点的形态, 确定拟合函数的形式确定拟合函数的形式; 对于一些简单的非线性问题对于一些简单的非线性问题, 通过合适的变换化成线性问题通过合适的变换化成线性问题; 由最小二乘的正则方程确定拟合函数中的参数由最小二乘的正则方程确定拟合函数中的参数; 对于非线性问题对于非线性问题, 将线性拟合函数再反变换成非线性函数将
10、线性拟合函数再反变换成非线性函数.观测数据点观测数据点取极小取极小l几点说明几点说明 对于指数函数拟合问题对于指数函数拟合问题:直接拟合直接拟合(非线性非线性)非线性拟合结果非线性拟合结果数据变换数据变换变换后的变换后的数据点数据点线性拟合参数线性拟合参数非线性拟合函数非线性拟合函数线性拟合线性拟合反变换反变换 实际问题中实际问题中, 各个数据点的重要性可能不相等各个数据点的重要性可能不相等, 定义误差函数定义误差函数:2011(,)nmiiiF a aa01(,)ma aa加权系数加权系数2011(,)()nmiiiiF aaayxu 线性最小二乘法的一般形式线性最小二乘法的一般形式l方法方
11、法要求要求F极小极小, 即即第第6 6章章 函数逼近函数逼近( ,) (1, ),iix yin数据点数据点记记:0011( )( )( )( )mmxaxaxax取拟合函数取拟合函数:线性无关函数组线性无关函数组:01( ),( ),( )mxxx误差函数误差函数:210()nmiikkiikyax1()()0niiijiiyxx011()()()mnnijikikiijikiixxayx 1(,)()()nkjijikiixx 正则方程正则方程:0001000101111101(,)(,)(,)(, )(,)(,)(,)(, )(,)(,)(,)(, )mmmmmmmmayayay 0jF
12、a(0,1,)jm由于由于线性无关线性无关, 系数矩阵非奇系数矩阵非奇异异, 方程有唯一解方程有唯一解.( ) (0,1,)ixim下面证明下面证明 就是所求就是所求的最小二乘函数的最小二乘函数.( ) x0( =1,2,., )iin为权系数为权系数.01()()()mnkkiiikikiacyxx22111()2() ()()()()nnniiiiiiiiiiiiiiyxyxxxxx l定理定理6.1 (最小二乘解最小二乘解)证明证明. 对对 0( )( ),miiixcxH证毕证毕 # 第第6 6章章 函数逼近函数逼近设设(a0,a1,am) 是满足上述正则方程的解是满足上述正则方程的解
13、, 则则 是数是数据点据点(xi,yi) (i=1,n) 的最小二乘函数的最小二乘函数.0( )( )miiixax证明证明00(,)(,)mmF ccF aa201(,)()nmiiiiF ccyx21()( ()()niiiiiiyxxxII10()()()nmiiikkkiikyxacx020011(,)()(,)nmiiimiF ccyxF aaa即即, 2211()min()nniiiiiiHiiyxyx0正则方程的正则方程的第第k个方程个方程l正交多项式方法的提出正交多项式方法的提出第第6 6章章 函数逼近函数逼近正则方程一般是病态的正则方程一般是病态的, 尤其是尤其是m比较大的情
14、况比较大的情况, 这样得到的系数这样得到的系数 (a0,a1,.,am) 误差较大误差较大.正则方程的系数正则方程的系数矩阵为对角阵矩阵为对角阵.21(,)()0 (0,1,)nkkikiixkm 121( )( ,)(,)( )niikikiknkkikiiyxyax 若选取的函数组若选取的函数组 满足满足:( )jx(0,1,)km最小二乘函数最小二乘函数:00( ,)( )( )( )(,)mmkkkkkkkkyxaxx 若函数组若函数组 满足上述条件满足上述条件, ( )jx1(,)()()0 ()nkjikijiixxkj 定义定义 (正交函数族正交函数族)则称为以则称为以 为权为权
15、, 关于关于(1, )iin 点集点集 (x1,x2,xn) 的的正交函数族正交函数族.01112( )1( )( )()( )( ) (2,3,)kkkkkxxxxxxxkm l正交多项式的构造正交多项式的构造第第6 6章章 函数逼近函数逼近其中其中,2111121111( )(,)(1,2,)(,)( )niikikkiknkkikiixxxkmx2111122221( )(,)(2,3,)(,)( )nikikkiknkkikiixkmx证明过程类似于后面的证明过程类似于后面的定理定理6.4.l利用正交多项式求拟合多项式的过程利用正交多项式求拟合多项式的过程第第6 6章章 函数逼近函数逼
16、近 得拟合多项式得拟合多项式: 构造正交函数系构造正交函数系: 01( ),( ),( )mxxx 解正则方程解正则方程, 得系数得系数: a0,a1,am.0011( )( )( )( )mmxaxaxaxi123456Xi012345yi0.3560.8051.0050.9420.6680.325l例例. 利用正交函数求下列数据的最小二乘二次利用正交函数求下列数据的最小二乘二次(m=2)拟合多项式拟合多项式解解. n=6, 取取 012( ),( ),( ),xxx0( )1,x11( ),xx0011001(,)155,(,)621niinixx 1 (1,2, )iin构造正交多项式系
17、构造正交多项式系: 1( )2.5,xxl例(续)例(续)第第6 6章章 函数逼近函数逼近22120( )()( )( )xxxx 11211(,)43.752.5,(,)17.5x 11200(,)17.52.916667(,)6 22( )(2.5)2.916667xx解正则方程解正则方程, 得拟合函数的各个系数得拟合函数的各个系数. 212222221( )( ,)37.33330.104571(,)3.904( )niiiiniiiyxyax 60i=1000( ,)4.1010.6835,(,)66iyya 1111( ,)0.31450.017971(,)17.5ya 拟合多项式拟
18、合多项式:001122( )( )( )( )xaxaxax2012( )(2.5)(2.5)2.916667xaa xax22212210(5)(2.52.916667)2.5a xaa xaaa2( )0.1045710.5048860.379857xxx 与多项式直接拟与多项式直接拟合结果完全一致合结果完全一致.二二. 正交多项式正交多项式u 基本概念基本概念第第6 6章章 函数逼近函数逼近l定义定义6.2 (正交函数系正交函数系)特例特例:0()jk( ,0,1,2,)j k 正交函数系的例子正交函数系的例子若函数系若函数系 满足满足:01( ),( ),( ),mxxx(,)( )(
19、 )( )bjkjkaxxx dx0 ()kjk则称函数系则称函数系 在在a,b上关于权函数上关于权函数 的的正交函数系正交函数系.( )ix( ) x1 (0,1,2,),kk是区间是区间 上关于权函数上关于权函数 的正交函数系的正交函数系., ( )1x1,cos ,sin ,cos2 ,sin2 ,cos,sin,xxxxnxnx三角函数系三角函数系:称为称为标准正交函数系标准正交函数系.( )ix正交函数系的性质正交函数系的性质由下面两个定理给出由下面两个定理给出:l定理定理6.2 (线性无关性线性无关性)证明证明 采用反证法采用反证法 假设假设 线性相关线性相关, 即存在不全为即存在
20、不全为0的系数的系数ci,使使 ( )ix第第6 6章章 函数逼近函数逼近0011( )+( )+( )=0nncxcxcx , xa b不妨设不妨设 0,ic 0011( )( )( )+( )+( )=0binnaxx cxcxcx dx由正交性由正交性 ( ),( )=0iiicxx=0ic( )ix矛盾矛盾. 故故 线性无关线性无关.正交函数系必定是线性无关的正交函数系必定是线性无关的.l定理定理6.3 (正交多项式的充要条件正交多项式的充要条件)设设 是最高次系数非零的是最高次系数非零的k次多项式次多项式, 则则 是是a,b上关于权函上关于权函数数 的正交多项式的充要条件是的正交多项
21、式的充要条件是, 对任意次数不超过对任意次数不超过k-1次的多次的多项式项式 , 都有都有: ( )kx( )kx( )x1( )kQx11(,)( )( )( )dx=0bkkkkaQxx Qx(1,2,)k l定理定理6.3 (续续)证毕证毕 # 第第6 6章章 函数逼近函数逼近证明证明 充分性充分性 若若对对 成立成立. 1( )kQx11(,)( )( )( )dx=0bkkkkaQxx Qx取取1( )( ) (0,1,1)kjQxxjk( )( )( )dx=0bkjaxxx即即 (,)=0 ()kjkj ( )( )( )dx0bkkaxxx另外另外, ( )0kx故故 为正交多
22、项式系为正交多项式系. ( )ix必要性必要性 设设 是是a,b上关于权函数上关于权函数 的正交多项式的正交多项式, ( )ix( )x由定理由定理6.2, 在在a,b上线性无关上线性无关. ( )ix110( )( )kkjjjQxbx110( )( )( )dx=( )( )( )dxkbbkkkjjaajxx Qxxxbx10=(,)0kjkjjb 01112( )1( )( )()( )( ) (2,3, )kkkkkxxxxxxxkn u 格拉姆格拉姆- -施密特施密特(Gram-Schmidt)方法方法第第6 6章章 函数逼近函数逼近构造正交函数的一般方法构造正交函数的一般方法:其
23、中其中,l定理定理6.4 (正交函数的构造正交函数的构造)是区间是区间a,b上关于权函数上关于权函数 的正交函数系的正交函数系.( )x( )0,x( )0 x21112111( )( )(,)(1,2, )(,)( )( )bkkkakbkkkax xx dxxknxx dx21112222( )( )(,)(2,3, )(,)( )( )bkkkakbkkkaxx dxknxx dx2(,)( )( )dx0bkkkaxx 证明证明 由递推式可看出由递推式可看出, 是是k次多项式次多项式, 且且xk系数为系数为1.( ) (0,1, )kxkn( )0,x( )0 x( )0,kx1111
24、12(,)(,)(,)mmmmmmmmxl定理定理6.4 (续续-1)第第6 6章章 函数逼近函数逼近下面用归纳法证明下面用归纳法证明: (,)=0 ()jkjk 不妨设不妨设jk, k=1,2,n.k=1:命题成立命题成立.0101(,)( )( )( )dxbaxxx 1( )()dxbaxx1( ) dx( )dxbbaax xx000100( )(,)(,)( )babax xdxxx dx 假设结论对假设结论对 k=m-1 (2mn) 成立成立, 即即:1(,)0 (0,1,2)jmjm 对对k=m, 先考察先考察11(,)( )( )( )dxbmmmmaxxx112( )( )(
25、)( )( )dxbmmmmmaxxxxx 001111(,)(,)mmmmmx22(,)( )( )( )dxbmmmmaxxx212( )( )()( )( )dxbmmmmmaxxxxx 212122(,)(,)(,)mmmmmmmmx01122(,)(,)mmmmm归纳法归纳法假设假设 其次考察其次考察1111111(,)(,)(,)(,)jmjmjjmjjm 112(,)(,)(,)jmmjmmjmx l定理定理6.4 (续续-2)由归纳法假设由归纳法假设 第第6 6章章 函数逼近函数逼近结论对结论对 k=m 也成立也成立, 证毕证毕 #22111(,)(,)(,)mmmmmmx21
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数值 计算方法 函数 逼近 ppt 课件

限制150内