数值分析课件第三章函数逼近与计算精.ppt
数值分析课件第三章函数逼近与计算第1页,本讲稿共40页实例:考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的24个纤维样品的强度与相应的拉伸倍数是记录:1 1、引言引言第2页,本讲稿共40页纤维强度随拉伸倍数增加而增加并且24个点大致分布在一条直线附近-(1)必须找到一种度量标准来衡量什么曲线最接近所有数据点。第3页,本讲稿共40页一般使用在回归分析中称为残差残差残差残差称为平方误差。称为平方误差。称为平方误差。称为平方误差。在回归分析中称为残差平方和.从而确定(1)中的待定系数:注意(1)式是一条直线,因此将问题一般化为:什么是最小二乘法什么是最小二乘法第4页,本讲稿共40页仍然定义平方误差第5页,本讲稿共40页我们选取的度量标准是-(2)-(3)第6页,本讲稿共40页第7页,本讲稿共40页由可知因此可假设因此求最小二乘解转化为二次函数7.1 7.1 最小二乘法的求法最小二乘法的求法第8页,本讲稿共40页由多元函数取极值的必要条件得即第9页,本讲稿共40页-(4)即第10页,本讲稿共40页引入记号则由内积的概念可知-(5)-(6)显然内积满足交换律第11页,本讲稿共40页方程组(4)便可化为-(7)将其表示成矩阵形式-(8)第12页,本讲稿共40页并且其系数矩阵为对称阵所以法方程组的系数矩阵非奇异,即根据Cramer法则,法方程组有唯一解第13页,本讲稿共40页即是的最小值所以因此第14页,本讲稿共40页作为一种简单的情况,基函数之间的内积为平方误差第15页,本讲稿共40页例例1 1.回到本节开始的实例,从散点图可以看出纤维强度和拉伸倍数之间近似与线性关系故可选取线性函数为拟合函数,其基函数为建立法方程组根据内积公式,可得第16页,本讲稿共40页法方程组为解得平方误差为第17页,本讲稿共40页拟合曲线与散点的关系如右图:第18页,本讲稿共40页例2.求拟合下列数据的最小二乘解x=.24.65.95 1.24 1.73 2.01 2.23 2.52 2.77 2.99y=.23-.26-1.10-.45.27.10-.29.24.56 1解:从数据的散点图可以看出因此假设拟合函数与基函数分别为第19页,本讲稿共40页6.7941 -5.3475 63.2589-5.3475 5.1084 -49.008663.2589-49.0086 1002.5 1.6163-2.382726.7728通过计算,得法方程组的系数矩阵及常数项矩阵为第20页,本讲稿共40页用Gauss列主元消去法,得 -1.0410 -1.2613 0.030735拟合的平方误差为图象如图第21页,本讲稿共40页例3.在某化学反应里,测得生成物浓度y%与时间t的数据如下,试建立y关于t的经验公式t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有图示的图形的曲线很多,本题特提供两种形式第22页,本讲稿共40页两边取对数,得得即为拟合函数基函数为解法方程组得平方误差为第23页,本讲稿共40页用最小二乘法得即无论从图形还是从平方误差考虑在本例中指数函数拟合比双曲线拟合要好平方误差为第24页,本讲稿共40页从本例看到,拟合曲线的数学模型并不从本例看到,拟合曲线的数学模型并不是一开始就能选好的,往往要通过分析是一开始就能选好的,往往要通过分析确定若干模型之后,再经过实际计算,确定若干模型之后,再经过实际计算,才能选到较好的模型。才能选到较好的模型。第25页,本讲稿共40页各点的重要性可能是不一样的重度:即权重或者密度,统称为权系数定义加权平方误差为:-(9)关于加权最小二乘法关于加权最小二乘法第26页,本讲稿共40页使得第27页,本讲稿共40页由多元函数取极值的必要条件得即第28页,本讲稿共40页引入记号定义加权内积-(10)第29页,本讲稿共40页矩阵形式(法方程组)为方程组(10)式化为-(11)-(12)第30页,本讲稿共40页平方误差为作为特殊情形,用多项式作拟合函数的法方程组为-(13)第31页,本讲稿共40页即正交多项式如何选取呢-(14)7 7、2 2 用正交多项式作最小二乘拟合用正交多项式作最小二乘拟合第32页,本讲稿共40页第33页,本讲稿共40页使得由正交多项式的性质,法方程组第34页,本讲稿共40页-(16)-(17)可化为即得即为利用正交多项式的最小二乘解第35页,本讲稿共40页平方误差为第36页,本讲稿共40页例4.是用最小二乘法求拟合这组数据的多项式解解:从散点图可知数据和二次多项式拟合较好因此选用二次多项式作这组数据的拟合函数第37页,本讲稿共40页设拟合函数取第38页,本讲稿共40页第39页,本讲稿共40页因此拟合多项式为平方误差为第40页,本讲稿共40页