函数的一致连续性的性质与应用毕业论文.doc

最小二乘法及其应用 本科毕业论文（设计）论文题目: 函数的一致连续性的性质与应用指导教师: 学生姓名: 学号: 2090111337 院（系）: 数学学院 专业: 数学与应用数学（师范）毕业时间: 2013年 申请学位： 理学学士 目录目录.1摘要.2Abstract .31引言42最小二乘法.4 2.1最小二乘法原理.42.2最小二乘法的几何解释.5 2.3最小二乘法的概率意义.53曲线拟合63.1线性拟合.6 3.1.1多项式拟合.6 3.1.2一元线性拟合.7 3.1.3多元线性拟合.83.2非线性拟合.83.2.1指数函数拟合.83.2.2双曲线拟合.93.2.3幂函数拟合.103.2.4 S型曲线拟合.113.2.5 对数函数拟合114 应用举例.125总结.19参考文献.20摘要最小二乘法在生命科学、工程技术和经济等诸多领域都有着广泛的应用。本文首先给出了最小二乘法的基本原理，并从几何和概率两个角度对其作进一步的解释。其次，我们讨论了多项式拟合及几类特殊的非线性拟合。对这些非线性拟合进行适当的变形，即可转化为线性拟合。最后，我们给出了几个典型例子说明最小二乘法的应用。关键词：最小二乘法, 曲线拟合, 线性拟合, 非线性拟合 AbstractThe least square method has been widely used in various areas such as life sciences,engineering technology,economy and so on . This paper presents the basic principle of the least square method, and gives some further explanations by two aspects, i.e., geometry and probability. Secondly, we discuss the polynomial fitting and several kinds of special nonlinear fitting. By some proper deformation, those nonlinear fittings can be transformed into linear fitting. Finally, we present some typical examples to show the applications of the least square method Key words： least square method, curve fitting, linear fitting, nonlinear fitting1 引言最小二乘法是一个比较古老的方法，早在十八世纪，就由Gauss首先创立并成功地应用于天文观测和大地测量工作中。此后近三百年来，它已广泛应用于科学实验与工程技术中。随着现代电子计算机的普及与发展，这个古老的方法更加显示出其强大的生命力。在生命科学、工程技术和经济领域经常会遇到根据两个变量的若干组实验数据，来研究这两个变量之间的关系，也就是找出这两个变量间的函数关系式的近似表达式(又称为经验公式)，然后用这个近似表达式去对所给问题进行具体研究。2 最小二乘法2.1 最小二乘法原理如何根据实验数据来找出函数关系的近似表达式呢？我们知道用近似表达式去代替函数关系，通常有误差存在，显然误差越小，近似表达式的精度就越高。假设有n组试验数据（,）,设为变量和的精确函数关系，为近似表达式。用近似表示时，在点的误差则为 在求时，我们当然希望(=1,2, ,n)都很小。为了达到这一要求，我们注意到使误差的和很小，不能保证每个误差的绝对值都很小，因为误差有正有负，在求和时，会相互抵消。为了避免这种情形，可对误差去绝对值再求和，只要 很小，就可以保证每个误差的绝对值都很小。但在上式中由于含有绝对值符号，不便于计算和进一步分析讨论，所以我们将绝对值符号改为取平方，即 当此式很小时，可以保证每个误差的绝对值都很小。因此，在求时，越小越好，这种以误差的平方和达到最小为条件来求的方法称为最小二乘法（method of least squares ）.用最小二乘法求近似函数的问题，要求在某个函数类中寻求一个函数，使=称所求出的=为与之间的经验公式。 用最小二乘法拟合的一个前提条件是函数的形式已知。函数形式的选择或假设一般有两种方式：一种是通过问题的物理知识来确定函数形式：另一种是根据实测的数据在坐标图上描出曲线来确定。2.2 最小二乘法的几何解释 最小二乘法又称曲线拟合，所谓“拟合”即不要求所作的曲线完全通过所有的数据点，只要求所得的曲线能反映数据的基本趋势。最小二乘法的几何解释：求一条曲线，使数据点均在离此曲线的上方或下方不远处。2.3最小二乘法的概率意义 假定变量与之间的函数可以精确表示为。 测量数据（,）与解析式常有偏差。对自变量的任一值，另一变量与测量量之间误差是随机变量。该变量通常服从正态分布，且数学期望为零，均方差为，如果各次测量的精度相同，则测量值误差的随机变量的分布密度可表示为 而公式中 = 为了提高分析的精确度，应使尽可能地小，根据概率论原理，也就是使偶然误差的分布尽可能地集中。根据概率乘法，可知分布密度出现的概率正比于要使上式值为最大，应使=为最小。因此必须选择函数的测量值与相应的函数值的偏差的平方和为最小，这就是最小二乘法原理的概率意义。3 曲线拟合3.1 线性拟合3.1.1 多项式拟合对于给定的一组数据（,），在函数类中寻找一个函数，使误差的范数的平方= （3.1） 达到最小，这里是的一组线性无关的基函数，是 的线性组合，即 （3.2） 带权的最小二乘法：= （3.3）其中是上的权函数。将（3.2）代入式（3.3）中，是误差的范数平方取最小值问题转化为求下列多元函数 的极小点，即令 由此得 （3.4）记离散形式的内积 则式（3.4）可写为 把它写成矩阵的形式 其中 ，即 （3.5）式（3.5）是关于系数 的线性方程组，也称正则方程组或法方程组。由于线性无关，可以证明式（3.5）的稀疏矩阵的行列式不为零，因此方程组（3.5）有唯一的解。当函数类=时， 为m次多项式。相应地，曲线拟合成为多项式拟合，法方程组（3.5）可写为 （3.6）由此，便可求出多项式系数，最后得出经验公式。3.1.2 一元线性拟合当函数类= 时，为一元线性函数。相应地，曲线拟合成为一元线性拟合，法方程组（3.5）可写为 从中解出 3.1.3 多元线性拟合当函数类= 时， 为m元多项式。相应地，曲线拟合成为多项式拟合，法方程组(3.5)可写为 由此，便可求出多项式系数，最后得出经验公式。3.2 非线性拟合非线性模型可分为两类，其中一类是可通过适当的变量变换化为线性形式（即曲线直线化），这样的模型称为可线性化的非线性模型，否则就称为不可线性化的非线性模型。一般地，最小二乘法可以用于线性参数的处理，也可以用于非线性参数的处理。而非线性参数常通过适当的变量变换转化为线性形式，再运用最小二乘法处理得到经验公式。下面介绍一些可线性化的非线性模型。 3.2.1 指数函数拟合 在对物理系统进行数学分析时经常出现指数函数，于是有时也用形如 或 （3.7）等曲线（图1）拟合实验数据，其中与是待定参数。 图1 直接就式（3.7）的形式，通过极小化 或来确定与，将导致求解关于与的非线性方程组。这样，不但比较难于求解，而且一般不能求的精确解。 通常的处理方法是通过取对数将式（3.7）变换成线性形式，以便使用前面描述的关于线性模型得最小二乘法。具体地说，对方程两边取对数，得 （3.8）是与的线性组合。用式（3.8）的形式拟合实验数据，使极小化，归结为求解关于和的正则方程组 （3.9）其中 3.2.2 双曲线拟合若拟合函数具有形式或 （3.10）即用双曲线函数拟合实验数据，其中与是待定参数。通常的处理方法是通过变量变换将式（3.10）变换成线性形式，再使用最小二乘法进行模拟。针对式而言， （3.11）是与的线性组合。用式（3.11）的形式拟合实验数据，使极小化，归结为求解关于和的正则方程组 （3.12）其中 3.2.3 幂函数拟合若拟合函数具有形式 （3.13）即用幂函数拟合实验数据，其中与是待定参数。直接就式（3.13）的形式，通过极小化来确定与，将导致求解关于与的非线性方程组。这样，不但比较难于求解，而且一般不能求的精确解。 通常的处理方法是通过取幂函数式（3.13）变换成线性形式，以便使用前面描述的关于线性模型得最小二乘法。具体地说，对方程两边取对数，得 （3.14）是与的线性组合。用式（3.14）的形式拟合实验数据，使极小化，归结为求解关于和的正则方程组 （3.15）其中 3.2.4 S型曲线拟合若拟合函数具有形式，即用S型曲线函数拟合实验数据，其中与是待定参数。 （3.16）是与的线性组合。用式（3.16）的形式拟合实验数据，使极小化，归结为求解关于和的正则方程组 （3.17）其中 3.2.5 对数函数拟合若拟合函数具有形式 （3.18）即用对数函数拟合实验数据，其中与是待定参数。是与的线性组合。用式（3.18）的形式拟合实验数据，使极小化，归结为求解关于和的正则方程组 （3.19）其中 4 应用举例例1 已知函数表，试用二次多项式拟合这组数据。x-2-1012y01210解 记点-2，-1，0，1，2分别为 正则方程组的系数矩阵为 正则方程组的右端项为 于是解正则方程组 得 这样，求得拟合多项式为 例2 已知实验数据i012324682112840求拟合曲线。解 在坐标平面上描出点 。如图2所示。 根据各点的分布情况，选用线性函数 作拟合曲线，故取。 建立正则方程组，因为 图2解之得 于是 例3 已知函数表i01234-2-101241014y01210试用二元线性函数式拟合这组数据。函数类，即，所以正则方程组为 解得 ，这样，求得拟合线性函数式为 例4 表1中的离散数据的分布如图3的情形，即模拟函数形如 试求解。 表1 图3解利用表1中列出的值可以算得（取）？对方程两边取对数，得 则函数类为，即正则方程组如下： 其解为。因此，所以求得的拟合曲线为例5 已知离散数据如下（权）：12341.953.053.553.85求形如的拟合曲线。解 先将已知数据转换为：10.50.333330.250.512820.327870.281690.25974取，计算法方程为 解之得 最后得拟合曲线为 例6 已知函数表i01234x12345y28183250 表2试用幂函数拟合这组数据。对方程两边取对数，得 则函数类为，即转换已知表2为表3，求形如的最小二乘解i0123400.69311.09861.38631.60940.69312.07942.89043.46573.9120 表3，解得 ，即 ，例7 已知函数表i01234x01234y0.50.73110.88080.95260.9820 表4试用S型曲线函数拟合这组数据。由于 则函数类，即转换已知表4为表5，求形如的最小二乘解i01234x1.00001.36790.13530.04980.0183y21.36791.13531.04981.0183 表5，解得 例8 已知函数表i01234x23456y2.69313.09863.38633.60943.7918 表6试用对数函数拟合这组数据。则函数类为，即转换已知表6为表7，求的最小二乘解i012340.69311.09861.38631.60941.7918y2.69313.09863.38633.60943.7918 表7解得 例9已知函数数据表 试用拟合这组数据。解对方程取倒数，得 则函数类为，即正则方程组如下： 其解为 ，所以求得的拟合曲线为5总结 最小二乘法在生命科学、工程技术和经济等诸多领域都有着广泛的应用。对具体实践中测得的数据进行理论分析，用恰当的函数去模拟数据原型是一类十分重要的问题，最常用的逼近原则是让实测数据和估计数据之间的距离平方和最小，这即是最小二乘法。本文在详细给出最小二乘法的理论推导过程的基础上，讨论了多项式拟合及几类特殊的非线性拟合。另外，本文针对不同类型的拟合问题给出实例，进一步说明如何运用最小二乘法来得到拟合曲线。实践证明，最小二乘法具有简单易操作等优点。参考文献1 陆健.最小二乘法及其应用J.中国西部科技.2007，（19）：19-212 桑艳丽.非线性曲线拟合的最小二乘法及其应用J.数学学习与研究（教研版）.2009，（6）：93-943 白银凤，罗蕴玲主编. 微积分及其应用M. 北京市：高等教育出版社, 2001. 4 王中铮著. 注册公用设备工程师执业资格考试专业基础考试复习教程M. 天津市：天津大学出版社, 2010.5 李庆扬 王能超 易大义等编. 数值分析M.北京市：清华大学出版社，2001.6 刘玉君等编著. 计算机辅助船体建造M. 大连市：大连理工大学出版社, 2009.7 郑咸义，姚仰新，雷秀仁等编. 应用数值分析M. 广州市：华南理工大学出版社, 2008.8 王黎明，陈颖，杨楠编著. 应用回归分析M. 上海市：复旦大学出版社, 2008. 致谢本文得以顺利完成，首先诚挚的感谢我的论文指导老师XXX。他在忙碌的教学工作中挤出时间来身材、修改我的论文。还有教过我的所有老师们，你们严谨细致、一丝不苟的作风一直是我工作、学习中的榜样；他们循循善诱的教导和布局一格的思路给予我无尽的启迪。22