第五章线性参数的最小二乘法处理PPT讲稿.ppt

第五章线性参数的最小二乘法处理1 1第1页，共52页，编辑于2022年，星期三最小二乘法最小二乘法（leastsquaremethod）1805年，勒让德（Legendre）应用“最小二乘法”，确定了慧星的轨道和地球子午线段。1809年，高斯（Gauss）论证其解的最佳性。经典最小二乘法（即代数最小二乘法）现代最小二乘法（即矩阵最小二乘法）第2页，共52页，编辑于2022年，星期三线性参数的最小二乘法第一节第一节第一节第一节 最小二乘法原理最小二乘法原理最小二乘法原理最小二乘法原理第二节第二节第二节第二节 正规方程正规方程正规方程正规方程第三节第三节第三节第三节 精度估计精度估计精度估计精度估计第四节第四节第四节第四节 组合测量的最小二乘组合测量的最小二乘组合测量的最小二乘组合测量的最小二乘 法处理法处理法处理法处理第3页，共52页，编辑于2022年，星期三大纲要求v掌握最小二乘原理。掌握最小二乘原理。v掌握正规方程掌握正规方程:等精度测量线性参数的最小二乘处理等精度测量线性参数的最小二乘处理 不等精度测量线性参数的最小二乘处理不等精度测量线性参数的最小二乘处理v掌握最小二乘精度估计方法。掌握最小二乘精度估计方法。第4页，共52页，编辑于2022年，星期三第一节最小二乘法原理第一节最小二乘法原理 设有一金属尺，在温度设有一金属尺，在温度t时长度可表示为时长度可表示为yt=y0（1+t），），其中，其中，y0为温度零度时的精确长度。为温度零度时的精确长度。为金属为金属材料的线膨胀系数，求材料的线膨胀系数，求y0与与 的数值的数值 l1=y0（1+t1）l2=y0（1+t2）y0与 一、最小二乘法原理一、最小二乘法原理 引题引题:求标准米尺线膨胀系数求标准米尺线膨胀系数 第5页，共52页，编辑于2022年，星期三求标准米尺线膨胀系数求标准米尺线膨胀系数 设在设在t1，t2，t3.tn温度条件下分别测得金属尺的长度温度条件下分别测得金属尺的长度l1，l2，l3.ln共共n个结果，可列出方程组个结果，可列出方程组 l1=y0（1+t1）l2=y0（1+t2）ln=y0（1+tn）（1）当当n2，方程组无解。方程组无解。最小二乘法v1=l1-y1v2=l2-y2，yn为最小二乘估计量.vn=ln-yn y0与与 最可信最可信赖赖 值值？一、最小二乘法原理一、最小二乘法原理 第6页，共52页，编辑于2022年，星期三待测量（难以直接测量）：待测量（难以直接测量）：直接测量量：直接测量量：问题：如何根据和测量方程解得待测问题：如何根据和测量方程解得待测 量的估计值？量的估计值？一、最小二乘法原理一、最小二乘法原理 为确定为确定t个不可直接测量的末知量个不可直接测量的末知量的估计量的估计量，可对与该可对与该t个末知量有函数关系的直接测量量个末知量有函数关系的直接测量量Y进行进行n次测量，得测量数据次测量，得测量数据（nt）并设有如下函数关系：并设有如下函数关系：测量方程 第7页，共52页，编辑于2022年，星期三直接求得。直接求得。有利于减小随机误差，方程组有利于减小随机误差，方程组有冗余，采用最小二乘原理求有冗余，采用最小二乘原理求 。讨论：讨论：最小二乘原理：最小二乘原理：最可信赖值应使残余误差平方和最小。最可信赖值应使残余误差平方和最小。一、最小二乘法原理一、最小二乘法原理 第8页，共52页，编辑于2022年，星期三设直接测量量 的估计量分别为（5-2）一、最小二乘法原理一、最小二乘法原理 由此得测量数据由此得测量数据 的残差为：的残差为：v1=l1-y1v2=l2-y2.（5-3）vn=ln-yn即即（5-4）残差方程式（误差方程式）第9页，共52页，编辑于2022年，星期三若测量数据若测量数据 ,不存在系统误差和粗大误差，不存在系统误差和粗大误差，相互独立，且服从正态分布相互独立，且服从正态分布,其标准差为其标准差为 则各测量结果则各测量结果出现于相应真值附近出现于相应真值附近区区域内的概率分别为：域内的概率分别为：一、最小二乘法原理一、最小二乘法原理 各误差相互独立，由概率乘法定理，各测量数据同时分别出现在相各误差相互独立，由概率乘法定理，各测量数据同时分别出现在相应区域的概率应为：应区域的概率应为：第10页，共52页，编辑于2022年，星期三一、最小二乘法原理一、最小二乘法原理 等精度测量等精度测量：最小二乘原理的代数形式测量值测量值 已经出现，有理由认为这已经出现，有理由认为这n n个测量值个测量值出现于相应区间的概率出现于相应区间的概率P P为最大。要使为最大。要使P P最大，应有最大，应有由于结果只是接近真值的估计值，因此上述条件应为由于结果只是接近真值的估计值，因此上述条件应为引入权引入权第11页，共52页，编辑于2022年，星期三必须指出:上述最小二乘原理是在测量误差无偏、正态分布和相互独立的条件下推导出的，但在不严格服从正态分布的情形下也常被使用。实际上，按误差或残差平方和为最小进行统计推断已形成一种准则。一、最小二乘法原理一、最小二乘法原理 最小二乘原理最小二乘原理:测量结果的最可信赖值应使残余误测量结果的最可信赖值应使残余误差平方和（或加权残余误差平方和）最小。差平方和（或加权残余误差平方和）最小。第12页，共52页，编辑于2022年，星期三二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的测量方程线性参数的测量方程相应的相应的估计值估计值 其其误差方程误差方程：第一节最小二乘法原理 第13页，共52页，编辑于2022年，星期三二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的线性参数的最小二乘原理的矩阵形式最小二乘原理的矩阵形式 实测值矩阵实测值矩阵 估计值矩阵估计值矩阵 残差矩阵残差矩阵 误差方程误差方程系数矩阵系数矩阵 误差方程的矩阵形式误差方程的矩阵形式 误差方程误差方程第14页，共52页，编辑于2022年，星期三二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的线性参数的最小二乘原理的矩阵形式最小二乘原理的矩阵形式 误差方程的矩阵形式误差方程的矩阵形式 1 1）等精度测量线性参数的最小二乘原理的矩阵形式等精度测量线性参数的最小二乘原理的矩阵形式 或 或 2 2）不等精度测量线性参数的最小二乘原理的矩阵形式不等精度测量线性参数的最小二乘原理的矩阵形式 最小=最小其中：其中：第15页，共52页，编辑于2022年，星期三不等精度不等精度 等精度等精度不等精度测量线性参数的最小二乘原理的矩阵形式不等精度测量线性参数的最小二乘原理的矩阵形式第16页，共52页，编辑于2022年，星期三二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的不等精度测量转化为等精度的形式：线性参数的不等精度测量转化为等精度的形式：第17页，共52页，编辑于2022年，星期三误差误差方程方程 正规方程（法正规方程（法方程）方程）最小二乘法最小二乘法(方程数n末知数个数t)(n=t)求解线求解线性方程性方程组组 求极值求极值的方法的方法线性参数的最小二乘法处理程序线性参数的最小二乘法处理程序 正规方程：误差方程按最小二乘法原理转化得到的正规方程：误差方程按最小二乘法原理转化得到的有确定解的代数方程组。有确定解的代数方程组。第18页，共52页，编辑于2022年，星期三第二节、正规方程一、等精度测量线性参数最小二乘法的正规方程二、不等精度测量线性参数最小二乘法的正规方程三、非线性参数最小二乘法处理的正规方程（略）四、最小二乘法与算术平均值的关系 第19页，共52页，编辑于2022年，星期三第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程且且第20页，共52页，编辑于2022年，星期三第二节正规方程 正规方程：正规方程：特点：特点：主对角线分布着平方项系数，正数相对于主对角线对称分布的各系数两两相等(5-19)第21页，共52页，编辑于2022年，星期三看正规方程组中第看正规方程组中第r r个方程：个方程：则正规方程可写成则正规方程可写成第二节正规方程 即即正规方程的矩阵形式正规方程的矩阵形式第22页，共52页，编辑于2022年，星期三第二节正规方程 将代入到中，得第23页，共52页，编辑于2022年，星期三的数学期望为：的数学期望为：可见可见为为X的无偏估计。的无偏估计。第24页，共52页，编辑于2022年，星期三由最小二乘法求最佳解由最小二乘法求最佳解系数矩阵系数矩阵A-误差方程，（测量方程）误差方程，（测量方程）实测值矩阵实测值矩阵L-直接测得直接测得 例题例题 5-1X 的最佳估计值的最佳估计值第25页，共52页，编辑于2022年，星期三第二节正规方程 例例5.1已知铜棒的长度和温度之间具有线性关系：，为已知铜棒的长度和温度之间具有线性关系：，为。为获得。为获得时铜棒的长度时铜棒的长度和铜的线膨胀系数，现测得不同温度下铜和铜的线膨胀系数，现测得不同温度下铜棒的长度，如下表，求，的最可信赖值。棒的长度，如下表，求，的最可信赖值。1020253040452000.362000.722000.82001.072001.482000.60第26页，共52页，编辑于2022年，星期三由此可得不等精度测量线性参数最小二乘处理的正规方程：二、不等精度测量线性参数最二、不等精度测量线性参数最小二乘法处理的正规方程小二乘法处理的正规方程 第27页，共52页，编辑于2022年，星期三整理得：整理得：(5-19)(5-25)不等精度的正规方程不等精度的正规方程第28页，共52页，编辑于2022年，星期三即不等精度的正规方程不等精度的正规方程将代入上式，得第29页，共52页，编辑于2022年，星期三的数学期望为：的数学期望为：可见可见为为X的无偏估计。的无偏估计。第30页，共52页，编辑于2022年，星期三由最小二乘法求最佳解由最小二乘法求最佳解系数矩阵系数矩阵A-误差方程，（测量方程）误差方程，（测量方程）测量值矩阵测量值矩阵L-直接测得直接测得 权矩阵权矩阵P例题例题 5-2X 的最佳估计值的最佳估计值第31页，共52页，编辑于2022年，星期三例例5.2 5.2 某测量过程有误差方程式及相应的标准差：某测量过程有误差方程式及相应的标准差：试求试求 的最可信赖值。的最可信赖值。解：首先确定各式的权解：首先确定各式的权第32页，共52页，编辑于2022年，星期三令第33页，共52页，编辑于2022年，星期三四、最小二乘法与算术平均值的关系四、最小二乘法与算术平均值的关系 为确定一个量为确定一个量X的估计值的估计值x，对它进行对它进行n次直接测量，得到次直接测量，得到n个数据个数据 ,相应的权分别为相应的权分别为 。最佳估计值最佳估计值 运用最小二乘法求运用最小二乘法求 第34页，共52页，编辑于2022年，星期三误差方程：误差方程：系数矩阵系数矩阵 权矩阵：权矩阵：实测值矩阵实测值矩阵 第35页，共52页，编辑于2022年，星期三对等精度测量：对等精度测量：与前面结果一致。此式与等精度测量时算术平均值原理给出的结果相同，此式与等精度测量时算术平均值原理给出的结果相同，由此可见，最小二乘法原理与算术平均值原理是一致的，由此可见，最小二乘法原理与算术平均值原理是一致的，算术平均值原理可以看作是最小二乘法的特例。算术平均值原理可以看作是最小二乘法的特例。第36页，共52页，编辑于2022年，星期三第三节 精度估计一、一、直接测量数据直接测量数据 的精度估计的精度估计 二、二、最小二乘估计量最小二乘估计量 的精度估计的精度估计 第37页，共52页，编辑于2022年，星期三第三节精度估计 一、测量数据精度估计一、测量数据精度估计(一）等精度测量数据的精度估计一）等精度测量数据的精度估计可以证明可以证明 是自由度（是自由度（nt）的）的 变量。变量。根据根据 变量的性质，有变量的性质，有对包含对包含t个末知量的线性参数个末知量的线性参数Y()进行进行n次次等精度测量得等精度测量得，其残差，其残差得得 的的估计量。估计量。第38页，共52页，编辑于2022年，星期三则可取则可取作为作为 的无偏估计量。的无偏估计量。因此测量数据的标准差的估计量为因此测量数据的标准差的估计量为测量次数未知量个数残差平方和当当t=1时？时？第39页，共52页，编辑于2022年，星期三(二二)不等精度测量数据的精度估计不等精度测量数据的精度估计 一、一、直接测量数据直接测量数据 的精度估计的精度估计 测量数据的单位权标准差测量数据的单位权标准差（加权）未知量个数方程个数残差平方和当当t=1时？时？第40页，共52页，编辑于2022年，星期三直接测量量的标准差对角元素不定系数 二、最小二乘估计量二、最小二乘估计量的精度估计的精度估计 1 1、等精度测量时估计量的精度估计等精度测量时估计量的精度估计 第41页，共52页，编辑于2022年，星期三单位权的标准差 对角元素不定系数 二、最小二乘估计量二、最小二乘估计量的精度估计的精度估计 2、不等精度测量估计量的精度估计、不等精度测量估计量的精度估计 第42页，共52页，编辑于2022年，星期三第四节组合测量（combined measurement）的最小二乘法处理第43页，共52页，编辑于2022年，星期三组合测量基本概念组合测量组合测量是通过直接测量待测参数的各种组合量（一般是等精度测量），然后对这些测量数据进行处理，从而求得待测参数的估计值，并给出其精度估计。通常组合测量数据是用最小二乘法进行处理，他是最小二乘法在精密测试中的一种重要应用。t个被个被测量测量 n个误个误差方程差方程式式 求解求解 n种种组合组合测得测得 最小最小二乘法二乘法第44页，共52页，编辑于2022年，星期三组合测量基本概念如为精密测定1号、2号和3号电容器的电容量 测得值误差方程 待求量为了获得更可靠的结果，测量次数总要多于未知参数的数目第45页，共52页，编辑于2022年，星期三组合测量基本概念优点：精度较高。组合形式越多（优点：精度较高。组合形式越多（n越大），测量结果的精度越大），测量结果的精度就越高。就越高。缺点：工作量大缺点：工作量大 应用：在精密测量工作中有十分重要的地位，如标准器的应用：在精密测量工作中有十分重要的地位，如标准器的检定。检定。第46页，共52页，编辑于2022年，星期三【例题】【例题】要求检定丝纹尺0，1，2，3刻线间的距离。已知用组合测量法测得图所示刻线间隙的各种组合量。试用最小二乘法求及其标准偏差。第47页，共52页，编辑于2022年，星期三直接测量各组合量，得首先列出误差方程由此可得：第48页，共52页，编辑于2022年，星期三则第49页，共52页，编辑于2022年，星期三式中，现求上述估计量的精度估计。将最佳估计值代入误差方程中，第50页，共52页，编辑于2022年，星期三那么，测量数据 的标准差为第51页，共52页，编辑于2022年，星期三已知则最小二乘估计量 的标准差为第52页，共52页，编辑于2022年，星期三