线性参数的最小二乘法处.ppt

《线性参数的最小二乘法处.ppt》由会员分享，可在线阅读，更多相关《线性参数的最小二乘法处.ppt（52页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第5章 线性参数的最小二乘法5-5-1 1 最小二乘法最小二乘法（leastsquaremethod）1805年，勒让德（Legendre）应用“最小二乘法”，确定了慧星的轨道和地球子午线段。1809年，高斯（Gauss）论证其解的最佳性。经典最小二乘法（即代数最小二乘法）现代最小二乘法（即矩阵最小二乘法）2 2 线性参数的最小二乘法第一节第一节第一节第一节 最小二乘法原理最小二乘法原理最小二乘法原理最小二乘法原理 第二节第二节第二节第二节 正规方程正规方程正规方程正规方程 第三节第三节第三节第三节 精度估计精度估计精度估计精度估计 第四节第四节第四节第四节 组合测量的最小二组合测量的最小二组

2、合测量的最小二组合测量的最小二乘乘乘乘 法处理法处理法处理法处理3 3 大纲要求v掌握最小二乘原理。掌握最小二乘原理。v掌握正规方程掌握正规方程:等精度测量线性参数的最小二乘处理等精度测量线性参数的最小二乘处理 不等精度测量线性参数的最小二乘处理不等精度测量线性参数的最小二乘处理v掌握最小二乘精度估计方法。掌握最小二乘精度估计方法。4 4 第一节最小二乘法原理第一节最小二乘法原理 设有一金属尺，在温度设有一金属尺，在温度t时长度可表示为时长度可表示为yt=y0（1+t），），其中，其中，y0为温度零度时的精确长度。为温度零度时的精确长度。为金属材料的线膨胀系数，求为金属材料的线膨胀系数，求y0

3、与与 的数值的数值 l1=y0（1+t1）l2=y0（1+t2）y0与 一、最小二乘法原理一、最小二乘法原理 引题引题:求标准米尺线膨胀系数求标准米尺线膨胀系数 5 5 求标准米尺线膨胀系数求标准米尺线膨胀系数 设在设在t1，t2，t3.tn温度条件下分别测得金属尺的长温度条件下分别测得金属尺的长度度l1，l2，l3.ln共共n个结果，可列出方程组个结果，可列出方程组 l1=y0（1+t1）l2=y0（1+t2）ln=y0（1+tn）（1）当当n2，方程组无解。方程组无解。最小二乘法v1=l1-y1v2=l2-y2，yn为最小二乘估计量为最小二乘估计量.vn=ln-yn y0与与 最可最可信赖

4、信赖 值值？一、最小二乘法原理一、最小二乘法原理 6 6 待测量（难以直接测量）：待测量（难以直接测量）：直接测量量：直接测量量：问题：如何根据和测量方程解得待测问题：如何根据和测量方程解得待测 量的估计值？量的估计值？一、最小二乘法原理一、最小二乘法原理 为确定为确定t个不可直接测量的末知量个不可直接测量的末知量的估计量的估计量，可对与该，可对与该t个末知量有函数关系的直接测量量个末知量有函数关系的直接测量量Y进行进行n次测量，得次测量，得测量数据测量数据（nt）并设有如下函数关系：并设有如下函数关系：测量方程测量方程 7 7 直接求得。直接求得。有利于减小随机误差，方程组有利于减小随机误差

5、，方程组有冗余，采用最小二乘原理求有冗余，采用最小二乘原理求 。讨论：讨论：最小二乘原理：最小二乘原理：最可信赖值应使残余误差平方和最小。最可信赖值应使残余误差平方和最小。一、最小二乘法原理一、最小二乘法原理 8 8 设直接测量量 的估计量分别为（5-2）一、最小二乘法原理一、最小二乘法原理 由此得测量数据由此得测量数据 的残差为：的残差为：v1=l1-y1v2=l2-y2.（5-3）vn=ln-yn即即（5-4）残差方程式残差方程式（误差方程式）（误差方程式）9 9 若测量数据若测量数据 ,不存在系统误差和粗大误差，不存在系统误差和粗大误差，相互独立，且服从正态分布相互独立，且服从正态分布,

6、其标准差为其标准差为 则各测量结果则各测量结果出现于相应真值附近出现于相应真值附近区区域内的概率分别为：域内的概率分别为：一、最小二乘法原理一、最小二乘法原理 各误差相互独立，由概率乘法定理，各测量数据同时分别出现各误差相互独立，由概率乘法定理，各测量数据同时分别出现在相应区域的概率应为：在相应区域的概率应为：1010 一、最小二乘法原理一、最小二乘法原理 等精度测量等精度测量：最小二乘最小二乘原理的代原理的代数形式数形式测量值测量值 已经出现，有理由认为这已经出现，有理由认为这n n个测量值个测量值出现于相应区间的概率出现于相应区间的概率P P为最大。要使为最大。要使P P最大，应有最大，应

7、有由于结果只是接近真值的估计值，因此上述条件应为由于结果只是接近真值的估计值，因此上述条件应为引入权引入权1111 必须指出:上述最小二乘原理是在测量误差无偏、正态分布和相互独立的条件下推导出的，但在不严格服从正态分布的情形下也常被使用。实际上，按误差或残差平方和为最小进行统计推断已形成一种准则。一、最小二乘法原理一、最小二乘法原理 最小二乘原理最小二乘原理:测量结果的最可信赖值应使残余测量结果的最可信赖值应使残余误差平方和（或加权残余误差平方和）最小。误差平方和（或加权残余误差平方和）最小。1212 二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的测量方程线性参数的测量方

8、程相应的相应的估计值估计值 其其误差方程误差方程：第一节最小二乘法原理 1313 二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的线性参数的最小二乘原理的矩阵形式最小二乘原理的矩阵形式 实测值矩阵实测值矩阵 估计值矩阵估计值矩阵 残差矩阵残差矩阵 误差方程误差方程系数矩阵系数矩阵 误差方程的矩阵形式误差方程的矩阵形式 误差方程误差方程1414 二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的线性参数的最小二乘原理的矩阵形式最小二乘原理的矩阵形式 误差方程的矩阵形式误差方程的矩阵形式 1 1）等精度测量线性参数的最小二乘原理的矩阵形式等精度测量线性参数的最

9、小二乘原理的矩阵形式 或 或 2 2）不等精度测量线性参数的最小二乘原理的矩阵形式不等精度测量线性参数的最小二乘原理的矩阵形式 最小=最小其中：其中：1515 不等精度不等精度 等精度等精度不等精度测量线性参数的最小二乘原理的矩阵形式不等精度测量线性参数的最小二乘原理的矩阵形式1616 二、线性参数的最小二乘法处理二、线性参数的最小二乘法处理 线性参数的不等精度测量转化为等精度的形式：线性参数的不等精度测量转化为等精度的形式：1717 误差误差方程方程 正规方程正规方程（法方程）（法方程）最小二乘法最小二乘法(方程数方程数n末末知数个数知数个数t)(n=t)求解求解线性线性方程方程组组 求极值

10、求极值的方法的方法线性参数的最小二乘法处理程序线性参数的最小二乘法处理程序 正规方程：误差方程按最小二乘法原理转化得到的正规方程：误差方程按最小二乘法原理转化得到的有确定解的代数方程组。有确定解的代数方程组。1818第二节、正规方程一、等精度测量线性参数最小二乘法的正规方程二、不等精度测量线性参数最小二乘法的正规方程三、非线性参数最小二乘法处理的正规方程（略）四、最小二乘法与算术平均值的关系 5-5-1919 第二节正规方程 一、等精度测量线性参数最小二乘处理的正规方程一、等精度测量线性参数最小二乘处理的正规方程且且2020 第二节正规方程 正规方程：正规方程：特点：特点：主对角线分布着平方项

11、系数，正数相对于主对角线对称分布的各系数两两相等(5-19)2121 看正规方程组中第看正规方程组中第r r个方程：个方程：则正规方程可写成则正规方程可写成第二节正规方程 即即正规方程的矩阵形式正规方程的矩阵形式2222 第二节正规方程 将代入到中，得2323 的数学期望为：的数学期望为：可见可见为为X的无偏估计。的无偏估计。2424 由最小二乘法求最佳解由最小二乘法求最佳解系数矩阵系数矩阵A-误差方程，（测量方程）误差方程，（测量方程）实测值矩阵实测值矩阵L-直接测得直接测得 例题例题 5-1X 的最佳估计值的最佳估计值2525 第二节正规方程 例例5.1已知铜棒的长度和温度之间具有线性关系

12、：，为已知铜棒的长度和温度之间具有线性关系：，为。为获得。为获得时铜棒的长度时铜棒的长度和铜的线膨胀系数，现测得不同温度下铜和铜的线膨胀系数，现测得不同温度下铜棒的长度，如下表，求，的最可信赖值。棒的长度，如下表，求，的最可信赖值。1020253040452000.362000.722000.82001.072001.482000.602626 由此可得不等精度测量线性参数最小二乘处理的正规方程：二、不等精度测量线性参数最二、不等精度测量线性参数最小二乘法处理的正规方程小二乘法处理的正规方程 2727 整理得：整理得：(5-19)(5-25)不等精度的正规方程不等精度的正规方程2828 即不等

13、精度的正规方程不等精度的正规方程将代入上式，得2929 的数学期望为：的数学期望为：可见可见为为X的无偏估计。的无偏估计。3030 由最小二乘法求最佳解由最小二乘法求最佳解系数矩阵系数矩阵A-误差方程，（测量方程）误差方程，（测量方程）测量值矩阵测量值矩阵L-直接测得直接测得 权矩阵权矩阵P例题例题 5-2X 的最佳估计值的最佳估计值3131 例例5.2 5.2 某测量过程有误差方程式及相应的标准差：某测量过程有误差方程式及相应的标准差：试求试求 的最可信赖值。的最可信赖值。解：首先确定各式的权解：首先确定各式的权3232 令3333 四、最小二乘法与算术平均值的关系四、最小二乘法与算术平均值

14、的关系 为确定一个量为确定一个量X的估计值的估计值x，对它进行对它进行n次直接测量，得次直接测量，得到到n个数据个数据 ,相应的权分别为相应的权分别为 。最佳估计值最佳估计值 运用最小二乘法求运用最小二乘法求 3434 误差方程：误差方程：系数矩阵系数矩阵 权矩阵：权矩阵：实测值矩阵实测值矩阵 3535 对等精度测量：对等精度测量：与前面结果一致。与前面结果一致。此式与等精度测量时算术平均值原理给出的结果相此式与等精度测量时算术平均值原理给出的结果相同，由此可见，最小二乘法原理与算术平均值原理是一同，由此可见，最小二乘法原理与算术平均值原理是一致的，算术平均值原理可以看作是最小二乘法的特例。致

15、的，算术平均值原理可以看作是最小二乘法的特例。3636第三节 精度估计一、一、直接测量数据直接测量数据 的精度估计的精度估计 二、二、最小二乘估计量最小二乘估计量 的精度估计的精度估计 5-5-3737 第三节精度估计 一、测量数据精度估计一、测量数据精度估计(一）等精度测量数据的精度估计一）等精度测量数据的精度估计可以证明可以证明 是自由度（是自由度（nt）的）的 变量。变量。根据根据 变量的性质，有变量的性质，有对包含对包含t个末知量的线性参数个末知量的线性参数Y()进行进行n次次等精度测量得等精度测量得，其残差，其残差得得 的的估计量。估计量。3838 则可取则可取作为作为 的无偏估计量

16、。的无偏估计量。因此测量数据的标准差的估计量为因此测量数据的标准差的估计量为测量次数未知量个数残差平方和当当t=1时？时？3939(二二)不等精度测量数据的精度估计不等精度测量数据的精度估计 一、一、直接测量数据直接测量数据 的精度估计的精度估计 测量数据的单位权标准差测量数据的单位权标准差（加权）未知量个数方程个数残差平方和当当t=1时？时？4040 直接测量量的标准差对角元素不定系数 二、最小二乘估计量二、最小二乘估计量的精度估计的精度估计 1 1、等精度测量时估计量的精度估计等精度测量时估计量的精度估计 4141 单位权的标准差 对角元素不定系数 二、最小二乘估计量二、最小二乘估计量的精

17、度估计的精度估计 2、不等精度测量估计量的精度估计、不等精度测量估计量的精度估计 4242第四节组合测量（combined measurement）的最小二乘法处理5-5-4343 组合测量基本概念组合测量组合测量是通过直接测量待测参数的各种组合量（一般是等精度测量），然后对这些测量数据进行处理，从而求得待测参数的估计值，并给出其精度估计。通常组合测量数据是用最小二乘法进行处理，他是最小二乘法在精密测试中的一种重要应用。t个被个被测量测量 n个误个误差方差方程式程式 求解求解 n种种组合组合测得测得 最小最小二乘法二乘法4444 组合测量基本概念如为精密测定1号、2号和3号电容器的电容量 测得

18、值误差方程 待求量为了获得更可靠的结果，测量次数总要多于未知参数的数目4545 组合测量基本概念优点：精度较高。组合形式越多（优点：精度较高。组合形式越多（n越大），测量结果越大），测量结果的精度就越高。的精度就越高。缺点：工作量大缺点：工作量大 应用：在精密测量工作中有十分重要的地位，如标准应用：在精密测量工作中有十分重要的地位，如标准器的检定。器的检定。4646【例题】【例题】要求检定丝纹尺0，1，2，3刻线间的距离。已知用组合测量法测得图所示刻线间隙的各种组合量。试用最小二乘法求及其标准偏差。4747 直接测量各组合量，得首先列出误差方程由此可得：4848 则4949 式中，现求上述估计量的精度估计。将最佳估计值代入误差方程中，5050 那么，测量数据 的标准差为5151 已知则最小二乘估计量 的标准差为5252