概率论与数理统计完整课件第七章参数估计.pptx

1 参数的点估计参数的点估计第1页/共71页1.1 矩估计法矩估计法 设设(X(X1 1,X,X2 2,X,Xn n)是来自总体是来自总体X X的一个样本的一个样本,根据根据大数定律大数定律,对任意对任意0,0,有有并且对于任何并且对于任何k,k,只要只要E(XE(Xk k)存在存在,同样有同样有因此因此,很自然地想到用样本矩来代替总体矩很自然地想到用样本矩来代替总体矩,从而从而得到总体分布中参数的一种估计得到总体分布中参数的一种估计.第2页/共71页 定义：用样本矩来代替总体矩定义：用样本矩来代替总体矩,从而得到总体从而得到总体分布中参数的一种估计分布中参数的一种估计.这种估计方法称为这种估计方法称为矩法估矩法估计计.它的思想实质是用样本的经验分布和样本矩去它的思想实质是用样本的经验分布和样本矩去替换总体的分布和总体矩替换总体的分布和总体矩.今后称之为今后称之为替换原则替换原则.设总体设总体X X具有已知类型的概率函数具有已知类型的概率函数p(x;p(x;1 1,k k),(),(1 1,k k)是是k k个未知参数个未知参数.(X(X1 1,X,X2 2,X,Xn n)是来自总体是来自总体X X的一个样本的一个样本.假若假若X X的的k k阶阶矩矩k k=E(X=E(Xk k)存在存在,则对于则对于ik,E(Xik,E(Xi i)都存在都存在,并且并且是是(1 1,k k)的函数的函数i i(1 1,k k).).第3页/共71页得到含有未知参数得到含有未知参数(1 1,k k)的的k k个方程个方程.解这解这k k个联立方程组就可以得到个联立方程组就可以得到(1 1,k k)的一组解的一组解:用上面的解来估计参数用上面的解来估计参数i i就是矩法估计就是矩法估计.第4页/共71页解解 总体X的期望为 从而得到方程 所以的矩估计量为 第5页/共71页解解 其概率密度函数为 总体X的期望为 从而得到方程 所以的矩估计量为 第6页/共71页解解 由于 故令 第7页/共71页例例:设某炸药厂一天中发生着火现象的次数X服从 解解 第8页/共71页1.2 极大似然估计法极大似然估计法 极大似然原理的直观想法是极大似然原理的直观想法是:一个随机试验一个随机试验如有若干个可能的结果如有若干个可能的结果A,B,C,A,B,C,.若在一次试验若在一次试验中中,结果结果A A出现出现,则一般认为则一般认为A A出现的概率最大出现的概率最大,也即试验条件对也即试验条件对A A出现有利出现有利.或者说在试验的很或者说在试验的很多可能条件中，认为应该是使事件多可能条件中，认为应该是使事件A A发生的概发生的概率为最大的那种条件存在率为最大的那种条件存在.极大似然估计的基本思想极大似然估计的基本思想第9页/共71页 例：假若一个盒子里有许多白球和红球例：假若一个盒子里有许多白球和红球,而且已而且已知它们的数目之比是知它们的数目之比是3:1,3:1,但不知是白球多还是红球但不知是白球多还是红球多多.设随机地在盒子中取一球为白球的概率是设随机地在盒子中取一球为白球的概率是p.p.如如果有放回地从盒子里取果有放回地从盒子里取3 3个球个球,那么白球数目那么白球数目X X服从服从二项分布二项分布如果样本中白球数为如果样本中白球数为0,0,则应估计则应估计p=1/4,p=1/4,而不估计而不估计p=3/4.p=3/4.因为具有因为具有X=0X=0的样本来自的样本来自p=1/4p=1/4的总体的可的总体的可能性比来自能性比来自p=3/4p=3/4的总体的可能性要大的总体的可能性要大.一般当一般当X=0,1X=0,1时时,应估计应估计p=1/4;p=1/4;而当而当X=2,3X=2,3时时,应估计应估计p=3/4.p=3/4.第10页/共71页第11页/共71页第12页/共71页令第13页/共71页第14页/共71页求极大似然估计的一般步骤归纳如下：第15页/共71页 例例:设随机变量X服从泊松分布:其中0是一未知参数,求的极大似然估计.解解 设(x1,x2,xn)是样本(X1,X2,Xn)的一组观测值.于是似然函数两边取对数得第16页/共71页从而得出的极大似然估计量为 解这一方程得第17页/共71页解解 总体X服从参数为的指数分布，则有 所以似然函数为 第18页/共71页取对数 令 解得的极大似然估计值为 极大似然估计量为 第19页/共71页 例例:设(X1,X2,Xn)是来自正态总体N(,2)的一个样本,其中,2是未知参数,参数空间=-0.求与2的极大似然估计.解解 正态分布的似 然函数为两边取对数得第20页/共71页由微积分知识易验证以上所求为与2的极大似然估计.分别求关于与2的偏导数,得似然方程组解这一方程组得第21页/共71页 例例:设总体X具有均匀分布,其概率密度函数为求未知参数的极大似然估计.解解 设(X1,X2,Xn)是来自总体X的一个样本.似然函数为 要使L(;x1,x2,xn)达到最大,就要使达到最小,由于所以的极大似然估计值为：参数的极大似然估计量为：第22页/共71页2估计量的评选标准估计量的评选标准 对于总体的同一个未知参数，由于采用对于总体的同一个未知参数，由于采用的估计方法不同，可能会产生多个不同的估计方法不同，可能会产生多个不同的估计量。这就提出了一个问题，当总的估计量。这就提出了一个问题，当总体的同一个参数存在不同的估计量时，体的同一个参数存在不同的估计量时，究竟采用哪一个更好？这涉及到用什么究竟采用哪一个更好？这涉及到用什么样的标准来评价估计量的好坏问题，对样的标准来评价估计量的好坏问题，对此，我们介绍几个常用的评价标准：此，我们介绍几个常用的评价标准：无无偏性偏性、有效性有效性和和一致性一致性。第23页/共71页2.1无偏性无偏性 在评价一个估计量的好坏时,我们当然希望估计量与被估参数越接近越好.但估计量是一个随机变量,它的取值随样本的观测值而变,有时与被估参数的真值近些,有时远些,我们只能从平均意义上看估计量是否与被估参数尽量接近,最好是等于被估参数.于是有无偏估计量的概念.第24页/共71页 例例:设总体X具有均匀分布,其密度函数为解解用矩法估计得求的无偏估计.总体X的均值第25页/共71页 例例:设总体X的k阶矩E(Xk)存在,证明样本的k阶矩是E(Xk)的无偏估计.证明证明所以,证明样本的k阶矩是E(Xk)的无偏估计.因为第26页/共71页 例例:设总体的方差D(X)存在,试证样本二阶中心矩B2是总体方差D(X)的有偏估计.证明证明所以,B2是总体方差D(X)的有偏估计.注注:第27页/共71页2.2有效性有效性 一个参数的无偏估计量不是唯一的,假若参数有两个无偏估计量 ,我们认为其观测值更密集在参数真值附近的一个较为理想.由于方差是随机变量取值与其数学期望的偏离程度的度量,所以无偏估计以方差小者为好.这就引出了估计量的有效性这一概念.第28页/共71页证明证明 由于总体服从泊松分布，故 于是有 第29页/共71页同理 但是 第30页/共71页 例例:设(X1,X2,X3)是来自总体X的一个样本,证明下面的三个估计量都是总体均值E(X)的无偏估计量证明证明第31页/共71页2.3一致性一致性 估计量的无偏性和有效性都是在样本容量固定的前提下提出的.我们自然希望随着样本容量的增大,一个估计量的值稳定于待估参数的真值.这就对估计量提出了一致性的要求.第32页/共71页第33页/共71页3参数的区间估计参数的区间估计 点估计有使用方便、直观等优点点估计有使用方便、直观等优点,但他并没有提供但他并没有提供关于估计精度的任何信息关于估计精度的任何信息,为此提出了未知参数的为此提出了未知参数的区间估计法区间估计法.例例 对明年小麦的亩产量作出估计为:即即 若设X表示明年小麦亩产量,则估计结果为P(800X1000)=80%明年小麦亩产量八成为明年小麦亩产量八成为800-1000斤斤.区间估计区间估计第34页/共71页第35页/共71页第36页/共71页第37页/共71页第38页/共71页第39页/共71页第40页/共71页这时必有 第41页/共71页3.1正态总体均值正态总体均值的区间估计的区间估计 第42页/共71页方差已知时均值的区间估计方差已知时均值的区间估计由总体服从正态分布可得 0a/2ua/2a/2-ua/2第43页/共71页得到 从而 第44页/共71页 例例:设轴承内环的锻压零件的平均高度X服从正态分布N(,0.42).现在从中抽取20只内环,其平均高度为32.3毫米.求内环平均高度的置信度为95%的置信区间.解解第45页/共71页解解 经计算可得 查表得 从而 故所求置信区间为 第46页/共71页例例:已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为：115,120,131,115,109,115,115,105,110cm;解解 第47页/共71页方差未知时均值的区间估计第48页/共71页0a/2a/2-ta/2(n-1)ta/2(n-1)第49页/共71页解解 经计算得 查表可得 从而所以的置信度为0.99置信区间是第50页/共71页例例:用仪器测量温度，重复测量7次，测得温度分别为：115,120,131,115,109,115,115,105,110cm;设温度解解 第51页/共71页3.2正态总体方差的区间估计正态总体方差的区间估计 均值已知时方差的区间估计第52页/共71页a/2a/2第53页/共71页均值未知时方差的区间估计第54页/共71页a/2a/2第55页/共71页解解 由题意得 查表得 算得 所求置信区间为(0.038,0.506)第56页/共71页例例:设某机床加工的零件长度今抽查16个零件，测得长度（单位：mm）如下：12.15,12.12,12.01,12.08,12.09,12.16,12.03,12.01,12.06,12.13,12.07,12.11,12.08,12.01,12.03,12.06,在置信度为95%时，试求总体方差 的置信区间.解解第57页/共71页3.3两个正态总体均值差的区间估计两个正态总体均值差的区间估计 第58页/共71页由于样本函数 其中 对于给定的置信度1-有即 置信区间为 第59页/共71页第60页/共71页解解 求得 第61页/共71页由于样本函数 第62页/共71页第63页/共71页解解 求得 第64页/共71页3.4 两个正态总体方差之比的区间估计两个正态总体方差之比的区间估计 第65页/共71页第66页/共71页解解 求得 查表得 计算得第67页/共71页3.5 单侧置信区间单侧置信区间 第68页/共71页第69页/共71页解解 此时 于是 第70页/共71页感谢您的观看。感谢您的观看。第71页/共71页