数理统计6学习.pptx

《数理统计6学习.pptx》由会员分享，可在线阅读，更多相关《数理统计6学习.pptx（68页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 参数估计是统计推断的基本问题之一，问题中，并不一定要求密度函数，而只要知道参数那么在许多实际分布就决定了。考察灯泡厂生产的灯泡质量，由于种种随机易知灯泡使用寿命是随机变量，记为且 问题：如何估计 和？引例1 1因素的影响，知道了参数2 2的值，那么寿命X X的分布就完全确定了.第1页/共68页参数估计要解决问题:总体分布函数的形式为已知,需要确定未知参数。但其中参数未知时，这类问题称为参数估计问题。只有当参数 确定后，才能通过概率密度函数计算概率。对于未知参数，如何应用样本所提供的信息去对其一个或多个未知参数进行估计。对未知参数估计的两种方法：通过样本1、点估计2、区间估计第2页/共68页1

2、 点估计点估计点估计问题：点估计问题：第3页/共68页 1.1.矩估计法2.2.最大似然法二、寻求估计量的方法二、寻求估计量的方法第4页/共68页1.矩估计法矩估计法建立的一种估计方法 .基于 “替换”思想理论依据理论依据:第5页/共68页 这种估计量称为这种估计量称为矩估计量矩估计量；矩估计量的观察值称为；矩估计量的观察值称为矩估计值矩估计值。第6页/共68页例例 1 设某炸药厂一天中发生着火现象的次数设某炸药厂一天中发生着火现象的次数X服从服从 第7页/共68页例2：设总体设总体在在上服从均匀分布，上服从均匀分布，解：解：由矩法由矩法,解得解得第8页/共68页第9页/共68页第10页/共6

3、8页第11页/共68页第12页/共68页解解标准差例5 某厂生产螺母，从某日的产品中随机抽取 8 件，量得内径（毫米）如下：15.3 14.9 15.2 15.1 14.8 14.6 15.1 14.7试估计该日生产这些螺母内径的均值和标准差。第13页/共68页解解:由密度函数知由密度函数知 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本其中其中 0,求求 的矩估计量的矩估计量.具有均值为具有均值为 的指数分布的指数分布故故 E(X-)=D(X-)=即即 E(X)=D(X)=例6第14页/共68页解得解得令令即即 E(X)=D(X)=第15页/共68页 是是在在总总体体类类型型

4、已已知知条条件件下下使使用用的的一一种种参数估计方法参数估计方法.2.极大似然法极大似然法第16页/共68页 极大似然法的基本思想极大似然法的基本思想 先看一个简单例子：先看一个简单例子：一只野兔从前方窜过一只野兔从前方窜过.是谁打中的呢？是谁打中的呢？某位同学与一位猎人一某位同学与一位猎人一起外出打猎起外出打猎.如果要你推测，如果要你推测，你会如何想呢你会如何想呢?只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下.第17页/共68页 你就会想，只发一枪便打中你就会想，只发一枪便打中,猎人命中的猎人命中的概率一般大于这位同学命中的概率概率一般大于这位同学命中的概率.看来这看来这一枪是猎人射

5、中的一枪是猎人射中的.这个例子所作的推断已经体现了极大似这个例子所作的推断已经体现了极大似然法的基本思想然法的基本思想.以上这种选择一个参数使得试验结以上这种选择一个参数使得试验结果具有最大概率的思想就是极大似然法果具有最大概率的思想就是极大似然法的基本思想的基本思想.第18页/共68页2.极大似然估计法极大似然估计法第19页/共68页第20页/共68页第21页/共68页第22页/共68页第23页/共68页(4)在最大值点的表达式中在最大值点的表达式中,用样本值代入用样本值代入 就得参数的极大似然估计值就得参数的极大似然估计值.(1)由总体分布导出样本的联合分布律由总体分布导出样本的联合分布律

6、 (或联合密度或联合密度);(2)把样本联合分布律把样本联合分布律(或联合密度或联合密度)中自变中自变 量看成已知常数量看成已知常数,而把参数而把参数 看作自变量看作自变量,得到似然函数得到似然函数L();(3)求似然函数求似然函数L()的最大值点的最大值点(常常转化常常转化 为求为求ln L()的最大值点的最大值点)，即，即 的的MLE;求极大似然估计(MLE)的一般步骤是：第24页/共68页两点说明两点说明第25页/共68页2、用上述求导方法求参数的、用上述求导方法求参数的MLE有时行有时行不通，这时要用极大似然原则来求不通，这时要用极大似然原则来求.第26页/共68页 下面举例说明如何求

7、极大似然估计下面举例说明如何求极大似然估计L(p)=设设X1,X2,Xn是取自总体是取自总体 Xb(1,p)的一个样的一个样本，求参数本，求参数p的极大似然估计的极大似然估计.解：似然函数为解：似然函数为:例1第27页/共68页对数似然函数为：对数似然函数为：对对p求导并令其为求导并令其为0，=0得得即为即为 p 的的MLE.第28页/共68页解：似然函数为解：似然函数为对数似然函数为对数似然函数为设设X1,X2,Xn是取自总体是取自总体X的一个样的一个样本本求求 的极大似然估计的极大似然估计.其中其中 0,例2第29页/共68页求导并令其为0 0=0=0从中解得即为 的MLE.MLE.对数似

8、然函数为第30页/共68页似然函数为：似然函数为：第31页/共68页-它与矩估计量是相同的。它与矩估计量是相同的。第32页/共68页极大似然估计不变性极大似然估计不变性第33页/共68页解：似然函数为解：似然函数为 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本其中其中 0,求求 的极大似然估计的极大似然估计.i=1,2,n例4第34页/共68页对数似然函数为对数似然函数为解：似然函数为解：似然函数为i=1,2,n求导方法无法求参数求导方法无法求参数 的的MLE.第35页/共68页是是对对故使故使 达到最大的达到最大的 即即 的的MLE，取其它值时，取其它值时，且是且是 的增函

9、数的增函数由于由于这时要用极大似然原则来求这时要用极大似然原则来求.第36页/共68页即即 为为 的的MLE.第37页/共68页 由于估计量作为样本的函数是一个随机变量由于估计量作为样本的函数是一个随机变量,对于不同的样本值对于不同的样本值,估计值也不同估计值也不同,因此评价一个因此评价一个估计量的优劣就不能仅由一个观测值来确定估计量的优劣就不能仅由一个观测值来确定,而要而要根据估计量的统计性质来评价根据估计量的统计性质来评价.通常一个好的估计通常一个好的估计量其观测值应在待估计参数的真值附近波动量其观测值应在待估计参数的真值附近波动,且波且波动的幅度越小越好动的幅度越小越好,即要使估计量与待

10、估计参数在即要使估计量与待估计参数在某种统计意义下非常某种统计意义下非常“接近接近”.第38页/共68页 常用的几条标准是：常用的几条标准是：1无偏性无偏性2有效性有效性3相合性相合性这里我们重点介绍前面两个标准这里我们重点介绍前面两个标准.第2节 估计量的评选标准第39页/共68页而它的期望值等于未知参数的真值.则称 为 的无偏估计 .设是未知参数 的估计量，若.真值1 1无偏性无偏性估计量是随机变量，对于不同的样本值会得到不同的估计值 .我们希望估计值在未知参数真值附近摆动，这个标准 .这就导致无偏性定义无偏性的意义是：用 来估计 时无系统偏差。第40页/共68页例如 设总体X X的数学期

11、望 存在，是X的样本，求证均为的无偏估计。为2 2 的无偏估计量不是2 2 的无偏估计量第41页/共68页证证第42页/共68页第43页/共68页用Sn n2 2来估计2 2有系统偏差。第44页/共68页例例2 设设是总体是总体的样本的样本.使使为为的无偏估计量的无偏估计量;求求故当故当时时,第45页/共68页一个未知数可以有不同的无偏估计量。解例例3第46页/共68页例：由大数定律知一致性说明：对于大子样，由一次抽样得到的估计量 的值可作的近似值第47页/共68页3 3有效性有效性设和都是参数 的无偏估计量，若有定义3则称 较 有效 .若 的所有二阶矩存在无偏估计量中有一个估计量 ，使对任意

12、无偏估计量 有 第48页/共68页例例4 设总体设总体的数学期望和方差都存在的数学期望和方差都存在,是是 X 的样本的样本,证明统计量证明统计量都是总体均值都是总体均值的无偏估计量的无偏估计量,并确定哪个估计量更有效并确定哪个估计量更有效.第49页/共68页解解 设设故故都是总体均值都是总体均值的无偏估计量的无偏估计量.第50页/共68页又由于又由于估计量估计量更有效更有效.第51页/共68页下面讨论无偏估计方差的下界，达到这个下界的无偏估量称为优效估计量（最小方差无偏估计）。定理：罗克拉美不等式罗克拉美不等式 右端为罗克拉美下界，记为第52页/共68页 类似：d.r.vd.r.v 注：有时能

13、找到无偏估计使它的方差达到这个下界，有时达不到第53页/共68页第54页/共68页第55页/共68页第56页/共68页估计量的标准的总结第57页/共68页求极大似然估计的一般步骤：1.1.写出似然函数写出似然函数2.2.对似然函数取对数对似然函数取对数 3.3.对对 j j (j j=1 1,m m)分别求偏导分别求偏导,建立似然方程建立似然方程(组组)解得解得分别作为分别作为 的极大估计值的极大估计值.易出错点：易出错点：似然函数的构造过程中，连乘号的运用似然函数的构造过程中，连乘号的运用第58页/共68页练习第59页/共68页所以参数所以参数的矩估计量为的矩估计量为1 1 1 1总体总体 的分布律为：的分布律为：是来自总体是来自总体的样本，求参数的样本，求参数p的矩估计量的矩估计量解,Xmp=由于总体由于总体X 的分布为二项分布的分布为二项分布，因此由得和极大似然估计。第60页/共68页解解 似然函数为似然函数为设设是样本值。是样本值。第61页/共68页令令即即所以参数所以参数的极大似然估计量为的极大似然估计量为第62页/共68页X X的概率密度为：第63页/共68页第64页/共68页为为2 2 的无偏估计量的无偏估计量也是也是2 2 的无偏估计量的无偏估计量第65页/共68页例题例题 第66页/共68页解答解答 第67页/共68页感谢您的观看。第68页/共68页