最小方差无偏估计和有效估计精选PPT.ppt

《最小方差无偏估计和有效估计精选PPT.ppt》由会员分享，可在线阅读，更多相关《最小方差无偏估计和有效估计精选PPT.ppt（30页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、关于最小方差无偏估计和有效估计1第1页，讲稿共30张，创作于星期二2一、最小方差无偏估计一、最小方差无偏估计 由定义由定义2.4知，最小方差无偏估计（知，最小方差无偏估计（MVUE）是在无偏估）是在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。计量。第2页，讲稿共30张，创作于星期二3第3页，讲稿共30张，创作于星期二4第4页，讲稿共30张，创作于星期二5第5页，讲稿共30张，创作于星期二6第6页，讲稿共30张，创作于星期

2、二7 定理定理2.7给出了最小方差无偏估计的一种判别方法，但由上给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。量的概念。第7页，讲稿共30张，创作于星期二8定理定理2.8的说明的说明：如果无偏估计不是充分统计量如果无偏估计不是充分统计量的函数，则将之对充分统计量求条件期望可以的函数，则将之对充分统计量求条件期望可以得到一个新的无偏估计，该估计的方差比原来得到一个新的无偏估计

3、，该估计的方差比原来的估计的方差要小，从而降低了无偏估计的方的估计的方差要小，从而降低了无偏估计的方差。差。换言之，考虑换言之，考虑 的估计问题只需要在基于的估计问题只需要在基于充分统计量的函数中进行即可，充分统计量的函数中进行即可，该说法对所有该说法对所有的统计推断问题都是正确的，这便是所谓的的统计推断问题都是正确的，这便是所谓的充充分性原则分性原则。第8页，讲稿共30张，创作于星期二9第9页，讲稿共30张，创作于星期二10第10页，讲稿共30张，创作于星期二11第11页，讲稿共30张，创作于星期二12第12页，讲稿共30张，创作于星期二13第13页，讲稿共30张，创作于星期二14第14页，

4、讲稿共30张，创作于星期二15第15页，讲稿共30张，创作于星期二16第16页，讲稿共30张，创作于星期二17 2.要直接验证某个估计量是最小方差无偏估计量要直接验证某个估计量是最小方差无偏估计量是困难的是困难的.若能求出无偏估计中方差的下界若能求出无偏估计中方差的下界,而且又而且又能说明参数能说明参数 的的一切无偏估计中一切无偏估计中存在某个估计存在某个估计 的的方差能达到这个下界方差能达到这个下界，那么，那么 就是就是 的最小方差无的最小方差无偏估计偏估计.下面给出一个判别准则：下面给出一个判别准则：1.最小方差无偏估计提供了一种优良的估计，然最小方差无偏估计提供了一种优良的估计，然而一个

5、更深入的问题是：无偏估计的方差是否可以任而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这个下界意小？如果不可以，那么它的下界是多少？这个下界等否达到？等否达到？第17页，讲稿共30张，创作于星期二定理定理2.10 (Cramer-Rao不等式不等式)设设X1,X2,Xn是是从密度函数为从密度函数为 的总体抽取的样本的总体抽取的样本,是是 的一个无偏估计的一个无偏估计,若若(1)集合集合 与与 无关无关;(2)对对 积分与微分可交换且积分与微分可交换且 存在，即存在，即(3)(3)(4)则有则有第18页，讲稿共30张，创作于星期二其中其中常称常称为为Fish

6、er信息量信息量.特别当特别当 ,有有常用的另一个表达式常用的另一个表达式常称为常称为C-R不等式不等式.第19页，讲稿共30张，创作于星期二 费希尔信息量是数理统计学中一个基本概念，很多的费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量近方差，无偏估计的方差的下界等都与费希尔信息量I()有关。有关。I()的种种性质显示，的种种性质显示，“I()越大越大”可被可被解释为总体分布中包含未知参数解释为总体分布中包含未知参数 的信息越多。的信息越多。第20页，讲

7、稿共30张，创作于星期二例例2.22 设总体服从泊松分布设总体服从泊松分布 ，X1,X2,Xn 是来自是来自总体的一个样本，试求参数总体的一个样本，试求参数 的无偏估计的下界？的无偏估计的下界？解解:(1):(1)写出密度函数写出密度函数 (2)(2)求密度函数对数、再求导求密度函数对数、再求导 (3)(3)计算计算fisherfisher信息量信息量 (4)(4)代入代入C-RC-R不等式求方差下界不等式求方差下界第21页，讲稿共30张，创作于星期二1.写出密度函写出密度函数，求对数数，求对数2.计算计算fiser信息量信息量3.代入代入C-R不等式不等式求方差下界求方差下界第22页，讲稿共

8、30张，创作于星期二例例2.23 设设 X1,X2,Xn 是取自总体是取自总体 X 的一个样本的一个样本,求求 的无偏估计的方差下界的无偏估计的方差下界.解解:(1)写出密度函数写出密度函数 (2)求密度函数对数、再求导求密度函数对数、再求导 (3)计算计算 (4)代入代入C-R不等式求方差下界不等式求方差下界 最后寻找无偏估计中满足方差下界的估计量最后寻找无偏估计中满足方差下界的估计量.第23页，讲稿共30张，创作于星期二1.写出密度函数写出密度函数2.求密度函数对数求密度函数对数3.计算计算fiser信息量信息量4.代入代入C-R不等式不等式求方差下界求方差下界第24页，讲稿共30张，创作

9、于星期二2.求密度求密度函数对数函数对数的导数的导数3.计算计算fiser信信息量息量4.代入代入C-R不等式不等式求方差下界求方差下界5.计算最小方差无计算最小方差无偏估计的方差偏估计的方差第25页，讲稿共30张，创作于星期二262、有效估计、有效估计1)定义定义2.8 P57第26页，讲稿共30张，创作于星期二 例例2.24 设设 X1,X2,Xn 是取自总体是取自总体 XB(N,p)的一个样本，的一个样本，验证验证 是参数是参数P的有效估计量的有效估计量.1.写出概率函数写出概率函数,再求对数再求对数2.计算计算fiser信信息量息量3.代入代入C-R不等式不等式求方差下界求方差下界第27页，讲稿共30张，创作于星期二4.计算无偏估计的计算无偏估计的方差方差5.计算效率计算效率第28页，讲稿共30张，创作于星期二可能不是无偏估计可能不是无偏估计第29页，讲稿共30张，创作于星期二感谢大家观看第30页，讲稿共30张，创作于星期二