小方差无偏估计和有效估计.PPT

第第2 2.3.3节节 最小方差无偏估计和最小方差无偏估计和有效估计有效估计一、最小方差无偏估计一、最小方差无偏估计二、有效估计二、有效估计一、最小方差无偏估计一、最小方差无偏估计 最小方差无偏估计在均方误差意义下达到最小方差无偏估计在均方误差意义下达到最优，是一种最优估计最优，是一种最优估计.如何寻求此种估计，将如何寻求此种估计，将变得非常有意义变得非常有意义.1 1 最小方差无偏估计的判别法最小方差无偏估计的判别法定理定理2.7证证注注1此定理是最小方差无偏估计的判别法，但无此定理是最小方差无偏估计的判别法，但无2法寻求最小方差无偏估计的存在性法寻求最小方差无偏估计的存在性.2 由于由于L(X)的任意性，因而很难利用定理判的任意性，因而很难利用定理判别别.例例1(p521(p52例例2 2.19).19)证证 由此例可以看出，利用判别定理进行判别，非常由此例可以看出，利用判别定理进行判别，非常复杂，况且也无法利用此定理去寻求复杂，况且也无法利用此定理去寻求MVUE.充分完备统计量是解决上述困难的有力工具充分完备统计量是解决上述困难的有力工具.定理定理2.8证明从略证明从略定理定理2.9注注 由此定理可以看出，需求最小方差无偏估计，由此定理可以看出，需求最小方差无偏估计，可以只在无偏的充分统计量中去发现，如果这可以只在无偏的充分统计量中去发现，如果这样的无偏充分统计量唯一，则此统计量就是样的无偏充分统计量唯一，则此统计量就是最小方差无偏估计。以下定理回答此问题最小方差无偏估计。以下定理回答此问题.证证以及以及由此可得由此可得又由于又由于T是完备统计量，因而由定义是完备统计量，因而由定义1.6可知可知注注最小方差无偏估计计算方法最小方差无偏估计计算方法例如例如例例2(p542(p54例例2 2.20).20)解解由例由例1.10可知可知所以所以例例3(p54例例2.21)解解 首先寻求充分完备统计量，样本的联合分布为首先寻求充分完备统计量，样本的联合分布为利用完备分布族定义可以验证该分布族具有完备性利用完备分布族定义可以验证该分布族具有完备性.又由于又由于所以所以二、有效估计二、有效估计 上一节介绍了最小方差无偏估计以及相应的寻上一节介绍了最小方差无偏估计以及相应的寻求方法。自然会引入另一个问题：最小方差无偏估求方法。自然会引入另一个问题：最小方差无偏估计是否可以任意的小？是否有下界？事实上，计是否可以任意的小？是否有下界？事实上，Rao-Cramer不等式不等式可以回答此问题。可以回答此问题。1 1、FisherFisher信息量信息量为为Fisher信息量信息量.Fisher信息量的另外一种表达式为：信息量的另外一种表达式为：2 2、Rao-CramerRao-Cramer不等式不等式定理定理2 2.10.10 由此可见，统计量的方差不可以无限的小，存在由此可见，统计量的方差不可以无限的小，存在下界。当其方差达到下界，它一定是下界。当其方差达到下界，它一定是MVUE.但最小但最小方差无偏估计不一定达到下界方差无偏估计不一定达到下界.证证(证明过程可以不讲）证明过程可以不讲）由统计量由统计量T(X)的无偏性可知：的无偏性可知：因而因而又由于又由于因而因而则有则有改写上式为改写上式为由施瓦兹不等式可知由施瓦兹不等式可知因而有因而有又因为又因为这是因为这是因为则有则有综上所述综上所述例例4(p55例例2.22)解解解解例例5(p56例例2.23)其信息量的下界为其信息量的下界为又因为又因为其信息量的下界为其信息量的下界为3 3、有效估计、有效估计定义定义2.82.8定义定义2.92.9定义定义2.102.10例例6证证有信息量计算公式可知：有信息量计算公式可知：例例7(7(p58p58例例2.24)2.24)证证定理定理2.112.11证明从略。证明从略。解解例例8 8(p59(p59例例2 2.25).25)再再 见见