(4.1.1)--最小方差无偏估计.pdf

《(4.1.1)--最小方差无偏估计.pdf》由会员分享，可在线阅读，更多相关《(4.1.1)--最小方差无偏估计.pdf（11页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、最小最小方差无偏估计方差无偏估计 最小方差无偏估计的定义最小方差无偏估计的定义 RBLS定理定理 计算实例计算实例1.最小方差无偏估计的定义最小方差无偏估计的定义对于未知常数的估计不宜采用最小均方估计对于未知常数的估计不宜采用最小均方估计,但可以约束偏差项为零但可以约束偏差项为零的条件下的条件下,使方差最小。使方差最小。定义：最小方差无偏估计定义为定义：最小方差无偏估计定义为约束估计是无偏的条件下，使方差约束估计是无偏的条件下，使方差22()()()minVarEEE 估计估计的均方误差为的均方误差为22()()()MseEVarE 偏差项偏差项估计方差估计方差在前面讨论在前面讨论的的有效估计

2、有效估计量是无偏的，且方差达到量是无偏的，且方差达到CRLB，所以有效估计量是最小方差无偏估计。，所以有效估计量是最小方差无偏估计。如果有效估计量不存在，如何求最小方差无偏估计呢？如果有效估计量不存在，如何求最小方差无偏估计呢？这时可利用这时可利用RBLS定理求解。定理求解。2.RBLS(Rao-Blackwell-Lehmann-Scheffe)定理定理如果如果是一个无偏估计、是一个无偏估计、是一个充分统计量是一个充分统计量，那么那么是：是：(1)的一个可用的的一个可用的估计估计(a valid estimator)；(2)无偏；无偏；(3)对所有的对所有的，方差小于等于，方差小于等于的方差

3、。的方差。()T z(|()ETz如果充分统计量如果充分统计量是完备的，是完备的，则则是最小方差无偏估计。是最小方差无偏估计。()T z(|()ETz完备完备:只存在唯一的只存在唯一的T(z)的函数的函数,使其无偏。使其无偏。例例1：高斯白噪声中未知常数的估计高斯白噪声中未知常数的估计0,1,.,1iizAwiNiw其中其中是均值为零、方差为是均值为零、方差为 2高斯白噪声序列。求最小方差无偏估计。高斯白噪声序列。求最小方差无偏估计。解：首先找一个无偏估计，很显然解：首先找一个无偏估计，很显然是无偏。是无偏。1Az其次，求其次，求A的充分统计量，的充分统计量，由前面的例题可知由前面的例题可知，

4、是是A的充分统计量。的充分统计量。10()NiiTzz3.计算举例计算举例接着求条件数学期望接着求条件数学期望|()AE A Tz由高斯随机变量理论：由高斯随机变量理论：1(|)()(,)()()E x yE xCov x y Var yyE y2()(,)TN NA Nz而而1121100(,()()NNiiiiCov A TEzAzNAE ww z11221001|()()NNiiiiAE A TANzNAzNz由于完备的充分统计量只存在一个唯一的由于完备的充分统计量只存在一个唯一的函数函数使使其无偏，所以最小方差无偏估计量也可以其无偏，所以最小方差无偏估计量也可以通通过过下面的方法求解：

5、下面的方法求解：假定假定T(z)是完备的充分统计量，那么是完备的充分统计量，那么()g T z在刚才的例题中，在刚才的例题中，10()NiiTzz2.1.3 计算举例计算举例例例2:假定观测为假定观测为其中其中为独立同分布噪声为独立同分布噪声，且，且,求均值求均值=/2的最小方差无偏估计。的最小方差无偏估计。0,1,.,1iizwiN(0,)iwUiw解：首先找一个无偏估计，很显然解：首先找一个无偏估计，很显然是无偏的。是无偏的。101NiizN 其次，求充分统计量，其次，求充分统计量，由由习题可知习题可知充分统计量为充分统计量为011()max,.,NTz zzz可以证明充分统计量是完备的。

6、（证明从略）可以证明充分统计量是完备的。（证明从略）2.1.3 计算举例计算举例接着求一个充分统计量的函数，使其无偏接着求一个充分统计量的函数，使其无偏。为此为此先求先求T(z)的的分布分布:00/01itP ztttt 1/t()izft11()()00100NTiTiNF tP ztptN P ztttttNtt 10012()()11NTtNNE Ttp t dttNdtNN 011max,.,2NNzzN 2.1.3 计算举例计算举例小结：小结：1.最小方差无偏估计的定义最小方差无偏估计的定义22()()()MseEVarE 偏差项偏差项估计方差估计方差2.RBLS定理定理由充分统计量求最小方差无偏估计量的方法由充分统计量求最小方差无偏估计量的方法或找一个完备的充分统计量的函数，使之无偏。或找一个完备的充分统计量的函数，使之无偏。(|()ETz3.计算举例计算举例