17 参数估计.pdf

《17 参数估计.pdf》由会员分享，可在线阅读，更多相关《17 参数估计.pdf（51页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、2 参数估计 数理统计第六章#/50/50 （ch7ch7）2 参数估计 数理统计第六章#/50/50 点估计问题的实际背景点估计问题的实际背景 从该批产品中任取一件，令从该批产品中任取一件，令 ,0 ,1 X该产品为次品该产品为次品 该产品为好品该产品为好品 由辛钦大数定律有由辛钦大数定律有 )(11npPnkXnXnii12,nXXXL故可用故可用 作为未知参数作为未知参数 的估计。的估计。Xp p 某工厂生产了一大批产品某工厂生产了一大批产品,从中随机抽检了从中随机抽检了 件件产品产品,发现有发现有 件次品件次品,如何估计整批产品的次品率如何估计整批产品的次品率？nkp按题设，从总体按题

2、设，从总体 抽取了容量为抽取了容量为 的样本的样本 ),1(pbXn2 参数估计 数理统计第六章#/50/50 某电子产品的寿命服从指数分布某电子产品的寿命服从指数分布 其其概率密度是概率密度是 (),XEXP现从这批产品中随机抽取现从这批产品中随机抽取1010件，测得其寿命值分别为件，测得其寿命值分别为 1012,X XX1,0,()(0)0,0,xexf xx试问怎样估计该批电子产品的平均寿命？试问怎样估计该批电子产品的平均寿命？产品的平均寿命为产品的平均寿命为 ()()dE Xxf xx0 dxxex因为因为 ()()E XE X故可用样本均值故可用样本均值 作为总体均值作为总体均值 的

3、估计。的估计。XnXDXD)()(,n22 参数估计 数理统计第六章#/50/50 设总体设总体 ；，其中，其中 的函数形式为已知，的函数形式为已知，为为未知参数，未知参数，为来自总体为来自总体 的样本。的样本。)(xFX12,nX XXFX二重性二重性 依据什么原理求未知参数的点估计？依据什么原理求未知参数的点估计？构造一个统计量构造一个统计量 12(,),nXXX12(,)nx xx作为未知参数作为未知参数 的估计值的估计值.用统计用统计 量观察值量观察值 12(,)nXXX估计量估计量 称称 为为 的的 12(,)nx xx为为 的的 称称 估计值估计值 2 参数估计 数理统计第六章#/

4、50/50 设下列总体矩都存在：设下列总体矩都存在：(),1,2,iiE Xik11 ()()niiijijPAXE Xnn 设总体设总体 ,为未知参数为未知参数,为来自总体为来自总体 的样本。的样本。12,nXXX12,k；xFX(12,)k X由辛钦大数定律有由辛钦大数定律有 故当故当 很大时，可认为很大时，可认为 n(),1,2,iiiAE Xik注意到注意到 是通过是通过 的分布计算的的分布计算的 ()iiE XX12(,),1,2,kiiik ，故，故 2 参数估计 数理统计第六章#/50/50 令令 1121212212 (,)(,)(,)kkkkkAAA M1112221212

5、(,)(,)(,)kkkkkA AAA AAA AAM这是一个包含这是一个包含 k 个变量个变量 的方程组的方程组 12,k，解得，解得 称称 12(,)k 12(,)k 矩估计量矩估计量.的的 为为 2 参数估计 数理统计第六章#/50/50 设设 为为 Poisson 分布分布总体总体 的样本，求未知参数的样本，求未知参数 的矩估计。的矩估计。()(0)XP12,nX XX总体一阶矩和样本一阶矩分别为总体一阶矩和样本一阶矩分别为 11(),niiE XXXn令令 ,X求得求得 的矩估计为的矩估计为 .X11(),niiE XXXn为来自为来自总体总体 )0()(EXPX12,nX XX设设

6、 的的 样本，求未知参数样本，求未知参数 的矩估计的矩估计.总体一阶矩和样本一阶矩分别为总体一阶矩和样本一阶矩分别为 令令 ,X求得求得 的矩估计为的矩估计为 .X样本均值样本均值 是总体均值是总体均值 的矩估计的矩估计 X()E X矩的阶数等于矩的阶数等于未知参数个数未知参数个数 2 参数估计 数理统计第六章#/50/50 22211111 ()2nnniiiiiiXXXXXnXnnQ故令故令 解得解得 的矩估计分别为的矩估计分别为 2,为总体的样本，求未知参数为总体的样本，求未知参数 的矩估计的矩估计.12,nX XX 2,设设总体总体 的均值和方差分别为的均值和方差分别为 X(),E X

7、2()D X22,SX2211niiXXn222221 1()()niiXE XE XXXn一阶矩的一阶矩的平方对应平方对应 本，则未知参数本，则未知参数 的矩估计分别为的矩估计分别为 2,12,nX XX设设 为来自总体为来自总体 的样的样 2(,)XN 22,SX二阶矩对应二阶矩对应 2 参数估计 数理统计第六章#/50/50 2 ()()/2,()()/12E XabD XbaQ22 ()/2()/12abXbaS故令故令 求得求得 的矩估计分别为的矩估计分别为 ba,33 ,aXSbXS 2 2 3abXbaS从直观上看该结果是否合理？从直观上看该结果是否合理？从直观看更好的估计应该是

8、什么？从直观看更好的估计应该是什么？总体二阶总体二阶中心矩中心矩 样本二阶样本二阶中心矩中心矩 为来自均匀分布为来自均匀分布总体总体 (,)XU a b12,nX XX,()a b ab设设 的样本，求未知参数的样本，求未知参数 的矩估计的矩估计.(a)bX ab a ,b 1 miniinX 1 maxiinX 2 参数估计 数理统计第六章#/50/50 设设 为来自为来自总体总体 的样本，求未知参数的样本，求未知参数 的矩估计。的矩估计。)10(),(ppmbX12,nX XXp总体一阶矩为总体一阶矩为 mpXE)(样本一阶矩为样本一阶矩为 niiXnX11令令 Xmp 求得求得 的矩估计

9、为的矩估计为 .pmXp 如果如果 都未知，怎样求都未知，怎样求 的矩估的矩估计计？,m p,m p2 参数估计 数理统计第六章#/50/50 原理直观，是一种古老的参数估计方法；原理直观，是一种古老的参数估计方法；只用到总体矩，用法简单，如果总体矩不存在，只用到总体矩，用法简单，如果总体矩不存在，则无法求参数的点估计；则无法求参数的点估计；由于没有用到总体的分布形式，所以总体分布由于没有用到总体的分布形式，所以总体分布包含的参数信息没有加以利用；包含的参数信息没有加以利用；由于矩估计基于大数定律，所以在大样本下矩由于矩估计基于大数定律，所以在大样本下矩估计才有较好的效果。估计才有较好的效果。

10、设设总体总体 X 服从服从CauchyCauchy分布分布，其密度函数为，其密度函数为 2)(111)(xxf；则未知参数则未知参数 的矩估计不存在。的矩估计不存在。2 参数估计 数理统计第六章#/50/50 一个随机试验有很多可能结一个随机试验有很多可能结 果，如果在一次试验中，某事件发生了，则认为该事件果，如果在一次试验中，某事件发生了，则认为该事件发生的概率最大。发生的概率最大。一老战士与一新同学一同进行射击训练，每人一老战士与一新同学一同进行射击训练，每人打了一枪，结果有一枪中靶。试问这一枪是谁打中的？打了一枪，结果有一枪中靶。试问这一枪是谁打中的？按照按照 Fisher 的极大似然思

11、想，应该认的极大似然思想，应该认为是老战士打中的较合理。为是老战士打中的较合理。一袋中有红、白两颜色的球若干，只知道两种一袋中有红、白两颜色的球若干，只知道两种球的比例为球的比例为4:14:1，但不知道那种颜色的球占多。现从中任，但不知道那种颜色的球占多。现从中任取一球，结果为白色。问袋中哪种颜色的球较多？取一球，结果为白色。问袋中哪种颜色的球较多？按照按照FisherFisher的极大似然思想，应该认为袋中的极大似然思想，应该认为袋中白球较多。白球较多。2 参数估计 数理统计第六章#/50/50 总体总体 )(xfX；12,nxxx观察值观察值 怎样从事件的角度解释怎样从事件的角度解释：样本

12、样本 12,nX XX12,nx xx的观察值为的观察值为 nR样本样本 12,nX XX一般理解为一般理解为 1122,nnXxXxXx当当 为连续型总体时为连续型总体时 X1122,nnP XxXxXx01212 (,)(,)nnP X XXx xx1212max(,)(,)nnP X XXx xx；1max()niif x 中随机点中随机点 落在以落在以 为中为中心的充分小的邻域心的充分小的邻域 内内 12(,)nXXX12(,)nx xx12(,)nx xxnR12(,)nx xx12(,)nXXX12(,)nx xx121()(,)nniif xx xx;若有若有 使得使得 则则 可

13、作为可作为 的估计的估计 12(,)nx xx11()max()nniiiif xf x；2 参数估计 数理统计第六章#/50/50 设设 是总体是总体 的样本的样本,令令 12,nX XX(,)Xf x；12()max(,)nLLX XX121()(,)(,)nniiLLX XXf X(Maximun Likelihood Estimation ),若存在统计量若存在统计量 使得使得 12(,)nX XX称称 为为 )(L似然函数似然函数 则称则称 为为 的的 12(,)nX XX极大似然估计极大似然估计 ,简记为简记为 MLE.2 参数估计 数理统计第六章#/50/50 似然函数为似然函数

14、为 niXieL11)(1,0,(,(0)0 ,0,xexf xx）设总体服从指数分布设总体服从指数分布 其密度为其密度为 (),XEXPniiXne11Xnne因为因为 与与 有相同的极值点，故令有相同的极值点，故令 )(L)(lnL0d)(dln2XnnL解似然方程，求得解似然方程，求得 的的 MLE 为为 .X称为似然方程称为似然方程 是来自总体的样本，试求是来自总体的样本，试求 的的 12,nX XXMLE.2 参数估计 数理统计第六章#/50/50 求似然函数求似然函数 12ln(,)0,1,2,kiLik 设设 是来自总体是来自总体 的样本的样本；12,nX XX12(,)kXf

15、x 12121(,)(,)nkikiLf X ；求似然方程求似然方程(组组)1112221212 (,)(,)(,)nnkknXXXXXXXXXM概率函数概率函数：密度或分布律密度或分布律 解似然方程解似然方程(组组)，则，则 的的 为为 11,k MLE2 参数估计 数理统计第六章#/50/50 由由 解得解得 X似然函数为似然函数为 niXieL12)(22221),(设设 是来自总体是来自总体 的样的样本本,试求未知参数试求未知参数 的的 MLE.2,12,nX XX),(2NX令令 0)(212)(ln0)(1ln 1242212niiniiXnLXLniiXnne122)(2122)

16、()2(，代入，代入 解得解得 22211()niiXXSn故故 的的 MLE 分别为分别为 2,22,XS.2 参数估计 数理统计第六章#/50/50 似然函数为似然函数为 设设 为来自均匀分布为来自均匀分布总体总体 的样本，求未知参数的样本，求未知参数 的的 MLE.(,)XU a b12,nX XX,()a b ab显然从似然方程无法求得显然从似然方程无法求得 MLE.niabbaL11),(令令 (1)(1)()(1)()0 (,)()0nnnLn baaaXXbLn bab(1)()(),nnbaaXXb其中其中 (1)()11min,max niii ni nXXXX .,max(

17、,)a bL a bQ(1)(),min()na XXbba(1)(),naXbX()(1)max ,minnXba Xab.max ,min11iniiniXbXa所以所以 的的 MLE 是是,a b2 参数估计 数理统计第六章#/50/50 按矩估计法，求得按矩估计法，求得 的点估计分别为的点估计分别为 ba ,33 ,aXSbXS设设 为均匀分布为均匀分布总体总体 的样本的样本 (,)XU a b12,nX XX按按 MLE 法，求得法，求得 的点估计分别为的点估计分别为 ,a bmax ,min 11iniiniXbXa设设 为来自为来自Poisson 分布分布总体总体 ()XP12,

18、nX XX)()(XDXE所以所以 都可以作为未知参数都可以作为未知参数 的点估计。的点估计。212,XS样本样本,因为因为 对于同一参数，用不同的方法可对于同一参数，用不同的方法可能得到不同的点估计，用什么标准来评价能得到不同的点估计，用什么标准来评价和选择这些点估计量？和选择这些点估计量？2 参数估计 数理统计第六章#/50/50 设总体设总体 ,其中其中 为未知参数为未知参数 的取的取值范围值范围,称称 为参数空间。为参数空间。；xFX()对于对于 Poisson 总体总体 其其参数空间为参数空间为 (),XP 0|设设总体总体 则则参数空间为参数空间为 2(,),XN 0,|),(2

19、设设 为来自为来自总体总体 的样本，的样本，为未知参数为未知参数 的点估计。的点估计。XnXXX,21),(21nXXX2 参数估计 数理统计第六章#/50/50 一个一个“好的好的”估计应该满足什么条件？估计应该满足什么条件？设总体设总体 ,其中其中 为未知参数为未知参数 的取的取值范围值范围,称称 为参数空间。为参数空间。；xFX()设设 为来自为来自总体总体 的样本，的样本，为未知参数为未知参数 的点估计。的点估计。XnXXX,21),(21nXXX)(E若估计量若估计量 ),(21nXXX的数学期望的数学期望 ()E存在存在,且且 有有 则称则称 为为 的的 否则称为否则称为 无偏估计

20、无偏估计,有偏估计有偏估计.称称 ()()bE为估计量为估计量 的的 偏差偏差(偏偏).).12(,)nx xxL2 参数估计 数理统计第六章#/50/50 无论无论总体总体 服从什么分布服从什么分布,若若 X2(),()E XD X故故 分别为分别为 的无偏估计的无偏估计.22,SX%2,都存在都存在,则则 分别是分别是 的无偏估计的无偏估计.22,XS2,()()EE X221()nE Sn根据抽样分布定理的结论有根据抽样分布定理的结论有 2221 ()()()nEE SESn%2211nnnn是是 的有偏估计的有偏估计 2S22221 ()()nE SnnQ是是 的的 2 S2渐近无偏估

21、计渐近无偏估计.2 参数估计 数理统计第六章#/50/50 设设 为来自为来自总体总体 的样本的样本,则则 的矩估计和的矩估计和 MLE),(2NX12,nX XX无论无论总体总体 服从什么分布服从什么分布,若若 X2(),()E XD X都存在都存在,则则 分别是分别是 的无偏估计的无偏估计.22,XS2,X22S是是 的无偏估计的无偏估计 ,而而 的矩估计和的矩估计和 MLE 2是是 的有偏估计或渐近无偏估计的有偏估计或渐近无偏估计.2的无偏估计是的无偏估计是 2222111()niiSXXn%2 参数估计 数理统计第六章#/50/50 无无偏性反映了商业行为的公平性偏性反映了商业行为的公

22、平性 在工程技术中在工程技术中 称称 为系统误差为系统误差 )(E在经济活动中在经济活动中 在竞技评分中在竞技评分中 无无偏性反映了评分的公正性偏性反映了评分的公正性 在什么情况下，无在什么情况下，无偏性才有意义偏性才有意义 2 参数估计 数理统计第六章#/50/50 是未知参数是未知参数 的点估计的点估计 12(),nX XX设设 一个一个“好好”的点估计的点估计,其估计的绝对误差其估计的绝对误差|应该较小应该较小.绝对值运算不方便绝对值运算不方便 2()()rE为为估计量估计量 的的 均方误差均方误差.()()rr设设 12(),nXXXL为为 的估计量，称的估计量，称 若存在若存在 的一

23、个估计量的一个估计量 使得对使得对 的任意一个估的任意一个估计量计量 都有都有 ,则称则称 是是 的的 最小均方误差估计最小均方误差估计.随机变量随机变量 2 参数估计 数理统计第六章#/50/50 ()()bE描述估计量描述估计量“偏差偏差”大小的三个量大小的三个量 2()()rE2()()DEE三者之间关系三者之间关系 2()()()rDb()()DD设设 是是 的无偏估计的无偏估计,若对若对 的任一个无偏的任一个无偏 估计估计 都有都有 最小方差无偏估计最小方差无偏估计.则称则称 是是 的的 12()()DD设设 是是 的两个无偏估计的两个无偏估计,若若 12,则称则称 较较 有效有效.

24、12 2 参数估计 数理统计第六章#/50/50 2()(ln(,)0f XIE设总体设总体 其中其中 是是 上的上的 是是 的无偏估计的无偏估计.若若 一个开区间一个开区间 是未知参数是未知参数 的待估计函数的待估计函数 (,),Xf x(,)12,nX XX是总体是总体 的样本的样本,X12(,)ng X XX,()g()g存在存在,且且 (),f X(,)d(,)df xxf xx()g存在存在,且且 12121(,)(,)d ddnnniig x xxf xx xx12121(,)(,)d dd()nnniig x xxf xx xx则有则有 212()(,)()ngD g XXXnI

25、1 (,)ln(,)(,)f Xf Xf XQ22222211 (,)(,)ln(,)(,)(,)f XfXf Xf Xf X 222222(,)(,)ln(,)(,)(,)(,)f XfXf Xf Xf Xf X 222(ln(,)(,)(,)f Xf Xf X 222()(ln(,)(ln(,)If Xf XEE 2 参数估计 数理统计第六章#/50/50 2()(ln(,)0f XIE存在存在,且且 (),f X(,)d(,)df xxf xx()g存在存在,且且 12121(,)(,)d ddnnniig x xxf xx xx12121(,)(,)d dd()nnniig x xxf

26、 xx xx则有则有 212()(,)()ngD g XXXnI设总体设总体 其中其中 是是 上的上的 是是 的无偏估计的无偏估计.若若 一个开区间一个开区间 是未知参数是未知参数 的待估计函数的待估计函数 (,),Xf x(,)12,nX XX是总体是总体 的样本的样本,X12(,)ng X XX,()g()g(,)d1f xx (,)d0f xx(,)d0f xx2 参数估计 数理统计第六章#/50/50 2()(ln(,)0f XIE存在存在,且且 (),f X(,)d(,)df xxf xx()g存在存在,且且 12121(,)(,)d ddnnniig x xxf xx xx1212

27、1(,)(,)d dd()nnniig x xxf xx xx则有则有 212()(,)()ngD g XXXnI设总体设总体 其中其中 是是 上的上的 是是 的无偏估计的无偏估计.若若 一个开区间一个开区间 是未知参数是未知参数 的待估计函数的待估计函数 (,),Xf x(,)12,nX XX是总体是总体 的样本的样本,X12(,)ng X XX,()g()g()E g 12121(,)(,)d ddnnniig x xxf xx xx12121(,)(,)d dd()nnniig x xxf xx xx()g()g2 参数估计 数理统计第六章#/50/50 2()(ln(,)0f XIE存

28、在存在,且且 (),f X(,)d(,)df xxf xx()g存在存在,且且 12121(,)(,)d ddnnniig x xxf xx xx12121(,)(,)d dd()nnniig x xxf xx xx则有则有 212()(,)()ngD g XXXnI1()()gDnI特别当特别当 有有 ()g设总体设总体 其中其中 是是 上的上的 是是 的无偏估计的无偏估计.若若 一个开区间一个开区间 是未知参数是未知参数 的待估计函数的待估计函数 (,),Xf x(,)12,nX XX是总体是总体 的样本的样本,X12(,)ng X XX,()g()g称为称为 的的 下界下界 CR g无偏

29、估计的方差下界无偏估计的方差下界 2 参数估计 数理统计第六章#/50/50 设设 是来自总体是来自总体 的样本的样本,试求未知参数试求未知参数 的最小方差无偏估计的最小方差无偏估计.2,12,nX XX2(,)XN 的无偏估计分别是的无偏估计分别是 22,SX%2,22()(ln(,)If XE 22()XE241()XE41()D X2122()2212 (,)Xef X Q2222()1 ln22ln(,)ln2Xf X 的的 Fisher 信息量为信息量为 2()()DD Xn1()nI211n即即 达达 下界下界,故故 是是 的最小方差无偏估计的最小方差无偏估计 XCRX因为因为 2

30、2222()()ln(,)If XE 246()12XE246()12E X4122的的 Fisher 信息量为信息量为 222(1)(1)nSn%Q22(1)(1)(2nSDn%422 (1)DnS%21()()1nI21()nICR可见可见 的方差达不到的方差达不到 下界下界 2S%,但可证明但可证明 是是 22S%2的最小方差无偏估计的最小方差无偏估计 .2 参数估计 数理统计第六章#/50/50 是未知参数是未知参数 的点估计的点估计 12(),nX XX设设 依概率收敛依概率收敛 lim|0nnP设设 12(),nnX XX为为 的估计量的估计量,若若 则称则称 是是 的的 相合估计

31、相合估计.n若若 增大增大,一个一个“好好”的点估计应具有什么特性的点估计应具有什么特性？n当当 增大时增大时,样本包含样本包含 的信息增多的信息增多,估计应更精确估计应更精确 n 0lim|1nnP或或 是是 的相合估计的相合估计 nnP 随随 的增的增加加,估计量估计量 与与参数真值参数真值 的绝对偏差较的绝对偏差较大的可能性越来越大的可能性越来越小小 nn2 参数估计 数理统计第六章#/50/50 无论无论总体总体 服从什么分布服从什么分布,若若 X2(),()E XD X故故 分别为分别为 的相合估计的相合估计.22,SX2,都存在都存在,则则 分别是分别是 的相合估计的相合估计.22

32、,XS2,矩估矩估计通常具有相计通常具有相合性合性 11()nPkiiXE XXn 分布大数定律知分布大数定律知 是来自总体是来自总体 的样本的样本 12,nX XX设设 X22211()nPiiAXE Xn 2211 ()niiSXXn2211()niiXXn22()PE X()D X,由独立同由独立同 2221111()niinXXSSnn%()PD X 故修正的样本方差故修正的样本方差 是是 的相合估计的相合估计.22S%2又因为又因为 2 参数估计 数理统计第六章#/50/50 导弹直接命中敌机将其击毁导弹直接命中敌机将其击毁 导弹接近敌机时引爆战斗部，依靠高速飞行的弹导弹接近敌机时引

33、爆战斗部，依靠高速飞行的弹片将其击毁片将其击毁 设设 是未知参数是未知参数 的点估计的点估计 12(,)nX XX未知参数未知参数 落在什么范围内？落在什么范围内？用用 估计估计 有多高的精度？有多高的精度？则随机区间则随机区间 可作为未知参数可作为未知参数 的的“估计估计”.),(21),(21设有两个统计量设有两个统计量 1212,(),若若 12小，则估计精度高、可信度低小，则估计精度高、可信度低 12大，则可信度高、估计精度低大，则可信度高、估计精度低 可信度是否越高越好？可信度是否越高越好？如何平衡估计精度与可信度？如何平衡估计精度与可信度？估计精度是否越高越好？估计精度是否越高越好

34、？2 参数估计 数理统计第六章#/50/50 1212(,),(,)()nnX XXX XX设总体设总体 若存在若存在 (,)(),01XF x 使得使得 有有 两个统计量两个统计量 1P 则称随机区间则称随机区间 为为 的的置信水平置信水平为为 的的置信区间置信区间,(,)1 、分别称为分别称为置信下限置信下限和和置信上限置信上限.置信水平也称为置信水平也称为置信度置信度,通常通常 较小较小 较大较大 ,1对于连续型总体对于连续型总体,则取则取 1P 对于离散型总体对于离散型总体,则取则取 P尽可能接近尽可能接近 1双侧置信区间双侧置信区间 2 参数估计 数理统计第六章#/50/50 1P

35、1212(,),(,)nnX XXX XX对于连续型总体对于连续型总体,则取则取 1P 对于离散型总体对于离散型总体,则取则取 尽可能接近尽可能接近 P1两个统计量两个统计量 设总体设总体 若存在两若存在两 (,),01,XF x满足满足 使得使得 有有 ,1则称随机区间则称随机区间 为为 的的 为为 的的 分别称为分别称为 和和 (,)、置信水平置信水平 置信区间置信区间,置信下限置信下限 置信上限置信上限 .置信水平也称为置信水平也称为 ,通常通常 较小，较小，较大较大 1置信度置信度 双侧置信区间双侧置信区间 2 参数估计 数理统计第六章#/50/50 ，且，且 设设 为来自为来自总体总

36、体 的样本的样本,试求未知参数试求未知参数 的置信水平为的置信水平为 的置信区间。的置信区间。12,nX XX)1 ,(NX1 0(0,1)/XNn故对于给定的故对于给定的置信水平置信水平 查表可求得查表可求得 使得使得 1,1/2u1/20|1/XPun 等价地有等价地有 001/21/2 1PuuXXnn 故故 的置信水平为的置信水平为 的置信区间为的置信区间为 11/21/2(),uuXXnn1/2u1/2 u1的的 为为 XMLE2 参数估计 数理统计第六章#/50/50 特别取特别取 则则 1/20.9751.96uu16,0.05,n1/21/2()(),0.49,0.49uuXX

37、XXnn只给出了只给出了 的点估计的点估计 X给出了给出了 所在的一个范围所在的一个范围 )49.0,49.0(XX，都可以作为都可以作为 的点估计的点估计 )49.0,49.0(XX其估计误差其估计误差 98.049.02|e置信度置信度 的实际含意是的实际含意是什么什么 10.95是否一定包含真值是否一定包含真值 (0.49,0.49)XX于是于是 的置信水平为的置信水平为 的一个置信区间为的一个置信区间为 0.95 以上分析的可信度为以上分析的可信度为 即若反复抽样即若反复抽样 次，则包含真值次，则包含真值 的区间的区间 约有约有 个，不包含个，不包含 的区间大约只有的区间大约只有 个个

38、.(0.49,0.49)xx95%,1009552 参数估计 数理统计第六章#/50/50 001/21/2 1P XuXunn 1/2z1/2 z1的置信水平为的置信水平为 的置信区间满足的置信区间满足 2/001 3/41/4 1P XuXunn 的置信水平为的置信水平为 的置信区间也可由下式确定的置信区间也可由下式确定 11 3/4z1/4z面积为面积为 14/2/4/3可见置信区间不唯一！可见置信区间不唯一！怎样选择？怎样选择？短短 长长 采用面积对称原则确定分位点采用面积对称原则确定分位点 2 参数估计 数理统计第六章#/50/50 求未知参数求未知参数 的置信区间的一般方法的置信区

39、间的一般方法 构造样本函数构造样本函数 )(),(xfWW设设 是待估计的未知参数，是待估计的未知参数，是其它的未知参数是其它的未知参数 求求 的较好的点估计的较好的点估计 .,对于给定的置信水平对于给定的置信水平 ，由，由 确定两个分确定两个分位点位点 ，使得，使得 1)(xf2/2/1,ff/21/2(,)1P fWf 的置信区间为的置信区间为 .),(1 P等价地等价地 )(xfx/2()fx1/2()fx2/2/只包含未只包含未知参数知参数 ,而不而不含其它未知参数含其它未知参数 W 分布密度已知分布密度已知,且不含任何未知参且不含任何未知参数数 2 参数估计 数理统计第六章#/50/

40、50 ，且，且 设设 为来自为来自总体总体 的样本的样本,试求未知参数试求未知参数 的置信水平为的置信水平为 的置信区间。的置信区间。12,nX XX2(,)XN 1 11()/Xt nSn故对于给定的故对于给定的置信水平置信水平 查表可求得查表可求得 使得使得 1,1/21()tn1/2111|()/XPtnnS 等价地有等价地有 1/21/21111()()1SSPtntnXXnn 故故 的置信水平为的置信水平为 的置信区间为的置信区间为 11/211()StnXn的的 分别分别为为 2,2,X SMLE2 参数估计 数理统计第六章#/50/50 ，且，且 设设 为来自为来自总体总体 的样

41、本的样本,12,nX XX2(,)XN 2221()nSn怎样直接写出置信区间怎样直接写出置信区间 的的 分别分别为为 2,2,X SMLE2,均未知均未知,求求 的置信水平为的置信水平为 的置信区间的置信区间.21视为可运算符视为可运算符 2221()nSn改为不等号改为不等号 2221/21()nSn改为分位数改为分位数 22/21()nSnP1 2/21()n2/2/21/21()n故故 的置信水平为的置信水平为 的置信区间为的置信区间为 2122221/2/211,()()nSnSnn若若 已知已知,的置信区间是什么的置信区间是什么 222 11()niinSX 的的 为为 2MLE,

42、且且 222()nSn22221/2/2,()()nSnSnn的置信区间为的置信区间为 22 参数估计 数理统计第六章#/50/50 设设 是来自总体是来自总体 的样本的样本,21(,)XN 112,nXXX21121211()()(2)XYt nnSnn是来自总体是来自总体 的样本的样本,两样本独立两样本独立.22(,)YN 212,nY YY且且 21121111,nnjijiXXYYnn212,均未知均未知,求求 的置信度为的置信度为 的置信区间的置信区间.121的点估计分别为的点估计分别为 212,故故 的置信度为的置信度为 的置信区间为的置信区间为 1212,S221122122n

43、Sn Snn1/2121211()(2)tnnSXYnn21211211()()(2)t nnSXYnn2 参数估计 数理统计第六章#/50/50 设设 是来自总体是来自总体 的样本的样本,211(,)XN 112,nXXX2211122211/(1,1)/SSF nn%是来自总体是来自总体 的样本的样本,两样本独立两样本独立.222(,)YN 212,nY YY且且 2212,X Y SS%221212,均未知均未知,求求 的置信度为的置信度为 的置信区间的置信区间.22121的无偏估计分别为的无偏估计分别为 221212,故故 的置信度为的置信度为 的置信区间为的置信区间为 2212122

44、11221/2/212122211,(1,1)(1,1)SSFnnFnnSS22112212221(1,1)SF nnS或或 2211/2121221/212221,(1,1)(1,1)SSFnnFnnSS2 参数估计 数理统计第六章#/50/50 其中其中 为已知为已知.设设总体总体 (,)(01),Xb m ppm令令 1()(1)iiinXXm XmippL pC似然函数为似然函数为 并证并证 是是 的最小方差无偏估计和相合估计的最小方差无偏估计和相合估计.pp是来自总体是来自总体 的样本的样本.试求试求 的的 12,nX XXXpMLE ,p设设 111(1)nniiinmnXmiXX

45、iippC1(1)inXnXmn nXmippC1ln()0pLnXmn nXppp求得求得 的的 为为 pMLE1.pXm1()()E pE Xm1()E Xm1mpmp故故 是是 的的无偏估计无偏估计.p1 pXm又又 2()(ln(),I pf X pEpp的的 Fisher 信息量为信息量为 21()mXXEpp22211()()XmpEpp2211()()D Xpp221(1)(1)mpppp(1)mpp21 ()()D pD XmQ211()D Xnm211(1)mppnm1 1(1)ppm n1()nI p达到达到 下界下界 ()D pCR，故，故 是是 的最小方差无偏估计的最小

46、方差无偏估计.pp ()()PXE Xmpn Q1 PpXpm 故故 是是 的相合估计的相合估计.pp (),f x pP Xx(0,1,2,)x(1)xxm xmC pp2 参数估计 数理统计第六章#/50/50 随机地从随机地从 两批导线中各抽取两批导线中各抽取 根和根和 根根,分分 A,B45别测得电阻别测得电阻 为为 ()A 0.143,0.142,0.143,0.137:批批 批批 B 0.140,0.142,0.136,0.138,0.140:2212(,),(,).XNYN 设设 两批导线的电阻分别为两批导线的电阻分别为 A,B试求试求 的的 的置信区间的置信区间,并问两批导线电

47、阻是否有并问两批导线电阻是否有显著差异？显著差异？1295%12121211()()(2)XYt nnSnnQ 12121211()(2)t nnSXYnn 的置信区间为的置信区间为 12 1/2121211(2)()tnnSXYnn 的的 置信区间为置信区间为 121具体计算得具体计算得 0.14125,0.1392xy620.9756.51 10,(7)2.8646st(0.00285,0.00695)故故 的的 的置信区间为的置信区间为 1295%因该置信区间包含因该置信区间包含 故两批导线电阻没有显著差异故两批导线电阻没有显著差异.0,2626126.1875 10,416 10ss1

48、/2121211(2)()tnnSXYnn 2 参数估计 数理统计第六章#/50/50 寿命、收入、生产率等越大越好寿命、收入、生产率等越大越好 次品率、杂质含量、事故次数等越少越好次品率、杂质含量、事故次数等越少越好 1 P若存在统计量若存在统计量 01,),(21nXXX满足满足 有有 若存在统计量若存在统计量 ),(21nXXX满足满足 有有 1 P 对这类对这类“好好”指标关心下限指标关心下限 则称则称 为为 的置信水平为的置信水平为 的的 ),(单侧置信下限单侧置信下限 .单侧置信区间单侧置信区间,称称 为为 1则称则称 为为 的置信水平为的置信水平为 的的 (,)单侧置信上限单侧置

49、信上限 .单侧置信区间单侧置信区间,称称 为为 1 对这类对这类“坏坏”指标关心上限指标关心上限 2 参数估计 数理统计第六章#/50/50 1(1)/Xt nSn ，且，且 等价地有等价地有 对于给定的置信水平对于给定的置信水平 ,可查表求得可查表求得 使得使得 11(1)tn11(1)1/XPtnSn 11(1)1SPtnXn 故故 的单侧置信下限为的单侧置信下限为 11(1)StnXn1(1)tn设设 ),(2NXnXXX,21为来自为来自总体总体 的样本的样本,2,均未知均未知.试求试求 的置信水平为的置信水平为 的单侧置信下限的单侧置信下限.1分别分别是是 2,2,SXMLE的的 2

50、 参数估计 数理统计第六章#/50/50 故故 的置信度为的置信度为 的单侧置信上限为的单侧置信上限为 12222(1)nSn ，且，且 设设 为来自为来自总体总体 的样本的样本,均未知。试求均未知。试求 的置信水平为的置信水平为 的单侧置信上限的单侧置信上限.),(2NXnXXX,2112,2222 (1)nSn?1 ,2(1)n21(1)n（注意（注意 较小）较小）形式运算形式运算 222(1)nSn分别分别是是 2,2,SXMLE的的 2 参数估计 数理统计第六章#/50/50 均存在均存在.求求 的置信水平为的置信水平为 的置信区间的置信区间.2()D X1设设 为来自为来自总体总体