概率论与数理统计第7章.ppt

《概率论与数理统计第7章.ppt》由会员分享，可在线阅读，更多相关《概率论与数理统计第7章.ppt（54页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 参数估计是利用从总体抽样得到的信息参数估计是利用从总体抽样得到的信息估计总体的某些参数或参数的某些函数估计总体的某些参数或参数的某些函数.估计废品率估计废品率估计新生儿的体重估计新生儿的体重估计湖中鱼数估计湖中鱼数 估计降雨量估计降雨量仅估仅估计一计一个或个或几个几个参数参数.第第7章章 参数估计参数估计参数估计问题的一般提法参数估计问题的一般提法:依据样本估计参数依据样本估计参数，或估计，或估计 的某个函的某个函数数g().这类问题称为这类问题称为参数估计参数估计.设总体的分布函数为设总体的分布函数为 F(x,)，其中其中 为未为未知参数知参数(可以是向量可以是向量).从该总体抽样，得样从

2、该总体抽样，得样本本X1,X2,Xn.参数估计参数估计点估计点估计区间估计区间估计1.65 1.67 1.68 1.78 1.69 例例 估计估计18岁男子的平均身高岁男子的平均身高.从总体选从总体选取容量为取容量为5的样本的样本:估计估计 为为1.68，这是这是点估计点估计.估计估计 在区间在区间1.57,1.84内，这是内，这是区间估计区间估计.一、点估计概念及讨论的问题一、点估计概念及讨论的问题例例1 已知某地区新生婴儿的体重已知某地区新生婴儿的体重X 随机抽查随机抽查100个婴儿得个婴儿得100个体重数据个体重数据.问题：问题：1.1.如何估计未知参数呢如何估计未知参数呢?1.点估计点

3、估计2.如何评价估计结果的优劣？如何评价估计结果的优劣？3.证明某特定估计量在某标准下最优。证明某特定估计量在某标准下最优。为估计为估计,需要构造适当的样本的函数需要构造适当的样本的函数T(X1,X2,Xn)，每当有了样本，就代入该每当有了样本，就代入该函数中算出一个值，用来作为函数中算出一个值，用来作为 的估计值的估计值.把样本值代入把样本值代入T(X1,X2,Xn)中，得到中，得到 的一个点估计值的一个点估计值.T(X1,X2,Xn)称为参数称为参数 的点估计量，的点估计量，注意，被注意，被估参数估参数 是是未知常数未知常数估计量估计量 T(X1,X2,Xn)是随机变量是随机变量由大数定律

4、由大数定律,用样本平均值估计总体期望用样本平均值估计总体期望.用样本方差用样本方差S S2 2估计总体方差估计总体方差 .二二.数字特征法：数字特征法：三三.矩估计矩估计总体总体k阶原点矩为阶原点矩为用样本矩去估计相应的总体矩用样本矩去估计相应的总体矩.样本样本k阶原点矩为阶原点矩为总体总体k阶中心矩为阶中心矩为样本样本k阶中心矩为阶中心矩为 设总体分布函数中含设总体分布函数中含k个未知参数个未知参数 1,2,k，则它的前则它的前k阶矩：阶矩：1，2，k 一般一般都是这都是这k个参数的函数个参数的函数,记为：记为：i=gi(1,2,k)i=1,2,k解出：解出：=hj(1，2，k)j=1,2,

5、kj=1,2,k用用 Ai,Bj代替上式中代替上式中 i,vj 得得 j 的矩估计量的矩估计量：j=hj(A1,A2,Ak)解解:由矩法由矩法:样本矩样本矩总体矩总体矩从中解得从中解得即为即为 的矩估计的矩估计.数学期望数学期望是一阶是一阶原点矩原点矩 例例2 设总体设总体X的概率密度为的概率密度为是未知参数是未知参数,其中其中X1,X2,Xn是取自是取自X的样本的样本,求参数求参数 的矩估计的矩估计.解解:由密度函数知由密度函数知 例例3 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本其中其中 0，是未知参数是未知参数求求:,的矩估计的矩估计.服从具有均值为服从具有均值为 的

6、指数分布的指数分布故故 E(X )=D(X)=2即即 E(X)=+D(X)=2令令用样本矩估用样本矩估计总体矩计总体矩解得解得:矩估计矩估计优点优点:简单易行简单易行,不需要知道总体的分布不需要知道总体的分布.缺缺点点：当当总总体体分分布布已已知知时时，无无充充分分利利用分布提供的信息用分布提供的信息.矩估计量不唯一矩估计量不唯一.其原因在于建立矩法方程时，选取那些其原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替有一定的随意性总体矩用相应样本矩代替有一定的随意性.四四.极大似然法极大似然法 在在总总体体分分布布类类型型已已知知条条件件下下使使用用的的一一种种参数估计方法参数估计方法.首

7、先由德国数学家首先由德国数学家高斯高斯在在1821年提出。年提出。英国统计学家英国统计学家费歇费歇1922年重新发现此年重新发现此方法，并首先研究了此方法的一些性质方法，并首先研究了此方法的一些性质.例：某位同学与一位猎人一起外出打猎例：某位同学与一位猎人一起外出打猎.一只一只野兔从前方窜过野兔从前方窜过.一声枪响，野兔应声倒下一声枪响，野兔应声倒下.推测：推测：是谁打中的呢？是谁打中的呢？例例4 设设XB(1,p),p未知未知.但知道但知道p只有两只有两种可能种可能:p=0.7 或或 p=0.3.如今重复试验如今重复试验3次次,问问:应如何估计应如何估计p?得结果得结果:0,0,0因为因为3

8、次试验中出现次试验中出现“1”的次数的次数k=0,1,2,3 就不同就不同p计算结果列表如下：计算结果列表如下：p值值 P(Y=0)P(Y=1)P(Y=2)P(Y=3)0.70.027 0.189 0.441 0.343 0.30.343 0.441 0.189 0.027应如何估计应如何估计p?若：只知若：只知0p0,解：似然函数为解：似然函数为(0 xi0,求：求：、的极大似然估计的极大似然估计.、未知未知对数似然函数对数似然函数=0 (2)由由(1)得得=0 (1)对对、分别求偏导并令其为分别求偏导并令其为0,无法确定无法确定、用极大似用极大似然原则求然原则求对对故使故使L(、)达到最大

9、的达到最大的 即即 的的MLE，取其它值时，取其它值时，且是且是 的增函数的增函数于是于是为为 、的的MLE.可证明极大似然估计具有下述性质：可证明极大似然估计具有下述性质：设设 的函数的函数g=g()是是 上的实值函数上的实值函数,且有唯一反函数且有唯一反函数.如果如果 是是 的的MLE，则则g()也是也是g()的极大似然估计的极大似然估计.例例8 一罐中装有白球和黑球，有放回地抽一罐中装有白球和黑球，有放回地抽取一个容量为取一个容量为n的样本，其中有的样本，其中有 k 个白球，求个白球，求罐中黑球与白球之比罐中黑球与白球之比 R 的极大似然估计的极大似然估计.解解:设设X1,X2,Xn为所

10、取样本，为所取样本，则则X1,X2,Xn是取自是取自B(1,p)的样本，的样本，p是每次是每次抽取时取到白球的概率，抽取时取到白球的概率，p未知未知.先求先求p的的MLE：p的的MLE为为由例由例4已知：已知：由极大似然估计的性质得由极大似然估计的性质得的的MLE是是第二次捕出的有记号的鱼数第二次捕出的有记号的鱼数X是是r.v,X具有具有超几何分布：超几何分布：为了估计湖中的鱼数为了估计湖中的鱼数N，第一次捕上第一次捕上r条鱼，条鱼，做上记号后放回做上记号后放回.隔一段时间后隔一段时间后,再捕出再捕出S条鱼条鱼,结果发现这结果发现这S条鱼中有条鱼中有k条标有记号条标有记号.根据这个信息，如何估

11、计湖中的鱼数呢？根据这个信息，如何估计湖中的鱼数呢？最后，我们用极大似然法估计湖中的鱼数最后，我们用极大似然法估计湖中的鱼数 求求N的极大似然估计的极大似然估计.因为用对因为用对N求导方法相求导方法相当困难当困难,考虑比值考虑比值：当当N为小于为小于rS/k的最大的最大整数时整数时,达到最大值达到最大值.故故N的极大似然的极大似然估计为估计为:(3)怎样判定两个估计量哪个量怎样判定两个估计量哪个量“好好”？(2)“好的好的”估计量应具有什么特性？估计量应具有什么特性？(1).同一未知参数不同的估计方法所得同一未知参数不同的估计方法所得 估计量不同估计量不同，哪一个估计量好呢？，哪一个估计量好呢

12、？1、估计量的优良性准则、估计量的优良性准则 评价一个估计量的好坏，不能仅仅依据一评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量次试验的结果，而必须由多次试验结果来衡量.2 估计量的优劣标准估计量的优劣标准问题：问题：常用的几条标准是：常用的几条标准是：1)无偏性无偏性2)有效性有效性3)一致性一致性1无偏性无偏性设设(X1,X2,Xn)是未知参数是未知参数 的估计量，的估计量，则称则称 为为 的的无偏估计无偏估计.无偏性的实际意义是指没有系统性的偏差无偏性的实际意义是指没有系统性的偏差.由习题由习题4.21题知：题知：X是总体期望的无偏估计。是总体期望的无偏估计

13、。S2是总体方差的无偏估计。是总体方差的无偏估计。2有效性有效性D(1)D(2)则称则称 较较 2 有效有效.都是参数都是参数 的无偏估计量，若的无偏估计量，若设设 1=1(X1,X2,Xn)和和 2=2(X1,X2,Xn)1 是总体期望的无偏估计，是总体期望的无偏估计，n 越越 大越有效。大越有效。最小方差无偏估计最小方差无偏估计.（也称最佳无偏估计）（也称最佳无偏估计）若若 满足：满足：（1）E()=，即即 为为 的无偏估计；的无偏估计；（2）D()D(*)，*是是 的任一无偏估计的任一无偏估计.则称则称 为为 的最小方差无偏估计的最小方差无偏估计.设设X1,X2,Xn是取自总体是取自总体

14、X的一个样本，的一个样本，=(X1,X2,Xn)是未知参数是未知参数 的一个估计量，的一个估计量，3.一致性一致性P =1则称则称 为为 的无偏估计。的无偏估计。由大数定律知样本均值为总体期望的由大数定律知样本均值为总体期望的一致估计量。一致估计量。设：设：是是 的估计量，若对于任意正数的估计量，若对于任意正数，设设0 1,对随机变量对随机变量X，称满足称满足的点的点 为为X的概率分布的上的概率分布的上 分位数分位数.3 区间估计区间估计例如例如:标准正态分布的标准正态分布的上上 分位数分位数 z 1.准备知识：准备知识：上上 分位数分位数 例如例如:分布的上分布的上 分位数分位数自由度为自由

15、度为n的的F分布的上分布的上 分分位数位数F(n1,n2)自由度为自由度为n1,n2的的 2.置信区间定义：置信区间定义：满足满足设设 是是 一个待估参数，给定一个待估参数，给定若由样本若由样本X1,X2,Xn确定的两个统计量确定的两个统计量则称区间则称区间 1,2 是是 的的置信水平置信水平（置信度、（置信度、置信概率）为置信概率）为 1 的置信区间的置信区间.1和和 2分别称为置信下限和置信上限分别称为置信下限和置信上限.可信度与精度是一对矛盾，一般是在可信度与精度是一对矛盾，一般是在保证可靠度的条件下尽可能提高精度保证可靠度的条件下尽可能提高精度.1.要求概率要求概率P 12 要尽可能大

16、要尽可能大.即要求估计尽量可靠即要求估计尽量可靠.2.估计的精度要尽可能的高估计的精度要尽可能的高.如要求区间如要求区间长度长度|1 2|尽可能短尽可能短.注意：给定样本和置信水平，注意：给定样本和置信水平，置信区间置信区间不是唯一不是唯一的的.N(0,1)求参数求参数 的置信度为的置信度为1 的置信区间的置信区间.设设X1,Xn是取自是取自 的样本，的样本，3.置信区间的求法置信区间的求法 找一个待估参数找一个待估参数和样本的函数和样本的函数，要求其分布已知要求其分布已知.1).正态总体方差已知，期望的置信区间正态总体方差已知，期望的置信区间：选选 的点估计为的点估计为 X X给定置信水平给

17、定置信水平1，查正态分布表得查正态分布表得使使简记简记:于是于是 的的 置信区间为置信区间为:为什么？为什么？对任意对任意ab就得一个置信度为就得一个置信度为1 的的置信区间。置信区间。概率密度为单峰且对称概率密度为单峰且对称的情形，当的情形，当a=-b时，得时，得长度最短的置信区间长度最短的置信区间.a=-b在概率密度不对称时，如在概率密度不对称时，如 分布分布，F分布分布，习惯上，习惯上仍取对称的分位点计算未仍取对称的分位点计算未知参数的置信区间知参数的置信区间.置信水平越高，相应置信水平越高，相应的的置信区间置信区间平均长度平均长度越长越长2).正态总体方差未知期望的置信区间：正态总体方

18、差未知期望的置信区间：因方差未知，取因方差未知，取知知求参数求参数 的置信度为的置信度为1 的置信区间的置信区间.设设X1,Xn是取自是取自N(,2)的样本，的样本，2未未选选 的点估计为的点估计为 X X给定置信水平给定置信水平1，查查t-t-分布表得分布表得t t/2(n-1)即：即：期望期望 的置信水平为的置信水平为1 的置信区间为：的置信区间为：简记：简记：例例1.某车间生产滚珠，由长期实践知，滚某车间生产滚珠，由长期实践知，滚珠直径珠直径(单位：单位：mm)XN(,0.05).从某天生产从某天生产的滚珠中随机抽取的滚珠中随机抽取6个测得直径如下：个测得直径如下：14.70,15.21

19、,14.90,14.91,15.32,15.32,15.32.求该天求该天生产滚珠直径均值的置信度为生产滚珠直径均值的置信度为95置信区间。置信区间。解：由已知知所求置信区间为：解：由已知知所求置信区间为：X15.06z0.0251.96 20.05代入以上置信区间得：代入以上置信区间得：14.88,15.24为所求。为所求。n=6 例例2.用某仪器间接测温度，重复用某仪器间接测温度，重复5次得：次得：1250o，1265o，1245o，1260o，1275o，试问温试问温度真值在何范围？度真值在何范围？(设测量结果服从正态分布。设测量结果服从正态分布。)解：由已知知所求置信区间为：解：由已知

20、知所求置信区间为：X1259t0.025(4)2.776S2570/4代入以上置信区间得：代入以上置信区间得：1244.2,1273.8为所求。为所求。n=5非正态总体期望的置信区非正态总体期望的置信区间取大样本按正态间取大样本按正态总体总体作作例例3 某单位要估计平均每天职工的总医疗费，某单位要估计平均每天职工的总医疗费，观察了观察了30天天,其总金额的平均值是其总金额的平均值是170元，标准元，标准差为差为30元，试决定职工每天总医疗费用平均值元，试决定职工每天总医疗费用平均值的区间估计（置信水平为的区间估计（置信水平为0.95）.解：解：设每天职工的总医疗费为设每天职工的总医疗费为X，(

21、大样本大样本)职工每天总医疗费用平均值的置信区间为：职工每天总医疗费用平均值的置信区间为：所求置信区间是所求置信区间是:158.8,181.2t.0.025(29)=2.0452,n=30,代入得代入得,将将 =170,S=30,因为：因为：解得解得:对给定的置信度对给定的置信度1 ,确定分位数确定分位数3).正态总体期望未知方差的置信区间：正态总体期望未知方差的置信区间：求参数求参数 2 的置信度为的置信度为1 的置信区间的置信区间.设设X1,Xn是取自是取自N(,2)的样本，的样本，未未知知 选选 2的点估计为的点估计为S S2 满足：满足：故故 2的置信区间为：的置信区间为：例例4.冷抽

22、铜丝折断力冷抽铜丝折断力XN(,2).从一从一批铜丝中任取批铜丝中任取10根测其折断力得：根测其折断力得：578,572,570,568,572,570,570,596,584,572.求方差求方差的置信区间。的置信区间。代入得所求置信区间是代入得所求置信区间是:35.87,252.44将将 =575.2,9S2=681.6 解：解：2的置信区间为：的置信区间为：4).两独立正态总体期望差异的置信区间：两独立正态总体期望差异的置信区间：设设XN(1 1,)是取自是取自X 的样本，的样本，YN(2 2,)是取自是取自Y 的样本，的样本，X、Y相互独立，求相互独立，求 1 1 2 2的的置信度为置

23、信度为1 的置信区间的置信区间选选 1 1的点估计为的点估计为 X X，2 2的点估计为的点估计为 Y Y1当当 已知时：已知时：1 1 2 2的的置信度为置信度为1 的置信区间为：的置信区间为：2当当 2 未未知时：知时：5).两独立正态总体方差比的置信区间：两独立正态总体方差比的置信区间：设设XN(1 1,)是取自是取自X 的样本，的样本，YN(2 2,)是取自是取自Y 的样本，的样本，X、Y相互独立，相互独立，1 1、2 2未知，求未知，求 的的置信度为置信度为1 的置信区间的置信区间相互独立相互独立为为为为区间区间三、单侧置信区间三、单侧置信区间 上述置信区间中置信限都是双侧的，但上述

24、置信区间中置信限都是双侧的，但对于有些实际问题，人们关心的只是参数在对于有些实际问题，人们关心的只是参数在一个方向的界限一个方向的界限.例如对于设备、元件的使用寿命来说，平均例如对于设备、元件的使用寿命来说，平均寿命过长没什么问题，过短就有问题了寿命过长没什么问题，过短就有问题了.这时，可将置信上限取这时，可将置信上限取为为+，而只着眼于置信下，而只着眼于置信下限，这样求得的置信区间叫限，这样求得的置信区间叫单侧置信区间单侧置信区间.单侧置信区间和置信限的定义单侧置信区间和置信限的定义：满足满足设设 是是 一个待估参数，给定一个待估参数，给定 若由样本若由样本X1,X2,Xn确定的统计量确定的

25、统计量则称区间则称区间 是是 的置信水平为的置信水平为 的的单侧置信区间单侧置信区间.1 称为单侧置信下限称为单侧置信下限.若统计量若统计量 满足满足则称区间则称区间 是是 的置信水平为的置信水平为 的的单侧置信区间单侧置信区间.称为称为单侧置信上限单侧置信上限.使使即即于是得到于是得到 的置信水平为的置信水平为 的单侧置的单侧置信区间为信区间为:1 正态总体期望的单侧置信区间：正态总体期望的单侧置信区间：对给定的置信水平对给定的置信水平 ，确定分位数，确定分位数t(n-1)知知求参数求参数 的置信度为的置信度为1 的单侧置信区间的单侧置信区间.设设X1,Xn是取自是取自N(,2)的样本，的样

26、本，2未未设灯泡寿命服从正态分布设灯泡寿命服从正态分布.求灯泡寿命均求灯泡寿命均值值 的置信水平为的置信水平为0.95的单侧置信下限的单侧置信下限.例例4 从一批灯泡中随机抽取从一批灯泡中随机抽取5只作寿命试验，只作寿命试验，测得寿命测得寿命X（单位：小时）如下：单位：小时）如下：1050，1100，1120，1250，1280解：解：的置信水平为的置信水平为 的单侧置信下限为的单侧置信下限为 将样本值代入得将样本值代入得 的置信水平为的置信水平为0.951065小时小时的单侧置信下限为：的单侧置信下限为：使使即即于是得到于是得到 2 的置信水平为的置信水平为 的单侧置的单侧置信区间为信区间为:2 正态总体方差的单侧置信区间：正态总体方差的单侧置信区间：知知求参数求参数 2 的置信度为的置信度为1 的单侧置信区间的单侧置信区间.设设X1,Xn是取自是取自N(,2)的样本，的样本，未未 对给定的置信水平对给定的置信水平 ，确定分位数确定分位数