第七章-参数估计-点估计.pdf
统计推断统计推断统计推断是数理统计理论的主要部分。现行的统计推断理论，是建立在概率论的基础上的。所谓统计推断，就是根据从总体中抽出的样本，去推断总体的性质（期望、方差、分布等）。例如，假定在一大群人中，身高服从正态分布N(,2)，其中,2是未知参数，即为推断的对象。参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估区间估 计计统计统计推断推断DE基本基本问题问题7-2第七章第七章 参数估计参数估计7.1 点估计点估计7.2 估计量的评价标准估计量的评价标准7.3 区间估计区间估计什么是参数估计？什么是参数估计？参数是刻画总体某方面概率特性的数量参数是刻画总体某方面概率特性的数量.当此数量未知时当此数量未知时,从总体抽出一个样本，从总体抽出一个样本，用某种方法对这个未知参数进行估计就用某种方法对这个未知参数进行估计就是参数估计是参数估计.例如，例如，X N(,2),点估计点估计区间估计区间估计若若,2未知未知,通过构造样本的函数通过构造样本的函数,给出给出它们的估计值或取值范围就是参数估计它们的估计值或取值范围就是参数估计的内容的内容.比如射击比如射击平均环数平均环数置信区间置信区间如某如某射击运动员射中射击运动员射中8 8环环到到1010环之间，有环之间，有95%95%的置的置信概率信概率。某射击运动员平均环数在某射击运动员平均环数在8 8到到1010环之间的可信程度环之间的可信程度为为95%95%。什么是参数估计？什么是参数估计？参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计估计未知参数的估计未知参数的取值范围取值范围，并使此范围包含未知参数并使此范围包含未知参数真值的真值的概率概率为给定的值为给定的值.7.1 点估计点估计7-5引例引例 设在某炸药制造厂，一天中发生着火的次数X服从以0为参数的泊松分布，参数为未知，现有以下的样本值，试估计X0 1 2 3 4 5 6 7pk75 9054 22621则则E(X)=的估计为1.22=250解解 由于X()，故有=E(X)，用样本均值估计总体均值E(X)，由数据计算得到22.1x7.1 点估计点估计设总体设总体X 的分布函数的形式已知的分布函数的形式已知,是待是待估参数估参数,X1,X2,Xn为总体的一个样本为总体的一个样本,点估计就是要构造一个适当的统计量点估计就是要构造一个适当的统计量),(21nXXX用一个数值作为未知参数的估计值用一个数值作为未知参数的估计值),(21nxxx用它的观察值用它的观察值作为待估参数的近似值。作为待估参数的近似值。估计量估计量估计值估计值二二种种常用的点估计方法常用的点估计方法 矩估计法法7-7 最大似然估计大似然估计法法矩的概念矩的概念阶混合中心矩。阶混合中心矩。的的称称阶混合矩。阶混合矩。的的称称是二维随机变量，则是二维随机变量，则设设中心矩。中心矩。阶中心矩。方差是二阶阶中心矩。方差是二阶的的称称存在，则存在，则如果如果一阶原点矩。一阶原点矩。阶原点矩。数学期望是阶原点矩。数学期望是的的称称为随机变量，则为随机变量，则设设lkYXlkYEYXEXElkYXlkYXEaYXkXkXEXEXEkXkXEaXlkkllkklkkkk),(,2,1,)()(),(,2,1,),(),(,2,1,)()(,2,1),(方法方法用样本用样本 k 阶矩阶矩作为总体作为总体 k 阶矩阶矩的的估计量估计量,建立含有待估参数的方程建立含有待估参数的方程,从而解出待估参数从而解出待估参数 矩估计法矩估计法7-11设待估计的参数为设待估计的参数为k,21设总体的设总体的 r 阶矩存在，记为阶矩存在，记为),()(21krrXE样本样本 X1,X2,Xn的的 r 阶矩为阶矩为nirirXnB11kr,2,1令令),(21krniriXn11 含未知参数含未知参数 1,2,k 的方程组的方程组7-12解方程组解方程组,得得 k 个统计量：个统计量：11212(,)(,)nknXXXXXX未知参数未知参数 1,k的的矩估计量矩估计量111212(,)(,)nkknx xxx xx代入一组样本值得代入一组样本值得 k 个数个数:未知参数未知参数 1,k的的矩估计值矩估计值7-9一般一般,不论总体服从什么分布不论总体服从什么分布,总体期望总体期望 与方差与方差 2存在存在,则它们的矩估计量分别为则它们的矩估计量分别为11niiXXn2122)(1nniiSXXn7-10按矩估计法，总体矩按矩估计法，总体矩得得11niiXXn2122122)(1-nniiSXXnAA11niiXXn1A例例1 1 设总体 X N(,2),X1,X2,Xn为总体的样本,求,2 的矩法估计量.解解X矩2121）（矩矩XXnnii例例2 2 设总体 X E(),X1,X2,Xn为总体的样本,求的矩法估计量.解解()1/,E X1/.X令7-13故1/.X矩例例3 3 设从某灯泡厂某天生产的灯泡中随机抽取10只灯泡，测得其寿命为(单位:小时)1050,1100,1080,1120,12001250,1040,1130,1300,1200试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差.解解)(1147101)(101hxxXEii10222211()6821().10iiD Xxxh7-14例例4 4 设总体 X U(a,b),a,b 未知,求参数a,b 的 矩法估计量.解解由于12)()(,2)(2abXDbaXE)()()(22XEXDXE令22212)(baab2abX22221()1122niibaabAXn7-15解得)(322XAXa矩213(),niiXXXn)(322XAXb矩213().niiXXXn7-16 最大似然估计大似然估计法法思想方法思想方法：一次试验就出现的事件有较大的概率例如:有两外形相同的箱子,各装100个球一箱99个白球1 个红球一箱1 个白球99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.答答:第一箱.7-17问问:所取的球来自哪一箱？例例5 5 设总体 X 服从0-1分布,且P(X=1)=p,用最大似然法求 p 的估计值.解解总体 X 的概率分布为1,0,)1()(1xppxXPxx设 x1,x2,xn为总体样本X1,X2,Xn的样本值,则),(2211nnxXxXxXP)()1(11pLppniiniixnxnixi,2,1,1,07-18对于不同的 p,L(p)不同,见右下图现经过一次试验，0.20.40.60.81p0.0020.0040.0060.0080.01Lp),(2211nnxXxXxX发生了，事件则 p 的取值应使这个事件发生的概率最大.p 7-19在容许范围内选择 p，使L(p)最大注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大,则这个p 必使L(p)最大。7-2001ddln11令pxnpxpLniiniixxnpnii11所以xp 为所求 p 的估计值.X 为离散型随机变量,其分布律为,),()(21uuxxpxXP则样本 X1,X2,Xn的概率分布为),(2211nnxXxXxXP),(),(),(21nxpxpxp12,1,2,ixu uin7-21)(),(21LxxxLn记为或称 L()为样本的似然函数),(21nxxxL),(),(),(max21nxpxpxp称这样得到的),(21nxxxg为参数的最大似然估计最大似然估计值值称统计量),(21nXXXg为参数的最大似然估计最大似然估计量量7-22选择适当的=,使取最大值,即L()最大似然法的思想X 连续型变量,取 f(xi,)为Xi的密度函数niixfL1),()(似然函数为7-23注注1 1未知参数可以不止一个,如1,k设X 的密度(或分布)为1(,)kf x则定义似然函数为111(,)(,)nkikiLf x,1,2,ixin1(,)k11(,;,)nkL xx若11(,;,)nkL xx关于1,k可微,则称0),;,(2121knrxxxL为似然方程组kr,2,1若对于某组给定的样本值 x1,x2,xn，参数使似然函数取得最大值,即k,2111(,;,)nkL xx),;,(max2121),(21knxxxLk则称1,k为1,k的最大似然估计值7-24显然，),(21nrxxxgkr,2,1称统计量),(21nrXXXgkr,2,1为1,2,k的最大似然估计最大似然估计量量7-25例例6 6 设总体 X N(,2),x1,x2,xn是 X的样本值,求,2 的最大似然估计.解解),;,(221nxxxLniixnne1222)(222)()2(1)ln(2)2ln(22)(ln2122nnxLnii222)(121ixnie7-26xxnniimle11niimlexxn122)(1,2 的最大似然估计量分别为11,niiXXn212)(1nniiSXXn似然似然方程方程组为组为0)(1ln12niixL0)(2)()(21ln)(212222nxLnii7-27最大似然估计最大似然估计方法方法1）写出似然函数 L2）求出k,21,使得),;,(2121knxxxL),;,(max2121),(21knxxxLk7-280),;,(2121knrxxxLkr,2,1可得未知参数的最大似然估计值k,21然后,再求得最大似然估计量.7-29L是的可微函数,解似然方程组1,k若若L不是的可微函数,需用其它方法求最大似然估计值.请看下例：1,k若若例例7 7 设 X U(a,b),x1,x2,xn是 X 的一个样本值,求 a,b 的最大似然估计值与最大似然估计量.解解 X 的密度函数为其它,0,1),;(bxaabbaxf似然函数为其它,0,2,1,)(1),;,(21nibxaabbaxxxLinn7-30令xmin=min x1,x2,xnxmax=max x1,x2,xn取maxmin,xbxa则对满足bxxamaxmin的一切 a b,nnxxab)(1)(1minmax7-31都有故maxmin,xbxa是 a,b 的最大似然估计值.,max,min21max21minnnXXXXXXXX分别是 a,b 的最大似然估计量.7-32最大似然估计最大似然估计的不变性的不变性设是的最大似然估计值,u()()是的函数,且有单值反函数=(u),uU则是 u()的最大似然估计值.)(uu 7-35如如 在正态总体N(,2)中,2的最大似然估计值为2211()niixxn2是2的单值函数,且具有单值反函数，故的最大似然估计值为211()niixxnlg的最大似然估计值为211lglg()niixxn7-36
