7.1参数的点估计.ppt

《7.1参数的点估计.ppt》由会员分享，可在线阅读，更多相关《7.1参数的点估计.ppt（48页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第七章第七章:参数估计参数估计 统计推断的基本问题可以分为两类，一类是估统计推断的基本问题可以分为两类，一类是估计问题，另一类是假设检验问题，本章讨论总体参计问题，另一类是假设检验问题，本章讨论总体参数的点估计和区间估计。数的点估计和区间估计。7.1 7.1 参数的点估计参数的点估计 参数估计就是从样本出发，去构造一个统计量，参数估计就是从样本出发，去构造一个统计量，作为总体中未知参数的一个估计量。作为总体中未知参数的一个估计量。设总体设总体X的分布函数的形式已知，但它的一个或的分布函数的形式已知，但它的一个或多个参数未知，借助于总体多个参数未知，借助于总体X的一个样本来估计总体中的一个样本来

2、估计总体中未知参数值的问题称为参数的点估计问题。未知参数值的问题称为参数的点估计问题。引例引例解解用样本均值来估计总体的均值用样本均值来估计总体的均值 E(X).点估计问题的一般提法点估计问题的一般提法 矩估计是基于矩估计是基于“替换替换”思想建立起来的一种参思想建立起来的一种参数估计方法数估计方法。最早由英国统计学家。最早由英国统计学家 K.皮尔逊皮尔逊 提出。提出。7.1.1 矩估计矩估计其思想是其思想是:用同阶、同类的样本矩来估计总体矩。用同阶、同类的样本矩来估计总体矩。在引例中，我们以样本均值作为总体均值的在引例中，我们以样本均值作为总体均值的估计量，也就是以样本的一阶矩作为总体一阶矩

3、估计量，也就是以样本的一阶矩作为总体一阶矩的估计量，这种做法实际上就是矩估计法。的估计量，这种做法实际上就是矩估计法。矩估计就是用相应的样本矩去估计总体矩。矩估计就是用相应的样本矩去估计总体矩。总体的总体的k阶原点矩为阶原点矩为样本的样本的k阶原点矩为阶原点矩为总体的总体的k阶中心矩为阶中心矩为样本的样本的k阶中心矩为阶中心矩为设总体设总体 X 的分布函数中含的分布函数中含 k 个未知参数：个未知参数：步骤一：步骤一：记总体记总体 X 的的 m 阶原点矩阶原点矩 E(Xm)为为 m ,m =1,2,1,2,k.am(1,2,k),m=1,2,k.一般地一般地,m(m=1,2,K)是总体分布中参

4、是总体分布中参数或参数向量数或参数向量(1,2,k)的函数。的函数。故故,m(m=1,2,k)应记成应记成:步骤二：步骤二：算出样本的算出样本的 m 阶原点矩阶原点矩步骤三：步骤三：令令 （1 1）式是包含）式是包含k个未知参数个未知参数 1 1,2 2,k k 的的联立方程组。联立方程组。步骤四：步骤四：解方程组解方程组(1),(1),并记其解为并记其解为 这种参数估计法称为参数的矩估计法，简称这种参数估计法称为参数的矩估计法，简称矩法。矩法。这种估计量称为矩估计量。矩估计量的观察这种估计量称为矩估计量。矩估计量的观察值称为矩估计值值称为矩估计值.解：解：先求总体的一阶矩，即期望先求总体的一

5、阶矩，即期望例例1 1：设总体设总体 X 的概率密度为的概率密度为由矩法，令由矩法，令样本矩样本矩总体矩总体矩解得解得为为 的矩估的矩估计计。注意：要在参数上边加上注意：要在参数上边加上“”，表示参数的估计。它是统计量。表示参数的估计。它是统计量。解解:先求总体的均值和先求总体的均值和 2 阶原点矩。阶原点矩。例例2：设设 X1,X2,Xn 是取自总体是取自总体 X 的简单样本的简单样本,X 有概率密度函数有概率密度函数令令y=(=(x-)/)/令令y=(=(x-)/)/用样本矩用样本矩估计总体矩估计总体矩得列出方程组列出方程组:例例3：设总体设总体X的均值为的均值为，方差为，方差为 2，求求

6、 和和 2 的的矩估计。矩估计。解：解：由由 故，均值,方差2的矩估计为求解，得求解，得如：如：正态总体正态总体N(,2)中中 和和 2 2的矩估计的矩估计为为又如：又如：若总体若总体 X Ua,b，求求a,b的矩估计。的矩估计。解：解：解上述方程组，得到解上述方程组，得到 a,b 的矩估计的矩估计:(课本课本P108例例7.3)矩估计的矩估计的优点是：优点是：简单易行简单易行,不需要事不需要事先知道总体是什么分布。先知道总体是什么分布。缺缺点点是是：当当总总体体的的分分布布类类型型已已知知时时，未未充充分分利利用用分分布布所所提提供供的的信信息息.此此外外，一一般般情情形下，矩估计不具有唯一

7、性形下，矩估计不具有唯一性.比如比如Xp()，的矩估计不唯一。的矩估计不唯一。7.1.2 极大似然估计极大似然估计1.极大似然估计的基本思想极大似然估计的基本思想 引例：袋中有引例：袋中有4只球，只有白颜色和黑颜色两只球，只有白颜色和黑颜色两种现用放回方式取球种现用放回方式取球3次，每次任取次，每次任取1只球，记取只球，记取得的得的3只球中白颜色球数为只球中白颜色球数为X显然显然XB(3，/4），），其中其中 为袋中的白球数，显然为袋中的白球数，显然 的取值范围为的取值范围为=1，2，3，如果试验结果是取到了，如果试验结果是取到了2只白球，应如何估只白球，应如何估计参数计参数？（课本（课本P1

8、09例例7.6)解：对于解：对于 的不同值，事件的不同值，事件X=2有不同的概率：有不同的概率：针对针对 中的不同中的不同 值，分别计算值，分别计算L()的值，列成下的值，列成下表：表：L()9/6424/64 27/64由于事件由于事件X=2已经发生，自然认为事件已经发生，自然认为事件X=2发生发生的概率最大的概率最大 从表中看到，使事件从表中看到，使事件X=2出现概率最大的出现概率最大的 值为值为3，可把可把3作为参数作为参数 的估计值的估计值 综上所述，设总体分布中未知参数综上所述，设总体分布中未知参数 的值可能的值可能是有限个或无穷多个，它们的集合称为参数空间，是有限个或无穷多个，它们

9、的集合称为参数空间，记为记为 极大似然估计的基本思想就是：若事件极大似然估计的基本思想就是：若事件A发生的发生的概率依赖于未知参数概率依赖于未知参数 ，如果观察到事件，如果观察到事件A已经发生已经发生,那么就在参数空间那么就在参数空间 内选取参数内选取参数 的估计值，使的估计值，使A发发生的概率最大生的概率最大2.2.极大似然估计法极大似然估计法令令L()随着随着 的不同而变化，它是的不同而变化，它是 的函数，的函数，称称L()为似然函数。为似然函数。基于上述极大似然估计的基本思想，可以选取基于上述极大似然估计的基本思想，可以选取 的的估计值估计值使概率使概率L()达到最大值，即达到最大值，即

10、称为参数称为参数 的极大似然估计值。的极大似然估计值。称为参数称为参数 的极大似然估计量。的极大似然估计量。为似然函数，若有为似然函数，若有使使称称为为 的极大似然估计值，。的极大似然估计值，。3.3.求极大似然估计量的步骤求极大似然估计量的步骤（X为离散型）为离散型）（X为连续型）为连续型）极大极大似然估计法也适用于分布中含有多个未知似然估计法也适用于分布中含有多个未知参数的情况参数的情况.此时只需令此时只需令对数似然方程组对数似然方程组对数似对数似然方程然方程 例例1 1 有一批产品，次品率为有一批产品，次品率为p，从中随机，从中随机抽抽取取100件产品，其中有件产品，其中有10件次品，试

11、估计件次品，试估计p的值的值 解解 若正品用若正品用“X=0”表示，次品用表示，次品用“X=1”表示，则总体表示，则总体X的概率分布为：的概率分布为：则似然函数为则似然函数为（p110例例7.7）解得，解得，易验证，易验证，是是lnL(p)的最大点，因此，的最大点，因此，p的极的极大似然估计值为大似然估计值为取对数得，取对数得，对对 p 求导，并令其等于零，得求导，并令其等于零，得时有时较繁琐时有时较繁琐.一解时一解时，我们就简单地把这组解作为参数的极，我们就简单地把这组解作为参数的极似然方程组或（似然对数方程组）的解似然方程组或（似然对数方程组）的解,只是似然函数的只是似然函数的驻点驻点，还

12、不一定是，还不一定是最大点最大点，即，即还不一定是极大似然估计值，需要验证，验证还不一定是极大似然估计值，需要验证，验证当似然方程组或（似然对数方程组）有当似然方程组或（似然对数方程组）有唯唯大似然估计值，而大似然估计值，而不再验证。不再验证。说明说明解解例例2 2这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的.令令解解似然函数为似然函数为例例3 3令令即即与相应的矩与相应的矩估计量相同估计量相同思考：如思考：如 已知，方差的极大似然估计为？已知，方差的极大似然估计为？例例4 4 设设 X Ua,b，求求 a,b 的极大似然估计的极大似然估计.解解 X的概率密度为的概率密度为似然函数

13、为似然函数为 似然函数在其不为零处不存在驻点，不能通似然函数在其不为零处不存在驻点，不能通过解似然方程组得到参数的极大似然估计过解似然方程组得到参数的极大似然估计记记似然函数为似然函数为a,b的极大似然估计值分别为的极大似然估计值分别为a,b的极大似然估计量分别为的极大似然估计量分别为与相应的矩与相应的矩估计量不同估计量不同解：解：似然函数为似然函数为例例5 设设 X1,X2,Xn 是抽自总体是抽自总体 X 的一个样本，的一个样本，X 有如下概率密度函数有如下概率密度函数其中其中 0为未知常数为未知常数，求，求 的极大似然估计。的极大似然估计。求导并令其导数等于零，得求导并令其导数等于零，得解

14、上述方程，得解上述方程，得当当 时，时，例例6 设总体设总体X的分布律为的分布律为1 2 3Xp其中其中 (0 1)为未知参数为未知参数.利用样本值利用样本值1，2，1，求求 的矩估计值和极大似然估计值的矩估计值和极大似然估计值.解解:（1）先求矩估计）先求矩估计所以所以 的矩估计值为的矩估计值为（2）求）求极大极大似然估计似然估计似然函数为似然函数为令令练习练习:总体总体XB(m,p),p未知，未知，是是样本样本,求求参数参数p的矩估计量与的矩估计量与极大极大似然估计量似然估计量.解解（1）矩估计量）矩估计量（2）极大极大似然估计似然估计X的分布律为的分布律为设设是样本值，是样本值，似然函数为似然函数为令令p的的极大极大似然估计量为似然估计量为求求指数分布中参数的矩估计与极大似然估计指数分布中参数的矩估计与极大似然估计.