参数点估计.ppt

《参数点估计.ppt》由会员分享，可在线阅读，更多相关《参数点估计.ppt（23页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第第 七七 章章参参 数数 估估 计计了正态总体样本均值与样本方差的分布定理了正态总体样本均值与样本方差的分布定理.它们是学习它们是学习 前面我们介绍了总体、样本、简单随机样本、统计量前面我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的三大分布，给出和抽样分布的概念，介绍了统计中常用的三大分布，给出统计推断的基础统计推断的基础.进行统计推断的一般步骤为进行统计推断的一般步骤为:总体总体随机抽样随机抽样样本样本统计量统计量作出推断作出推断 统计推断的基本问题统计推断的基本问题 参数估计问题参数估计问题 假设检验问题假设检验问题 参数的点估计参数的点估计 参数的区间估

2、计参数的区间估计 参数假设检验参数假设检验 非参数假设检验非参数假设检验 参数估计问题是利用从总体抽样得到的信息来估计总体参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数的某些参数或者参数的某些函数.如如:估计新生儿的体重估计新生儿的体重;估计产品的废品率估计产品的废品率;估计湖中鱼的数量估计湖中鱼的数量;估计降雨量等等估计降雨量等等.在参数估计问题中，假定总体分布形式已知，未知的在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数仅仅是一个或几个参数.参数估计问题的一般提法参数估计问题的一般提法:设总体的分布函数为设总体的分布函数为其中其中是未知参数

3、是未知参数(可以是向量可以是向量).现从该总体抽样，得样本现从该总体抽样，得样本(X1,X2,Xn),要依据该样本对参数要依据该样本对参数或或的某个已知函数的某个已知函数作出估计作出估计.我们要估计某班男生的平均身高我们要估计某班男生的平均身高.假定身高服从正态分布假定身高服从正态分布现从该总体选取容量为现从该总体选取容量为 5 的样本，我们的的样本，我们的设这设这5个数个数(即样本值即样本值)是是:估计估计 1.65,1.67,1.68,1.78,1.69;比如比如:任务是要根据选出的样本任务是要根据选出的样本(5个数个数)求出总体均值求出总体均值 的估计的估计.为为1.68，这是这是点估计

4、点估计.估计估计在区间在区间 1.57,1.84 内，内，这是这是区间估计区间估计.参数估计分点估计与区间估计参数估计分点估计与区间估计.设总体设总体 X 的分布中含未知参数的分布中含未知参数 1 参数的点估计参数的点估计(X1,X2,Xn)是一样本是一样本,要构造一统计量要构造一统计量 作为作为 的估计的估计(叫做叫做 的点估计量的点估计量);对应样本值对应样本值(x1,x2,xn),可作为可作为 的估计值，的估计值，构造点估计的常用方法构造点估计的常用方法矩估计法矩估计法(moment method of estimation)最最(极极)大似然估计法大似然估计法(method of ma

5、ximum likelihood)叫做叫做 的点估计值的点估计值.其基本思想是其基本思想是用样本矩估计总体矩用样本矩估计总体矩.由英国统计学家由英国统计学家 K.皮尔逊皮尔逊 最早提出最早提出.它是基于一种简单的它是基于一种简单的“替换替换”思想建立起来的估计方法思想建立起来的估计方法.一、一、矩估计法矩估计法理论依据是大数定律理论依据是大数定律.矩估计法矩估计法:用样本矩用样本矩作为总体矩作为总体矩的估计的估计,去求出未知参数的估计量的方法去求出未知参数的估计量的方法.(若未知参数有若未知参数有 k 个个,则则 l=1,k)由矩估计法求得的估计量叫由矩估计法求得的估计量叫矩估计量矩估计量,相

6、应的估计值叫相应的估计值叫矩估计值矩估计值.的矩估计量可记作的矩估计量可记作 解解:解得解得 总体矩用相应的样本矩代替总体矩用相应的样本矩代替,得矩估计量得矩估计量:例例:设设(X1,X2,Xn)为总体为总体 X 的一样本的一样本,求总体均求总体均值值 和总体方差和总体方差 的矩估计量的矩估计量.解解:解得解得 总体矩用相应的样本矩代替总体矩用相应的样本矩代替,得得 a 与与 b 的矩估计量的矩估计量:例例:设总体设总体 X U(a,b),(X1,X2,Xn)为一样本为一样本,求求 a,b 的矩估计量的矩估计量.例例:设设(X1,X2,Xn)为总体为总体 X 的一样本的一样本,X 的概率密的概

7、率密度度求求 的矩估计量的矩估计量.解解:解得解得 总体矩用相应的样本矩代替总体矩用相应的样本矩代替,得矩估计量得矩估计量:缺点是，当总体类型已知时，没有充分利用分布提供缺点是，当总体类型已知时，没有充分利用分布提供 的的信息信息.一般场合下一般场合下,矩估计量不具有唯一性矩估计量不具有唯一性.矩估计法的优点是简单易行矩估计法的优点是简单易行,并不需要事先知道总体并不需要事先知道总体 是什么分布是什么分布.其主要原因在于建立方程时，选取那些总体矩用相应其主要原因在于建立方程时，选取那些总体矩用相应 样本矩代替带有一定的随意性样本矩代替带有一定的随意性.其基本思想是其基本思想是概率最大的事件最可

8、能发生概率最大的事件最可能发生.它首先是由德国数学家高斯在它首先是由德国数学家高斯在1821年提出的年提出的;英国统计学家英国统计学家费歇在费歇在1922年重新发现了这一方法，并首先研究了这种方法年重新发现了这一方法，并首先研究了这种方法的一些性质的一些性质.是在总体类型已知的条件下使用的一种参数估计方法是在总体类型已知的条件下使用的一种参数估计方法.二、二、最大似然估计法最大似然估计法例如例如:某位同学与一位猎人一起外出打猎某位同学与一位猎人一起外出打猎.一只野兔从前方窜过一只野兔从前方窜过.只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下.是谁打中的呢？是谁打中的呢？你很自然地想到你很

9、自然地想到:只发一枪便打中只发一枪便打中,猎人命中的概率一般猎人命中的概率一般大于这位同学命中的概率大于这位同学命中的概率.这一枪应该是猎人射中的这一枪应该是猎人射中的.最大似然估计原理：最大似然估计原理：设总体设总体 X 为为连续型连续型,其概率密度为其概率密度为(是待估参数是待估参数),),(X1,X2,Xn)为一样本为一样本,相应的样本值为相应的样本值为(x1,x2,xn),则则 Xi 落在落在 xi,xi+d xi)中的概率约为中的概率约为(X1,X2,Xn)落在落在(x1,x2,xn)的邻域中的概率近的邻域中的概率近似为似为 其取值随其取值随 的变化而变化的变化而变化;求求 使这一概

10、率达到最大使这一概率达到最大,我们可取我们可取 作为作为的估计的估计;即求即求 使使 若引入样本的若引入样本的似然函数似然函数 如此求出的如此求出的 作为作为的估计的估计,叫叫 的最大似然估计的最大似然估计,可记作可记作 .求求 时时,并令其为并令其为 0,来获取结果来获取结果.若总体若总体 X 为为离散型离散型,则则中的中的 以以 代代.则求则求 使使通常对通常对 求导求导例例:设设(x1,x2,xn)为取自正态总体为取自正态总体 的一样本值的一样本值,求总体均值求总体均值 和总体方差和总体方差 最大似然估计最大似然估计.解解:X 的概率密度的概率密度似然函数似然函数两边取对数得两边取对数得

11、续解续解:分别对分别对求导并令其为求导并令其为 0 得得解解:以以 X 表示一轮射击所需次数表示一轮射击所需次数,例例:接连地对同一目标进行独立射击接连地对同一目标进行独立射击,直到命中为止直到命中为止,假设假设共进行了共进行了n 轮这样的射击轮这样的射击,各轮所需射击次数分别为各轮所需射击次数分别为k1,kn,求求命中率命中率 p 的最大似然估计的最大似然估计.则则 X 的分布律为的分布律为(X1,X2,Xn)为一样本为一样本,相应的样本值为相应的样本值为(k1,k2,kn),似然函数似然函数两边取对数得两边取对数得续解续解:对对 p求导并令其为求导并令其为 0 得得有时用求导方法无法最终确

12、定未知参数的最大似然估计有时用求导方法无法最终确定未知参数的最大似然估计,此时用最大似然原则来求此时用最大似然原则来求.解解:例例:设总体设总体 X U a,b,(x1,x2,xn)为一样本为一样本值值,求求 a,b 的最大似然估计的最大似然估计.X 的概率密度的概率密度似然函数似然函数利用求导方法无法确定未知参数的最大似然估计利用求导方法无法确定未知参数的最大似然估计,由由 L(a,b)的表达式知的表达式知:若若 b a 取最小取最小,则则 L(a,b)达到最大达到最大,故得故得 求估计量的方法很多求估计量的方法很多,用不同的方法求出的估计量会用不同的方法求出的估计量会不一样不一样.我们希望

13、用较好的估计量去估计未知参数我们希望用较好的估计量去估计未知参数.因而因而有必要讨论如何评价一个估计量的好坏有必要讨论如何评价一个估计量的好坏.3 估计量的评选标准估计量的评选标准常用的几条标准是：常用的几条标准是：无偏性无偏性,有效性有效性,相合性相合性 估计量是随机变量，估计量是随机变量，其取值随样本值的不同而不同其取值随样本值的不同而不同.我我 们希望估计量的取值集中在未知参数真值附近们希望估计量的取值集中在未知参数真值附近,即它的期望即它的期望 值等于未知参数的真值值等于未知参数的真值.这就导致这就导致无偏性无偏性这个标准这个标准.同样是无偏估计量同样是无偏估计量,有的取值较集中有的取

14、值较集中,有的取值较分散有的取值较分散.自然是自然是:取值越集中的越好取值越集中的越好.这就导致这就导致有效性有效性这个标准这个标准.估计量与样本容量有关估计量与样本容量有关,我们希望估计量的取值随样本我们希望估计量的取值随样本 容量的增大稳定在未知参数真值容量的增大稳定在未知参数真值.这就导致这就导致相合性相合性这个标准这个标准.无偏性无偏性:若若 ,则称则称 是是的无偏估计的无偏估计.有效性有效性:且且 ,若若 及及 都是都是 的无偏估计的无偏估计,则称则称 较较 有效有效.相合性相合性:若对若对有有叫叫依概率收敛于依概率收敛于记作记作则称则称 是是的相合估计的相合估计.设总体设总体 X

15、的均值为的均值为因因方差为方差为(X1,X2,Xn)是是它的一个样本它的一个样本,为样本均值为样本均值,为样本方差为样本方差,表明表明:样本均值样本均值是总体均值是总体均值的无偏估计的无偏估计.样本方差样本方差是总体方差是总体方差的无偏估计的无偏估计.注注:不是不是 的无偏估计的无偏估计,它们也是它们也是相合估计相合估计例例:设总体设总体 ,(X1,X2,X3)为一样本为一样本,验验证证都是都是 的无偏估计的无偏估计,并分析哪个更好并分析哪个更好?解解:X1,X2,X3 独立与独立与 X 同分布同分布,故故 同理得同理得 所以所以 d1,d2 都是都是的无偏估计的无偏估计.例例:设总体设总体 ,(X1,X2,X3)为一样本为一样本,验验证证都是都是 的无偏估计的无偏估计,并分析哪个更好并分析哪个更好?续解续解:同理得同理得 所以所以 d1 比比 d2 有效有效,d1 更好更好.