《概率统计教学资料》第6章参数点估计1-2节.ppt

《《概率统计教学资料》第6章参数点估计1-2节.ppt》由会员分享，可在线阅读，更多相关《《概率统计教学资料》第6章参数点估计1-2节.ppt（34页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第六章第六章第六章第六章 参数估计参数估计参数估计参数估计基本内容：一、参数的点估计:1.矩估计法 2.最大似然估计法二、判别估计量好坏的标准:无偏性；有效性；一致性 设总体设总体X的分布函数的分布函数F(x,)的形式已知，的形式已知，是是待估的待估的未知参数，未知参数，设设X1,X2,Xn是来自总体是来自总体X的的样本样本,选择一个合适的选择一个合适的统计量统计量 ，当有了一个样本值当有了一个样本值 x1,x2,xn时时，将样本值代入得将样本值代入得到这一统计量的一个观察值到这一统计量的一个观察值以此作为以此作为的估计。的估计。参数点估计参数点估计:注：注：点估计常用方法：矩估计矩估计和最大

2、似然估计法最大似然估计法.参数的点估计参数的点估计故可用样本矩来估计总体矩。故可用样本矩来估计总体矩。这个估计方法是英国统计学家这个估计方法是英国统计学家K.皮皮尔逊尔逊最早提出的最早提出的 基本原理：基本原理：总体矩是反映总体分布的最简单的总体矩是反映总体分布的最简单的数字特征，数字特征，当总体含有待估计参数时，当总体含有待估计参数时，总体矩是总体矩是待估计参数的函数。待估计参数的函数。样本取自总体，样本取自总体，即样本矩在一定程度上可以逼近总体矩，即样本矩在一定程度上可以逼近总体矩，一、一、矩估计法矩估计法其中其中是待估参数是待估参数为来自为来自的样本的样本,存在存在,设总体的前设总体的前

3、k阶矩阶矩则样本的则样本的l阶矩阶矩(大数定律大数定律)令令从中解得从中解得k个方程组个方程组即为即为矩估计量矩估计量。矩估计量的观察值称为矩估计量的观察值称为矩估计值矩估计值。设总体设总体X的分布函数为的分布函数为 一般地,注注:总体均值与方差的矩估计量不因的总体分布而异总体均值与方差的矩估计量不因的总体分布而异.有几个未知参数就要列几个方程有几个未知参数就要列几个方程，就要计算总体的直到几阶原点矩就要计算总体的直到几阶原点矩.矩估计法步骤：矩估计法步骤：二、二、最大似然估计法最大似然估计法 最最大大似似然然估估计计法法是是在在总总体体的的分分布布类类型型已已知知的的条件下所使用的一种参数估

4、计方法条件下所使用的一种参数估计方法.它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的年提出的.GaussFisher然而，这个方法常归功于然而，这个方法常归功于英国统计学家费歇英国统计学家费歇.费歇费歇在在1922年重新发现了这一方法，年重新发现了这一方法，并首先研究了这种方法的一些性质并首先研究了这种方法的一些性质.基本思想基本思想:若事件若事件 发生了发生了,则认为事件则认为事件中出现的概率最大。中出现的概率最大。最大似然估计最大似然估计 就是在一次抽样中就是在一次抽样中,若得到观测值若得到观测值则选取则选取若一试验有若一试验有n个可能结果个可能结果现做一试验现做一试

5、验,在这在这n个可能结果个可能结果作为作为 的估计值的估计值，使得当使得当时时,样本出现的概率最大样本出现的概率最大。极大似然估计法：极大似然估计法：（1）X-离散型，离散型，已知已知 X的分布的分布样本样本 取到观测值取到观测值事件事件A独立独立Xi与与X 同分布同分布对给定对给定的的样样本本值值是参数是参数 的函数，称为的函数，称为似然函数似然函数，记做，记做改改结构：结构：n 项连乘，总体分布项连乘，总体分布A已经发生，由极大已经发生，由极大似然原理，似然原理，达到最大，所以达到最大，所以 的最合理的最合理估计值估计值 应满足：应满足：定义定义 对给定的样本值对给定的样本值 ，若，若如何

6、求如何求？即求？即求 的最大值点问题的最大值点问题方法一方法一:若若 为可导函数为可导函数回忆：回忆：(1)单调性相同，从而最大值单调性相同，从而最大值点相同点相同.n项连乘项连乘,求导麻烦求导麻烦n项项相加，求导简单相加，求导简单方法二：方法二：从而，从而，对数似然函数对数似然函数（2）连续型总体似然函数的求法）连续型总体似然函数的求法设设X为连续型总体，其概率密度为：为连续型总体，其概率密度为：对来自总体的样本对来自总体的样本 ，其观测值为其观测值为 ，作为与总体，作为与总体X同分布且相互独立的同分布且相互独立的n维随机变量，维随机变量，样本样本的的联合概率密度为联合概率密度为:其中其中

7、未知未知于是，样本于是，样本 落入点落入点邻域内的概率近似为邻域内的概率近似为 ，由最大似然原，由最大似然原理，最合理的理，最合理的 的估计值的估计值 应该是使应该是使达到最大，由于达到最大，由于 是不依赖于是不依赖于的增量，所以我们只需求使的增量，所以我们只需求使似然函数似然函数达到最大达到最大求最大似然估计的一般步骤为：求最大似然估计的一般步骤为：(1)求似然函数 ；(3)建立似然方程（对对数似然函数求导数，并令为（对对数似然函数求导数，并令为0）解似然方程得到最大似然估计值 进而得到最大似然估计量 三、三、衡量估计量好坏的标准衡量估计量好坏的标准的点估计量的点估计量 一般是不唯一的一般是

8、不唯一的,如何选择好的如何选择好的?首先我们要对估计量提出衡量其好坏的标准首先我们要对估计量提出衡量其好坏的标准.标准标准:无偏性无偏性,有效性有效性,一致性一致性1、无偏性、无偏性即即 取值在真值取值在真值 附近来回摆动附近来回摆动证明证明:(1)1 D(1)0,1,1.1.设 X 的分布函数为 X1,X2,Xn 是总体 的样本,解解:当 =1时,X 的概率密度为 令样本均值代替总体均值 解得 的矩估计量为 即解解(2)=2 时时,由于L()关于 的单调增函数,且注意到 须满足故 的极大似然估计量为 (2)(2)求求求求 =2=2 时时时时,未知参数未知参数未知参数未知参数 的极大似然估计量的极大似然估计量的极大似然估计量的极大似然估计量.作似然函数 0,若取得样本值x1,x2,xn,试求(1)期望 E(|X|)和 E(|X2|)；解解:(1)由期望定义得(2)似然函数为取对数两边对求导由此解得的最大似然估计值为