概率论第十九讲极大似然估计法.ppt

《概率论第十九讲极大似然估计法.ppt》由会员分享，可在线阅读，更多相关《概率论第十九讲极大似然估计法.ppt（40页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、教学目的教学目的：1.讲解极大似然估计法；2.讲解评价估计量优劣的三个标准。教学内容教学内容：第六章，6.1-2；6.2。第十九讲 极大似然估计法、估计量优劣的标准 q 极大似然估计法极大似然估计法 思想方法思想方法：一次试验就出现的 事件有较大的概率 例如:有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.答答:第一箱.问问:所取的球来自哪一箱？例例6 6 设总体 X 服从0-1分布,且P(X=1)=p,用极大似然法求 p 的估计值.解解总体 X 的概率分布为 设 x1,x2,xn为总体样

2、本X1,X2,Xn的样本值,则对于不同的 p,L(p)不同,见右下图现经过一次试验，发生了，事件则 p 的取值应使这个事件发生的概率最大.在容许范围内选择 p，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大,则这个p 必使L(p)最大。所以为所求 p 的估计值.一般,设 X 为离散型随机变量,其分布律为则样本 X1,X2,Xn的概率分布为或称 L()为样本的似然函数称这样得到的 为参数 的极大似然估计值极大似然估计值称统计量为参数 的极大似然估计量极大似然估计量选择适当的=,使 取最大值,即L()极大似然法的思想简记简记若 X 连续,取 f(xi,

3、)为Xi 的密度函数似然函数为注注1 1注注2 2未知参数可以不止一个,如1,k 设X 的密度(或分布)为则定义似然函数为若关于1,k可微,则称为似然方程组若对于某组给定的样本值 x1,x2,xn，参数 使似然函数取得最大值,即则称为1,k 的极大似然估计值显然，称统计量为1,2,k 的极大似然估计量例例7 7 设总体 X N(,2),x1,x2,xn 是 X 的样本值,求,2 的极大似然估计.解解,2 的极大似然估计量分别为似然似然方程方程组为组为极大似然估计方法极大似然估计方法1）写出似然函数 L2）求出,使得可得未知参数的极大似然估计值然后,再求得极大似然估计量.L是 的可微函数,解似然

4、方程组若若 L不是 的可微函数,需用其它方法求极大似然估计值.请看下例：若若例例8 8 设 X U(a,b),x1,x2,xn 是 X 的一个样本值,求 a,b 的极大似然估计值与极大似然估计量.解解 X 的密度函数为似然函数为似然函数只有当 a xi b,i=1,2,n 时才能获得最大值,且 a 越大,b 越小,L 越大.令xmin=min x1,x2,xnxmax=max x1,x2,xn取则对满足的一切 a 1).(1)不是 D(X)的无偏估量;(2)是 D(X)的无偏估计量.证证 前已证证明因而故 证毕.例例3 3 设是总体 X 的一个样本,XB(n,p)n 1,求 p 2 的无偏估计

5、量.解解 由于样本矩是总体矩的无偏估计量以及数学期望的线性性质,只要将未知参数表示成总体矩的线性函数,然后用样本矩作为总体矩的估计量,这样得到的未知参数的估计量即为无偏估计量.令因此,p 2 的无偏估计量为故例例4 4 设总体 X 的密度函数为为常数为 X 的一个样本证明与都是 的无偏估计量证证 故是 的无偏估计量.令即故 n Z 是 的无偏估计量.都是总体参数 的无偏估计量,且则称 比 更有效.定义定义 设有效性有效性所以,比更有效.是 的无偏估计量,问哪个估计量更有效？由例4可知,与 都为常数例例5 5 设总体 X 的密度函数为解解 ，例例6 6 设总体 X，且 E(X)=,D(X)=2

6、为总体 X 的一个样本证明是 的无偏估计量(2)证明比更有效证证 (1)(1)设常数(2)结论结论算术均值比加权均值更有效.而例如 X N(,2),(X 1,X 2)是一样本.都是 的无偏估计量由例6(2)知最有效.定义定义 设 是总体参数 则称是总体参数 的一致(或相合)估计量.的估计量.若对于任意的 ,当n 时,一致性一致性依概率收敛于,即一致性估计量仅在样本容量 n 足够大时,才显示其优越性.一致一致关于一致性的两个常用结论关于一致性的两个常用结论 1.样本 k 阶矩是总体 k 阶矩的一致性估计量.是 的一致估计量.由大数定律证明由大数定律证明用切贝雪夫不用切贝雪夫不 等式证明等式证明矩法得到的估计量一般为一致估计量在一定条件下,极大似然估计具有一致性2.设 是 的无偏估计 量,且 ,则例例8 8为常数则 是 的无偏、有效、一致估计量.证证 由例7 知 是 的无偏、有效估计量.所以 是 的一致估计量,证毕.作业 P.192-193 习题六8 9 11习题习题