参数的最大似然估计.ppt

《参数的最大似然估计.ppt》由会员分享，可在线阅读，更多相关《参数的最大似然估计.ppt（24页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、5.2 5.2 最大似然估计最大似然估计 例例 作放回抽样作放回抽样,设一袋中装有设一袋中装有从中随机取一球从中随机取一球,令令取到红球取到红球取到白球取到白球是总体是总体.取球取球1010次次(每次一球每次一球)是取到红球的概率是取到红球的概率.第第 次取到红次取到红球球第第 次取到白次取到白球球现在要估计现在要估计红红、白两种球、白两种球,是来自总体是来自总体X X的的容量为容量为1010的样本的样本.取到红球取到红球取到白球取到白球是总体，是总体，现在要估计现在要估计作放回抽样作放回抽样,取球取球1010次次(每次一球每次一球)第第 次取到红球次取到红球第第 次取到白球次取到白球设已知设

2、已知1010次摸球的结果次摸球的结果得到样本值得到样本值1010次摸球次摸球得此样本值的概率为得此样本值的概率为是取到红球的概率是取到红球的概率.1010次摸球次摸球得到样本值得到样本值的概率为的概率为最大似然估计的思想是最大似然估计的思想是:一次抽样有许多可能结果一次抽样有许多可能结果,如果某一结果如果某一结果就认为这一结果就认为这一结果抽样中出抽样中出现了现了,是所有可能结果中是所有可能结果中概率最大的概率最大的一个一个.本例中本例中,一次抽样后一次抽样后,一次抽样有一次抽样有个结果个结果,.出现出现就认为得到此结果的概率就认为得到此结果的概率最大最大.即求即求即选择即选择使使 最大最大,

3、的的最大值点最大值点在一次在一次结果结果即求即求的的最大值点最大值点1010次摸球次摸球得到样本值得到样本值的概率的概率取取作为作为 的估计值的估计值.一次抽样后一次抽样后,出现结果出现结果的概率的概率最大最大.此时此时,为待估参数为待估参数 的函数的函数,称为称为似然函数似然函数.在在处达到最大值处达到最大值,称称为参数为参数 的的最大似然估计值最大似然估计值.为为其中其中是待估参数是待估参数.当一次抽样得观测值当一次抽样得观测值 得此观测值的概率为得此观测值的概率为:其分布率为其分布率为设设X X是是 取值为取值为 的概率的概率与与 有关有关,与参数与参数有关有关时时,记为记为为待估参数为

4、待估参数的函数的函数,称为称为似然函数似然函数.若若在在 处达到最大处达到最大值值,则称则称 最大最大似然似然估计值估计值,相应的估计量相应的估计量称为称为的的最大似然最大似然估计量估计量,统称为统称为的的最大似然最大似然估计估计.离散型随机变量离散型随机变量,为为的的其中其中是待估参数是待估参数,设其密度函数为设其密度函数为当当 是是记记为待估参数为待估参数的函数的函数,称为称为似然函数似然函数.若若在在 处达到最大处达到最大值值,则称则称 为参数为参数 的的最大最大似然似然最大最大似然估计值似然估计值,相应的估计量相应的估计量称为称为的的最大似然最大似然估计量估计量,统称为统称为的的估计估

5、计.连续型随机变量时连续型随机变量时,由于由于 是是的最大值点的最大值点,一般应满足条件一般应满足条件:从而满足条件从而满足条件求最大似然估计量求最大似然估计量1.1.写出似然函数写出似然函数X X是离散型随机变量是离散型随机变量X X是连续型随机变量是连续型随机变量当只有一个待估参数当只有一个待估参数时，时，2.2.写出似然方程写出似然方程3.3.求解似然方程求解似然方程得到驻点，得到驻点，并判断驻点是否为并判断驻点是否为最大值点最大值点.的步骤的步骤:几种常见分布的几种常见分布的最大似然估计量最大似然估计量1.01.01 1分布分布设总体设总体 为待估参数为待估参数.可统一表示为可统一表示

6、为设一抽样得观测值为设一抽样得观测值为 为似然函数为似然函数.似然估计值似然估计值,为为 的最大似然的最大似然为为 的最大的最大为似然函数为似然函数.估计量估计量.2.2.泊松分布泊松分布设总体设总体即即为待估参数为待估参数.设样本观测值为设样本观测值为 为似然函数为似然函数.为似然函数为似然函数.为为的最大似然估计值的最大似然估计值.为为的最大似然估计量的最大似然估计量.3.3.指数分布指数分布设总体设总体 服从指数分布服从指数分布为待估参数为待估参数.求参数求参数的最大似然估计的最大似然估计.设样本观测值为设样本观测值为 解解 可以认为可以认为为似然函数为似然函数.为似然函数为似然函数.为

7、为的最大似然估计值的最大似然估计值.为为的最大似然估计量的最大似然估计量.例例 设总体设总体的密度函数是的密度函数是其中参数其中参数求求的的解解 设样本观测值为设样本观测值为 可以认为可以认为似然函数为：似然函数为：最大似然估计最大似然估计.似然函数为：似然函数为：似然函数为似然函数为为为的最大似然估计值的最大似然估计值.为为的最大似然估计量的最大似然估计量.4.4.正态分布正态分布设总体设总体令令和和为待估参数为待估参数,求参数求参数和和服从正态分布服从正态分布的最大似然估计的最大似然估计.求参数求参数和和的最大似然估计的最大似然估计.设样本观测值为设样本观测值为 解解 似然函数为：似然函数为：令令求参数求参数和和的最大似然估计的最大似然估计.似然函数为似然函数为为为的最大似然估计值的最大似然估计值.似然函数为似然函数为为为的最大似然估计值的最大似然估计值.为为的最大似然估计值的最大似然估计值.代入（代入（2 2）式，）式，解得解得为为的最大似然估计值的最大似然估计值.为为的最大似然估计值的最大似然估计值.的最大似然估计量为的最大似然估计量为的最大似然估计量为的最大似然估计量为最大似然估计量最大似然估计量不一定是无偏估计量不一定是无偏估计量令令