概率论与数理统计统计推断与参数估计.ppt

《概率论与数理统计统计推断与参数估计.ppt》由会员分享，可在线阅读，更多相关《概率论与数理统计统计推断与参数估计.ppt（56页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、样样本本总体总体样本统计量样本统计量样本统计量样本统计量样本统计量样本统计量如：样本均值、如：样本均值、如：样本均值、比率、方差比率、方差比率、方差总体均值、比总体均值、比率、方差等率、方差等概率论与数理统计概率论与数理统计是来自总体是来自总体是来自总体是来自总体设设设设的样本的样本的样本的样本,令令令令 称称称称 服从服从服从服从自由度自由度自由度自由度为为为为 的的的的 分布分布分布分布，记为，记为，记为，记为概率论与数理统计概率论与数理统计的上侧分位点记为的上侧分位点记为的上侧分位点记为的上侧分位点记为Review且且且且设设设设相互独立相互独立相互独立相互独立,令令令令 称称称称 服从

2、服从服从服从自由度自由度自由度自由度为为为为 的的的的 分布分布分布分布，记为，记为，记为，记为概率论与数理统计概率论与数理统计的上侧分位点记为的上侧分位点记为的上侧分位点记为的上侧分位点记为的双侧分位点记为的双侧分位点记为的双侧分位点记为的双侧分位点记为Review且且且且设设设设相互独立相互独立相互独立相互独立,令令令令 称称称称 服从服从服从服从自由度自由度自由度自由度为为为为 的的的的 分布分布分布分布，记为，记为，记为，记为 的上侧分位点记为的上侧分位点记为的上侧分位点记为的上侧分位点记为Review概率论与数理统计概率论与数理统计Review概率论与数理统计概率论与数理统计概率论与

3、数理统计概率论与数理统计设总体设总体设总体设总体 的均值和方差的均值和方差的均值和方差的均值和方差是来自总体是来自总体是来自总体是来自总体 的样本，则的样本，则的样本，则的样本，则都存在都存在都存在都存在.概率论与数理统计概率论与数理统计Review概率论与数理统计概率论与数理统计Review概率论与数理统计概率论与数理统计Review概率论与数理统计概率论与数理统计Review1.估计量估计量：用于估计总体参数的统计量统计量2.参数用 表示，估计量用 表示3.估估计计值值：估计参数时计算出来的统计量的具体值如果样本均值 X=80，则80就是的估计值概率论与数理统计概率论与数理统计Review

4、u1.无偏性无偏性(unbiasedness)设为总体未知参数的估计量设为总体未知参数的估计量若若 则称是的无偏估计量，称具有无偏性。否则，则称是的无偏估计量，称具有无偏性。否则，是有偏估计量是有偏估计量.概率论与数理统计概率论与数理统计无偏性是对估计量的一个常见而重要的要求无偏性是对估计量的一个常见而重要的要求.u注注:是是的的无偏估计量无偏估计量是是2 2的无偏估计量的无偏估计量概率论与数理统计概率论与数理统计Reviewu2有效性有效性 若若都是都是的无偏估计量且的无偏估计量且 或或 则称则称较较为有效估计量。为有效估计量。两个以上的两个以上的无偏估计量无偏估计量具有最小方差具有最小方差

5、最佳无偏估计量最佳无偏估计量概率论与数理统计概率论与数理统计Reviewu3相合性（相合性（consistency）如果对任意小的正数，有如果对任意小的正数，有则称则称是是的一致估计量，称的一致估计量，称具有一致性，可以证明具有一致性，可以证明均具有一致性。均具有一致性。概率论与数理统计概率论与数理统计Review 由于估计量是样本的函数由于估计量是样本的函数,是统计量是统计量,故对故对不同的样本值不同的样本值,得到的参数值往往不同得到的参数值往往不同,求估计求估计量的问题是关键问题量的问题是关键问题.估计量的求法估计量的求法:(两种两种)矩估计法、矩估计法、最大似然估计法最大似然估计法.概率

6、论与数理统计概率论与数理统计1、矩估计法矩估计法 它是基于一种简单的它是基于一种简单的“替换替换”思想建立起来的一种古老的思想建立起来的一种古老的估计方法估计方法.其其基本思想基本思想是是用样本的指标替代总体的指标用样本的指标替代总体的指标用样本矩估计总体矩用样本矩估计总体矩.是英国统计学家是英国统计学家K.皮尔逊最早提出的皮尔逊最早提出的.理论依据理论依据:大数定律大数定律概率论与数理统计概率论与数理统计 用样本矩来估计总体矩用样本矩来估计总体矩,用样本矩的连续函数用样本矩的连续函数来估计总体矩的连续函数来估计总体矩的连续函数,从而得出参数估计，从而得出参数估计，这种估计法称为这种估计法称为

7、矩估计法矩估计法.记总体记总体k阶中心矩为阶中心矩为样本样本k阶中心矩为阶中心矩为概率论与数理统计概率论与数理统计设设 X1,X2,Xn 来自总体来自总体X的样本的样本总体总体k阶矩为阶矩为样本样本k阶矩为阶矩为解解:由矩法由矩法,样本矩样本矩总体矩总体矩从中解得从中解得的矩估计的矩估计.即为即为 例例1 设总体设总体X的概率密度为的概率密度为是未知参数是未知参数,其中其中X1,X2,Xn是取自是取自X的样本的样本,求参数求参数 的矩估计的矩估计.概率论与数理统计概率论与数理统计解解解方程组得到矩估计量分别为解方程组得到矩估计量分别为例例例例2 2 2 2概率论与数理统计概率论与数理统计上例表

8、明上例表明:总体均值与方差的矩估计量的表达式，不因总体均值与方差的矩估计量的表达式，不因不同的总体分布而异不同的总体分布而异.概率论与数理统计概率论与数理统计 矩法的优点是简单易行矩法的优点是简单易行.缺点是，当总体类型已知时，没有缺点是，当总体类型已知时，没有 充分利用分布提供的信息充分利用分布提供的信息.一般场合下一般场合下,矩估计量不具有唯一性矩估计量不具有唯一性.概率论与数理统计概率论与数理统计2、最大似然估计法最大似然估计法(MLE)最最大大似似然然法法是是在在总总体体类类型型已已知知条条件件下下使使用用的一种参数估计方法的一种参数估计方法.它首先是由德国数学家它首先是由德国数学家高

9、斯在高斯在1821年提出的年提出的,然而，然而，GaussFisher这个方法常归功于英国统这个方法常归功于英国统计学家费歇计学家费歇.费歇在费歇在1922年重新发现了年重新发现了 这一方法，并首先研究了这这一方法，并首先研究了这 种方法的一些性质种方法的一些性质.概率论与数理统计概率论与数理统计是谁打中的呢？是谁打中的呢？如果要你推测，如果要你推测，你会如何想呢你会如何想呢?先看一个简单例子：先看一个简单例子：一只野兔从前方窜过一只野兔从前方窜过.某位同学与一位猎人一某位同学与一位猎人一起外出打猎起外出打猎.只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下.概率论与数理统计概率论与数理统

10、计v有两外形相同的箱子有两外形相同的箱子,各装各装100100个球个球 1 1箱箱 99 99个白球个白球 1 1 个红球个红球 2 2箱箱 1 1 个白球个白球 99 99个红球个红球现从两箱中任取一箱现从两箱中任取一箱,并从箱中任取一球并从箱中任取一球,结果所取得的球是白球结果所取得的球是白球.概率论与数理统计概率论与数理统计问问:所取的球来自哪一箱？所取的球来自哪一箱？v又如当机器发生故障，有经验的修理工首先总从易又如当机器发生故障，有经验的修理工首先总从易损部件、薄弱环节查起，为什么呢？损部件、薄弱环节查起，为什么呢？v公安人员在贞破凶杀案时，首先把与被害者密切来公安人员在贞破凶杀案时

11、，首先把与被害者密切来往又有作案可能性的人列为重点嫌疑对象往又有作案可能性的人列为重点嫌疑对象.概率论与数理统计概率论与数理统计 思想方法思想方法：在试验中概率最大的事件最有可能在试验中概率最大的事件最有可能出现。出现。最大似然原理的直观思想是最大似然原理的直观思想是：在试验中概率最大：在试验中概率最大的事件最有可能出现。因此，一个试验如有若干的事件最有可能出现。因此，一个试验如有若干个可能的结果个可能的结果A,B,若在一次试验中结果若在一次试验中结果A出现，出现，一般认为一般认为A出现的概率最大出现的概率最大概率论与数理统计概率论与数理统计似然函数实质上似然函数实质上是是样本的联合分布律样本

12、的联合分布律于是定义下面的似然函数于是定义下面的似然函数概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计（1）求似然函数求似然函数（2）一般地，求出一般地，求出及似然方程及似然方程 （3）解似然方程得到最大似然估计值解似然方程得到最大似然估计值 （4）最后得到最大似然估计量最后得到最大似然估计量 概率论与数理统计概率论与数理统计解解似然函数似然函数例例3 3概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计似然函数为解解解解概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计令令得得的最大似然估计值为的最大似然估计值为故故的最大似然估计量为的最大似然估

13、计量为概率论与数理统计概率论与数理统计解：似然函数为解：似然函数为对数似然函数为对数似然函数为例例5 设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本求的极大似然估计求的极大似然估计.其中其中 0,概率论与数理统计概率论与数理统计求导并令其为求导并令其为0=0从中解得从中解得对数似然函数为对数似然函数为故故的最大似然估计量为的最大似然估计量为概率论与数理统计概率论与数理统计解解似然函数为似然函数为例例例例6 6 6 6概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计它们与相应的矩它们与相应的矩估计量相同估计量相同.概率论与数理统计概率论与数理统计设设 是是 的极大

14、似然估计值的极大似然估计值,u()是 的函数函数,且有单值反函数且有单值反函数 =(u),u U 则则 是是 u()的极大似然估计值的极大似然估计值.不变性不变性概率论与数理统计概率论与数理统计如如 在正态总体N(,2)中,2的极大似然估计值为是 2的单值函数,且具有单值反函数，故 的极大似然估计值为lg 的极大似然估计值为概率论与数理统计概率论与数理统计两种求点估计的方法两种求点估计的方法:矩估计法矩估计法最大似然估计法最大似然估计法 在统计问题中，往往主要使用最大似然估计法在统计问题中，往往主要使用最大似然估计法.概率论与数理统计概率论与数理统计最大似然法估计结果大多具有无偏性、有效性最大

15、似然法估计结果大多具有无偏性、有效性或相合性等优良的估计量性质。或相合性等优良的估计量性质。定义：定义：设总体X的分布函数F(x；)含有未知参数，对于给定值（0 1),若由样本X1,Xn确定的两个统计量两个统计量 使则称随机区间 为的置信度为1的的双双侧侧置信区间置信区间概率论与数理统计概率论与数理统计参数真实值参数真实值参数真实值参数真实值置信区间置信区间置信区间置信区间置信下限置信下限置信下限置信下限置信上限置信上限置信上限置信上限v由样本统计量所构造的总体参数的估计区间称为置信区间v统计学家在某种程度上确信这个区间会包含真正的总体参数，所以给它取名为置信区间 v用一个具体的样本所构造的区

16、间是一个特定的区间，我们无法知道这个样本所产生的区间是否包含总体参数的真值我们只能是希望这个区间是大量包含总体参数真值的区间中的一个，但它也可能是少数几个不包含参数真值的区间中的一个概率论与数理统计概率论与数理统计例如例如概率论与数理统计概率论与数理统计 一旦有了样本，就把一旦有了样本，就把 估计在区间估计在区间内内.这里有两个要求这里有两个要求:对参数对参数 作区间估计，就是要设法找出作区间估计，就是要设法找出两个只依赖于样本的界限两个只依赖于样本的界限(构造统计量构造统计量)(X1,Xn)(X1,Xn)概率论与数理统计概率论与数理统计长度尽可能短长度尽可能短.2.估计的精度要尽可能的高估计

17、的精度要尽可能的高.如要求区间如要求区间内，就是说，概率内，就是说，概率 要尽可能大要尽可能大.1.要求要求 以很大的可能被包含在置信区间以很大的可能被包含在置信区间即要求估计尽量可靠即要求估计尽量可靠.可靠度与精度是一对矛盾，可靠度与精度是一对矛盾，一般是在保证可靠度的条件下一般是在保证可靠度的条件下尽可能提高精度尽可能提高精度.概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计2.求置信区间的一般步骤求置信区间的一般步骤(共共3步步)概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计例1设总体，为已知，未知,（X1,X2,Xn）为来自总体X 的一个样本，求的置信度为的置信区间解由于是的无偏估计，且有由正态分布表可查得，使即有取，于是得到的置信度为的置信区间为