概率统计和随机过程课件第八章 参数估计优秀PPT.ppt
概率统计和随机过程课件第八章 参数估计你现在浏览的是第一页，共34页参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估区间估 计计统计统计推断推断 的的基本基本问题问题2你现在浏览的是第二页，共34页什么是参数估计？什么是参数估计？参数参数是刻画总体某方面的概率特性的数量是刻画总体某方面的概率特性的数量.当这个数量是未知的时候，从总体抽出一个当这个数量是未知的时候，从总体抽出一个样本，用某种方法对这个未知参数进行估计样本，用某种方法对这个未知参数进行估计就是就是参数估计参数估计.例如，例如，X N(,2),点估计点估计区间估计区间估计若若,2未知，通过构造样本的函数未知，通过构造样本的函数,给出它给出它们的估计值或取值范围就是参数估计的内容们的估计值或取值范围就是参数估计的内容.3你现在浏览的是第三页，共34页参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计 估计未知参数的取值范围，估计未知参数的取值范围，使得这个范围包含未知参数使得这个范围包含未知参数 真值的概率为给定的值真值的概率为给定的值.4你现在浏览的是第四页，共34页一、点估计的思想方法一、点估计的思想方法设总体X 的分布函数的形式已知，但它含有一个或多个未知参数：1,2,k设 X1,X2,Xn为总体的一个样本构造 k 个统计量：随机变量第一节第一节 参数的点估计参数的点估计5你现在浏览的是第五页，共34页当测得一组样本值(x1,x2,xn)时，代入上述统计量，即可得到 k 个数：数值称数为未知参数的估计值估计值问题问题如何构造统计量？对应的统计量为未知参数的估计量估计量6你现在浏览的是第六页，共34页1、矩方法；（矩估计矩估计）2、极大似然函数法（极大似然估计极大似然估计）.二二.点估计的方法点估计的方法 1.矩方法矩方法方法方法用样本的样本的 k 阶矩作为总体的阶矩作为总体的 k 阶矩阶矩的 估计量,建立含待估计参数的方程建立含待估计参数的方程，从而可解出待估计参数7你现在浏览的是第七页，共34页一般地，不论总体服从什么分布，总体期望 与方差 2 存在，则根据矩估计法它们的矩估计量矩估计量分别为注注:矩估计不唯一矩估计不唯一8你现在浏览的是第八页，共34页事实上，按矩法原理，令9你现在浏览的是第九页，共34页设待估计的参数为设总体的总体的 r 阶矩阶矩存在，记为设 X1,X2,Xn为一样本，样本的样本的 r 阶矩阶矩为令 含未知参数 1,2,k 的方程组10你现在浏览的是第十页，共34页解方程组，得 k 个统计量：未知参数1,2,k 的矩估计量矩估计量未知参数1,2,k 的矩估计值矩估计值代入一组样本值得k个数:11你现在浏览的是第十一页，共34页例例1 1 有一批零件，其长度有一批零件，其长度XNXN(,2 2)，现从中，现从中任取任取4 4件，测的长度件，测的长度(单位：单位：mm)mm)为为12.6,13.4,12.8,13.212.6,13.4,12.8,13.2。试估计。试估计 和和 2 2的值。的值。解：解：由由 得得 和和 2 2的估计值分别为的估计值分别为13(mm)13(mm)和和0.133(mm)0.133(mm)2 212你现在浏览的是第十二页，共34页例例2 2 设总体X的概率密度为 X1,X2,Xn为来自于总体X的样本,x1,x2,xn为样本值,求参数的矩估计。解：解：先求总体矩 13你现在浏览的是第十三页，共34页为的矩估计量,为的矩估计值.令 14你现在浏览的是第十四页，共34页例例3 3 设总体X的概率密度为求的矩估计量 解法一解法一 虽然 中仅含有一个参数，但因 不含,不能由此解出,需继续求总体的二阶原点矩15你现在浏览的是第十五页，共34页 解法二解法二 即 用替换即得的另一矩估计量为得的矩估计量为用替换即16你现在浏览的是第十六页，共34页你就会想,只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.先看一个简单的例子:某位同学与一位猎人一起外出打猎,一只野兔从前方窜过.只听到一声枪响,野兔应声倒下.如果要你推测,是谁打中的呢？你会如何想呢？这个例子所作的推断已经体现了极大似然法的基本思想.2 2、极大似然函数法、极大似然函数法17你现在浏览的是第十七页，共34页例例:设袋中装有许多白球和黑球。只知两种球的数目之比为3:1，试判断是白球多还是黑球多。分析分析:从袋中有放回的任取3只球.设每次取到黑球的概率为p(p=1/4或3/4)设取到黑球的数目为X,则X服从B(3,p)你现在浏览的是第十八页，共34页分别计算p=1/4,p=3/4时，PX=x的值，列于表结论结论:X X0 01 12 23 3p=1/4p=1/4时时27/6427/6427/6427/649/649/641/641/64p=3/4p=3/4时时1/641/649/649/6427/6427/64 27/6427/64你现在浏览的是第十九页，共34页 定定 义义1 1:(1)设 随 机 变 量 X的概率密度函数为f(x,),其 中为未知参数(f为已知函数).(2)若X是离散型随机变量，似然函数定义为称 为 X关于样本观察值 的似然函数似然函数。20的样本观察值,为样本你现在浏览的是第二十页，共34页 定义2 如果似然函数似然函数 在 时达到最大值时达到最大值,则称 是参数的极大似然估计极大似然估计。例例1 1 设总体X 服从参数为的指数分布，即有概率密度 又x1,x2,xn为来自于总体的样本值，试求的极大似然估计.21你现在浏览的是第二十一页，共34页解解：第一步 似然函数为于是 第二步第三步 经验证，在处达到最大，所以是的极大似然估计。令22你现在浏览的是第二十二页，共34页例例2 2：设X服从(01)分布，PX=1=p,其中p未知，x1,x2,xn为来自于总体的样本值求p的极大似然估计。解解:X01P1-pp得得(0(01)1)分布之分布律的另一种表达形式分布之分布律的另一种表达形式23你现在浏览的是第二十三页，共34页令令你现在浏览的是第二十四页，共34页例例3 3：设总体X服从参数为的泊松分布，即X有分布列(分布律)是未知参数，(0,+)，试求的极大似然估计。解：解：样本的似然函数为 25你现在浏览的是第二十五页，共34页 从可以解出 是的极大似然估计。因此因此26你现在浏览的是第二十六页，共34页其中为未知参数，若总体X的概率密度为：为样本观察值,此时似然函数为：求解方程组求解方程组 即可得到极大似然估计多参数情形的极大似然估计多参数情形的极大似然估计27你现在浏览的是第二十七页，共34页 数学上可以严格证明，在一定条件下，只要样本容量n足够大，极大似然估计和未知参数的真值可相差任意小。28你现在浏览的是第二十八页，共34页例例4 4：设 为正态总体 的一个样本值，求:和 的极大似然估计.解解 ：似然函数为29你现在浏览的是第二十九页，共34页 解方程组 得 这就是和的极大似然估计,即 30你现在浏览的是第三十页，共34页例例5 5 设X为离散型随机变量,其分布律如下(01/2)X X0 01 12 23 3P P 2 22(2(-2 2)2 21-21-2 随机抽样得3，1，3，0，3，1，2，3，分别用矩方法和极大似然法估计参数。解解：你现在浏览的是第三十一页，共34页例例6 6 设总体X的概率密度为又为来自于总体X的样本值,求参数的极大似然估计。解解：令 似然函数为:32你现在浏览的是第三十二页，共34页 当时,L()是的单调增函数,处达到最大值处达到最大值，所以的极大似然估计:L()在在33你现在浏览的是第三十三页，共34页 作 业习题八 1，2，3，434你现在浏览的是第三十四页，共34页
