概率论与数理统计 第七章.ppt

河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计统计推断的基本问题统计推断的基本问题统计推断的基本问题统计推断的基本问题 估计问题估计问题(ch7)估计问题可分为参数估计与非参数估计。估计问题可分为参数估计与非参数估计。本章只介绍关于总体参数的本章只介绍关于总体参数的本章只介绍关于总体参数的本章只介绍关于总体参数的点估计点估计点估计点估计与与与与区间估计区间估计区间估计区间估计。假设检验问题假设检验问题假设检验问题假设检验问题(ch8)(ch8)第七章第七章第七章第七章 参数估计参数估计参数估计参数估计河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计11、点估计、点估计一、点估计问题的提出一、点估计问题的提出一、点估计问题的提出一、点估计问题的提出 数理数理数理数理统计统计的基本任的基本任的基本任的基本任务务就是依据就是依据就是依据就是依据样样本推断本推断本推断本推断总总体特征体特征体特征体特征.刻画刻画刻画刻画总总体体体体X X X X的某些特征的常数称的某些特征的常数称的某些特征的常数称的某些特征的常数称为为参数参数参数参数,其中最常其中最常其中最常其中最常 用的参数是总体的数学期望和方差。例如用的参数是总体的数学期望和方差。例如用的参数是总体的数学期望和方差。例如用的参数是总体的数学期望和方差。例如,服从正态分服从正态分服从正态分服从正态分 布的总体布的总体布的总体布的总体X X X X就是由参数就是由参数就是由参数就是由参数=E(X),=E(X),=E(X),=E(X),2 2 2 2=D(X)=D(X)=D(X)=D(X)确定的。确定的。确定的。确定的。在在在在实际问题实际问题中中中中,常常常常已知总体已知总体已知总体已知总体X X X X的分布函数的形式的分布函数的形式的分布函数的形式的分布函数的形式,而而而而 未知总体未知总体未知总体未知总体X X X X的一个或多个参数的一个或多个参数的一个或多个参数的一个或多个参数。根据根据根据根据样样本提供的信息本提供的信息本提供的信息本提供的信息对总对总体体体体X X X X的未知参数作出估的未知参数作出估的未知参数作出估的未知参数作出估计计 ，这类问题称为，这类问题称为，这类问题称为，这类问题称为参数估计参数估计参数估计参数估计问题。问题。问题。问题。河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 参数估参数估参数估参数估计计通常有两种方法通常有两种方法通常有两种方法通常有两种方法:点估计点估计点估计点估计和和和和区间估计区间估计区间估计区间估计。一、点估计提法一、点估计提法一、点估计提法一、点估计提法 点估计问题提法点估计问题提法点估计问题提法点估计问题提法:设设已知已知已知已知总总体体体体X X X X的分布函数的分布函数的分布函数的分布函数F(x;F(x;F(x;F(x;)的形式的形式的形式的形式,(参数空间参数空间参数空间参数空间)为需要估计的参数。为需要估计的参数。为需要估计的参数。为需要估计的参数。是来自是来自是来自是来自总总体体体体X X X X的一个的一个的一个的一个样样本本本本,是其是其是其是其样样本本本本值值.根据待估参数的根据待估参数的根据待估参数的根据待估参数的特征特征特征特征构造一个适当的统计量构造一个适当的统计量构造一个适当的统计量构造一个适当的统计量 用其用其用其用其观观察察察察值值来估计未知参数来估计未知参数来估计未知参数来估计未知参数.的的的的估计量估计量估计量估计量的的的的估计值估计值估计值估计值 今后今后今后今后,不再区分估不再区分估不再区分估不再区分估计计量和估量和估量和估量和估计值计值而而而而统统称称称称为为的的的的估计估计估计估计,均记为均记为均记为均记为 .河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 设设已知已知已知已知总总体体体体X X X X的可能分布函数族的可能分布函数族的可能分布函数族的可能分布函数族为为:理论根据理论根据理论根据理论根据:样样本矩本矩本矩本矩(的的的的连续连续函数函数函数函数)依概率收依概率收依概率收依概率收敛敛于于于于总总 体矩体矩体矩体矩(的连续函数的连续函数的连续函数的连续函数).).).).其中其中其中其中 为待估参数为待估参数为待估参数为待估参数.二、构造估计量的两种方法二、构造估计量的两种方法二、构造估计量的两种方法二、构造估计量的两种方法二、构造估计量的两种方法二、构造估计量的两种方法 1 1 1、矩估计法、矩估计法、矩估计法、矩估计法、矩估计法、矩估计法 矩估计法矩估计法矩估计法矩估计法:用用用用样样本矩本矩本矩本矩(函数函数函数函数)来估来估来估来估计总计总体矩体矩体矩体矩(函数函数函数函数).).).).河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 设总设总体体体体X X X X的前的前的前的前k k k k阶阶矩矩矩矩 均存在均存在均存在均存在,而样本矩而样本矩而样本矩而样本矩其中其中其中其中 矩估矩估矩估矩估计计法就是法就是法就是法就是:令令令令总体的前总体的前总体的前总体的前k k k k阶矩分别与样本的阶矩分别与样本的阶矩分别与样本的阶矩分别与样本的 对应阶矩相等对应阶矩相等对应阶矩相等对应阶矩相等,即即即即 河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计可作为待估参数可作为待估参数可作为待估参数可作为待估参数 的估计量的估计量的估计量的估计量(称为称为称为称为矩估计矩估计矩估计矩估计 量量量量),),),),其其其其观观察察察察值为值为待估参数的估待估参数的估待估参数的估待估参数的估计值计值(称称称称为为矩估计值矩估计值矩估计值矩估计值).).).).这是含这是含这是含这是含k k k k个待估参数个待估参数个待估参数个待估参数 的的的的联立方程组联立方程组联立方程组联立方程组，其解，其解，其解，其解河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 确定待估参数的个数确定待估参数的个数确定待估参数的个数确定待估参数的个数k,k,k,k,求出求出求出求出总总总总体的前体的前体的前体的前k k k k阶阶阶阶矩矩矩矩;求矩估计的步骤求矩估计的步骤求矩估计的步骤求矩估计的步骤 解方程解方程解方程解方程(组组组组)写出矩估写出矩估写出矩估写出矩估计计计计量和矩估量和矩估量和矩估量和矩估计值计值计值计值.因此因此因此因此,会求总体矩会求总体矩会求总体矩会求总体矩,记住样本矩记住样本矩记住样本矩记住样本矩,就可求出待估参就可求出待估参就可求出待估参就可求出待估参 数的矩估计量与矩估计值数的矩估计量与矩估计值数的矩估计量与矩估计值数的矩估计量与矩估计值.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例例例1 1 1 1 1 1】设总体设总体设总体设总体设总体设总体X X X X X X服从服从服从服从服从服从 a,ba,ba,ba,ba,ba,b 上的均匀分布上的均匀分布上的均匀分布上的均匀分布上的均匀分布上的均匀分布,求未知求未知求未知求未知求未知求未知 参数参数参数参数参数参数a,ba,ba,ba,ba,ba,b的矩估计量的矩估计量的矩估计量的矩估计量的矩估计量的矩估计量.解解两个待估参数，两个待估参数，连续型型.先求总体的一先求总体的一,二阶二阶(原点原点)矩矩.因为因为X X Ua,bUa,b,所以所以 由由由由即即河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计解得解得解得解得:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例】求正求正求正求正态总态总体体体体N(,N(,N(,N(,2 2 2 2)的两个未知参数的两个未知参数的两个未知参数的两个未知参数 ,2 2 2 2的矩估计量的矩估计量的矩估计量的矩估计量.解解解解两个待估参数，两个待估参数，两个待估参数，两个待估参数，连续连续型型型型.先求先求先求先求总总体的一体的一体的一体的一,二二二二阶阶(原点原点原点原点)矩矩矩矩.因因因因为为X X X X N(,N(,N(,N(,2 2 2 2),),),),所以所以所以所以由由由由河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计.即即 解得解得,2 2的的矩估计量矩估计量分别为分别为:样本二阶样本二阶样本二阶样本二阶 中心矩，非修中心矩，非修中心矩，非修中心矩，非修正样本方差正样本方差正样本方差正样本方差河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例】求服从二项分布求服从二项分布求服从二项分布求服从二项分布B(mB(mB(mB(m，p)p)p)p)的总体的总体的总体的总体X X X X未知参未知参未知参未知参 数数数数p p p p的矩估计量。的矩估计量。的矩估计量。的矩估计量。解解单参数，离散型参数，离散型.由由 因因为 所以所以总体体X X的一的一阶矩矩(期望期望)为即即故所求故所求故所求故所求故所求故所求矩估计量矩估计量矩估计量矩估计量矩估计量矩估计量为：为：为：为：为：为：河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例4 4 4 4】已知总体已知总体已知总体已知总体X X X X的概率密度为的概率密度为的概率密度为的概率密度为:解解单参数，参数，连续型型.因因为总体一体一阶矩矩例例3 其中未知参数其中未知参数其中未知参数其中未知参数0,0,0,0,求求求求的矩估计量的矩估计量的矩估计量的矩估计量.由由河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计故所求故所求矩估计量矩估计量矩估计量矩估计量为：为：即即解得解得:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例5 5 5 5】已知总体已知总体已知总体已知总体X X X X的概率密度为的概率密度为的概率密度为的概率密度为:解解单参数，参数，连续型型.因因为总体体一阶矩一阶矩 其中未知参数其中未知参数其中未知参数其中未知参数0,0,0,0,求求求求的矩估计量的矩估计量的矩估计量的矩估计量.不含不含，故不能由，故不能由“样本一阶矩样本一阶矩=总体一阶矩总体一阶矩”解得所解得所求求 矩估计，需要矩估计，需要继续求二阶矩继续求二阶矩：河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 由由“样本二阶矩样本二阶矩=总体二阶矩总体二阶矩”得：得：于是于是,所求所求矩估计量矩估计量矩估计量矩估计量为：为：函数函数定义定义河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计2 2 2、极大似然估计法、极大似然估计法、极大似然估计法、极大似然估计法、极大似然估计法、极大似然估计法 一位老猎人与他的徒弟一起打猎一位老猎人与他的徒弟一起打猎,两人同时向一两人同时向一 猎物射击猎物射击,结果该猎物身中一弹结果该猎物身中一弹,你认为谁打中的可能你认为谁打中的可能 性最大性最大?根据经验而断根据经验而断:老猎人打中猎物的可能性最大老猎人打中猎物的可能性最大.极大似然估计法的思想极大似然估计法的思想极大似然估计法的思想极大似然估计法的思想就是对固定的样本值，选就是对固定的样本值，选 择待估参数的估计值使择待估参数的估计值使“样本取样本值样本取样本值”离散型离散型或或“样样 本取值落在样本值附近本取值落在样本值附近”连续型连续型 的概率最大。的概率最大。(1(1(1、极大似然估计法的思想、极大似然估计法的思想、极大似然估计法的思想、极大似然估计法的思想、极大似然估计法的思想、极大似然估计法的思想河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 单参数情形单参数情形单参数情形单参数情形单参数情形单参数情形下面分离散型与连续型总体来讨论下面分离散型与连续型总体来讨论.(2(2(2、极大似然估计的求法、极大似然估计的求法、极大似然估计的求法、极大似然估计的求法、极大似然估计的求法、极大似然估计的求法 设设离散型离散型离散型离散型总总体体体体X X X X的分布律的分布律的分布律的分布律形式已知形式已知形式已知形式已知,为待估参数为待估参数为待估参数为待估参数.为来自总体为来自总体为来自总体为来自总体X X X X的的的的 样本样本样本样本,为其样本值为其样本值为其样本值为其样本值,则则则则 的联合分的联合分的联合分的联合分 布律为布律为布律为布律为:根据总体分根据总体分布律写出似布律写出似然函数：换然函数：换x为为xi河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计这正是事件这正是事件“样本取得样本值样本取得样本值”的概率的概率,称之称之为样本的本的 似然函数似然函数,它是待估参数它是待估参数的函数的函数.极大似然估计法极大似然估计法极大似然估计法极大似然估计法：对固定的样本值：对固定的样本值：对固定的样本值：对固定的样本值,在参数空间中在参数空间中在参数空间中在参数空间中 选取使似然函数达到最大的参数值选取使似然函数达到最大的参数值选取使似然函数达到最大的参数值选取使似然函数达到最大的参数值 作为参数作为参数作为参数作为参数的估的估的估的估 计值计值计值计值(称为称为称为称为极大似然估计值极大似然估计值极大似然估计值极大似然估计值),),),),它它它它为样为样本本本本值值的函数的函数的函数的函数,记为记为相应统计量相应统计量称为参数称为参数的的极大似然估计量极大似然估计量极大似然估计量极大似然估计量.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 设连续设连续型型型型总总体体体体X X X X的概率密度的概率密度的概率密度的概率密度 事件事件事件事件“样本取值落在样本值的邻域样本取值落在样本值的邻域样本取值落在样本值的邻域样本取值落在样本值的邻域”的概率近似的概率近似的概率近似的概率近似为为形式已知形式已知形式已知形式已知,为待估参数。为待估参数。为待估参数。为待估参数。来自总体来自总体来自总体来自总体X X X X的样的样的样的样 本本本本,为为其其其其样样本本本本值值，则则 的的的的联联合概合概合概合概 率密度为率密度为率密度为率密度为:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计达到最大值达到最大值达到最大值达到最大值,相应的相应的相应的相应的 极大似然估计法极大似然估计法极大似然估计法极大似然估计法：对固定的样本值：对固定的样本值：对固定的样本值：对固定的样本值,在参数空间中在参数空间中在参数空间中在参数空间中 选取使上述概率达到最大的参数值选取使上述概率达到最大的参数值选取使上述概率达到最大的参数值选取使上述概率达到最大的参数值 作为参数作为参数作为参数作为参数的估的估的估的估 计值计值计值计值(称为称为称为称为极大似然估计值极大似然估计值极大似然估计值极大似然估计值)。由于因子。由于因子。由于因子。由于因子与与与与无关无关无关无关,故故故故 也使样本的也使样本的也使样本的也使样本的似然函数似然函数似然函数似然函数称为参数称为参数称为参数称为参数的的的的极大似然估计量极大似然估计量极大似然估计量极大似然估计量。河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 、在参数、在参数、在参数、在参数的的的的变变化范化范化范化范围围内求似然函数的最大内求似然函数的最大内求似然函数的最大内求似然函数的最大 值点值点值点值点 、依据、依据、依据、依据总总体体体体X X X X的分布律或概率密度写出的分布律或概率密度写出的分布律或概率密度写出的分布律或概率密度写出样样本的本的本的本的 似然函数似然函数似然函数似然函数:综上可得综上可得综上可得综上可得,求极大似然估计的步骤求极大似然估计的步骤求极大似然估计的步骤求极大似然估计的步骤即为待估计参数的极大似然估计值即为待估计参数的极大似然估计值即为待估计参数的极大似然估计值即为待估计参数的极大似然估计值;特别特别特别特别,当总体分布当总体分布当总体分布当总体分布 律或概率密度关于参数律或概率密度关于参数律或概率密度关于参数律或概率密度关于参数可导可导可导可导时时时时,可通过解可通过解可通过解可通过解似然方程似然方程似然方程似然方程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 、必要、必要、必要、必要时时,参照极大似然估参照极大似然估参照极大似然估参照极大似然估计值计值写出极大似然写出极大似然写出极大似然写出极大似然 估计量估计量估计量估计量.或与之等价的或与之等价的或与之等价的或与之等价的来得到待估参数来得到待估参数来得到待估参数来得到待估参数的极大似然估计值的极大似然估计值的极大似然估计值的极大似然估计值(驻点驻点驻点驻点););););河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例6 6 6 6】求服从二项分布求服从二项分布求服从二项分布求服从二项分布B(mB(mB(mB(m，p)p)p)p)的总体的总体的总体的总体X X X X未知参数未知参数未知参数未知参数 p p p p的极大似然估的极大似然估的极大似然估的极大似然估计计量。量。量。量。解解解解单单参数，离散型。参数，离散型。参数，离散型。参数，离散型。所以所以,样本的本的似然函数似然函数似然函数似然函数为为:因因为总体体 其分布律其分布律为在在f中换中换x为为xi写出连乘写出连乘积积 河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计求导得：求导得：四则运算四则运算求导法则求导法则河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计即即也即也即解得解得极大似然估计值极大似然估计值极大似然估计值极大似然估计值为为河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计极大似然估计量极大似然估计量极大似然估计量极大似然估计量为为河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 多参数情形多参数情形多参数情形多参数情形多参数情形多参数情形 当当总体分布中含有体分布中含有多多多多个待估参数时，可类似于单个待估参数时，可类似于单 参数情形来求其极大似然估计，其步骤为：参数情形来求其极大似然估计，其步骤为：写出似然函数写出似然函数 求求多元似然函数的极大值点多元似然函数的极大值点多元似然函数的极大值点多元似然函数的极大值点；当；当L关于各参数关于各参数 可导时，可解可导时，可解似然方程组似然方程组得各参数的极大似然估计。得各参数的极大似然估计。河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例例例7 7 7 7 7 7】求正态总体求正态总体求正态总体求正态总体求正态总体求正态总体N(,2)N(,2)N(,2)N(,2)N(,2)N(,2)的两个未知参数的两个未知参数的两个未知参数的两个未知参数的两个未知参数的两个未知参数,2 2 2 22 2的似然估计量的似然估计量的似然估计量的似然估计量的似然估计量的似然估计量.解解双参数，双参数，连续型型.因为因为X XN(,N(,2 2),),所以所以X X总体的概率密度体的概率密度为 设 为样本本 的一个的一个样本本值,则似然函数为则似然函数为:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计从而从而,取对数得取对数得:由似然方程组由似然方程组视视2为整体为整体河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计解得解得,2 2的的极大似然估计值极大似然估计值极大似然估计值极大似然估计值为为:从而从而,2 2的的极大似然估计量极大似然估计量极大似然估计量极大似然估计量为为:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例8 8 8 8】设总体设总体设总体设总体X X X X服从服从服从服从 a,ba,ba,ba,b 上的均匀分布上的均匀分布上的均匀分布上的均匀分布,求未知求未知求未知求未知 参数参数参数参数a,ba,ba,ba,b的极大似然估计量的极大似然估计量的极大似然估计量的极大似然估计量.解解双参数，双参数，连续型型.因因为 所以所以X X的概率密度的概率密度为 设 为样本本 的一个的一个样本本值,记河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计由于由于所以所以,似然函数似然函数似然函数似然函数为为对于满足对于满足 的任意的任意a,ba,b有有河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计即即故故a,ba,b的的极大似然估计值极大似然估计值极大似然估计值极大似然估计值为为:故故a,ba,b的的极大似然估计量极大似然估计量极大似然估计量极大似然估计量为为:本例直接利用极大似然思想方法来求似然估本例直接利用极大似然思想方法来求似然估本例直接利用极大似然思想方法来求似然估本例直接利用极大似然思想方法来求似然估计计计计.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 小结小结小结小结 矩估计法矩估计法矩估计法矩估计法是由样本矩等于总体矩的方程是由样本矩等于总体矩的方程是由样本矩等于总体矩的方程是由样本矩等于总体矩的方程 (组组)解出矩估解出矩估解出矩估解出矩估计计量量量量,再相再相再相再相应应写出矩估写出矩估写出矩估写出矩估计值计值;而而而而极大似极大似极大似极大似 然估计法然估计法然估计法然估计法是由似然方程是由似然方程是由似然方程是由似然方程(组组组组)解出似然估计值，再相解出似然估计值，再相解出似然估计值，再相解出似然估计值，再相 应写出似然估计量应写出似然估计量应写出似然估计量应写出似然估计量.同一个待估参数的同一个待估参数的矩估计矩估计矩估计矩估计与与极大似然估计极大似然估计极大似然估计极大似然估计可能可能 相同相同 如二项总体、正态总体如二项总体、正态总体,也可能不同也可能不同 如均匀如均匀 总体总体.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计(3(3(3、极大似然估计的不变性、极大似然估计的不变性、极大似然估计的不变性、极大似然估计的不变性、极大似然估计的不变性、极大似然估计的不变性 例如例如,正正态总体体方差方差2 2的极大似然估计为的极大似然估计为 故故标准差标准差(0)(0)的极大似然估计为的极大似然估计为 定理定理 设设 是总体是总体X的参数的参数 的极大似然估计的极大似然估计,函函 数数 具有单值反函数具有单值反函数,则则 是是 的极大似然估计的极大似然估计,即即河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例例例9 9 9 9 9 9】设总体设总体设总体设总体设总体设总体X X X X X X服从参数为服从参数为服从参数为服从参数为服从参数为服从参数为的泊松分布的泊松分布的泊松分布的泊松分布的泊松分布的泊松分布,求求求求求求 PX=0PX=0PX=0PX=0PX=0PX=0的极大似然估的极大似然估的极大似然估的极大似然估的极大似然估的极大似然估计计计.因因为 解解因因为 ,易求易求 的极大似然估的极大似然估计值与与 极大似然估计量分别为极大似然估计量分别为:有单值反函数有单值反函数,故由上述定理知故由上述定理知:PX=0:PX=0的极大似然估的极大似然估 计为计为河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 对于同一个参数于同一个参数,用不同方法求出的估用不同方法求出的估计量可能量可能 不同不同.那么那么,采用哪一个估计量为好呢采用哪一个估计量为好呢?用何种标准来用何种标准来 评判估计量的优劣评判估计量的优劣?下面下面,介介绍几个常用几个常用标准准.1 1、无偏性无偏性无偏性无偏性 定义定义定义定义 设设估估估估计计量量量量 存在期望存在期望存在期望存在期望,且且且且对对任意任意任意任意 有有有有三、估计量的评选标准三、估计量的评选标准三、估计量的评选标准三、估计量的评选标准三、估计量的评选标准三、估计量的评选标准 则称称 为 的的无偏估计量无偏估计量无偏估计量无偏估计量.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 称称为用用 来估来估计 的的系统误差系统误差系统误差系统误差.因此因此,无偏估计就是说无系统误差无偏估计就是说无系统误差无偏估计就是说无系统误差无偏估计就是说无系统误差.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例例例101010101010】设总设总设总体体体体体体X X X X X X存在均存在均存在均存在均存在均存在均值值值与方差与方差与方差与方差与方差与方差2 2 2 22 20,0,0,0,0,0,则则则 解解因因为 1 1 1 1、样样本均本均本均本均值值 是是是是总总体均体均体均体均值值的无偏估的无偏估的无偏估的无偏估计计;2 2 2 2、样样本方差本方差本方差本方差 是是是是总总体方差体方差体方差体方差2 2 2 2的无偏估计的无偏估计的无偏估计的无偏估计.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 1 1、样本均本均值 是是总体均体均值的无偏估的无偏估计;2 2、样本方差本方差 是是总体方差体方差2 2的无偏估计的无偏估计.所以所以河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 易知：对均值易知：对均值,方差方差20都存在的总体都存在的总体,方差的方差的 估计量估计量是是有偏估计有偏估计:无偏化无偏化得得:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 可以证明可以证明:无论总体无论总体X服从何种分布服从何种分布,k阶阶样本矩样本矩 是是k阶阶总体矩总体矩的无偏估计的无偏估计,即有即有 因此因此,一般都是一般都是取样本均值取样本均值 作为总体均值的估作为总体均值的估计计 量量,取样本方差取样本方差 作为总体方差的估计量作为总体方差的估计量.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计是总体均值是总体均值的无偏估计的无偏估计;并确定常数并确定常数a,ba,b使使D(Y)D(Y)达到达到 最小最小.解解因因为 【例例1111】设从存在均从存在均值与方差与方差2 200的的总体中体中,分分 别抽取容量为别抽取容量为n n1 1,n,n2 2的两个独立样本的两个独立样本,其样本均值分别其样本均值分别 为为 .证明证明:对任意常数对任意常数a,ba,b,由由期望性质期望性质得得:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 由无偏性知由无偏性知:Y:Y是是的无偏估的无偏估计量量.由由方差方差性质得性质得:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计即即:解得当解得当时时D(Y)D(Y)最小最小.由导数应用知由导数应用知:河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例12121212】试证明均匀分布试证明均匀分布试证明均匀分布试证明均匀分布 解解因因为极大似然估极大似然估计量量为中未知参数中未知参数中未知参数中未知参数的极大似然估计量不是无偏估计的极大似然估计量不是无偏估计的极大似然估计量不是无偏估计的极大似然估计量不是无偏估计.而总体分布函数而总体分布函数河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 的分布函数为的分布函数为故其概率密度为故其概率密度为河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计从而从而,不是不是 的无偏估计的无偏估计.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 2 2、有效性、有效性 则称称 较 为有效有效.同一个参数的无偏估同一个参数的无偏估计可能有多个可能有多个,在容量相同在容量相同 情况下情况下,认为取值密集于参数真值附近的估计量较为认为取值密集于参数真值附近的估计量较为 理想理想.由于方差度量随机由于方差度量随机变量取量取值与其数学期望的偏与其数学期望的偏 离程度离程度,故无偏估计应以方差小者为好故无偏估计应以方差小者为好.定义定义 设设 都是都是都是都是的无偏估计量的无偏估计量的无偏估计量的无偏估计量,若有若有若有若有河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 【例例例例13131313】设总设总体体体体X X X X服从参数服从参数服从参数服从参数为为的指数分布的指数分布的指数分布的指数分布 解解因因为其中其中其中其中0000为未知参数为未知参数为未知参数为未知参数,试证试证试证试证:易知易知 服从参数为服从参数为/n的指数分布的指数分布,故故 1 1 1 1、和和和和 都是都是都是都是的无偏估的无偏估的无偏估的无偏估计计;2 2 2 2、评评定定定定 的有效性的有效性的有效性的有效性.所以所以,是是的无偏估计量的无偏估计量.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 所以所以,也是也是的无偏估的无偏估计量量.于是于是,由于由于,注意到当注意到当n1n1时:在在实际问题中常常使用无偏性、有效性中常常使用无偏性、有效性这两个两个标 准准.至于一致性请自学，暂存不议至于一致性请自学，暂存不议.故当故当n1n1时时,较较 为有效为有效.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计22、区间估计、区间估计 在参数估在参数估在参数估在参数估计计中中中中,除了求出未知参数除了求出未知参数除了求出未知参数除了求出未知参数的的的的点估计点估计点估计点估计外外外外,常需给出以一定可信度包含参数常需给出以一定可信度包含参数常需给出以一定可信度包含参数常需给出以一定可信度包含参数真值的区间真值的区间真值的区间真值的区间(置信置信置信置信 区间区间区间区间),),),),这类问题这类问题就是就是就是就是区间估计区间估计区间估计区间估计问题问题问题问题.一、问题的提出一、问题的提出一、问题的提出一、问题的提出一、问题的提出一、问题的提出(思想思想思想思想思想思想)河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程 概率论与数理统计概率论与数理统计概率论与数理统计概率论与数理统计 置信区间置信区间置信区间置信区间 设总体体X X的分布函数的分布函数F(x;F(x;)含有一个含有一个 未知参数未知参数.对于给定值对于给定值(01),(01),若由来自总体若由来自总体X X 的样本的样本 能确定两个统计量能确定两个统计量 满足：足：则称随机区间则称随机区间 是是的置信度为的置信度为1-1-的（双侧）的（双侧）置信区间置信区间置信区间置信区间，分别称为分别称为置信下限置信下限置信下限置信下限和和置信上限置信上限置信上限置信上限,1-,1-称为称为置信度置信度置信度置信度.河南理工大学精品课程河南理工大学精品课程河南理工大学精品课程河南理