本科概率论与数理统计课件第七章新.ppt
CHINA UNIVERSITY OF MINING AND TECHNOLOGY第七章第七章参 数 估 计二二、估计量的评选标准、估计量的评选标准一一、点估计、点估计 三三、区间估计、区间估计 四四、正态总体均值与方差的区间估计、正态总体均值与方差的区间估计 CHINA UNIVERSITY OF MINING AND TECHNOLOGY点 估 计 第七章 第一节第一节二二、矩估计法、矩估计法一一、点估计问题的一般提法、点估计问题的一般提法三三、最大似然估计法、最大似然估计法CHINA UNIVERSITY OF MINING AND TECHNOLOGY一一、点估计问题的一般提法、点估计问题的一般提法是待估参数，是的一个样本,是相应的一个样本值。点估计就是构造一个适当的统计量用它的观察值作为未知参数的近似值。称为估计量为估计值设总体的分布函数为形式为已知,CHINA UNIVERSITY OF MINING AND TECHNOLOGY问题：问题：如何估计未知参数？设抽取容量为的样本由大数定律,把样本平均值作为总体平均值的一个估计。即用估计对未知参数估计的两种方法:矩估计法、最大似然估计法。CHINA UNIVERSITY OF MINING AND TECHNOLOGY二二、矩估计法、矩估计法 其基本思想是用样本矩估计总体矩。它是基于一种简单的“替换”思想建立起来的一种估计方法。是英国统计学家K.皮尔逊最早提出的。命题：命题：若总体X 的 k 阶矩存在，则CHINA UNIVERSITY OF MINING AND TECHNOLOGY基本思想基本思想:(1)若X为连续型随机变量，设概率密度为令解出CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例1 1设总体设总体求的矩估计量。解解:令其中所以的矩估计量为为X的一个样本，估计值令CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例2 2设总体设总体X 的概率密度为的概率密度为解解 即是未知参数,其中X1,X2,Xn是取自X 的样本,求参数的矩估计量.CHINA UNIVERSITY OF MINING AND TECHNOLOGY令，则从而的矩估计量为X 的一个样本，求的矩估计量。例例3 3设总体设总体解解 CHINA UNIVERSITY OF MINING AND TECHNOLOGY令CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例4 设设 为X 的一个样本，求X 的数的矩估计量。学期望解解：令其中则CHINA UNIVERSITY OF MINING AND TECHNOLOGY解得数学期望的矩估计量分别为总结：任何分布的均值和方差的矩估计量的表达式都不变CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例5设总体设总体一个样本，求的矩估计量。为X 的解解 由 所以由上例可得CHINA UNIVERSITY OF MINING AND TECHNOLOGY若X为离散型随机变量，设其分布律为令，其中为样本，解出CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例6设总体设总体X的分布律为的分布律为其中参数其中参数未知，现有一组样本值未知，现有一组样本值1,1,1,3,2,1,3,解解 令令 其中其中所以所以的矩估计值为的矩估计值为2,2,1,2,2,3,1,1,2，试求，试求的矩估计的矩估计值值。CHINA UNIVERSITY OF MINING AND TECHNOLOGY三、最大似然估计法三、最大似然估计法 这是在总体类型已知条件下使用的一种参数估计方法.它首先是由德国数学家高斯在1821年提出的,GaussFisher 然而，这个方法常归功于英国统计学家费歇。费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.CHINA UNIVERSITY OF MINING AND TECHNOLOGY最大似然法的基本思想：最大似然法的基本思想：是谁打中的呢？是谁打中的呢？推测推测CHINA UNIVERSITY OF MINING AND TECHNOLOGY引例：引例：设一盒中有白、黑球，知两球数比例为1:3，哪个多不知如果有放回的抽取3次球，发现全是白球，估计哪种颜色球较多？统计原理：统计原理：在某次抽样中，某事件发生了，可以认为该事件发生的概率最大。即在一次试验中，大概率事件最易发生。CHINA UNIVERSITY OF MINING AND TECHNOLOGY分布律为，其中未知。为X 的样本，为X 的样本值，X 为离散型为离散型记为 样本的似然函数样本的似然函数CHINA UNIVERSITY OF MINING AND TECHNOLOGY为的最大似然估计量最大似然估计量；为的最大似然估计值最大似然估计值；满足条件:具体算法：具体算法：令CHINA UNIVERSITY OF MINING AND TECHNOLOGY设x1,x2,xn是取自总体 Xb(1,p)的一个解解例例1 1似然函数为:样本值，求参数p的最大似然估计值。CHINA UNIVERSITY OF MINING AND TECHNOLOGY所以为 p 的最大似然估计值。设 X1,X2,Xn 是取自总体 X 的一个样本,，求参数的最大似然估计值。例例2CHINA UNIVERSITY OF MINING AND TECHNOLOGY解解例例2设 X1,X2,Xn 是取自总体 X 的一个样本,，求参数的最大似然估计值。似然函数为:CHINA UNIVERSITY OF MINING AND TECHNOLOGY X 为连续型为连续型思想思想：随机点落在点的邻域内的概率近似地为所以似然函数为利用或得CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例3 3设 X1,X2,Xn 是取自总体 X 的一个样本,X 服从参数 的指数分布，求的最大似然估计值。解解似然函数CHINA UNIVERSITY OF MINING AND TECHNOLOGY当令所以CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例4设 X1,X2,Xn 是取自总体 X 的一个样本,，求参数 a,b 的最大似然估计量。解解似然函数CHINA UNIVERSITY OF MINING AND TECHNOLOGY则要使得取最大值注：特殊的似然函数通过求导为零得不到其最大，注：特殊的似然函数通过求导为零得不到其最大，需要从函数本身入手。需要从函数本身入手。所以，最大似然估计量为CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例5 5设 X1,X2,Xn 是取自总体 X 的一个样本,求 参数 和的矩估计量；参数 和的最大似然估计量。解解 令CHINA UNIVERSITY OF MINING AND TECHNOLOGY所以CHINA UNIVERSITY OF MINING AND TECHNOLOGY解得参数和的矩估计量为 设x1,x2,xn是X1,X2,Xn的样本值，则似然函数为其中CHINA UNIVERSITY OF MINING AND TECHNOLOGY当时令，表明L是的严格递增函数，故CHINA UNIVERSITY OF MINING AND TECHNOLOGY所以当时L 取到最大值从而参数和的最大似然估计值分别为则参数和的最大似然估计量分别为CHINA UNIVERSITY OF MINING AND TECHNOLOGY估计量的评选标准 第七章 第二节第二节二二、有效性、有效性一一、无偏性、无偏性三三、一致性、一致性CHINA UNIVERSITY OF MINING AND TECHNOLOGY一一、无偏性、无偏性定义定义结论：结论：无论X 服从什么分布,只要它的数学期望存在，总是的无偏估计量。是的无偏估计CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例1设总体 X 的则都存在，且的估计量都未知,是无偏的吗?证明证明所以是有偏的。CHINA UNIVERSITY OF MINING AND TECHNOLOGY一个未知数可以有不同的无偏估计量。解解例例2 2CHINA UNIVERSITY OF MINING AND TECHNOLOGY二、有效性二、有效性定义：定义：都是参数的无偏估计量，如果注：注：比较有效性，必须是在无偏估计量的前提。CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例3设 X1,X2,Xn 是取自总体 X 的一个样本,验证都是的无偏估计.问那个估计量最有效?解解 CHINA UNIVERSITY OF MINING AND TECHNOLOGY都是总体均值的无偏估计量;故CHINA UNIVERSITY OF MINING AND TECHNOLOGY因为所以更有效CHINA UNIVERSITY OF MINING AND TECHNOLOGY区 间 估 计 第七章 第三节第三节二二、正态总体均值与方差的区间估计、正态总体均值与方差的区间估计一一、置信区间、置信区间三三、两个正态总体均值与方差、两个正态总体均值与方差 的区间估计的区间估计CHINA UNIVERSITY OF MINING AND TECHNOLOGY 譬如，在估计湖中鱼数的问题中，若譬如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数我们根据一个实际样本，得到鱼数N的的最最大似然估计为大似然估计为1000条条.若我们能给出一个区间，在此区间若我们能给出一个区间，在此区间内我们合理地相信内我们合理地相信 N 的真值位于其中的真值位于其中.这这样对鱼数的估计就有把握多了样对鱼数的估计就有把握多了.实际上，实际上，N的真值的真值可能大于可能大于1000条，条，也可能小于也可能小于1000条条.CHINA UNIVERSITY OF MINING AND TECHNOLOGY也就是说，我们希望确定一个区间，使我也就是说，我们希望确定一个区间，使我们能以比较高的们能以比较高的可靠程度可靠程度相信它包含真参相信它包含真参数值数值.湖中鱼数的真值湖中鱼数的真值 这里所说的这里所说的“可靠程度可靠程度”是用概率来度量的，是用概率来度量的，称为置信度或置信水平称为置信度或置信水平.习惯上把置信水平记作习惯上把置信水平记作，这里，这里 是一个是一个很小的正数很小的正数.CHINA UNIVERSITY OF MINING AND TECHNOLOGY通常,采用95%的置信度,有时也取99%或 90%.即置信度为这时重复抽样 100次,则在得到的100个数值区间中包含 真值的有95个左右,不包含真值的有5个左右。含义含义：若CHINA UNIVERSITY OF MINING AND TECHNOLOGY一一、置信区间、置信区间定义定义1 设总体含一待估参数为一样本，满足则称为的置信度为 的置信区间，的分布函数为，其中若由样本确定的两个统计量下限上限CHINA UNIVERSITY OF MINING AND TECHNOLOGY 这里，我们主要讨论总体分布为这里，我们主要讨论总体分布为正态正态的情形的情形.若样本容量很大，即使总体分布若样本容量很大，即使总体分布未知，应用未知，应用中心极限定理中心极限定理，可得总体的近，可得总体的近似分布，于是也可以近似求得参数的区间似分布，于是也可以近似求得参数的区间估计估计.CHINA UNIVERSITY OF MINING AND TECHNOLOGY二二、正态总体均值与方差的区间估计、正态总体均值与方差的区间估计设为总体的一个样本置信度下，来确定的置信区间 已知方差，估计均值CHINA UNIVERSITY OF MINING AND TECHNOLOGY对于给定的，有可得所以的置信水平为1-的置信区间为简记为CHINA UNIVERSITY OF MINING AND TECHNOLOGY注：注：的置信水平1的置信区间不唯一。,可以取标准正态分布上分位点-Z0.04和Z0.01，则也有则的置信度为0.95的置信区间为但对称时的区间长度最短。置信区间短说明估计精度高。CHINA UNIVERSITY OF MINING AND TECHNOLOGY寻求未知参数置信区间的具体计算方法寻求未知参数置信区间的具体计算方法 由样本寻找一个样本函数，含不含其他任何未知参数，分布已知，且不依赖任何未知参数(包含)。对于给定的置信水平，找 a,b 使得CHINA UNIVERSITY OF MINING AND TECHNOLOGY 由解出等价的不等式是的置信度为的置信区间。CHINA UNIVERSITY OF MINING AND TECHNOLOGY2.估计的精度要尽可能的高估计的精度要尽可能的高.如要求区间如要求区间长度长度 尽可能短，或能体现该要求的其它尽可能短，或能体现该要求的其它准则准则.1.要求要求 以很大的可能被包含在区间以很大的可能被包含在区间内，就是说，概率内，就是说，概率 要尽可能大要尽可能大.即要求估计尽量可靠即要求估计尽量可靠.可靠度与精度是一对矛盾，可靠度与精度是一对矛盾，一般是在保证可靠度的条件下一般是在保证可靠度的条件下尽可能提高精度尽可能提高精度.CHINA UNIVERSITY OF MINING AND TECHNOLOGY已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为：115,120131,115,109,115,115,105,110 cm;假设标准差置信度为95%;试求总体均值的置信区间解解 已知由样本值算得：查正态分布表得，由此得置信区间例例1CHINA UNIVERSITY OF MINING AND TECHNOLOGY设总体问需要抽取容量为多大的样本,才能使的置信水平为0.95 的置信区间的长度不大于 0.49?解解 设需要抽取容量为n的样本,其样本均值为查表得于是的置信水平为0.95的置信区间为该区间长度例例2解得取CHINA UNIVERSITY OF MINING AND TECHNOLOGY 方差未知，估计均值所以的置信水平为1-的置信区间为简记为是的无偏估计CHINA UNIVERSITY OF MINING AND TECHNOLOGY用仪器测量温度,重复测量7次,测得温度分别为:115,120,131,115,109,115,115;设温度 在置信度为95%时,试求温度均值所在范围。例例3查表得已知由样本值算得：解解 得区间：CHINA UNIVERSITY OF MINING AND TECHNOLOGY 方差的置信区间（均值未知）设为总体的一个样本是的无偏估计并且样本函数：CHINA UNIVERSITY OF MINING AND TECHNOLOGY由分布表的构造置信区间即CHINA UNIVERSITY OF MINING AND TECHNOLOGY标准差的一个置信水平为的置信区间注意：注意：在密度函数不对称时，如习惯上仍取和对称类似的分位点，但其置信区间的长度并不最短。CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例4 某自动车床加工零件，抽查16个测得长加工零件长度的方差。解解 先求度（毫米），怎样估计该车床CHINA UNIVERSITY OF MINING AND TECHNOLOGY查表所求2的置信度为0.95的置信区间CHINA UNIVERSITY OF MINING AND TECHNOLOGY例例5 假设总体求未知，一组样本值为的置信度为95%的置信区间。解解 的置信区间为CHINA UNIVERSITY OF MINING AND TECHNOLOGY 2的置信区间为所以2的置信区间为CHINA UNIVERSITY OF MINING AND TECHNOLOGY三三、两个正态总体均值与方差的区间估计、两个正态总体均值与方差的区间估计设为总体的一个样本的置信区间为总体的一个样本,X与Y相互独立。均为已知,且是的一个无偏估计，因为X与Y 相互独立,所以CHINA UNIVERSITY OF MINING AND TECHNOLOGY所以的置信水平为1-的置信区间为CHINA UNIVERSITY OF MINING AND TECHNOLOGY未知所以的置信水平为1-的置信区间为书书169页例页例1、例、例2CHINA UNIVERSITY OF MINING AND TECHNOLOGY的置信区间所以的置信水平为1-的置信区间为书书171页例页例3CHINA UNIVERSITY OF MINING AND TECHNOLOGY本章知识小结本章知识小结1.重点：矩估计、最大似然估计、无偏性、有重点：矩估计、最大似然估计、无偏性、有 效性、正态总体参数的区间估计效性、正态总体参数的区间估计2.难点：最大似然估计难点：最大似然估计3、区间估计、区间估计
