[学习]概论与统计课件第七章参数估计.pptx

《[学习]概论与统计课件第七章参数估计.pptx》由会员分享，可在线阅读，更多相关《[学习]概论与统计课件第七章参数估计.pptx（70页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 引 言 上一章，我们介绍了总体、样本、简单随机样本、统计量和抽样分布的概念，介绍了统计中常用的三大分布，给出了几个重要的抽样分布定理.它们是进一步学习统计推断的基础.参数估计问题假设检验问题点估计区间估计统计推断 的基本问题第七章 参数估计 参数的点估计 点估计的优良性准则 区间估计 在实际问题中,我们根据问题本身的专业知识或以往的经验或适当的统计方法,有时可以判断总体分布的类型.总体分布的参数往往是未知的,需要通过样本来估计.例如(1)为了研究人们的市场消费行为,我们要先搞清楚人们的收入状况.假设某城市人均年收入XN(,2).但参数 和 2 的具体值并不知道,需要通过样本来估计.(2)假定

2、某城市在单位时间(譬如一个月)内交通事故发生次数 X P().参数未知,需要从样本来估计.通过样本来估计总体的参数,称为参数估计,它是统计推断的一种重要形式.参数估计点估计区间估计（假定身高服从正态分布N(，0.12）设这5个数是:1.65 1.67 1.68 1.78 1.69 估计 为1.68，这是点估计.这是区间估计.估计在区间 1.57,1.84 内，例如我们要估计某队男生的平均身高.现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值 的估计.而全部信息就由这5个数组成.从总体 X 中抽取样本(X1,X2,X n)构造合适的统计量=T(X1,X2,X n)

3、参数的 估计量 将样本观察值(x1,x2,x n)代入估计量 计算出估计量的观察值=T(x1,x2,x n)参数的 估计值 或构造 1=T1(X1,X2,X n)和 2=T2(X1,X2,X n)(12)用区间(1,2)作为 可能取值范围的估计 设总体X的分布函数为F(x,),未知，的取值 范围称为 参数空间。记作。现估计。步骤如下：参数估计问题的一般步骤问题如何构造统计量？构造点估计的估计量的具体方法有多种，在此，介绍两种方法。1.矩估计法2.极大似然法1.1 矩估计法 矩估计法是英国统计学家K.皮尔逊最早提出来的.由辛钦大数定理,若总体 的数学期望 有限,则有 这表明,当样本容量很大时,在

4、统计上,可以用样本各阶矩去估计总体相应的各阶矩.用样本各阶矩去估计总体相应的各阶矩。-矩估计法的基本思想按以上思想方法去获得未知参数点估计的方法叫做矩法。用矩法所确定的估计量称为矩估计量，相应的估计值称为矩估计值，矩估计量与矩估计值统称为矩估计 矩估计法的理论依据:大数定律矩估计法的具体做法如下 设总体X的分布形式是已知的，1,2,k是k个未知参数，样本(X1,X2,X n)来自总体 X。假定总体X的m阶原点矩EXm存在，一般地，都是这 k 个参数的函数,记为：m=1,2,k取样本的m阶原点矩 作为总体的m阶原点矩EXm的估计得方程组：含未知参数1,2,k的方程组解方程组，得 k 个统计量：未

5、知参数1,2,k 的矩估计量代入一组样本值得k个数未知参数1,2,k 的矩估计值 例2：设样本(X1,X2,X n)来自总体 XN(,2)，求 与 2 的矩估计量。解：例1：设样本(X1,X2,X n)来自总体 X，且总体的均值 未知，求 的矩估计量。解：总体 X 的均值 矩估计量为一阶样本原点矩和2的矩估计量分别为样本的一阶原点矩和二阶中心矩 例3：设样本(X1,X2,X n)来自总体 XP()，求 的矩估计量。解：另一方面：EX2=DX+(EX)2=+2，所以：此例说明：矩估计可以不唯一。此时，一般取低阶矩得到的那一个。一阶样本原点矩作为 的矩估计量 例4：设样本(X1,X2,X n)来自

6、总体 X，X服从1,2上的均匀分布，求1和 2 的矩估计量。解：这是两个参数的矩估计问题。由 解得 EX2=DX+(EX)2 P148例4 例5：已知总体的X的均值EX=，方差DX=20,其中 与 2未知,样本(X1,X2,X n)来自总体 X，求 与 2的矩估计量。解：无论总体的分布形式如何，总体均值和方差2的矩估计量分别为样本均值和样本二阶中心矩。矩法的优点是简单易行,并不需要事先知道总体是什么分布.缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.其主要原因在于建立矩法方程时，选取哪些总体矩用相应样本矩代替带有一定的随意性.1.2 极大似然估计法极大

7、似然估计作为一种点估计方法最初是由 德国数学家高斯(Gauss)于1821年提出，英国统计 学家费歇尔(R.A.Fisher)在1922年作了进一步发展 使之成为数理统计中最重要应用最广泛的方法之一.GaussFisher 极大似然估计法是建立在极大似然原理的基础上的一个统计方法。极大似然原理的直观想法是：一次试验就出现的事件有较大的概率.即：一个试验如有若干个 可能结果,若在一次试验中，结果 出现,则认为 出现的概率最大.例如:有两外形相同的箱子,各装100个球 一箱 99个白球 1 个黑球 一箱 1 个白球 99个黑球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.问:所取的球

8、来自哪一箱？答:第一箱.假定一个盒中黑球和白球两种球的数目之比 为 3:1，但不知哪种球多，表示从盒中任取一球 是黑球的概率，那么 或,现在有放回地 从盒中抽3个球，试根据样本中的黑球数 来估计 参数.解随机变量，即 例例估计 只需在 和 之间作出选择.计算这两种情况下 的分布律：的估计 27/64 27/64 9/64 1/641/64 9/64 27/64 27/643 2 1 0,根据极大似然原理，应该寻找使事件发生的概率最大的参数值作为未知参数的估计值。1.似然函数进行一次具体的抽样之后，(X1,X2,X n)得到一组观察值(x1,x2,x n)。是一组确定的数，把它们代入上式，则 设

9、总体分布(以离散型为例)为P(X=x)=P(x,1,2,k),（1,2,k)未知，样本(X1,X2,X n)来自总体 X，则样本(X1,X2,X n)的概率分布函数为：仅为（1,2,k)的函数。把它记作 并称为参数（1,2,k)的似然函数。进行一次具体的抽样之后，(X1,X2,X n)得到一组观察值(x1,x2,x n)。是一组确定的数，把它们代入上式，则若总体X为连续性随机变量，其密度函数为分布为f(x,1,2,k),（1,2,k)未知，样本(X1,X2,X n)来自总体 X，则样本(X1,X2,X n)的密度函数为：仅为（1,2,k)的函数。把它记作 并称为参数（1,2,k)的似然函数。可

10、见，似然函数实质上是样本的概率分布或密度函数。2.极大似然法当给定一组样本值时，似然函数L(1,2,k)为参数(1,2,k)的函数，极大似然估计法的思想就是：选择使似然函数L(1,2,k)达到最大值的点作为为参数(1,2,k)的估计。定义定义1.11.1若存在样本值(x1,x2,x n)的函数使似然函数L(1,2,k)达到最大值，即则称为参数i的极大似然估计值；称相应的统计量为i的极大似然估计量；极大似然估计值和极大似然估计量统称为极大似然估计。3、极大似然估计（离散型总体）的步骤 极大似然估计（连续型总体）的步骤 下面举例说明如何求参数的极大似然估计。试求参数p的极大似然估计量 故似然函数为

11、例1：试求参数p的极大似然估计量 故似然函数为例1：故似然函数为例2：似然函数为：例3：例4：例5：例6：极大似然法求估计量的步骤：(一般情况下)说明：若似然方程（组）无解，或似然函数不可导，此法失效，改用其它方法。例7：方程组无解 点估计矩估计法基本步骤极大似然估计法基本步骤 第二节 点估计的优良性准则 我们知道，一个未知参数的估计量可能不止一个。究竟采用哪个为好呢？这就涉及到用什么标准来评价估计量的问题。我们介绍三个常用的标准：1）无偏性；2）有效性；3）一致性。2.1 无偏性 根据样本推得的估计值与真值可能不同，然而，如果有一系列抽样构成各个估计，很合理地会要求这些估计的期望值与未知参数

12、的真值相等，它的直观意义是样本估计量的数值在参数的真值周围摆动，而无误差，这就是估计量的无偏性。定义2.1：设总体X的分布中含有未知参数，为参数空间，样本(X1,X2,X n)来自 X，若 例1：设总体X 有期望 EX=与方差 DX=2，与 2 都未知。样本(X1,X2,X n)来自 X，试证：(1)样本均值 是总体均值的无偏估计；(2)样本方差S2是 2的无偏估计；(3)样本标准差S不是标准差 的无偏估计；(4)B2不是 2的无偏估计。证：由定理知：(1)(2)ES2=2 这个结论与总体的分布类型没有关系。只要总体期望和方差存在，样本均值总是总体期望的无偏估计，样本方差总是总体方差的无偏估计

13、(3)由DS=ES2-(ES)2=2-(ES)2，得 所以，样本标准差S不是标准差 的无偏估计。(4)因 所以，二阶样本中心矩B2不是总体方差 2的无偏估计。因此，通常把B2的分母修正为n-1获得样本方差S2作为总体方差 2的估计。例2：设总体X 的期望值 EX=未知，方差 DX有限，样本(X1,X2,X n)来自 X，试证：所以，未知参数 的无偏估计量往往有许多个，在这些估计量中，当然是取值对于 的离散程度越小的 越好，即方差越小的越好。2.2 无偏估计的有效性 定义2.2：设总体X的分布中含有未知参数，为参数空间，样本(X1,X2,X n)来自 X，解：DX1=DX=2 例：设总体X 有期

14、望 EX=与方差 DX=2，与 2 都未知。样本(X1,X2,X n)来自 X，比较 的两个无偏估计X1 和 X 的有 效性。例：条件同上，试证X在 的所有线性无偏估计中方差最小。解：所谓线性估计是指 为样本的线性函数，2.3 一致性（相合性）例：样本均值 是总体均值的一致估计值.结论1：样本方差 是总体方差 的一致估计值.结论2：要求：当样本容量 n 无限增大时，估计量能在某种意义下充分接近被估计的参数。引言引言 前面，我们讨论了参数点估计.它是用样本算得的一个值去估计未知参数.但是，点估计值仅仅是未知参数的一个近似值，它没有反映出这个近似值的误差范围，使用起来把握不大.区间估计正好弥补了点

15、估计的这个缺陷.6.3 区间估计 譬如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数 N 的极大似然估计为1000条.若我们能给出一个区间，在此区间内我们合理地相信 N 的真值位于其中.这样对鱼数的估计就有把握多了.实际上，N的真值可能大于1000条，也可能小于1000条.也就是说，我们希望确定一个区间，使我们能以比较高的可靠程度相信它包含真参数值.湖中鱼数的真值 这里所说的“可靠程度”是用概率来度量的，称为置信度或置信水平.习惯上把置信水平记作，这里 是一个 很小的正数.一、区间估计的基本概念 分别称为置信下限和置信上限.的可靠性。置信区间表示估计结果的精确性，而置信概率则表示这

16、一结果通常，置信系数（可靠性）采用 0.95,0.99,0.90 等值。未知参数的置信区间，称为参数的区间估计。对于已给的置信概率1-，根据样本观测值来确定 一旦有了样本，就把 估计在区间内.这里有两个要求:对参数 作区间估计，就是要设法找出两个只依赖于样本的界限(构造统计量)(X1,Xn)(X1,Xn)可见，区间估计:1.可靠度：要求区间以很大的可能性包含 即：2.精度：估计的精度要尽可能高,即 区间的长度要尽可能小,或 能体现此要求的其它准则。在保证可靠度的条件下，尽量提高精度 可靠度和精度要统筹兼顾 在求置信区间时，要查表求分位点.二、置信区间的求法教材已经给出了概率分布的上侧分位数（分

17、位点）的定义，为便于应用，这里我们再简要介绍一下.设0 1,对随机变量X，称满足的点 为X的概率分布的上 分位数.标准正态分布的临界值（分位点）Ou yy=(x)u1-2分布的临界值（分位点）例：t 分布的临界值（分位点）例：1.397例：枢轴变量法求置信区间(1)找与有关的统计量 T(一般T是 的点估计)(2)找一个函数 I=I(T,),I 的分布F与 无关(I(T,)为枢轴变量)(3)对给定的 1-，找到F 的上分位点 和三、正态总体未知参数的区间估计（枢轴变量法）1、均值 的区间估计(1)2已知 设总体X N(,2)，样本(X1,X2,Xn)来自总体X。所以 的置信系数为1-的置信区间：

18、枢轴变量为O/2U/2/2-U/2(2)2未知所以 的置信系数为1-的置信区间：枢轴变量为例1：从大批灯泡中随机地抽取5个,测得寿命为(单位:小时)：1650,1700,1680,1820,1800，假定灯泡寿命XN(,9)，求这批灯泡平均寿命的区间估计（=0.05）。解：方差 2=9已知，利用公式：由=0.05，查标准正态分布表得 u0.025=1.96。因 n=5，=3，x=1730，所以，得 的区间估计为 1727.37,1732.63。P(1727.37 1732.63)=0.95注例2：从大批灯泡中随机地抽取5个,测得寿命为(单位:小时)：1650,1700,1680,1820,18

19、00，假定灯泡寿命XN(,2)，求这批灯泡平均寿命的区间估计（=0.05）。由n=5，查 t 分布表得 t0.025(4)=2.776。x=1730，S=75.50。所以，得 的区间估计为 1636.27,1823.73。解：方差 2未知，利用公式：2、方差的区间估计(1)已知 2 的置信系数为1-的区间估计为：枢轴变量为(2)未知 2 的置信系数为1-的区间估计为：枢轴变量为查 2 分布表得 20.025(5)=12.833，20.975(5)=0.831。所以，得方差的区间估计为 0.055,0.842。例3：对某塔的高度进行了 5 次测量，数据（单位：米）如下：90.5,90.4,89.

20、7,89.6,90.2，设测量数据服从正态分布，求方差的区间估计（=0.05）。(1)假设塔的真实高度为 90米。(2)假设塔的真实高度未知。解：(1)利用公式：计算得：(2)利用公式：计算得：查2分布表得 20.025(4)=11.143，20.975(4)=0.484。所以，得方差的区间估计为 0.060,1.380。1、均值差 1-2的区间估计(1)12,22都已知 令枢轴变量为6.3.3、两个正态总体均值差和方差比的区间估计 设样本(X1,X2,Xn1)来自正态总体XN(1,12),(Y1,Y2,Y n2)来自正态总体YN(2,22)，并假定X 与 Y 相互独立 分别是两样本的均值和方

21、差,1-是给定的置信系数所以 1-2的置信系数为1-的置信区间：O/2U/2/2-U/2解：由=0.1，查标准正态分布表得 U/2=U0.05=1.645因 n1=10，n2=12,12=25,22=36，所以，例1：设自总体XN(1,25)得到一容量为10的样本，其样本均值，自总体YN(1,36)得到一容量为12的样本，其样本均值,并且两样本 相互独立,求 1-2的置信区间（=0.1）。得 1-2的置信区间为-8.06,-0.34。(2)12,=22=2,但2未知 令枢轴变量为 定理（5.10）所以 1-2的置信系数为1-的置信区间：解：由抽样的随机性可推知样本灯泡相互独立，又因为它们的总体

22、方差相等，所以由得 1-2的置信区间为-36.53,76.53。例2：为比较A,B两种型号灯泡的寿命，随机抽取A型灯泡5只，测得，标准差SA=28小时，随机抽取B型灯泡5只，测得，标准差SB=32小时，设总体都是正态的，并且由生产过程知它们的方差相等.求 1-2 的置信区间（=0.01）因 n1=5，n2=7,SA=28,SB=32,而=0.01，查t-分布表得 t/2(10)=t0.005(10)=3.169,，所以令枢轴变量为2、两个正态总体方差比 的区间估计所以方差比 的置信系数为1-的置信区间为 例3：两正态总体XN(1,12)和YN(2,22)的参数均未知，依次取容量为25，15的两独立样本，测得，样本方差依次为6.38，5.15，求两个正态总体方差比 的置信区间（=0.1）所以方差比 的置信系数为1-的置信区间为 0.527，2.639解：因 n1=25，n2=15,S12/S22=6.38/5.15=1.239,查F-分布表得 F0.05(24,14)=2.35，F0.95(24，14)=1/F0.05(14,24)=1/2.13,所以由