最新十章点估计幻灯片.ppt

第十章第十章 点估计点估计 在实际问题中，经常遇到随机变量在实际问题中，经常遇到随机变量X X（即总体（即总体X X）的分）的分布布函数的形式已知，但它的一个或者多个函数的形式已知，但它的一个或者多个参数参数未知的情形，未知的情形，此时写不出确切的概率密度函数此时写不出确切的概率密度函数. .若通过简单随机抽样，若通过简单随机抽样，得得到总体到总体X X的一个样本观测值，我们自然会想到利用这一组的一个样本观测值，我们自然会想到利用这一组数数据来估计这一个或多个未知据来估计这一个或多个未知参数参数. .诸如此类，利用样本去诸如此类，利用样本去估估计总体未知计总体未知参数参数的问题，称为的问题，称为参数参数估计问题估计问题. . 参数参数估计问题有两类，分别是点估计和区间估计估计问题有两类，分别是点估计和区间估计. .而而参参数数估计是统计推断的一个重要组成部分，可以这样说统计估计是统计推断的一个重要组成部分，可以这样说统计推断的基本问题可以分为两大类推断的基本问题可以分为两大类: : 一是参数估计问题，一是参数估计问题， 二二是假设检验问题是假设检验问题。第一节第一节 点估计问题点估计问题例例4(4(续例续例3)3) 要在该地区中学生中挑选生排球队员要在该地区中学生中挑选生排球队员, ,标准是其身高必须高于标准是其身高必须高于1.90m.1.90m.问题是估计中选率问题是估计中选率. .90. 1190. 1XP 由正态分布性质由正态分布性质, ,可将可将表示成如下的的已知函表示成如下的的已知函数形式数形式: : 其中其中 是标准正态分布函数是标准正态分布函数, ,这个函数在未知参这个函数在未知参数数 处的值处的值正是要估计的对象正是要估计的对象. . 2,第一节第一节 点估计问题点估计问题点估计的思想方法：点估计的思想方法：设总体的分布函数的形式已知，但含有一或多个未设总体的分布函数的形式已知，但含有一或多个未知参数：。设为总体的一个样知参数：。设为总体的一个样本，构造个统计量本，构造个统计量 k,21nXXX,21nknnXXXXXXXXX, ,21212211随机变量第一节第一节 点估计问题点估计问题当测得样本值时，代入上述方程组，即当测得样本值时，代入上述方程组，即可得到个数：可得到个数：nxxx,21nknnxxxxxxxxx, ,21212211数值数值k,21k,21称数为未知参数的称数为未知参数的估计值估计值,对应统计量为未知参数的对应统计量为未知参数的估计量估计量k,21 统计估计沿用以下规则：若统计估计沿用以下规则：若 的一个估计，则的一个估计，则 的估计自动地被估计为的估计自动地被估计为 ，称这一规则为，称这一规则为估计的自助程序。估计的自助程序。是是 g g的估计为的估计为 , ,的估计为的估计为S ,则则的估计是的估计是第一节第一节 点估计问题点估计问题SXXP90. 1190. 1X90. 1190. 1XP说明说明: : 1.1.给出给出 , ,等同于给出等同于给出的一种估计规则的一种估计规则(估计程估计程序序), 有了观有了观 察数据察数据,如何算出估计值如何算出估计值.2.估计量不必唯一估计量不必唯一,同一参数可以构造不同的统计量用以估计同一参数可以构造不同的统计量用以估计.因此有一个估计量好环的比较因此有一个估计量好环的比较评价估计量好环的准则评价估计量好环的准则.例如在例例如在例4 4中中的估计量的估计量第二节估计方法第二节估计方法 两种常用的构造估计量的方法：两种常用的构造估计量的方法：一一. .矩估计法矩估计法定义：定义：用样本矩来代替总体矩用样本矩来代替总体矩, ,从而得到总体分布从而得到总体分布中参数的一种估计中参数的一种估计. .这种估计方法称为这种估计方法称为矩估计法矩估计法. .它的思想实质是用样本的经验分布和样本矩去替它的思想实质是用样本的经验分布和样本矩去替换总体的分布和总体矩换总体的分布和总体矩. .也称之为也称之为替换原则替换原则.特点：特点：不需要假定总体分布有明确的分布类型。不需要假定总体分布有明确的分布类型。u矩估计法矩估计法u极大似然估计法极大似然估计法第二节估计方法第二节估计方法kkkkkkmXEmXEmXE),.,()(.),.,()(),.,()(21221221211设设总体设总体X X具有已知类型的概率函数具有已知类型的概率函数f(x;),f(x;),=(=(1,k)是是k k个未知参数个未知参数.(X.(X1 1,X,X2 2,X,Xn n) )是来自总体是来自总体X X的一个样本的一个样本. .假假若若X X的的k k阶矩阶矩k k=E(X=E(Xk k) )存在存在, ,则对于则对于ik, E(Xik, E(Xi i) )都存在都存在, ,并且并且是是(1 1,k k) )的函数的函数i i(1 1,k k).).得到含有未知参数得到含有未知参数(1 1,k k) )的的k k个方程个方程. .解这解这k k个联立方程个联立方程组就可以得到组就可以得到(1 1,k k) )的一组解的一组解: :njiijxnm11第二节估计方法第二节估计方法用上面的解来估计参数用上面的解来估计参数i i就是矩估计法就是矩估计法. .),.,(.),.,(),.,(2121222111nkknnXXXXXXXXX第二节估计方法第二节估计方法例例: : 设总体设总体X X服从泊松分布，参数服从泊松分布，参数未知，未知， 是来自总体的一个样本，求参数是来自总体的一个样本，求参数的矩估计量的矩估计量. .11)(mXE),(21nXXX解：总体解：总体X X的期望为的期望为 从而得到方程从而得到方程niiXn11所以所以的矩估计量为的矩估计量为XXnnii11110110，184184，145145，122122，165165，143143，7878，129129，6262，130130，168 168 第二节估计方法第二节估计方法例例5 5 设有一批同型号灯管设有一批同型号灯管, ,其寿命其寿命( (单位：单位：h)h)服从参数为服从参数为的的指数分布，今随机抽取其中的指数分布，今随机抽取其中的11只，测得其寿命数据如只，测得其寿命数据如下：下： 11XE用矩估计法估计用矩估计法估计值。值。解：设解：设X X为灯管的寿命，则为灯管的寿命，则,X,11即即m 1 X的矩估计的矩估计已知已知n=11n=11， X的观察值为的观察值为 ,55.13011hxnxnii0077. 055.1301因而因而的估计值为：的估计值为：第二节估计方法第二节估计方法例例6 6 设总体设总体X X有均值有均值和方差和方差 ，今有，今有6 6个随机样本个随机样本的观察数据为：的观察数据为：-1.20,0.82,0.12,0.45,-0.85,-0.30-1.20,0.82,0.12,0.45,-0.85,-0.30求求和和 的矩估计量的矩估计量. . 22解解: :参数参数 是二维的是二维的. . 因为因为2,222221)()()()(XEXDXEXE2221211mXnmXnii261i2i2XXn1X50. 016. 02第二节估计方法第二节估计方法例例7 7 设设 是来自是来自( (1,2) ) 上均匀分布样本上均匀分布样本, ,1 00未知未知, ,求求得极大似然估计得极大似然估计 12,nXXX解解:总体总体X的密度函数为：的密度函数为：似然似然函数为：函数为：因此只能求函数因此只能求函数L()得最大值点得最大值点. ., 00, 00,1)(其他xxf 处处间间断断, ,在在nXL 的的极极大大似似然然估估计计量量. .是是 估估计计值值. .的的极极大大似似然然是是 达达到到最最大大值值. .所所以以时时当当 减减少少而而递递增增, ,随随当当因因为为nX,1, 0 nnnnxLXLXL时第二节估计方法第二节估计方法解：解： 总体总体X X服从参数为服从参数为的指数分布，则有的指数分布，则有 000)(xxexfx所以似然函数为所以似然函数为: : niixneL1)(niixnL1ln)(ln0)(ln1niixnLddxxnnii11XXnnii11取对数取对数 令令 解得解得的极大似然估计值为的极大似然估计值为 极大似然估计量为极大似然估计量为 第三节点估计的优良性第三节点估计的优良性 对于同一个未知参数对于同一个未知参数, ,不同的方法得到的估计量可能不不同的方法得到的估计量可能不 同同, ,怎么判别出哪一个怎么判别出哪一个“更佳更佳”呢？呢？应该选用哪一种估计量应该选用哪一种估计量? ?用何标准来评价一个估计量的好坏用何标准来评价一个估计量的好坏? ?常用常用标准标准(1) 无偏性(2) 有效性(3) 相合性 估计量的评选标准估计量的评选标准无偏性无偏性定义定义 设设 是参数是参数 的一个估计量，若的一个估计量，若 成立，则称成立，则称 是是 的的无偏估计量。无偏估计量。 E如：设如：设 是一随机变量，是一随机变量， 是它的一个样本。是它的一个样本。X12,.nXXX因为因为 1111nniiiiE XEXEXE Xnn所以样本均值是总体均值的无偏估计量。所以样本均值是总体均值的无偏估计量。 1-n n-n n 222221212nXnDXnEXEXXEniinii第三节点估计的优良性第三节点估计的优良性2 21212 XnXXXniinii例例10 是总体均值是总体均值的无偏估计；样本方差的无偏估计；样本方差 不是总体方差不是总体方差 的无偏估计。的无偏估计。2121niiXXnSX证明：证明：2221nnSE而而, ,所以是有偏估计所以是有偏估计. . 考虑：考虑：若使用修正样本方差若使用修正样本方差 是不是无偏估计？是不是无偏估计？21211niiXXnS第三节点估计的优良性第三节点估计的优良性例例11 11 均匀分布均匀分布R(0,R(0,) )的参数的参数的极大似然估计的极大似然估计 但但不是不是的无偏估计的无偏估计. . ,nX 的的分分布布函函数数为为相相互互独独立立，X Xn nn1X, XininXX 1maxxxxxxF , 10 ,0 ,0, 分分布布函函数数为为解解: : 00 1, 其其他他 因因为为xxf第三节点估计的优良性第三节点估计的优良性其其他他 00 ,1xnxxgnn xxxxXPxXPxXPxXxXxXPxXPxGnnnnn 10 0 x0 ,2121 101nndxnxxEnn故故X(n)X(n)的密度函数的密度函数例例4 4 设总体设总体 X X 的密度函数为的密度函数为证证 )(1XEEX故故)()(XEXE是是 的无偏估计量的无偏估计量.X00, 01);(xxexfx0为常数X与与,min21nXXXn 都是都是 的无偏估计量的无偏估计量.证明证明),(21nXXX为为 X 的一个样本的一个样本,min21nXXXZ令令000)(zenzzfnzZ即nZEnEZ)(0100zeznz)(nZE故故n Z 是是 的无偏估计量的无偏估计量.)()()(121zXPzXPzXPnniizXP1)(1 (1),(1)(21zXzXzXPzFnZ第三节点估计的优良第三节点估计的优良都是总体参数都是总体参数g( ) 的无偏估计量的无偏估计量, 且且)()(21gDgD则称则称 比比 更有效更有效.1 g2 g定义定义 设有效性有效性),(2122nXXXgg 参数的无偏估计可以很多，如何在无偏估计中进行选择？参数的无偏估计可以很多，如何在无偏估计中进行选择？直观的想法是希望该估计围绕参数真值的波动越小越好，波直观的想法是希望该估计围绕参数真值的波动越小越好，波动大小可以用方差来衡量，因此人们常用无偏估计动大小可以用方差来衡量，因此人们常用无偏估计的方差的大小来度量无偏估计优劣的标准，这就是有效性。的方差的大小来度量无偏估计优劣的标准，这就是有效性。 ),(2111nXXXgg定义定义第三节点估计的优良第三节点估计的优良故得故得例例 设总体设总体 X X 的密度函数为的密度函数为哪个估计更有效？哪个估计更有效？00, 01);(xxexfx0为常数X与与,min21nXXXn 都是都是 的无偏估计量的无偏估计量.所以,X比,min21nXXXn更有效. .221),min(nXXXnDnXD2)(解解 ，例例6 6 设总体 X，且 E( X )= , D( X )= 2 ),(21nXXX为总体 X 的一个样本证明iniiXc11是 的无偏估计量(2) 证明X比iniiXc11更有效证证 (1) niiiniicXEcE111)()(. 11niic., 2 , 11ninci(1) 设常数(2) niiiniicXDcD122121)()(而ncnii112)(1) (12DnDniinjijiniicnccc1212212)(结论结论算术均值比加权均值更有效. . njijiniiniicccc1122121例如 X N( , 2 ) , ( X 1 ,X 2 ) 是一样本. .213212211212143413132XXXXXX都是 的无偏估计量由上例结论3最有效. .第三节点估计的优良第三节点估计的优良 我们知道，点估计是一个统计量，因此它是一个随机我们知道，点估计是一个统计量，因此它是一个随机变量，在样本量一定的条件下，我们不可能要求它完全等变量，在样本量一定的条件下，我们不可能要求它完全等同于参数的真实值。但是随着样本容量的不断增大时，同于参数的真实值。但是随着样本容量的不断增大时， 与与g()越来越接近，以至于最后完全重合越来越接近，以至于最后完全重合.nXXXg21,定义定义 设设 是总体参数是总体参数g( ) 的估计量的估计量. ),( 21nXXXgg若对于任意的若对于任意的 , , 当当n n 时时, , g 依概率收敛于依概率收敛于g( ) , 即即,0 0)(limggPn则称则称估计量估计量g 具有具有相合性相合性. 相合性估计量相合性估计量仅在样本容量仅在样本容量n n 足足够大时够大时, ,才显示其才显示其优越性优越性. .相合性相合性第三节点估计的优良第三节点估计的优良 相合估计量的意义在于：只要样本容量足够大，就可以相合估计量的意义在于：只要样本容量足够大，就可以使相合估计量与参数真实值之间的差异大于使相合估计量与参数真实值之间的差异大于的概率足够的概率足够地小，也就是估计量可以用任意接近于的概率把参数真地小，也就是估计量可以用任意接近于的概率把参数真实值估计到任意的精度实值估计到任意的精度. . 相合性是点估计的大样本性质，指的是：这种性质是针相合性是点估计的大样本性质，指的是：这种性质是针对样本容量对样本容量 而言，对于一个固定的样本容量而言，对于一个固定的样本容量n n，相，相合性是无意义的合性是无意义的. . 与此相对，无偏性和有效性的概念是对固定的样本而与此相对，无偏性和有效性的概念是对固定的样本而言，不需要样本容量趋于无穷，这种性质也称为言，不需要样本容量趋于无穷，这种性质也称为“小样本小样本性质性质”. .n第三节点估计的优良第三节点估计的优良例例12 12 设总体有正态分布设总体有正态分布 则修正样本方差则修正样本方差是是 的相合估计。的相合估计。,2N2S2证明：证明：112122nXXnii) 1(21122nXXDnii244224122121) 1(2112nnnnXXDSDnii012, 0n242222nSDSP对对当当，时2)(2SE因为因为由切比雪夫不等式得由切比雪夫不等式得结论得证结论得证. . 0limgDn02limSDn证明相合性只需证明证明相合性只需证明00, 01);(xxexfXx证明证明 是是 的无偏、有效、相合估计量的无偏、有效、相合估计量.X53 结束语结束语