《应用统计PPT.ppt》由会员分享,可在线阅读,更多相关《应用统计PPT.ppt(30页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、应用统计PPT现在学习的是第1页,共30页点估计点估计总体未知参数的点估计思想总体未知参数的点估计思想:点估计的经典方法是点估计的经典方法是与与.现在学习的是第2页,共30页 nikikXnA11 矩估计法(简称矩估计法(简称“矩法矩法”)同时定义样本矩同时定义样本矩现在学习的是第3页,共30页 ),(),(1221112211nnXXXXAA 矩法矩法 用样本矩用样本矩Ak 作为总体同阶矩作为总体同阶矩k 的近似的近似,得得出未知参数的估计出未知参数的估计(k 由未知参数个数决定由未知参数个数决定).即即的的矩估计可记为矩估计可记为M 现在学习的是第4页,共30页解解:)(1XE dxxxf
2、),;(dxexx1 niiXnA111)(22XE dxexx12 2A X 2222 niiXn121 X 2222 niiXn1212121XXnniiM 2121XXnXniiM 现在学习的是第5页,共30页2.极大似然估计法极大似然估计法理论依据(背景)理论依据(背景)单参数情形单参数情形.)(L1xXP 2xXP nxXP);();();(21 nxpxpxp 未知的未知的不论如何变化不论如何变化,均应使均应使L()达最大值。达最大值。)(L);();();(21 nxfxfxf或或x1x2 xn现在学习的是第6页,共30页现在学习的是第7页,共30页极大似然估计法一般情形极大似然
3、估计法一般情形为该总体的为该总体的似然函数似然函数.极大似然估计法:作似然函数,求极值点极大似然估计法:作似然函数,求极值点.nimimmiidnxFLxFxx12121211),;(),(),;(,称称设设样样本本观观察察值值.),(max),(),1(2121LjMLEjjjmmjLLmj 或或记为记为的极大似然估计的极大似然估计为为则称则称使得使得若有若有 现在学习的是第8页,共30页 若似然函数可导若似然函数可导,且能由导数等于零解出未知参数且能由导数等于零解出未知参数,则则可由下列方程(组)可由下列方程(组),0),(1 jmL ),(1nLjLjXX 解出似然估计解出似然估计或或0
4、),(ln1 jmL 由似然方程解不出由似然方程解不出j 的似然估计时,可通过放大缩小的似然估计时,可通过放大缩小的方法直接推求。的方法直接推求。现在学习的是第9页,共30页解解:niixfL1),;(),(设设x1,xn是来自总体是来自总体X的样本,作的样本,作 11xe nxe1 0 0 1,x 1,x),1(,nixi ),1(,nixi 某某 niixne1)(1 ),1(,nixi niixnL1)(1ln),(ln 现在学习的是第10页,共30页 Lln niixn12)(1 得得 niixn1)(1 niixn11 Lln n0lnL(,)关于关于单增单增,但但),1(nixi
5、),1(nixi 所以所以,min1nMLExx niMLEiMLExn11 niixnL1)(1ln),(ln 0 现在学习的是第11页,共30页极大似然估计法数值求解方法:极大似然估计法数值求解方法:说明:说明:事实上,除去少数总体和样本分布都比较简单的场合外事实上,除去少数总体和样本分布都比较简单的场合外,在绝大多数情况下,在绝大多数情况下,极大似然估计的似然方程的解往往极大似然估计的似然方程的解往往没有解析表达式没有解析表达式。例如总体为伽马分布,其中参数未知的。例如总体为伽马分布,其中参数未知的时候,似然方程没有解析解。在这种情况下要用数值方法时候,似然方程没有解析解。在这种情况下要
6、用数值方法求求解似然方程的数值解解似然方程的数值解或者近似解。这里我们简单介绍一下广泛应或者近似解。这里我们简单介绍一下广泛应用于似然方程数值解的方法:牛顿用于似然方程数值解的方法:牛顿-拉夫森算法。拉夫森算法。现在学习的是第12页,共30页牛顿牛顿-拉夫森算法:拉夫森算法:1 1)标准形式:)标准形式:2 2)梯度和)梯度和HissianHissian矩阵矩阵 梯度是一个函数变化率最大的方向,它是由一阶梯度是一个函数变化率最大的方向,它是由一阶偏导数形成的向量:偏导数形成的向量:当当 称为驻点称为驻点TnxfxfxfXf ,)(210)(Xf现在学习的是第13页,共30页HissianHis
7、sian矩阵是所有的二阶偏导数形成的矩阵:矩阵是所有的二阶偏导数形成的矩阵:221222222122122122122)()(nnnnxfxxfxxfxfxxfxxfxxfxfXfXH现在学习的是第14页,共30页3 3)牛顿牛顿-拉夫森流程拉夫森流程现在学习的是第15页,共30页估计量的评选标准估计量的评选标准 无偏性无偏性 例例 设总体为设总体为X,其均值,其均值,方差方差20都存在未知,问都存在未知,问的估计量的估计量 ,2的估计量的估计量 ,分别是否为分别是否为,2的无偏估计的无偏估计.X niiXXnS122)(11 niiXXn1221.,)(,),(1的无偏估计量的无偏估计量是是
8、则称则称若若的估计量的估计量为为设设 EXXn现在学习的是第16页,共30页所以所以 E(Xi)=,V(Xi)=2,(i=1,n)E(Xi2)=V(Xi)E(Xi)2E(Xi1Xi)2 =222222=22),(,221 NXXXiidn解解:E(T)=2 1121)(niiiXXEC22)1(nC C=E(Xi12)2E(Xi Xi1)E(Xi 2)=22)1(21 n现在学习的是第17页,共30页 有效性有效性现在学习的是第18页,共30页 相合性相合性n无偏性与有效性都是基于样本容量无偏性与有效性都是基于样本容量n固定的前提下提出固定的前提下提出的,我们希望随着样本容量的增大,一个估计量
9、的值的,我们希望随着样本容量的增大,一个估计量的值趋向于待估参数的真值。趋向于待估参数的真值。设设 为参数为参数 的一个估计量,若对于其变化范围内的任的一个估计量,若对于其变化范围内的任意一个意一个 ,当,当 时,时,依概率收敛于依概率收敛于 ,则称,则称 为为 的相合估计量。的相合估计量。n现在学习的是第19页,共30页 区间估计区间估计 121P总体未知参数的区间估计思想总体未知参数的区间估计思想:区间估计概念区间估计概念现在学习的是第20页,共30页一、区间估计的步骤:一、区间估计的步骤:找待估参数的最好找待估参数的最好(无偏无偏)估计估计;由最好估计构造含待估参数、不含未知参数、分布由
10、最好估计构造含待估参数、不含未知参数、分布已知的统计量已知的统计量Z;定两个常数定两个常数a,b,使使PaZb=1-且且(a,b)最短最短;由由aZb 解出解出12,(,(1,2)为所求为所求.有数据时,数据代入得到具体的置信区间有数据时,数据代入得到具体的置信区间.区间估计的理论依据(背景)区间估计的理论依据(背景)二、双二、双正态总体均值差与方差比的置信区间正态总体均值差与方差比的置信区间现在学习的是第21页,共30页现在学习的是第22页,共30页解解:(1):(1)的的无无偏偏估估计计分分别别是是21,YX的的无无偏偏估估计计是是213-23-2 YX),(,),(222211nNYmN
11、X 32YX niniiiiiniiiiiiaaNXaniNX112212),(),1(),(独独立立nm222194 N(),3221 现在学习的是第23页,共30页)1,0(94)32(32222121NnmYX )1,0(),(2NXNX 则则若若Z=0 xab 1 221ZZZP由由得得2132的置信度为的置信度为1的置信区间是的置信区间是)9432(22212nmZYX 数据代入数据代入1-N(0,1)现在学习的是第24页,共30页的的无无偏偏估估计计是是213-23-2 YX)1,0(94)32(32221NnmYX (2),)1()1(22121 mSm 由由)1()1(2222
12、2 nSn 2)1()1(94)32(32222221221 nmSnSmnmYX 所以所以 t(m+n-2)2()1()1(2222221 nmSnSm 有有Z=现在学习的是第25页,共30页)2(2)1()1(94)32(32222121 nmtnmSnSmnmYXZ 0 xab1-t(m+n-2)1)2()2(221nmtZnmtP由由得得2132的置信度为的置信度为1的置信区间是的置信区间是数据代入数据代入)2)1()1(94)2(32(22212 nmSnSmnmnmtYX f(x)现在学习的是第26页,共30页解解:(1):(1)的的无无偏偏估估计计分分别别是是22212221,S
13、S的的最最好好估估计计是是222122213232 SS,)1()1(22121 mSm 由由)1()1(22222 nSn 现在学习的是第27页,共30页1)1(1)1(22222121 nSnmSm 有有21222221 SS 22212122 SS212223SS)1,1(mnFZ=0 xF(n-1,m-1)1-ab得得212/322 的置信度为的置信度为1的置信区间是的置信区间是 1)1,1()1,1(221mnFZmnFP由由 )1,1(32),1,1(3222221212221mnFSSmnFSS f(x)数数据据代代入入222132 现在学习的是第28页,共30页12222212(2),SS分别是的无偏估计122222122323SS是的最好估计12221(),mSm由22222()nSn12221222mSmnSn有12222221SS),(nmF122111miiSXm222211niiSYn现在学习的是第29页,共30页21221222SS212212223223SS),(mnFZ=0 xF(n,m)1-ab 得得212/322 的置信度为的置信度为1的的置信区间是置信区间是 1 ),(),(221mnFZmnFP由由1122222212222(,),(,)33SSFn mFn mSSf(x)数据代入数据代入现在学习的是第30页,共30页
限制150内