概率统计-样本及抽样分布.pptx

《概率统计-样本及抽样分布.pptx》由会员分享，可在线阅读，更多相关《概率统计-样本及抽样分布.pptx（72页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第七章 参数估计1 点估计1 点估计是待估参数。的形式为已知，的分布函数设总体);(xFX是相应的样本值。的一个样本，是nnxxXXX11点估计问题：。来估计未知参数，用它的观察值构造一个适当的统计量),(),(11nnxxXX。估计值为；称估计量的为我们称),(),(11nnxxXX返回主目录第七章 参数估计1 点估计1. 矩估计法),;(),;(11kkxPxXPXxfX分布列为为离散型随机变量，其概率密度为为连续型随机变量，其设的样本。为来自，是待估参数其中XXXnk,11存在。设., 2 , 1,klEXllnililXnA11则klAll, 1,令。，从中解出方程组的解的联立方程组，

2、个未知参数这里是包含kkk11。矩估计法估计量的方法称为的估计量，这种求，分别作为，用kk11返回主目录第七章 参数估计 这种估计量称为矩估计量；矩估计量的观察值称为矩估计值。例 1 设某炸药厂一天中发生着火现象的次数X服从 （用矩法）。试估计参数未知，有以下样本值；的泊松分布，参数为 250126225490756543210knkk次着火天数发生着火的次数niiXXnAEX1111解：22. 1) 16901750(2501 ,xX则令返回主目录第七章 参数估计1 点估计。估计值所以22. 1,X样本；是一个未知；设总体例nXXbabaUX,. 21的矩估计量。求：ba,21baEX解：n

3、iiXnAba1112令niiXnAbaab1222214)(12)(4)(12)()( 22222baabEXDXEX返回主目录第七章 参数估计1 点估计)(12,22121AAabAba即niiniiXXnXAAAbXXnXAAAa122121122122)(3)( 3 )(3)( 3解得：返回主目录第七章 参数估计是一个样本；未知，又设，但都存在，且，方差的均值设总体例nXXX, , 0. 3122的矩估计量。求：2,222221)( ,EXDXEXEX解：,2211AA令,2221AA即,1XA 所以212122122)(11XXnXXnAAniinii返回主目录第七章 参数估计1 点

4、估计未知；特别，若22, ),N(X niiXXnX122)(1,则2. 极大似然估计法可能取值的范围。是为待估参数，的形式为已知，属离散型，其分布律若总体),;().1 (xpxXPX的联合分布律：的样本；则是来自设nnXXXXX,11niixp1);(的一个样本值；是又设nnXXxx,11发生的概率为：事件的概率，亦即取易知样本,1111nnnnxXxXxxXX返回主目录第七章 参数估计1 点估计) 1 . 1 (., );();,()(11niinxpxxLL。似然函数称为样本的的函数。它是)(L使得：即取的估计值，作为达到最大的参数挑选使概率定由极大似然估计法：固);,(;, 11nn

5、xxLxx)2 . 1 ();,(max);,(11nnxxLxxL。极大似然估计值的称其为参数有关，记为与);,(,11nnxxxx。极大似然估计量的称为参数),(1nXX第七章 参数估计1 点估计;),;().2(为待估参数的形式已知，属连续型，其概率密度若总体xfX的联合密度：则nXX,1niixf1);(似为：维立方体）内的概率近的的邻域（边长分别为落在机点的一个样本值，则随是相应设ndxdxxxXXXXxxnnnnn,),(),(,11111)3 . 1 ( );(1iniidxxf取到最大值。，使概率的估计值我们取) 3 . 1 (第七章 参数估计1 点估计而变，故只需考虑：不随但

6、iidx)4 . 1 ( , );();,()(11niinxfxxLL。似然函数称为样本的的最大值，这里)(L);,(max);,( 11nnxxLxxL若。极大似然估计值的为则称),(1nxx 。极大似然估计量的为称),(1nXX. 0)( );(),;(ddLxfxp可由下式求得：可微，故关于一般，返回主目录第七章 参数估计(1.5) . 0)(ln )(ln)(LddLL也可从下述方程解得：大似然估计的极处取到极值，因此在同一与又因个参数，若母体的分布中包含多., 1, 0ln., 1, 0kiLkiLii或即可令的极大似然估计值。个方程组求得解kk,11 点估计返回主目录第七章 参数

7、估计的一个样本，是来自设例XXXpBXn,);, 1 (. 41试求参数p的极大似然估计量。的分布律为：是一个样本值。解：设Xxxn,1; 1 , 0,)1 (1xppxXPxx故似然函数为,)1 ()1 ()(1111niiniiiixnxxxnipppppL).1ln()(ln)()(ln11pxnpxpLniinii而. 01)(ln11pxnpxpLdpdniinii令返回主目录第七章 参数估计1 点估计xxpnii1n1p 的极大似然估计值解得XXpnii1n1p 的极大似然估计量为-它与矩估计量是相同的。返回主目录第七章 参数估计的一个样本值，是来自为未知参数，设例XxxNXn,)

8、;,(. 5122的极大似然估计量。求：2,的概率密度为：解：X)(21exp21),;(222xxf似然函数为：niixL1222)(21exp21),(niixnnL122)(21)ln(2)2ln(2ln返回主目录第七章 参数估计0)()2(12n-01 0ln0ln21222122niiniixnxLL即：令niiniiXXnxxn1221)(1 1解得：1 点估计返回主目录第七章 参数估计是一个样本值，未知，设例nxxbabaUX,;,. 61的极大似然估计量。求：ba,),max(),min(1)(1)1(nnnxxxxxx解：设X的概率密度为：其它 , 0;,1),;(bxaab

9、baxf,)()1(1bxxabxxann等价于因为其它 , 0;,)(1),()()1(nnxbxaabbaL返回主目录第七章 参数估计1 点估计有的任意对于满足baxbxan,)()1(nnnxxabbaL)(1)(1),()1()(nnnxxxbxabaL)(,),()1()()()1(时，取最大值在即：的极大似然估计值为：故ba,max,min)()1(inixxbxxa的极大似然估计量为：故ba,max,miniiXbXa返回主目录第七章 参数估计的极大似然估计。是则的极大似然估计；是具有单值反函数，的函数设性质：)()( ),( uuuuu的极大似然估计是例：niiXXn122)(

10、1)0( ,)(2222uuuu有单值反函数的极大似然估计是故 )(1122niiXXn返回主目录第七章 参数估计2 估计标准2 估计量的标准.),(. 11EXXn且的数学期望存在，无偏性：若的无偏估计量。是则称).D()D( ),(),(. 221122111的无偏估计量；若都是，有效性：若nnXXXX有效。较则称21. ),(. 311pnnXX时，当若对于任意的估计量为参数一致性：若的一致估计。是则称返回主目录第七章 参数估计3 区间估计3 区间估计 区间估计要求根据样本给出未知参数的一个范围，并保证真参数以指定的较大概率属于这个范围。1. 置信区间与置信度使得：找出统计量；对于样本含

11、一待估参数定义：设总体,),2 , 1)(,(,2111ixxxxXniin) 10(,121P。置信度为该区间的，置信区间的为，称区间121的可能性。表示该区间不包含真值的可靠程度。值给出该区间含真是一个随机区间；，区间121返回主目录第七章 参数估计个左右。真值的有个左右，不包含真值的有个区间中包含次，则在得到的这时重复抽样，即置信度为例如：若595100100%.951%5通常，采用95%的置信度，有时也取99%或90%2. 均值的区间估计。，的置信区间下，来确定在置信度的一个样本。为总体设1),(,2121NXxxn(1). 已知方差，估计均值。点估计，又知道的一个是，且知道设已知方差

12、) 1 , 0(/101202Nnxuxnxnii3 区间估计返回主目录第七章 参数估计.1 :12121uP，使得，值临界，查正态分布表，找出对于给定的置信度-1|u P| ,21使：称区间；通常我们取对，由此可找出无穷多组即：-1-x P-0n3 区间估计返回主目录第七章 参数估计，得：找出查正态分布表, 2/1)(0)-x(- n，可知：由由正态分布表的构造，1| tPx,-x 00nn推得，随机区间：。的概率包含它以1返回主目录第七章 参数估计3 区间估计例6. 已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为： 115,120,131,115,109,115

13、,115,105,110cm;；，置信度为假设标准差%9570的置信区间。试求总体均值由样本值算得：解：已知.05. 0, 9, 70n.115)110120115(91x，由此得置信区间：查正态分布表得临界值96. 157.119,43.1109/796. 1115,9/796. 1115返回主目录第七章 参数估计(2). 未知方差，估计均值niixxn1222)(11S ，这时可用样本方差：由于未知方差nSx/ t而选取样本函数：则随机变量t服从n-1个自由度的t分布。3 区间估计，使得：与分布表，得临界值，查对于给定的211t，121tP，使得：我们仍然取成对称区间1| ,tP返回主目录

14、第七章 参数估计.), 1(找出分布表查nttnS /-x- 其中，n是样本容量，n-1是表中自由度；由此得：，可知：与分布表的构造，比较由1|tPtPt，即1/ nSxP3 区间估计返回主目录第七章 参数估计3 区间估计x,-x nSnS推得，随机区间：。的概率包含它以1例7. 用仪器测量温度，重复测量7次，测得温度分别为： 115,120,131,115,109,115,115,105,110cm; 设温度。),(2NX在范围。时，试求温度的真值所在置信度为%95是测量值。是温度的真值，解：设X由样本值算得：已知.05. 0, 7n.29. 1, 8 .1122Sx返回主目录第七章 参数估

15、计3 区间估计。由此得置信区间：得临界值查447. 2)05. 0 , 6(t85.113,75.111729. 1447. 28 .112,729. 1447. 28 .1123. 方差的区间估计的一个样本。为总体设),(,21NXxxn的一个点估计是我们知道2122)(11niixxnS分布。自由度的个服从并且知道样本函数：2221) 1(nSn返回主目录第七章 参数估计，使得：与分布表，得临界值，查对于给定的2121，121P，即，用使概率对称的区间：分布无对称性，我们采由于1) 1( 2/ 2221212SnPPP，可知：与分布表的构造，比较由12122PP3 区间估计返回主目录第七章

16、 参数估计。找出布表分而查找出分布表查1222,)2/, 1(,.,)2/, 1(nn其中，n是样本容量，n-1是表中自由度；由此得：3 区间估计2221) 1(- Sn返回主目录第七章 参数估计3 区间估计12222) 1() 1(SnSn推得：这就是说，随机区间：，而随机区间的概率包含以211222) 1(,) 1(SnSnSnSn121,1.1的概率包含以 返回主目录第七章 参数估计例8. 设某机床加工的零件长度，),(2NX今抽查16个零件，测得长度（单位：mm）如下：12.15, 12.12, 12.01, 12.08, 12.09, 12.16, 12.03, 12.01, 12.

17、06, 12.13, 12.07, 12.11, 12.08, 12.01, 12.03, 12.06,在置信度为95%时，试求总体方差 的置信区间。2由样本值算得：解：已知.05. 0,16n.00244. 02S由此得置信区间：得查得查. 5 .27)025. 0 ,15(;26. 6)975. 0 ,15(22120058. 0 ,0013. 026. 600244. 015,5 .2700244. 015返回主目录1 给出了点估计的概念，要掌握矩估计法、极大似 然估计法。2 了解估计量的评选标准（无偏性、有效性、一致 性）。作业：第七章 小 结返回主目录. 7 , 6 , 3 , 2

18、, 1183P1 大数定律第五章 大数定律及中心极限定理1.大数定律 在实践中，不仅事件发生的频率具有稳定性，还有大量测量值的算术平均值也具有稳定性。设,1nXX是随机变量序列，令nkknXnY11，若存在常数序列,1naa使对任意0，有 1|limnnnaYP，或0|limnnnaYP，定义1： 设 是随机变量序列， 是一个常数；若对任意 ，有: 则称 依概率收敛于 ，记为 。,1nYY01|limaYPnn,1nYYaYPnaa定义2：则称nX服从大数定律。返回主目录1 大数定律第五章 大数定律及中心极限定理定理2（切比晓夫定理的特殊情况）设随机变量,1nXX相互独立，且具有相同的数学期望

19、及方差，, 2 , 12kDXEXkk 令nkknXnY11，则：对任意的0，有:1|1|lim|lim1nkknnnXnPYP或0|1|lim1nkknXnP 若aPnX，bPnY， 在点 连续， 则：),(),(bagPnYnXg。),(yxg),(ba定理1：返回主目录证：nknkknkknEXnXnE11111)1(222121111)1(nnnDXnXnDnkknkk1|1|1nkkXnPn时，当。1 大数定律第五章 大数定律及中心极限定理由切比晓夫不等式得：2211|1|nXnPnkk返回主目录证：令nkAkAkXk, 2 , 110，发生次试验中，在第不发生次试验中，在第定理 3

20、（贝努里大数定律）设An是 n 次独立重复试验中事件 A 发生的次数，p 是事件 A 发生的概率，则：对任意的0，有1|limpnnPAn 或 0|limpnnPAn故 ,2, 1)1(nkppDXpEXkk，1|1|lim1pXnPniin,1 大数定律第五章 大数定律及中心极限定理由定理2有即 1|limpnnPAn。此定理说明了频率的稳定性此定理说明了频率的稳定性。则nkkAXn1，且nXX,1相互独立同服从于 分布) 10( 定理 4（辛钦大数定律）设,1nXX相互独立同分布，且具有数学期望, 2 , 1nkEXk，则：对任意的0，有1|1|lim1niinXnP1 大数定律第五章 大

21、数定律及中心极限定理注：注：贝努里大数定律是辛钦大数定律的特殊情况。贝努里大数定律是辛钦大数定律的特殊情况。返回主目录2 中心极限定理第五章 大数定律及中心极限定理2.中心极限定理定义：设,1nXX是独立的随机变量序列，kkDXEX ，存在，令：nkknkknkknDXEXXZ111/ )(，若对任意1Rx，有xtnndtexZP2221lim。则称nX服从中心极限定理。返回主目录2 中心极限定理第五章 大数定律及中心极限定理 （独立同分布的中心极限定理）设,1nXX是独立同分布的随机变量序列，且), 2 , 1( , 02kDXEXkk，则nX服从中心极限定理，即： xtnkkndtexnn

22、XP21221lim定理1返回主目录则nX服从中心极限定理，即：xtnkkknkkndtexDXXP211221)(lim2 中心极限定理第五章 大数定律及中心极限定理定理2 （李雅普诺夫定理），若存在正数，设，相互独立，且设,), 2 , 1(, 0,12221nkknkkkknBkDXEXXX0|1 122nkkknXEBn时，使得当(Liapunov定理)返回主目录证：nkknX1，第五章 大数定律及中心极限定理则对于任意 ，恒有：xtnndtexnpqnpP2221limx)1(pq由定理1有结论成立。其中nXX,1相互独立且都服从于 分布。 pqDXpEXkk，。(0-1)定理3（德

23、莫佛-拉普拉斯定理）), 2 , 1(nn设随机变量 服从参数为n,p(0p1)的二项分布).,(pnBn，即xtnkkndtexnnXP21221lim(De Moivre-Laplace)2 中心极限定理第五章 大数定律及中心极限定理推论：), 2 , 1(nn设随机变量 服从参数为 n , p (0p105近似值。解：)20, 2 , 1(121052kDVEVkk，由定理 1知：第五章 大数定律及中心极限定理例5 一加法器同时收到20个噪声电压 ，设它们是互相独立的随机变量，且都在区间(0,10)上服从均匀分布，记 )20, 2 , 1(kVk201kkVV2012/10520-105

24、2012/10520-VP105PV22387. 020)12/10(100-VP1387. 020)12/10(100-VP348. 0)387. 0(1返回主目录1 引进了大数定律的概念，要了解大数定律的意 义和内容，理解贝努里、辛钦大数定律，了解 契比雪夫大数定律。2 阐述了中心极限定理的含义及其客观背景，要 掌握独立同分布的中心极限定理和德莫佛-拉普 拉斯定理， 会利用中心极限定理解决一般实际 应用问题。作业：第五章 小 结返回主目录. 8 , 7 , 6 , 3 , 1139P1 随机样本第六章 样本及抽样分布1 随机样本总体：研究对象的某项数量指标的值的全体。个体：总体中的每个元素

25、为个体。定义：设X是具有分布函数F的随机变量，若nXX,1是具有同一分布函数F的相互独立的随机变量，则称 为从总体X中得到的容量为n的简单随机样本，简称为样本，其观察值 称为样本值。nxx,1nXX,1例如：某工厂生产的灯泡的寿命是一个总体，每一个灯泡的寿命是一个个体；某学校男生的身高的全体一个总体，每个男生的身高是一个个体。返回主目录1 随机样本第六章 样本及抽样分布由定义知：若 为X的一个样本，则 的联合分布函数为：nXX,1nXX,1niinxFxxF11*)(),(若设X的概率密度为f，则的联合概率密度为：nXX,1niinxfxxf11*)(),(返回主目录 抽样分布第六章 样本及抽

26、样分布2 抽样分布1. 定义：设为来自总体X的一个样本，g 是的函数，若g是连续函数，且g中不含任何未知参数；nXX ,1nXX ,1),(1nXX 是一个统计量。则称),1(nXXg的观察值。是则称),(),(11nnXXgxxg 注：统计量是随机变量。的样本值。是相应于样本),(1nXX nxx ,1设返回主目录 抽样分布第六章 样本及抽样分布例1设为来自总体 的一个样本，nXX ,1),(2NX已知，未知其中2, 问下列随机变量中那些是统计量.)(;)(;2);,min(12211121nnXXXXnXXXXXXXnnnnn2. 常用的统计量niiXnX11样本均值：niiniiXnXn

27、XXnS12212211)(11样本方差：返回主目录 抽样分布第六章 样本及抽样分布niiXXnSS122)(11样本标准差：, 2 , 11)(1kXnAknikik矩：原点阶样本, 2 , 1)(11kXXnBknikik阶中心矩：样本它们的观察值分别为：niixnx1111)(11122122niiniixnxnxxns返回主目录第六章 样本及抽样分布 抽样分布niixxns12)(112 , 1,11kxnanikik2 , 1,)(11kxxnbnikik分别称为样本均值、样本方差、样本标准差、样本k阶矩、样本k阶中心矩。统计量是样本的函数，它是一个随机变量，统计量的分布称为抽样分布

28、。返回主目录第六章 样本及抽样分布 抽样分布结论：设为来自总体 的一个样本，nXX ,1,2DXEX则.)21.,129222习题（参看PESnXDXEX返回主目录第六章 样本及抽样分布3. 常用统计量的分布分布2) 1 (的样本，为来自于正态总体设) 1 , 0(),(1NXXn 抽样分布2212nXX则称统计量：)(222nn记为分布。的是所服从的分布为自由度分布的性质：2独立，则有，且2221222212210),(),(.1nn)(2122221nn 返回主目录第六章 样本及抽样分布nDnE2,.2220 抽样分布) 1 , 0(, 1, 0NXDXEXiii证：niEXEXDXiii

29、, 2 , 1, 213)(2242.)(12122nEXXEEniinii所以.2)(12122nDXXDDniinii, 12iEX返回主目录第六章 样本及抽样分布 抽样分布)() 10(22nP，称满足条件：对于给定的。分位点上分布的为的点)()(22nn2分位点。是标准正态分布的上充分大时，当znznn22)12(21)(返回主目录第六章 样本及抽样分布 抽样分布分布t)2().(T ,),(),1 , 0(2ntTtnnYXYXnYNX分布，记作的是所服从的分布为自由度称随机变量独立，则)() 10(nttP，称满足条件：对于给定的。分位点上分布的为的点tnt)()()(1ntnt：

30、由概率密度的对称性知.)(45zntn时，当)(nt)(1nt返回主目录第六章 样本及抽样分布).,(/1),( F1221nnFFnnF则若),(/1),(12211nnFnnF结论：),() 10(21nnFFP，称满足条件：对于给定的。分位点上分布的为的点FnnF),(21称随机变量则 分布F) 3(独立，若YXnYnX,),(),(2212).,(,2121nnFFFnn分布，记作的是21/ FnYnX所服从的分布为自由度),(21nnF返回主目录第六章 样本及抽样分布),(11211nnFFP所以第六章 样本及抽样分布 抽样分布),(1),(),(/ 12111212nnFnnFnn

31、FF所以，又因为),(1),(12211nnFnnF即357. 080. 21)12, 9(1)9 ,12(05. 095. 0FF例：),(21nnFF证明：若),(11),(1211211nnFFPnnFFP),(111211nnFFP返回主目录第六章 样本及抽样分布第六章 样本及抽样分布(4) 正态总体的样本均值与样本方差的分布：).,().1 (2nNX221,),(,.SXNXXn的样本，是总体设) 1() 1().2(222nSn独立。与2).3(SX) 1(/ntnSX).1() 1(),1 , 0(/222nSnNnX证明：定理1方差，则有：分别是样本均值与样本定理2.返回主目

32、录第六章 样本及抽样分布 抽样分布且它们独立。则由t-分布的定义：) 1() 1() 1(/22ntnSnnX) 1(/ntnSX即：2112111,1njjniiYnYXnX设；分别是两个样本的方差212222)(11njjYYnS的样本，且它们独立。体相同方差的两个正态总分别是具有与设),(),(, 2221212121NNYYYXXXnn. 3定理。分别是两个样本的均值112121)(11niiXXnS返回主目录第六章 样本及抽样分布 抽样分布)2(112) 1() 1()()(21212122221121nntnnnnSnSnYX则有：),(221221nnNYX证：) 1 , 0(/1/1)()(2121NnnYX所以且它们独立。),1() 1(),1() 1(222222122211nSnnSn。则)2() 1() 1(21222222211nnSnSn返回主目录第六章 样本及抽样分布 抽样分布)2/() 1() 1(/1/1)()(21222222112121nnSnSnnnYXt分布的定义：由)2(112) 1() 1()()(21212122221121nntnnnnSnSnYX即：)2(21 nnt返回主目录