统计学bootstrap课程学习.pptx

《统计学bootstrap课程学习.pptx》由会员分享，可在线阅读，更多相关《统计学bootstrap课程学习.pptx（55页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、会计学1统计学统计学bootstrap第一页，共55页。2本节课内容本节课内容(nirng)n n重采样(ci yn)技术（resampling）n nBootstrapn n刀切法（jackknife）第1页/共55页第二页，共55页。3引言引言(ynyn)n n 是一个统计是一个统计(tngj)(tngj)量，或者是数据的某个函量，或者是数据的某个函数，数据来自某个未知的分布数，数据来自某个未知的分布F F，我们想知道，我们想知道 的某些性质（如偏的某些性质（如偏差、方差和置信区间）差、方差和置信区间）n n假设我们想知道假设我们想知道 的方差的方差n n如果如果 的形式比较简单，可以直接

2、用上节课学习的嵌入式估计的形式比较简单，可以直接用上节课学习的嵌入式估计量量 作为作为 的估计的估计n n例：例：，则，则n n ，其中，其中 n n ，其中，其中n n问题：若问题：若 的形式很复杂（任意统计的形式很复杂（任意统计(tngj)(tngj)量），如何计算量），如何计算/估计？估计？第2页/共55页第三页，共55页。4Bootstrap简介简介(jin ji)n nBootstrapBootstrap是一个很通用的工具，用来估计标准误差、置信区间和是一个很通用的工具，用来估计标准误差、置信区间和偏差。由偏差。由Bradley EfronBradley Efron于于1979197

3、9年提出，用于计算任意估计的标准误年提出，用于计算任意估计的标准误差差n n术语术语“Bootstrap”“Bootstrap”来自短语来自短语“toto pull oneself up by ones pull oneself up by ones bootstraps”bootstraps”（源自西方神话故事（源自西方神话故事“The Adventures of Baron“The Adventures of Baron Munchausen”Munchausen”，男爵掉到了深湖底，没有工具，所以，男爵掉到了深湖底，没有工具，所以(suy)(suy)他想他想到了拎着鞋带将自己提起来）到了

4、拎着鞋带将自己提起来）n n计算机的引导程序计算机的引导程序bootboot也来源于此也来源于此n n意义：不靠外界力量，而靠自身提升自己的性能，翻译为自助意义：不靠外界力量，而靠自身提升自己的性能，翻译为自助/自自举举n n19801980年代很流行，因为计算机被引入统计实践中来年代很流行，因为计算机被引入统计实践中来第3页/共55页第四页，共55页。5Bootstrap简介简介(jin ji)n nBootstrapBootstrap：利用计算机手段进行重采样：利用计算机手段进行重采样(ci yn)(ci yn)n n一种基于数据的模拟（一种基于数据的模拟（simulationsimula

5、tion）方法，用于统计推断。基本思想是：利用样本数据）方法，用于统计推断。基本思想是：利用样本数据计算统计量和估计样本分布，而不对模型做任何假设（非参数计算统计量和估计样本分布，而不对模型做任何假设（非参数bootstrapbootstrap）n n无需标准误差的理论计算，因此不关心估计的数学形式有多复杂无需标准误差的理论计算，因此不关心估计的数学形式有多复杂n nBootstrapBootstrap有两种形式：非参数有两种形式：非参数bootstrapbootstrap和参数化的和参数化的bootstrapbootstrap，但基本思想都是模拟，但基本思想都是模拟第4页/共55页第五页，共

6、55页。6重采样重采样(ci yn)n n通过从原始数据(shj)进行n次有放回采样n个数据(shj)，得到bootstrap样本n n对原始数据(shj)进行有放回的随机采样，抽取的样本数目同原始样本数目一样n n如：若原始样本为n n则bootstrap样本可能为第5页/共55页第六页，共55页。7计算计算(j sun)bootstrap样本样本n n重复B次，n n1.随机选择整数 ，每个整数的取值范围(fnwi)为1,n，选择每个1,n之间的整数的概率相等，均为n n2.计算bootstrap样本为：n nWeb上有matlab代码：n nBOOTSTRAP MATLAB TOOLBO

7、X,by Abdelhak M.Zoubir and D.Robert Iskander,n nMatlab函数：bootstrp第6页/共55页第七页，共55页。8Bootstrap样本样本(yngbn)n n在一次bootstrap采样中，某些原始样本可能没被采到，另外一些样本可能被采样多次n n在一个bootstrap样本集中不包含某个原始样本 的概率为n n一个bootstrap样本集包含了大约(dyu)原始样本集的1-0.368=，另外的样本没有包括第7页/共55页第八页，共55页。9模拟模拟(mn)n n假设我们从 的分布 中抽取IID样本 ，当 时，根据大数定律，n n也就是说，

8、如果我们从 中抽取大量样本，我们可以用样本均值 来近似n n当样本数目B足够大时，样本均值 与期望(qwng)之间的差别可以忽略不计第8页/共55页第九页，共55页。10模拟模拟(mn)n n更一般地，对任意均值有限的函数h，当 有n n则当 时，有n n用模拟(mn)样本的方差来近似方差第9页/共55页第十页，共55页。11模拟模拟(mn)n n怎样得到怎样得到(d do)(d do)的分布？的分布？n n已知的只有已知的只有X X，但是我们可以讨论，但是我们可以讨论X X的分布的分布F Fn n如果我们可以从分布如果我们可以从分布F F中得到中得到(d do)(d do)样本样本 ，我们可

9、以，我们可以计算计算n n怎样得到怎样得到(d do)F(d do)F？用？用 代替（嵌入式估计量）代替（嵌入式估计量）n n怎样从怎样从 中采样？中采样？n n因为因为 对每个数据点对每个数据点 的质量都为的质量都为1/n 1/n n n所以从所以从 中抽取一个样本等价于从原始数据随机抽取一个样本中抽取一个样本等价于从原始数据随机抽取一个样本n n也就是说：为了模拟也就是说：为了模拟 ，可以通过有放回地随机抽，可以通过有放回地随机抽取取n n个样本（个样本（bootstrap bootstrap 样本）来实现样本）来实现第10页/共55页第十一页，共55页。12Bootstrap：一个：一个

10、(y)重采样过重采样过程程n n重采样：n n通过从原始数据 进行有放回采样n个数据，得到bootstrap样本n n模拟：n n为了估计我们感兴趣的统计(tngj)量 n n 的方差/中值/均值，我们用 bootstrap样本对应的统计(tngj)量（bootstrap复制）近似，其中第11页/共55页第十二页，共55页。13例：中值例：中值X=(3.12,0,1.57,19.67,0.22,2.20)Mean=4.46X1=(1.57,0.22,19.67,0,0,2.2,3.12)Mean=4.13X2=(0,2.20,2.20,2.20,19.67,1.57)Mean=4.64X3=(

11、0.22,3.12,1.57,3.12,2.20,0.22)Mean=1.74第12页/共55页第十三页，共55页。14Bootstrap方差方差(fn ch)估计估计n n方差：n n其中n n注意：F为数据X的分布，G为统计(tngj)量T的分布n n通过两步实现：n n第一步：用 估计 n n插入估计，积分符号变成求和n n第二步：通过从 中采样来近似计算n nBootstrap采样+大数定律近似第13页/共55页第十四页，共55页。15Bootstrap：方差：方差(fn ch)估计估计n nBootstrap的步骤：n n1.画出n n2.计算n n3.重复(chngf)步骤1和2共

12、B次，得到n n4.（大数(d sh)定律）（计算boostrap样本）（计算boostrap复制）第14页/共55页第十五页，共55页。16例：混合例：混合(hnh)高斯模型：高斯模型：n n假设真实假设真实(zhnsh)(zhnsh)分布为分布为n n现有现有n=100n=100个观测样本：个观测样本：直接用嵌入式估计(gj)结果：第15页/共55页第十六页，共55页。17例：混合高斯例：混合高斯(o s)模型（续）模型（续）n n用用BootstrapBootstrap计算统计量计算统计量 的方差：的方差：n n1.1.得到得到B=1000B=1000个个bootstrapbootstr

13、ap样本样本 ，其中，其中(qzhng)(qzhng)n n2.2.计算计算B=1000B=1000个个bootstrapbootstrap样本对应的统计量的值样本对应的统计量的值n n 3.3.与直接用嵌入式估计得到(d do)的结果比较：第16页/共55页第十七页，共55页。18Bootstrap：方差：方差(fn ch)估计估计n n真实世界：n nBootstrap世界：n n发生了两个近似n n近似的程度与原始样本(yngbn)数目n及bootstrap样本(yngbn)的数目B有关第17页/共55页第十八页，共55页。19Bootstrap：方差：方差(fn ch)估计估计n n在

14、方差估计中，可为任意统计函数n n如均值（混合高斯(o s)模型的例子）n n中值（伪代码参见教材）n n偏度（例子参见教材）n n极大值（见后续例子）n nn n除了用来计算方差外，还可以用作其他应用n nCDF近似、偏差估计、置信区间估计第18页/共55页第十九页，共55页。20CDF近似近似(jn s)n n令 为 的CDFn n则 的bootstrap估计(gj)为第19页/共55页第二十页，共55页。21偏差偏差(pinch)估计估计n n偏差偏差(pinch)(pinch)的的bootstrapbootstrap估计定义为：估计定义为：n nBootstrapBootstrap偏差

15、偏差(pinch)(pinch)估计的步骤为：估计的步骤为：n n得到得到B B个独立个独立bootstrapbootstrap样本样本n n计算每个计算每个bootstrapbootstrap样本样本 对应的统计量的值对应的统计量的值n n计算计算bootstrapbootstrap期望：期望：n n计算计算bootstrapbootstrap偏差偏差(pinch)(pinch)：第20页/共55页第二十一页，共55页。22例：混合例：混合(hnh)高斯模型：高斯模型：n n标准误差估计n n在标准误差估计中，B为50到200之间结果(ji gu)比较稳定n n偏差估计B B10102020

16、50501001005005001000100010000100000.13860.13860.21880.21880.22450.22450.21420.21420.22480.22480.22120.22120.21870.2187B B1010202050501001005005001000100010000100005.05875.05874.95514.95515.02445.02444.98834.98834.99454.99455.00355.00354.99964.99960.06170.0617-0.0417-0.04170.02740.0274-0.0087-0.0087-

17、0.0025-0.00250.00640.00640.00250.0025第21页/共55页第二十二页，共55页。23Bootstrap置信区间置信区间n n正态区间(q jin)：n n简单，但该估计不是很准确，除非 接近正态分布n n 百分位区间(q jin)：，对应 的样本分位数n n还有其他一些计算置信区间(q jin)的方法n n如枢轴置信区间(q jin)：第22页/共55页第二十三页，共55页。24例：例：Bootstrap置信区间置信区间n n例：例：BootstrapBootstrap方法的发明者方法的发明者Bradley EfronBradley Efron给出了下列用语解

18、释给出了下列用语解释BootstrapBootstrap方法的例子方法的例子(l zi)(l zi)。这些数据是这些数据是LASTLAST分数（法学院的入学分数）和分数（法学院的入学分数）和GPAGPA。计算相关系数及其标准误差。计算相关系数及其标准误差。LSAT(Y)576635558578666580555661651605653575545572594GPA(Z)3.393.302.813.033.443.073.003.433.363.133.122.742.762.882.96第23页/共55页第二十四页，共55页。25例例例例 （续）（续）（续）（续）n n相关系数的定义为：n n

19、相关系数的嵌入式估计量为：n nBootstrap得到的相关系数插入(ch r)估计的标准误差为：标准误差趋向(qxing)稳定于B252550100200400800160032000.1400.1400.1420.1420.1510.1510.1430.1430.1410.1370.1330.132第24页/共55页第二十五页，共55页。26例例例例 （续）（续）（续）（续）n n当当B=1000B=1000时，时，n n 的直方图为下图，可近似为从的直方图为下图，可近似为从 的分布采样的分布采样n n95%95%的正态区间为：的正态区间为：n n95%95%的百分点区间为：的百分点区间为

20、：n n当大样本情况下，这两个区间趋近当大样本情况下，这两个区间趋近(q jn)(q jn)于相同于相同第25页/共55页第二十六页，共55页。27非参数非参数bootstrap过程过程(guchng)总结总结n n对原始样本数据对原始样本数据 进行重采样进行重采样(ci yn)(ci yn)，得到，得到B B个个bootstrapbootstrap样本样本 ，其中，其中b=1,Bb=1,Bn n 对每个对每个bootstrapbootstrap样本样本 ，计算其对应的统计量的值（，计算其对应的统计量的值（bootstrapbootstrap复制）复制）n n根据根据bootstrapboot

21、strap复制复制 ，计算其方差、偏差和置信区间等，计算其方差、偏差和置信区间等n n称为非参数称为非参数bootstrapbootstrap方法，因为没有对方法，因为没有对F F的先验（即的先验（即F F的知识仅从样本数据中获得）的知识仅从样本数据中获得）第26页/共55页第二十七页，共55页。28非参数非参数(cnsh)bootstrapn n统计量统计量/统计函数：统计函数：n n没有对没有对F F的先验，的先验，F F的知识仅从样本数据中获得（的知识仅从样本数据中获得（CDFCDF估计）估计），统计函数的估计变为嵌入式估计，统计函数的估计变为嵌入式估计n n真实世界真实世界(shji)

22、(shji)：n nBootstrapBootstrap世界世界(shji)(shji)：n n如方差计算中，发生了两个近似如方差计算中，发生了两个近似n n近似的程度与样本数目近似的程度与样本数目n n及及bootstrapbootstrap样本的数目样本的数目B B有关有关第27页/共55页第二十八页，共55页。29Bootstrap的收敛性的收敛性n n例：混合高斯模型：例：混合高斯模型：n n n nn=100n=100个观测个观测(gunc)(gunc)样本：样本：n n4 4次试验得到不同次试验得到不同B B的偏差和方差的结果的偏差和方差的结果第28页/共55页第二十九页，共55页

23、。30Bootstrap的收敛性的收敛性n nB的选择(xunz)取决于n n计算机的可用性n n问题的类型：标准误差/偏差/置信区间/n n问题的复杂程度第29页/共55页第三十页，共55页。31Bootstrap失败失败(shbi)的一个例的一个例子子n n ，我们感兴趣的统计，我们感兴趣的统计(tngj)(tngj)量量 为为 n n 的的CDFCDF用用G G表示表示n n则则 的的pdfpdf为为 n n 第30页/共55页第三十一页，共55页。32Bootstrap失败的一个失败的一个(y)例子例子（续）（续）n n对非参数对非参数bootstrapbootstrap，令，令n n

24、则则n n所以所以 ，非参数，非参数bootstrapbootstrap不能很好地模拟真不能很好地模拟真正正(zhnzhng)(zhnzhng)的分布的分布第31页/共55页第三十二页，共55页。33Bootstrap失败失败(shbi)的一个例的一个例子（续）子（续）n n假设假设(jish)(jish)样本数目样本数目n=10n=10，样本为，样本为 ，取参数，取参数 X=X=(0.5729,0.1873,0.5984,0.2883,0.8722,0.4320,0.4896,0.7106,0.2754,0.7637)(0.5729,0.1873,0.5984,0.2883,0.8722,0

25、.4320,0.4896,0.7106,0.2754,0.7637)n n 非参数(cnsh)bootstrap复制的直方图B=1000，最高峰为理论结果：第32页/共55页第三十三页，共55页。34Bootstrap失败失败(shbi)的一个例的一个例子子n n为什么失败？n nEDF 不是真正分布 的很好近似n n为了得到更好的结果，需要F的参数知识或者 的平滑(pnghu)性n n参数化的bootstrap表现很好，能很好模拟真正的分布第33页/共55页第三十四页，共55页。35Bootstrap的收敛性的收敛性n n给定n个IID数据 ，要求n n当 ，收敛于Fn n 为 的嵌入式估计

26、n n统计函数的平滑(pnghu)性n n平滑(pnghu)函数：n n均值、方差n n不平滑(pnghu)函数：数据的一个小的变化会带来统计量的很大变化n n顺序统计量的极值（极大值、极小值）第34页/共55页第三十五页，共55页。36参数参数(cnsh)化的化的bootstrapn n真实世界：真实世界：n nBootstrapBootstrap世界：世界：n n与非参数与非参数(cnsh)(cnsh)的的bootstrapbootstrap相比：相比：n nF F的先验用参数的先验用参数(cnsh)(cnsh)模型表示模型表示n n多了一个步骤：根据数据估计参数多了一个步骤：根据数据估计

27、参数(cnsh)(cnsh)（参数（参数(cnsh)(cnsh)估计），从而得到估计），从而得到 不是经验分布函数不是经验分布函数EDFEDFn n重采样：从估计的分布重采样：从估计的分布 采样（产生随机数）采样（产生随机数）F的先验(xin yn)第35页/共55页第三十六页，共55页。37例：例：非参数非参数bootstrap失败失败(shbi)的例子的例子n n ，取参数(cnsh)，假设样本数目n=10，样本为 n n X=(0.5729,0.1873,0.5984,0.2883,0.8722,0.4320,0.4896,0.7106,0.2754,0.7637)n n在参数(cnsh

28、)bootstrap中：n nF的先验：n n根据数据估计F中的参数(cnsh)：n n得到F的估计：n n从分布 产生B=1000个样本 ，n n 得到B个 ,直方图如右图的分布(fnb)为真正的分布(fnb)第36页/共55页第三十七页，共55页。38参数参数(cnsh)化的化的bootstrapn n当当F F为参数模型时，参数化的为参数模型时，参数化的bootstrapbootstrap也可用于计算方差也可用于计算方差(fn ch)(fn ch)、偏差、置信、偏差、置信区间等区间等n n如计算方差如计算方差(fn ch)(fn ch)：0.根据(gnj)数据 估计 f 的参数 ，得到

29、f 的估计1.抽取样本2.计算3.重复步骤1和2 B次，得到4.第37页/共55页第三十八页，共55页。39参数参数参数参数(cnsh)bootstrap Vs.(cnsh)bootstrap Vs.非参数非参数非参数非参数(cnsh)(cnsh)的的的的bootstrapbootstrapn nF F的先验的先验n n参数参数bootstrapbootstrap中利用了分布中利用了分布F F的先验，表现为一个参数模型，的先验，表现为一个参数模型，因此多了一个步骤，估计因此多了一个步骤，估计F F模型中的参数。当先验模型正确时，模型中的参数。当先验模型正确时，参数参数bootstrapboot

30、strap能得到更好的结果能得到更好的结果n n而非参数而非参数bootstrapbootstrap不利用不利用F F的先验知识就能得到正确的标准误的先验知识就能得到正确的标准误差（在大多数情况下）差（在大多数情况下）n n参数参数bootstrapbootstrap能得到与能得到与DeltaDelta方法（计算变量的函数的方差）方法（计算变量的函数的方差）相当的结果，但更简单相当的结果，但更简单n n重采样重采样n n参数参数bootstrapbootstrap中，通过从分布中，通过从分布 中产生随机数，得到中产生随机数，得到bootstrapbootstrap样本，得到的样本通常与原始样本

31、不重合样本，得到的样本通常与原始样本不重合n n非参数非参数bootstrapbootstrap中，通过对原始样本进行有放回采样实现中，通过对原始样本进行有放回采样实现(shxin)(shxin)对对 的采样，每个的采样，每个bootstrapbootstrap样本都是原始样本集合样本都是原始样本集合的一部分的一部分二者相同(xin tn)的是模拟的思想第38页/共55页第三十九页，共55页。40BootstrapBootstrap（参数（参数（参数（参数/非参数）不适合非参数）不适合非参数）不适合非参数）不适合(shh)(shh)的场的场的场的场合合合合n n小样本（n太小）n n原始样本不

32、能很好地代表总体分布(fnb)n nBootstrap只能覆盖原始样本的一部分，带来更大的偏差n n结构间有关联n n如时间/空间序列信号n n因为bootstrap假设个样本间独立n n脏数据n n奇异点(outliers)给估计带来了变化第39页/共55页第四十页，共55页。41刀切法（刀切法（jackknife）第40页/共55页第四十一页，共55页。42引言引言(ynyn)n nBootstrapBootstrap方法并不总是最佳的。其中一个主要原因是方法并不总是最佳的。其中一个主要原因是bootstrapbootstrap样本是从样本是从 产生而不是产生而不是从从F F产生。产生。n

33、 n问题：能完全从问题：能完全从F F采样或重采样吗？采样或重采样吗？n n如果样本数目为如果样本数目为n n，答案是否定的！，答案是否定的！n n若样本数目为若样本数目为m(m n)m(m n)，则可以从，则可以从F F中找到数目为中找到数目为mm的采样的采样/重采样，通过从原始样本重采样，通过从原始样本X X得到不同得到不同(b tn)(b tn)的子集就可以！的子集就可以！n n寻找原始样本的不同寻找原始样本的不同(b tn)(b tn)子集相当于从观测子集相当于从观测 进行无放回采样，得到数目进行无放回采样，得到数目为为mm的重采样样本（在此称为子样本）这就是的重采样样本（在此称为子样

34、本）这就是jackknifejackknife的基本思想。的基本思想。第41页/共55页第四十二页，共55页。43刀切法（刀切法（jackknife）n nJackknifeJackknife由由Maurice Quenouille(1949)Maurice Quenouille(1949)首先提出首先提出n n比比bootstrapbootstrap出现更早出现更早n n与与bootstrapbootstrap相比，相比，Jackknife(m=n-1)Jackknife(m=n-1)对计算机不敏感。对计算机不敏感。n nJackknifeJackknife为一种瑞士小折刀，很容易携带。通过

35、类比，为一种瑞士小折刀，很容易携带。通过类比，John W.Tukey(1958)John W.Tukey(1958)在统计学中创造了这个术语在统计学中创造了这个术语(shy)(shy)，作为一种通用的假设检验和置信区间计算的方法。，作为一种通用的假设检验和置信区间计算的方法。第42页/共55页第四十三页，共55页。44Jackknife样本样本(yngbn)n nJackknife样本定义为：一次从原始样本 中留出一个样本 ：n n Jackknife样本中的样本数目为m=n-1n n共有(n yu)n个不同的jackknife样本n n无需通过采样手段得到 jackknife样本BOOTS

36、TRAP MATLAB TOOLBOX中也有该功能(gngnng)第43页/共55页第四十四页，共55页。45Jackknife复制复制(fzh)n n统计(tngj)量为：n nJackknife复制为：n n均值的jackknife复制为：第44页/共55页第四十五页，共55页。46Jackknife方差方差(fn ch)估计估计n n 从原始样本X中计算(j sun)n个jackknife样本n n计算(j sun)n个jackknife复制：n n计算(j sun)jackknife估计的方差：n n 第45页/共55页第四十六页，共55页。47例：计算例：计算(j sun)均值的方差

37、均值的方差n n ，则n n所以(suy)方差的无偏(w pin)估计第46页/共55页第四十七页，共55页。48例：计算均值例：计算均值(jn zh)的方差的方差n n因子 比bootstrap中的因子 大多了。n n直观上，因为jackknife 方差 比bootstrap中的方差 小得多（相比bootstrap样本，jackknife样本与原始样本更相似n n事实上，因子 就是考虑特殊情况 得到的 （有点(yudin)武断）第47页/共55页第四十八页，共55页。49例：混合高斯例：混合高斯(o s)模型：模型：n nBootstrap结果(ji gu)：n nJacknife结果(ji

38、 gu)：B B1010202050501001005005001000100010000100000.13860.13860.21880.21880.22450.22450.21420.21420.22480.22480.22120.22120.21870.21870.06170.0617-0.0417-0.04170.02740.0274-0.0087-0.0087-0.0025-0.00250.00640.00640.00250.0025第48页/共55页第四十九页，共55页。50例：混合高斯例：混合高斯(o s)模型：模型：n n复制(fzh)的直方图1000个Bootstrap复制(

39、fzh)100个Jacknife复制Jackknife复制之间的差异很小，每两个Jackknife样本中只有两个单个的原始样本不同第49页/共55页第五十页，共55页。51Jackknife Vs.bootstrapn n当n较小时，能更容易（更快）计算 n个 jackknife复制。n n但是，与bootstrap 相比(xin b)，jackknife只利用了更少的信息（更少的样本）。n n事实上，jackknife为bootstrap的一个近似（jackknife方差为bootstrap方差的一阶近似）！n n估计样本分位数时，jackknife计算的方差不是一致估计第50页/共55页第

40、五十一页，共55页。52Jackknife的其他的其他(qt)应用应用n nJackknife可用于类似(li s)bootstrap的应用，如偏差估计第51页/共55页第五十二页，共55页。53Jackknife不适合不适合(shh)的场合的场合n n统计函数不是平滑函数：数据小的变化会带来统计量的一个统计函数不是平滑函数：数据小的变化会带来统计量的一个大的变化大的变化n n如极值、中值如极值、中值n n如对数据如对数据 X=(10,27,31,40,46,50,52,104,146)X=(10,27,31,40,46,50,52,104,146)的中值的中值n n得到的结果为得到的结果为4

41、8,48,48,48,45,43,43,43,4348,48,48,48,45,43,43,43,43n n偶数个数的中值为最中间两个数的平均值偶数个数的中值为最中间两个数的平均值n n当函数不平滑时，可以用当函数不平滑时，可以用delete-d jackknifedelete-d jackknife子采样来弥补子采样来弥补n n每个每个delete-d jackknifedelete-d jackknife样本中的样本的数目样本中的样本的数目(shm)(shm)为为n-dn-dn n共有共有 个不同的个不同的delete-d jackknifedelete-d jackknife样本样本n

42、nd d的取值：的取值：第52页/共55页第五十三页，共55页。54参考文献参考文献n nBooksBooksn nAn Introduction to BootstrapAn Introduction to Bootstrap,B.,B.Efron and R.J.Tibshirani,Chapman Efron and R.J.Tibshirani,Chapman&Hall,1998.&Hall,1998.n nBootstrap Methods and Their ApplicationBootstrap Methods and Their Application,A.Davidson

43、and D.,A.Davidson and D.HinkleyHinkley,Cambridge University Press,1997.,Cambridge University Press,1997.n nRandomization,Bootstrapping,and Monte Carlo Methods in BiologyRandomization,Bootstrapping,and Monte Carlo Methods in Biology,Manly,Manly,Chapman&Hall,1997.Chapman&Hall,1997.n nSpecial issuesSpe

44、cial issuesn nSilver Anniversary of the BootstrapSilver Anniversary of the Bootstrap,Statistical Science,Vol.18,Statistical Science,Vol.18,nb.nb.2,May 2003.2,May 2003.n nSignal Processing Applications Of The BootstrapSignal Processing Applications Of The Bootstrap by S.Shamsunder;by S.Shamsunder;Com

45、puter-intensive methods in statistical analysisComputer-intensive methods in statistical analysis by D.N.Politis;by D.N.Politis;The bootstrap and its application in signal processingThe bootstrap and its application in signal processing,A.M.Zoubir,A.M.Zoubir and B.Boashash,in IEEE Signal Processing Magazine,January 1998.and B.Boashash,in IEEE Signal Processing Magazine,January 1998.有有DemoDemo第53页/共55页第五十四页，共55页。55参考文献参考文献n n对bootstrap的批判(p pn)n nExploring the limits of bootstrap edited,by Le Page and Billard,1990第54页/共55页第五十五页，共55页。