大数定律中心极限定理.pptx
概率论与数理统计是研究随机现象统计规律性的学科。所以,要从随机现象中去寻求统计规律,就应该对随机现象进行大量的观测。第五章第五章 极限定理极限定理 随机现象的统计规律性只有随机现象的统计规律性只有在相同条件下进行在相同条件下进行大量的重复试验大量的重复试验才能呈现才能呈现出来。出来。第1页/共39页 研究随机现象的大量观测,研究随机现象的大量观测,常采用极常采用极限形式,由此导致了极限定理的研究。限形式,由此导致了极限定理的研究。极极限定理的内容很广泛限定理的内容很广泛,最重要的有两种最重要的有两种:“大数定律”和“中心极限定理”。第2页/共39页 对随机现象进行大量重复观测,对随机现象进行大量重复观测,各种结各种结果的出现频率果的出现频率具有稳定性具有稳定性。5.1 大数定律大量地掷硬币正面出现频率字母使用频率生产过程中废品率第3页/共39页5.1.1 切比雪夫不等式切比雪夫不等式 定理1:设随机变量X有期望和方差2,则对任给的 0,有或或第4页/共39页 证明:证明:只对只对X 是连续型情况加以证明。是连续型情况加以证明。设设X 的概率密度函数为的概率密度函数为 f(x),则有,则有放大被积函数放大积分域第5页/共39页第6页/共39页第7页/共39页5.1.2 大数定律大数定律首先引入随机变量序列相互独立的概念。首先引入随机变量序列相互独立的概念。定义定义1:设设 X1,X2,是一随机变量序列。是一随机变量序列。如果对任意的如果对任意的 n1,X1,X2,Xn相互独立相互独立,则称则称X1,X2,相互独立。相互独立。第8页/共39页 几个常见的大数定律定理定理2(切比雪夫大数定律切比雪夫大数定律):设随机变量设随机变量序列序列 X1,X2,相互独立,且有相同的期望和相互独立,且有相同的期望和方差方差:E(Xi)=,Var(Xi)=2,i=1,2,。则对任意的0,有第9页/共39页证明:证明:令 n,并注意到概率小于等于1,得(1)式。定理证毕。第10页/共39页 该大数定律表明:无论正数该大数定律表明:无论正数 怎样小怎样小,只只要要 n充分大,事件充分大,事件 发生发生 的概率均可任意地接近于的概率均可任意地接近于 1。即当即当 n充分大时,充分大时,差不多不再是随机差不多不再是随机变量,变量,其取值接近于其数学期望其取值接近于其数学期望 的概率接的概率接近于近于 1。在概率论中,将在概率论中,将(1)式所表示的收敛性称式所表示的收敛性称为随机变量序列为随机变量序列 依概率收敛依概率收敛于于,记为 。第11页/共39页请注意请注意:第12页/共39页 下面再给出定理2的一种特例贝努里大数定律。设nA 是 n重贝努里试验中事件A发生的频数,p是每次试验中A发生的概率。引入第13页/共39页于是,有下面定理。设 nA是 n 重贝努里试验中事件A发生的频数,p是 A 发生的概率,对任给的 0,有 定理3(贝努里大数定律):或第14页/共39页 贝努里大数定律表明:当重复试验次数n充分大时,事件A发生的频率nA/n与事件A发生的概率 p 有一定偏差的概率很小。第15页/共39页例 在一个罐子中,装有10个编号为0-9的同样的球,从罐中有放回地抽取若干次,每次抽一个,并记下号码.设,k=1,2,问对序列Xk能否应用大数定律?即对任意的0,解:k=1,2,E(Xk)=0.1,诸诸Xk 独立同分布,且期望存在,故能使用大独立同分布,且期望存在,故能使用大数定律数定律.第16页/共39页 中心极限定理是棣莫弗(De Moivre)在18世纪首先提出的,到现在内容已十分丰富。在这里,我们只介绍其中两个最基本的结论。5.25.2 中心极限定理中心极限定理1.当 n 无限增大时,独立同分布随机变量之 和的极限分布是正态分布;2.当 n 很大时,二项分布可用正态分布近似。第17页/共39页 由于无穷个随机变量之和可能趋于由于无穷个随机变量之和可能趋于,故我们不研究故我们不研究 n 个随机变量之和本身,而只个随机变量之和本身,而只考虑其标准化的随机变量考虑其标准化的随机变量的极限分布。的极限分布。第18页/共39页的极限分布。的极限分布。可以证明:可以证明:当当 Xn 满足一定条件时满足一定条件时,Zn的极限分布是标准正态分布的极限分布是标准正态分布。考虑第19页/共39页 概率论中,常把随机变量之和标准化后的分布收敛于正态分布的定理称为中心极限定理。中心极限定理的几种简单情形。下面给出独立同分布随机变量序列和的下面给出独立同分布随机变量序列和的中心极限定理,称作中心极限定理,称作 列维列维林德伯格林德伯格(Levy Lindberg)定理。定理。第20页/共39页 定理1(列维林德伯格定理,即独立同分布的中心极限定理):设 X1,X2,是独立同分布随机变量序列,且 E(Xi)=,Var(Xi)=2,对任给 x (-,),均有其中其中(x)是标准正态分布是标准正态分布 N(0,1)的分布函的分布函数。数。第21页/共39页还有另一记法:第22页/共39页例例1 1:设一批产品的强度服从期望为设一批产品的强度服从期望为14,14,方差方差为为4 4的分布。每箱中装有这种产品的分布。每箱中装有这种产品100100件。求件。求(1).(1).每箱产品的平均强度超过每箱产品的平均强度超过14.514.5的概率;的概率;(2).(2).每箱产品的平均强度超过期望每箱产品的平均强度超过期望1414的概率。的概率。解:n=100,=100,设设 Xi 是第是第 i 件产品的强度,则件产品的强度,则 E(E(Xi)=14,V)=14,Var(r(Xi)=4,)=4,i=1,2,=1,2,100,100。每箱产品的平均强度为每箱产品的平均强度为第23页/共39页根据定理根据定理1 1,有,有第24页/共39页第25页/共39页例例 一部件包括10部分,每部分的长度是一个随机变量,相互独立,且具有同一分布。其数学期望是2mm,均方差是0.05mm,规定总长度为200.1mm时产品合格,试求产品合格的概率。解 设部件的总长度为X,每部分的长度为Xi(i=1,2,10),则由定理4可知:X近似地服从正态分布 即 第26页/共39页则产品合格的概率为 第27页/共39页 定理定理2(棣莫佛棣莫佛拉普拉斯定理拉普拉斯定理):):定理 2 表明:当 n 很大时,二项分布 Yn 标准化后的分布近似于标准正态分布 N(0,1)。设随机变量设随机变量 Yn 服从参数为服从参数为(n,p)的二项分布的二项分布(0p0,有,有贝努里大数定律是切比雪夫大数定律的特例贝努里大数定律是切比雪夫大数定律的特例:第36页/共39页设 nA是 n 重贝努里试验中事件A发生的频数,p 是 A 发生的概率,对任给的 0,有第37页/共39页 其后介绍了两个中心极限定理:列维林德伯格定理(独立同分布的中心极限定理)和棣莫佛 拉普拉斯定理。棣莫佛 拉普拉斯定理的内容是:当 n 很大时,二项分布可用正态分布近似。列维列维林德伯格定理的内容是:独立同分布林德伯格定理的内容是:独立同分布随机变量之和标准化之后的极限分布是标准随机变量之和标准化之后的极限分布是标准正态分布;正态分布;第38页/共39页谢谢大家观赏!第39页/共39页