第四章大数定律与中心极限定理精选文档.ppt
本讲稿第一页,共二十七页第四章第四章 大数定律与中心极限定理大数定律与中心极限定理l内容1 特征函数l内容2 大数定律l内容3 随机变量序列的两种收敛性l内容4 中心极限定理本讲稿第二页,共二十七页4.14.1 特征函数特征函数l一、特征函数的定义一、特征函数的定义n1.定义定义4.1.1 设设 是一个随机变量称是一个随机变量称 ,-t +,为,为 的特征函数。的特征函数。注注 因为因为 ,所以,所以 总是存在的,即任一随机变量总是存在的,即任一随机变量的特征函数总是存在的。的特征函数总是存在的。4.14.1 特征函数特征函数本讲稿第三页,共二十七页4.14.1 特征函数特征函数l2.特征函数的求法特征函数的求法 (1)当离散随机变量 的分布列为Pk=P(=xk),k=1,2,则 的特征函数为 (t)=,-t +。(2)当连续随机变量 的密度函数为p(x),则 的特征函数为 (t)=,-t +。本讲稿第四页,共二十七页l例例4.1.1 (1)单点分布:P(=a)=1,其特征函数为(t)=eita。(2)0 1分布:P(=x)=px(1-p)1 x,x=0,1,其特征函数为 (t)=peit+q,其中q=1 p。4.14.1 特征函数特征函数本讲稿第五页,共二十七页4.14.1 特征函数特征函数(3)泊松分布P():P(=k)=,k=0,1,其特征函数为 (t)=。(4)标准正态分布N(0,1):因为密度函数为p(x)=,-x +。所以特征函数为 (t)=。本讲稿第六页,共二十七页二、二、特征函数的性质特征函数的性质l性质性质4.1.1|(t)|(0)=1。l性质性质4.1.2 (-t)=,其中 是(t)的共轭。l性质性质4.1.3 若Y=a +b,其中a,b是常数,则 。l性质性质4.1.4 独立随机变量和的特征函数为特征函数的积,即设X 与Y相互独立,则 。l性质性质4.1.5 若E(Xl)存在,则 X的特征函数可l次求异,且对1 k l,有 (k)(0)=ikE(Xk)。4.14.1 特征函数特征函数本讲稿第七页,共二十七页l注注 上式提供了一条求随机变量的各阶矩的途径,特别可用下式去求数学期望和方差。4.1 特征函数本讲稿第八页,共二十七页l定理4.1.1(一致连续性)随机变量 X的特征函数(t)在(-,+)上一致连续。l定理4.1.2(非负定性)随机变量X 的特征函数(t)是非负定的。l定理4.1.4(唯一性定理)随机变量的分布函数由其特征函数唯一决定。4.1 特征函数本讲稿第九页,共二十七页l例例4.1.2 试利用特征函数的方法求伽玛分布Ga(,)的数学期望和方差。解:因为Ga(,)的特征函数(t)=,(t)=;(0)=;(t)=;(0)=,所以由性质4.1.5得 4.1 特征函数本讲稿第十页,共二十七页4.2 4.2 大数定律大数定律l一、何谓大数定律(大数定律的一般提法)一、何谓大数定律(大数定律的一般提法)定义4.2.1 设 为随机变量序列,若对任意的 ,有 (4.2.5)则称 服从大数定律。本讲稿第十一页,共二十七页4.2 4.2 大数定律大数定律l二、切比雪夫大数定律二、切比雪夫大数定律 定理定理4.2.2(切比雪夫大数定律)(切比雪夫大数定律)设设 为一列两两不相关的随机变量序列,若每个为一列两两不相关的随机变量序列,若每个 的方差存在,的方差存在,且有共同的上界,即且有共同的上界,即 ,则则 服从大数定律,即对任意的服从大数定律,即对任意的 ,式,式(4.2.5)成立。成立。利用切比雪夫不等式就可证明。此处略。利用切比雪夫不等式就可证明。此处略。本讲稿第十二页,共二十七页4.2 4.2 大数定律大数定律l推论(定理推论(定理4.2.1:伯努利大数定律):伯努利大数定律)设 为n重伯努利试验中事件A发生的次数,P为每次试验中A出现的概率,则对任意的 ,有l分析 服从二项分布,因此可以把 表示成n个相互独立同分布、都服从01分布的随机变量的和。本讲稿第十三页,共二十七页4.2 4.2 大数定律大数定律l三、马尔可夫大数定律三、马尔可夫大数定律 定理4.2.3(马尔可夫大数定律)对随机变量序列 ,若马尔可夫条件 成立,则 服从大数定律,即对任意的 ,式(4.2.5)成立。证明 利用切比雪夫不等式就可证得。本讲稿第十四页,共二十七页4.2 4.2 大数定律大数定律l例例4.2.3 设 为一同分布、方差存在的随机变量序列,且 仅与 和 相关,而与其他的 不相关,试问该随机变量序列 是否服从大数定律?解:可证对 ,马尔可夫条件成立,故由马尔可夫大数定律可得 服从大数定律。本讲稿第十五页,共二十七页4.2 4.2 大数定律大数定律l四、辛钦大数定律四、辛钦大数定律 定理4.2.4(辛钦大数定律)设 为一独立同分布的随机变量序列,若 的数学期望存在,则 服从大数定律,即对任意的 ,式(4.2.5)成立。本讲稿第十六页,共二十七页4.3 4.3 随机变量序列的两种收敛性随机变量序列的两种收敛性l一、依概率收敛一、依概率收敛 1.定义定义4.3.1(依概率收敛)(依概率收敛)设 为一随机变量序列,Y为一随机变量。如果对于任意的 ,有 则称 依概率收敛于Y,记做Yn Y。l注 随机变量序列 服从大数定律 。本讲稿第十七页,共二十七页4.3 4.3 随机变量序列的两种收敛性随机变量序列的两种收敛性l2.依概率收敛的四则运算依概率收敛的四则运算 定理定理4.3.1 设 ,Yn是两个随机变量序列,a,b是两个常数。如果 a,Yn b,则有(1)(2)(3)本讲稿第十八页,共二十七页4.3 4.3 随机变量序列的两种收敛性随机变量序列的两种收敛性l二、按分布收敛、弱收敛二、按分布收敛、弱收敛 1.定义定义4.3.2 设Fn(x)是随机变量序列 的分布函数列,F(x)为 的分布函数。若对F(x)的任一连续点x,都有 Fn(X)=F(x),则称Fn(x)弱收敛于F(x),记做Fn(X)F(x)。也称 按分布收敛于 ,记做 。本讲稿第十九页,共二十七页4.3 4.3 随机变量序列的两种收敛性随机变量序列的两种收敛性l2.2.依概率收敛与按分布收敛间的关系依概率收敛与按分布收敛间的关系l(1)定理定理4.3.24.3.2 。l(2)(2)定理定理4.3.34.3.3 若 为常数,则 本讲稿第二十页,共二十七页l三、判断弱收敛的方法三、判断弱收敛的方法 定理定理4.3.44.3.4 分布函数序列Fn(x)弱收敛于分布函数F(X)的充要条件是Fn(x)的特征函数序列n(t)收敛于F(x)的特征函数(t)。这个定理的证明只涉及数学分析的一些结果,参阅教材后文献1。4.3 4.3 随机变量序列的两种收敛性随机变量序列的两种收敛性本讲稿第二十一页,共二十七页4.3 4.3 随机变量序列的两种收敛性随机变量序列的两种收敛性l例例4.3.34.3.3 若 ,证明 本讲稿第二十二页,共二十七页4.4 4.4 中心极限定理中心极限定理l一、中心极限定理概述一、中心极限定理概述 研究独立随机变量和的极限分布为正态分布的命题。l二、独立同分布下的中心极限定理 定理定理4.4.1(林德贝格(林德贝格-勒维中心极限定理)勒维中心极限定理)设 是独立同分布的随机变量序列,且 记l则对任意实数y,有l 本讲稿第二十三页,共二十七页4.4 4.4 中心极限定理中心极限定理l三、二项分布的正态近似l(1)定理4.4.2(棣莫弗-拉普拉斯极限定理)设n重伯努利试验中,事件A在每次试验中出现的概率为p(0 p 1),记 为n次试验中事件A出现的次数,且记 l l则对任意实数y,有l l证明 由林德贝格-勒维中心极限定理容易证得。本讲稿第二十四页,共二十七页4.4 4.4 中心极限定理中心极限定理l(2)近似中的修正近似中的修正 二项分布在 和 时,由中心极限定理用正态分布近似较好,因为二项分布是离散分布,而正态分布是连续分布,所以用正态分布作为二项分布的近似计算中,作些修正可以提高精度。若 均为整数,一般先作如下修正后再用正态近似本讲稿第二十五页,共二十七页本讲稿第二十六页,共二十七页贵州师范大学数学与计算机科学学院 本讲稿第二十七页,共二十七页