概率论与数理统计教师用教案概率统计教案5章.pdf

概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 173 页页 题目 与 课时题目 与 课时 第一节 大数定律 *第二节 中心极限定理 (注意教学目的(1)(2)(3)为工科类选学内容， 经管类另加(4)(5)为必学内容见星号*) 课时：2 教学目的 教学目的 (1) 掌握切比雪夫不等式; (2) 了解切比雪夫（）不等式、切比雪夫大数定律和伯努利大数定律; (3) 了解伯努利大数定律与概率的统计定义、参数估计之间的关系 *(4) 了解独立同分布的中心极限定理和棣莫弗（De Moivre）-拉普拉斯（Laplace）中心极限定理 *(5) 了解棣莫弗-拉普拉斯 （De Moivre-Laplace） 中心极限定理在实际问题中的应用 内容 内容 利用相关定理，尤其是切比雪夫大数定律、伯努利大数定律和独立同分布的中心极限定理近似计算有关事件的概率. 教学重点 教学重点 解决办法 解决办法 加强重点知识的讲解与讲评，加大例题讲解力度，习题课配备相关知识的例题. 内容 内容 大数定律与中心极限定理的内在含义. 教学难点 教学难点 解决办法 解决办法 加大难点知识的分析，加大例题讲解力度. 教学辅助 教学辅助 利用多媒体课件，板书配合分析 习题布置 习题布置 P135：1、2、3、5； P140：1、2、5、6、7. 参考文献 参考文献 1 郑一,王玉敏,冯宝成. 概率论与数理统计. 大连理工大学出版社，2015 年 8 月. 2 郑一,戚云松,王玉敏. 概率论与数理统计学习指导书. 大连理工大学出版社，2015 年 8 月. 3 郑一,戚云松,陈倩华,陈健. 光盘： 概率论与数理统计教案、 作业与试卷考题及答案、 数学实验视频. 大连理工大学出版社， 2015 年 8 月. 4 王玉敏,郑一,林强. 概率论与数理统计教学实验教材. 中国科学技术出版社，2007 年 7 月. 联系方式： 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 174 页页 教 学 内 容 教学笔记 教 学 内 容 教学笔记 内容简介内容简介 在n次独立重复试验中, 事件A发生的频率随试验次数的增加而具有稳定性. 对于这种稳定性的数学意义,大数定律从理论上做了详细阐明. 在客观实际中， 有许多随机变量是由大量的相互独立的随机因素的综合影响所形成的,而其中每一个别因素在总的影响中所起的作用都是微小的， 这种随机变量往往近似地服从正态分布. 这种现象就是中心极限定理所揭示的. 预备知识 预备知识 随机事件的概率以及随机变量的均值、方差等数字特征. 第五章 大数定律和中心极限定理 第五章 大数定律和中心极限定理 大数定律 大数定律有着重要的理论意义，是关于频率稳定性、大量观测结果的算术平均与数学期望之间关系的数学定理； 中心极限定理中心极限定理， 是在一定条件下关于 “大量随机变量之和或其标准化的极限分布是正态分布”的一系列定理的总称. 大数定律和中心极限定理的研究，在概率论的发展中占有重要地位，是概率论成为一门成熟的数学学科的重要标志之一， 而且仍然是现代概率论的重要研究方向之一. 本章主要介绍切比雪夫不等式、三个大数定律和三个中心极限定理. 第一节第一节 大数定律 大数定律 为了证明大数定律, 我们首先给出切比雪夫不等式. 引理(切比雪夫引理(切比雪夫()不等式) 设随机变量不等式) 设随机变量X具有数学期望具有数学期望)(XE和方差和方差)(XD, 则对于任意给定的正数, 则对于任意给定的正数, 有 , 有 2()()D XP XE X, (1.1) 或 或 2()()1D XP XE X. 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 175 页页 证证 参见图 5-1, 设X为连续型随机变量, 则 ()()( )dx E XP XE Xf xx 22()()( )dx E XxE Xf xx 2221()()( )d.D XxE Xf x x 若X为离散型随机变量, 证明类似. 图图 5- -1 切比雪夫不等式的几何意义 切比雪夫不等式的几何意义 讲评讲评 (1) 切比雪夫不等式给出了在不必知道随机变量X服从的具体分布的情况下对事件 ()XE X 发生的概率进行估计的一种方法. (2) (1.2)式实际意义是: 只要随机变量X具有数学期望)(XE和方差)(XD, X 落入区间(E(X)-,E(X)+)的概率不小于 1-2()D X. 切比雪夫不等式揭示了随机变量与其数学期望之间的偏差大小的概率与方差的内在约束关系. 例例1 设随机变量X, Y的数学期望都是2, 方差分别是1和4, 而相关系数为0.5. 利用切比雪夫不等式估计|PXY6. 解解 令ZXY, 则( )()( )0E ZE XE Y,而 ( )()()( )2Cov(, )1 42 0.5143.D ZD XYD XD YX Y 于是有 |PXY6|( )|PZE Z62( )1612D Z. 讲评 讲评 利用切比雪夫不等式估计概率时, 我们需要知道随机变量的数学期望和方差即可, 而不需要知道其具体分布. 本题的数学期望( )0E Z 使得计算即简单又易出错，提示读者注意这一点. 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 176 页页 例例 5.1.2 证明第 114 页定理 2 的结论(5): D(X)=0 的充分必要条件是 X 以概率 1 取 E(X), 即 PX= E(X)=1. 证证 先证充分性：已知 PX= E(X)=1, 要证明 D(X)=0. 因为 PX= E(X)=1，得到 X 服从单点分布. 所以，E(X2)= E(X)21= E(X)2. 于是 D(X)= E(X2)- E(X)2=0. 即充分性成立. 再证必要性：已知 D(X)=0, 要证明 PX= E(X)=1. 用反证法： 假设 PX=E(X)1， 则对于某一个正数 0， 有 P|XE(X)|01. 于是 P|XE(X)|0=1P|XE(X)|0. 另一方面，由切比雪夫不等式(1.1)式知，对于任意的正数 ，有 2()0()0D XP XE X. 即得到 ()P XE X=0. 这与 P|XE(X)|00 矛盾. 因此 PX= E(X)=1. 现在, 我们介绍一个在大数定律中常用的概念: 设 n 个随机变量12,nXXX 称11nkkXXn为这n个随机变量的算术平均算术平均. 实际上，在第六章第二节中可以看到，X就是样本均值样本均值. 结合切比雪夫不等式, 我们先从概率论中最重要、最基本的切比雪夫定理开始学习大数定律. 定理定理 1(切比雪夫切比雪夫(Tchebyshev)大数定律大数定律) 设随机变量 设随机变量,21nXXX相互独立相互独立, 且具有相同的数学期望和方差 且具有相同的数学期望和方差: ()kE X， 2()(12)kD Xk ， ， 则对于任意正数则对于任意正数, 算术平均算术平均X满足满足 11limlim1nknnkP XPXn. (1.3) 证证 由于 11111()nnkkkkEXE Xnnnn, 222211111,nnkkkkDXD Xnnnnn 由概率有界性及切比雪夫不等式(1.2)式知 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 177 页页 221111./nkkPXnn 在上式中令n,即得 11lim1nknkPXn. 讲评 讲评 该 定 理 表 明 : 对 于 任 意 的 正 数, 当n充 分 大 时 , 不 等 式11nkkXn成立的概率充分接近于 1. 或者说, 当n很大时, 随机变量12,nXXX的 算 术 平 均11nkkXXn充 分 接 近 数 学 期 望12()()()kE XE XE X. 这种接近是在概率意义上的一种接近. 于是我们提出下面的依概率收敛依概率收敛的定义: 设设12,nY YY是一个随机变量序列是一个随机变量序列, a 是一个常数是一个常数, 若对于任意正数若对于任意正数, 有有 lim1,nnP Ya 则称序列则称序列12,nY YY依概率收敛于依概率收敛于, 记为 PnYa . 依概率收敛的序列有以下性质: 定理定理 2 设 设PnXa , PnYb , 又设函数又设函数( , )g x y在点在点( , )a b连续连续, 则则 (,)( , ).Pnng X Yg a b 证证 利用连续性的定义即得, 此处从略. 讲评讲评 (1)该定理的作用是，将随机变量的依概率收敛推广到连续函数关系的依概率收敛.常用，应引起重视. (2) 依概率收敛与高等数学中的数列收敛有什么区别？ 答答：在高等数学中，nx为确定性变量数列. 若有limnnxx，则对于任意给定的0，可找到正整数0N，使得当Nn 时，就有 xxn成 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 178 页页 立，而绝不会有nxx. 但是，在概率论中，nX是随机变量序列，nX依概率收敛于X，只意味着对任意给定的0，当n充分大时，事件“ XXn”发生的概率很大，其发生概率接近于 1；并不排除事件“nXX”的发生，而只能说它发生的可能性很小. 相比较，依概率收敛要比高等数学中普通意义下的收敛条件弱些. 这样, 上述定理 1 又可简述为: PX . 下面我们给出切比雪夫大数定律的一个特例, 即伯努利大数定律. 定理定理 3(伯努利伯努利(Bernoulli)大数定律大数定律) 设 设An是是 n 重伯努利试验中事件重伯努利试验中事件 A 发生的次数发生的次数, p 是事件是事件 A 在每次试验中发生的概率, 则对于任意的正数在每次试验中发生的概率, 则对于任意的正数, 有有 lim1AnnPpn, (1.4) 或 或 lim0AnnPpn. (1.5) 证证 因为( , )AnB n p, 引入随机变量 1,1,2,0,kAkXknAk在第 次试验中发生,在第 次试验中不发生,. 有 nAXXXn21, 其中nXXX,21相互独立, 且都服从以p为参数的0 1分布. 因而 (),()(1),1,2,kkE Xp D Xppkn. 由(1.3)式即得 121lim()1nnPXXXpn, 即 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 179 页页 lim1AnnPpn. 讲评 讲评 伯努利大数定律表明, 事件A发生的频率nnA依概率收敛于事件A发生的概率p. 这个定理以严格的数学形式证明了频率的稳定性. 就是说, 当n很大时, 事件发生的频率与概率有较大偏差的可能性很小. 因此, 在实际应用中, 当试验次数很大时, 可以用事件发生的频率来近似代替事件发生的概率. 定理 1 中要求随机变量12,XX的方差存在而不要求具有同分布. 但随机变量服从相同分布的场合, 并不需要方差存在这一条件, 由此我们有以下定理. 定理定理 4(辛钦辛钦(Khinchine)大数定律大数定律) 设随机变量 设随机变量,21nXXX相互独立, 服从同一分布, 且具有相同的数学期望相互独立, 服从同一分布, 且具有相同的数学期望()(1,2,)kE Xk, 则对于任意的正数 则对于任意的正数, 有 有 11lim1nknkPXn. (1.6) 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 180 页页 显然, 伯努利大数定律也是辛钦大数定律的特殊情况. 讲评讲评 辛钦大数定律表明, 当n很大时, 随机变量的算术平均11nkkXXn会“靠近”它们的数学期望, 这就为寻找随机变量的数学期望提供了一条实际可行的途径, 即在不知具体分布的情形下, 可以取多次重复观测的算术平均11nkkXn作为均值 的较为精确的估计. 例例 5.1.3 设随机变量12,nXXX相互独立且都服从参数为 3 的泊松分布. 证明: 当n时, 随机变量niinXnY121依概率收敛于 12. 证明证明 由随机变量的独立性关系, 利用第三章第三节定理 3 得到 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 181 页页 22212,nXXX满足辛钦大数定律的条件独立， 同分布, 且各自的数学期望 22()()()iiiE XD XE X=23312. 根 据 辛 钦 大 数 定 律 (1.6) 式 , niinXnY121依 概 率 收 敛 于2()12iE X(i=1,2,n). 思考题思考题 1. 切比雪夫大数定律和辛钦大数定律的条件和结论有哪些异同点？ 2. 伯努利大数定律的作用有哪些？ 解题参考 解题参考 1. 切比雪夫大数定律的条件是：,21nXXX是相互独立且随机变量有相同的数学期望和方差. 辛钦大数定律的条件是：,21nXXX是相互独立且随机变量有相同的分布和数学期望，不要求有方差. 二者结论相同. 2. 伯努利大数定律的作用有： (i) 以严格的数学形式证明了频率的稳定性； (ii) 试验次数 n 很大时，可以用事件发生的频率来近似代替事件发生的概率. * *第二节 中心极限定理 第二节 中心极限定理 本节只介绍两个常用的中心极限定理(中心极限定理(central limit theorem) ). 定理 定理 1(独立同分布中心极限定理独立同分布中心极限定理) 设随机变量设随机变量,21nXXX相互独立, 服从同一分布, 且具有数学期望和方差相互独立, 服从同一分布, 且具有数学期望和方差:2(), ()0(1,2, )kkE XDXk, 则随机变量之和则随机变量之和1nkkX的标准化随机变量 的标准化随机变量 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 182 页页 1111()()nnnkkkkkknnkkXEXXnYnDX 的分布函数的分布函数( )nF x, 对于任意的实数对于任意的实数 x, 满足满足 2121lim( )limed( )2ntkxknnnXnF xPxtxn. (2.1) 此定理的证明略11. 这个定理通常也称为列维列维- -林德伯格林德伯格(Levy-Lindeberg)中心极限定理中心极限定理. 这个定理说明了以下 4 种情形的概率分布： 讲评 讲评 这个定律揭示了以下 4 种概率形式 (1) 对于均值为, 方差为02的独立同分布（不管服从什么分布）的随机变量1X,2X,nX,的和nkkX1的标准化随机变量, 当n充分大时, 近似成立： 1(0,1)nkkXnNn. (2.2) (2) 对上式变形得到，随机变量和(即随机变量的总影响)近似成立： ),(21nnNXnkk. (2.3) 在一般情况下, 很难求出n个随机变量之和nkkX1的确切分布函数.（2.3）式表明, 当n充分大时, 可以通过正态分布2(,)N nn对随机变量之和nkkX1作理论分析或作近似计算. 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 183 页页 将(2.2)式左端改写成11/nkknXXnn, 这样, 上述结果可写成另外一种常用的形式: (3) 随机变量的算术平均X的标准化近似成立： (0,1)/XNn. (2.4) (4) 对上式变形得到，随机变量的算术平均X近似成立： 2( ,)XNn. (2.5) (2.4)式是独立同分布中心极限定理结果的另一个形式. 这一结果是数理统计中大样本统计推断的理论基础. 例例 5.2.1 设各零件的重量都是随机变量, 它们相互独立, 且服从相同的分布, 其数学期望为 0.5kg, 均方差为 0.1kg. 问 5000 只零件的总重量超过 2510kg的概率是多少？ 解解 设 Xi表示第 i 只零件的重量, 则 E(Xi)=0.5,()iD X=0.1. 于是 5000 只零件的总重量 X=50001iiX, 所以由独立同分布中心极限定理（2.2）式知, 2510P X =25002510250050000.150000.1XP1( 2) =1-0.921=0.079. 讲评 讲评 “净重大于 20500g 的概率”是随机变量和的概率问题，通过“和随机变量标准化”方法，用独立同分布中心极限定理求解. 例例 5.2.2 一生产线生产的产品成箱包装, 每箱的重量是随机的. 假设每箱平均重量是 50 kg, 标准差为 5 kg. 若用最大载重量为 5 吨的汽车承运, 试利用中心极限定理说明: 每辆车最多可以装多少箱, 才能保证不超载的概率大于0.977(已知 (2)=0.977) 解解 设(1,2, )iX in是装运的第 i 箱的重量(单位: kg), n是所求箱数. 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 184 页页 由条件可以把 X1, X,2nX,视为独立同分布随机变量, 而 n 箱的总重量 Tn=X1+X2+Xn 是独立同分布随机变量之和. 由条件知E(Xi)=50, ()iD X=5, 根据独立同分布中心极限定理(2.2)式, Tn近似服从正态分布 N(50n,25n). 由题设条件, 应满足 PTn5000=P5050005055nTnnnn (nn101000)0.977=(2). 根据分布函数 (x)的单调递增性, 有nn1010002. 解得 n98.0199, 即每辆车最多可以装 98 箱. 下面介绍另一个中心极限定理, 它是定理 1 的特殊情况. 定理定理 2(棣莫弗棣莫弗-拉普拉斯-拉普拉斯(De Moivre-Laplace)定理定理) 设随机变量随机变量(1,2,)nn服从参数为服从参数为) 10(, ppn的二项分布, 则对于任意的实数的二项分布, 则对于任意的实数x, 有有 221limed( )(1)2txnnnpPxtxnpp. (2.7) 证证 可以将n分解成为n个相互独立且服从同一0 1分布的随机变量nXXX,21之和, 即有 nkknX1. 其中(1,2, )kXkn的分布律为 1(1),0,1.iikP Xippi 由于(),()(1)(1,2, )kkE Xp D Xpp kn, 由本节定理 1 得 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 185 页页 212limlimed( ).(1)(1)12ntkxnknnXnpnpPxPxtxnppnpp 讲评讲评 (1) 这个定理表明, 正态分布是二项分布的极限分布, 当 n 充分大时, 我们可以利用(2.7)式来计算二项分布的概率. (2) 注意，二项分布也以泊松分布为极限分布. 但当 n 较大 p 较小时, 泊松定理比中心极限定理更精确一些. (2.7)式常用的形式: 若( , )B n p，则对充分大的 n， ()()(1)(1)bnpanpP abnppnpp. (2.8) 下面再举一个应用二项分布和中心极限定理的例子. 例例5.2.4 某药厂试制了一种新药, 声称对贫血患者的治疗有效率达到80%. 医药监管部门准备对 100 个贫血患者进行此药的疗效试验, 若这 100 人中至少有 75 人用药有效, 就批准此药生产. 如果该药的有效率确实达到 80%, 此药被批准生产的概率是多少? 解解 用Sn表示这n=100个患者中用药后有效的人数. 如果该药的有效率确实是p=80%, 则 SnB(n, p). 由上述(2.8)式定理 3, 得到该新药被批准的概率为 75758075(1)(1)(1)80 0.2nnnSnpSnpnpP SPPnppnppnpp 1-(-1.25) =(1.25)=0.8944 . 可见, 该新药获得批准的概率是 0.89. 也就是说，如果有效率 p80%, 则获得批准的概率大于 0.89. 思考题思考题 1. 列维-林德伯格中心极限定理（即独立同分布中心极限定理）的条件分别是什么？ 2. 列维-林德伯格中心极限定理（即独立同分布中心极限定理）的变形结 概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第概率论与数理统计教案 第五章第一、二节 郑一，戚云松，陈倩华，陈健 编著 大连理工大学出版社出版 第 186 页页 果有哪些情形？ 解题参考 解题参考 1. 列维-林德伯格中心极限定理（即独立同分布中心极限定理）的条件有4 条，分别是独立，同分布，同期望，同方差. 2. 列维-林德伯格中心极限定理（即独立同分布中心极限定理）的变形结果有： (1) 随机变量之和的标准化1(0,1)nkkXnNn； (2) 随机变量之和),(21nnNXnkk； (3) 随机变量算术平均X标准化(0,1)/XNn； (4) 随机变量算术平均X2( ,)XNn. 小 结 与 思 考 小 结 与 思 考 大数定律告诉我们：虽然频率具有可变性，但是当试验次数充分大时，频率稳定在某个常数，这个常数就是事件发生的概率. 中心极限定理表明, 在相当一般的条件下, 当独立随机变量的个数增加时, 其和的分布趋于正态分布. 这一事实阐明了正态分布的重要性. 中心极限定理也揭示了为什么在实际应用中会经常遇到正态分布, 也就是揭示了产生正态分布变量的源泉. 只要和式中加项的个数充分大, 就可以不必考虑和式中的随机变量服从什么分布, 而和1nkkX的概率问题都可以用正态分布来近似计算, 这在应用上是有效和重要的. 中心极限定理的内容包含极限, 因而称它为极限定理是很自然的.又由于它在统计中的重要性, 称它为中心极限定理.