概率论与数理统计 (25).pdf
5.2大数定律 大 数 定 律 的 客 观 背 景 阐明 大量 随机 现象 平均 结果 的稳 定性 抛掷 硬币 正面 出现 频率 灯管 的废 品率 种子 的发 芽率 大数定律的定义 定义5.1：设X 1, X 2, , X n , 是一随机变量序 列，令若存在常数列an,使对于任意给定 0，恒有 1 1 , n nk k YX n lim1 nn n P Ya lim0 nn n P Ya 则称随机变量序列X 1, X 2, , X n , 服从大数定律。 或 注: 上述极限成立，也称Yn依概率收敛于 an。可记 为. P nn Ya 贝努里（Bernoulli）大数定律 定理5.1: 设 nA 是 n 重贝努里试验中事件 A 发生的次 数，p 是事件 A在每次试验中发生的概率，则对于任意的 0，有 lim1 A n n Pp n 或 lim0 A n n Pp n Jacob(Jacques)Bernoulli 1654-1705,Switzerland 贝努里（Bernoulli）大数定律的意义 贝努里大数定律表明 . P A n p n 事件发生的频率事件的概率 因而当试验次数n足够大时，事件发生的频率与概 率有较大偏差的可能性很小，即 是小概率事 件。根据实际推断原理， 当试验次数n很大时，便可以 用事件发生的频率近似代替事件的概率。由于此类定律 说明了大次数的重复试验所呈现的客观规律，这也是称 这类定律为大数定律的原因。 A n p n lim0 A n n Pp n 贝努里（Bernoulli）大数定律 0 A n Pp n 证明: 引入随机变量序列 X k 0, ,1,2, k kA X kAk 若在第 次试验中 不发生 1若在第 次试验中 发生 由 X1, X2, , X n 相互独立，易知 1 , n Ak k nX (),()(1),1,2,. kk E XpD Xppk 记记 1 1 , n A nk k n YX nn 则则 (1) (),() nn pp E Yp D Y n 11 11 () nn kk kk PXEX nn 且 X k 服从以 p为参数的 (0-1) 分布，所以 () nn P YE Y 由切比 雪夫不 等式 由切比 雪夫不 等式 22 ()(1) n D Ypp n 故 n 时，结论成立。 lim0 A n n Pp n 切比雪夫（Chebyshev）大数定律 定理5.2:设 X1, X2, . , X n, . 是相互独立的随机变 量，且分别具有数学期望 E (X k ) 和方差 D (X k ),（k = 1, 2, .)。若方差有界，即存在常数 C，使得 D (X k) C，则 对于任意的 0，恒有 11 11 lim()1 nn kk n kk PXE X nn 切比雪夫大数定律是贝努里大数定律的推广，而贝 努里大数定律是切比雪夫大数定律的一个特例。 切比雪夫（Chebyshev）大数定律 证明: 对随机变量序列 X k，记 记 1 1 , n nk k YX n 11 11 1() nn kk kk PXE X nn () nn P YE Y 22 () 11 n D YC n 由方差和期望的性质可得 1 1 ()(), n nk k E YE X n 22 1 1 ()(), n nk k nCC D YD X nnn 根据切比雪夫不等式可知 n 1 11 11 lim()1 nn kk n kk PXE X nn 即即 1 1 (). n P nkn k YXE Y n 切比雪夫（Chebyshev）大数定律推论 推论: 设 X1, X2, . , X n, . 是相互独立的随机变量， 均服从同一分布，并且有数学期望 和方差 2，则对于 任意的 0 ，恒有 1 1 lim1. n k n k PX n 或 1 1 lim0. n k n k PX n 1 1 () n k k E X n 证明：因为 所以由切比雪夫大数定律即知结论成立。 切比雪夫（Chebyshev）大数定律的意义 算术平均值 11 11 () nn P kk kk XE X nn 当 n 足够大时，算术平均值几乎是一常数。 算术平均值 1 1 n P k k X n 数学 期望 可被 算术 均值 近似代替。 切比雪夫大数定律给出了平均值稳定性的科学描述。 辛钦（）大数定律 定理5.3:设随机变量X1, X2, . , X n, . 相互独立， 服从同一分布，且有数学期望 ，则对于任意的 0 ， 有 1 1 lim1. n k n k PX n (1)与定理5.2相比,辛钦大数定律不要求方差存在; 几点说明: (2)贝努里大数定律是辛钦定理的特殊情况； (3)辛钦定理是“算数平均法则”的理论依据。 AleksandrYakovlevichKhinchin 1894-1959,USSR 小 结 大数定律以严格的数学形式表达了随机现象最根本 的性质之一： 平均结 果的稳 定性 大数定律是随机现象统计规律的具体表现,是连接 偶然性与必然性的桥梁,也是后面参数估计中矩估计的 理论基础。 算术平均值 11 11 () nn P kk kk XE X nn 算术平均值 1 1 n P k k X n . P A n p n 事件发生的频率事件的概率
