2023年概率统计与随机过程-知识点总结归纳全面汇总归纳--最终版.pdf

《2023年概率统计与随机过程-知识点总结归纳全面汇总归纳--最终版.pdf》由会员分享，可在线阅读，更多相关《2023年概率统计与随机过程-知识点总结归纳全面汇总归纳--最终版.pdf（51页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、学习必备 精品知识点 概率统计与随机过程知识总结 第 1 章 随机事件及其概率 一、随机事件与样本空间 1、随机试验 我们将具有以下三个特征的试验称为随机试验，简称试验，（1）重复性：试验可以在相同的条件下重复进行；（2）多样性：试验的可能结果不止一个，并且一切可能的结果都已知；（3）随机性：在每次试验前，不能确定哪一个结果会出现。随机试验一般用大写字母 E 表示，随机试验中出现的各种可能结果称为试验的基本结果。2、样本空间 随机试验 E 的所有可能结果组成的集合称为试验的样本空间，记为 S，样本空间中的元素，即 E 的每个基本结果，称为样本点。3、随机事件 称随机试验 E 的样本空间 S 的

2、子集为 E 的随机事件，简称事件。随机事件通常利用大写字母 A、B、C 等来表示。在一次试验中，当且仅当这一子集（事件）中的某个样本点出现时，称这一事件发生。特别地，将只含有一个样本点的事件称为基本事件；样本空间 S 包含所有的样本点，它在每次试验中都发生，称 S 为必然事件；事件（S）不包含任何样本点，它在每次试验中都不发生，称为不可能事件。4、随机事件间的关系及运算（1）包含关系：若BA，则称事件 A包含事件 B，也称事件 B 含在事件 A 中，它表示：若事件 B 发生必导致事件 A发生。（2）相等关系：若BA且AB，则称事件 A与事件 B 相等，记为AB。（3）事件的和：称事件|ABx

3、xA或xB为事件 A与事件 B 的和事件。事件AB发生意味着事件 A发生或事件 B 发生，即事件 A与事件 B 至少有一件发生。类似地，称1niiA为 n 个事件12nAAA、的和事件，称1iiA为可列个事件12 AA、的和事件。（4）事件的积：称事件|ABx xA且xB为事件 A与事件 B 的积事件。事件AB发生意味着事件 A发生且事件 B 发生，即事件 A与事件 B 都发生。AB简记为 AB。类似地，称1niiA为 n 个事件12nAAA、的积事件，称1iiA为可列个事件12 AA、的积事件。（5）事件的差：称事件|ABx xA 且xB为事件 A与事件 B 的差事件。事件AB发生意味着事件

4、 A发生且事件 B 不发生。（ABABAAB ）（6）互不相容（互斥关系）：若AB，则称事件 A 与事件 B 互不相容，又称事件 A与事件 B 互斥。事件 A 与 B 互不相容意味着事件 A与 B 不可能同时发生。（7）互逆关系（对立关系）：若ABS且AB，则称事件 A与事件 B 互为逆事学习必备 精品知识点 件，又称事件 A与事件 B 互为对立事件，记为AB或BA。注意：事件 A的对立事件记为A；基本事件是两两互不相容的；对立事件与互斥事件的关系：对立一定互斥，但互斥不一定对立。事件的运算满足的规律：交换律：ABBA ABBA；结合律：ABCABC ABCABC；分配律：()()()ABCA

5、BAC ()()()ABCABAC；对偶律：ABAB ABAB (德摩根律)二、随机事件的概率 1、频率 在相同的条件下，将一个试验重复进行 n 次，在这 n 次试验中，记事件 A发生的次数为AN次，称比值ANn为事件 A在这 n 次试验中发生的频率，记为nfA。频率描述了事件发生的频繁程度。频率所具有的三个性质：性质 1：非负性 01nfA；性质 2：规范性 1nfS；性质 3：可加性 如果事件12,kAAA两两互不相容，则 1212 nknnnkfAAAfAfAfA。2、概率的公理化定义 设E 是随机试验,S是它的样本空间,对于E 的每一事件A赋予一个实数,记为 P(A),称为事件 A 的

6、概率，且满足以下三条公理：非负性：对于任意事件 A,有 P(A)0;规范性：对于必然事件 S,有 P(S)=1;可列可加性：设 A1,A2,.是两两互不相容事件,即对于 i j,AiAj=f,i,j=1,2,.,则有 P(A1 A2.)=P(A1)+P(A2)+.3、概率的性质 性质 1 对不可能事件，有 P()=0.性质 2(有限可加性)若 A1,A2,.,An是两两互不相容的 n 个事件,则有 P(A1 A2.An)=P(A1)+P(A2)+.+P(An)性质 3(逆事件的概率)对任意事件 A,有()1()P AP A 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样

7、本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 性质 4 设 A,B 是两个事件,若 B A,则有 P(A-B)=P(A)-P(B)P(A)P(B)性质 5 对于任意事件 A,P(A)1 性质 6(加法公式)对任意两个事件 A,B 有 P(A B)=P(A)+P(B)-P(AB)性质 6 的推论：P AB P AP B 性质 6 的推广：P ABC P AP BP CP ABP ACP BCP ABC 1niiPA1niiP A 1,iji j nP AA 1,ijki j k nP AA A 1121n

8、nP A AA 三、古典概率模型 1、古典概率模型 若随机试验满足下述两个条件：(1)它的样本空间只含有有限个样本点，即基本事件数有限；(2)每个样本点出现的可能性相同.称这种试验为古典概率模型，简称古典概型，又称为等可能概率模型。若事件 A包含 k个基本事件，即12 kiiiAeee，则有()P Akn AS包含的基本事件数中的基本事件总数 四、条件概率、全概率公式与贝叶斯公式 1、条件概率 设 A、B 是两个事件，且 P(B)0,则称()(|)()P ABP A BP B(1)为在事件 B 发生的条件下,事件 A的条件概率.2、条件概率的性质 条件概率|PA具备概率定义的三个条件：（1）非

9、负性：对于任意的事件 B，|0P B A；（2）规范性：|1P S A；（3）可列可加性：设12,B B 是两两互斥事件，则有：11iiiiPB AP B A。3、乘法公式 由条件概率的定义：()(|)()P ABP A BP B 即得乘法定理：止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 若 P(B)0，则 P(AB)=P(B)P(A|B)；若 P(A)0，则 P(AB)=P(A)P(B|A).乘法定理可以推广到多个事件的积事件的情

10、况，设 A、B、C 为三个事件，且 0P AB，且|P ABCP C AB P B A P A，一般地，设有 n 个事件12,2,nA AA n并且1210nP AAA，则由条件概率的定义可得：1212-1112-2312211|nnnnnP AAAP A AAAP AAAAP AAAP AA P A4、样本空间的划分 定义：设 S 为试验 E 的样本空间,B1,B2,.,Bn为 E 的一组事件,若（1）,1,2,ijB Biji jn；（2）12nBBBS 则称12,nB BB为样本空间S的一个划分。5、全概率公式 定理：设试验 E 的样本空间为 S，A 为 E 的事件，B1,B2,.,Bn

11、为 S 的一个划分，且()0(1,2,),iP Bin则恒有全概率公式：1122()()()()()()()nnP AP A B P BP A B P BP A B P B 1|niiiP BP A B 6、贝叶斯公式 定理：设试验 E 的样本空间为 S，A为 E 的事件，B1,B2,.,Bn为 S 的一个划分，且()0,P A ()0,(1,2,),iP Bin则1()()(),1,2,.()()iiinjjjP A B P BP B AinP A B P B（贝叶斯公式）n=2 时，两个公式的简化：全概率公式：()(|)()(|)()P AP A B P BP A B P B 贝叶斯公式：

12、(|)()(|)(|)()(|)()P A B P BP B AP A B P BP A B P B 7、条件概率()P B A与积事件概率()P AB的区别()P AB表示在样本空间 S 中，AB发生的概率，而()P B A表示在缩小的样本空间AS中，B发生的概率，用古典概率公式，则()AABP B AS中基本事件数中基本事件数，()ABP ABS中基本事件数中基本事件数，止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 一般来说，()

13、P B A比()P AB大。五、事件的独立性 1、事件的相互独立性 定义：设 A，B 是两事件，如果满足等式()()()P ABP A P B，则称事件 A，B 相互独立，简称 A，B 独立。说明：(1)事件 A 与 事件 B 相互独立,是指事件 A 的发生与事件 B 发生的概率无关.(2)两事件相互独立与两事件互斥的关系：两事件相互独立()()()P ABP A P B与两事件互斥AB 二者之间没有必然联系（3）事件 A、B 独立的充要条件为：|,0P A BP AP B 或|,0P B AP BP A 三事件两两相互独立的概念 定义：设,A B C是三个事件，如果满足等式()()(),()

14、()(),()()(),P ABP A P BP BCP B P CP ACP A P C则称事件,A B C两两相互独立。三事件相互独立的概念 定义：设,A B C是三个事件，如果满足等式()()(),()()(),()()(),()()()(),P ABP A P BP BCP B P CP ACP A P CP ABCP A P B P C则称事件,A B C相互独立。注意：三个事件相互独立 三个事件两两相互独立 推广：设12,nA AA是 n 个事件，如果对于任意(1)kkn，任意121kiiin ，具有等式1212()()()()kkiiiiiiP A AAP A P AP A，则称

15、12,nA AA为相互独立的事件。结论：若事件12,(2)nA AAn 相互独立，则其中任意(2)kkn 个事件也是相互独立的。2、几个重要定理 定理一：设,A B是两事件，且()0P A，若,A B相互独立，则()().P B AP B反之亦然。定理二：若,A B相互独立，则下列各对事件，A与B，A与B，A与B也相互独立。止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 推广：n 个事件12,(2)nA AA n 相互独立，则将12,n

16、A AA中任意多个事件换成它们的对立事件，所得的 n 个事件仍相互独立。3、事件的独立性在可靠性问题中的应用 所谓系统（元件）的可靠性是指系统（元件）正常工作的概率。补充：排列与组合知识 1、加法原理 设完成一件事有 m 种方式，第 i 种方式有 ni 种方法，则完成这件事共有:n1n2nm 种不同的方法。2、乘法原理 设完成一件事有 m 个步骤，第 i 种步骤有 ni 种方法，则完成这件事共有:n1n2 nm 种不同的方法。3、排列公式（1）从 n 个不同元素中不放回（不重复）地选取 m 个元素进行排列，称为选排列，则所有不同排列的总数为：()(1)(1)()mmnnnAPn nnmnm！（

17、2）当 n=m 时，称为全排列，其计算公式为：nnnPAn！（3）有重复排列:从 n 个不同元素中有放回（可重复）地取 m 个元素进行排列，称为可重排列，其总数为 nm。4、组合公式（1）从 n 个不同元素中不重复地选取 m 个元素，组成一组(不管其顺序)，称为从 n 个不同元素中选取 m 个元素的组合。则所有不同组合的总数为：()mnnnCmm nm ！选排列与选组合的关系：!mmnnAC m 说明：选组合也等价于：如果把 n 个不同的元素分成两组，一组 m 个，另一组 n-m 个，组内元素不考虑顺序，那么不同分法的总数为：!()!nmnm（2）多组组合：把 n 个不同元素分成 k 组(1

18、k n)，使第 i 组有 ni 个元素，1kiinn，若组内元素不考虑顺序，那么不同分法的总数为：1!knnn（3）常用组合公式：kn knnCC，11kkknnnCCC，0kkik in mnmiCC C，02.ninniC 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 第 2 章 随机变量及其分布 一、随机变量 1、随机变量的概念 定义：设 E 是随机试验，它的的样本空间为 S=e.如果对于每一个,eS有一个实数 X(e)与之对应

19、，这样 X=X(e)是定义在样本空间 S 上的实值单值函数.称 X=X(e)为随机变量.说明：(1)随机变量与普通的函数不同；(2)随机变量的取值具有一定的概率规律；(3)随机变量与随机事件的关系 2、随机变量的分类(1)离散型：随机变量所取的可能值是有限多个或无限可列个,叫做离散型随机变量.(2)连续型：随机变量所取的可能值可以连续地充满某个区间,叫做连续型随机变量.二、离散型随机变量的概率分布 1、离散型随机变量的分布律 定义：设离散型随机变量 X所有可能取的值为 xk(k=1,2,.),X取各个可能值的概率，即事件X=xk的概率，为 PX=xk=pk,k=1,2,.，称此为离散型随机变量

20、 X 的分布律。说明：（1）0,1,2,kpk；（2）11kkp 离散型随机变量的分布律也可表示为：1212nnxxxXppp X x1 x2.xn.pk p1 p2.pn.2、常见离散型随机变量的概率分布 （1）两点分布 设随机变量 X 只可能取 0 与 1 两个值,它的分布律为：X 0 1 pk 1-p p 则称 X 服从(01)分布或两点分布.（2）等可能分布 如果随机变量 X 的分布律为：X 1a 2a.na kp 1n 1n.1n 其中（ijaa），（ij），则称 X 服从等可能分布.（3）二项分布 n 重伯努利试验：设实验 E 只有两个可能结果：A及A，则称 E 为伯努利试验。止一

21、个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 设()(01)P App，此时()1P Ap，将 E 重复地进行 n 次，则称这一串重复的独立试验为 n 重伯努利试验。用 X表示 n 重伯努利试验中事件 A发生的次数，则 P Xk=(1)kn knppk，k=0,1,.，n 得 X 的分布律为：X 0 1.k.n kp nq 11nnpq.kn knp qk.np 称 X 服从参数为 n 和 p 的二项分布，记为 Xb(n,p)显然：00(

22、)1nnkn knkknP Xkp qpqk 注意：当 n=1 时，二项分布就是(0-1)分布 Possion 定理 设0nnp，则对固定的 k，lim(1)!kkkn knnnnC ppek，0,1,2,k Poisson 定理说明若 X B(n,p),则当 n 较大，p 较小,而np适中,则可以用 近似公式：(1),0,1,2,!kkkn knC ppekk（4）泊松分布 设随机变量 X所有可能取的值为 0,1,2,且概率分布为：e,0,1,2,!kP Xkkk 其中0 是常数,则称 X 服从参数为的 泊松分布,记作 X().（5）几何分布 若随机变量 X 的分布律为：X 1 2.k.kp

23、 p qp.1kqp.其中，1pq，则称 X 服从几何分布。说明：几何分布可作为描述某个试验“首次成功”的概率模型.三、随机变量的分布函数 1、分布函数的概念 定义：设 X 是一个随机变量，x 是任意实数，函数()F xP Xx为 X 的分布函数。止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 性质：（1）0()1,(,)F xx ；（2）1212()(),()F xF xxx；（3）()lim()0 xFF x，()lim()1xFF

24、 x；（4）000lim()(),()xxF xF xx，即任一分布函数处处右连续，010121220,(),1,.xxpxxxF xpxxxxx 重要公式 （1）()()P aXbF bF a；（2）1()P XaF a 四、连续型随机变量及其分布 1、概率密度的概念与性质 定义：如果对于随机变量 X的分布函数 F（x），存在非负函数，使得对于任意实数 x 有()()d,xF xf tt则称 X 为连续型随机变量，其中 f(x)称为 X 的概率密度函数，简称为概率密度。性质：（1）()0f x；（2）()d1f xx；这两条性质是判定一个函数 f(x)是否为某一随机变量的概率密度的充要条件（

25、3）1221()()P xXxF xF x ()P XaF a()daf xx 1PXaPXa 1()F a；（4）若 f(x)在点 x 处连续,则有()()Fxf x；（5）对于任意可能值 a,连续型随机变量取 a 的概率等于零.即：0.P Xa 由此（5）可得：P aXbP aXbP aXb.P aXb 连续型随机变量取值落在某一区间的概率与区间的开闭无关 2、常见连续型随机变量的分布（1）均匀分布 设连续型随机变量 X具有概率密度：1,()0,axbf xba 其它 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随

26、机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 则称 X 在区间(a,b)上服从均匀分布，记作 X U(a,b)均匀分布的意义 在区间(a,b)上服从均匀分布的随机变量 X，落在区间(a,b)中任意等长度的子区间内的可能性是相同的。概率密度函数图形 分布函数 0,(),1,.xaxaF xaxbbaxb (2)指数分布 设连续型随机变量 X具有概率密度:e,0,()0,0.xxf xx 其中0为常数，则称 X 服从参数为的指数分布。概率密度函数图形 注：1 分布函数 1e,0,()0,0.xxF xx 如 X 服从指数分布,则任给 s,t 有 PXs+t|

27、X s=PX t（无记忆性）（3）正态分布(或高斯分布)设连续型随机变量 X具有概率密度:22()21()e,2x f xx 其中,(0)为常数，则称 X 服从参数为,的正态分布或高斯分布，记作2(,)XN。正态概率密度函数的几何特征 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 （1）曲线关于x对称；（2）当x时，()f x取得最大值12；（3）当x 时，()0f x；（4）曲线在x 处有拐点；（5）曲线以x轴为渐近线；（6）当固定

28、，改变的大小时，()f x图形的形状不变，只是沿着x轴作平移变换；（7）当固定，改变的大小时，()f x图形的对称轴不变，而形状在改变，越小，图形越高越瘦，越大，图形越矮越胖。正态分布的分布函数 22()21()ed2t xF xt 标准正态分布 当正态分布2(,)N 中的0,1时，这样的正态分布称为标准正态分布，记为(0,1)N 标准正态分布的概率密度表示为：221()e,2xxx 标准正态分布的分布函数表示为：221()ed,.2txxtx 标准正态分布的图形 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地

29、将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 常用结论：（1）102；（2）,1xRxx 引理：若2(,)XN，则(0,1)XZN 3准则 由标准正态分布的查表计算可以求得，当 XN(0,1)时，P(|X|1)=2(1)-1=0.6826；P(|X|2)=2(2)-1=0.9544；P(|X|3)=2(3)-1=0.9974；这说明，X的取值几乎全部集中在-3,3区间内，超出这个范围的可能性仅占不到 0.3%.将上述结论推广到一般的正态分布,当2(,)YN时，(|)PY 0.6826；(|2)PY0.9544；(|3)P Y0.9974 可见服从正态分布2(,)

30、N的随机变量 X之值基本上落在区间(2,2)内，而几乎不落在(3,3)之外，在实际应用中称为 3准则。五、一维随机变量函数的分布 1、离散型随机变量函数的分布 如果 X是离散型随机变量，其函数 Y=g（X）也是离散型随机变量，若 X的分布律为：X 1x 2x.kx.kp 1p 2p.kp.则 Y=g（X）的分布律为：()Yg X 1()g x 2()g x.()kg x.kp 1p 2p.kp.若()kg x中有值相同的，应将相应的kp合并。2、连续型随机变量函数的分布 如果 X是连续型随机变量，其概率密度为()Xfx，欲求 Y=g（X）的概率密度()Yfy，一般，我们采用先求分布函数，再求概

31、率密度的方法，步骤如下：止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点（1）求出 Y=g（X）的分布函数()YFy；（2）由关系式()()YyfyFy求出()Yfy。定理：设随机变量 X 具有概率密度()Xfx，其中x ，又设函数()g x处处可导，且恒有()0gx（或恒有()0gx），则称()Yg X是连续型随机变量，其概率密度为：()(),()0,.XYfh yh y yfy 其他，其中min(),()gg，max(),()gg，(

32、)h y是()g x的反函数。第 3 章 多维随机变量及其分布 一、二维随机变量及其分布函数 1、二维随机变量 定义：设 E 是一个随机试验，它的样本空间是 Se，设()XX e和()YY e是定义在 S 上的随机变量，由它们构成的一个向量(,)X Y，叫做二维随机向量或二维随机变量。2、二维随机变量的分布函数 定义：设(,)X Y是二维随机变量，对于任意实数,x y，二元函数(,)()(),F x yPXxYyP Xx Yy称为二维随机变量(,)X Y的分布函数，或称为随机变量 X 和 Y的联合分布函数。(,)F x y的函数值就是随机点落在如图所示区域内的概率。性质：（1）0(,)1F x

33、 y，(,)1F ，(,)0F ，(,)0F x ，(,)0Fy；（2）对每个变量单调不减，固定 x,对任意的 y1 y2,F(x,y1)F(x,y2)；固定 y,对任意的 x1 x2,F(x1,y)F(x2,y)；（3）对每个变量右连续 F(x0,y0)=F(x0+0,y0)，F(x0,y0)=F(x0,y0+0)；（4）对于任意 a b,c 0,D(Y)0，称(,)()()XYCov X YD XD Y为随机变量 X 和 Y 的相关系数，记为XY，即当XY=0 时，称随机变量 X 和 Y不相关。性质：（1）|1XY；（2）|1XY是充分必要条件 X与 Y依概率 1 线性相关，即存在常数 a

34、，b 使()1P YaXb 定理：若随机变量 X与 Y相互独立，则 X与 Y不相关。四、矩与协方差矩阵 1、矩 定义：设 X和 Y是随机变量，若(),1,2,kE Xk 存在，称它为 X 的 k 阶原点矩，简称 k阶矩。若(),2,3,kEXE Xk存在，称它为 X 的 k 阶中心矩。定义：设（X，Y）是二维随机变量，若()klE X Y，k,l=1,2,存在，称它为 X 和 Y 的 k+l 阶混合矩.。若()()klEXE XYE Y存在，称它为 X 和 Y 的 k+l 阶混合中心矩.由定义知，均值 E(X)是 X一阶原点矩，方差 D(X)是 X的二阶中心矩，协方差 Cov(X,Y)是 X和

35、 Y的二阶混合中心矩。2、协方差矩阵 定义：将二维随机变量（X1,X2）的四个二阶中心矩 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 211111()()cEXE XD X，12112212()()(,)cEXE XXE XCov XX，21221121()()(,)cEXE XXE XCov XX，222222()()cEXE XD X 排成矩阵的形式:11121122122212()(,)(,)()ccD XCov XXccCo

36、v XXD X 称此矩阵为（X1,X2）的协方差矩阵.类似定义 n 维随机变量(X1,X2,Xn)的协方差矩阵，若(,)i jijcCov XX()()iijjEXE XXE X(i,j=1,2,n)都存在，称矩阵111212122212nnnnnnccccccCccc为 n 维随机变量(X1,X2,Xn)的协方差矩阵。第 5 章 大数定律与中心极限定理 一、大数定律 1、切比雪夫不等式 定理：设随机变量 X 具有数学期望()E X，方差2()D X，则对于任意正数，不等式22P X 成立。2、三个大数定律 定义 1：设12,nXXX是随机变量序列，若存在一个常数a，使得对任意的0，有lim|

37、1nnPXa 成立，则称随机变量序列12,nXXX依概率收敛于a，记为PnXa。定义 2：设nX是一随机变量序列，其数学期望为()nE X1,2,n，且为常数序列，令11nniiXn，若()0PnnE，则称nX服从大数定律。基本定理 定理一（切比雪夫定理的特殊情况）止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 设随机变量12,nXXX相互独立，且具有相同的数学期望和方差：()kE X，2()(1,2,)kD Xk，作前n个随机变量的算

38、术平均11nkkXXn，则对于任意正数有11lim|lim1.nknnkPXPXn 表达式的意义：|X 是一个随机事件，等式表明，当n 时这个事件的概率趋于 1，即对于任意正数，当n充分大时，不等式|X 成立的概率很大。定理一的另一种叙述:设随机变量12,nXXX相互独立，且具有相同的数学期望和方差：()kE X，2()(1,2,)kD Xk，则序列11nkkXXn依概率收敛于，即PX。“依概率收敛于”的理解：设12,nY YY是一个随机变量序列，a是一个常数，若对于任意正数有lim|1nnPYa，则称序列12,Y YY依概率收敛于a，记为 PnYa。定理二（伯努利大数定理）设An是n次独立重

39、复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对于任意正数0，有lim1lim0AAnnnnPpPpnn 或。定理三（辛钦定理）设随机变量12,nXXX相互独立，服从同一分布，且具有数学期望()kE X，(1,2,)k，则对于任意正数，有11lim1nknkPXn。二、中心极限定理 1、基本定理 定理四（独立同分布的中心极限定理）设随机变量12,nXXX相互独立，服从同一分布，且具有数学期望和方差：()kE X，2()0(1,2,)kD Xk，则随机变量之和的标准化变量 止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本

40、点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 111nnkkkknnkkXEXYDX1nkkXnn的分布函数()nFx对于任意 x 满足：1lim()limnkknnnXnFxPxn 定理四表明：独立同分布的随机变量之和1nkkX，当n充分大时，随机变量之和与其标准化变量分别有1(0,1).nkkXnNn近似地 定理五(德莫佛拉普拉斯定理)设随机变量(1,2,)nn服从参数为,n p(01)p 的二项分布，则对于任意 x，恒有 221limed().(1)2txnnnpPxtxnpp 中心极限定理表明，在相当一般的条件下,当独立随机变量的个

41、数增加时,其和的分布趋于正态分布.第 6 章 样本及抽样分布 一、总体和样本 1、总体 研究对象全体元素组成的集合称为总体。所研究的对象的某个(或某些)数量指标的全体，它是一个随机变量(或多维随机变量)，记为X.X 的分布函数和数字特征称为总体的分布函数和数字特征。2、个体 组成总体的每一个元素称为个体。即总体的每个数量指标，可看作随机变量 X的某个取值.用iX表示.3、随机样本 简单随机样本 若总体 X 的样本12(,)nXXX满足：（1）12,nXXX与 X 有相同的分布；（2）12,nXXX相互独立；止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的

42、每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 则称12(,)nXXX为简单随机样本.简单随机抽样 获得简单随机样本的抽样方法称为简单随机抽样.根据定义得：若12,nXXX为F的一个样本，则12,nXXX的联合分布函数为 121*(,)()nniiFxxxF x 又若X具有概率密度f，则12,nXXX的联合概率密度为 121*(,)()nniifxxxf x 二、抽样分布 1、统计量 定义：设12,nXXX是来自总体X的一个样本，12(,)ng XXX是12,nXXX的函数，若g中不含未知参数，则称12(,)ng XXX是

43、一个统计量。设12,nx xx是相应于样本12,nXXX的样本值，则称12(,)ng x xx是 12(,)ng XXX的观察值。2、几个常用统计量 设12,nXXX是来自总体的一个样本，12,nx xx是这一样本的观察值，（1）样本平均值 11niiXXn；（2）样本方差 2211()1niiSXXn22111niiXnXn；（3）样本标准差 22111niiSSXXn；（4）样本 k 阶(原点)矩 11,1,2,nkkiiAXkn；（5）样本 k 阶中心矩 11(),2,3,nkkiiBXXkn 由以上定义得下述结论：止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本

44、空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 若总体X的k阶矩()kE X 记成 k存在，则当n 时，PkkA，1,2,.k 再根据第五章辛钦定理知，11nPkikiXn，1,2,k 由第五章关于依概率收敛的序列的性质知，1212(,)(,)Pkkg A AAg ，其中g是连续函数。3、经验分布函数 设12,nXXX是总体F的一个样本，用()()S xx 表示12,nXXX中不大于x的随机变量的个数，定义经验分布函数()nFx为1()()nFxS xn，()x ，对于一个样本值，()nFx的观察值容易求得

45、。（()nFx的观察值仍以()nFx表示）一般地，设12,nx xx是总体F的一个容量为n的样本值，先将12,nx xx按自小到大的次序排列，并重新编号(1)(2)()nxxx，则经验分布函数()nFx的观察值为：(1)()(1)()0,(),1,.nkknxxkFxxxxnxx 格里汶科定理 对于任一实数x，当n 时，()nFx以概率 1 一致收敛于分布函数()nFx，即 lim sup()()01nnxPFxF x 对于任一实数x，当n充分大时，经验分布函数的任一个观察值()nFx与总体分布函数()F x只有微小的差别，从而实际上可当作()F x来使用。4、常见分布（1）正态分布 若12,

46、nXXX2(,)iiN，则22111,nnniiiiiiiiia XNaa 特别地，若12,nXXX2(,)iXN，则211,niiXXNnn 标准正态分布的 分位数 定义：若P Xz，则称 z 为标准正态分布的上 分位数。止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 若2|PXz，则称2z为标准正态分布的双侧 分位数。标准正态分布的 分位数图形 P Xz 常用数字：0.051.645z，0.0251.96z，0.0052.575z

47、2|PXz-z/2=z1-/2 根据正态分布的对称性知：1.zz（2）2分布 设12,nXXX是来自总体(0,1)N的样本，则称统计量222212nXXX 服从自由度为n的2分布，记为22()n。自由度：指222212nXXX 中右端包含独立变量的个数。2分布的性质 性质 1（2分布的可加性）设2211()n，2222()n，并且2212,独立，则2221212()nn。此性质可以推广到多个随机变量的情形：设22()iin，并且2(1,2,)iim相互独立，则22121()miminnn，性质 2（2分布的数学期望和方差）若22()n，则2()En，2()2Dn。2分布的分位点 止一个并且一切

48、可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 对 于 给 定 的 正 数，01，称 满 足 条 件222()()()dnPnf yy的 点2()n为2()n分布的上分位点。对于不同的,n可以通过查表求得上分位点的值。（3）t分布 设(0,1)XN，2()Yn，且,X Y独立，则称随机变量/XtY n服从自由度为n的t分布，记为()tt n。()t n分布的概率密度函数为12212()12nnth tnnn ，t 具有自由度为 n 的 t 分布的随机

49、变量 T 的数学期望和方差为:E(T)=0;D(T)=n/(n-2),对 n 2 t 分布的概率密度曲线为：显然图形是关于0t 对称的，当 n 充分大时,其图形类似于标准正态变量概率密度的图形。因为221lim()e2tnh t，所以当n足够大时 t 分布近似于(0,1)N分布。但对于较小的n，t 分布与(0,1)N分布相差很大。t 分布的分位点 对 于 给 定 的 正 数，01，称 满 足 条 件()()()dtnP ttnh tt的点()tn为()t n分布的上分位点。可以通过查表求得上分位点的值，由分布的对称性知，1()()tntn，当45n 时，()tnz。（4）F分布 设21()Un

50、，22()Vn，且,U V独立，则称随机变量12/UnFVn服从自由度为12(,)n n的F分布，记为12(,)FF n n。F分布的概率密度曲线为：根据定义可知，若12(,)FF n n，则211(,)F nnF。F分布的分位点 对于给定的正数，01，称满足条件1212(,)(,)()dFnnP FFn nyy的止一个并且一切可能的结果都已知随机性在每次试验前不能确定哪一个间记为样本空间中的元素即的每个基本结果称为样本点随机事件称随机特别地将只含有一个样本点的事件称为基本事件样本空间包含所有的样学习必备 精品知识点 点12(,)Fn n为12(,)F n n分布的上分位点。12(,)F n