概率论与数理统计知识点总结免费超详细版.pdf

《概率论与数理统计知识点总结免费超详细版.pdf》由会员分享，可在线阅读，更多相关《概率论与数理统计知识点总结免费超详细版.pdf（10页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、概率论及数理统计?第一章第一章概率论的根本概念概率论的根本概念2 2样本空间、随机事件样本空间、随机事件1事件间的关系A B那么称事件 B 包含事件 A，指事件 A 发生必然导致事件 B 发生A B x x A或xB称为事件 A 及事件 B 的和事件，指当且仅当 A，B 中至少有一个发生时，事件A B发生A B x x A且xB称为事件 A 及事件 B 的积事件，指当 A，B 同时发生时，事件A B发生A B x x A且xB称为事件 A 及事件 B 的差事件，指当且仅当A 发生、B不发生时，事件A B发生A B，那么称事件 A 及 B 是互不相容的，或互斥的，指事件 A 及事件 B 不能同时

2、发生，根本领件是两两互不相容的A B S且互为对立事件2运算规那么 交换律A B，那么称事件 A 及事件 B 互为逆事件，又称事件 A 及事件 BA B B AA B B A A(B C)(A B)C A(B C)结合律(A B)C分配律A（B C）(A B)(AC)A B A BA B A B徳摩根律3 3频率及概率频率及概率定义在一样的条件下，进展了 n 次试验，在这 n 次试验中，事件 A 发生的次数nA称为事件 A 发生的频数频数，比值nAn称为事件 A 发生的频率频率概率：概率：设 E 是随机试验，S 是它的样本空间，对于E 的每一事件 A 赋予一个实数，记为PA，称为事件的概率1概

3、率P(A)满足以下条件：1非负性非负性：对于每一个事件 A0 2标准性标准性：对于必然事件 SP(S)P(A)11A)P(A)n可以取kkk1k1nn3 可列可加性可列可加性：设A1,A2,An是两两互不相容的事件，有P(2概率的一些重要性质：第 1 页iP()0ii假设A1,A2,An是两两互不相容的事件，那么有P(A)P(A)n可以取kkk1k1nniii设 A，B 是两个事件假设iv对于任意事件 A，P(A)vP(A)A B，那么P(B A)P(B)P(A)，P(B)P(A)11 P(A)逆事件的概率vi对于任意事件 A，B 有P(A B)4 4 等可能概型古典概型等可能概型古典概型 P

4、(A)P(B)P(AB)等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性一样假 设 事 件A包 含k个 根 本 领 件，即A ei1ei2eik，里i1，i2,，ik是1,2，n中某k个不同的数，则有P(A)Pei j j1k kA包含的基本事件数nS中基本事件的总数5 5条件概率条件概率（1）定义：设A,B 是两个事件，且P(A)0，称P(B|A)B 发生的条件概率条件概率P(AB)为事件 A 发生的条件下事件P(A)（2）条件概率符合概率定义中的三个条件1 非负性：对于某一事件 B，有P(B|。A)0 2 标准性：对于必然事件 S，P(S。|A)13 可列可加性：设B

5、1,B2,是两两互不相容的事件，那么有P(Bi1iA)P(BiA)i1（3）乘法定理设P(A)0，那么有P(AB)P(B)P(A|B)称为乘法公式（4）全概率公式：P(A)P(B)P(A|B)iii1n贝叶斯公式：P(Bk|A)P(Bk)P(A|Bk)P(B)P(A|B)iii1n第 2 页6 6独立性独立性定义定义设 A，B 是两事件，如果满足等式P(AB)定理一设 A，B 是两事件，且P(A)P(A)P(B)，那么称事件 A,B 相互独立 0，假设 A，B 相互独立，那么P(B|A)PB定理二假设事件 A 和 B 相互独立，那么以下各对事件也相互独立：A 及B，A与B，A与B第二章第二章随

6、机变量及其分布随机变量及其分布1 1 随机变量随机变量定义设随机试验的样本空间为S e.X X(e)是定义在样本空间S 上的实值单值函数，称X X(e)为随机变量2 2 离散性随机变量及其分布律离散性随机变量及其分布律1离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散型随机变量P(X xk)pk满足如下两个条件1pk 0，2Pkk1=12三种重要的离散型随机变量1(0 1)分布设随机变量X只能取0及1两个值，它的分布律是k1-kP(X k)p（1-p），k 0,1（0 p 1)，那么称 X 服从以 p 为参数的(0 1)分布或两点分布。2伯努利实验、二

7、项分布设实验 E 只有两个可能结果：A 及AP(A)p（0 p 1)，此时P(A)1-p.将 E 独立重复的进展 n 次，那么称这一串重复的独立实验为 n 重伯努利实验。nkn-kP(X k)p q，k 0,1,2，2Pkn满足条件 1pk 0，kk1=1 注意到nkn-kkn（p q）是二项式的展开式中出现p的那一项，我们称随机变量 X 服从参数为 n，p 的二项 p qk 分布。3泊松分布设 随 机 变 量X所 有 可 能 取 的 值 为0,1,2 ，而 取 各 个 值 的 概 率 为P(X k)ke-k!,k 0,1,2,其中 0是常数，那么称X 服从参数为的泊松分布记为X（）3 3 随

8、机变量的分布函数随机变量的分布函数第 3 页定义设 X 是一个随机变量，x 是任意实数，函数F(x)称为 X 的分布函数分 布 函 数 PX x,-x F(x)P(X x)，具 有 以 下 性 质(1)F(x)是 一 个 不 减 函 数 2 0 F(x)1，且F()0,F()13F(x 0)F(x),即F(x)是右连续的4 4 连续性随机变量及其概率密度连续性随机变量及其概率密度连续随机变量：如果对于随机变量 X 的分布函数 Fx，存在非负可积函数有F(x)率密度1 概率密度f(x)，使对于任意函数 xf（t）dt,-x那么称 x 为连续性随机变量，其中函数 f(x)称为 X 的概率密度函数，

9、简称概f(x)具有以下性质，满足1f(x)0,(2)x2x1-f(x)dx 1；3P(x1，X x2)f(x)dx；4假设f(x)在点 x 处连续，那么有F(x)f(x)2,三种重要的连续型随机变量(1)均匀分布假设连续性随机变量 X 具有概率密度 1，a x bf(x)b-aX U（a，b）0，其他(2)指数分布假设连续性随机变量 X 的概率密度为1-xef(x)0，x.0，其他其中 0为常数，那么称 X 服从参数为的指数分布。3正态分布假设连续型随机变量X的概率密度为f(x)12e2(x）22，-x ，的 正 态 分 布 或 高 斯 分 布，记 为其中，（0)为常数，则称X服从参数为，X

10、N（，2）特别，当 0，1时称随机变量 X 服从标准正态分布5 5 随机变量的函数的分布随机变量的函数的分布定理设随机变量 X 具有概率密度fx(x)，-x ,又设函数g(x)处处可导且恒有g,(x)0，第 4 页那么 Y=g(X)是连续型随机变量，其概率密度为第三章第三章多维随机变量多维随机变量1 1 二维随机变量二维随机变量fXh(y)h,(y),y fY(y)0，其他定义 设 E 是一个随机试验，它的样本空间是S e.X量，称X X(e)和Y Y(e)是定义在 S 上的随机变 X(e)为随机变量，由它们构成的一个向量X，Y叫做二维随机变量x，y，二 元 函 数设 X，Y 是 二 维 随

11、机 变 量，对 于 任 意 实 数F（x，y）P(X x)(Y y)记成PX x，Y y称为二维随机变量X，Y的分布函数如果二维随机变量X，Y全部可能取到的值是有限对或可列无限多对，那么称X，Y是离散型的随机变量。我们称P(X xi，Y yj)pij，i，j 1,2，为二维离散型随机变量X，Y的分布律。对于二维随机变量X，Y的分布函数F（x，y），如果存在非负可积函数 fx，y，使对于任意 x，y 有F（x，y）2 2 边缘分布边缘分布 yx-f（u，v）dudv，那么称X，Y是连续性的随机变量，函数 fx，y称为随机变量X，Y的概率密度，或称为随机变量 X 和 Y 的联合概率密度。联合概率密

12、度。二维随机变量X，Y作为一个整体，具有分布函数F（x，y）.而 X 和 Y 都是随机变量，各自也（有分布函数，将他们分别记为F（，依次称为二维随机变量X，Y关于 X 和关于 Y 的边缘分边缘分Xx),FYy）布函数。布函数。，j 1,2，分pipij PX xi，i 1,2，p jpij PY yij1i1别称pip j为X，Y关于 X 和关于 Y 的边缘分布律。边缘分布律。fX(x)f(x,y）dyfY(y)f(x,y）dx分别称fX(x)，fY(y)为 X，Y 关于 X 和关于 Y 的边缘概率密度边缘概率密度。3 3 条件分布条件分布定义设X，Y是二维离散型随机变量，对于固定的 j，假设

13、PY yj 0,那么称PX xiY yjPX xi,Y yjPY yjpijpj,i 1,2,为在Y yj条件下随第 5 页机变量 X 的条件分布律，同样PY yjX XiPX xi,Y yjPX xipijpi,j 1,2,为在X xi条件下随机变量 X 的条件分布律。设二维离散型随机变量X，Y的概率密度为f(x,y)，X，Y关于Y 的边缘概率密度为fY(y)，假设对于固定的 y，fY(y)0，那么称f(x,y)为在 Y=y 的条件下 X 的条件概率密度，记为fY(y)fX Y(x y)=f(x,y)fY(y)4 相互独立的随机变量定义 设F（x，y）及FX(x)，FY(y)分别是二维离散型

14、随机变量X，Y的分布函数及边缘分布函数.假设对于所有 x,y 有PX x,Y y PX xPY y，即Fx,y FX(x)FY(y)，那么称随机变量 X 和 Y 是相互独立的。对于二维正态随机变量X，Y，X 和 Y 相互独立的充要条件是参数5 5 两个随机变量的函数的分布两个随机变量的函数的分布1，Z=X+Y 的分布设(X,Y)是二维连续型随机变量，它具有概率密度 0f(x,y).那么 Z=X+Y 仍为连续性随机变量，其概率密度为fXY(z)f(z y,y）dy或fXY(z)f(x,z x）dx又假设 X 和 Y 相互独立，设X，Y关于 X，Y 的边缘密度分别为fX(x),fY(y)那么fXY

15、(z)fX(z y）f（fX(x）fY(z x)dx这两个公式称为Yy)dy和fXY(z)fX,fY的卷积公式卷积公式有限个相互独立的正态随机变量的线性组合仍然服从正态分布有限个相互独立的正态随机变量的线性组合仍然服从正态分布2，Z Y的分布、Z XY的分布Xf(x,y)，那么Z 设(X,Y)是二维连续型随机变量，它具有概率密度Y，Z XYX仍为连续性随机变量其概率密度分别为fY X(z)x f(x,xz)dxfXY(z)1zf(x,)dx又xx第 6 页假设 X 和 Y 相互独立，设X，Y关于 X，Y 的边缘密度分别为fX(x),fY(y)那么可化为fY X(z)fX(x)fY(xz)dxf

16、XY(z)1zfX(x)fY()dxxx3MmaxX，Y及NminX,Y的分布(x),FY(y)由于MmaxX，Y不设 X，Y 是两个相互独立的随机变量，它们的分布函数分别为FX大于 z 等价于 X 和 Y 都不大于 z 故有PMzPXz,Yz又由于 X 和 Y 相互独立，得到MmaxX，Y的分布函数为Fmax(z)FX(z)FY(z)NminX,Y的分布函数为Fmin(z)11FX(z)1FY(z)第四章第四章随机变量的数字特征随机变量的数字特征1 1数学期望数学期望定义设离散型随机变量离散型随机变量 X 的分布律为PXxkpk，k=1,2，假设级数xkpkk 1绝对收敛，那么称级数xk 1

17、kpk的和为随机变量 X 的数学期望，记为E(X)，即E(X)xkpki设连续型随机变量连续型随机变量X 的概率密度为f(x)，假设积分xf(x)dx绝对收敛，那么称积分xf(x)dx的值为随机变量 X 的数学期望，记为E(X)，即E(X)xf(x)dx定理设 Y 是随机变量 X 的函数 Y=g(X)(g 是连续函数)i如果 X 是离散型随机变量离散型随机变量，它的分布律为PXpk绝对收xkpk，k=1,2，假设g(xk）k 1敛那么有E(Y)pkE(g(X)g(xk）k 1ii如果 X 是连续型随机变量连续型随机变量，它的分概率密度为f(x)，假设g(x)f(x)dx绝对收敛那么有E(Y)E

18、(g(X)g(x)f(x)dx数学期望的几个重要性质1 设 C 是常数，那么有E(C)CCE(X)2 设 X 是随机变量，C 是常数，那么有E(CX)第 7 页3 设 X,Y 是两个随机变量，那么有E(X Y)E(X)E(Y)；E(X)E(Y)4 设 X，Y 是相互独立的随机变量，那么有E(XY)2 2 方差方差定义设 X 是一个随机变量，假设E为 Dx即 Dx=E差。方差的几个重要性质1 设 C 是常数，那么有D(C)X E(X)2存在，那么称EX E(X)2为 X 的方差，记D(x)，记为(x)，称为标准差或均方X E(X)2，在应用上还引入量 0,2 设 X 是随机变量，C 是常数，那么

19、有D(CX)3 设 X,Y 是两个随机变量，那么有D(X假设 X,Y 相互独立，那么有D(X4D(X)C2D(X)，D(X C)D(X)Y)D(X)D(Y)2E(X-E(X)(Y-E(Y)特别，Y)D(X)D(Y)0的充要条件是 X 以概率 1 取常数E(X)，即PX E(X)1切切比比雪雪夫夫不不等等式式：设随机变量 X 具有数学期望E(X)2，那么对于任意正数，不等式2PX-23 3 协方差及相关系数协方差及相关系数定义量成立EX E(X)Y E(Y)称为随机变量 X 及 Y 的协方差为Cov(X,Y)，即Cov(X,Y)E(X E(X)(Y E(Y)E(XY)E(X)E(Y)而XYCov

20、(X，Y）D(X)D(Y)称为随机变量 X 和 Y 的相关系数对于任意两个随机变量 X 和 Y，D(X协方差具有下述性质1Cov(X,Y)2Cov(X1Y)D(X)D(Y)2Cov(X,Y)_ Cov(Y,X),Cov(aX,bY)abCov(X,Y)X2,Y)Cov(X1,Y)Cov(X2,Y)定理 1XY1第 8 页 2XY1的充要条件是，存在常数 a,b 使PYabx1当XY0 时，称 X 和 Y 不相关附：几种常用的概率分布表数学期望分布两点分布二项式分布泊松分布几何分布均匀分布指数分布正态分布参数分布律或概率密度方差0p1PXk)pk(1p)1 k,k0,1，pp(1p)kn10p1

21、P(Xk)Cnpk(1p)n k,k0,1,n，npnp(1p)0P(Xk)kek!,k0,1,2,0p1P(Xk)(1p)k 1p,k1,2,1p1pp2ab1,axb，f(x)ba0，其他ab2(ba)21201xef(x)0,x0,其他(x)22220f(x)12e2第五章第五章 大数定律及中心极限定理大数定律及中心极限定理1 1 大数定律大数定律弱大数定理辛欣大数定理弱大数定理辛欣大数定理设 X1，X2是相互独立，服从统一分布的随机变量序列，并具有数学期望E(Xk)(k1,2,).作 前 n 个 变量 的算 术 平均1nXknk 1，那么 对 于任 意0，有第 9 页1nlimPXk1

22、nnk1定义设Y1,Y2,Yn是一个随机变量序列，a 是一个常数，假设对于任意正数，有plimPYna 1，那么称序列Y1,Y2,Yn依概率收敛于依概率收敛于 a a，记为Yn an伯努利大数定理伯努利大数定理设fA是 n 次独立重复试验中事件 A 发生的次数，p 是事件 A 在每次试验中发生的概率，Pfnf p 1或limPn p 0nnn那么对于任意正数0，有lim2 2 中心极限定理中心极限定理n定理一独立同分布的中心极限定理独立同分布的中心极限定理设随机变量X1,X2,Xn相互独立，服从同一分布，且具有数学期望和方差E(Xi)nn,D(Xk)2k=1,2，那么随机变量之和Xi1nk标准化变量，YnXk1k E(Xk)k1nXi1nkn，D(Xk)k1n定理二 李雅普诺夫定理李雅普诺夫定理 设随机变量X1,X2,Xn2n相互独立，它们具有数学期望和方差E(Xk)k,D(Xk)k 0,k 1,2记Bnk22k1定理三棣莫弗棣莫弗-拉普拉斯定理拉普拉斯定理设随机变量n(n布，那么对任意x，有lim1,2,)服从参数为n,p(0 p 1的二项分xnPn npnp(1 p)x12et2dt(x)2第 10 页