概率论必备知识点.pdf

《概率论必备知识点.pdf》由会员分享，可在线阅读，更多相关《概率论必备知识点.pdf（28页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、概率论与数理统计知识点：第一章随机事件及其概率1、随机试验、样本空间与随机事件（1）随机试验：具有以下三个特点的试验称为随机试验，记为1）试验可在相同的条件下重复进行；2）每次试验的结果具有多种可能性，但试验之前可确知试验的所有可能结果；3）每次试验前不能确定哪一个结果会出现.（2）样本空间：随机试验疋的所有可能结果组成的集合称为 f 的样本空间，记为 Q；试验的每一个可能结果，即 Q 中的元素，称为样本点，记为 e.（3）随机事件：在一次试验中可能出现也可能不出现的事件称为随机事件，简称事件，常用乂B.Q 等大写字母表示；可表述为样本空间中样本点的某个集合，分为复合事件和简 单事件，还有必然

2、事件（记为 O）和不可能事件（记为）.2、事件的关系与运算（1）包含关系与相等：“事件 A 发生必导致 B 发生”，记为 Au 3 或 Bn A：A=B0AuB 且 BuA.（2）和事件（并）：“事件 A 与 B 至少有一个发生”，记为（3）积事件（交）：“事件 A 与 B 同时发生”，记为AcB或 A3.（4）差事件、对立事件（余事件）：“事件 A 发生而 B 不发生”，记为月一万称为月与万 的羌事件；G B=B 称为 B 的对立事件；易知：A B=AB.（5）互不相容性：AB=.（6）事件的运算法则：1）交换律：=AB=BA:2）结合律：4u（BuC）=（AkjB）uC,（AB）C=A（B

3、C）:3）分配律：（4uB）C=ACuBC,（AB）uC=（quC）（BuC）；4)对 偶(De Morgan)律:AJ B=AB,AB=A 0.对任意 AeF；2)规范性：P(Q)=1:3)可列可加性：若有一列 A21,2,，4 小=，使得 P(jA/)=XtP(Ai；),；=i;=则称 P(A),AeF 为 0域 F 上的概率测度，简称“概率”.4、概率的基本性质(1)不可能事件概率零：P()=0.(2)有限可加性：设儿，仏，,A“是 n 个两两互不相容的事件，即 At.A.=,(&),ij=l,2,”，则有 Pg A2-A/l)=P(A,)+P(A2)+-+P(A/l).(3)单调不减性

4、：若事件则P(B)P(A),且PB龙=P P3.(4)互补性：尸(A)=1尸 C4),且 PC4)1.(5)加法公式：对任 意两事件q、B,有P(A0,(/=1,2,则对任何事件BwF,有 P(B)=f P(4)P(BIA),称为全概率公式./i(2)贝叶斯(Bayes)公式：设人,心,人是 C 的一个划分,且卩(4)0P(Ai)P(BAi)(/=1,2,“)，则对任何事件BwF,有 P(舛 13)=-,(7=1,-/=1称为贝叶斯公式或逆概率公式.7、事件的独立性(1)两事件的独立：设(G,F,P)为一概率空间，事件 A、BwF,且 P(A)0,若P(B)=P(B A),则称事件 A 与 B

5、 相互独立;等价于：P(AB)=P(A)P(B).(2)多个事件的独立：设是 n 个事件，如果对任意的k(lkn),任 意的 1#；,/,称 n个事件 A”?，儿相互独立.8、贝努里(Bernoulli)概型(1)只有两个可能结果的试验称为贝努里试验，常记为 E.E 也叫做“成功一失败”试验，成功”的概率常用p=PA)表示，英中 A=“成功”.(2)把 E 重复独立地进行 n 次，所得的试验称为 n 重贝努里试验，记为E”.(3)把 E 重复独立地进行可列多次，所得的试验称为可列重贝努里试验，记为以 上三种贝努里试验统称为贝努里概型.(4)E”中成功 R 次的概率是：C；/(1-py=C*p

6、crAk n)H 中p+O=l.kkk第二章随机变量及其分布1、随机变量设 O 是随机试验的样本空间，如果对于试验的每一个可能结果都有唯一的实 数 X(e)与之对应，则称 X(e)为圧义在 O 上的随机变量，简记为 X.随机变量通常用大写 字母 X、Y.Z 等表示.2、分布函数及其性质设 X 为随机变量，x 为任意实数，函数F(x)=PXx(svxv+s)称为随机 变量 X 的分布函数.分布函数完整地描述了随机变量取值的统计规律性，具有以下性质：(1)0 F(x)1(-00 x +s)；(2)如果xx2,则F(x)-WA-WA A-KC-KC(5)Pxx X xz=PX x2-PX x=F(X

7、2)-F(Xi).3、离散型随机变量及其概率分布如果随机变虽 X 只能取有限个或可列个可能值则称X 为离散型随机变量如果X 的 一切可能值为“,，并且X 取耳的槪率为几，则称Pk=PX=x&伙=1,2,3,）为离散型随机变量 X 的概率函数（概率分布或分布律）成表格形式，也称为分布列（表 2-1）：表 2-1XP“勺勺PPiPy其中pi no,工Pi=1.i常见的离散型随机变量的分布有：1）0-1 分布，记为 X（0-1），概率函数PX=灯=/（1 一）1,&=0，0 /?1；（2）二项分布，记为 X 3（仏），概率函数PX=k=cpk（-pY-k,k=0,1,op0；泊松泄理 设兄0 是一常

8、数，是任意正整数，设npn=2,则对于任一固泄的非负整数/北 Ak，有 limC：p：（l-几严=筈厂.”T 3Ck!当很大且 P 很小时，二项分布可以用泊松分布近似代替，即）1，其中A=np.k（4）超几何分布，记为 XH（nMN槪率函数PXC,其中n、N、M 为正整数，且很大.且 P 唏较仙，有夸(5)几何分布，记为 XG()，槪率函数PX=k=p(l-p)kl9k=0-.4、连续型随机变量及其概率分布0/?0:(3)Pxt X x2)=,(2):力=1；(4)PX=)=0：(5)如果/(x)在 X 处连续,则F(x)=f(x).常见的连续型随机变量的分布有：(1)均匀分布，记为X概率密度

9、为0,x ax-a-.a x b,fM=b-a相应的分布函数为FM=0,其它a x h(2)指数分布，记为 XE(2),概率密度为fM=0,相应的分布函数为FM=10,其它-严心 00,x 0(3)正态分布，记为 X N(“。彳)，概率密度为1-(“)2/(x)=p=Pk,_sx V+S,相应的分布函数为 F(x)=当“=0,b=1 时，即XN(OJ)时，称 X 服从标准正态分布这时分别用 0(切和1 1“(x)表示 X 的密度函数和分布函数，即仅劝=2,e 2 加具有性J2 龙宀质：(-X)=1-(x).一般正态分布 X N(“,b?)的分布函数尸(兀)与标准正态分布的分布函数Cv)有关 系

10、：F(x)=(匚理).i=g（州）y2=sM y3=g（x5）yn=g（斗）PiPlPiPn另有相同值时，要合并为一项，对应的概率相加.(2)连续型随机变疑函数的分布设 X 为离散型随机变量，概率密度为fx(x),则 Y=g(X)的概率密度有两种方法可 求.1)楚理法：若y=g(x)在 X 的取值区间内有连续导数 g(x),且 g(x)单调时.Y=g(X)是连续型随机变量，苴概率密度为f八八川/心)W(y)|dy0/r0)=t0,其它其中a=ming(-s),g(+s),0=maxg(-s)(+=)力(y)是g(x)的反函数.2)分布函数法：先求Y=g(X)的分布函数FY(y)=PYy=Pg(

11、X)第三章多维随机变量及其分布1、二维随机变量及其联合分布函数设 x,y 为随机变量，则称它们的有序数组(x,r)为二维随机变呈:.设(X,Y)为二维随机变量，对于任意实数 X、y,称二元函数F(x,y)=PXSx,YSy为(X,Y)的联合分布函数.联合分布函数具有以下基本性质：(1)F(x,y)是变量 x 或 y 的非减函数：(2)0 F(x,y)1 且F(o,y)=0,F(x,8)=0,F(s,oo)=0,F(+s,+s)=1:(3)F(x,y)关于 x 右连续，关于 y 也右连续；(4)对任意点(x,y),(x2,y2),若州 x2,y 0.上式表示随机点(X,Y)落在区域心X x2,y

12、iYy2内的槪率为：PxiX x2,yi v 丫力2、二维离散型随机变量及其联合分布律如果二维随机变 M(x,r)所有可能取值是有限对或可列对，则称(x,y)为二维离散型 随机变量.设(X)为二维离散型随机变虽:，它的所有可能取值为(召必)JJ=12将PX=xY=儿=Pij(/；j=12)或表 31 称为(X,丫)的联合分布律.;=i；=13、二维连续型随机变量及其概率密度函数如果存在一个非负函数 p(x,y),使得二维随机变量(X,Y)的分布函数F(x,y)对任意 实数儿 y有 F(x,y)=/?(x,ydxcly,则称(X,Y)是二维连续型随机变量，称p(x,y)为(X,Y)的联合密度函数

13、(或概率密度函数).联合密度函数具有下列性质：(1)对一切实数 x,y,有 p(x,y)nO；(2)J=乂pg刃dxdy=1；(3)在任意平面域 D 上，(XV)取值的概率P(X,r)eP=jj/7(x,yWy：D(4)如果 p(x,y)在(x,y)处连续，则=p(x,y).dxdy4.二维随机变量的边缘分布设(X,F)为二维随机变量，则称Fx(x)=PX x,YO r-Kx),FY(y)=PY X 炖,Y 0 时，称PX=xz,/=)人,PX=xtY=一屮二、-=討=1,2,为Y=y条件下随机变量 X的条件分布律.同理，有PY=yiX=xi=-J=XPL(2)连续型随机变疑的条件分布设(X,

14、Y)为二维连续型随机变量，其联合密度函数和边缘密度函数分别为：p(x,y),Px(X),Py(y)则当Py(y)0 时,在p(x,y)和px(x)的连续点处,(X,Y)在条 件丫=y 下，X 的条件概率密度函数为：=Py(y)同理，有pYiX(xy)=l.Px M6、随机变量的独立性设 F（x,y）及心（力、你（刃分别是（XV）的联合分布函数及边缘分布函数.如果对任 何实数 x,y 有 F（x,y）=Fx（x）Fy（刃则称随机变量 X 与丫相互独立.设（X,丫）为二维离散型随机变量，X 与 Y 相互独立的充要条件是Pa=PiPjbj=2,）.设（x,y）为二维连续型随机变量，x 与丫相互独立的

15、充要条件是对任何实数兀），有p（x,刃=Px（x）Py（y）7、两个随机变量函数的分布设二维随机变量（X）的联合概率密度函数为p（x,y）,Z=（p（X,Y）是 X,Y 的函数,则 Z 的分布函数为 Fz（z）=|p（x,y）clxdy（1）Z=X+Y的分布若（XV）为离散型随机变疑，联合分布律为必厂则 Z 的概率函数为：&（）=（，一无）或传（族）=工（兀，无一儿）.j j若（XV）为连续型随机变量，概率密度函数为（圮刃，则 Z 的概率函数为:V V（2）Z=的分布若（XV）为连续型随机变量，概率密度函数为（圮 y），则 Z 的概率函数为:第四章随机变的数字特征K 随机变量的数学期望设离散型

16、随机变量 X 的分布律为PX=xk=Pk.k=12，如果级数工兀Pk绝对收敛，则称级数的和为随机变量 X 的数学期望.设连续型随机变量 X 的密度函数为(x),如果广义积分匚绝对收敛，则称 此积分值 E(X)=匚xp(x)dx为随机变量 X 的数学期望.数学期望有如下性质：(1)设 C 是常数，则 E(C)=C:(2)设 C 是常数，则 E(CX)=CE(X)；(3)若 X、X?是随机变量,则 E(X1+X2)=E(X,)+E(X2)；对任意个随机变量 XX2,X”，有E(X1+X2+-+Xn)=E(X1)+E(X2)4-+E(X,t)：(4)若 X“X?相互独立，则E(XlX2)=E(Xt)

17、E(X2)i对任意个相互独立的随机变量 XX2,X“，有E(XlX2-X)=E(Xl)E(X2)-E(Xn).2、随机变量函数的数学期望设离散型随机变量 X 的分布律为 PX=xk=pk=1,2,，则 X 的函数XY=g(X)的数学期望为 Eg(x)=工 g(无)几,=1,2，式中级数绝对收敛.k-设连续型随机变量 X 的密度函数为 p(x),则 X 的函数Y=g(X)的数学期望为Eg(x)=匚 g(x)p(x)厶，式中积分绝对收敛.3、随机变量的方差设 X 是一个随机变量，则 D(X)=Var(X)=EX-E(X)称为 X 的方差.VW)=b(X)称为X的标准差或均方差.计算方差也常用公式

18、D(X)=E(X2)-E(X)2.2方差具有如下性质：(1)设 C 是常数，则 D(C)=O：(2)设 C 是常数，则 D(CX)=C2D(X)；(3)若 X“X?相互独立，则D(Xl+X2)D(Xl)+D(X2)：对任意个相互独立的随机变量 XX2,X”，有D(Xl+X2+-+Xn)=D(Xl)+D(X2)+-+D(Xn)；(4)D(X)=0 的充要条件是：存在常数 C,使PX=C)=1(C=E(X).4、几种常见分布的数学期望与方差(1)X(O-1).E(X)=p,D(X)=(1 一)；(2)X B(n,p).E(X)=np,D(X)=np(l p):(3)X、NE(X)=.(X)=-:N

19、NN-1)(4)X-(Z).E(X)=2,D(X)=2；(5)X G(/?).E(X)=1/p,D(X)=(1-/?)/r:(6)X U(a,b).E(X)=(a+b)/2,D(X)=(b-a)2/12:(7)X-6U).E(X)=l/XD(X)=l/22：(8)X-7V(/A(X)=O-2.5、矩设 X 是随机变量，则=E(X*),k=l,2,称为”的阶原点矩.如果 E(X)存在，贝 I从=EXE(X)/,&=1,2,称为 X 的 R 阶中心矩.设(X,Y)是二维随机变量,则=E(00),k,/=l,2,称为(X,y)的 R+Z 阶混合EX-E(X)k.Y E(F)r,/=1,2,称为(X,

20、Y)的 R+/阶混合中心 矩.5、二维随机变量的数字特征原点矩;kl=(1)(X,r)的数学期望E(X,y)=E(X),E(Y)1；若(X)是离散型随机变量，则 E(X)=ff 兀巾，=1=1 7=11=1 7=11=1 7=11=1 7=1必.若（XV）是连续型随机变虽，则E（X）=匚xp（x,ydxdy,E（Y=匚匚这里，级数与积分都是绝对收敛的.(2)(X)的方差D(X,Y)=D(XD(Y)00 90若(XV)是离散型随机变島 则D(X)=Y兀E(X)F/%,1=1 J=1CO 00皿)=资lx-砒)%./=!1若（X#）是连续型随机变蚩:,则恥）=匸匸x-E(X)2 p(x.y)dxd

21、y,D（y）=匚匚y-E（Y）门心y）dxdy这里，级数与积分都是绝对收敛的.6、协方差与相关系数随机变量（X#）的协方差为 cov（x,y）=Ex-（x）y-E（y）j）.它是 1+1 阶混合中心矩，有计算公式：cov(X,K)=E(XY)-E(X)E(Y).随机变量（x,y）的相关系数为卩紆=相关系数具有如下性质：|讣 1：器拾.（2）pXY=O 存在常数 a,使PY=aX+b=l,即 X 与 F 以概率 1 线性相关:（3）若 X独立，则pXY=0.即 X,Y 不相关反之，不一定成立.第五章大数定律和中心极限定理lx 切贝雪夫不等式设随机变星 X 的数学期望 E（X）=”，方差D（X）=

22、a则对任意正数 0,有不等式2 2PX一“I n S 卑或刊 X-“|1 一孚成立.2、大数定律(1)切贝雪夫大数左理:设 XX2，,X,是相互独立的随机变量序列，数学期望E(X,)和方差 Q(XJ 都存在，且 D(XJ0,有1HlimP-YXf.-E(Xr)0,有 limP|N-plV=ls n贝努利大数左理给岀了当 n 很大时，A 发生的频率nA/A 依概率收敛于 A 的概率，证明了频率的稳定性.3、中心极限定律(1)独立同分布中心极限左理:设 xPx2,-,x,-是独立同分布的随机变量序列，有有限的数学期望和方差，E(XJ=“，D(X/)=a2 0(/=1,2,-).则对任意实数 X,(

23、2)李雅普诺夫定理:设 Xl,X2,-,X/I,-是不同分布且相互独立的随机变量，它们 分别有数学期望和方差：E(XJ=“ZXXJubj#0(i=l,2,).记，若(-1(-11 1 H$H$存在正数，使得当n s时，有飞万工纠必一耳厂T0,则随机变量工(工XJ工力“的分布函数代(x)对于任意的 X,满足It ItlimFn(x)=lim ft ft瓦当n很大时，Z“N(O,1),X,N(fM，硏).r-1i.l(3)徳莫佛一拉普拉斯上理:设随机变量久=12)服从参数为n,p(0 p 1)的二项分布，则对于任意的 X,恒有 lim P11lnp xz 如(1 一“)第六章数理统计的基本概念1.

24、总体与样本在数理统计中，将研究对象的全体称为总体；组成总体的每个元素称为个体.从总体中抽取的一部分个体，称为总体的一个样本:样本中个体的个数称为样本的容量.从分布函数为 F(x)的随机变量 X 中随机地抽取的相互独立的个随机变量，具有与总 体相同的分布，则 XX,X”称为从总体 X 得到的容量为的随机样本一次具体的抽取记录坷,心,，兀是随机变量 XX2,X“的一个观察值，也用来表示这些随机变量.2、统计量设 X 是总体 X 的一个样本，则不含未知参数的样本的连续函数f(Xl9X2-,Xtl)称为统计量统计量也是一个随机变崑常见的统讣量有1 JL(1)样本均值 X=-Y X,.:n七If f_1

25、 幺门(2)样本方差 52=Y(XZ-X)2=一 工 X一X：n-幺(3)样本标准差 3=傅：1 样本 k 阶原点矩人=_X：北=12:tl r-l(4)(5)样本 k 阶中心矩B 严一(XjXNk=122、经验分布函数设几小,心是总体 X 的一组观察值将它们按大小顺序排列为:n x2f 称它为顺序统计量则称x x x X-1（九,0），由吐上=0,求得似然函数厶的极大伺值 6,即为未知参数 0 的极大似然估计.英思想是：在已知总体 X 概率分布时，对总体进行次观测，得到一个样本，选取概率最大的 0 值$作为未知参数 0 的貞值的估讣是最合理的.（4）估计量的优劣标准1）无偏性设0=0（X|,

26、X2,X”）,E）存在,且E=0,则称值 6 是&的无偏 估计量否则称为有偏估计戢.2）有效性.设玄和玄均为参数&的无偏估计量，如果D）0,都有2、参数的区间估计设总体 X 的分布F（x;8）中含有未知参数 6L 若存在样本的两个函数（X,X2,-,Xn）和住|,兀,X“），使对于给定的a（Oa 1）,有PO00=-a,则随机区间（0,0）称为参数 0 的宜信度为 1 Q 的双侧置信区间.若有P0jnjn1)V/iZ=-2-Z(T)(n(n一l)Sl)S2 2(n(n一l)Sl)S2 2才-1)尢耳(-)crcr另-“F才2=-Z200“已知另(X 厂“)2 另(Xj 一“)2r-11-11/

27、（2）两 个 正 态 总 体 均 值 差 与 方 差 比 的 置 信 区 间（见 表7-2）表7-2估计的参数参数的情况b；,a；已知M“2打=另未知置信度为 1-a 的宜信区间(X-F-z.；L+1,X-F+Z7陰+叱7 V 6灯 2心(X(X y y/(?!+n/(?!+n2 2 1)-+.X.X Y+/(/!Y+/(/!+n+n2 2 1)-+卩-)“19“2 未知6of已知对总体的分布提岀某种假设，然后利用样本所提供的信息，根据概率论的原理对假设作岀“接受”还是“拒绝”的判断，这一类统计推断问题统称为假设检验.假设检验所依据的原则是：小概率事件在一次试验中是不该发生的.（2）两类错误在

28、根据样本作推断时，由于样本的随机性，难免会作出错误的决左.当原假设为頁时，而作出拒绝的判断，称为犯第一类错误；当原假设丹。不真时，而作出接受的判断，称为犯第二类错误.控制犯第一类错误的概率不大于一个较小的数（01）称为检验的显著性水平.（3）假设检验的基本步骤1）建立原假设2）根据检验对象，构造合适的统计量：3）求出在假设成立的条件下，该统计量服从的概率分布；4）选择显著性水平 a,确左临界值：5）根据样本值计算统汁疑的观察值，由此作岀接受或拒绝的结论.2、单个正态总体的假设检验设总体 X 关于均值“的检验（见表 8-1）表 8-1H。P检验法（CF2已知）/检验法（“0“0Ttal2(n-)

29、T tan-1)T-ta(n-)T=X_他g_i)SJ眉P 巧21k2 x；/2(n-)或宀(叭刊-1)(Tkf/2(-1)T(“-1)T “2l SPl“2“I=“2U _X-产-(“1-2)国+笛 5丁U_“2)严V 厲“2i/v-J“2冋訥+心-2)从丰“2“I “2l ta(n+n:-2)T T/】+心-2)未知）（2）两个正态总体方差的检验（见表 8-4）表 8-4H。H,62?6 Ft(nvn2)或*2 FFl_a(n,ji2)FF(nI-ltn2-l)或F检验法S2（”1，“2 未知）=a巧 2 切;2、6ai打2aS IF4S;FFl_a(nl-l,n2-l)FFa(n,-l,n2-l)