第1章概率与随机过程精选文档.ppt

《第1章概率与随机过程精选文档.ppt》由会员分享，可在线阅读，更多相关《第1章概率与随机过程精选文档.ppt（111页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第1章概率与随机过程1本讲稿第一页，共一百一十一页 随机过程通常被视为概率论的动态部分,在概率论中研究的随机现象,都是在概率空间上的一个或有限多个随机变量的规律性.但在实际问题中,我们还需要研究一些随机现象的发展和变化过程,即随时间不断变化的随机变量,这就是随机过程所要研究的对象.引言引言2本讲稿第二页，共一百一十一页课程的主要内容课程的主要内容概率论基础与随机过程的基本概念概率论基础与随机过程的基本概念泊松过程与更新过程泊松过程与更新过程马尔科夫链马尔科夫链马尔科夫链马尔科夫链鞅与鞅与Brown 运动运动 随机微分方程随机微分方程随机微分方程随机微分方程 3本讲稿第三页，共一百一十一页参考书

2、参考书v陈萍等编，陈萍等编，随机数学，国防工业出版社，随机数学，国防工业出版社，2008v林元烈林元烈,应用随机过程应用随机过程,清华大学出版社清华大学出版社,2002vBernt ksendal Stochastic D如果如果ferential Equations,Springer-Verlag,1998陈萍等编，陈萍等编，概率与统计，科学出版社，概率与统计，科学出版社，2006工程数学工程数学-积分变换积分变换4本讲稿第四页，共一百一十一页 随机试验是概率论的基本概念随机试验是概率论的基本概念,一个试验一个试验(或观察或观察)，若它，若它的结果预先无法确定，则称之为的结果预先无法确定，则

3、称之为随机试验随机试验;试试验的验的所有可能所有可能结果所组成的集合称为结果所组成的集合称为样本空间样本空间，记为，记为;试验的每一个试验的每一个结果或样本空间的元素称为一个样本点结果或样本空间的元素称为一个样本点,记为记为;由一由一个样本点组成的单点集个样本点组成的单点集称为一个称为一个基本事件基本事件,也记为也记为.由由中的若干子集构成的集合称为中的若干子集构成的集合称为集类集类，用花写字母，用花写字母A A，B B，F F等表示等表示 由于并不是在所有的由于并不是在所有的的子集上都能方便地定义概率，的子集上都能方便地定义概率，一般只限制在满足一定条件的集类上研究概率性质，为此一般只限制在

4、满足一定条件的集类上研究概率性质，为此引入引入 域域(代数代数)的概念：的概念：5本讲稿第五页，共一百一十一页定义定义 1.1.1 设设F F是空间是空间 上的集类，上的集类，称称 F F 为为 -代数（域）（代数（域）（-algebra）,若满足若满足:F;F;F F F FC F F；A1,A2,F F Ai F F 注注:如果如果F F 是是 -代数代数,则则F F 对对F F上的所有集合运算封闭；且对极限运算封闭，如：上的所有集合运算封闭；且对极限运算封闭，如：A1,A2,F F Ai F,F,A1,A2,F F and An A A F,F,A1,A2,F F and An A A

5、F F6本讲稿第六页，共一百一十一页例例1.1.1 几个常见的几个常见的-代数：代数：1）称）称 ,为最为最“粗粗”的的 -代数，而称代数，而称()=的所有子集的所有子集 为最为最“细细”的的 -代数；代数；2）设）设 A ，则，则 ,A,Ac是是-代数；代数；3）设）设F F1，F F2 是是 的子集组成的两个的子集组成的两个 -代数，令代数，令 F F3=F F1 F F2，则，则F F3 也为也为-代数；代数；4）设）设 是实数域是实数域Rn，是由是由 Rn上的一切开集上的一切开集 生成的生成的 -代数，称之为代数，称之为Borel 代数代数，B B中的元素称为中的元素称为Borel集集

6、.7本讲稿第七页，共一百一十一页定义定义 1.1.2 设设 U U 是由是由 的子集构成的集类的子集构成的集类.称包含称包含U U.的最小的最小-代数代数,即即为由为由U U生成的生成的-代数代数（the -algebra generated by U.U.）定义定义 1.1.3 设设F F为空间为空间 的子集组成的的子集组成的 代数代数，称二元组称二元组 (,F F)为可测空间为可测空间 （measurable space）;的任一子集的任一子集 F 称为称为F F-可测（可测（F F-measurable）的）的,如果如果 F F.F.8本讲稿第八页，共一百一十一页定义定义 1.1.4 设

7、设(,F F)为可测空间，为可测空间，为定义在为定义在F F上取非负实数上取非负实数R R+=0,+=0,+的函数，即的函数，即:F F R R+，若，若(1)()=0;(2)若若 A1,A2,F F,且且 Aii1 两两不交，则两两不交，则特别，（特别，（1 1）当当()=1时，时，称称为为概率测度概率测度(probability measure),记为记为P，并称，并称(,F,F,P)为概率空间为概率空间(probability space).此时称此时称F F可测集可测集A A为事件，为事件，A A的测度的测度P(A)P(A)称为事件称为事件A A发生的概率。发生的概率。则称则称为可测空

8、间为可测空间(,F F)上的上的测度测度(measure)，且称且称(,F,F,)为为测度空间测度空间(measure space).9本讲稿第九页，共一百一十一页(2)当当 =R，F F=B B 为为R上的上的Borel 代数，测度代数，测度 使得开使得开区间的测度等于区间的长度区间的测度等于区间的长度,即若即若A=(a.b),则则(A)=b-a 时时,称称为为Lebesgue测度测度.(3）在可测空间）在可测空间(R,B B)上，上，f是单调不减的连续函数，在是单调不减的连续函数，在B B 上定义测度上定义测度为为 称称 为为Lebesgue-Stieltjes测度测度.事件的概率刻画了事

9、件出现可能性的大小概率的基事件的概率刻画了事件出现可能性的大小概率的基本性质如下：本性质如下：1 1）有限可加性：设）有限可加性：设Ai,i=1,n为两两互不相容的事件列，为两两互不相容的事件列，则则10本讲稿第十页，共一百一十一页2）单调性：）单调性：A,B F F,且且 A B,则则 P(A)P(B)；3）减法公式：）减法公式：A,B F F,则则P(B-A)=P(B)-P(AB)；4）下（上）连续性：设）下（上）连续性：设 An,n 1 F F,若若AnA,则则P(An)P(A);若若 AnA,(n),则则P(An)P(A);5）Jordan公式：公式：设设Ai,i=1,n为事件列，则为

10、事件列，则11本讲稿第十一页，共一百一十一页定义定义 1.1.5 设设(,F F)与（与（E，E E）为可测空间）为可测空间,函数函数 X:E称为称为F F-可测的（可测的（F F-measurable）,如果对任意如果对任意U E E，特别，若特别，若(,F F,P)为为概率空间概率空间，(E,E E)=（Rn，B B)，则可测函数则可测函数X称为称为n维随机变量（维随机变量（随机变量随机变量）;易证，集类易证，集类 仍为仍为 代数，称为由代数，称为由随机变量随机变量X生生成的成的 代数，代数，记作记作 .显然，X是(X)可测的，且(X)是使X可测的最小代数。任一随机变量任一随机变量X，都可

11、以导出，都可以导出(Rn,B B)上的测度，称为上的测度，称为X的分的分布，即布，即 12本讲稿第十二页，共一百一十一页定理定理1.1.6 设设X,Y为为 Rn 的函数的函数.则则 Y 是是 (X)-可测可测的，当且仅当存在的，当且仅当存在 Borel 可测函数可测函数 g:RnRn 使得使得 Y=g(X)定理定理 1.1.4 设设X,Y 为为 F F-可测函数可测函数,则则X+c,cX,|X|,X2,X+Y,X/Y 均为可测函数均为可测函数.定理定理1.1.5 设设 fn是是F F-可测函数列可测函数列,则以下定义的则以下定义的4个函数个函数 h,g,f*,f*F F-可测。可测。13本讲稿

12、第十三页，共一百一十一页1.1.3 独立性独立性定义定义 1.1.10 设设(,F F,P)为概率空间，为概率空间，称两称两事件事件A，B 是是独立独立的的（independent）如果如果若若 A A=H Hi;i=1,2,.是由可测集类是由可测集类 H Hi 组成的组成的集族集族，称，称A A是是独立的，如果对任意不同的独立的，如果对任意不同的i1,ik称称随机变量族随机变量族 Xi;i=1,2,是独立的，如果是独立的，如果 生成生成-代数族代数族 (Xi),i=1,2,是独立的是独立的.14本讲稿第十四页，共一百一十一页定理定理1.1.7.设设(,F F,P)为概率空间为概率空间,若若C

13、 Ct,tT 为独立的为独立的 -类类,则则(C Ct),tT 为独立的为独立的 -代数代数.推论推论2.设设(,F F,P)为概率空间为概率空间,若若Xt,tT 为独立的为独立的 随机变量族随机变量族,gt,tT 为为Borel可测函数族，则可测函数族，则gt(Xt),tT 独立独立.推论推论1.设设(,F F,P)为概率空间为概率空间,若若Ai,i=1,m,m+1,m+n为为m+n个独立的个独立的 事件事件,g,hg,h表示两个事件运算，则表示两个事件运算，则g g(A1,Am)与与h h(Am+1,Am+n)独立独立.注：称集类注：称集类C C为为 类，若满足类，若满足 A,B C C

14、A B C C15本讲稿第十五页，共一百一十一页定义定义 1.3.1 定义在可测空间定义在可测空间(,F F)上的函数上的函数X()称为是简称为是简单函数（单函数（simple）,如果存在有限个两两互不相容的可测集如果存在有限个两两互不相容的可测集 F1,.,Fn 以及有限个实数以及有限个实数 a1,.,an满足：满足：1.2.1 可积性的定义可积性的定义16本讲稿第十六页，共一百一十一页 在经典概率论中，连续型随机变量X的期望定义为（Riemann 积分）积分）：其中 称为概率密度函数.离散型随机变量X的期望定义为1.2 随机变量的期望随机变量的期望可否给出期望的统一定义？可否给出期望的统一

15、定义？17本讲稿第十七页，共一百一十一页Riemann 积分:考考虑对示性函数的示性函数的积分：分：其中A是0，1区间的有理数集 若要函数可积，必须若要函数可积，必须上和等于下和上和等于下和-连续函数或几乎处处连续的有界函数上和始上和始终为 1,下和始下和始终为 018本讲稿第十八页，共一百一十一页 0，1区间的有理数集是可数的区间的有理数集是可数的,即即,1.对示性函数示性函数,定定义关于关于Lebesgue测度的度的积分分为 2.对于于简单函数函数:1.2.1 Lebesgue 积分积分19本讲稿第十九页，共一百一十一页引理引理：设 f(x）为 上的非上的非负可可测函数函数则存在存在简单函

16、数序列函数序列满足足.其中其中于是可以定于是可以定义 f(x)的的Lubesgue 积分分为 事实上事实上20本讲稿第二十页，共一百一十一页引理证明引理证明:f(x):上的非上的非负可可测函数函数 a1=“区间”(如果 f(x)连续)21本讲稿第二十一页，共一百一十一页引理证明引理证明:a1a222本讲稿第二十二页，共一百一十一页引理证明引理证明:a1a2a1重复以上过程,总可以构造出简单函数序列hn(x)converging 收敛到f(x).证毕！23本讲稿第二十三页，共一百一十一页 Lebesgue 积分分 4.对于对于 上的可测函数上的可测函数f f,其中其中于是，当于是，当 时，时，定

17、义定义 f(x)的的Lubesgue 积分为积分为24本讲稿第二十四页，共一百一十一页 Lebesgue 积分的性分的性质:Lebesgue 积分有所有分有所有Riemann 积分的性质：积分的性质：c:constant如果 如果AB=25本讲稿第二十五页，共一百一十一页定义定义 1.3.1 定义在可测空间定义在可测空间(,F F)上的函数上的函数X()称为是简称为是简单函数（单函数（simple）,如果存在有限个两两互不相容的可测集如果存在有限个两两互不相容的可测集 F1,.,Fn 以及有限个实数以及有限个实数 a1,.,an满足：满足：1.2.2 关于测度的积分关于测度的积分26本讲稿第二

18、十六页，共一百一十一页引理引理1.2.1设设(,F F)为可测空间，为可测空间，X X为为非负非负可测函数，则可测函数，则1)1)则存在非负递增简单可测函数列则存在非负递增简单可测函数列 Xn,n 1，使得，使得 积分的定义积分的定义i)对于对于(,F F,)上的上的简单函数简单函数 ，称，称X是可是可积的，如果积的，如果(Fi),i=1,n，X的的积分积分定义为定义为27本讲稿第二十七页，共一百一十一页ii)如果如果X(X()是非负实值可测函数，是非负实值可测函数，XXn n 为非负简单函数为非负简单函数列，满足列，满足0 0 X Xn n X.X.则则X X的积分（的积分（integral

19、integral）定义为定义为iii)iii)如果如果 X(X()实值可测函数，则实值可测函数，则X X的积分定义为的积分定义为其中其中 28本讲稿第二十八页，共一百一十一页注注:若若 X:Rn,则则29本讲稿第二十九页，共一百一十一页在计算积分时，改变积分区域有时可以带来很大的方便，这在微积分中是熟知的，在一般的测度论中，也有类似的结果，这就是重要的积分变换定理.定理定理1.2.11.2.1 设设f f为测度空间为测度空间(,F F,)到可测空间到可测空间(R,(R,E E）上的上的可测映射，可测映射，g g为定义在为定义在(R,(R,E E）上的可测函数，则）上的可测函数，则其中，其中，.

20、这里等号的意义是上式在两端之一有意义时成立这里等号的意义是上式在两端之一有意义时成立.30本讲稿第三十页，共一百一十一页若若则称则称为为 X的期望的期望(w.r.t.P).其中其中设设X为概率空间为概率空间(,F F,P)上的上的 n维随机变量，维随机变量，1.2.3 期望期望31本讲稿第三十一页，共一百一十一页更一般地更一般地,若若 g:RnR 为为 Boreal 可测函数，可测函数，则则*Lr 空间空间(,F F,P)上上所有所有r阶矩存在的随机变量组成的集阶矩存在的随机变量组成的集合构成线性空间，称为合构成线性空间，称为Lr 空间空间。即。即X Lr,如果如果 E|X|r.*记记 L 为

21、所有为所有 a.s.有界有界的随机变量组成的集合。的随机变量组成的集合。*当当1r 时，时，Lr 为为 Banach 空间空间.32本讲稿第三十二页，共一百一十一页设设 X:R 为随机变量，满足为随机变量，满足 E|X|,(1)若若A F F且且 P(A)=0，则，则(2)设设 Y:R 为为 随机变量满足随机变量满足E|Y|,且且 X Y,a.s.则则 EX EY.期望的性质期望的性质(3)设设 X:R 为为 随机变量满足随机变量满足E|X|0 a.s.,则则 EX0.33本讲稿第三十三页，共一百一十一页(4)设设 X:R 为为 随机变量满足随机变量满足 E|X|,则对则对 A,B F F 且

22、且 A B=.(5)设设两个随机变量两个随机变量X,Y:R 独立，且独立，且EX ,EY ，则，则 EXY=EXEY,34本讲稿第三十四页，共一百一十一页(a)(Chebychevs 不等式不等式)设设 X:Rn 为随机变量，满为随机变量，满足足 E|X|P ,0p .则则1.2.4 不等式不等式(b)(Jensen 不等式不等式)设设 X 为为 R上可积的随机变量上可积的随机变量,g(.)是是连续凸函数连续凸函数.如果如果E|g(X)|,则则Eg(X)gE(X).例如.E|X|EX|;EX2 EX2注：注：凸函数凸函数 g(.)满足满足g(px+(1-p)y)pg(x)+(1-p)g(y),

23、x,y Rn,p 0,135本讲稿第三十五页，共一百一十一页(c)(Holder 不等式不等式)设设 p,q 为大于为大于 1 的实数，满足的实数，满足 1/p+1/q=1,且设且设 f Lp，g Lq,则则(d)(矩不等式矩不等式)设设 0st 为实数为实数,X为随机变量，则为随机变量，则(e)(Minkowskis 不等式不等式)设设 p 为大于为大于1的实数的实数,f,g 属属于于 Lp,则则 f+g Lp,且且注注:当当 0p00，(b)若若 ,则称则称Xn,n=1,2,依概率依概率1 1收敛或收敛或强收敛于强收敛于X,X,记为记为 设设Xn,n=1,2,是概率空间是概率空间(,F F

24、,P)上的随机变量序列上的随机变量序列.X是随机变量。是随机变量。记为记为37本讲稿第三十七页，共一百一十一页(c)设随机变量序列满足设随机变量序列满足 其中其中r0r0为常数，若为常数，若 ,则称则称 Xn,n=1,2,r r阶收敛于阶收敛于X X，记为，记为(d)称称 Xn,n=1,2,依分布收敛于依分布收敛于X,如果如果记为记为 特别，当特别，当 时，称时，称Xn,n=1,2,均方收敛于均方收敛于X，记为记为 38本讲稿第三十八页，共一百一十一页定理定理1.3.1 设设Xn,n=1,2,是概率空间是概率空间(,F F,P)上的随机上的随机变量序列，变量序列，X是随机变量是随机变量.1)2

25、)如果如果子列子列 X n 使使或或则则3)如果如果则则且存在且存在Xn的的 Borel-Canteli引理引理 设设 ,且满足且满足 ，则则39本讲稿第三十九页，共一百一十一页定理定理1.3.2(单调收敛定理单调收敛定理):设设0 Xn X,a.s.或依概率或依概率,则则 EXn EX*Fato Fato 引理引理 设设E XE Xn n 存在存在,(n=1,2,.),(n=1,2,.)i)i)若若 X Xn n X,a.s.X,a.s.且且 X X 可积可积,则则存在存在,且且ii)若若Xn X,a.s.且且 X可积可积,则则存在存在,且且定理定理1.3.3(控制收敛定理控制收敛定理):)

26、:设设|Xn|Y a.s.(n=1,2,.),Y可积可积,如果如果或或则则40本讲稿第四十页，共一百一十一页1.2.5 1.2.5 大数定律及中心极限定理大数定律及中心极限定理1.切比雪夫切比雪夫大数定律大数定律 设设Xk,k=1,2,.为独立的随机变量序列，且有相同为独立的随机变量序列，且有相同的数学期望的数学期望，及方差，及方差 20，则，则即即若任给若任给 0,使得使得41本讲稿第四十一页，共一百一十一页2.柯尔莫哥洛夫强大数定律柯尔莫哥洛夫强大数定律 设设Xn,n=1.2,.是独立的随是独立的随机序列机序列,且且则有则有3.若若Xk,k=1.2,.为独立为独立同分布同分布随机变量序列随

27、机变量序列,EXk=,k=1,2,则则证明参见冯予，陈萍，概率论与数理统计，第5章42本讲稿第四十二页，共一百一十一页4.Levy-Lindeberg中心极限定理中心极限定理 设设Xn为独立为独立同分布同分布随机变量序列，若随机变量序列，若EXk=，DXk=2 ，k=1,2,则则5.De Moivre-Laplace中心极限定理中心极限定理 设随机变量设随机变量 n(n=1,2,.)服从参数为服从参数为n,p(0p0,0,使得使得则对则对x一致地有一致地有其中其中45本讲稿第四十五页，共一百一十一页1-4 条件条件 期望期望1.关于事件关于事件B的条件期望的条件期望定义定义 1.4.1 设设(

28、,F F,P)为概率空间，为概率空间，A，B F F，P(B)0,称称*PB 为为 F F上的概率测度上的概率测度即即:(,F F,PB)为概率空间为概率空间.为已知事件为已知事件B的条件下，事件的条件下，事件A的条件概率。的条件概率。46本讲稿第四十六页，共一百一十一页设设(,F F,P)为概率空间为概率空间,P(B)0,为随机变量为随机变量,如果如果 在概率空间在概率空间 (,F F,PB)下的下的期望期望存在存在,则称之为则称之为 关于关于事件事件B的的条件条件 期望期望，记作，记作E(|B).注注:设设 =A,则则 Lemma 1.4.247本讲稿第四十七页，共一百一十一页2.关于关于

29、 代数代数C C的条件的条件 期望期望构造性构造性 定义定义:设设 Bn,n=1,2,.为为 的可数分割，的可数分割，C C=Bn,n=1,2,.,设设 为所有期望为所有期望 存在的随机变量存在的随机变量 组成的集合组成的集合，称，称E(|C C)=E(|Bn)Bn 为为 关于关于C C的的条件条件 期望。期望。例如例如：设：设若在若在X=x条件下，条件下，Y的条件密度为的条件密度为 且且则则48本讲稿第四十八页，共一百一十一页例例1 1 将一硬币抛将一硬币抛 2 次次,所有可能结果为所有可能结果为=HH;HT;TH;TT.以以 F F1 表示由第一次抛掷结果生成的表示由第一次抛掷结果生成的

30、代数代数:H=HH;HT,T=TH;TT,F F1=H,T.设设 X 为定义在为定义在 上的随机变量上的随机变量:X(HH)=3,X(HT)=X(TH)=2,X(TT)=1.E(X|F F1)=?解解49本讲稿第四十九页，共一百一十一页定理定理1.4.3 E(|C C)关于关于C C可测，且可测，且 已知随机变量已知随机变量X的分布律为的分布律为 且知在且知在X=x的条件下的条件下,随机变量随机变量Y的条件密度为的条件密度为p(y|x).且设且设E|Y|,求证求证:-全期望公式全期望公式.50本讲稿第五十页，共一百一十一页描述性描述性 定义定义定义定义 1.4.4 条件条件 期望期望 E(|C

31、 C)是是 到到 Rn 的函数，满足的函数，满足(1)E(|C C)关于关于C C 可测可测.(2)补充补充:设设 与与 为为(,F F),上的上的-有限测度有限测度，称，称 为关于为关于 绝对连续的绝对连续的,如果如果 (A)=0 则则 (A)=0.记作记作 .Radon-Nikodym定理定理 设设 和和 都是可测空间都是可测空间(,F F)上的上的有限测度有限测度，若若 ，则，则 存在唯一的非负函数存在唯一的非负函数X L1(,F F,)，使得，使得51本讲稿第五十一页，共一百一十一页补充补充:Radon-Nikodym 定理定理设设 与与 为为(,F F),上的上的-有限测度有限测度，

32、称，称 为关于为关于 绝对绝对连续的连续的,如果如果 (A)=0 则则 (A)=0.记作记作 .Radon-Nikodym定理定理 设设 和和 都是可测空间都是可测空间(,F F)上的上的有限测度有限测度，若若 ，则，则 存在唯一的非负函数存在唯一的非负函数X L1(,F F,)，使得，使得52本讲稿第五十二页，共一百一十一页条件期望的性质条件期望的性质设设，是随机变量是随机变量,E ,E,E(|C C),E(|C C)存在存在.(1)E(|C C)=E(+|C C)-E(-|C C)a.s.(2)如果如果 关于关于 C C可测可测,则则 E(|C C)=a.s.(3)对任意实数对任意实数 a

33、,E(a|C C)=a a.s.(4)如果如果 与与 C C独立独立,则则 E(|C C)=E a.s.(5)如果如果 关于关于 C C可测可测，E 存在存在,则则E(|C C)=E(|C C)a.s.53本讲稿第五十三页，共一百一十一页(6)设设 C C C C1 F F,则则 E(E(|C C)|C C1)=E(|C C)a.s.如果如果 E(|C C1)存在，存在，则则 E(E(|C C1)|C C)=E(|C C)a.s(7)若若 ,a.s.则则 E(|C C)E(|C C).a.s.(8)设设 a,b R,则则E(a+b|C C)=a E(|C C)+b E(|C C)a.s.EX

34、EX 证明证明waldwald等式等式:设设XXi i,i=1,2,i=1,2,为独立随机变量序为独立随机变量序列列,具有相同的数学期望具有相同的数学期望E(XE(Xi i)=)=,i=1,2,i=1,2,.。又设。又设N N是是取正整数值的随机变量取正整数值的随机变量,E(N),E(N)且且NnNnXXi i,in,in.则则10706*54本讲稿第五十四页，共一百一十一页条件单调收敛定理条件单调收敛定理:如果如果 0 Xn X,a.s.或或prpr则则EXn|C EX|C a.s.或或pr.pr.条件条件Fato 引理引理:设设 EXn|C C 存在存在,(n=1,2,.)i)如果如果 X

35、n X,a.s.且且X 可积可积,则则ii)如果如果 Xn X,a.s.且且 X 可积可积,则则条件条件 收敛收敛55本讲稿第五十五页，共一百一十一页条件条件 有界有界 收敛定理收敛定理:设设|Xn|Y a.s.(n=1,2,.)且且 Y 可积可积,如果如果或或则则56本讲稿第五十六页，共一百一十一页(a)(条件条件 Jensen 不等式不等式)设设 g(.)为连续凸函数为连续凸函数.如果如果 Eg(X|C C )1,f,g Lp,则则 f+g Lp,且且(b)(条件矩不等式条件矩不等式)设设 0st，X Lt,则则 58本讲稿第五十八页，共一百一十一页设保险公司在给定设保险公司在给定0,t时

36、段内发生的索赔次数时段内发生的索赔次数N(t)服从参数为服从参数为t 的的Poisson分布分布,各次索赔额是各次索赔额是相互独立且与相互独立且与N(t)独立随机变量独立随机变量,服从正态分布服从正态分布 ,求求0,t时段内总索赔额的期望时段内总索赔额的期望.1071*59本讲稿第五十九页，共一百一十一页1.4 1.4 特征函数特征函数与正态随机变量与正态随机变量一一.母函数，矩母函数母函数，矩母函数定义定义定义定义1.4.1 1.4.1 设随机变量设随机变量设随机变量设随机变量X X的分布律为的分布律为的分布律为的分布律为称称称称 为为为为X X的母函数的母函数的母函数的母函数.记实变数记实

37、变数s的实函数为的实函数为60本讲稿第六十页，共一百一十一页母函数有如下性质:3.设设 独立独立,且且 ,则则4.4.若若若若X X的的的的n n阶矩存在阶矩存在阶矩存在阶矩存在,则其母函数的则其母函数的则其母函数的则其母函数的k(kk(k n)n)阶导数阶导数阶导数阶导数存在存在(|s|1),且且X的的k阶矩可由母函数在阶矩可由母函数在s=1的各阶的各阶导数表示导数表示,如如61本讲稿第六十一页，共一百一十一页5.(反演公式反演公式)设随机变量设随机变量X的分布律为的分布律为母函数为母函数为母函数为母函数为则分布律可由下式给出则分布律可由下式给出:62本讲稿第六十二页，共一百一十一页 设 ,

38、求证:X 的母函数是,(1)利用矩母函数的性质求X的前4阶原点矩.(2)(2)利用矩母函数的性质证明利用矩母函数的性质证明:两个独立两个独立poissonpoisson分布随机变量的分布随机变量的和仍然服从和仍然服从poisson分布.63本讲稿第六十三页，共一百一十一页三、特征函数的定义三、特征函数的定义1.1.复随机变量与特征函数复随机变量与特征函数(1)(1)复随机变量复随机变量:若若X X与与Y Y都是概率空间都是概率空间(,F F，P)P)上的上的实值随机变量，则实值随机变量，则Z=X+iY Z=X+iY 称为复值随机变量，其中称为复值随机变量，其中 ;规定规定EZ=EX+i EY

39、(2)(2)特征函数特征函数:设设X X是实随机变量，则是实随机变量，则称为称为X X的特征函数。的特征函数。64本讲稿第六十四页，共一百一十一页（3 3）设设XX (t)(t)，t t T T 为随机过程，称为随机过程，称为为XX (t)(t)，t t T T 的的n n维特征函数；维特征函数；称称为为XX (t)(t)，t t T T 的有穷维特征函数族。的有穷维特征函数族。由于由于r.v.r.v.的特征函数与分布函数有一一对应关系，所的特征函数与分布函数有一一对应关系，所以，可以通过以，可以通过随机过程随机过程的有的有穷维特征函数族来描述它的穷维特征函数族来描述它的概率特性。概率特性。6

40、5本讲稿第六十五页，共一百一十一页2、几个常用随机变量的特征函数、几个常用随机变量的特征函数 (1)单点分布单点分布:若若XPX=c=1，则，则(t)=e i t c；(2)二项分布二项分布B(n,p):若若(3)泊松分布泊松分布P():若若则则则则66本讲稿第六十六页，共一百一十一页(4)正态分布正态分布N(,2):若则 易知，已知一个随机变量的概率分布可计算出它的易知，已知一个随机变量的概率分布可计算出它的特征函数，反之亦然。事实上，在特征函数理论中，特征函数，反之亦然。事实上，在特征函数理论中，有逆转公式和唯一性定理。有逆转公式和唯一性定理。因此，可认为：随机变量的概率分布与它的特征函因

41、此，可认为：随机变量的概率分布与它的特征函数是一一对应的。数是一一对应的。67本讲稿第六十七页，共一百一十一页逆转公式逆转公式逆转公式逆转公式:设设设设x1 1,x2 2 是分布函数是分布函数F(x)F(x)的连续点的连续点的连续点的连续点,则则则则进一步进一步,若特征函数于若特征函数于R上绝对可积上绝对可积,则则X是连续型是连续型随机变量随机变量,且其概率密度且其概率密度f(x)为为唯一性定理唯一性定理:分布函数分布函数F1(x)(x)及及F F2 2(x)恒等的充要条件恒等的充要条件恒等的充要条件恒等的充要条件是它们的特征函数是它们的特征函数是它们的特征函数是它们的特征函数 1(t)与与与

42、与 2 2(t)恒等恒等恒等恒等.68本讲稿第六十八页，共一百一十一页3、特征函数的性质、特征函数的性质(1)|(t)|(0)=1；(2)共轭对称性：共轭对称性：(3)特征函数特征函数(t)在在(，)上一致连续；上一致连续；(4)若若Y=a X+b，则，则(5)若若X、Y独立，独立，Z=X+Y，则，则(6)若若EX n存在，则存在，则(t)可以微分可以微分n次，且次，且69本讲稿第六十九页，共一百一十一页四、随机向量的特征函数四、随机向量的特征函数 1 1、定义定义 设随机向量设随机向量X=(X1,Xn)，则对任意，则对任意n n个实数个实数t1,tn ：称为称为n n维随机向量维随机向量X

43、X的的n n维特征函数。维特征函数。n n维特征函数也有逆转公式和唯一性定理，由维特征函数也有逆转公式和唯一性定理，由n n维特征函维特征函数也可以唯一地确定随机向量数也可以唯一地确定随机向量X X的概率分布。的概率分布。70本讲稿第七十页，共一百一十一页2 2、n n维特征函数的性质维特征函数的性质(1)(1)|(t1,t n)|(0,0)=1；(2)(2)共轭对称性：共轭对称性：(3)(3)特征函数特征函数(t1,t n)在在n n维欧氏空间维欧氏空间R n上一致连续；上一致连续；(4)k(4)k维随机向量维随机向量X=(X1,X k)的特征函的特征函数为数为(0kn)(0kn)(6)(6

44、)X X1 1,X X n n 相互独立相互独立(5)(5)若若Y=a1X1+a n X n，则，则 Y(t)=(a1t,ant)；71本讲稿第七十一页，共一百一十一页三、正态随机向量及其性质三、正态随机向量及其性质设设X=(X1,X n)为为n n维维随机向量，随机向量，x=(x1,x n)为为n n维维实向量，若实向量，若X X的概率密度为的概率密度为则称则称X X 是是n n维正态维正态随机向量，它服从随机向量，它服从n n维正态分布。记为维正态分布。记为X N n(,B)。72本讲稿第七十二页，共一百一十一页定理定理 n维正态分布的特征函数为维正态分布的特征函数为其中其中t 是是n维实

45、参数向量。维实参数向量。n维正态分布还可如下定义：若维正态分布还可如下定义：若n维随机向量维随机向量X具有具有形如形如（）式）式的特征函数，则称的特征函数，则称X服从服从n维正态分布。维正态分布。（）注意：对注意：对|B|=0的情形这个定义仍有意义，而前面从的情形这个定义仍有意义，而前面从密度函数出发定义的密度函数出发定义的n维正态分布此时却没有意义。故，维正态分布此时却没有意义。故，用用n维特征函数定义的维特征函数定义的n维正态分布更为一般。不过，维正态分布更为一般。不过，|B|=0时的正态分布称为退化的；否则，称为非退化的。时的正态分布称为退化的；否则，称为非退化的。73本讲稿第七十三页，

46、共一百一十一页 正态随机向量的性质正态随机向量的性质 (1)n维正态随机向量维正态随机向量X=(X1,X n)的的m(mn)个分量个分量构构成的成的随机向量随机向量 (2)设设X=(X1,X n)为为n维正态随机向量，则随机向量维正态随机向量，则随机向量X1,X n相互独立相互独立是一个是一个m维正态随机向量。维正态随机向量。即即n维正态随机向量任何分量仍为正态随机向量。维正态随机向量任何分量仍为正态随机向量。(3)X=(X1,X n)N n(,B)的充分必要条件是，对的充分必要条件是，对任意任意 n个常数个常数l1,l n，74本讲稿第七十四页，共一百一十一页 (4)设设X=(X1,X n)

47、N n(,B)，又，又 m维随维随机向量机向量Y=CX，其中其中C=(c ij)m n，则，则Y服从服从m维正态分布维正态分布N m(C,CBC)。设设设设X X1,Xn 是独立同分布的标准正态随机变量是独立同分布的标准正态随机变量是独立同分布的标准正态随机变量是独立同分布的标准正态随机变量.设设设设 ,其中其中A为正交阵为正交阵.试证试证:Y1 1,Y,Yn 也是独立同分布的标准正态也是独立同分布的标准正态 随机变量随机变量.75本讲稿第七十五页，共一百一十一页定义定义 1.5.10 设设(,F F,P)为概率空间，为概率空间，(E,E E)为可测空间，为可测空间，T R，若，若 ，且，且

48、t给定时，给定时，Xt关于关于F F可测，可测，则称则称 为为(,F F,P)上取值于上取值于E 的随机过程的随机过程.此时此时,X t()表示在时刻表示在时刻t t系统的状态。系统的状态。称称(E,E E)为相空间为相空间或状态空间；称或状态空间；称 T为参数集或时间域；为参数集或时间域；通常取通常取 或或 1.5 随机过程的基本概念随机过程的基本概念1.5.1 随机过程的概念与举例随机过程的概念与举例 76本讲稿第七十六页，共一百一十一页数学解释：可认为数学解释：可认为X(,t)，t T 是定义在是定义在T T上的二上的二元函数。当元函数。当t t固定时，固定时，X(X(,t,t)是是r.

49、v.(stat)r.v.(stat)，当，当 固定时，固定时，X(X(,t,t)是定义在是定义在T T上的普通函数，称为上的普通函数，称为随机过程的样本随机过程的样本函数或轨道函数或轨道(path)(path)，样本函数的，样本函数的全体称为全体称为样本函数样本函数空间。空间。77本讲稿第七十七页，共一百一十一页几个实例几个实例1.1.某地某日一昼夜气温的变化情况某地某日一昼夜气温的变化情况X(t),0t24,X(t),0t0V(t),t03.3.股票行情，股票行情，P(t),t0.P(t)P(t),t0.P(t)表示某时刻某种表示某时刻某种股票的价格，股票的价格，4.4.某路公交车的客流情况

50、某路公交车的客流情况(X(t),Y(t);t(X(t),Y(t);t0 0tttt1 1,(X(t),Y(t)(X(t),Y(t)表示表示t t时刻起点与终点站的候车人数时刻起点与终点站的候车人数.5.5.纺纱机纺出一条长为纺纱机纺出一条长为l l的细纱的细纱,由于纺纱过程中随机因由于纺纱过程中随机因素的干扰，它各处的横截面直径是不同的，记素的干扰，它各处的横截面直径是不同的，记X(u)X(u)是坐是坐标为标为u u处横截面的直径，处横截面的直径，0ul0ul78本讲稿第七十八页，共一百一十一页随机过程可按时间(参数)是连续的或离散的分为两类:(1)若T是有限集或可列集时,则称为离散参数随机过