第1章概率与随机过程精选PPT.ppt
《第1章概率与随机过程精选PPT.ppt》由会员分享,可在线阅读,更多相关《第1章概率与随机过程精选PPT.ppt(111页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第1章概率与随机过程1第1页,此课件共111页哦 随机过程通常被视为概率论的动态部分,在概率论中研究的随机现象,都是在概率空间上的一个或有限多个随机变量的规律性.但在实际问题中,我们还需要研究一些随机现象的发展和变化过程,即随时间不断变化的随机变量,这就是随机过程所要研究的对象.引言引言2第2页,此课件共111页哦课程的主要内容课程的主要内容概率论基础与随机过程的基本概念概率论基础与随机过程的基本概念泊松过程与更新过程泊松过程与更新过程马尔科夫链马尔科夫链马尔科夫链马尔科夫链鞅与鞅与Brown 运动运动 随机微分方程随机微分方程随机微分方程随机微分方程 3第3页,此课件共111页哦参考书参考书
2、v陈萍等编,陈萍等编,随机数学,国防工业出版社,随机数学,国防工业出版社,2008v林元烈林元烈,应用随机过程应用随机过程,清华大学出版社清华大学出版社,2002vBernt ksendal Stochastic D如果如果ferential Equations,Springer-Verlag,1998陈萍等编,陈萍等编,概率与统计,科学出版社,概率与统计,科学出版社,2006工程数学工程数学-积分变换积分变换4第4页,此课件共111页哦 随机试验是概率论的基本概念随机试验是概率论的基本概念,一个试验一个试验(或观察或观察),若它的结果预先无法确定,则称之为若它的结果预先无法确定,则称之为随机
3、试验随机试验;试试验的验的所所有可能结果所组成的集合称为有可能结果所组成的集合称为样本空间样本空间,记为,记为;试验的试验的每一个结果或样本空间的元素称为一个样本点每一个结果或样本空间的元素称为一个样本点,记为记为;由一个样本点组成的单点集由一个样本点组成的单点集称为一个称为一个基本事件基本事件,也记也记为为.由由中的若干子集构成的集合称为中的若干子集构成的集合称为集类集类,用花写字母,用花写字母A A,B B,F F等表示等表示 由于并不是在所有的由于并不是在所有的的子集上都能方便地定义概率,的子集上都能方便地定义概率,一般只限制在满足一定条件的集类上研究概率性质,为此引一般只限制在满足一定
4、条件的集类上研究概率性质,为此引入入 域域(代数代数)的概念:的概念:5第5页,此课件共111页哦定义定义 1.1.1 设设F F是空间是空间 上的集类,上的集类,称称 F F 为为 -代数(域)代数(域)(-algebra),若满足若满足:F;F;F F F FC F F;A1,A2,F F Ai F F 注注:如果如果F F 是是 -代数代数,则则F F 对对F F上的所有集合运算封闭;且对极限运算封闭,如:上的所有集合运算封闭;且对极限运算封闭,如:A1,A2,F F Ai F,F,A1,A2,F F and An A A F,F,A1,A2,F F and An A A F F6第6页
5、,此课件共111页哦例例1.1.1 几个常见的几个常见的-代数:代数:1)称)称 ,为最为最“粗粗”的的 -代数,而称代数,而称()=的所有子集的所有子集 为最为最“细细”的的 -代数;代数;2)设)设 A ,则,则 ,A,Ac是是-代数;代数;3)设)设F F1,F F2 是是 的子集组成的两个的子集组成的两个 -代数,令代数,令 F F3=F F1 F F2,则,则F F3 也为也为-代数;代数;4)设)设 是实数域是实数域Rn,是由是由 Rn上的一切开集上的一切开集 生成的生成的 -代数,称之为代数,称之为Borel 代数代数,B B中的元素称为中的元素称为Borel集集.7第7页,此课
6、件共111页哦定义定义 1.1.2 设设 U U 是由是由 的子集构成的集类的子集构成的集类.称包含称包含U U.的最小的最小-代数代数,即即为由为由U U生成的生成的-代数代数(the -algebra generated by U.U.)定义定义 1.1.3 设设F F为空间为空间 的子集组成的的子集组成的 代数代数,称二元组称二元组(,F F)为可测空间为可测空间为可测空间为可测空间 (measurable space);的任一子集的任一子集 F 称为称为F F-可测(可测(F F-measurable)的)的,如果如果 F F.F.8第8页,此课件共111页哦定义定义 1.1.4 设设
7、(,F F)为可测空间,为可测空间,为定义在为定义在F F上取非负实数上取非负实数R R+=0,+=0,+的函数,即的函数,即:F F R R+,若,若(1)()=0;(2)若若 A1,A2,F F,且且 Aii1 两两不交,则两两不交,则特别,(特别,(1 1)当当()=1时,时,称称为为概率测度概率测度(probability measure),记为记为P,并称,并称(,F,F,P)为概率空为概率空间间(probability space).此时称此时称F F可测集可测集A A为事件,为事件,A A的测度的测度P(A)P(A)称为事件称为事件A A发生的概率。发生的概率。则称则称为可测空间
8、为可测空间(,F F)上的上的测度测度(measure),且称且称(,F,F,)为为测度空间测度空间(measure space).9第9页,此课件共111页哦(2)当当 =R,F F=B B 为为R上的上的Borel 代数,测度代数,测度 使得开使得开区间的测度等于区间的长度区间的测度等于区间的长度,即若即若A=(a.b),则则(A)=b-a 时时,称称为为Lebesgue测度测度.(3)在可测空间)在可测空间(R,B B)上,上,f是单调不减的连续函数,在是单调不减的连续函数,在B B 上定义测度上定义测度为为 称称 为为Lebesgue-Stieltjes测度测度.事件的概率刻画了事件出
9、现可能性的大小概率的基本事件的概率刻画了事件出现可能性的大小概率的基本性质如下:性质如下:1 1)有限可加性:设)有限可加性:设Ai,i=1,n为两两互不相容的事件为两两互不相容的事件列,则列,则10第10页,此课件共111页哦2)单调性:)单调性:A,B F F,且且 A B,则则 P(A)P(B);3)减法公式:)减法公式:A,B F F,则则P(B-A)=P(B)-P(AB);4)下(上)连续性:设)下(上)连续性:设 An,n 1 F F,若若AnA,则则P(An)P(A);若若 AnA,(n),则则P(An)P(A);5)Jordan公式:公式:设设Ai,i=1,n为事件列,则为事件
10、列,则11第11页,此课件共111页哦定义定义 1.1.5 设设(,F F)与(与(E,E E)为可测空间)为可测空间,函数函数 X:E称为称为F F-可测的(可测的(F F-measurable),如果对任意如果对任意U E E,特别,若特别,若(,F F,P)为为概率空间概率空间,(E,E E)=(Rn,B B),则,则可测函数可测函数X称为称为n维随机变量(维随机变量(随机变量随机变量);易证,集类易证,集类 仍为仍为 代数,称为由代数,称为由随机变量随机变量X生成的生成的 代数,代数,记作记作 .显然,X是(X)可测的,且(X)是使X可测的最小代数。任一随机变量任一随机变量X,都可以导
11、出,都可以导出(Rn,B B)上的测度,称为上的测度,称为X的分的分布,即布,即 12第12页,此课件共111页哦定理定理1.1.6 设设X,Y为为 Rn 的函数的函数.则则 Y 是是 (X)-可测可测的,当且仅当存在的,当且仅当存在 Borel 可测函数可测函数 g:RnRn 使得使得 Y=g(X)定理定理 1.1.4 设设X,Y 为为 F F-可测函数可测函数,则则X+c,cX,|X|,X2,X+Y,X/Y 均为可测函数均为可测函数.定理定理1.1.5 设设 fn是是F F-可测函数列可测函数列,则以下定义的则以下定义的4个函数个函数 h,g,f*,f*F F-可测。可测。13第13页,此
12、课件共111页哦1.1.3 独立性独立性定义定义 1.1.10 设设(,F F,P)为概率空间,为概率空间,称两称两事件事件A,B 是是独独立立的的(independent)如果如果若若 A A=H Hi;i=1,2,.是由可测集类是由可测集类 H Hi 组成的组成的集族集族,称,称A A是独是独立的,如果对任意不同的立的,如果对任意不同的i1,ik称称随机变量族随机变量族 Xi;i=1,2,是独立的,如果是独立的,如果 生成生成-代数族代数族 (Xi),i=1,2,是独立的是独立的.14第14页,此课件共111页哦定理定理1.1.7.设设(,F F,P)为概率空间为概率空间,若若C Ct,t
13、T 为独立的为独立的 -类类,则则(C Ct),tT 为独立的为独立的 -代数代数.推论推论2.设设(,F F,P)为概率空间为概率空间,若若Xt,tT 为独立的为独立的 随机变量族随机变量族,gt,tT 为为Borel可测函数族,则可测函数族,则gt(Xt),tT 独立独立.推论推论1.设设(,F F,P)为概率空间为概率空间,若若Ai,i=1,m,m+1,m+n为为m+n个独立的个独立的 事件事件,g,hg,h表示两个事件运算,则表示两个事件运算,则g g(A1,Am)与与h h(Am+1,Am+n)独立独立.注:称集类注:称集类C C为为 类,若满足类,若满足 A,B C C A B C
14、 C15第15页,此课件共111页哦定义定义 1.3.1 定义在可测空间定义在可测空间(,F F)上的函数上的函数X()称为是简单称为是简单函数(函数(simple),如果存在有限个两两互不相容的可测集如果存在有限个两两互不相容的可测集 F1,.,Fn 以及有限个实数以及有限个实数 a1,.,an满足:满足:1.2.1 可积性的定义可积性的定义16第16页,此课件共111页哦 在经典概率论中,连续型随机变量X的期望定义为(Riemann 积分)积分):其中 称为概率密度函数.离散型随机变量X的期望定义为1.2 随机变量的期望随机变量的期望可否给出期望的统一定义?可否给出期望的统一定义?17第1
15、7页,此课件共111页哦Riemann 积分:考考虑对示性函数的示性函数的积分:分:其中A是0,1区间的有理数集 若要函数可积,必须若要函数可积,必须上和等于下和上和等于下和-连续函数或几乎处处连续的有界函数上和始上和始终为 1,下和始下和始终为 018第18页,此课件共111页哦 0,1区间的有理数集是可数的区间的有理数集是可数的,即即,1.对示性函数示性函数,定定义关于关于Lebesgue测度的度的积分分为 2.对于于简单函数函数:1.2.1 Lebesgue 积分积分19第19页,此课件共111页哦引理引理:设 f(x)为 上的非上的非负可可测函数函数则存在存在简单函数序列函数序列满足足
16、.其中其中于是可以定于是可以定义 f(x)的的Lubesgue 积分分为 事实上事实上20第20页,此课件共111页哦引理证明引理证明:f(x):上的非上的非负可可测函数函数 a1=“区间”(如果 f(x)连续)21第21页,此课件共111页哦引理证明引理证明:a1a222第22页,此课件共111页哦引理证明引理证明:a1a2a1重复以上过程,总可以构造出简单函数序列hn(x)converging 收敛到f(x).证毕!23第23页,此课件共111页哦 Lebesgue 积分分 4.对于对于 上的可测函数上的可测函数f f,其中其中于是,当于是,当 时,时,定义定义 f(x)的的Lubesgu
17、e 积分为积分为24第24页,此课件共111页哦 Lebesgue 积分的性分的性质:Lebesgue 积分有所有分有所有Riemann 积分的性质:积分的性质:c:constant如果 如果AB=25第25页,此课件共111页哦定义定义 1.3.1 定义在可测空间定义在可测空间(,F F)上的函数上的函数X()称为是简单称为是简单函数(函数(simple),如果存在有限个两两互不相容的可测集如果存在有限个两两互不相容的可测集 F1,.,Fn 以及有限个实数以及有限个实数 a1,.,an满足:满足:1.2.2 关于测度的积分关于测度的积分26第26页,此课件共111页哦引理引理1.2.1设设(
18、,F F)为可测空间,为可测空间,X X为为非负非负可测函数,则可测函数,则1)1)则存在非负递增简单可测函数列则存在非负递增简单可测函数列 Xn,n 1,使得,使得 积分的定义积分的定义i)对于对于(,F F,)上的上的简单函数简单函数 ,称,称X是可是可积的,如果积的,如果(Fi),i=1,n,X的的积分积分定义为定义为27第27页,此课件共111页哦ii)如果如果X(X()是非负实值可测函数,是非负实值可测函数,XXn n 为非负简单函数为非负简单函数列,满足列,满足0 0 X Xn n X.X.则则X X的积分(的积分(integralintegral)定义为定义为iii)iii)如果
19、如果 X(X()实值可测函数,则实值可测函数,则X X的积分定义为的积分定义为其中其中 28第28页,此课件共111页哦注注:若若 X:Rn,则则29第29页,此课件共111页哦在计算积分时,改变积分区域有时可以带来很大的方便,这在微积分中是熟知的,在一般的测度论中,也有类似的结果,这就是重要的积分变换定理.定理定理1.2.11.2.1 设设f f为测度空间为测度空间(,F F,)到可测空间到可测空间(R,(R,E E)上的可测映射,上的可测映射,g g为定义在为定义在(R,(R,E E)上的可测函数,则)上的可测函数,则其中,其中,.这里等号的意义是上式在两端之一有意义时成立这里等号的意义是
20、上式在两端之一有意义时成立.30第30页,此课件共111页哦若若则称则称为为 X的期望的期望(w.r.t.P).其中其中设设X为概率空间为概率空间(,F F,P)上的上的 n维随机变量,维随机变量,1.2.3 期望期望31第31页,此课件共111页哦更一般地更一般地,若若 g:RnR 为为 Boreal 可测函数,可测函数,则则*Lr 空间空间(,F F,P)上上所有所有r阶矩存在的随机变量组成的集阶矩存在的随机变量组成的集合构成线性空间,称为合构成线性空间,称为Lr 空间空间。即。即X Lr,如果如果 E|X|r.*记记 L 为所有为所有 a.s.有界有界的随机变量组成的集合。的随机变量组成
21、的集合。*当当1r 时,时,Lr 为为 Banach 空间空间.32第32页,此课件共111页哦设设 X:R 为随机变量,满足为随机变量,满足 E|X|,(1)若若A F F且且 P(A)=0,则,则(2)设设 Y:R 为为 随机变量满足随机变量满足E|Y|,且且 X Y,a.s.则则 EX EY.期望的性质期望的性质(3)设设 X:R 为为 随机变量满足随机变量满足E|X|0 a.s.,则则 EX0.33第33页,此课件共111页哦(4)设设 X:R 为为 随机变量满足随机变量满足 E|X|,则对则对 A,B F F 且且 A B=.(5)设设两个随机变量两个随机变量X,Y:R 独立,且独立
22、,且EX ,EY ,则,则 EXY=EXEY,34第34页,此课件共111页哦(a)(Chebychevs 不等式不等式)设设 X:Rn 为随机变量,满为随机变量,满足足 E|X|P ,0p .则则1.2.4 不等式不等式(b)(Jensen 不等式不等式)设设 X 为为 R上可积的随机变量上可积的随机变量,g(.)是是连续凸函数连续凸函数.如果如果E|g(X)|,则则Eg(X)gE(X).例如.E|X|EX|;EX2 EX2注:注:凸函数凸函数 g(.)满足满足g(px+(1-p)y)pg(x)+(1-p)g(y),x,y Rn,p 0,135第35页,此课件共111页哦(c)(Holder
23、 不等式不等式)设设 p,q 为大于为大于 1 的实数,满足的实数,满足 1/p+1/q=1,且设且设 f Lp,g Lq,则则(d)(矩不等式矩不等式)设设 0st 为实数为实数,X为随机变量,则为随机变量,则(e)(Minkowskis 不等式不等式)设设 p 为大于为大于1的实数的实数,f,g 属属于于 Lp,则则 f+g Lp,且且注注:当当 0p00,(b)若若 ,则称则称Xn,n=1,2,依概率依概率1 1收敛或收敛或强收敛于强收敛于X,X,记为记为 设设Xn,n=1,2,是概率空间是概率空间(,F F,P)上的随机变量序列上的随机变量序列.X是随机变量。是随机变量。记为记为37第
24、37页,此课件共111页哦(c)设随机变量序列满足设随机变量序列满足 其中其中r0r0为常数,若为常数,若 ,则称则称 Xn,n=1,2,r r阶收敛于阶收敛于X X,记为,记为(d)称称 Xn,n=1,2,依分布收敛于依分布收敛于X,如果如果记为记为 特别,当特别,当 时,称时,称Xn,n=1,2,均方收敛于均方收敛于X,记为记为 38第38页,此课件共111页哦定理定理1.3.1 设设Xn,n=1,2,是概率空间是概率空间(,F F,P)上的随机上的随机变量序列,变量序列,X是随机变量是随机变量.1)2)如果如果子列子列 X n 使使或或则则3)如果如果则则且存在且存在Xn的的 Borel
25、-Canteli引理引理 设设 ,且满足且满足 ,则则39第39页,此课件共111页哦定理定理1.3.2(单调收敛定理单调收敛定理):设设0 Xn X,a.s.或依概率或依概率,则则 EXn EX*Fato Fato 引理引理 设设E XE Xn n 存在存在,(n=1,2,.),(n=1,2,.)i)i)若若 X Xn n X,a.s.X,a.s.且且 X X 可积可积,则则存在存在,且且ii)若若Xn X,a.s.且且 X可积可积,则则存在存在,且且定理定理1.3.3(控制收敛定理控制收敛定理):):设设|Xn|Y a.s.(n=1,2,.),Y可积可积,如果如果或或则则40第40页,此课
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 概率 随机 过程 精选 PPT
限制150内