《随机过程初步》PPT课件.ppt

《《随机过程初步》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《随机过程初步》PPT课件.ppt（93页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第八章第八章 随机过程初步随机过程初步8.1 随机过程的概念8.1.1 随机过程随机过程被认为是概率论的“动力学”部分(J.Neyman,1960).意思是说它的研究对象是随时间演变的随机现象.几个实例1.某地某日一昼夜气温的变化情况X(t),0t03.股票行情，P(t),t0.P(t)表示从某时刻起某种股票的价格，4.某路公交车的客流情况(X(t),Y(t);t0t t1,(X(t),Y(t)表示t时刻起点与终点站的候车人数5.纺纱机纺出一条长为l的细纱,由于纺纱过程中随机因素的干扰，它各处的横截面直径是不同的，可记X(u)是坐标为u处横截面的直径，0ul.定义8.1.1 设是概率空间，T是

2、一个实数集，随机过程X(,t)，tT，是对应于t和的实数，即为定义在T和上的二元函数。常将 简记为 或X(t).两个特点：(1)对于给定的,X(,t)是一个关于t的函数,称 为样本函数,它可以理解为随机过程的一个实 现.(2)当t=t0时,X(t0)是一个随机变量,称它为X(t)在 t0时刻的状态。例子:设X(t)=acos(t+F)其中a是正常数，随机变量F的分布律为：PF(1)=0=PF(2)=1=0.5，则X(t)是一个随机过程，它有两条样本曲线：x(1,t)=acos(t);x(2,t)=acos(t+1);且X(t)取每条样本曲线的概率均为0.5。已知上述随机过程在t=0时得观察值x

3、(0)=a,你能否猜到在t=1时，x(1)=?;若上述随机过程在t=1时得观察值x(1)=acos(2),你能否猜到在t=0时，x(0)=?例8.1.1 设式中a和b是常数,是在(0,2)上具有均匀分布的随机变量,称为随机相位正弦波.求(1)分别取0,/2,时的三个样本函数；(2)t分别为1,2时的两个状态.8.1.2 随机过程的分类随机过程可按时间(参数)是连续的或离散的分为两类:(1)若T是有限集或可列集时,则称为离散参数随机过程或随机序列.(2)若T是有限或无限区间时,则称为连续参数随机过程.随机过程 ,也可按任一时刻的状态是连续型随机变量或离散型随机变量分为两类:(1)若对于任意 都是

4、离散型随机变量,称 为离散型随机过程；(2)若对于任意 都是连续型随机变量,称 为连续型随机过程.例2.指出以下过程的类型1.利用抛一枚硬币的试验,定义2.例的随机相位正弦波3.某路公交车的客流情况(X(t),Y(t);t0t t1,(X(t),Y(t)表示t时刻起点与终点站的候车人数.8.2 随机过程的分布函数和数字特征8.2.1.随机过程的分布函数定义8.2.1 给定随机过程X(t),tT,对于每一个固定的tT,X(t)是一个随机变量,它的分布函数一般与t有关,记为称为随机过程的一维分布函数。若存在非负函数f(x;t),使则称函数f(x;t)为随机过程X(t)的一维密度函数.例8.2.1.

5、求随机过程的一维密度函数.这里b 是常数,X是标准正态随机变量.解:(1)当cosbt0时,由X(t)=Xcosbt,XN(0,1)知X(t)N(0,cos2bt),则X(t)的一维密度函数为(2)当cosbt=0时,X(t)不存在一维密度函数.EX 求随机过程的一维密度函数.这里b是常数,是(0,)上均匀分布的随机变量.定义8.2.2 给定随机过程X(t),tT,对于任意两个时刻t1，t2 T,二维随机变量X(t1),X(t2)的分布函数一般与t1，t2有关,记为称为随机过程的二维分布函数.若存在非负函数f(x1,x2;t1,t2)使成立,则称f(x1,x2;t1,t2)为随机过程的二维密度

6、函数.定义 给定随机过程X(t),tT,当时间t取,n维随机变量的分布函数记为若存在非负函数成立,则称为随机过程X(t)的n维密度函数.使n维分布函数的全体Fn(x1,xn;t1,tn),t1,tn T,n1称为为随机过程X（t)的有限维分布函数族，同理可定义有限维密度函数族。有限维分布函数族具有如下性质：（1）对称性 对（1，2，,n)的任意一种排列j1,j2,jn,有(2)相容性 对mn，有例8.2.2 利用抛一枚硬币的试验定义一随机过程假设P(H)=P(T)=0.5,试确定X(t)的一维分布函数在时刻0.5和1处的值F(x;0.5),F(x,1)以及解解:于是于是,X(0.5),X(1)

7、的概率分布分别为的概率分布分别为0 1-1 2X(0.5)与与X(1)的联合概率分布为的联合概率分布为-1 201定义定义8.2.4 8.2.4 给定随机过程给定随机过程 X(t),tX(t),t TT,固定固定t,X(t)t,X(t)是一是一个随机变量个随机变量,它的均值或数学期望一般与它的均值或数学期望一般与t t有关有关,记为记为称称X X(t)(t)为随机过程为随机过程X(t)X(t)的的均值函数均值函数显然,若f(x,t)是X(t)的一维密度函数,则8.2.2 随机过程的数字特征例8.2.3 求随机相位正弦波的均值函数（式中a和b是常数,是在(0,2)上具有均匀分布的随机变量）解解:

8、为随机过程为随机过程X(t)X(t)的的均方值函数均方值函数.定义定义8.2.6 8.2.6 称随机变量随机变量X(t)X(t)的方差的方差定义定义8.2.5 8.2.5 称随机变量称随机变量X(t)X(t)的二阶原点矩的二阶原点矩为随机过程X(t)的方差函数例例8.2.4 8.2.4 求随机相位正弦波求随机相位正弦波的方差函数的方差函数解解:设设X(tX(t1 1)和和X(tX(t2 2)是随机过程在任意二个时刻是随机过程在任意二个时刻t t1 1和和t t2 2时的状态时的状态.定义8.2.7 称X(t1)和X(t2)的二阶混合原点矩为随机过程X(t)的自相关函数,简称相关函数.定义8.2

9、.8 称X(t1)和X(t2)的二阶混合中心矩为随机过程X(t)的自协方差函数,简称协方差函数.例8.2.5 求随机相位正弦波的自相关函数解解:随机过程的五种数字特征:均值函数、均方值函数、方差函数、相关函数、协方差函数之间的关系:EX 1 设 ,其中X0和V是相互独立的随机变量.且求随机过程X(t)的五种数字特征.解解:设X(t),Y(t)是定义在同一样本空间S和同一参数集T上的随机过程，对于不同的tT,(X(t),Y(t)是不同的二维随机变量，称(X(t),Y(t)，tT为为二维随机过程二维随机过程类似一维的讨论，可定义二维随机过程的n+m维分布函数族、互相关函数、互协方差函数。还可定义过

10、程X(t)和Y(t)的独立性与不相关性。8.2.3.二维随机过程的分布函数和数字特征8.3 几种常见的随机过程 8.3.1 独立增量过程定义定义8.3.18.3.1若随机过程若随机过程 任意任意n n个状态个状态,相互独立相互独立,则称则称 为独立增量过程为独立增量过程.若对任意的非负实数若对任意的非负实数s,t,h,s,t,h,且且st,ss0,W(t)-W(s)服从正态分布N(0,2(t-s)；(3)W(0)=0,则称此过程为维纳过程维纳过程或Brown运动.其中2称为维纳过程的参数.8.3.3维纳过程 取2=1,求brown运动X(t)的五种数字特征。解解:P183 定义8.3.2 若随

11、机过程Xt,tT的每一个有限维分布都是正态分布,则Xt,tT称为正正态态过过程程(Gauss过程).P183,例8.3.2 设 ,其中随机变量U，V相互独立,且都服从正态分布,是实常数.试证:X(t)是一个正态过程.8.3.4 正态过程证：证：及及令令由由U、V的相互独立性的相互独立性,且且U、V都服从正态分布都服从正态分布,得得 即即服从服从n维正态分布维正态分布,则随机过程则随机过程 是一个正态过程是一个正态过程.EX 求证维纳过程是正态过程证：证：及及令令式中式中ai满足满足由于由于是独立的正态随机变量是独立的正态随机变量的线性组合，仍然服从正态分布。证毕的线性组合，仍然服从正态分布。证

12、毕则称过程 具有马尔可夫性,或称此过程为马尔可夫马尔可夫(Markov)过程过程,简称马氏过程.8.3.5 马尔可夫过程P186,定义8.3.6 设随机过程 的状态空间为I,若任意,，马尔可夫过程的特点是:当过程在时刻 t0所处的状态为已知的条件,过程在时刻t(tt0)所处的状态与过程在t0时刻之前的状态无关,这个特性就是无后效性.注:可证,独立增量过程X(t),t0,若X(0)=0,则必为马氏过程.(证明参见闵华玲随机过程)若马氏过程的状态 是离散的,则称条件概率为马氏过程X(t)在时刻t处于状态ai的条件下,在时刻t+转移到状态aj的转移概率.易证,转移概率的性质有(p186)性质（3）称

13、为C-K方程。（Chapman-Kolmogorov),C-K方程基于下列事实，即“从时刻t所处的状态ai出发经时段转移到状态aj”这一事件可分解为“从X(t)=ai出发，先经时段t转移到中间状态ak，再从ak经时段转移到状态aj”。参数与状态都离散的马尔可夫过程称为马尔可夫链，简称马氏链。设马氏链的参数集为状态集为记显然有概率与n无关,则称马氏链X(t),tT 为齐次的或时齐的或称马氏链 X(t),tT为齐次马氏链.若在的条件下,发生”的在马氏链是齐次的情况下,称为马氏链的n步转移概率,称为马氏链的n步转移概率矩阵,记为.一步转移概率矩阵记为P。可证例例1 (01传输系统传输系统)在如图只传

14、输数字在如图只传输数字0和和1的串联系的串联系统中，设每一级的传真率为统中，设每一级的传真率为p；误码率为；误码率为q=1-p，并设，并设一一 个单位时间传输一级，个单位时间传输一级，X0是第一级的输入，是第一级的输入，Xn是第是第n级的输出级的输出 (n 1)，试用马氏链来描述这个系统。并试用马氏链来描述这个系统。并求：（求：（1）n步转移概率矩阵步转移概率矩阵注：输出与输入数字相同的概率称为系统注：输出与输入数字相同的概率称为系统 的传真率，的传真率，相反情形称为误码率相反情形称为误码率解解(1)一步转移概率矩阵为一步转移概率矩阵为010 1n步转移概率矩阵为步转移概率矩阵为由于由于P有相

15、异的特征值有相异的特征值由线性代数知识由线性代数知识,可将可将P表示成对角阵表示成对角阵的相似矩阵的相似矩阵.具体做法是具体做法是:求出两特征值对应的特征向量求出两特征值对应的特征向量:令令则则（2）设）设p=0.9，求系统二级传输后的传真率与三级传，求系统二级传输后的传真率与三级传输后的误码率输后的误码率将将p=0.9,n=2带入带入P(n)得得同理同理,（3）设）设PX0=0=a a,又已知系统又已知系统n级传输后输出为级传输后输出为1，问原发字符也是，问原发字符也是1的概率是多少？的概率是多少？解解:根据根据Bayes公式公式,当已知系统经当已知系统经n级传输后输出为级传输后输出为1,原

16、原发字符也是发字符也是1的概率为的概率为8.4.1 严平稳随机过程8.4 平稳随机过程平稳过程是什么意思？平稳过程是什么意思？定义8.4.1 若随机过程具有相同的分布函数,则称随机过程X(t)为严平稳过程.与和任意对于任意时刻定理 8.4.1 若严平稳过程的均方值函数存在,则均值函数为均方值函数为方差函数为相关函数8.4.2 宽平稳随机过程定义8.4.2 若随机过程 对每一个 ,二阶矩 都存在,则它为二阶矩过程.推论:若严平稳过程X(t)还是二阶矩过程,则 (1)X(t)的均值函数是一常数,记为 EX(t)=X (2)X(t)的相关函数RX(t1,t2)是单变量=t2-t1的函数,记为证明:(

17、1)因为X(t)与X(t+h)同分别,令h=-t,得定义8.4.3 给定二阶矩过程 ,若对任意则称X(t)是一个宽平稳过程或广义平稳过程,简称平稳过程平稳过程(常数),(仅仅是时间差函数),例1 考察随机相位正弦波的平稳性。（式中a和b是常数,是在（0,2)上具有均匀分布的随机变量）例8.4.2 设s(t)是一周期为T的函数,是在区间(0,T)上服从均匀分布的随机变量,称X(t)=s(t+)为随机相位周期过程.试讨论它的平稳性.例8.4.3 设X(t)是白噪声序列，设有随机变量序列X(t),tT=tk|k=0,+1,+2,且则称X(t)为一白噪声序列。称Y(t)为n阶滑动和过程，判断其平稳性。

18、解解:常数常数仅是仅是 的函数的函数.故故Y(t)是是平平稳稳过过程程.8.5 相关函数的性质相关函数的性质:证明:先证柯西-许瓦茨不等式:p192由柯西-许瓦茨不等式即是非负定的,即对任意和任意实值函数g(.)都有证明:可以证明可以证明:任一连续函数任一连续函数,只要具有非负定性只要具有非负定性,那么该函那么该函数必是某平稳过程的自相关函数数必是某平稳过程的自相关函数(5)如果平稳过程如果平稳过程X(t)X(t)满足条件满足条件则称它为周期是则称它为周期是T0的平稳过程的平稳过程.周期平稳过程的自相关函数必是周期函数周期平稳过程的自相关函数必是周期函数,且其周期且其周期也是也是T0.证明:由

19、柯西-许瓦茨不等式如何根据平稳过程的观察值估计过程的数字特征？8.6 各态历经性定义(p193)设X(t)是一个平稳过程,称为X(t)在-T,T上的历时平均值.称为X(t)在-T,T上的历时相关函数.上式中的“积分”是什么概念？当 时如何取“极限”？p193 定义8.6.1 设Xn,n=1.2是由二阶矩存在的随机变量组成的序列,X是一个随机变量,若则称Xn,n=1,2均方收敛均方收敛于X,记为8.6.1 均方极限与均方积分均方极限有如下性质均方极限有如下性质:1如果如果,那么那么证明证明:由由柯西柯西-许瓦茨不等式许瓦茨不等式:在上式中在上式中,取取X=|Xn-X|,Y=1,则有则有由由即即2

20、.2.若若n n=X,=X,n n=Y,=Y,则则:证略证略3.3.若若n n=X,=X,n n=Y,=Y,则对任意常数则对任意常数a,b,a,b,证略证略由由1.2.3不难推出不难推出:当当l.i.m.Xl.i.m.Xn n=X,=X,n n=Y=Y时时,有有(p194)(p194)定义定义8.6.2 8.6.2 设设X(t)X(t)是一个随机过程是一个随机过程,对区间对区间a,ba,b作分割作分割.若时,和式均方极限存在,则称X(t)在a,b上均方可积,此极限称为X(t)的均方积分,且记为即均方可积准则均方可积准则:随机过程随机过程X(t)在在a,ba,b上均方可积的充分上均方可积的充分条

21、件是条件是X(t)的自协方差函数的自协方差函数CX(s,t)在在as b,at b上黎上黎曼可积曼可积.如果如果X(t)在在a,b上均方连续上均方连续,即即则则X(t)在在a,b上上均方可积均方可积证略证略均方积分的性质均方积分的性质:证明证明:设设此性质说明求期望号与求积分号可交换次序此性质说明求期望号与求积分号可交换次序.存在存在.即即存在存在.由由得得为为X(t)X(t)的的时间均值时间均值，称，称定义定义 称称为为X(t)X(t)的的时间相关函数时间相关函数.设设X(t)X(t)是平稳过程是平稳过程,易证易证 (p196)(p196)证明证明:证略证略证略证略定义 设X(t)是一个平稳

22、过程,若以概率1成立,则称X(t)的均值具有各态历经性.若以概率1成立,则称的自相关函数具有各态历经性.若X(t)的均值和自相关函数都具有各态历经性,则称X(t)是(宽)各态历经过程,或者说X(t)具有遍历性.8.6.2 各态历经性(Ergodic)定理8.6.1 (均值各态历经定理)平稳过程X(t)的均值具有各态历经性的充要条件是其中证明证明:定理8.6.2 (自相关函数各态历经定理)平稳过程X(t)的自相关函数具有各态历经性的充要条件是其中证略证略例：考察随机相位正弦波均值的各态历经性。例：考察随机相位正弦波均值的各态历经性。解：解：故故X(t)的均值具有的均值具有各态历经性各态历经性输入

23、：自然光输出：输入：x(t)输出：频率1频率2.fourier变换8.7 平稳过程的功率谱密度平稳过程的功率谱密度2cos(t)+cos(t/2)0.5cos(t)+2cos(t/8)cos(t)+cos(t/8)设x(t)是周期为T的函数,若x(t)在-T/2,T/2上满足Dirichlet条件,则在-T/2,T/2 上（x(t)的连续点上）x(t)可表示为8.7.1 时间函数的功率谱密度其中，对于非周期的函数对于非周期的函数x(t),可以看成是以可以看成是以T为周期的函数为周期的函数当当T时的近似时的近似.于是于是其中，若上述极限存在若上述极限存在,则则综上所述,设x(t)是时间的函数,若

24、x(t)满足Dirichlet条件,且绝对收敛，则（在x(t)的连续点上）x(t)可表示为其中，称为x(t)的fourier变换或频谱。由Parseval等式等式左边表示x(t)的总能量，右边如何解释？称 为x(t)的能谱密度。对于能量无限的信号x(t)，该如何展开？设x(t)是一个普通函数,记则称 为x(t)的平均功率.(p198)由Parseval等式*式两边同乘 并令 得(p198)定义8.7.2 称为函数(信号)x(t)的平均功率谱密度,简称功率谱密度8.7.2 平稳过程的功率谱密度设X(t),tR是一个平稳过程,记(p198)定义8.7.3称为平稳过程 X(t),tR的功率谱密度.平

25、稳过程X(t),tR的功率谱密度有下列性质:(1)S(1)SX X()是是 的实的、非负的偶函数的实的、非负的偶函数,即即S SX X()0 0,且且S SX X(-(-)=)=S SX X().证明证明:(2)S SX X()和自相关函数和自相关函数 R RX X()是一傅里叶对是一傅里叶对,即即证明证明:此变换的雅可比行列式为此变换的雅可比行列式为由二重积分换元公式由二重积分换元公式即即SX()是是RX()的的Fourier变换变换.利用逆利用逆Fourier变换可得变换可得例例8.7.1 已知过程已知过程X(t)的谱密度的谱密度求平稳过程求平稳过程X(t)的自相关函数。的自相关函数。解解

26、:X(t)的自相关函数的自相关函数在处的留数之和.注:留数定理：f(z)在围线C所包围的区域D内除a1,an外解析，在闭域D=D+C上除a1,an外连续，则其中，若a为f(z)的一级极点根据留数定理有:式中,x是实变量,z 是复变量,a 是大于零的常数.上题中上题中,如果如果如果如果已知平稳过程已知平稳过程X(t)的谱密度的谱密度求求X(t)的自相关函数和均方值。的自相关函数和均方值。解解:X(t)的自相关函数的自相关函数需要指出，在实际问题中常常碰到这需要指出，在实际问题中常常碰到这样一些平稳过程，他们的自相关函数样一些平稳过程，他们的自相关函数或谱密度在常义下的或谱密度在常义下的fouri

27、er变换或逆变换或逆变换是不存在的（例如随机相位正弦变换是不存在的（例如随机相位正弦波的自相关函数），但与通常频谱分波的自相关函数），但与通常频谱分析中遇到的情况一样，如果允许谱密析中遇到的情况一样，如果允许谱密度和自相关函数含有度和自相关函数含有d d函数，则在新函数，则在新的意义下，利用的意义下，利用d d函数的函数的fourier变换变换性质，有关实际问题仍能得到圆满解性质，有关实际问题仍能得到圆满解决。决。d d函数的基本性质是：对任一在函数的基本性质是：对任一在=0=0连续的函数连续的函数f()，有，有据此，可以写出以下fourier变换对例8.7.3 已知平稳过程 V(t)的自相关函数为求所对应的谱密度 SV().解解EX 求白噪声过程的谱密度。求白噪声过程的谱密度。设有随机平稳过程X(t),tT,且则称X(t)为一白噪声过程。解解在实用上在实用上,也可通过查也可通过查P201 P201 表表8.18.1进行进行S SX X()与与R RX X()的互变的互变