第二章随机过程的基本概念.ppt
第二章第二章随机过程的基本概念随机过程的基本概念第一节第一节随机过程的定义及其分类随机过程的定义及其分类第二节第二节随机过程的分布及其数字特征随机过程的分布及其数字特征第三节第三节复随机过程复随机过程第一节第一节随机过程的定义及其分类随机过程的定义及其分类一、直观背景及例一、直观背景及例电话站在时刻t时以前接到的呼叫次数例例1一般情况下它是一个随机变数一般情况下它是一个随机变数X,并且依赖,并且依赖时间时间t,即随机变数,即随机变数X(t),),t 0,24。例例2研究某一商品的销售量一般情况下它是一个随机变数一般情况下它是一个随机变数X,并且依赖,并且依赖时间时间t,即随机变数,即随机变数X(t),),t=1,2,例例3国民收入问题随着各种随机因素的影响而随机变化,随着各种随机因素的影响而随机变化,一般地有一般地有其中其中C(t)、)、I(t)分别表示)分别表示t年的消费和积累。年的消费和积累。汶川余震序列图汶川余震序列图2008.5.12(2:28)2008.7.8(8:00)1.关注对象是关注对象是一族一族随时间或地点变化的随时间或地点变化的随机变量随机变量;2.需要研究这需要研究这一族一族随机变量的整体或局随机变量的整体或局部统计规律性部统计规律性;随机过程表示依赖于一个表示依赖于一个变动参量变动参量的一族随机变量。它的一族随机变量。它虽然不能用一个确定的函数来描述,但也是有虽然不能用一个确定的函数来描述,但也是有规律的。规律的。现实世界中的许多现象是随时间的进展而变化与发展的,这些现象通常称为过程。可分为两类:(1)确定性的变化过程(2)不确定的变化过程 如果质点在一个随机的力(它由各种随机因素形成)的作用下,那么质点的运动也是随机的。如何描述这样的变化过程:1.如果对其变化过程的全过程做一次观察,得到一个位置与时间关系的函数x1 1(t),若再次观察,又得到函数x2 2(t),因而得到一族函数.2.如果在时刻t观察质点的位置x(t),则x(t)是一个随机变量,这样对于每个时刻t便得到一个随机变量X(t),于是我们就得到一族随机变量X(t),t0,(最初始时刻为t=0),它描述了此随机的运动过程.二、随机过程的定义二、随机过程的定义1随机 过程 设设E是随机试验,是随机试验,是它的的样本是它的的样本空间,空间,T是一个参数集,若对于每一个是一个参数集,若对于每一个都有随机变量都有随机变量,与之对应,与之对应,则称依赖于则称依赖于t的随机变量的随机变量为随机为随机过程,或称为随机函数,过程,或称为随机函数,通常记作说明1参数集参数集T在实际问题中,常常指的是时在实际问题中,常常指的是时间参数。间参数。说明2因为 是一个随机变量,是一个随机变量,2.随机过程的理解随机过程的理解为集合为集合T 与与的的积集积集.称称 随机过程随机过程 可看成定义在积集可看成定义在积集 上的二元函数:上的二元函数:1)当固定当固定是一个定义在是一个定义在(,T,P)随机变量)随机变量;2)当固定当固定 (对于特定的试验结果对于特定的试验结果),),作作为为 的函数,的函数,是一个定义在是一个定义在T 上的上的普通函数普通函数.X(t1,)X(t2,)x(t,1)x(t,2)x(t,3)t1t2tn例例5X(t,)=acos(bt+),U(0,2)2=1.91643=2.60991=5.4938定义定义2.1.2 对每一固定对每一固定 ,称,称 是随是随机过程机过程 的一个的一个样本函数样本函数.也称轨道也称轨道,路径路径,现实现实.3贝努利过程 设每隔单位时间掷一次硬币,观察它出现设每隔单位时间掷一次硬币,观察它出现的结果。如果出现正面,记其结果为的结果。如果出现正面,记其结果为1;如果;如果出现反面,记其结果为出现反面,记其结果为0。一直抛掷下去,便。一直抛掷下去,便可得到一无穷序列可得到一无穷序列 因为每次抛掷的结果是一个随机变量(1或0),所以无穷次抛掷的结果是一随机变量的无穷序列,称为随机序列,也可称为随机过程。每次抛掷的结果与先后各次抛掷的结果是相互独立的,并且出现1或0的概率与抛掷的时间n无关。设称具有这种特性的随机过程为称具有这种特性的随机过程为贝努利型随机过程贝努利型随机过程。注如果固定观测时刻如果固定观测时刻t,则它的试验结果是属于两个,则它的试验结果是属于两个样本点(样本点(0,1)所组成的样本空间。)所组成的样本空间。则样本空间出现的值为(则样本空间出现的值为(0,0),(0,1),(1,0),(1,1)例:(分枝过程)一个个体(第0代)可能生产 0,1,2个子女形成第一代,每一个子女再生子女,他们合在一起形成第二代,等等,假定第n代的个体数目为Xn,则Xn,n=0,1,2.是随机过程。第二章 随机过程的基本概念例:到达总机交换台的呼叫次数为Poison过程。每次呼叫是相互独立的,而间隔时间服从指数分布,交换台在同一时刻只能接通 个呼叫。人们常要了解在某一时刻的排队长度以及呼叫的平均等待时间,这是一种排队模型。三、随机过程的分类三、随机过程的分类1、按参数集和状态分类 参数集参数集T的是一个可列集的是一个可列集T=0,1,2,离散参数连续参数参数分类参数集参数集T的是一个不可列集的是一个不可列集状态分类离散状态连续状态取值是离散的取值是连续的T离散、I离散T离散、I非离散(连续)参数T状态I分类T非离散(连续)、I离散T非离散(连续)、I非离散(连续)当当T为可列集为可列集,称为称为离散参数随机过程离散参数随机过程,随随机序列机序列,时间序列时间序列.当当E 为可列为可列(或有限或有限)集集,称为称为离散状态随离散状态随机过程机过程.(1)独立随机过程简称独立随机过程。概率结构分类2按过程的概率结构分类独立随机过程独立增量随机过程马尔可夫过程平稳随机过程(2)独立增量随机过程是相互独立的,(3)马尔可夫过程简称马氏过程。马氏过程的特点马马氏氏性性实实质质上上是是无无后后效效性性,所所以以也也称称马马氏氏过过程程为为无后效过程无后效过程。称这个特性为马尔可夫性,简称马氏性。(4)平稳随机过程 平稳过程的统计特性与马氏过程不同,它不随时间的推移而变化,过程的“过去”可以对“未来”有不可忽视的影响。第二节第二节随机过程的分布及其数字特征随机过程的分布及其数字特征一、随机过程的分布函数一、随机过程的分布函数一维分布函数其分布函数为一维概率密度注意:注意:一维分布函数描述了随机过程在各个一维分布函数描述了随机过程在各个孤立时间点处的统计特性孤立时间点处的统计特性,未给出过程的整未给出过程的整体统计特性体统计特性.二维分布函数联合分布函数二维概率密度n 维分布函数联合分布函数 n维概率密度例例1 袋中放有一个白球,两个红球,每隔单位时间从袋中任取一球,取后放回,对每一个确定的t对应随机变量试求这个随机过程的一维分布函数族。分析分析先求概率密度所以解解P二、随机过程的数字特征二、随机过程的数字特征 1均值函数或称为数学期望。说明说明 在实际应用中在实际应用中,很难确定出随机过程的有限很难确定出随机过程的有限维分布函数族维分布函数族,过程的数字特征能反映其局部统过程的数字特征能反映其局部统计性质计性质.需确定各类数字特征随时间的变化规律需确定各类数字特征随时间的变化规律.2方差函数说明说明均方差函数 3协方差函数二阶中心混合矩简称协方差函数。注 为描述不同时刻过程状态的关联关系,需要为描述不同时刻过程状态的关联关系,需要计算协方差函数计算协方差函数.定义定义给定随机过程给定随机过程,称称为过程为过程XT的的自相关函数自相关函数.有有重点研重点研究内容究内容特别当特别当 时时XT是零均值过程是零均值过程称称为过程为过程XT的的自相关系数函数自相关系数函数.Ex.1设设p,q是两个随机变量是两个随机变量,构成随机过程构成随机过程均值函数为均值函数为自相关函数为自相关函数为Ex.2设设X(t)=Ycos(t)+Zsin(t),t0,Y,Z相互独立,相互独立,EY=EZ=0,DY=DZ=2,求,求X(t),t0的的均值函数和协方差函数。均值函数和协方差函数。解解 Ex.3设随机过程设随机过程其中其中是正常数是正常数,随机变量随机变量A与与相互独立相互独立,AN(0,1),U(0,2).试求过程的均值函试求过程的均值函数和相关函数数和相关函数.解解随机变量函数的随机变量函数的数学期望公式数学期望公式Independent identical distributionEx.4 设设X(t)=Y+Zt,t 0,Y,Z N(0,1)求求X(t),t 0的一、二维概率密度族。的一、二维概率密度族。解:解:因因Y,Z为正态随机变量,则其线性组合为正态随机变量,则其线性组合X(t)也是正态随机变量,且也是正态随机变量,且XN(0,1+t2)随机过程随机过程X(t),t 0的一维概率密度为的一维概率密度为 随机过程随机过程X(t),t 0的二维概率密度的二维概率密度Ex.5 设设X(t)为信号过程,为信号过程,Y(t)为噪声过程,为噪声过程,W(t)=X(t)+Y(t),求,求W(t)的的均值函数和相关均值函数和相关函数。函数。解:解:三、复随机过程三、复随机过程定义定义设设和和为两个实随机为两个实随机过程,称过程,称为为复随机过程复随机过程.复随机过程复随机过程的的均值函数均值函数为为方差函数为方差函数为自相关函数自相关函数为为自协方差函数自协方差函数为为定义定义设设和和是两个复随机是两个复随机过程过程,它们的它们的互相关函数互相关函数定义为定义为互协方差函数互协方差函数为为Ex.4已知已知实随机过程实随机过程X(t)具有自相关函数具有自相关函数R(s,t),令令 Y(t)=X(t+a)X(t)求求RYY(s,t).解解 先求出先求出X(t)与与Y(t)的互相关函数的互相关函数将将(1)式代入式代入(2)式式,得得取取s=t,则有则有Ex.6设复随机过程设复随机过程其中其中为相互独立服从正态为相互独立服从正态N(0,k2)的的实随机变量实随机变量,k为常数为常数,试求试求mZ(t),RZ(t1,t2).解解思考题:思考题:为什么说随机过程的均值函数和自为什么说随机过程的均值函数和自相关函数在研究过程的概率与统计特性相关函数在研究过程的概率与统计特性尤其重要尤其重要?四、随机过程的特征函数四、随机过程的特征函数1一维特征函数则注 2n维特征函数则特征函数和分布函数是相互唯一确定特征函数和分布函数是相互唯一确定.注五、五、随机过程存在定理随机过程存在定理随机过程的随机过程的n维分布函数能近似地描述维分布函数能近似地描述过程的统计特性过程的统计特性,n越大则描述越趋于完善越大则描述越趋于完善.需研究随机过程与有限维分布函数的关系需研究随机过程与有限维分布函数的关系.随机过程的有限维分布函数有以下性质随机过程的有限维分布函数有以下性质:1)对对称称性性:对对1,2,n的的任任一一排排列列j1,j2,jn,均有均有因事件乘积满足交换律因事件乘积满足交换律.注注 2)相容性相容性:对任意固定的自然数对任意固定的自然数mn,均有均有注注 联合分布函数能完全确定边缘分布函数联合分布函数能完全确定边缘分布函数.类似地类似地,随机过程的有限维特征函数满足随机过程的有限维特征函数满足:1)对对1,2,n的任一排列的任一排列j1,j2,jn有有 2)对任意固定的自然数对任意固定的自然数mn,均有均有定理定理(柯尔莫哥罗夫存在定理柯尔莫哥罗夫存在定理)如果有限分布函数族如果有限分布函数族 满足相容性和满足相容性和对称性对称性,则存在一个概率空间上则存在一个概率空间上的一个随机过程的一个随机过程 以以F为有限为有限维分布函数族维分布函数族,即即Ex.7设随机过程设随机过程只有两只有两条样本函数条样本函数且且求求1)一维分布函数一维分布函数F(0;x)和和 F(p p/4;x);2)二维分布函数二维分布函数F(0,p p/4;x,y).解解1)对任意实数对任意实数tR,有有X(t)2cost 2costp 1/3 2/3特别特别X(0)2 2p 1/3 2/3X()p 1/3 2/32)分析分析有有(X(0),X(p p/4)p 1/3 2/3x(t,1)=2costx(t,2)=2cost-22服从二维两点分布,服从二维两点分布,其余自解其余自解.问题问题随机变量随机变量X(0)和和X(p p/4)是否相互独立是否相互独立?Ex.8设随机过程设随机过程其中其中是正常数是正常数,随机变量随机变量A与与相互独立相互独立,AU(0,1),U(-p p,p p),试求过程的一维概率试求过程的一维概率密度密度.解解1)首先设首先设其中其中a是常数是常数,易求得易求得Y(t)的一维概率密度为的一维概率密度为2)因因,有有用连续型全概率公式用连续型全概率公式思考:思考:为什么可以用有限维分布函数族描述随机为什么可以用有限维分布函数族描述随机过程的统计特性过程的统计特性?