2017数理统计与随机过程课件-随机过程(1).ppt

《2017数理统计与随机过程课件-随机过程(1).ppt》由会员分享，可在线阅读，更多相关《2017数理统计与随机过程课件-随机过程(1).ppt（233页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1 1 随 机 过 程2关键词：随机过程状态和状态空间样本函数有限维分布函数均值函数方差函数自相关函数自协方差函数互相关函数互协方差函数正态过程独立增量过程泊松过程维纳过程第六章 随机过程及其统计描述31 随机过程的概念 随机过程随机过程被认为是概率论的“动力学”部分，即它的研究对象是随时间演变的随机现象，它是从多维随机变量向一族(无限多个)随机变量的推广。给定一随机试验 ，其样本空间 ，将样本空间 中的每一元作如下对应，便得到一系列结果：随机过程的定义5 例1：抛掷一枚硬币的试验，样本空间是 ，现定义：1234678例5：考虑抛掷一颗骰子的试验：10随机过程的分类：随机过程的分类：随机过程可

2、根据参数集T和任一时刻的状态分为四类，参数集T可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随机变量和连续型随机变量两种：1.连续参数连续型的随机过程，如例2，例32.连续参数离散型的随机过程，如例1，例43.离散参数离散型的随机过程，如例54.离散参数连续型的随机过程，如下例112 随机过程的统计描述12 例1：抛掷一枚硬币的试验，定义一随机过程：131234141516171819202122样本函数x(t)2324有限维分布函数的性质有限维分布函数的性质对称性相容性有限维分布函数族对称性相容性Kolmogorov存在定理 设已给参数集T及满足对称性和相容性条件的分布函数族F，则

3、必存在概率空间（,F,P）及定义在其上的随机过程X(t),tT，它的有限维分布函数族是F。有限维特征函数族：28(二二)随机过程的数字特征随机过程的数字特征2930313233续续343536(三三)二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征3738求 的均值函数和相关函数。3 复随机过程复随机过程二、复随机过程的数字特征函数均值函数方差函数相关函数协方差函数相互之间的关系三、协方差函数的性质三、协方差函数的性质二阶矩过程二阶矩过程正交增量过程正交增量过程独立增量过程独立增量过程马尔可夫过程马尔可夫过程正态过程正态过程维纳过程维纳过程平稳过程平稳过程4 随机过程的几种基本

4、类型随机过程的几种基本类型二阶矩过程二阶矩过程定义：设已给定随机过程 ，如果对于一切 均有 ，则称 为二阶矩过程。1、二阶矩过程必存在均值2、由Schwartz不等式 知其相关函数和协方差都存在。性质：例题：设X(t),tT是正交增量过程，T=a,b为有限区间，且规定X(a)=0，求其协方差函数。正交增量过程正交增量过程2、特点：不相重叠的区间上状态的增量互不相关。独立增量过程独立增量过程2、特点：独立增量过程在任一个时间间隔上过程状态的改变，不影响任一个与它不相重叠的时间间隔上状态的改变。正交增量过程独立增量过程定义依据：不相重叠的时间区间上增量的统计相依性互不相关相互独立正交增量过程独立增

5、量过程正交增量过程独立增量过程二阶矩存在，均值函数恒为零3、独立增量过程与正交增量过程的关系4、独立增量过程，其有限维分布，可由增量的分布所确定即有限维分布可由增量分布来确定。5.平稳独立增量例题：考虑一种设备一直使用到损坏为止，然后换上同类型的设备。假设设备的使用寿命是随机变量，令N(t)为在时间段0,t内更换设备的件数，通常可以认为N(t)，t0是平稳独立增量过程。定理：平稳独立增量过程的有限维分布函数族由定理：平稳独立增量过程的有限维分布函数族由其一维分布和增量的分布确定。其一维分布和增量的分布确定。注：有限维分布，首先由增量分布确定，而增量分布由一维分布确定，最重要的独立增量过程是维纳

6、过程和泊松过程。马尔可夫过程马尔可夫过程2、马尔可夫性系统在已知现在所处状态的条件下，它将来所处的状态与过去所处的状态无关。例 证明独立增量过程是马尔可夫过程条件分布函数具有马尔可夫性,所以是马尔可夫过程。定义：设X(t),tT是随机过程，若对任意正整数n及t1,t2,tnT，(X(t1),X(t2),X(tn)是n维正态随机变量，则称X(t),tT是正态过程或高斯过程。特点：1.在通信中应用广泛；2.正态过程只要知道其均值函数和协方差函数，即可确定其有限维分布。正态过程正态过程定义：设X(t),tT是随机过程，如果对任意常数h和正整数n，t1,t2,tnT，t1+h,t2+h,tn+hT，(

7、X(t1),X(t2),X(tn)与(X(t1+h),X(t2+h),X(tn+h)有相同的联合分布，则称X(t),tT为严平稳过程或侠义平稳过程。定义：设X(t),tT是随机过程，如果1.X(t),tT是二阶矩过程；2.对任意tT，mX(t)=EX(t)=常数；3.对任意s,t T，RX(s,t)=EX(s)X(t)=RX(t-s)则称X(t),tT为广义平稳过程，简称为平稳过程。平稳过程平稳过程广义平稳过程严平稳过程广义平稳过程严平稳过程二阶矩存在对于正态过程，广义平稳过程和严平稳过程是等价的。例：设随机过程X(t)=acos(t+)，a和都是常数，是在(0,2)上均匀分布的随机变量，Y(

8、t)=tX(t)，试分别讨论X(t)和Y(t)的平稳性。65泊松过程及维纳过程66 独立增量过程的性质：6768泊松过程等间隔的不等间隔的6970续续71续续72续续73证毕证毕74757677787980定理一：强度为 的泊松流(泊松过程)的点间间距是相 互独立的随机变量，且服从同一指数分布定理二：如果任意相继出现的两个质点的点间间距是相 互独立,且服从同一个指数分布：这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指数分布。则质点流构成强度为 的泊松过程8182维纳过程维纳过程维纳过程是布朗运动的数学模型

9、以 表示运动中一微粒从时刻 到时刻 的位移的横坐标，且设 。由于微粒的运动是受到大量随机的、相互独立的分子碰撞的结果，于是:(1)粒子在时段,上的位移可看作是许多微小位移的 和，根据中心极限定理，假设位移 服从正态分布是合理的。(2)由于粒子的运动完全由液体分子不规则碰撞而引起的，这样，在不相重叠的时间间隔内，碰撞的次数、大小和方向可假设相互独立，即 具有独立增量，同时 的增量具有平稳性。8384858687888990关键词：无后效性(马尔可夫性)齐次马尔可夫链n步转移概率 n步转移概率矩阵 C-K方程 马氏链的有限维分布律 遍历性 极限分布(平稳分布)第八章 马尔可夫链1 马尔可夫过程及其

10、概率分布马尔可夫性(无后效性)过程(或系统)在时刻t0所处的状态为已知的条件下，过程在时刻tt0所处状态的条件分布与过程在时刻t0之前所处的状态无关。通俗地说，通俗地说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。92证毕！证毕！由上例知，泊松过程泊松过程是时间连续状态离散的马氏过程，维纳过程维纳过程是时间状态都连续的马氏过程。939495969798时间和状态都离散的马尔可夫过程称为马尔可夫链马尔可夫链，简称马氏链，记为：X Xn=X=X(n),n=0,1,2(n),n=0,1,2,参数集T=0,1,2,，记链的状态空间为：99100的状态XmXm+1的状态101例5：(

11、0-1传输系统)如图所示，只传输数字0和1的串联系统中，设每一级的传真率为p，误码率为q=1-p。并设一个单位时间传输一级，X0是第一级的输入，Xn是第n级的输出(n1)，那么Xn,n=0,1,2是一随机过程，状态空间I=0,1，而且当Xn=i为已知时，Xn+1所处的状态的概率分布只与Xn=i有关，而与时刻n以前所处的状态无关，所以它是一个马氏链，而且还是齐次的，它的一步转移概率和一步转移概率矩阵分别为：n21X0X1X2XnXn-1102 例6：一维随机游动一维随机游动。设一醉汉Q(或看作一随机游动的 质点)在直线上的点集I=1,2,3,4,5作随机游动，且仅在1秒、2秒等时刻发生游动，游动

12、的概率规则 是：如果Q现在位于点i(1i0)表示经n次交换 后甲盒中的红球数.(1)求此马氏链的初始分布;(2)求一步转移概率矩阵;(3)计算 ;(4)判断此链是否具有遍历性，若有，求出极限分布。129130 4 马尔可夫链的状态分类马尔可夫链的状态分类 一些基本状态类型、概率性质及其关系一些基本状态类型、概率性质及其关系 状态空间的分解状态空间的分解 极限特性与平稳分布极限特性与平稳分布 一、可达与相通一、可达与相通可达的定义可达的定义：对给定的两个状态：对给定的两个状态i和和j,若存在正整数若存在正整数n1,使得使得pij(n)0,则称则称从状态从状态i 可到达可到达状态状态j，记为，记为

13、ij；否则，称；否则，称从状态从状态i不不可到达可到达状态状态j，记为，记为ij。若从状态若从状态i不可不可到达到达状态状态j时，一个时，一个齐次马尔可夫链对于一齐次马尔可夫链对于一切切n(1),总有总有pij(n)=0。概率概率p概率概率qi=12345两个吸收壁两个吸收壁1,51,5相通的定义相通的定义：给定的两个状态：给定的两个状态i和和j，如果从状态，如果从状态i可到达状态可到达状态j，即，即ij；而且从状态；而且从状态j也可到达状态也可到达状态i，即，即j i，则称，则称状态状态i与状态与状态j 相通相通，记为，记为ij。定理定理：可可达和相通都具有达和相通都具有传递性传递性。即若。

14、即若 ik，kj，则，则ij；若若ik，kj，则，则ij。证证 若若ik，kj，则由定义存在，则由定义存在m1和和n1，使，使pik(m)0,pkj(n)0,根据切普曼柯尔莫哥洛夫方程，根据切普曼柯尔莫哥洛夫方程，状态可达的传递性状态可达的传递性 状态相通的传递性状态相通的传递性状态到达时间定义状态到达时间定义：对于任意的对于任意的i,jE，从状态，从状态i出发，到达出发，到达状态状态j的步长。的步长。首达时间定义首达时间定义：对于任意的：对于任意的i,jE，m时刻从状态时刻从状态i出发，经出发，经过过n步首次到达状态步首次到达状态j的时间，的时间，称为从称为从状态状态i到达状态到达状态j的的

15、首达时间首达时间。即从即从状态状态i出发，到达状态出发，到达状态j的最小步长的最小步长n。首达时间是一随机首达时间是一随机变量，取值于集合变量，取值于集合1,2,。Tij=,ij Tii表示从状态表示从状态i出发首次回到状态出发首次回到状态i的时间。的时间。首达概率定义首达概率定义：对于任意的：对于任意的i,jE，m时刻从状态时刻从状态i出发，经出发，经过过n步首次到达状态步首次到达状态j的概率，的概率，称称为为首达概率首达概率。显然，。显然，fii(n)表示从状态表示从状态i出发经过出发经过n步首次回到状态步首次回到状态i的概率。的概率。迟早到达概率定义迟早到达概率定义：对于任意的：对于任意

16、的i,jE，m时刻从状态时刻从状态i出发，出发，迟早到达状态迟早到达状态j的概率定义为的概率定义为显然，显然，表示系统在从状态表示系统在从状态i出发，经过有限步转移后不可能到达状态出发，经过有限步转移后不可能到达状态j的概率。的概率。fii表示从状态表示从状态i出发迟早回到状态出发迟早回到状态i的概率的概率:平均转移时间定义平均转移时间定义：定义条件数学期望定义条件数学期望为从状态为从状态i出发，首次到达状态出发，首次到达状态j的的平均转移时间平均转移时间或或平均转移平均转移步数步数。当当i=j 时，时，称为从状态称为从状态i出发，首次出发，首次返回状态返回状态i的的平均返回时间平均返回时间或

17、或平均返回步数平均返回步数。二、基本性质二、基本性质 （1 1）对于任意的）对于任意的i,jE，（2）定理：）定理：对于任意的对于任意的i,jE及及n，该式表明，从状态该式表明，从状态i出发经过时间出发经过时间n后到达状态后到达状态j的概率的概率,等于所有从等于所有从状态状态i出发经过一段时间出发经过一段时间m(0，因，因 则至少存在一个正整数则至少存在一个正整数n1,使得使得fij(n)0。由上定理，。由上定理，因此，因此，ij。（4 4）定理：对于任意的）定理：对于任意的i,jE，三、常返态与非常返态三、常返态与非常返态定义定义：对于对于状态状态i E，若迟早返回的概率若迟早返回的概率fi

18、i=1=1，则称状态，则称状态i是是常返态常返态（返回态）；若（返回态）；若fii11，则称状态，则称状态i是是非非常返态常返态（滑过（滑过态、瞬时态）。态、瞬时态）。对于常返态对于常返态i E，若平均返回时间，若平均返回时间 i0,而当而当n不能被不能被d整除时，整除时，pii(n)=0,则称状态则称状态i是是周期的周期的，且周期为，且周期为d；如果不存在上述的；如果不存在上述的d时，则称状时，则称状态态i是是非周期的非周期的。（。（d=1）若状态若状态i为正常返态且为非周期的，则称状态为正常返态且为非周期的，则称状态i是是遍遍历状态历状态。（。（d=1）fii=1fii1 i+i=+五、状

19、态判别准则五、状态判别准则平均返回次数平均返回次数：当状态：当状态i是是常返态常返态时，则平均返回时，则平均返回i的次数为的次数为无穷；若状态无穷；若状态i是是非非常返态常返态时，则平均返回时，则平均返回i的次数应为有限的次数应为有限次。次。平均返回次数与转移概率的关系平均返回次数与转移概率的关系：若若X(0)=j,X(0)=j,经过经过n n步返回状态步返回状态j j，定义随机变量，定义随机变量 。那么，那么，就表示返回就表示返回j j的次数。平均返回次数为的次数。平均返回次数为 定理定理:状态状态i是是常返态常返态的充要条件是下列三个条件之一成的充要条件是下列三个条件之一成立立:(1)(1

20、)fii=1=1 (2)(2)(3)(3)定理定理:状态状态i是是非常返态非常返态的充要条件是下列三个条件之一的充要条件是下列三个条件之一成立成立:(1)(1)fii10,pii(n+1)0,则状态则状态i是是非周期的。非周期的。（2）如果）如果n步转移概率矩阵中相应某状态步转移概率矩阵中相应某状态i的那一列元素的那一列元素全不为零，则状态全不为零，则状态i是非周期的。是非周期的。六、状态之间的等价关系六、状态之间的等价关系定理定理:(1)(1)如果状态如果状态i是常返的是常返的,且且i可达可达j,则状态则状态j也是常返的也是常返的,并且并且fji=1;(2)(2)如果如果i和和j相通相通,则

21、则i和和j状态的常返性、非常返性、状态的常返性、非常返性、正常返性、零常返性、周期性是相同的。正常返性、零常返性、周期性是相同的。相通是一种等价关系相通是一种等价关系,用之对状态进行分解用之对状态进行分解.七、状态空间的分解七、状态空间的分解 闭集定义闭集定义 设设C是状态空间是状态空间E的一个子集，如果从的一个子集，如果从C内任何一个状态内任何一个状态i不能到达不能到达C外的任何状态，则称外的任何状态，则称C是一个是一个闭集闭集。即，对任意。即，对任意的的iC，jC，n1,都有都有pij(n)=0.显然，如果显然，如果C是闭集，对于任意是闭集，对于任意 iC，恒有，恒有 。整个状态空间整个状

22、态空间E是最大的闭集。是最大的闭集。如果单个状态如果单个状态i构成的集构成的集i是闭集，则称状态是闭集，则称状态i是是吸收态吸收态。任何一个吸收状态构成最小的单点闭集。任何一个吸收状态构成最小的单点闭集。不可约定义不可约定义 如果闭集如果闭集C中不再含有任何非空的子闭集，则称中不再含有任何非空的子闭集，则称C是是不不可约的可约的(不可分的不可分的)。如果闭集如果闭集C的状态是相通的，则的状态是相通的，则C是不可约的。是不可约的。当整个状态空间当整个状态空间E这个闭集不可约时，称此马氏链为这个闭集不可约时，称此马氏链为不不可约马氏链可约马氏链，否则称为，否则称为可约马氏链可约马氏链。性质性质 （

23、1）C是闭集是闭集 对于对于iC,jC,pij(n)=0,n1,（2）所有常返态构成一个闭集）所有常返态构成一个闭集。（3）齐次马氏链不可约）齐次马氏链不可约 任何两个状态均相通。任何两个状态均相通。（4）在不可约马氏链中，所有状态具有相同的状态类型。）在不可约马氏链中，所有状态具有相同的状态类型。（5）不可）不可约马氏链或没有非常返态或没有常返态。约马氏链或没有非常返态或没有常返态。状态空间分解状态空间分解 齐次马氏链的状态齐次马氏链的状态E可唯一地分解为有限多个或可列可唯一地分解为有限多个或可列多个互不相交的状态子集：多个互不相交的状态子集：其中，其中，N是非常返态集合，是非常返态集合，C

24、1,C2,是互不相交的是互不相交的不可约不可约常常返态返态闭集。各闭集中的闭集。各闭集中的状态具有相同的状态类型：或者均状态具有相同的状态类型：或者均为零常返态；或者均为正常返态。为零常返态；或者均为正常返态。对状态空间进行分类，先按常返态和非常返态分成两对状态空间进行分类，先按常返态和非常返态分成两类：类：C和和N。C是一是一闭集闭集.对对C再按相通关系分类，在再按相通关系分类，在C中任取一个状态中任取一个状态i1，凡与，凡与i1相通的状态组成一个集合，记为相通的状态组成一个集合，记为C1；若；若C-C1，再在，再在C-C1中中任取一个状态任取一个状态i2，凡与，凡与i2相通的状态组成一个集

25、合，相通的状态组成一个集合，记为记为C2；再看；再看C-C1 C2？，直到，直到C-C1 C2 =为止。为止。八、有限马尔可夫链的性质八、有限马尔可夫链的性质有限马尔可夫链：有限马尔可夫链：该链的状态空间是一个有限集合该链的状态空间是一个有限集合.有限马尔可夫链性质：有限马尔可夫链性质：（1 1）状态空间）状态空间E可分解为可分解为 其中，其中，N是非常返态集合，是非常返态集合，C1,C2,Ck是互不相交的常返态是互不相交的常返态闭集；闭集；（2）非常返态的集合一定不是闭集；）非常返态的集合一定不是闭集；（3）没有零常返态；）没有零常返态；（4）必有正常返态；）必有正常返态；证明证明:（2）非

26、常返态的集合一定不是闭集；）非常返态的集合一定不是闭集；假设非常返态的集合假设非常返态的集合N是一闭集，则对任意的是一闭集，则对任意的iN，有有 因为因为N是非常返态组成的集合，所以对任意的是非常返态组成的集合，所以对任意的jN，有有因此因此 矛盾。矛盾。（3）没有零常返态；）没有零常返态；如果有某个零常返态如果有某个零常返态i存在，且它属于一个基本闭集存在，且它属于一个基本闭集Ck，那么由闭集性质有，那么由闭集性质有，因为因为Ck是零常返态组成的集合，所以对任意的是零常返态组成的集合，所以对任意的jCk有有 因此，因此，矛盾。矛盾。（4）必有正常返态；）必有正常返态；根据转移概率性质，总有根

27、据转移概率性质，总有 由于由于E是有限集合，于是是有限集合，于是 这表明不可能对一切的这表明不可能对一切的jE都有都有 设有一状态设有一状态k使得使得 那么状态那么状态k就是正常返态。就是正常返态。九、极限特性九、极限特性(转移概率转移概率)1 1、非常返态与零常返态的情况、非常返态与零常返态的情况定理定理：若状态：若状态j是非常反态或零常反态，则对任意是非常反态或零常反态，则对任意iE，有，有 )2 2、正常返态的情况、正常返态的情况定理定理：（：（1）若）若j为正常返态，则对任意为正常返态，则对任意i E，有，有当状态当状态i可达可达j,当状态当状态i不可达不可达j,2 2、正常返态的情况

28、、正常返态的情况定理定理：（：（2）若）若j为正常返态，周期为为正常返态，周期为d，则对任意，则对任意i E，及，及0r d-1，有，有其中，其中，2 2、正常返态的情况、正常返态的情况定理定理：（：（3）若）若j为遍历状态，则对任意为遍历状态，则对任意i E，有，有 （4）若不可约马氏链的状态）若不可约马氏链的状态j是常返态，则对任意是常返态，则对任意i,jE，有，有2 2、正常返态的情况、正常返态的情况定理定理：（：（5）对于任何不可约的遍历马氏链，则对任意）对于任何不可约的遍历马氏链，则对任意i,jE，有，有推论推论：不可约非周期常返态齐次马氏链是遍历马氏链，即不可约非周期常返态齐次马氏

29、链是遍历马氏链，即这时，其极限分布、绝对分布、平稳分布一致：这时，其极限分布、绝对分布、平稳分布一致：十、例子十、例子 例例1 1 两个吸收壁的随机游离运动。两个吸收壁的随机游离运动。状态空间：状态空间：E=1,2,3,4 转移矩阵：转移矩阵：状态转移图状态转移图：pqi=1234pq12341qppq1例例1 1 两个吸收壁的随机游离运动。两个吸收壁的随机游离运动。状态状态1:1:p11=1,f11(1)=1,f11(n)=0(n1),状态状态1为正常返态，吸收态为正常返态，吸收态同理同理，状态状态4为正常返态，吸收态为正常返态，吸收态.pqi=1234pq例例1 1 两个吸收壁的随机游离运

30、动。两个吸收壁的随机游离运动。状态状态2:2:p22=0,p23=p,p32=q f22(1)=0,f22(2)=pq,f22(n)=0(n2),状态状态2为非正常返态为非正常返态 状态状态2与与3相通，相通，3也为非正常返态。也为非正常返态。pqi=1234pq例例1 1 两个吸收壁的随机游离运动。两个吸收壁的随机游离运动。状态空间分解：状态空间分解：E=1,2,3,4=2,3+1+4 pqi=1234pq170关键词：(宽)平稳过程 时间均值 时间相关函数 各态历经性 谱密度第七章 平稳随机过程1711 平稳随机过程的概念 在自然界中有一类随机过程，它的特征是产生随机现象的主要因素不随时间

31、而变。例如因为产生随机现象的主要因素不随时间而变，所以随机过程的统计特性不随时间推移而变平稳过程。172173174175 176177178179续续1801812 各态历经性 如何根据实验记录确定平稳过程的均值和自相关函数呢？按照数学期望和自相关函数的定义，需要时，一个平稳过程重复进行大量观察，获得一族样本函数用统计实验方法，均值和自相关函数近似地为：182 平稳过程的统计特性不随时间的推移而变化，根据这一特点，能否通过在一个很长时间内观察得到的一个样本曲线来估计平稳过程的数字特征呢？本节给出的各态历经定理证实，只要满足某些条件，那么均值和自相关函数实际上可以用一个样本函数在整个时间轴上的

32、平均值来代替。183184185186187188189190191192193194续续195续续196证毕！证毕！197198199200 见下页201202 各态历经定理的重要价值在于它从理论上给出了如下保证：一个平稳过程X(t)，若0t+，只要它满足各态历经性条件，便可以根据“以概率1成立”的含义，从一次试验所得到的样本函数x(t)来确定该过程的均值和自相关函数。2033 相关函数的性质 见下页204 见下页205 见下页206207证毕证毕柯西施瓦兹不等式208 应用：应用：2094 平稳过程的功率谱密度(一一)平稳过程的功率谱密度平稳过程的功率谱密度211213214215216217218(二二)谱密度的性质谱密度的性质2191 12 23 34 45 56 67 7自相关函数与谱密度对应表221即表中的第一栏。222223224225226227228229230231(三三)互谱密度及其性质互谱密度及其性质2322022/10/25课件结束!