应用随机过程第五章.ppt

《应用随机过程第五章.ppt》由会员分享，可在线阅读，更多相关《应用随机过程第五章.ppt（124页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、关于应用随机过程第关于应用随机过程第五章五章现在学习的是第1页，共124页定义定义5.15.1：现在学习的是第2页，共124页定义定义5.25.2：定义定义5.35.3：2.转移概率转移概率现在学习的是第3页，共124页注注：有定义有定义5.15.1知知现在学习的是第4页，共124页现在学习的是第5页，共124页转移矩阵的性质：转移矩阵的性质：定义定义5.45.4：现在学习的是第6页，共124页3.Markov链的例子链的例子例例5.15.1：现在学习的是第7页，共124页带有带有两两个吸收壁的随机游动：个吸收壁的随机游动：此时此时是一齐次马氏链是一齐次马氏链,状态空间为状态空间为为两个吸收状

2、态为两个吸收状态,它的一步转移它的一步转移概率为：概率为：例例5.25.2：现在学习的是第8页，共124页它的它的一步转移概率一步转移概率矩阵矩阵为：为：现在学习的是第9页，共124页例例5.35.3：现在学习的是第10页，共124页例例5.45.4：现在学习的是第11页，共124页例例5.55.5：现在学习的是第12页，共124页现在学习的是第13页，共124页4.n步转移概率步转移概率C-K方程方程定义定义5.5（n步转移概率）步转移概率）现在学习的是第14页，共124页定理定理5.1:(Chapman-Kolmogorov方程，简称方程，简称C-K方程方程)现在学习的是第15页，共124

3、页例例5.65.6：现在学习的是第16页，共124页例例5.75.7:(:(隐隐MarkovMarkov模型）模型）或者为正面或者为反面或者为正面或者为反面.在任何给定时刻只有一枚硬在任何给定时刻只有一枚硬呈现，但是有时硬币可能被替换而不改变其正反面呈现，但是有时硬币可能被替换而不改变其正反面.硬币硬币M和和W分别具有转移概率分别具有转移概率在任何给定时刻硬币被替换的概率为在任何给定时刻硬币被替换的概率为30%,替换完成时，替换完成时，硬币的硬币的状态不变状态不变.这一这一Markov链有链有4个状态，分别个状态，分别记为记为1:UM;2:DM;3:UW;4:DW.状态状态1、3表示正面表示正

4、面U,状态状态2、4表示反面表示反面D转移矩阵为转移矩阵为44的矩阵的矩阵.我们我们现在学习的是第17页，共124页可以计算转移概率可以计算转移概率,比如比如,首先首先(无转移无转移),而后而后(无转移无转移).因此转移概率为因此转移概率为其他转移概率类似可得，转移方式为其他转移概率类似可得，转移方式为转移概率矩阵为转移概率矩阵为现在学习的是第18页，共124页例例5.85.8:现在学习的是第19页，共124页带有带有两两个个反射反射壁的随机游动：壁的随机游动：此时此时是一齐次马氏链是一齐次马氏链,状态空间为状态空间为为两个为两个反射反射状态状态,求求它的一步转它的一步转移移概率概率。作业作业

5、1 1：现在学习的是第20页，共124页作业作业2:2:现在学习的是第21页，共124页5.3状态的分类及性质状态的分类及性质引入：引入：现在学习的是第22页，共124页定义定义5.7注：注：定理定理5.3：现在学习的是第23页，共124页注：注：定义定义5.8:例例1：现在学习的是第24页，共124页定义定义5.9(周期性周期性)规定：规定：例例2(书书5.14)注注1：注注2：现在学习的是第25页，共124页定理定理5.4：证明：板书。证明：板书。注注:当两个状态的周期相同时，有时其状态之间当两个状态的周期相同时，有时其状态之间有显著差异。有显著差异。如：如：现在学习的是第26页，共124

6、页定义定义5.10:(常返性常返性)现在学习的是第27页，共124页注注2：注注3：注注1：现在学习的是第28页，共124页例例3定义定义5.11现在学习的是第29页，共124页例例4现在学习的是第30页，共124页引理引理5.1（）现在学习的是第31页，共124页定理定理5.5现在学习的是第32页，共124页引理引理5.2定理定理5.6现在学习的是第33页，共124页作业作业1：现在学习的是第34页，共124页闭集及状态空间的分解定理闭集及状态空间的分解定理闭集：闭集：现在学习的是第35页，共124页相关性质：相关性质：任何两个状态均互通任何两个状态均互通所有常返态构成一个闭集所有常返态构成

7、一个闭集在不可约马氏链中在不可约马氏链中,所有状态具有相同的状态所有状态具有相同的状态类型类型.现在学习的是第36页，共124页状态空间分解定理：状态空间分解定理：定理定理5.7：现在学习的是第37页，共124页例例5现在学习的是第38页，共124页例例6：现在学习的是第39页，共124页作业作业1：现在学习的是第40页，共124页周期链分解定理：周期链分解定理：定理定理5.8：现在学习的是第41页，共124页5.4极限定理与不变分布极限定理与不变分布5.4.1极限极限定理定理现在学习的是第42页，共124页例例8（书例（书例5.17）(0-1传输系统）传输系统）现在学习的是第43页，共124

8、页现在学习的是第44页，共124页45推论推论设设i常返，则常返，则(1)i零常返零常返(2)i遍历遍历定理定理5.9设设i常返且有周期为常返且有周期为d，则则其中其中 i为为i的平均返回时间的平均返回时间.当当 i=时时现在学习的是第45页，共124页46证证:(1)i零常返零常返,i=,由定理由定理5.9知，知，对对d的非整数倍数的的非整数倍数的m，从而子序列从而子序列i是零常返的是零常返的现在学习的是第46页，共124页47(2)i是遍历的，是遍历的，d=1，i ，子序列子序列所以所以d=1，从而从而i为非周期的，为非周期的，i是遍历的是遍历的现在学习的是第47页，共124页定理定理5.

9、10结论：结论：现在学习的是第48页，共124页现在学习的是第49页，共124页(a)所有非常返状态组成的集合不可能是闭集所有非常返状态组成的集合不可能是闭集;(b)没有零常返状态没有零常返状态;(c)必有正常返状态必有正常返状态;(d)不可约有限马氏链只有正常返态不可约有限马氏链只有正常返态;(e)状态空间可以分解为状态空间可以分解为:其中：每个其中：每个均是由正常返状态均是由正常返状态组成的有限不可约闭集，组成的有限不可约闭集，是非常返态集。是非常返态集。现在学习的是第50页，共124页51注注1：有限状态的马氏链，不可能全是非常返状态，有限状态的马氏链，不可能全是非常返状态，也不可能含有

10、零常返状态，从而不可约的有限状态也不可能含有零常返状态，从而不可约的有限状态的马氏链必为正常返的。的马氏链必为正常返的。证证设设S=0,1,N，如如S全是非常返状态全是非常返状态，则对任意，则对任意 i,j I，知知故故矛盾。矛盾。如如S含有零常返状态含有零常返状态i，则则C=j:ij是有限不可约闭集是有限不可约闭集，由定理知，由定理知，C中均为零常返状态，知中均为零常返状态，知现在学习的是第51页，共124页52由引理知由引理知所以所以现在学习的是第52页，共124页53注注2:如马氏链有一个零常返状态，则必有无限多个如马氏链有一个零常返状态，则必有无限多个证证设设i为零常返状态为零常返状态

11、，则则C=j:ij是不可约闭集，是不可约闭集，C中均为零常返状态，故中均为零常返状态，故C不能是有限集。否则不能是有限集。否则零常返状态。零常返状态。现在学习的是第53页，共124页54称概率分布称概率分布 j,j I为马尔可夫链为马尔可夫链的平稳分布（不变分布），若的平稳分布（不变分布），若设设Xn,n 0是齐次马尔可夫链，状态空间为是齐次马尔可夫链，状态空间为I，转移转移概率为概率为pij5.4.2不变分布不变分布(平稳分布平稳分布)与极限分布与极限分布定义定义5.12一、一、不变分布不变分布(平稳分布平稳分布)现在学习的是第54页，共124页55注：注：(1)若初始概率分布若初始概率分布

12、pj,j I 是平稳分布，则是平稳分布，则(2)对平稳分布对平稳分布 j,j I，有有矩阵形式矩阵形式 =其中其中=(j)，()pj=pj(1)=pj(2)=pj(n)现在学习的是第55页，共124页56二、遍历性的概念与极限分布二、遍历性的概念与极限分布对于一般的两个状态的马氏链对于一般的两个状态的马氏链,由上节内容可知由上节内容可知,意义意义对固定的状态对固定的状态j,不管链在某一时刻的什么不管链在某一时刻的什么状状态态i出发出发,通过长时间的转移到达状态通过长时间的转移到达状态j 的概率都趋的概率都趋现在学习的是第56页，共124页定义定义5.13现在学习的是第57页，共124页58或定

13、义或定义则称此链具有则称此链具有遍历性遍历性.现在学习的是第58页，共124页定理定理5.13现在学习的是第59页，共124页60定理定理不可约非周期马尔可夫链是正常返的充要条件不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布，且此平稳分布就是极限分布是存在平稳分布，且此平稳分布就是极限分布推论推论2若不可约马尔可夫链的所有状态是非常返或若不可约马尔可夫链的所有状态是非常返或零常返，则不存在平稳分布零常返，则不存在平稳分布.推论推论1有限状态的不可约非周期马尔可夫链必存在有限状态的不可约非周期马尔可夫链必存在平稳分布。平稳分布。现在学习的是第60页，共124页61推论推论3若若 j,j

14、I是马尔可夫链的平稳分布，则是马尔可夫链的平稳分布，则所取的值与初始状态的分布无关。所取的值与初始状态的分布无关。证：由于：证：由于：故故现在学习的是第61页，共124页62例例1设马尔可夫链的转移概率矩阵为设马尔可夫链的转移概率矩阵为求马尔可夫链的平稳分布及各状态的求马尔可夫链的平稳分布及各状态的平均返回时间。平均返回时间。即，经过无穷次转移后处于即，经过无穷次转移后处于状态的概率与初始状态的概率与初始状态无关，与初始状态的分布也无关。状态无关，与初始状态的分布也无关。现在学习的是第62页，共124页63解解因为马尔可夫链是不可约非周期有限因为马尔可夫链是不可约非周期有限状态的，所以平稳分布

15、存在，设状态的，所以平稳分布存在，设则则=P，1+2+3=1.即即各状态的平均返回时间为各状态的平均返回时间为=(1,2,3)现在学习的是第63页，共124页64例例2设马尔可夫链转移概率矩阵为设马尔可夫链转移概率矩阵为求每一个不可约闭集的平稳分布。求每一个不可约闭集的平稳分布。现在学习的是第64页，共124页65解解从状态转移图看出，状态空间可分解为从状态转移图看出，状态空间可分解为两个不可约常返闭集两个不可约常返闭集C1=2,3,4和和C2=5,6,7，一个非常返集一个非常返集N=1。在常返集上求平稳分布：在常返集上求平稳分布：现在学习的是第65页，共124页66在在C1上，对应的转移概率

16、矩阵为上，对应的转移概率矩阵为C1上的平稳分布为：上的平稳分布为：0,0.4,0.2,0.4,0,0,0同理可求得同理可求得C2上的平稳分布为上的平稳分布为0,0,0,0,1/3,1/3,1/3现在学习的是第66页，共124页67三、三、(有限链有限链)遍历性的充分条件遍历性的充分条件现在学习的是第67页，共124页68说明说明2.极限分布转化为了求解方程组极限分布转化为了求解方程组.3.在定理的条件下马氏链的极限分布是平稳分布在定理的条件下马氏链的极限分布是平稳分布.现在学习的是第68页，共124页69 试说明带有两个反射壁的随机游动是遍历的试说明带有两个反射壁的随机游动是遍历的,并求其极限

17、分布并求其极限分布(平稳分布平稳分布).解解例例3四、应用举例四、应用举例现在学习的是第69页，共124页70无零元,链是遍历的现在学习的是第70页，共124页71代入最后一个方程代入最后一个方程(归一条件归一条件),得唯一解得唯一解现在学习的是第71页，共124页72所以极限分布为所以极限分布为这个这个分布表明分布表明经过长时间游动之后经过长时间游动之后,醉汉醉汉Q 位于点位于点2(或或3或或4)的概率约为的概率约为3/11,位于点位于点1(或或5)的概率约为的概率约为1/11.现在学习的是第72页，共124页73设一马氏链的一步转移概率阵为设一马氏链的一步转移概率阵为试讨论它的遍历性试讨论

18、它的遍历性.解解例例4现在学习的是第73页，共124页74表明表明此链不具遍历性此链不具遍历性.现在学习的是第74页，共124页75五、小结五、小结 遍历性的概念遍历性的概念则称此链具有遍历性则称此链具有遍历性.现在学习的是第75页，共124页76(有限链有限链)遍历性的充分条件遍历性的充分条件现在学习的是第76页，共124页作业作业1 1：作业作业2 2：书习题：书习题5.75.7现在学习的是第77页，共124页78第七节第七节连续时间马尔可夫链连续时间马尔可夫链定义定义7.1设设随机过程随机过程X(t)，t 0，状态空间，状态空间及非负及非负整数整数i1,i2,in+1，有有PX(tn+1

19、)=in+1|X(t1)=i1,X(t2)=i2,X(tn)=in则称则称X(t)，t 0为为连续时间马尔可夫链连续时间马尔可夫链。I=0,1,2,，若对任意若对任意0 t1t2tn+1=PX(tn+1)=in+1|X(tn)=in，现在学习的是第78页，共124页79转移概率转移概率：在：在s时刻处于状态时刻处于状态i，经过时间，经过时间t后后转移到状态转移到状态j的的概率概率pij(s,t)=PX(s+t)=j|X(s)=i定义定义7.2齐次齐次转移概率转移概率(与起始时刻与起始时刻s 无关，只无关，只与时间间隔与时间间隔t 有关有关)pij(s,t)=pij(t)此时此时有转移概率矩阵有

20、转移概率矩阵P(t)=(pij(t)，i,j I，t 0.现在学习的是第79页，共124页80记记 i 为过程在状态转移之前停留在状态为过程在状态转移之前停留在状态i的时间，的时间，则对则对s,t 0有有(1)(2)i 服从指数分布服从指数分布证证：(1)事实上事实上ss+t0 iiiiti现在学习的是第80页，共124页81现在学习的是第81页，共124页82(2)设设 i的分布函数为的分布函数为F(x),(x 0),则生存函数则生存函数由此可推出由此可推出G(x)为指数函数，为指数函数，G(x)=e-x,则则F(x)=1-G(x)=1-e-x为指数分布函数。为指数分布函数。G(x)=1-F

21、(x)现在学习的是第82页，共124页83过程在状态转移之前处于状态过程在状态转移之前处于状态i的时间的时间 i服从指数分布服从指数分布(1)当当 i=时，时，状态状态i的停留时间的停留时间 i 超过超过x的概率为的概率为0，则，则称状态称状态i为瞬时状态；为瞬时状态；(2)当当 i=0时，时，状态状态i的停留时间的停留时间 i 超过超过x的概率为的概率为1，则，则称状态称状态i为吸收状态。为吸收状态。现在学习的是第83页，共124页84定理定理7.1齐次马尔可夫过程的转移概率具齐次马尔可夫过程的转移概率具有下列性质：有下列性质：(1)pij(t)0;(2)(3)证证由概率的定义，由概率的定义

22、，(1)(2)显然成立，下证显然成立，下证(3)现在学习的是第84页，共124页85现在学习的是第85页，共124页86注：注：此为转移概率的正则性条件。此为转移概率的正则性条件。现在学习的是第86页，共124页87例例1证明泊松过程证明泊松过程X(t),t 0为连续时为连续时间齐次马尔可夫链。间齐次马尔可夫链。证证先证先证泊松过程泊松过程的的马尔可夫性。马尔可夫性。泊松过程是独立增量过程，且泊松过程是独立增量过程，且X(0)=0，对对任意任意0t1t2tntn+1有有现在学习的是第87页，共124页88另一方面另一方面即泊松过程是一个连续时间马尔可夫链即泊松过程是一个连续时间马尔可夫链现在学

23、习的是第88页，共124页89 再证齐次性。再证齐次性。当当j i时，时，当当jk,a1(n)=0，a2(n)=0,a3(n)=1,即从状态即从状态3不会转移到其它状态。不会转移到其它状态。状态状态与与状态转移状态转移001 50 0.12930.0326 0.8381 现在学习的是第107页，共124页马氏链的基本方程马氏链的基本方程基本方程基本方程现在学习的是第108页，共124页马氏链的两个重要类型马氏链的两个重要类型1.正则链正则链从任一状态出发经有限次转移能以从任一状态出发经有限次转移能以正概率到达另外任一状态（如例正概率到达另外任一状态（如例1）。）。w 稳态概率稳态概率现在学习的

24、是第109页，共124页马氏链的两个重要类型马氏链的两个重要类型2.吸收链吸收链存在吸收状态（一旦到达就不会离开的状存在吸收状态（一旦到达就不会离开的状态态i,pii=1）,且且从任一非吸收状态出发经有限次转移能以从任一非吸收状态出发经有限次转移能以正概率到达吸收状态（如例正概率到达吸收状态（如例2）。）。现在学习的是第110页，共124页6.3钢琴销售的存贮策略钢琴销售的存贮策略 钢琴销售量很小，商店的库存量不大以免积压资金钢琴销售量很小，商店的库存量不大以免积压资金一家商店根据经验估计，平均每周的钢琴需求为一家商店根据经验估计，平均每周的钢琴需求为1架架存贮策略存贮策略：每周末检查库存量，

25、仅当库存量为零时，：每周末检查库存量，仅当库存量为零时，才订购才订购3架供下周销售；否则，不订购。架供下周销售；否则，不订购。估计在这种策略下失去销售机会的可能性有多大，以估计在这种策略下失去销售机会的可能性有多大，以及每周的平均销售量是多少。及每周的平均销售量是多少。背景与问题背景与问题现在学习的是第111页，共124页问题分析问题分析 顾客的到来相互独立，需求量近似服从泊松分布，其参数由需顾客的到来相互独立，需求量近似服从泊松分布，其参数由需求均值为每周求均值为每周1架确定，由此计算需求概率架确定，由此计算需求概率存贮策略是周末库存量为零时订购存贮策略是周末库存量为零时订购3架架周末的库存

26、量可周末的库存量可能是能是0,1,2,3，周初的库存量可能是，周初的库存量可能是1,2,3。用马氏链描述不同需求导致的周初库存状态的变化。用马氏链描述不同需求导致的周初库存状态的变化。动态过程中每周销售量不同，失去销售机会（需求超过库存）动态过程中每周销售量不同，失去销售机会（需求超过库存）的概率不同。的概率不同。可按稳态情况（时间充分长以后）计算失去销售机会的概率可按稳态情况（时间充分长以后）计算失去销售机会的概率和每周的平均销售量。和每周的平均销售量。现在学习的是第112页，共124页模型假设模型假设 钢琴每周需求量服从泊松分布，均值为每周钢琴每周需求量服从泊松分布，均值为每周1架架存贮策

27、略存贮策略：当周末库存量为零时，订购：当周末库存量为零时，订购3架，周初到货；架，周初到货；否则，不订购。否则，不订购。以每周初的库存量作为状态变量，状态转移具有无以每周初的库存量作为状态变量，状态转移具有无后效性。后效性。在稳态情况下计算该存贮策略失去销售机会的概率，在稳态情况下计算该存贮策略失去销售机会的概率，和每周的平均销售量。和每周的平均销售量。现在学习的是第113页，共124页模型建立模型建立 Dn第第n周需求量，均值为周需求量，均值为1的泊松分布的泊松分布Sn第第n周初库存量周初库存量(状态变量状态变量)状态转状态转移规律移规律Dn 01233P 0.3680.3680.1840.

28、0610.019状态转移阵状态转移阵现在学习的是第114页，共124页模型建立模型建立 状态概率状态概率马氏链的基本方程马氏链的基本方程正则链正则链稳态概率分布稳态概率分布w 满足满足wP=w已知初始状态，可预测第已知初始状态，可预测第n周周初库存量初库存量Sn=i 的概率的概率n,状态概率状态概率现在学习的是第115页，共124页第第n周失去销售机会的概率周失去销售机会的概率n充分大时充分大时模型求解模型求解 从长期看，失去销售机会的可能性大约从长期看，失去销售机会的可能性大约10%。1.估计在这种策略下失去销售机会的可能性估计在这种策略下失去销售机会的可能性D 01233P 0.3680.

29、3680.1840.0610.019现在学习的是第116页，共124页模型求解模型求解 第第n周平周平均售量均售量从长期看，每周的平均销售量为从长期看，每周的平均销售量为0.857(架架)n充分大时充分大时需求不超过存量需求不超过存量,销售需求销售需求需求超过存量需求超过存量,销售存量销售存量思考：为什么这个数值略小于每周平均需求量思考：为什么这个数值略小于每周平均需求量1(架架)?2.估计这种策略下每周的平均销售量估计这种策略下每周的平均销售量现在学习的是第117页，共124页敏感性分析敏感性分析 当平均需求在每周当平均需求在每周1(架架)附近波动附近波动时，最终结果有多大变化。时，最终结果

30、有多大变化。设设Dn服从均值为服从均值为 的的泊松分布泊松分布状态转移阵状态转移阵 0.80.91.01.11.2P0.0730.0890.1050.1220.139第第n周周(n充分大充分大)失去销售机会的概率失去销售机会的概率当平均需求增长（或减少）当平均需求增长（或减少）10%时，失去销售机会的时，失去销售机会的概率将增长（或减少）约概率将增长（或减少）约12%。现在学习的是第118页，共124页期末复习要点：期末复习要点：1.上极限、下极限的定义及含义，理解事件序列的极上极限、下极限的定义及含义，理解事件序列的极限的表达方式。限的表达方式。2.熟悉常见的分布函数。熟悉常见的分布函数。3

31、.掌握矩母函数与特征函数的定义和性质，会求一掌握矩母函数与特征函数的定义和性质，会求一些函数的矩母函数和特征函数。些函数的矩母函数和特征函数。4.条件概率与条件期望的求法及性质，条件概率与条件期望的求法及性质，如：如：EX=EE(X|Y),E(X|X)=X第一章第一章现在学习的是第119页，共124页期末复习要点：期末复习要点：1.理解会求随机过程的均值函数、方差函数、理解会求随机过程的均值函数、方差函数、(自自)协方差函数、协方差函数、(自自)相关函数、相关函数、互协方差函数、互协方差函数、互相关函数。互相关函数。2.理解理解(严、宽严、宽)平稳过程的定义，会判断随机平稳过程的定义，会判断随

32、机过程是否为平稳过程。过程是否为平稳过程。3.会用定义判定平稳过程是否有遍历性会用定义判定平稳过程是否有遍历性(均值均值遍历性及协方差遍历性遍历性及协方差遍历性)。第二章第二章现在学习的是第120页，共124页期末复习要点：期末复习要点：1.Poisson过程的定义，理解其含义。过程的定义，理解其含义。2.会求会求Poisson过程的一些相关的概率。过程的一些相关的概率。3.理解理解Poisson过程时间间隔序列过程时间间隔序列Xn,第第n次事件次事件发生的时刻发生的时刻Tn相关定理。相关定理。4.非齐次非齐次Poisson过程与齐次过程与齐次Poisson的关系定理，的关系定理，非齐次非齐次

33、Poisson的相关概率计算。的相关概率计算。第三章第三章现在学习的是第121页，共124页期末复习要点：期末复习要点：1.理解理解Markov链的定义，理解其数学含义，会求链的定义，理解其数学含义，会求相应的概率。相应的概率。2.会求一步转移概率及一步转移概率矩阵。会求一步转移概率及一步转移概率矩阵。3.会求会求n步转移概率，会证明步转移概率，会证明C-K方程方程(离散时间离散时间及连续时间及连续时间)。4.会求状态的周期，会判定状态的常返性会求状态的周期，会判定状态的常返性(正常反、正常反、零常返和非常返零常返和非常返)(方法方法1，方法，方法2)。第五章第五章现在学习的是第122页，共124页法法2：法法1：现在学习的是第123页，共124页感谢大家观看现在学习的是第124页，共124页