M11n第十一章马氏链模型.ppt

《M11n第十一章马氏链模型.ppt》由会员分享，可在线阅读，更多相关《M11n第十一章马氏链模型.ppt（46页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第十一章第十一章 马氏链模型马氏链模型11.1 健康与疾病健康与疾病11.2 钢琴销售的存贮策略钢琴销售的存贮策略11.3 基因遗传基因遗传11.4 等级结构等级结构11.5 资金流通资金流通马氏链模型马氏链模型 系统在每个时期所处的状态是随机的系统在每个时期所处的状态是随机的.从一时期到下时期的状态按一定概率转移从一时期到下时期的状态按一定概率转移.下时期状态只取决于本时期状态和转移概率下时期状态只取决于本时期状态和转移概率.已知现在，将来与过去无关（无后效性）已知现在，将来与过去无关（无后效性）描述一类重要的描述一类重要的随机随机动态动态系统系统(过程过程)的模型的模型.马氏链马氏链(Ma

2、rkov Chain)时间、状态均为离散的随机转移过程时间、状态均为离散的随机转移过程通过有实际背景的例子介绍马氏链的基本概念和性质通过有实际背景的例子介绍马氏链的基本概念和性质.例例1.人的健康状况分为健康和疾病两种状态，设对特人的健康状况分为健康和疾病两种状态，设对特定年龄段的人，今年健康、明年保持健康状态的概率定年龄段的人，今年健康、明年保持健康状态的概率为为0.8,而今年患病、明年转为健康状态的概率为而今年患病、明年转为健康状态的概率为0.7.11.1 健康与疾病健康与疾病 人的健康状态随着时间的推移会随机地发生转变人的健康状态随着时间的推移会随机地发生转变.保险公司要对投保人未来的健

3、康状态作出估计保险公司要对投保人未来的健康状态作出估计,以制以制订保险金和理赔金的数额订保险金和理赔金的数额.若某人投保时健康若某人投保时健康,问问10年后他仍处于健康状态的概率年后他仍处于健康状态的概率.Xn+1只取决于只取决于Xn和和pij,与与Xn-1,无无关关状态状态与与状态转移状态转移状态转移具状态转移具有无后效性有无后效性 120.80.20.30.7 n 0a2(n)0 a1(n)1设投保设投保时健康时健康给定给定a(0),预测预测 a(n),n=1,2设投保设投保时疾病时疾病a2(n)1 a1(n)0 n时状态概率趋于稳定值时状态概率趋于稳定值,稳定值与初始状态无关稳定值与初始

4、状态无关.3 0.778 0.222 7/9 2/9 0.7 0.77 0.777 0.3 0.33 0.333 7/9 2/9 状态状态与与状态转移状态转移120.80.20.30.710.80.220.780.221230.10.0210.80.250.180.65例例2.健康和疾病状态同上，健康和疾病状态同上，Xn=1 健康健康,Xn=2 疾病疾病p11=0.8,p12=0.18,p13=0.02 死亡为第死亡为第3种状态，记种状态，记Xn=3健康与疾病健康与疾病 p21=0.65,p22=0.25,p23=0.1 p31=0,p32=0,p33=1 n 0 1 2 3 a2(n)0 0

5、.18 0.189 0.1835 a3(n)0 0.02 0.054 0.0880 a1(n)1 0.8 0.757 0.7285 设投保时处于健康状态，预测设投保时处于健康状态，预测 a(n),n=1,2 不论初始状态如何，最终都要转到状态不论初始状态如何，最终都要转到状态3；一旦一旦a1(k)=a2(k)=0,a3(k)=1,则对于则对于nk,a1(n)=0，a2(n)=0,a3(n)=1,即从状态即从状态3不会转移到其它状不会转移到其它状态态.状态状态与与状态转移状态转移001 50 0.1293 0.0326 0.8381 马氏链的基本方程马氏链的基本方程基本方程基本方程马氏链的两个重

6、要类型马氏链的两个重要类型 1.正则链正则链 从任一状态出发经有限次转移从任一状态出发经有限次转移能以正概率到达另外任一状态能以正概率到达另外任一状态(如例如例1).w 稳态概率稳态概率马氏链的两个重要类型马氏链的两个重要类型 2.吸收链吸收链 存在吸收状态（一旦到达就不会离存在吸收状态（一旦到达就不会离开的状态开的状态i,pii=1）,且从任一非吸收状态出发经且从任一非吸收状态出发经有限次转移能以正概率到达吸收状态有限次转移能以正概率到达吸收状态(如例如例2).有有r个吸收状态的吸收链个吸收状态的吸收链的转移概率阵标准形式的转移概率阵标准形式R有非有非零元素零元素yi 从第从第 i 个非吸收

7、状态出发，被某个吸收状态个非吸收状态出发，被某个吸收状态吸收前的平均转移次数吸收前的平均转移次数.11.2 钢琴销售的存贮策略钢琴销售的存贮策略 钢琴销售量很小，商店的库存量不大以免积压资金钢琴销售量很小，商店的库存量不大以免积压资金.一家商店根据经验估计，平均每周的钢琴需求为一家商店根据经验估计，平均每周的钢琴需求为1架架.存贮策略存贮策略：每周末检查库存量，仅当库存量为零时，：每周末检查库存量，仅当库存量为零时，才订购才订购3架供下周销售；否则，不订购架供下周销售；否则，不订购.估计在这种策略下失去销售机会的可能性有多大，估计在这种策略下失去销售机会的可能性有多大，以及每周的平均销售量是多

8、少以及每周的平均销售量是多少.背景与问题背景与问题问题分析问题分析 顾客的到来相互独立，需求量近似服从波松分布，其顾客的到来相互独立，需求量近似服从波松分布，其参数由需求均值为每周参数由需求均值为每周1架确定，由此计算需求概率架确定，由此计算需求概率.存贮策略是周末库存量为零时订购存贮策略是周末库存量为零时订购3架架 周末的库存周末的库存量可能是量可能是0,1,2,3，周初的库存量可能是，周初的库存量可能是1,2,3.用马氏链描述不同需求导致的周初库存状态的变化用马氏链描述不同需求导致的周初库存状态的变化.动态过程中每周销售量不同，失去销售机会（需求超动态过程中每周销售量不同，失去销售机会（需

9、求超过库存）的概率不同过库存）的概率不同.可按稳态情况（时间充分长以后）计算失去销售机会可按稳态情况（时间充分长以后）计算失去销售机会的概率和每周的平均销售量的概率和每周的平均销售量.模型假设模型假设 钢琴每周需求量服从波松分布，平均每周钢琴每周需求量服从波松分布，平均每周1架架.存贮策略存贮策略：当周末库存量为零时，订购：当周末库存量为零时，订购3架，周初架，周初到货；否则，不订购到货；否则，不订购.以每周初的库存量作为状态变量，状态转移具有以每周初的库存量作为状态变量，状态转移具有无后效性无后效性.在稳态情况下计算失去销售机会的概率和每周的在稳态情况下计算失去销售机会的概率和每周的平均销售

10、量平均销售量,作为该存贮策略的评价指标作为该存贮策略的评价指标.模型建立模型建立 Dn第第n周需求量，均值为周需求量，均值为1的波松分布的波松分布 Sn第第n周初库存量周初库存量(状态变量状态变量)状态转状态转移规律移规律 Dn 0 1 2 3 3P 0.368 0.368 0.184 0.061 0.019状态转移阵状态转移阵 模型建立模型建立 状态概率状态概率 马氏链的基本方程马氏链的基本方程正则链正则链 稳态概率分布稳态概率分布 w 满足满足 wP=w已知初始状态，可预测第已知初始状态，可预测第n周初库存量周初库存量Sn=i 的概率的概率n,状态概率状态概率 第第n周失去销售机会的概率周

11、失去销售机会的概率 n充分大时充分大时 模型求解模型求解 从长期看，失去销售机会的可能性大约从长期看，失去销售机会的可能性大约 10%。1.估计失去销售机会的可能性估计失去销售机会的可能性D 0 1 2 3 3P 0.368 0.368 0.184 0.061 0.019存贮策略的评价指标存贮策略的评价指标模型求解模型求解 第第n周平周平均售量均售量从长期看，每周的平均销售量为从长期看，每周的平均销售量为 0.857(架架)n充分大时充分大时 需求不超过存量需求不超过存量,需求被售需求被售需求超过存量需求超过存量,存量被售存量被售思考：为什么每周的平均销售量略小于平均需求量思考：为什么每周的平

12、均销售量略小于平均需求量?2.估计每周的平均销售量估计每周的平均销售量存贮策略的评价指标存贮策略的评价指标每周平均需求量每周平均需求量1架架敏感性分析敏感性分析 当平均需求在每周当平均需求在每周1(架架)附近波附近波动时，最终结果有多大变化。动时，最终结果有多大变化。设设Dn服从均值服从均值 的波松分布的波松分布 状态转移阵状态转移阵 0.80.91.01.11.2P0.0730.0890.1050.1220.139第第n周周(n充分大充分大)失去销售机会的概率失去销售机会的概率 当平均需求当平均需求(=1.0)增长增长(或减少或减少)10%时，时，失去销售机会的概率失去销售机会的概率P将增长

13、将增长(或减少或减少)约约15%。钢琴销售的存贮策略钢琴销售的存贮策略 存贮策略存贮策略(周末库存为周末库存为0则订购则订购3架架,否则不订购否则不订购)已定已定,计算计算两个指标两个指标(失去销售的概率和每周平均销售量失去销售的概率和每周平均销售量).给出其它存贮策略给出其它存贮策略(如周末库存为如周末库存为0或或1则订购使下周则订购使下周初库存为初库存为3架架,否则不订购否则不订购),讨论这两个指标讨论这两个指标(习题习题1).动态随机存贮策略动态随机存贮策略是马氏链的典型应用是马氏链的典型应用.关键是在无后效性的前提下恰当地定义系统的关键是在无后效性的前提下恰当地定义系统的状态状态变量变

14、量(本例是每周初的库存量本例是每周初的库存量).11.3 基因遗传基因遗传背景背景 生物的外部表征由内部相应的基因决定生物的外部表征由内部相应的基因决定.基因分基因分优势基因优势基因d 和和劣势基因劣势基因r 两种两种.每种外部表征由两个基因决定每种外部表征由两个基因决定,每个基因每个基因可以是可以是d,r 中的任一个中的任一个.形成形成3种基因类型：种基因类型：dd 优种优种D,dr 混种混种H,rr 劣种劣种R.基因类型为优种和混种基因类型为优种和混种,外部表征呈外部表征呈优势优势；基因类型为劣种基因类型为劣种,外部表征呈外部表征呈劣势劣势.生物繁殖时后代随机地（等概率地）继承父、生物繁殖

15、时后代随机地（等概率地）继承父、母的各一个基因，形成它的两个基因母的各一个基因，形成它的两个基因.父母父母的基因类型决定后代基因类型的概率的基因类型决定后代基因类型的概率.完全完全优势优势基因基因遗传遗传父母基因类型决定后代各种基因类型的概率父母基因类型决定后代各种基因类型的概率父母基因类型组合父母基因类型组合后代各种后代各种基因类型基因类型 的概率的概率DDRRDHDRHHHRDRH1000011/21/200101/41/21/401/21/23种基因类型：种基因类型：dd优种优种D,dr混种混种H,rr劣种劣种R完全优势基因遗传完全优势基因遗传P(D DH)=P(dd dd,dr)=P(

16、d dd)P(d dr)P(R HH)=P(rr dr,dr)=P(r dr)P(r dr)=1 1/2=1/2=1/2 1/2=1/4随机繁殖随机繁殖 设群体中雄性、雌性的比例相等，设群体中雄性、雌性的比例相等，基因类型的分布相同（记作基因类型的分布相同（记作D:H:R）每一雄性个体以每一雄性个体以D:H:R的概率与一雌性个体的概率与一雌性个体交配，其后代随机地继承它们的各一个基因交配，其后代随机地继承它们的各一个基因 设初始一代基因类型比例设初始一代基因类型比例D:H:R=a:2b:c （a+2b+c=1),记记p=a+b,q=b+c,则则群体中优势群体中优势基因和劣势基因比例基因和劣势基

17、因比例 d:r=p:q(p+q=1)假设假设建模建模状态状态Xn=1,2,3 第第n代的一个体属于代的一个体属于D,H,R状态概率状态概率 ai(n)第第n代的一个体属于状态代的一个体属于状态i(=1,2,3)的概率的概率.讨论基因类型的演变情况讨论基因类型的演变情况基因比例基因比例 d:r=p:q转移概率矩阵转移概率矩阵状态转移概率状态转移概率随机繁殖随机繁殖马氏链模型马氏链模型自然界中通常自然界中通常p=q=1/2稳态分布稳态分布D:H:R=1/4:1/2:1/4基因类型为基因类型为D和和H,优势表征优势表征绿色，绿色，基因类型为基因类型为R,劣势表征劣势表征黄色。黄色。解释解释“豆科植物

18、的茎，绿色豆科植物的茎，绿色:黄色黄色=3:1”(D+H):R=3:1随机繁殖随机繁殖近亲近亲繁殖繁殖在一对父母的大量后代中在一对父母的大量后代中,雄雌随机配对繁殖，雄雌随机配对繁殖，讨论一系列后代的基因类型的演变过程。讨论一系列后代的基因类型的演变过程。状态定义为配对的基因类型组合状态定义为配对的基因类型组合Xn=1,2,3,4,5,6配对基因组合为配对基因组合为DD,RR,DH,DR,HH,HR状态转移概率状态转移概率马氏链模型马氏链模型I0RQ状态状态1(DD),2(RR)是吸收态，是吸收态，马氏链是吸收链马氏链是吸收链不论初不论初始如何，经若干代近亲繁殖，始如何，经若干代近亲繁殖，将全

19、变为优种或劣种将全变为优种或劣种.计算从任一非吸收态计算从任一非吸收态出发，平均经过几代出发，平均经过几代被吸收态吸收。被吸收态吸收。纯种纯种(优种和劣种优种和劣种)的的某些品质不如混种，某些品质不如混种，近亲繁殖下大约近亲繁殖下大约56代就需重新选种代就需重新选种.近亲繁殖近亲繁殖11.4 等级结构等级结构社会系统中需要适当且稳定的等级结构社会系统中需要适当且稳定的等级结构.描述等级结构的演变过程，预测未来的结构描述等级结构的演变过程，预测未来的结构.确定为达到某个理想结构应采取的策略确定为达到某个理想结构应采取的策略.引起等级结构变化的因素：引起等级结构变化的因素：系统内部等级间的转移：提

20、升和降级系统内部等级间的转移：提升和降级.系统内外的交流：调入和退出系统内外的交流：调入和退出(退休、调离等退休、调离等).用马氏链模型描述确定性的转移问题用马氏链模型描述确定性的转移问题(将转移将转移比例视为概率比例视为概率)基本模型基本模型a(t)等级结构等级结构等级等级 i=1,2,k（如助教、讲师、教授）（如助教、讲师、教授）数量分布数量分布 n(t)=(n1(t),n2(t),nk(t)ni(t)t 年属于等级年属于等级i 的人数，的人数，t=0,1,比例分布比例分布 a(t)=(a1(t),a2(t),ak(t)转移矩阵转移矩阵 Q=pijk k,pij 是每年从是每年从i 转至转

21、至j 的比例的比例基本模型基本模型基本模型基本模型 基本模型基本模型 基本模型基本模型等级结构等级结构a(t)状态概率状态概率P转移概率矩阵转移概率矩阵用调入比例进行稳定控制用调入比例进行稳定控制问题：给定问题：给定Q,哪些等级结构可哪些等级结构可以用合适的调入比例保持不变以用合适的调入比例保持不变a为稳定结构为稳定结构用调入比例进行稳定控制用调入比例进行稳定控制求稳定结构求稳定结构 a=(a1,a2,a3)(a1+a2+a3=1)(0.5,0.5,0)a2=a1a3=1.5a2(0,0.4,0.6)a*稳定域稳定域BB(0,0,1)(0,1,0)(1,0,0)A可行域可行域A例例 大学教师大

22、学教师(助教、讲师、教授助教、讲师、教授)等级等级 i=1,2,3，已知每年转移比，已知每年转移比例例用调入比例进行稳定控制用调入比例进行稳定控制研究稳定域研究稳定域B的结构的结构寻求寻求a aQ 的另一种形式的另一种形式用调入比例进行稳定控制用调入比例进行稳定控制稳定域稳定域B是是k维空间中以维空间中以 si 为顶点的凸多面体为顶点的凸多面体研究稳定域研究稳定域B的结构的结构用调入比例进行稳定控制用调入比例进行稳定控制例例(0,1,0)(1,0,0)(0,0,1)0.2860.286S1S2S3B稳定域稳定域B是以是以si为顶点的三角形为顶点的三角形用调入比例进行用调入比例进行动态动态调节调

23、节问题：给定问题：给定Q和初始结构和初始结构 a(0),求一系列的调入求一系列的调入比例比例 r,使尽快达到或接近理想结构使尽快达到或接近理想结构逐步法：对于逐步法：对于Q和和 a(0),求求 r使使 a(1)尽量接近尽量接近 a*,再将再将 a(1)作为新的作为新的a(0),继续下去。继续下去。模型模型例例(0,1,0)(1,0,0)(0,0,1)a(0)0.2860.286a*a(1)用调入比例进行用调入比例进行动态动态调节调节求求r 使使a(1)尽量接近尽量接近a*7423560.6390.36100.1650.1650.6700.7470.25300.2070.2070.5860.82

24、70.17300.2350.2350.5310.8830.11700.2530.2530.4950.9220.07800.2640.2640.4720.9490.05100.2720.2720.457r(t),a(t)的计算结果的计算结果a(7)已接近已接近a*观察观察r(t)的特点的特点用调入比例进行用调入比例进行动态动态调节调节10.50.500.10.10.8r(t)a(t)t等等 级级 结结 构构 等级结构的演变、预测和控制在社会系统中有等级结构的演变、预测和控制在社会系统中有广泛应用广泛应用.讨论总人数和内部转移比例不变情况下讨论总人数和内部转移比例不变情况下,用调入用调入比例控制级

25、结构的变化比例控制级结构的变化.建立等级结构演变过程的基本方程建立等级结构演变过程的基本方程,预测未来结构预测未来结构.讨论各种推广情况：总人数按照一定比例增长；讨论各种推广情况：总人数按照一定比例增长；调入比例有界；调入比例固定而用内部转移比例调入比例有界；调入比例固定而用内部转移比例控制级结构的变化控制级结构的变化.11.5 资金流通资金流通背背景景 各地区之间资金每年按一定比例相互流通各地区之间资金每年按一定比例相互流通.各地区每年有资金流出并不再回来各地区每年有资金流出并不再回来.银银行行计计划划每每年年向向各各地地区区投投放放或或收收回回一一定定资金资金,使各地区的资金分布趋向稳定使

26、各地区的资金分布趋向稳定.建立模型描述各地区资金分布的变化规律建立模型描述各地区资金分布的变化规律.讨论什么情况下分布趋向稳定讨论什么情况下分布趋向稳定.确定银行应投放或收回多少资金确定银行应投放或收回多少资金.问问题题问题分析问题分析资金流通资金流通与与“等级结构等级结构”进行类进行类比比等级结构等级结构 地区间的资金流通地区间的资金流通 等级间的成员转移等级间的成员转移 资金流出地区资金流出地区 成员退出系统成员退出系统 银行向地区投放资金银行向地区投放资金 从外部向系统调入成员从外部向系统调入成员银行投放资金可为银行投放资金可为负值（收回资金）负值（收回资金）调入成员数量不能为负值调入成

27、员数量不能为负值各地区资金总和每各地区资金总和每年变化年变化系统总人数每年不变系统总人数每年不变相相似似点点不不同同点点基本模型基本模型资金分布资金分布 c(t)=(c1(t),c2(t),ck(t)，ci(t)第第t 年地区年地区i 的资金，的资金，t=0,1,2,，i=1,2,k资金投放资金投放 d=(d1,dk),di每年向地区每年向地区i投放的资投放的资金（负值表示收回资金）金（负值表示收回资金）转移矩阵转移矩阵 Q=pijk k,pij 每年资金从地区每年资金从地区i 转至转至j 的比例的比例基本模型基本模型k个地区的资金看作系统的个地区的资金看作系统的k个状态个状态,并增加状态并增

28、加状态0表示表示资金退出系统（吸收状态）资金退出系统（吸收状态）.资金在资金在k+1个状态间的转移矩阵个状态间的转移矩阵用马氏链模型描述用马氏链模型描述若存在稳定分布若存在稳定分布c()=c*需检查对任意需检查对任意t,i,c(t)0.计算计算例例 3个地区资金转移比例矩阵为个地区资金转移比例矩阵为要达到稳定分布要达到稳定分布c*=(12,6,3),求银行每年向各地区求银行每年向各地区投放的资金投放的资金d.c(0)936c(1)1072c(2)11.66675.66672.3333c(10)11.83595.70972.7432若资金的初始分布若资金的初始分布c(0)=(9,3,6),资金流

29、通资金流通若资金初始分布若资金初始分布c(0)=(3,3,3),能达到稳定分布能达到稳定分布c*吗吗?计算计算向地区向地区1投放投放6,地区地区2投放投放2,从地区从地区3收回收回4.对任意对任意t,i,c(t)0?c(0)333c(1)85-1不能达到稳定分布不能达到稳定分布c*需要有效的检查方法需要有效的检查方法!(参看参看P354356)c(0)936c(1)1072c(2)11.66675.66672.3333c(10)11.83595.70972.7432资金流通资金流通例例 若资金初始分布若资金初始分布c(0)=(3,3,3),能达到稳定分布能达到稳定分布c*吗吗?0(同前同前)对于初始分布对于初始分布c(0)=(9,3,6)对任意对任意t,i,c(t)0?