第七章 运筹学 动态规划优秀课件.ppt

《第七章 运筹学 动态规划优秀课件.ppt》由会员分享，可在线阅读，更多相关《第七章 运筹学 动态规划优秀课件.ppt（63页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第七章 运筹学 动态规划第1页，本讲稿共63页n教学目的与要求:使学生学会利用多阶段问题的决策思想处理一些简单的实际问题,并会用WinQSB求解动态规划.n重点与难点:重点是离散型资源分配问题;难点是动态规划建模和求解方法.n教学方法:从多阶段最短路引入基本概念和数学模型,再讲解离散型DP和连续型DP.n思考题,讨论题,作业:本章习题.n参考资料:见前言.n学时分配:6学时.第2页，本讲稿共63页前言:动态规划是最优化的一个分支,它是解决多阶段决策过程最优化的一种方法.动态规划的创始人是美国数学家贝尔曼(R.Bellman).它在四十年代后期和五十年代初期在美国兰德公司工作,针对一些多阶段决策

2、问题提出了解决这类问题的最优化原理,并在1957年出版了动态规划的第一本书Dynamic programming.在企业管理方面,动态规划可以解决库存问题,资源分配问题,设备更新问题,运输问题,生产过程最优控制问题.它的弱点是,根据最优化原理建立的动态规划基本方程,尚无统一的解法,而要根据其数学结构灵活处理;此外,变量个数不能太多,否则计算量太大,这称为维数问题.第3页，本讲稿共63页第一节 多阶段决策问题及实例 所谓多阶段决策问题,是指一个大问题可以划分为若干个阶段,每个阶段形成一个子问题,各个阶段是互相联系的,每个阶段都要作出决策,并且一个阶段的决策确定以后会影响下一阶段的决策,从而影响整

3、个过程的活动路线.各个阶段所确定的决策构成一个决策序列,称为一个策略,对于不同的策略其效果不同(效果可以用数量来衡量).多阶段决策问题就是选择一个最优策略,使在给定的标准下达到最好的效果.第4页，本讲稿共63页典型例题:例1 多阶段网络的最短路2511214106104131112396581052C1C3D1AB1B3B2D2EC2状态1状态2状态3状态4终点第5页，本讲稿共63页例题特点:阶段:如图的阶段,分为四段;状态:顶点;决策:选弧;转移:从一个顶点走到另一个顶点;目标:路长最短.第6页，本讲稿共63页例2 资源分配问题设有数量x的某种资源,将它投入两种生产A,B.若以y投入生产A,

4、剩下的x-y投入生产B,则收入函数为g(y)+h(x-y),如果生产后可以回收再生产,其回收率分别为0a,b1,则在第一阶段生产后回收的总资源为 再将 投入生产A,B,若以 分别投入生产A,B则又可得收入 因此两阶段的总收入为第7页，本讲稿共63页如果上面的过程进行了n个阶段,而且我们希望选择 使n个阶段的总收入最大,问题变为第8页，本讲稿共63页例题特点:阶段:年(月)状态:资金数 决策:分配给A的资金数 转移:效益:n个阶段的总收入最大第9页，本讲稿共63页第二节 最优化原理与动态规划基本方程一.动态规划的基本概念阶段(stage):是指一个问题需要作出决策的步骤,用k表示阶段数,k称为阶

5、段变量.通常以时间作为阶段变量.状态(state):状态表示在任一阶段所处的位置,通常一个阶段有若干个状态,描述过程状态的变量称为状态变量,第k阶段的状态变量用 表示.状态变量取值的全体称为状态空间或状态集合.第10页，本讲稿共63页在例1中各阶段的状态变量集合如下:第一阶段状态变量第二阶段状态变量第三阶段状态变量第四阶段状态变量终点E第11页，本讲稿共63页注意:状态变量是动态规划中最关键的一个参数,它既反映前面各阶段决策的结局,又是本阶段作出决策的出发点,状态是动态规划问题各阶段信息的传递点和结合点.决策(decision):决策是指某阶段状态给定后,从该阶段演变到下一阶段某状态的选择.决

6、策变量 表示第k阶段状态为 时对方案的选择.表示k阶段状态为 时决策允许的取值集合.例如:例1中策略(policy)和子策略(subpolicy):动态规划问题各阶段决策组成的序列总体称为一个策略.第12页，本讲稿共63页是n个阶段DP的一个策略.状态转移律:从 的某一状态值出发,当决策变量 的取值决定后,下一阶段状态变量 的取值也随之确定.这种从上一阶段的某一状态值到下一阶段某一状态值的转移规律称为状态转变移律.可表示为第13页，本讲稿共63页指标函数(index function):指标函数是用来衡量实现过程优劣的一种数量指标.它是从状态出发至过程最终,当采取某种策略时,按预定标准得到的效

7、益值,这个值既与 有关,又与 以后所选取的策略有关,它是两者的函数,称为过程指标函数,记为特别地,仅第k阶段的指标函数,可记为第14页，本讲稿共63页最优指标函数:是指对某一确定状态选取最优策略后得到的指标函数值,也就是对应某一最优子策略的某种效益度量,这个度量值可以是成本,产量,距离等等.对应于从状态出发的最优子策略的效益值记为其中optimization是最优化的意思,在具体问题中,可以是最小化(min)也可以是最大化(max).第15页，本讲稿共63页二.最优化原理与动态规划基本方程贝尔曼(R.Bellman)最优化原理:作为整个过程的最优策略具有这样的性质,无论过去的状态和决策如何,对

8、先前决策所形成的状态而言,余下的诸决策必构成最优策略.根据这一原理,计算动态规划问题的递推关系式(逆序法)称为动态规划基本方程:其中,称为边界条件.第16页，本讲稿共63页用动态规划求解例1:2511214106104131112396581052C1C3D1AB1B3B2D2EC2第17页，本讲稿共63页动态规划基本方程为:第18页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f5(E)=0第19页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D1)=5f5(E)

9、=0第20页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f4(D1)=5第21页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C1)=8f4(D1)=5第22页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C2)=7f4(D1)=5f3(C1)=8第23页，本讲稿共63页2511214106104131112

10、396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f3(C1)=8f3(C2)=7第24页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B1)=20f3(C2)=7f3(C1)=8第25页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B1)=20f3(C2)=7f3(

11、C1)=8第26页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B3)=19f3(C2)=7f3(C1)=8f2(B1)=21f2(B2)=14第27页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B3)=19f3(C2)=7f3(C1)=8f1(A)=19f2(B2)=14f2(B1)=21第28页，本讲稿共63页251121410

12、6104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B3)=19f3(C2)=7f3(C1)=8f1(A)=19f2(B2)=14f2(B1)=21状态 最优决策 状态 最优决策 状态 最优决策 状态 最优决策 状态A （A，B2）B2 （B2，C1）C1第29页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B3)=19f3(C2)=7f3(C1)=8f1(A)=19f2(

13、B2)=14f2(B1)=21状态 最优决策 状态 最优决策 状态 最优决策 状态 最优决策 状态A （A，B2）B2 （B2，C1）C1 （C1，D1）D1第30页，本讲稿共63页2511214106104131112396581052C1C3D1AB1B3B2D2EC2f4(D2)=2f5(E)=0f3(C3)=12f4(D1)=5f2(B3)=19f3(C2)=7f3(C1)=8f1(A)=19f2(B2)=14f2(B1)=21状态 最优决策 状态 最优决策 状态 最优决策 状态 最优决策 状态A （A，B2）B2 （B2，C1）C1 （C1，D1）D1 （D1，E）E从A到E的最短路

14、径为19，路线为AB 2C1 D1 E 第31页，本讲稿共63页第三节 离散确定型动态规划模型的求解例2 资源分配问题:某公司有五套先进设备,需分配给下属的甲,乙,丙三个工厂,各工厂得此设备后每年为公司上缴的利润如下表,问如何分配可使公司获得最大利润?甲 乙 丙 0 1 2 3 4 5 0 0 0 3 5 4 7 10 6 9 11 11 12 11 1213 11 12第32页，本讲稿共63页解:将问题按三个工厂分为三个阶段,即k=1,2,3.第33页，本讲稿共63页根据最优化原理得出动态规划基本方程:动态规划的求解方法通常是采取逆序解法,即从第三阶段向前推导.第34页，本讲稿共63页0 1

15、 2 3 4 5 0 1 2 3 4 50 4 6 11 12 12 0 4 6 11 12 12 0 1 2 3 4 5 第35页，本讲稿共63页0 1 2 3 4 5 0 1 2 3 4 500+4 5+00+6 5+4 10+00+11 5+6 10+4 11+00+12 5+11 10+6 11+4 11+00+12 5+12 10+11 11+6 11+4 11+0 0 5 10 14 16 2101221,22第36页，本讲稿共63页0 1 2 3 4 5 50+21 3+16 7+14 9+10 12+5 13+0 210,2最优方案一:甲厂0台,乙厂2台,丙厂3台;最优方案二:

16、甲厂2台,乙厂2台,丙厂1台.最大盈利值为21万元.第37页，本讲稿共63页第四节 连续确定型动态规划模型的求解例3(p208例5)第38页，本讲稿共63页解:阶段变量是以年作为化分单位,k=1,2,3.状态变量 为k 年初可用于工作的完好机器数.决策变量 为第k年用于完成A项任务的机器数,则 为用于完成B项任务的机器数.状态转移方程是 动态规划 基本方程及边界条件为 第39页，本讲稿共63页当k=3时,第40页，本讲稿共63页当k=2时,第41页，本讲稿共63页当k=1时,第42页，本讲稿共63页 第五节 一般数学规划模型的动态规划解法用动态规划解数学规划的方法是:把依次决定各个变量的取值看

17、成是一个多阶段决策问题,因而模型中含有几个变量,就分为几个阶段,用状态变量表示数学规划中约束条件右边常数项,它表示可分配的资源数.第43页，本讲稿共63页例3 某投资者有40万元的固定资本,他可以在三种不同的投资机会中投资(股票,银行,土地)投资额为x,y,z.假定他做过预测,知道每项投资可获得的效益分别为问如何分配投资额,才能获得最大效益.第44页，本讲稿共63页解:依题意,列出数学模型设为决策变量,阶段变量为k,k=1,2,3.为状态变量,即投放到第k个项目上的资金数.状态转移律为效益函数为.动态规划基本方程为第45页，本讲稿共63页K=3,这是单增的线性函数,它在区间右端点取得最大值,显

18、然时,上式有最大值.第46页，本讲稿共63页K=2,设,求其极大值,为极小值点,则第47页，本讲稿共63页当k=1时,若=为一常数,不存在极值,舍去.若设第48页，本讲稿共63页1600.第49页，本讲稿共63页例4 用动态规划求解非线性规划解:把确定 的值看作两个阶段的决策,即k=1,2.状态变量为k阶段初约束条件右边项的剩余值,分别用 表示,于是第50页，本讲稿共63页动态规划的递推方程为当k=2时,第51页，本讲稿共63页第52页，本讲稿共63页第53页，本讲稿共63页第六节 背包问题背包问题的提法:一个徒步旅行者,有n种物品供他选择后装入背包中,这n种物品的编号为1,2,n.已知第j种物品的重量为 公斤,这一物品对他的使用价值为 ,又知该旅行者所能承受的总重量不超过a公斤,问该旅行者如何选择这n种物品的件数,使得对他来说,使用价值最大.第54页，本讲稿共63页建模:第55页，本讲稿共63页动态规划解法:第56页，本讲稿共63页第57页，本讲稿共63页例5 设有背包问题物品1 2 3重量价值3 2 58 5 12背包的最大限制重量a=5,问三种物品各装几件使总价值最大?第58页，本讲稿共63页第59页，本讲稿共63页第60页，本讲稿共63页第61页，本讲稿共63页第62页，本讲稿共63页第63页，本讲稿共63页