动态规划的基本原理和基本应用讲稿.ppt
《动态规划的基本原理和基本应用讲稿.ppt》由会员分享,可在线阅读,更多相关《动态规划的基本原理和基本应用讲稿.ppt(82页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、关于动态规划的基本原理和基本应用第一页,讲稿共八十二页哦2 第二页,讲稿共八十二页哦3第三页,讲稿共八十二页哦4第四页,讲稿共八十二页哦5例例1 1 多阶段资源分配问题多阶段资源分配问题 设有数量为设有数量为x的某种资源,将它投入两种生产方式的某种资源,将它投入两种生产方式A和和B中:以数量中:以数量y投入生产方式投入生产方式A,剩下的量投入生,剩下的量投入生产方式产方式B,则可得到收入,则可得到收入g(y)+h(x-y),其中,其中g(y)和和h(y)是已知函数,并且是已知函数,并且g(0)=h(0)=0;同时假设以;同时假设以y与与x-y分分别投入两种生产方式别投入两种生产方式A,B后可以
2、回收再生产,回收后可以回收再生产,回收率分别为率分别为a与与b。试求进行。试求进行n个阶段后的最大总收入。个阶段后的最大总收入。第五页,讲稿共八十二页哦6 若以若以y与与x-y分别投入生产方式分别投入生产方式A与与B,在第一,在第一阶段生产后回收的总资源为阶段生产后回收的总资源为x1=ay+b(x-y),再将,再将x1投入生产方式投入生产方式A和和B,则可得到收入,则可得到收入g(y1)+h(x1-y1),继续回收资源继续回收资源x2=ay1+b(x1-y1),若上面的过程进行若上面的过程进行n个阶段,我们希望选择个阶段,我们希望选择n个变量个变量y,y1,y2,yn-1,使这,使这n个阶段的
3、总收入最大。个阶段的总收入最大。例例1 1第六页,讲稿共八十二页哦7 因此,我们的问题就变成:求因此,我们的问题就变成:求y,y1,y2,yn-1,以使,以使g(y)+h(x-y)+g(y1)+h(x1-y1)+g(yn-1)+h(xn-1-yn-1)达到最大,达到最大,且满足条件且满足条件 x1=ay+b(x-y)x2=ay1+b(x1-y1)xn-1=ayn-2+b(xn-2-yn-2)yi与与xi均非负均非负,i=1,2,n-1 例例1 1第七页,讲稿共八十二页哦8例例2 2 生产和存储控制问题生产和存储控制问题 某工厂生产某种季节性商品,需要作下一某工厂生产某种季节性商品,需要作下一年
4、度的生产计划,假定这种商品的生产周期需年度的生产计划,假定这种商品的生产周期需要两个月,全年共有要两个月,全年共有6个生产周期,需要作出个生产周期,需要作出各个周期中的生产计划。各个周期中的生产计划。设已知各周期对该商品的需要量如下表所示设已知各周期对该商品的需要量如下表所示:周期周期123456需求量需求量551030508第八页,讲稿共八十二页哦9例例2 2 假设这个工厂根据需要可以日夜两班生产或只是日班生产假设这个工厂根据需要可以日夜两班生产或只是日班生产,当开足日班时,每一个生产周期能生产商品,当开足日班时,每一个生产周期能生产商品1515个单位,每生个单位,每生产一个单位商品的成本为
5、产一个单位商品的成本为100100元。当开足夜班时,每一生产周期能元。当开足夜班时,每一生产周期能生产的商品也是生产的商品也是1515个,但是由于增加了辅助性生产设备和生产辅助个,但是由于增加了辅助性生产设备和生产辅助费用,每生产一单位商品的成本为费用,每生产一单位商品的成本为120120元。由于生产能力的限制元。由于生产能力的限制,可以在需求淡季多生产一些商品储存起来以备需求旺季使,可以在需求淡季多生产一些商品储存起来以备需求旺季使用,但存储商品是需要存储用,但存储商品是需要存储费用的,假设每单位商品存储一费用的,假设每单位商品存储一周期需要周期需要16元,已知开始时存储为零,年终也不存储商
6、品备元,已知开始时存储为零,年终也不存储商品备下年使用,问应该如何作生产和存储计划,才能使总的生产下年使用,问应该如何作生产和存储计划,才能使总的生产和存储费用最小?和存储费用最小?第九页,讲稿共八十二页哦10例例2 2 设第设第i个周期的生产量为个周期的生产量为xi,周期末的存储量为,周期末的存储量为ui,那,那么这个问题用式子写出来就是:求么这个问题用式子写出来就是:求x1,x2,x6,满足条件:,满足条件:x1=5+u1 x2+u1=5+u2 x3+u2=10+u3 x4+u3=30+u4 x5+u4=50+u5 x6+u5=8 0 xi 30,0 uj,i=1,2,6;j=1,2,5
7、)1852345(16)(5432161xxxxxxfii3015,300120150,100)(iiiiixxxxxftjjiiuxf16116)(使使 S=为最小,其中为最小,其中第十页,讲稿共八十二页哦11 运输网络问题:如图运输网络问题:如图1 1所示的运输网络,点间所示的运输网络,点间连线上的数字表示两地距离连线上的数字表示两地距离(也可是运费、时间等也可是运费、时间等),要,要求从求从v v1 1至至v v1010的最短路线。的最短路线。这种运输网络问题也是静态决策问题。但是,这种运输网络问题也是静态决策问题。但是,按照网络中点的分布,可以把它分为按照网络中点的分布,可以把它分为4
8、 4个阶段,而作为个阶段,而作为多阶段决策问题来研究。多阶段决策问题来研究。第十一页,讲稿共八十二页哦12 v2 5 5 6 14 10 9 3 8 8 7 7 8 8 6 5 6 11 7 9 5 v1 v3 v4 v6 v5 v7 v9 v8 v10 1234图图1 1 运输网络图示运输网络图示第十二页,讲稿共八十二页哦13动态规划方法导引动态规划方法导引 为了说明动态规划的基本思想方法和特点,下面以为了说明动态规划的基本思想方法和特点,下面以图图1 1所示为例讨论求最短路问题的方法。所示为例讨论求最短路问题的方法。它的基本思想是列它的基本思想是列举出所有可能发生的方案和结果,再对它们一一
9、进行比较,举出所有可能发生的方案和结果,再对它们一一进行比较,求出最优方案。这里从求出最优方案。这里从v v1 1到到v v1010的路程可以分为的路程可以分为4 4个阶段。第一个阶段。第一二段的走法有三种,第三段的走法有两种,第四段的走法二段的走法有三种,第三段的走法有两种,第四段的走法仅一种,因此共有仅一种,因此共有3 33 32 21 11818条可能的路线,条可能的路线,5454次加次加法算出各条路线的距离,最后进行法算出各条路线的距离,最后进行1717次两两比较,可知次两两比较,可知最优路线是最优路线是v v1 1 v v2 2 v v5 5 v v8 8 v v10 10,最短距离
10、是最短距离是2727第十三页,讲稿共八十二页哦14 显然,当组成交通网络的节点很多时,用穷举法显然,当组成交通网络的节点很多时,用穷举法求最优路线的计算工作量将会十分庞大,而且其中包含求最优路线的计算工作量将会十分庞大,而且其中包含着许多重复计算着许多重复计算 ,是说某人从,是说某人从k k出发,他并不顾及全线是否最短,只是选择当前最短出发,他并不顾及全线是否最短,只是选择当前最短途径,途径,“逢近便走逢近便走”,错误地以为局部最优会致整体最优,错误地以为局部最优会致整体最优,在这种想法指导下,所取决策必是,在这种想法指导下,所取决策必是v v1 1 v v2 2 v v5 5 v v9 9
11、v v1010 ,全程长度是,全程长度是3030;显然,这种方法的结果常是错误的;显然,这种方法的结果常是错误的第十四页,讲稿共八十二页哦15 动态规划方法寻求该最动态规划方法寻求该最短路问题的基本思想是,首先将问题划分为短路问题的基本思想是,首先将问题划分为4 4个阶段,每个阶段,每次的选择总是综合后继过程的一并最优进行考虑,在次的选择总是综合后继过程的一并最优进行考虑,在各段所有可能状态的最优后继过程都已求得的情况下各段所有可能状态的最优后继过程都已求得的情况下,全程的最优路线便也随之得到。,全程的最优路线便也随之得到。为了找出所有可能状态的最优后继过程,动态规为了找出所有可能状态的最优后
12、继过程,动态规划方法是从过程的最后阶段开始考虑,然后逆着实际过划方法是从过程的最后阶段开始考虑,然后逆着实际过程发展的顺序,逐段向前递推计算直至始点。程发展的顺序,逐段向前递推计算直至始点。第十五页,讲稿共八十二页哦16具体说,此问题先从具体说,此问题先从v v1010开始,因为开始,因为v v1010是终点。再无后继过程,故可以接着考虑第是终点。再无后继过程,故可以接着考虑第4 4阶段上所有可能状态阶段上所有可能状态v v8 8,v v9 9的最优后续过程因为从的最优后续过程因为从v v8 8,v v9 9 到到v v1010的路线是唯一的,所的路线是唯一的,所以以v v8 8,v v9 9
13、 的最优决策和最优后继过程就是到的最优决策和最优后继过程就是到v v1010 ,它们的最短距离分别是,它们的最短距离分别是1010和和1414。接着考虑阶段接着考虑阶段3 3上可能的状态上可能的状态v v5 5,v v6 6,v v7 7 到到v v1010的最优决策和最优后继过程在状的最优决策和最优后继过程在状态态V V5 5上,虽然到上,虽然到v v8 8是是6 6,到,到v v9 9是是5 5,但是,但是 v2 5 5 6 14 10 9 3 8 8 7 7 8 8 6 5 6 11 7 9 5 v1 v3 v4 v6 v5 v7 v9 v8 v10 1234(10)(14)第十六页,讲
14、稿共八十二页哦17综合考虑后继过程整体最优,取最优决策是到综合考虑后继过程整体最优,取最优决策是到v v8 8,最优后继过程是最优后继过程是v v5 5v v8 8 v v10 10,最短距离是最短距离是1616同理,状态同理,状态v v6 6的最优决策是至的最优决策是至v v8 8 ;v v7 7的最优决策是到的最优决策是到v v9 9 。同样,当阶段同样,当阶段3 3上所有可能状态的最优后继过程都已求得后,便可以开始考上所有可能状态的最优后继过程都已求得后,便可以开始考虑阶段虑阶段2 2上所有可能状态的最优决策和最优后继过程,如上所有可能状态的最优决策和最优后继过程,如v v2 2的最优决
15、策是到的最优决策是到v v5 5,最最优路线是优路线是 v2 5 5 6 14 10 9 3 8 8 7 7 8 8 6 5 6 11 7 9 5 v1 v3 v4 v6 v5 v7 v9 v8 v10 1234(10)(14)(16)(15)(17)第十七页,讲稿共八十二页哦18v v2 2v v5 5v v8 8v v10 10,最短距离是,最短距离是2222依此类推,最后可以得到从初始状态依此类推,最后可以得到从初始状态v v1 1的最优决策是到的最优决策是到v v2 2最优路线是最优路线是v v1 1v v2 2v v5 5v v8 8v v10 10,全程的最短距离是,全程的最短距离
16、是2727。图。图1 1中红线表示最优路线中红线表示最优路线,每点上圆括号内的数字表示该点到终点的最短路距离。,每点上圆括号内的数字表示该点到终点的最短路距离。v2 5 5 6 14 10 9 3 8 8 7 7 8 8 6 5 6 11 7 9 5 v1 v3 v4 v6 v5 v7 v9 v8 v10 1234(10)(14)(16)(15)(17)(22)(22)(21)(27)第十八页,讲稿共八十二页哦19综上所述可见,全枚举法虽可找出最优方案,但不是个好算法,局部综上所述可见,全枚举法虽可找出最优方案,但不是个好算法,局部最优法则完全是个错误方法,只有动态规划方法属较科学有效的算法最
17、优法则完全是个错误方法,只有动态规划方法属较科学有效的算法。它的基本思想是,把一个比较复杂的问题分解为一系列同类型的更。它的基本思想是,把一个比较复杂的问题分解为一系列同类型的更易求解的子问题,便于应用计算机。整个求解过程分为两个阶段,先易求解的子问题,便于应用计算机。整个求解过程分为两个阶段,先按整体最优的思想逆序地求出各个子问题中所有可能状态的最优决策按整体最优的思想逆序地求出各个子问题中所有可能状态的最优决策与最优路线值,然后再顺序地求出整个问题的最优策略和最优路线。与最优路线值,然后再顺序地求出整个问题的最优策略和最优路线。计算过程中,系统地删去了所有中间非最优的方案组合,从而使计算计
18、算过程中,系统地删去了所有中间非最优的方案组合,从而使计算工作量比穷举法大为减少。工作量比穷举法大为减少。第十九页,讲稿共八十二页哦20拾火柴游戏拾火柴游戏:桌子上放桌子上放30根火柴根火柴,每人一次可每人一次可拾起拾起13根根,谁拾起最后一根火柴谁输谁拾起最后一根火柴谁输,如果你如果你先选择先选择,如何保证你能赢得游戏?如何保证你能赢得游戏?2925211713951第二十页,讲稿共八十二页哦21动态规划是解决动态规划是解决多阶段决策问题多阶段决策问题的一种方法。所谓多阶段的一种方法。所谓多阶段决策问题是指这样的决策问题:其过程可分为若干个相互联决策问题是指这样的决策问题:其过程可分为若干个
19、相互联系的阶段,每一阶段都对应着一组可供选择的决策,每一决系的阶段,每一阶段都对应着一组可供选择的决策,每一决策的选定即依赖于当前面临的状态,又影响以后总体的效果。策的选定即依赖于当前面临的状态,又影响以后总体的效果。ABCDE状态A状态B状态C状态D状态E状态F决策A决策D决策E当每一阶段的决策选定以后,就构成一个决策序列,称为一个当每一阶段的决策选定以后,就构成一个决策序列,称为一个决策B决策C策略策略,它对应着一个确定的效果。它对应着一个确定的效果。多阶段决策问题就是寻找使多阶段决策问题就是寻找使此效果最好的策略。此效果最好的策略。第二十一页,讲稿共八十二页哦22动态规划问题实例动态规划
20、问题实例例例 给定一个线路网络,给定一个线路网络,AB1B2C1C2C3C4D1D2D3E1E2F452368775845348435623143要从要从A向向F铺设一条输油管道,铺设一条输油管道,各点间连线上的数字表示距离,问应选择什么路线,可使总各点间连线上的数字表示距离,问应选择什么路线,可使总距离最短?距离最短?第二十二页,讲稿共八十二页哦239.2 动态规划的基本概念和基本原理动态规划的基本概念和基本原理一、基本概念一、基本概念阶段阶段:是指问题需要做出决策的步数。阶段总数常记为:是指问题需要做出决策的步数。阶段总数常记为n,相,相应的是应的是n个阶段的决策问题。阶段的序号常记为个阶
21、段的决策问题。阶段的序号常记为k,称为,称为阶段阶段变量变量,k=1,2,n.k即可以是顺序编号也可以是逆序编号,即可以是顺序编号也可以是逆序编号,常用顺序编号。常用顺序编号。全过程全过程;后部子过程后部子过程。状态状态:各阶段开始时的客观条件,第:各阶段开始时的客观条件,第k阶段的状态常用阶段的状态常用状态状态变量变量 表示,状态变量取值的集合称为表示,状态变量取值的集合称为状态集合状态集合,用,用表示。表示。kxkX例如,例中,例如,例中,.,2121BBXAX 第二十三页,讲稿共八十二页哦24AB1B2C1C2C3C4D1D2D3E1E2F452368775845348435623143
22、第1阶段第2阶段第3阶段第4阶段第5阶段状态1状态2状态3状态4状态5状态6.,2121BBXAX 第二十四页,讲稿共八十二页哦25决策决策:是指从某阶段的某个状态出发,在若干个不同方案中:是指从某阶段的某个状态出发,在若干个不同方案中做出的选择。表示决策的变量,称为做出的选择。表示决策的变量,称为决策变量决策变量,用,用 表示表示)(kkxu例如:例如:表示走到表示走到3阶段阶段,当处于当处于C2 路口时,下一路口时,下一步奔步奔D1.123)(DCu 时的允许决策集合记为时的允许决策集合记为 ,例如:,例如:策略策略:全过程策略全过程策略 p1n;子策略;子策略pkn;最优策略最优策略。k
23、x)(kkxU,)(32112CCCBU 状态转移方程状态转移方程:是从上一阶段的某一状态值转变为下一阶段:是从上一阶段的某一状态值转变为下一阶段某一状态值的转移规律,用某一状态值的转移规律,用),(1kkkkuxTx 表示。表示。决策变量允许的取值范围称为决策变量允许的取值范围称为允许决策集合允许决策集合,第,第k阶段状态为阶段状态为 第二十五页,讲稿共八十二页哦26AB1B2C1C2C3C4D1D2D3E1E2F452368775845348435623143第1阶段第2阶段第3阶段第4阶段第5阶段状态1状态2状态3状态4状态5状态6123)(DCu,)(32112CCCBU 第二十六页,
24、讲稿共八十二页哦27指标函数指标函数:分:分阶段指标函数阶段指标函数和和过程指标函数过程指标函数。阶段指标函数阶段指标函数是指第是指第k阶段从状态阶段从状态 出发,采取决策出发,采取决策 时的效益,用时的效益,用kxku),(kkkuxv表示。而表示。而过程指标函数过程指标函数指从第指从第k阶段的某状态出发,阶段的某状态出发,采取子策略采取子策略,1nkkknuuup 时所得到的阶段效益之和:时所得到的阶段效益之和:nkjjjjknkknuxvpxV),(),(最优指标函数最优指标函数:表示从第:表示从第k阶段状态为阶段状态为 时采用最佳策略时采用最佳策略kx*knp到过程终止时的最佳效益。记
25、为到过程终止时的最佳效益。记为),(),()()(*knkknxUpknkknkkpxVoptpxVxfkknkn 第二十七页,讲稿共八十二页哦28AB1B2C1C2C3C4D1D2D3E1E2F452368775845348435623143第1阶段第2阶段第3阶段第4阶段第5阶段状态1状态2状态3状态4状态5状态6212(,)3vB C 35211(,)11vCD E F 第二十八页,讲稿共八十二页哦29其中其中 opt 可根据具体情况取可根据具体情况取max 或或min。基本方程基本方程:此为逐段递推求和的依据,一般为:此为逐段递推求和的依据,一般为:0)(1,1,)(),()(1111
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 动态 规划 基本原理 基本 应用 讲稿
限制150内