数理经济学05动态最优化基础.pdf

《数理经济学05动态最优化基础.pdf》由会员分享，可在线阅读，更多相关《数理经济学05动态最优化基础.pdf（4页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、文档从互联网中收集，已重新修正排版，word 格式支持编辑，如有帮助欢迎下载支持。第四章第四章 动态最优化基础动态最优化基础4.14.1 动态最优化的基本问题动态最优化的基本问题例：最短路问题例：最短路问题图 4.1 给出了从城市 A 到城市 B 的路线图（省略了距离单位标注）。现求一条从 A 到 B的最短路线。图 4.1显然，为了从 A 到 B，必须先逐步经过 C1、C2、C3、C4 等诸城市。而在 C1、C2、C3、C4，又都有多种选择。而关键性的困难是当前的最优选择不一定是全局的最优。这类问题也称为多阶段决策问题。4.24.2 动态最优化的基本概念动态最优化的基本概念阶段：阶段：将全过程

2、分为若干个有相互联系的阶段，常用字母t、k 表示；状态：状态：系统在不同阶段性态。一般来说，系统在一个阶段有多个状态。系统在某一阶段的所有可能的状态构成的集合成为状态集，记为Sk；状态变量：状态变量：表示系统状态的变量，记为sk。它与阶段有关；决策：决策：在某一阶段的某一状态下，系统由该状态演变到下一阶段某一状态的选择。在第 k 阶段，处于状态 sk时的所有可能的决策集记为Dk（sk）；决策变量：决策变量：描述决策的变量，它与阶段与系统在该阶段的状态有关。在第 k 阶段，处于状态 sk时的决策记为 dk（sk）；状态转移：状态转移：从当前阶段的某一状态转移到下一阶段的某一状态。状态转移方程：状

3、态转移方程：描述状态转移规律的数学方程。它是当前状态变量与决策变量的函数，即sk1 Tk(sk,dk)；策略：策略：从起点到终点的每一阶段的决策所构成的决策序列，称为（全局）策略。自某一阶段起，至终点的决策称为子策略，记为pk,n(sk)(d1(s1),dn(sn)。指标（目标）函数：指标（目标）函数：性能指标或效用指标，它用来评价决策的效果。它可分为阶段指标与全局指标两类。阶段指标是指衡量某一阶段在某一状态下的决策效果的指标。它仅依赖当前状态和当前决策。记为vk(sk,dk(sk)；全局指标是指衡量整个全过程或自某一阶段起至终点的各阶段决策的总体效果的指标。它是所有各阶段的状态和决策的函数，

4、即动态最优化的主要问题是寻找一个策略，使全局指标最优。此策略称为动态系统的最优解。注意，最优解是各阶段状态的函数，其含义是在各个阶段，当处于不同的状态下应选择的（从全局）最优决策。动态最优化的分类动态最优化的分类离散阶段、离散状态的动态优化问题；离散阶段、连续状态的动态优化问题（如长期投资问题）；连续阶段、离散状态的动态优化问题；1word 格式支持编辑，如有帮助欢迎下载支持。文档从互联网中收集，已重新修正排版，word 格式支持编辑，如有帮助欢迎下载支持。连续阶段、连续状态的动态优化问题（如追击问题、长期投资问题）。处理动态最优化的常用方法：1）变分方法；2）极大极小原理（Pontryagi

5、n 原理）；3）动态规划（Bellmen 方法）。4.34.3 动态规划方法动态规划方法对于动态规划而言，它要求过程的全局指标函数是各阶段指标的和它要求过程的全局指标函数是各阶段指标的和，即动态规划最优化原理（动态规划最优化原理（Richard BellmanRichard Bellman）作为整个过程的最优策略具有这样的性质：无论过去的状态和决策如何，对前面决策无论过去的状态和决策如何，对前面决策所形成的状态而言，余下的诸决策必须构成最优策略。所形成的状态而言，余下的诸决策必须构成最优策略。该原理可以这样理解：如果在某一阶段的某一状态位于全局最优路径上，则以它为起点到终点的最优策略一定与全局

6、最优策略重合。由基本原理，不难得到动态规划的函数基本方程（反向递归方程）：其中，fk(sk)表示在第 k 阶段的某一状态下到终点的最优指标函数。例：求前例的最短路。（反向递归）例：某商店在未来四个月里销售一种商品。它有一个最大容量为1000 件的仓库。该商店每月中旬订购商品，下月初到货。经市场调查，今后四个月商品的购买价与销售价如下表所示。假定商店在 1 月初已有 500 件库存商品，在不考虑市场需求和库存费用的条件下，问如何安排每月的订购量和销售量，使6 个月的总利润最大。月份1234购买价 pk1091115销售价 qk1291317解：这是一个四阶段决策问题。决策变量是每月的订购量xk，

7、销售量 yk。取状态变量为每月的库存量，记为 sk；并记仓库最大容量为H=1000。显然，状态转移方程为基本函数方程为利用后向算法求解。令k 4，解约束极值问题：显然，该优化问题的解是y4 s4，x4 0，此时，f4(s4)17s4。令k 3，有优化问题*这是一个线性规划问题，解之，有x3 H，y3 s3，f3(s3)13s3 6H。*令k 2，有优化问题*其最优解为x2 H，y2 s2，f2(s2)9s210H。*令k 1，得其最优解为x1 0，y1 s1，f1(s1)12s110H。2word 格式支持编辑，如有帮助欢迎下载支持。*文档从互联网中收集，已重新修正排版，word 格式支持编辑

8、，如有帮助欢迎下载支持。最后，注意到初始条件s1 500，H 1000，对上述求出的最优解逐步回代，得到该问题的最优解：*x1 0，y1 s1 500；*x2 H 1000，y2 s2 s1 x1 y1 0；*x3 H 1000，y3 s3 s2 x2 y21000；*s4 s3 x3 y31000。x4 0，y4在用动态规划方法解多阶段决策问题时，除了反向递归函数方程和反向递归算法外，还有正向递归函数方程和正向递归算法。一般来说，若已知初始条件，则用反向递归算法，若已知终端条件，则用正向递归算法。最后要指出，若考虑连续阶段的动态规划问题，则上述目标函数中的求和就变成了积分。4.44.4 变分

9、方法变分方法考虑下列优化问题 A：满足条件Y(0)Aandy(T)Z。在这个问题中，y(t)是未知函数。由于目标函数中的积分是函数的函数，故常称这类函数为泛函。该问题可以认为是一个连续阶段的多阶段决策问题。其中，y(t)可以认为是决策变量，y(t)可以认为是状态变量，而目标泛函是各阶段效用函数的累积。由于变分方法是用古典微积分方法处理这类问题，所以通常要求未知泛函是连续可导的。一阶必要条件（一阶必要条件（EulerEuler方程）方程）若连续可导函数y(t)是问题 A 的解，则y(t)满足下列方程：在不同的经济问题中，问题 A 形式可能有所不同，主要是积分的上下限、端点条件以及被积函数 F 有

10、所改变。此时，Euler 方程的形式也会有一定的变化。例：（通货膨胀与失业的折衷）通货膨胀和失业都会造成社会福利损失。因此，希望找到这两者之间在时间上的组合，使社会福利损失最小。社会福利损失函数：设在理想经济中，其充分就业的收入水平为Yf，通货膨胀率为0。实际就业率Y 对Yf的任何偏离及实际通货膨胀率p 对 0 的任何偏离都是社会福利损失。因此，我们假设社会福利损失函数为YfY与 p 之间的折衷可假设为3word 格式支持编辑，如有帮助欢迎下载支持。文档从互联网中收集，已重新修正排版，word 格式支持编辑，如有帮助欢迎下载支持。称为菲利普斯折衷。其中，是预期通货膨胀率。假设预期通货膨胀率的形

11、成是自适应的：于是有即于是有最后得到这样，政府的问题就是在时间区间0，T上，寻找的最优路径，使社会福利损失函数最小。假设初始通货膨胀率预期为0，期末通货膨胀预期为0（政策目标），社会福利损失的折现率为。则政府的政策目标是s.t.(0)0容易算得，该问题的欧拉方程是其中，该方程是一个二阶常系数线性微分方程，其解为且r1,r21(2 4)2显然有r1 0，r2 0。由初始条件，不难求出A1和 A2为0er2T0er1TA1r1T，A2rT。eer2Te1er2T4.54.5 最优控制理论最优控制理论基本问题基本问题 B B：满足y f(t,y,u)，y(0)A，y(T)自由，以及u(t)U，对于所有的t 0,T。在这个问题中，y 称为状态变量；u 称为控制（策略）；积分称为目标泛函；微分方程称为运动方程（状态方程）；U 称为控制集。U 通常是(,)。若状态方程是y u，将其代入目标泛函，则变成了一个变分问题。令称为问题 B 的汉密尔顿（Hamiton）函数。（庞德理雅金）极大值原理（一阶必要条件）（庞德理雅金）极大值原理（一阶必要条件）设u(t)是问题 B 的解，则u(t)一定也是下列问题的解*4word 格式支持编辑，如有帮助欢迎下载支持。