第07章：最优控制的计算方法精选PPT.ppt

《第07章：最优控制的计算方法精选PPT.ppt》由会员分享，可在线阅读，更多相关《第07章：最优控制的计算方法精选PPT.ppt（102页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第07章：最优控制的计算方法第1页，此课件共102页哦本章主要内容n7.1 直接法 7.2 间接法 7.3 小结 返回主目录第2页，此课件共102页哦 在前面讨论变分法、极小值原理和动态规划时，我们列举了一些例子。为了易于说明问题，这些例子都是非常简单的，可以用手算来解决问题。但是在实际工作中所遇到的最优控制问题，一般都是很复杂的，必须用计算机求解。因此，最优控制的计算方法就变得十分重要了。这方面的内容十分丰富，由于篇幅所限，我们只介绍几种典型的算法。第3页，此课件共102页哦(无约束)（ii）哈密顿函数 取极小的必要条件(有约束)（7-2）或 由极小值原理可知，最优控制问题的解必须满足以下几

2、个条件（iii）边界条件（包括横截条件）（i）正则方程（7-1）第4页，此课件共102页哦 最优控制的计算方法一般是先求出满足上面三个条件中某两个的解，然后用合适的迭代计算形式逐次改变这个解，以达到满足剩下的另一个条件的解（即最优解）。通常把最优控制的计算方法分成两类：直接法和间接法。第5页，此课件共102页哦 n直接法 它的特点是，在每一步迭代中，不一定要满足 取极小的必要条件，而是逐步改善它，在迭代终了使它满足这个必要条件，而且，积分状态方程是从 到 ，积分协态方程是从 到 ，这样就避免了去寻找缺少的协态初值 的困难。常用的直接法有梯度法，二阶梯度法，共轭梯度法。第6页，此课件共102页哦

3、 n间接法 它的特点是，在每一步迭代中都要满足 取极小的必要条件，而且要同时积分状态方程和协态方程，两种方程的积分都从 到 或从 到 。常用的间接法有边界迭代法和拟线性化法。第7页，此课件共102页哦7.1 直接法直接法（一）梯度法 这是一种直接方法，应用比较广泛。它的特点是：先猜测任意一个控制函数 ，它可能并不满足 取极小的必要条件，然后用迭代算法根据 梯度减小的方向来改善 ，使它最后满足必要条件。计算步骤如下：第8页，此课件共102页哦1 先猜测 中的一个控制向量 ，是迭代步数，初始时 。的决定要凭工程经验，猜得合理，计算收敛得就快。第9页，此课件共102页哦2 在第 步，以估计值 和给定

4、的初始条件 ，从 到 顺向积分状态方程，求出状态向量 。第10页，此课件共102页哦 3 用 、和横截条件求得的终端值 ，从 到 反向积分协态方程，求出协态向量 。第11页，此课件共102页哦4 表示在 、处取值。当这些量非最优值时，。计算哈密顿函数 对 的梯度向量第12页，此课件共102页哦5、是一个步长因子，它是待定的数。选择 使指标达到极小。这是一维寻优问题，有很多现成的优化方法可用。如分数法，0.618法，抛物线法，立方近似法等。(7-3)表明迭代是沿着梯度的负方向进行的。修正控制向量（7-3）第13页，此课件共102页哦 6、计算是否满足下列指标（7-4）是指定小量，若满足则停止计算

5、，否则，令 ,转步骤2。另一停止计算的标准是（7-5）第14页，此课件共102页哦例7-1考虑下面的一阶非线性状态方程（7-6）用梯度法寻找最优控制使下面的指标最小（7-7）第15页，此课件共102页哦解因 自由，由横截条件得哈密顿函数为（7-8）协态方程为（7-9）第16页，此课件共102页哦、选初始估计 。代入初始条件：，确定积分常数、将 代入状态方程（7-6）可得（7-11）积分上式可得（7-12）代入（7-12）式即可得（7-13）第17页，此课件共102页哦3将 代入协态方程（7-9），且由边界条件 从t=1倒向积分可得5 。这里选步长因子 。如此继续下去，直至指标函数随迭代变化很小

6、为止。4由第18页，此课件共102页哦 图7-1用梯度法寻找最优控制 图7-2 最优状态的求解 图7-1和图7-2表示了控制和状态 的初始值和第一次迭代值，可以看到第一次迭代 就几乎 收 敛 到 最 优 值，与最优值还有差异，而且一般说来愈接近最优值收敛愈慢第19页，此课件共102页哦梯度法应用得比较多，它的优点是：（1）简单，编制程序容易；（2）计算稳定可靠。缺点是：（1）在接近最优解时，迭代收敛很慢，为改善 收敛性可用共轭梯度法和二阶变分法等；（2）不能区分局部极小和全局极小；（3）对控制变量受约束，终端状态受约束的情 况不能直接处理。对于这种有约束的情况可用约束梯度法或惩罚函数法加以处理

7、。第20页，此课件共102页哦约束梯度法可处理如下的不等式约束：（7-15）首先，对于任何控制 ，定义约束算子（7-16）第21页，此课件共102页哦显然 满足约束，即 满足约束，其中 ，再由 用无约束的梯度法求解，在每一次迭代中得出 ，然后用 代替，再进行下一次迭代。（7-17）第22页，此课件共102页哦 惩罚函数法可处理如下形式的约束：（7-18）（7-19）第23页，此课件共102页哦这时，将性能指标 增广为其中，（7-21）（7-20）第24页，此课件共102页哦 显然，当满足约束时，中后两项为零。当不满足约束时，后两项将使 增大，故称为惩罚函数。在迭代过程中，逐次增大 和 。显然当

8、 和 很大时，所求得的 的无约束最优控制近似于 的有约束最优控制。第25页，此课件共102页哦（二）共轭梯度法 用共轭梯度法寻找最优控制时是沿着所谓共轭梯度向量的方向进行的。为了说明共轭梯度的意义，我们先从求函数极值问题的共轭梯度法开始，再推广到求泛函极值问题。第26页，此课件共102页哦 1求函数极值的共轭梯度法其中，为常数，为正定阵。是 和 的内积。要求寻找 使 取极值。(7-23)设 是定义在 空间中的二次指标函数（7-22）第27页，此课件共102页哦定义 则称 和 是 共轭的。（单位阵）时，共轭就变为通常的正交。若 中两个向量 和 满足（7-24）第28页，此课件共102页哦 设向量

9、 ，是两两 共轭的，以 为寻找方向，可得共轭梯度法的迭代寻优程序：（7-25）与梯度法不同处仅在于用共轭梯度 代替负梯度 。问题是如何产生共轭梯度方向 。第29页，此课件共102页哦 值由 和 对 共轭的关系来确定，即（7-26）（7-27）令 ，即初始时共轭梯度与梯度方向相反、大小相等。以后的共轭梯度可如下递归产生：第30页，此课件共102页哦将（7-26）代入（7-27），得称为共轭系数。故（7-28）第31页，此课件共102页哦用（7-28）式计算 是不方便的，因为要用到二阶导数阵 。由（7-22）和（7-23）知 分别为 的第 个和第 个分量，右端表示由 的第 行第 列元素构成的矩阵。

10、计算这个二阶导数阵非常困难。为此，有必要推导不用 来计算 的公式。（7-29）第32页，此课件共102页哦 性质1 若 是 空间中彼此 共轭的向量，则它们是线性独立的。在这个推导中要用到共轭梯度的下列性质：第33页，此课件共102页哦证明：证明：因为 正定，上式对每一个 成立，所以必须有 与假设矛盾，这说明 是线性独立的，它们构成了 空间中的一组基向量。上式左端各项对 取内积后有（7-31）用反证法。若不线性独立，则必存在不全为零的常数 使（7-30）第34页，此课件共102页哦其中,可这样来求：作内积（7-33）从而按照这个性质，函数 的极小点 可用这组基来表示，即（7-32）第35页，此课

11、件共102页哦性质2 式中，。（7-34）说明，在 处函数 的梯度 与前一步的寻找方向 必正交。如果 ，则有（7-34）第36页，此课件共102页哦若不然，不妨先设 。再设 ,即 是最优步长。在 附近选一个 ，将 在 处展开，保留一阶项后，有 证明：证明：（7-35）第37页，此课件共102页哦这与 为极小相矛盾。若设 则可取 ，同样得出矛盾，于是必有（7-34）成立。第38页，此课件共102页哦性质3（7-36）说明，在 处的梯度 与以前各步的共轭梯度寻找方向都正交。若 ，则必有（7-36）第39页，此课件共102页哦证明证明由（7-22）式所假定的二次函数 ，可得（7-38）（7-37）得

12、到重复使用第40页，此课件共102页哦设 为极小点，则（7-39）（7-38）减去（7-39）得（7-40）第41页，此课件共102页哦上式两边对 作内积，得（7-42）（7-41）=（7-37）代入（7-40），得第42页，此课件共102页哦由性质2知 再由 与是 共轭的定义可知（7-42）右端第二项也为零，因此 （7-36）得证。第43页，此课件共102页哦但 是线性无关的，它们构成 中一组基，与所有基正交，而 中只有 个基，故 。这说明 处的梯度为零，即 为二次函数 的极小点。如果取 ，则（7-43）第44页，此课件共102页哦如果一个算法能在有限步内求出二次函数的极小点，就称这个算法具

13、有二阶收敛性或有限步收敛性。由此可见，在 空间中，对二次函数 用（7-25）式所示的共轭梯度法寻优，迭代至多 步就可达到极小点。第45页，此课件共102页哦性质4若 ，则（7-44）第46页，此课件共102页哦证：证：（7-44）得证。由性质3和（7-26）式知第47页，此课件共102页哦 下面根据这四个性质来推出 的一个简单的计算公式。在（7-41）中令 ,可导出第48页，此课件共102页哦再利用（7-26）式，可得 由性质4知 ，因此得（7-45）第49页，此课件共102页哦 用（7-46）计算 ，只用到 在 和 两处的梯度，因此非常方便。（7-46）对二次函数是精确的，对非二次函数，它只

14、是一个近似公式 由性质3，就可得出（7-46）第50页，此课件共102页哦 将共轭梯度法求 的极小解的算式归纳如下：（4）递推逼近极值点解 用一维寻优决定。（2）算共轭系数 ，（1）算梯度（3）算共轭梯度第51页，此课件共102页哦2、用共轭梯度法解最优控制问题 前面已说过，最优控制计算的直接法是用迭代方法逐步改善控制量 ，使它最后满足哈密顿函数 取极小的必要条件。第52页，此课件共102页哦 除了这些以外，其它在形式上与求函数极值的共轭梯度法一样。故梯度向量为（7-47）这里梯度向量 是时间的函数，向量时间函数的内积定义为（7-48）第53页，此课件共102页哦共轭梯度法求最优控制步骤为（1

15、）（2）（3）设已求出第K步估计的控制函数 可任选。以 为初值，从 到 积分状态方程，得出状态轨迹 。以 为终值，从 到 反向积分协态方程，求得协态轨迹 。第54页，此课件共102页哦（4）（5）（6）计算梯度向量计算共轭系数时，。（7-49）时，。（7-50）计算共轭梯度第55页，此课件共102页哦（7）（8）停止计算。否则令 ,回到步骤2。当满足下面的不等式（7-53）用一维寻优决定 ，即 （7-52）（7-51）计算控制函数第56页，此课件共102页哦例7-2要求用共轭梯度法决定最优控制 ，使 最小。性能指标（7-56）设系统状态方程为（7-54）（7-55）第57页，此课件共102页哦

16、解（常数）（7-59）（7-58）协态方程为（7-57）哈密顿函数为第58页，此课件共102页哦（7-62）（7-63）故协态方程化为（7-61）（7-60）由横截条件第59页，此课件共102页哦（1）选 ，代入状态方程和协态方程（7-54）、（7-55）、（7-62）和（7-63），时的计算可求得积分可得第60页，此课件共102页哦 梯度向量共轭梯度 。第61页，此课件共102页哦（2）时 ，用一维寻优来决定。将 代入状态方程（7-54）、（7-55）和协态方程（7-62）、（7-63），得第62页，此课件共102页哦积分得可求得 的最优值为于是第63页，此课件共102页哦 由（7-62）式

17、积分上式可得第64页，此课件共102页哦 共轭系数共轭梯度第65页，此课件共102页哦（3）时，控制量为同以上步骤，将 代入状态方程和协态方程，求出对 寻优，可得 ，于是由第66页，此课件共102页哦 所以这个例子只要两步迭代即可得到最优解。一般说来，共轭梯度法比梯度法收敛快，但接近最优解后收敛性仍是较慢的。一个补救办法是重新启动，即找出几个共轭梯度方向 后，令 ，再用（7-50）重新迭代，寻找共轭梯度方向。可以证明 ，即为最优控制。这只要证明即可。第67页，此课件共102页哦7.2 间接法（一）边界迭代法这个方法的特点是逐步改善对缺少的初始条件的估计，以满足规定的边界条件。它的原理如下。第6

18、8页，此课件共102页哦可解出 ，将它表示为 和 的函数，即利用哈密顿函数H取极小的方法（7-64）将所求得的 代入正则方程（7-1），消去正则方程中的 。再引入增广状态（7-65）第69页，此课件共102页哦 设（7-65）式有 个已知初始条件 ，个终端条件已知，设为 和 ，这是混合式的两点边值条件（参见例3-6），用边界迭代法也很易处理。一般是非线性向量函数。则正则方程（7-1）可写成（7-66）第70页，此课件共102页哦 显然，是已知的，设（7-67）定义第71页，此课件共102页哦因 未知，用一个估计值 得到的解为（7-69）设由 、出发积分正则方程（7-66），求得解 ,从中抽出

19、个分量构成 。显然 的值将随 而变，记成（7-68）第72页，此课件共102页哦 因 估计得不一定准确，故 一般不等于给定值 .将（7-68）在 处展开为台劳级数，保留一次项，得 其中，是 维矩阵，称为敏感矩阵或转移矩阵。（7-70）第73页，此课件共102页哦 式中，是 的第 行，第 列元素。（7-71）式右端表示由第 行第 列元素构成的矩阵。由（7-69）和（7-70）可得（7-71）（7-72）因 一般是非线性函数，（7-72）式是一个近似式，为了求得正确的 ，要用迭代求解。第74页，此课件共102页哦 其中，是迭代次数，是松驰因子，可改善收敛性，收敛到最后时，将 取为1。在第 步，用

20、作为估值，积分正则方程，求得 ，令 是第 步的估值，则根据（7-72）可得到下面的迭代格式（7-73）第75页，此课件共102页哦 为指定的小值，则停止计算。否则用 代替 ，再积分正则方程，重复进行。若（7-74）第76页，此课件共102页哦计算步骤如下（1）（2）由 解出 ，代入状态和协态方程。设已求出 的第 步估计值 和给定的合在一起，从 积分正则方程，求出 抽出 个要求的分量的终值 ，若 ，停止计算，否则进行下一步。第77页，此课件共102页哦（3）（4）（5）按（7-73）计算 。令 回到步骤2。求敏感矩阵第78页，此课件共102页哦这种方法的缺点是：（1）（2）（3）第一次估计 很困

21、难，终端值对 非常敏感时，与 相差很大，线性关系（7-70）不成立。敏感矩阵难于确定得很精确，对它求逆的运算也容易引入误差。第79页，此课件共102页哦例7-3 系统状态方程为性能指标为用边界迭代法寻找 ，使 最小。（7-77）（7-76）（7-75）第80页，此课件共102页哦解因终端 ，自由，故 设 的初始估计值为零，迭代结果见表7-1。可见在第7次迭代时，、已为零，满足了边界条件。第81页，此课件共102页哦表7-1第82页，此课件共102页哦 这个方法的特点是用迭代算法来改善对正则方程解的估计，使它逐步逼近正则方程的精确解。和前面一样，将正则方程写成。（二）拟线性化法 设已知 个初始条

22、件 和 个终端条件 （7-79）（7-78）第83页，此课件共102页哦 拟线性化法将非线性两点边值问题转化为线性两点边值问题，因此变得容易求解。设在迭代的第 步获得近似解 ，将正则方程（7-78）在 展开，保留一次项，可得到 步的近似解 ，有（7-80）第84页，此课件共102页哦满足给定边界条件（7-81）（7-82）第85页，此课件共102页哦（7-80）可写成下面的线性非齐次方程（7-83）或（7-84）是 的系统矩阵，其中（7-85）第86页，此课件共102页哦可停止计算当满足（7-87）是 驱动函数向量。（7-84）是线性微分方程，由给定的 个边界条件可确定其通解的 个未知常数，故

23、解 可完全被确定。（7-86）第87页，此课件共102页哦例7-4用拟线性化法求 ，使 最小。系统方程为性能指标为（7-89）（7-88）第88页，此课件共102页哦解哈密顿函数为（7-90）（7-91）第89页，此课件共102页哦上式代入状态方程后得到（7-92）（7-93）或写成（7-94）上式与（7-78）对照可知（7-95）第90页，此课件共102页哦根据（7-85）、（7-86）可得（7-96）（7-97）第91页，此课件共102页哦 于是线性化后的正则方程（7-84）中的系数阵 和驱动项 都已确定，解这个非齐次时变微分方程，并用边界条件 和 以决定通解中的未定常数，就完全确定了 ，

24、这就完成了一次迭代。当满足（7-87）式时，停止计算，求解结束。第92页，此课件共102页哦7.3 小结小结 1 最优控制的计算方法可分为直接法和间接法两大类。直接法中我们列举了梯度法和共轭梯度法。间接法中列举了边界迭代法和拟线性化法。第93页，此课件共102页哦2 直接法的特点是：在每步迭代中并不满足哈密顿函数 取极小的必要条件，只是在迭代终了才满足这个条件；另外积分状态方程时是从 ，而积分协态方程时是从 。由于状态和协态的稳定性是相反的，所以这种双向积分，可使最优化过程非常稳定。这可举一简单例子来说明。第94页，此课件共102页哦例 7-5 （7-98）（7-99）第95页，此课件共102

25、页哦解：（7-100）于是协态方程为（7-101）第96页，此课件共102页哦 设 ，则从 ，收敛，而 发散。若从 ，则 就变为收敛了。解这两个方程，得（7-102）（7-103）第97页，此课件共102页哦3 梯度法是利用梯度信息 来不断改善对控制函数 的估计，最后满足 的必要条件。这是一种简单又稳定的算法，几乎对所有的 的初始估计都有很好的收敛性。但在远离最优解时收敛速度快，在接近最优解时收敛得慢（原因在于 ）。第98页，此课件共102页哦 共轭梯度法比梯度法稍微复杂些，但收敛速度也快些。同样，在接近最优解时，共轭梯度法收敛速度变慢。要加速接近最优解时的收敛速度可用二阶变分法，不过这种方法

26、的计算复杂程度要增加很多。第99页，此课件共102页哦4 间接法的特点是：在每步迭代中都满足 取极小的必要条件；另外，它同时从一个方向（从 或从 ）积分状态和协态方程。由于状态和协态的稳定性相反，这就使得对边界条件的初始估计非常敏感。尤其当终端时刻远远大于系统的最小时间常数时，收敛性可能很差。第100页，此课件共102页哦5 边界迭代法是在每步迭代中不断改善对缺少的初始条件的估计去满足给定的终端条件（也可改善对缺少的终端条件的估计去满足给定的初始条件），这种方法对初始估计（如 ）是非常敏感的，只有在能获得良好的初始估计时，才建议使用这种方法。第101页，此课件共102页哦 拟线性化法将非线性正则方程围绕上一步的估计解轨迹 线性化，递推解出 最后满足正则方程。这种方法对初始估计 可能不如边界迭代法对初始估计 那么敏感。并且求线性微分方程的解也比较容易。第102页，此课件共102页哦