经典最优化方法精选课件.ppt

关于关于经典最典最优化方法化方法第一页，本课件共有34页内容介绍内容介绍u微分学中求极值u无约束最优化问题u常用微分公式u凸集与凸函数u等式约束最优化问题u不等式约束最优化问题u变分学中求极值第二页，本课件共有34页微分学中求极值微分学中求极值一元函数的极值1.一元函数极值的求法与判别必要条件：设函数 在点 处具有导数，且在 处 取得极值，则该函数 在 处的导数 这里有个前提，即函数 在设计区间要连续可导。凡是满足上述的点都叫函数 的驻点。我们可知驻点并不完全是极值点，它还有拐点，当然，极值点必定是驻点。因此，还必须有判别函数极值的更充分条件。第三页，本课件共有34页微分学中求极值微分学中求极值第四页，本课件共有34页微分学中求极值微分学中求极值第五页，本课件共有34页微分学中求极值微分学中求极值二元函数的极值第六页，本课件共有34页微分学中求极值微分学中求极值第七页，本课件共有34页微分学中求极值微分学中求极值第八页，本课件共有34页微分学中求极值微分学中求极值(3)赫森矩阵（Hesse）第九页，本课件共有34页无约束最优化问题无约束最优化问题由上一节可知，对于无约束最优化问题，其数学模型中只有目标函数采用解析法求解，其求解过程可以归结为一下三个步骤：1.令梯度g=0，解出各个驻点。2.计算各驻点的矩阵 A,判断矩阵A正定或负定，得到相对应的极小点 或极大点；3.计算极值。第十页，本课件共有34页常用微分公式常用微分公式第十一页，本课件共有34页凸集与凸函数凸集与凸函数第十二页，本课件共有34页凸集与凸函数凸集与凸函数第十三页，本课件共有34页凸集与凸函数凸集与凸函数第十四页，本课件共有34页凸集与凸函数凸集与凸函数第十五页，本课件共有34页凸集与凸函数凸集与凸函数第十六页，本课件共有34页凸集与凸函数凸集与凸函数第十七页，本课件共有34页凸集与凸函数凸集与凸函数第十八页，本课件共有34页凸集与凸函数凸集与凸函数第十九页，本课件共有34页凸集与凸函数凸集与凸函数第二十页，本课件共有34页凸集与凸函数凸集与凸函数第二十一页，本课件共有34页凸集与凸函数凸集与凸函数第二十二页，本课件共有34页凸集与凸函数凸集与凸函数第二十三页，本课件共有34页等式约束最优化问题等式约束最优化问题等式约束最优化问题的数学模型式这里介绍两种比较常用的方法：消元法和拉格朗日乘子法。第二十四页，本课件共有34页等式约束最优化问题等式约束最优化问题第二十五页，本课件共有34页等式约束最优化问题等式约束最优化问题第二十六页，本课件共有34页等式约束最优化问题等式约束最优化问题第二十七页，本课件共有34页等式约束最优化问题等式约束最优化问题第二十八页，本课件共有34页不等式约束最优化问题不等式约束最优化问题不等式约束的最优化问题的解析法与前面处理的基本思路相类似，也是构造一个包含原目标函数与约束函数的新目标函数。只是具体的构造方法不同，这里处理的也是二维问题 原问题的数学模型为引入一个松弛变量r,把约束条件改为等式约束，即 第二十九页，本课件共有34页不等式约束最优化问题不等式约束最优化问题第三十页，本课件共有34页等式约束最优化问题等式约束最优化问题第三十一页，本课件共有34页变分学中求极值变分学中求极值第三十二页，本课件共有34页变分学中求极值变分学中求极值第三十三页，本课件共有34页感谢大家观看第三十四页，本课件共有34页