第8章约束优化准则及转换算法PPT讲稿.ppt

第8章 约束优化准则及转换算法第1页，共26页，编辑于2022年，星期一无约束最优化准则第2页，共26页，编辑于2022年，星期一n等式约束最优化准则：Lagrange乘子法n不等式约束最优化准则：Kuhn-Tucker条件一阶条件二阶条件8.1约束优化问题的最优化准则第3页，共26页，编辑于2022年，星期一8.1.1等式约束最优化准则第4页，共26页，编辑于2022年，星期一不等式约束问题式（式（1）第5页，共26页，编辑于2022年，星期一不等式约束的Kuhn-Tucker条件(KTC)或Kuhn-Tucker问题(KTP)式（式（1）式（式（2）第6页，共26页，编辑于2022年，星期一定理8.1:Kuhn-Tucker必要性条件对式(1)所述的优化问题，考察x*，如果函数f,g,h可微，x*满足式（1）中的约束条件，并令 与 线性无关那么，如果x*是优化问题(1)的解，则必存在(u*,v*)使得(x*,u*,v*)为 KTC条件（2）的解。第7页，共26页，编辑于2022年，星期一定理8.2:Kuhn-Tucker充分性条件对式(1)所述的优化问题，如果n目标函数f为凸函数，n所有不等式约束函数g为凹函数，n所有等式约束函数h为线性函数，那么，如果(x*,u*,v*)为 KTP（2）的解，则x*是优化问题(1)的解。第8页，共26页，编辑于2022年，星期一定理8.3:Kuhn-Tucker二阶必要性条件对式(1)所述的优化问题，考察x*，如果函数f,g,h二阶可微，x*满足式（1）中的约束条件，并令 与 线性无关那么，如果x*是优化问题(1)的解，则1.必存在(u*,v*)使得(x*,u*,v*)为 KTC条件（2）的解。2.必有 ，其中 HL为L的二阶导数，y为约束子空间中任意向量，满足下二式：第9页，共26页，编辑于2022年，星期一定理8.4:Kuhn-Tucker二阶充分性条件对式(1)所述的优化问题，其中函数f,g,h二阶可微，如果存在(u*,v*)使得(x*,u*,v*)为 KTC条件（2）的解。式 对任意满足以下三式的非零向量y成立那么，如果x*是优化问题(1)的解第10页，共26页，编辑于2022年，星期一鞍点条件：不可微函数的最优化准则nKuhn-Tucker鞍点问题（KTSP）式（式（4）式（式（3）第11页，共26页，编辑于2022年，星期一鞍点条件：不可微函数的最优化准则n定理8.5:KTSP充分性条件如果(x*,u*)是KTSP（式（4）的鞍点，则x*是优化问题（式（3）的解第12页，共26页，编辑于2022年，星期一鞍点条件：不可微函数的最优化准则n定理8.6:KTSP鞍点存在性条件如果uj0,且x*为L(x,u*)最小值gj(x*)0,j=1,Jujgj(x*)=0,j=1,J则(x*,u*)是KTSP（式（4）的鞍点第13页，共26页，编辑于2022年，星期一8.2 约束优化的转换算法把约束优化转化为无约束优化第14页，共26页，编辑于2022年，星期一8.2.1惩罚函数方法R：惩罚因子，对违反约束的取值要大，对符合约束的取值要小惩罚因子，对违反约束的取值要大，对符合约束的取值要小第15页，共26页，编辑于2022年，星期一抛物型惩罚函数举例第16页，共26页，编辑于2022年，星期一抛物型惩罚函数举例优化迭代序列优化迭代序列第17页，共26页，编辑于2022年，星期一抛物型惩罚函数举例第18页，共26页，编辑于2022年，星期一第19页，共26页，编辑于2022年，星期一对数惩罚函数举例第20页，共26页，编辑于2022年，星期一对数惩罚函数举例第21页，共26页，编辑于2022年，星期一8.2.2乘子法第22页，共26页，编辑于2022年，星期一8.2.2乘子法n算法min第23页，共26页，编辑于2022年，星期一8.2.2乘子法n特点n 函数扭曲不大，不增加求解难度n等价于Kuhn-Tucker条件：第24页，共26页，编辑于2022年，星期一乘子法举例第25页，共26页，编辑于2022年，星期一乘子法举例第26页，共26页，编辑于2022年，星期一