无约束最优化问题的最优性条.ppt
第三章第三章 最优性条件最优性条件Optimality Conditions 所谓所谓所谓所谓最优性条件最优性条件最优性条件最优性条件，是指最优化问题的最优解所要满足的，是指最优化问题的最优解所要满足的，是指最优化问题的最优解所要满足的，是指最优化问题的最优解所要满足的必要条件必要条件必要条件必要条件或或或或充分条件充分条件充分条件充分条件，这些条件对于最优化算法的建立，这些条件对于最优化算法的建立，这些条件对于最优化算法的建立，这些条件对于最优化算法的建立和最优化理论的推整都是至关重要的和最优化理论的推整都是至关重要的和最优化理论的推整都是至关重要的和最优化理论的推整都是至关重要的.p 无约束最优化问题的最优性条件无约束最优化问题的最优性条件p 等式约束最优化问题的最优性条件等式约束最优化问题的最优性条件p 不等式约束最优化问题的最优性条件不等式约束最优化问题的最优性条件p 一般约束最优化问题的最优性条件一般约束最优化问题的最优性条件第三章第三章 最优性条件最优性条件无约束最优化问题的最优性条件无约束最优化问题的最优性条件若若n=1,则则f(x)为一元函数为一元函数.(1)若若为的局部极小点，的局部极小点，则则 (3)若若则则为为的严格局部极小点；的严格局部极小点；若若 (2)为的局部极小点，的局部极小点，则则：无约束最优化问题的最优性条件无约束最优化问题的最优性条件回顾：回顾：一元函数的最优性条件一元函数的最优性条件必必要要条条件件充分充分条件条件一阶必要条件一阶必要条件定理定理3.1.13.1.1若若为为的局部极小点，的局部极小点，且在且在内内一阶连续可微，一阶连续可微，则则注注:(1(1)仅仅是必要条件，而非充分条件仅仅是必要条件，而非充分条件(2)(2)满足满足的点称为的点称为驻点驻点驻点分为：极小点，极大点，鞍点驻点分为：极小点，极大点，鞍点无约束最优化问题的最优性条件无约束最优化问题的最优性条件Stationary Stationary PointPointSaddle Saddle PointPoint平稳点平稳点平稳点平稳点一阶必要条件一阶必要条件无约束最优化问题的最优性条件无约束最优化问题的最优性条件：函数曲面在：函数曲面在：函数曲面在：函数曲面在x*x*处的切平面是水平的处的切平面是水平的处的切平面是水平的处的切平面是水平的.所谓所谓所谓所谓x*x*是鞍点是鞍点是鞍点是鞍点,从直观上说曲面在从直观上说曲面在从直观上说曲面在从直观上说曲面在x*x*处沿某方向处沿某方向处沿某方向处沿某方向“向向向向上弯曲上弯曲上弯曲上弯曲”，而沿另一方向，而沿另一方向，而沿另一方向，而沿另一方向“向下弯曲向下弯曲向下弯曲向下弯曲”.”.定理定理3.1.23.1.2 若若为为的局部极小点，的局部极小点，且在且在内内二阶连续可微，二阶连续可微，则半正定半正定无约束最优化问题的最优性条件无约束最优化问题的最优性条件二阶必要条件二阶必要条件注注:(1)刻画了刻画了f(x)在在x处切平面的法向处切平面的法向.(2)刻画了曲面刻画了曲面f(x)的弯曲方向的弯曲方向.无约束最优化问题的最优性条件无约束最优化问题的最优性条件二阶必要条件二阶必要条件(3)定理定理3.1.2仅仅是仅仅是必要条件必要条件而非充分条件而非充分条件.例例在在x0=(0,0)T处，有处，有定理定理3.1.33.1.3若在若在 内内 二阶连续可微，二阶连续可微，且且 正定正定,则则 为严格局部为严格局部 极小点极小点 注注:(1)(1)如果如果 负定负定,则则 为严格局部极大点为严格局部极大点 二阶充分条件二阶充分条件无约束最优化问题的最优性条件无约束最优化问题的最优性条件(2)定理定理3.1.3仅仅是仅仅是充分条件充分条件而非必要条件而非必要条件.分析分析分析分析:x x0 0=(0,0)=(0,0)T T为其严格局部极小点为其严格局部极小点为其严格局部极小点为其严格局部极小点.但有但有但有但有例例定理定理3.1.43.1.4 设设在在上是凸函数且在上是凸函数且在x*x*处一阶处一阶连续可微连续可微，则为为的的全局全局极小点的充要极小点的充要条件条件是是无约束最优化问题的最优性条件无约束最优化问题的最优性条件凸优化问题凸优化问题-一阶充要条件一阶充要条件定理定理3.1.53.1.5 设设在在上是上是严格凸函数严格凸函数，在，在x*x*处处则则为为的的惟一全局惟一全局极小点极小点.一阶连续可微一阶连续可微，例例1 1：利用极值条件解下列问题：利用极值条件解下列问题：解：解：令令即：即：得到驻点：得到驻点：无约束最优化问题的最优性条件无约束最优化问题的最优性条件函数函数的的HesseHesse阵：阵：故，故，在点在点处的处的HesseHesse阵依次为：阵依次为：无约束最优化问题的最优性条件无约束最优化问题的最优性条件由于矩阵由于矩阵不定，不定，则则不是极小点不是极小点负定，负定，则不是极小点，不是极小点，实际上它是极大点实际上它是极大点正定，正定，则是局部极小点是局部极小点无约束最优化问题的最优性条件无约束最优化问题的最优性条件
