最优化原理复习纲要

复习第一章绪论一.基本概念二.知识点局部极小点、全局极小点、凸集、极点、极方向、凸函数FarkasGordan图解法、点与闭凸集的分离定理、引理、择一定理、凸函数的一阶、二阶充要条件.第四章无约束最优化问题的一般结构方向导数、一维搜索、局部收敛与全局收敛、收敛速率、算法的二次终止性一.基本概念4.1.4.一阶必要条件、二阶必要条件、二阶充分条件、定理、最速下降算法二.知识点精确一维搜索、非精确一维搜索、单峰函数黄金分割法.第五章一维搜索一.基本概念二.知识点共轭方向NewtonNewton方程、法算法、共轭梯度法、拟牛顿法的基本性质第六章使用导数的最优化方法一.基本概念二.知识点KKTLagrangian下降方向、可行方向、凸规划、有效约束(起作用约束)、点、函数第八章约束问题的最优性条件一.基本概念二.知识点KKT一阶必要条件（条件）、二阶必要条件、二阶充分条件第十章可行方向法知识点:Zoutendijk可行方向法、投影阵及其基本性质(外)罚函数、(内)罚函数、第十一章乘子法一.基本概念二.知识点()(外)罚函数算法、内罚函数算法、罚函数法相关理论结果******2*11()min{():}()0.()min{():}()0Hessian()1()(;)()1.2.3.4..,,nnTkfxxxfxxRfxfxxxfxxRfxfxfxfxdfxddGnddGd∈∇=∈∇=∇′=∇…设在处可微，若是无约束问题的局部解，则设在点处二阶可微，若是无约束问题的局部解，则，且阵是半正定阵.设若具有连续一阶偏导数，则设是阶对称正定阵，是共轭的非零向量，则**,,.()min{():}()0.5.kndfxxfxxRfx…∈∇=线性无关设目标函数是连续可微凸函数，则是无约束问题的全局解的充要条件是证明题：12,()min{():}()(),(){:()0},().,,,:(6.x.)ma7nnTnkSRfxxxfxxSDxFxDxdRfxdFxxfffRRfx⊆∈=∅=∈∇→=∩设在处可微，是约束问题的局部最优解，证明其中是该约束问题在处的可行方向的全体设是凸函数，证明函数12n1118{(),(),,()}..()2,0,1,2,,,1,,1,2,,,()()..9.kmiiiimmiiiiiifxfxfxDRfxDmimxDimfxfxαααα===⊂∀≥≥==∈=≤∑∑∑是凸函数证明两个凸集的交集仍为凸集设为凸集，是定义在上的凸函数的充要条件是有{}{}{}1111(1)(;)(;)(;);(2)()()();(3)()()().kkkkkkkkkkkkPxPxPxSxSxSxfxfxfxσσσ++++≤≥≤，即序列非减，即序列非增，即序列非减111100,min{(;}.)kkkkkkxxPxσσσσσ+++设和分别为取罚参数及时无约束问题的全局最优解，则下列不等式成立：