结构优化设计--崔昌禹(哈尔滨工业大学)惩罚函数法与广义乘子法

4.6惩罚函数法与广义乘子法4.6-1惩罚函数法约束最优化问题基本是想无约束最优化问题利用问题的目标函数和约束函数构造新的目标函数——罚函数（penaltyfunction）4.6-1外惩罚函数法min()s.t.()0,1,2,,()0,1,2,,xxxijfgimhjl考虑约束非线性最优化问题()fx()(1,2,,)xigim()(1,2,,)xjhjl其中，和nRS都是定义在上的实值函数。记问题（1）的可行域为。(1)()((),(),())xxxxijFFfghmin()s.t.()0,1,2,,()0,1,2,,xxxijfgimhjl()xf()xig()xjh和约束函数及所构造的、具有“惩罚性质”的辅助函数“惩罚性质”xS()()xxFfxS()()xxFf()()xxFfxS要求当且仅当；而时，，并且随着到的距离的增大而增大。对于等式约束问题min()s.t.()0,1,2,,xxjfhjl211(,)()()xxxljjFfh1min(,)xxnFR最优解必使所有都接近0。否则，罚函数的第二项是很大的正数，与最优解取到极小值矛盾。()(1,2,,)xjhjl1(,)xF对于不等式约束问题min()s.t.()0,1,2,,xxifgim2min(,)xxnFR最优解必使所有都接近0或小于0。否则，罚函数的第二项是很大的正数，与最优解取到极小值矛盾。()(1,2,,)xigim221(,)()[max{0,()}]xxxmiiFfg一般的约束最优化问题min()s.t.()0,1,2,,xxifgimmin()s.t.()0,1,2,,xxjfhjl11()[()][()]xxxmlijijPgh)(minx,F和是满足下列条件的实值函数：(,)()()xxxFfP其中是很大的正数，是连续函数。()xP()0,0()0,0yyyy当时当时()0,0()0,0yyyy当时当时函数和的典型取法:11其中和是给定的常数，通常取作1或2。()[max{0,}]()yyyy转化求解法（一）：罚函数法外罚函数法Step1选取初始数据。给定初始点，初始罚因子，放大系数，允许误差，令。10Step2求解无约束问题，以为初始点，求解无约束问题，设其最优解为。Step3检查是否满足终止准则，若，则迭代终止，为约束问题的近似最优解；否则，令，返回Step2。0x101k1kxmin(,)()()nkkxRFfPxxxkx()kkPxkx1,:1kkkkmin()s.t.()0,1,2,,,()0,1,2,,,ijfgimhjlxxx转化求解法（一）：罚函数法外罚函数法例题转化求解法（一）：罚函数法外罚函数法例题转化求解法（一）：罚函数法外罚函数法例题转化求解法（一）：罚函数法外罚函数法例题4.6-2内惩罚函数法在迭代中总是从可行点出发，并保持在可行域内部进行搜索。因此，这种方法适用于只有不等式约束的最优化问题基本是想(,)()()xxxGrfrB),(minrGx考虑约束非线性最优化问题显然，罚函数的作用对企图脱离可行域的点给予惩罚，相当于在可行域的边界设置了障碍，不让迭代点穿越到可行域之外，因此也称为障碍函数（barrierfunction）。(,)xGr对于不等式约束问题，其可行域的内部。为了保持迭代点始终含于,是很小的正数，是上的非负实值连续函数，当点趋向可行域的边界时，。Sint{|()0,1,2,,}xxniSgimRintSr()xBintSxS()xBmin()s.t.()0,1,2,,xxifgim两种常用的形式11(,)()()xxxmiiGrfrg1(,)()ln()xxxmiiGrfrgr0min(,)()()s.t.intxxxxGrfrBSr如果太小，则会给问题的求解带来很大困难。利用序列无约束极小化方法（SUMT）min(,)()()s.t.intxxxxkkGrfrBSmin()s.t.()0,1,2,,xxifgim内罚函数法Step1选取初始数据。给定初始点，初始参数，缩小系数允许误差，令)1,0(0Step2求解无约束问题，以为初始点，求解无约束问题设其最优解为。Step3检查是否满足终止准则，若，则迭代终止，为约束问题的近似最优解；否则，令返回Step2。Sxint0101k1kxmin(,)()()s.t.intkkGrfBxSxxxkx()kkBxkx1,:1kkkk转化求解法（一）：罚函数法min()s.t.()0,1,2,,,ifgimxx转化求解法（一）：罚函数法内罚函数法例题转化求解法（一）：罚函数法内罚函数法例题转化求解法（一）：罚函数法内罚函数法例题4.6-3增广乘子法把罚函数与Lagrange函数结合起来，构造出更合适的新目标函数，使得在罚因子适当大的情况下，借助于Lagrange乘子就能逐步达到原约束问题的最优解。由于这种方法要借助于Lagrange乘子的迭代进行求解而又区别于经典的Lagrange乘子法，故称为广义乘子法。基本是想（一）、等式约束下的广义乘子法等式约束的最优问题21min()()2s.t.()0,1,2,,xxxljjjfhhjlmin()s.t.()0,1,2,,xxjfhjl其中0。该问题的Lagrange函数2()11(,,)()()()2xvxxxllkjjjjjLfhvh(,,)xvL21()2xljjh()1()xlkjjjvh罚项乘子项乘子罚函数（multiplierpenaltyfunction）与外罚函数类似，若设{}k为单调递增的正数列等式约束问题转化为求解一系列的无约束问题2()11min(,,)()()()2xxvxxxnllkkkkjjjjjLfhvhR()()()12(,,,)vkkkTklvvv其中是第k次迭代中采用的Lagrange乘子（1）（1）终止准则：()hxkkvk与的选取问题：()1(,,)()()()xxvxxxlkkkjkjjjLfvhh最优解为xk时()1(,,)()()()xxvxxx0lkkkkjkjkjkjLfvhh(1)()(),1,2,,xkkjjkjkvvhjl等式约束下的增广乘子法Step1选取初始数据。给定初始点，初始乘子，初始罚因子，放大系数，允许误差，参数，令。10Step2求解无约束问题，以为初始点，求解无约束问题，设其最优解为。Step3检查是否满足终止准则，若，则迭代终止，为等式约束问题0x1k1kx2()11min(,,)()()()2nllkkkkjjjRjjLfhxhxxxλxkx()khxkxmin();s.t.()0,1,2,,,jfhilxx1λ10(0,1)转化求解法（二）：增广乘子法的近似最优解；否则，转Step4。Step4判断收敛快慢。若则令转Step5，否则令，转Step5;Step5进行乘子迭代。令及返回Step2。1()()kkhhxx1,kk1:,kk(1)()(),1,2,,,kkjjkjkhjlx1:kk转化求解法（二）：增广乘子法转化求解法（二）：增广乘子法等式约束下的增广乘子法例题转化求解法（二）：增广乘子法等式约束下的增广乘子法例题转化求解法（二）：增广乘子法等式约束下的增广乘子法例题（二）、不等式约束下的增广乘子法min()s.t.()0,1,2,,,ifgimxx2min()s.t.()0,1,2,,.iifgyimxx上述问题对应的广义乘子法中的乘子罚函数为：22()211(,,,)()()()2mmkkkkiiiiiiiLyfgygyxxxxmikkikiikkikkkxgyxfyxL12222)())((12)(),,,(0)(kiikxg))((12kiikkixgy0)(kiikxg0iy))((1,0max2kiikkixgy22()11(,,)()max0()2m(k)kkkikiiikLf,gxxx当时，当时，(,,,)kkLxy极小。),,,(kkyxL),,(kkxL不等式约束下的增广乘子法Step1引入附加变量将问题等价于等式约束问题Step2上述问题对应的广义乘子法中的乘子罚函数为：Step3对函数关于求极小，然后定义出于无关的乘子罚函数将不等式约束问题转化为求解一系列无约束问题。Tmyyyy),,(21min()s.t.()0,1,2,,,ifgimxx2min()s.t.()0,1,2,,.iifgyimxx22()211(,,,)()()()2mmkkkkiiiiiiiLyfgygyxxxx(,,,)kkLxyyiy22()11(,,)()max0()2m(k)kkkikiiikLf,gxxxmin(,,)nkkxRLx具体计算步骤与等式约束的情形类似。转化求解法（二）：增广乘子法转化求解法（二）：增广乘子法不等式约束下的增广乘子法例题转化求解法（二）：增广乘子法不等式约束下的增广乘子法例题转化求解法（二）：增广乘子法不等式约束下的增广乘子法例题转化求解法（二）：增广乘子法不等式约束下的增广乘子法例题