《机械优化设计》-第二-五讲2015

第二章优化设计的数学基础一、等值（线）面对于可计算的函数f(x)，给定一个设计点X(k)(x1(k),x2(k),…,xn(k))，f(x)总有一个定值c与之对应；而当f(x)取定值c时，则有无限多个设计点X(i)(x1(i),x2(i),…,xn(i))（i=1,2,…）与之对应，这些点集构成一个曲面，称为等值面。当c取c1,c2,…等值时，就获得一族曲面族，称为等值面族。当f(x)是二维时，获得一族等值线族；当f(x)是三维时，获得一族等值面族；当f(x)大于三维时，获得一族超等值面族。等值线的“心”（以二维为例）第二章优化设计的数学基础一个“心”：是单峰函数的极（小）值点，是全局极（小）值点。没有“心”：例，线性函数的等值线是平行的，无“心”，认为极值点在无穷远处。多个“心”：不是单峰函数，每个极（小）值点只是局部极（小）值点，必须通过比较各个极值点和“鞍点”（须正确判别）的值，才能确定极（小）值点。第二章优化设计的数学基础等值线的分布规律：等值线越内层其函数值越小（对于求目标函数的极小化来说）沿等值线密的方向，函数值变化快；沿等值线疏的方向，函数值变化慢。对于有心的等值线来说，其等值线簇的中心就是一个相对极小点；而对于无心的等值线簇来说，其相对极小点就是在无穷远了。第二章优化设计的数学基础二、梯度方向导数：函数值在某一个方向的变化率。二维问题中，f(x1,x2)在X(0)点沿方向s的方向导数为：22)0(11)0()0(cos)(cos)()(xxfxxfsxf(0)(0)(0)(0)1212()()[coscos],=()=()cos,TfxfxSfxfxSfSxx，其中：Txxfxxfxf2)0(1)0()0()(,)()(是X(0)点的梯度。S为s方向的单位向量，。1coscos2212S为S的方向角,21,方向导数sf为梯度在方向s上的投影。第二章优化设计的数学基础梯度的性质：①梯度的模因点而异，即函数f(x)在不同点的最大增长率不同。②梯度方向是X(0)点处指向函数变化率最大的方向，是函数的一种局部性质，只反映X(0)点邻近的函数性质；③梯度方向与过该点的等值线的切线是正交的，是过该点的等值线的法线方向；④正梯度方向是函数值最速上升的方向，负梯度方向是函数值最速下降的方向。梯度方向的几何意义第二章优化设计的数学基础梯度方向与等值线的关系第二章优化设计的数学基础对于n维问题的梯度Tnxxfxxfxxfxf)(,,)(,)()()0(2)0(1)0()0(2)0(22)0(21)0()0())(())(())(()(nxxfxxfxxfxf第二章优化设计的数学基础例2-1求函数在处函数变化率最大的方向和数值。524),(21222121xxxxxxfTx000解函数变化率最大的方向就是梯度方向，用单位向量表示，其数值就是梯度的模。计算如下：p242242)(0021210xxxxxfxfxf5224)(2222210xfxfxf51525224)()(00xfxfp第二章优化设计的数学基础三、多元函数的泰勒展开n维函数f(x)在x(k)点的泰勒展开式:njinjijikiniikkxRxxxxxfxxxfxfxfk...)(!21)()(1,)(21)()()(二阶近似式：)()()()()()()()(!21)()()(kkTkkTkkxxHxxxfxfxf其中：增量ΔX(k)=[Δx1(k),Δx2(k),…,Δxn(k)]T梯度Tnkkkkxxfxxfxxfxf)(,...,)(,)()()(2)(1)()(Hesse矩阵2222122222212212212212)(2)()(nnnnnkkxfxxfxxfxxfxfxxfxxfxxfxfxfxH第二章优化设计的数学基础例2-2求二元函数在点处的二阶泰勒展开式524),(21222121xxxxxxfTTxxx1220100　　　解二阶泰勒展开式为))(()(21)()(),(),(00000201021xxxHxxxxxfxxfxxfTT将的具体数值代入，有0x0),(2010xxf002242)(0021210xxxxxfxfxf第二章优化设计的数学基础2002)(02221222122120xxfxxfxxfxfxH22212121202101020210121)1()2(1220021221)(21),(xxxxxxxxxxxHxxxxxxf此函数的图像是以点为顶点的旋转抛物面。0x对于二次型函数，当对任何非零向量使0)(HxxxfTHx则二次型函数正定，为正定矩阵。四、Hesse矩阵与正定由线性代数可知，对称矩阵正定的条件是它的行列式的顺序主子式全部大于零。第二章优化设计的数学基础Hesse矩阵的特性：是实对称矩阵。Hesse矩阵的正定性：H(x*)正定，是x*为全局极小值点的充分条件；H(x*)半正定,是x*为局部极小值点的充分条件；H(x*)负定，是x*为全局极大值点的充分条件；H(x*)半负定,是x*为局部极大值点的充分条件。H是正定矩阵的充要条件是它的所有主子式都大于0;H是负定矩阵的充要条件是它的所有奇数阶主子式都小于0，并且它的所有偶数阶主子式都大于0；H是半正定矩阵的充要条件是它的所有主子式都大于等于0；H是半负定矩阵的充要条件是它的所有奇数阶主子式都小于等于0，并且它的所有偶数阶主子式都大于等于0；五、凸集、凸函数与凸规划设为n维设计空间中的一个集合，若其中任意两点的连线都包含在该集合内，就称该集合是n维设计空间的一个凸集。R21xx和第二章优化设计的数学基础凸集具有以下性质：1、若是一个凸集，是一个实数，是凸集中的动点，即，则集合AAAaAaaxxA,:还是凸集。2、若是凸集，分别是凸集中的动点，即，，则集合BA和ba、BA、AaBbBbAabaxxBA，,:还是凸集。3、任何一组凸集的交集还是凸集。第二章优化设计的数学基础设为定义在n维设计空间中一个凸集上的函数，若对任何实数及域中任意两点存在如下关系：则称为定义在凸集上的凸函数。凸函数)(xfR)10(R21xx和)()1()()1(2121xfxafxxf)(xfR一元函数若在[a，b]内为凸函数，其函数曲线上任意两点所连的直线段不会落在曲线弧段以下，即函数值总是小于或等于直线段上相应的纵坐标值。)(xf第二章优化设计的数学基础第二章优化设计的数学基础凸函数的基本性质：若f(x)是定义在凸集D上的严格凸函数，则f(x)在D上的一个极小点，也就是全局最小点。凸函数的线性组合仍然为凸函数。设x(1),x(2)为凸函数f(x)上的两个最小点，则其连线上的任意点也都是最小点。凸性函数的判定（判别函数为凸函数的条件）按梯度判断凸性：设f(x)是定义在凸集D上具有连续一阶导数的函数，则f(x)在D上为凸函数的充要条件是：对于任意的x(1),x(2)∈D都有成立。按二阶偏导数判断凸性：设f(x)是定义在凸集D上具有连续二阶导数的函数，则f(x)在D上为凸函数的充要条件是：f(x)的Hesse矩阵处处半正定。若Hesse矩阵处处正定，则f(x)为严格凸函数。][)]([)()()1()2()1()1()2(xxxfxfxfT)(pf目标函数是非凸函数（图a），或可行域是非凸集（图b）：则目标函数等值线与适时约束曲面可能存在多个切点，是局部极值点，其中只有一个点是全局最优点。p)(pg)(qf)(qg)(pf)(qf)(pg)(qgQQp第二章优化设计的数学基础凸规划对于约束优化问题mjxgxfj,,2,10)(..)(min　　ｔｓ若、都为凸函数，则称此问题为凸规划。)(xfmjxgj,,2,10)(　1.若给定一点，则集合为凸集。此性质表明，当为二元函数时其等值线呈现大圈套小圈形式。0x)()(0xfxfxR)(xf凸规划的性质第二章优化设计的数学基础2.可行域为凸集。mjxgjxR,,2,10)(　3.凸规划的任何局部最优解就是全域最优解。无约束优化问题是使目标函数取得极小值，极值条件是指目标函数取得极小值时极值点应满足的条件。对一元函数，取极值的必要条件是0)(0xf取极值的充分条件是在驻点附近，若，则该点为极大点，若，则该点为极小点。0)('0xf0)('0xf六无约束优化问题的极值条件对二元函数，取极值的必要条件是00021xxxfxf为了判断从上述必要条件求得的是否为极值点，需要建立极值的充分条件。根据二元函数在点处的泰勒展开式，考虑上述极值必要条件，有0)(0xf222222121221212201021000221),(),(xxfxxxxfxxfxxfxxfxxx即此条件反映了在点处的海森矩阵的各阶主子式均大于零，即对于),(21xxf)(0xH0x所以，二元函数在某点处取得极值的充分条件是要求在该点处的海森矩阵为正定。0)(*21*Txnxfxfxfxf极值的充分条件为*2222122222212212212212*)(xnnnnnxfxxfxxfxxfxfxxfxxfxxfxfxH(2-7)正定。依此类推，多元函数在点处取极值的必要条件为),,,(21nxxxf第二章优化设计的数学基础例2-3求函数的极值。524),(21222121xxxxxxf解首先，根据极值的必要条件求驻点。002242)(0021210xxxxxfxfxf得驻点为1220100xxx再根据极值的充分条件，判断此点是否为极值点。由于第二章优化设计的数学基础2002)(02221222122120xxfxxfxxfxfxH的一阶主子式和二阶主子式分别为020212xxf042002)(0xH故为正定矩阵为极小点，相应的极值为。)(0xHTx2,100)(0xf第二章优化设计的数学基础无约束优化设计问题最优解：不受约束条件限制，使目标函数达到最小值的一组设计变量，即最优点x*=[x1*,x2*,…,xn*]和最优值f(x*)构成无约束问题最优解。x*为无约束极小点的充要条件（1）；(2)Hesse矩阵为正定。0)(*xf)(*xH第二章优化设计的数学基础约束优化设计问题最优解：满足约束条件，使目标函数达到最小值的一组设计变量，即最优点x*=[x1*,x2*,…,xn*]和最优值f(x*)构成约束问题最优解。0)(0)(05.2)(..41060)(min23122221121222121xx