您好,欢迎访问三七文档
当前位置:首页 > 电子/通信 > 综合/其它 > 第二章-目标函数的基本性质及数学分析
7第二章目标函数的基本性质及数学分析2.1目标函数的等值面(线)对于简单的问题,可用等值线或等值面来描述函数的变化趋势,还可以直观地给出极值点的位置。1)目标函数的等值面,其数学表达式为f(x)=c。在这种线或面上所有点的函数值均相等,因此,这种线或面就称为函数的等值线或等值面。当c取一系列不同的常数值时,可以得到一组形态相似的等值线或等值面,称为函数的等值线簇或等值面簇。2)当n=2时,该点集是设计平面中的一条直线或曲线;例1(图2.1)。例1目标函数f(x)=一60x1一120x2的等值线族。这是一组相互平行的直线,函数值沿箭头所指方间逐渐下降。如图2.1所示。图2.1函数的等值线簇3)当n=3时,该点集是设计空间中的一个平面或曲面;例2。例2函数f(x)=xl2十x22一4x1十4的图形(旋转抛物面),以及用平面f(X)=c切割该抛物面所得交线在设计空间中的投影。如图2.2所示。4)当n大于3时,该点集是设计空间中的一个超曲面。图2.2函数的等值面簇82.2目标函数的方向导数和梯度实例:一块长方形的金属板,四个顶点的坐标是(1,1),(5,1),(1,3),(5,3).在坐标原点处有一个火焰,它使金属板受热.假定板上任意一点处的温度与该点到原点的距离成反比.在(3,2)处有一个蚂蚁,问这只蚂蚁应沿什么方向爬行才能最快到达较凉快的地点?问题的实质:应沿由热变冷变化最骤烈的方向(即梯度方向)爬行.2.2.1方向导数的定义讨论函数),(yxfz在一点P沿某一方向的变化率问题.定理如果函数),(yxfz在点),(yxP是可微分的,那末函数在该点沿任意方向L的方向导数都存在,且有sincosyfxflf,其中为x轴到方向L的转角.例2.1求函数yxez2在点)0,1(P处沿从点)0,1(P到点)1,2(Q的方向的方向导数.解:这里方向l即为}1,1{PQ,故x轴到方向l的转角4.)0,1(xz由)0,1(2ye=1)0,1(yz)0,1(22yxe=2故方向导数lz)4sin(2)4cos(1=.222.2.2梯度的定义函数在一点的梯度是这样一个向量,它的方向与取得最大方向导数的方向一致,而它的模为方向导数的最大值.用u9定义2.4以)(xf的n个偏导数为分量的向量称为)(xf在x处的梯度,记为Tnxxfxxfxxfxf)(,,)(,)()(21梯度也可以称为函数)(xf关于向量x的一阶导数.2.2.3、梯度与方向导数之间的关系(1)若0)(0PxfT,则P的方向是函数)(xf在点0x处的下降方向;(2)若0)(0PxfT,则P的方向是函数)(xf在点0x处的上升方向.方向导数的正负决定了函数值的升降,而升降的快慢就由它的绝对值大小决定.绝对值越大,升降的速度就越快,即由此可得如下重要结论(如图2.1所示):(1)梯度方向是函数值的最速上升方向;(2)函数在与其梯度正交的方向上变化率为零;(3)函数在与其梯度成锐角的方向上是上升的,而在与其梯度成钝角的方向上是下降的;(4)梯度反方向是函数值的最速下降方向.例2.2:求函数yxzyxu2332222在点)2,1,1(、)0,21,23(处的梯度,并问在哪些点处梯度为零?kzujyuixuzyxu),,(,6)24()32(kzjyix.1225)2,1,1(kjiu0)0,21,23(u例2.3试求目标函数1)(2221xxXf在点TX]30[0,处的最速下降方向,并求沿这个方向移动一个单位长后新点的目标函数值.10解因为221122xxfxxf,,所以最速下降方向是6022)(3021021xxxxXf.这个方向上的单位向量是10)()(00XfXfe.故新点是20103001eXX,2.2.4小结1、方向导数的概念(注意方向导数与一般所说偏导数的区别)2、梯度的概念(注意梯度是一个向量)3、方向导数与梯度的关系思考题:一、讨论函数22),(yxyxfz在)0,0(点处的偏导数是否存在?方向导数是否存在?答:xfxfxzx)0,0()0,(lim0)0,0(.||lim0xxx同理:)0,0(yzyyy||lim0故两个偏导数均不存在.图2.111沿任意方向},,{zyxl的方向导数,)0,0(),(lim0)0,0(fyxflz1)()()()(lim22220yxyx故沿任意方向的方向导数均存在且相等.2.3多元目标函数的泰勒表达式和海赛矩阵2.3.1海赛(Hesse)矩阵前面说过,梯度)(xf是)(xf关于x的一阶导数,现在要问)(xf关于x的二阶导数是什么?定义:如果)(xf在点0x处对于自变量x的各分量的二阶偏导数jixxxf)(2(nji,,2,1,)都存在,则称函数)(xf在点0x处二阶可导,并且称矩阵nnnnnnxxxfxxxfxxxfxxxfxxxfxxxfxxxfxxxfxxxfxf)()()()()()()()()()(02202102202220212021022102110202是)(xf在点0x处的Hesse矩阵.在数学分析中已经知道,当)(xf在点0x处的所有二阶偏导数为连续时有.,,,,,njixxfxxfijji2122因此,在这种情况下Hesse矩阵是对称的.例2.4求目标函数23132221233241432)(xxxxxxxxxXf的梯度和Hesse矩阵.解因为12,,,3123332122223213112464624xxxxxfxxxxfxxxxxf,所以3123321222321312464624)(xxxxxxxxxxxXf.又因为22221213211213222212222331222212462fffxxxxxxxxxfffxxxxxx,,,,,,所以13213122122642412222212)(xxxxxxxxXf.例2.5设1RbRXRann,,,求线性函数bXaXfT)(在任意点X处的梯度和Hesse矩阵.解设TnTnxxxXaaaa][][2121,,,,,,,,则niiinbxaxxxf121)(,,,,,,,,,niaxfii21(2.2)∴aaaaXfTn],,,[)(21.由式(2.2)进而知,,,,,,njixxfji210213∴OXf)(2(nn阶零矩阵).2.3.2多元目标函数的泰勒表达式定理1(泰勒(Taylor)中值定理)如果函数)(xf在含有0x的某个开区间(ba,)内具有直到(1n)阶的导数,则当任一),(bax,有200000)(!2)())(()()(xxxfxxxfxfxf)()(!)(00)(xRxxnxfnnn,(3)其中10)1()()!1()()(nnnxxnfxR,对于n维向量的xxxfxxxfxfxfTkTTkk)(21)()()()(2)()(2.4目标函数的极值条件2.4.1无约束问题的极值条件1.必要条件:梯度等于0即:0)(,,)(,)()(*21*Txnxxfxxfxxfxf2.充分条件:海赛矩阵0正定,有极小值海赛矩阵0负定,有极大值2.4.2有约束问题的极值条件14(1)目标函数的凸性与凸函数研究目标函数的凸性是为了分清目标函数的极小值在什么情况是极大值什么情况是极小值。a.凸组合:已知nRD,任取k个点Dxi,如果存在常数0ia),,2,1(ki,11kiia使得xxakiii1则称x为ix),,2,1(ki的凸组合。b.凸集:设集合nRD,如果D中任意两点的凸组合仍然属于D,则称D为凸集。c.凸函数设nRDf:,任取Dxx21,如果1,0,2121iiaaa有)()()(22112211xfaxfaxaxaf,则称f为D上的(严格)凸函数。几何描述(P14页)例子:2)(xxf(2)凸函数的性质若)(xf为凸函数(1))(xf(2))()(21xfxf(3))()(21xfxf(4))1(x和)2(x定义在凸函数)(xf的两个最小点,则连线必为最小点。(3)凸函数的判定条件a.一阶导数向量法)(xf是凸集D上的凸函数的充要条件是Dxx21,,有)()()()()1()2()1()1()2(xxxfxfxfT15b.二阶导数矩阵法设)(xf在凸集X上有二阶连续偏导数,则)(xf是凸函数的充要条件是Dx,有)(2xf(海赛矩阵半正定。例:正定二次函数cxbAxxxfTT21)(,其中A是正定矩阵。例2)(xxf(1)一阶法)1(2)(xxf左边=2)2(x右边=2)1(x+)(2)1()2()1(xxx左-右=0)(2)2()1(xx满足条件(2)二阶法02)(2xf满足条件例2-4(P14)解:(1)一阶法13123214532436)(xxxxxxxxf21xx左边=2)2(1)2(3)(xxf右边=)()()1()1()2(xfxxT(2)二阶法401023136)(2xf16(4)约束问题的最优解条件对于约束,现在进一步阐明起作用约束与不起作用约束的概念.一般的约束优化问题,其约束包含不等式约束muxgu,,2,1,0)(和等式约束pvxhv,,2,1,0)(.在可行点x处,如果有0)(xgu,则该约束)(xgu称可行点x的起作用约束;而如果有0)(xgu,则该约束)(xgu称可行点x的不起作用约束.对于等式约束0)(xhv,显然在任意可行点处的等式约束都是起作用约束.在某个可行点x处,起作用约束在x的邻域内起到限制可行域范围的作用,而不起作用约束在x处的邻域内就不产生影响.因此,应把注意力集中在起作用约束上Kuhn—Tucker条件(库克塔克简称K—T条件)在优化实用计算中,常常需要判断某可行迭代点kx是否可作为约束最优点x输出而结束迭代,或者对此输出的可行结果进行检查,观察它是否已满足约束最优解的必要条件,这种判断或检验通常借助于TK条件进行的。TK条件可叙述如下:如果x是一个局部极小点,且各梯度矢量)(xgu、)(xhu组成线性无关的矢量系,那么必存在一组非负乘子、u,使得),,2,1(0)(),,2,1(00)()()(11muxgmuxhxgxfuuuvmuvumuu成立.必须指出,在一般情形下,TK条件是判别约束极小点的一阶必要条件,但并非充分条件.只是对于凸规划问题,即对于目标函数)(xf为凸函数,可行域为凸集的最优化问题,TK条件才是约束最优化问题的充分条件.而且,在这种情况下的局部最优解也必为全局最优解.17应用TK条件检验某迭代点)(kx是否为约束最优点的具体作法可按下述步骤进行:(1)判断是否都为凸函数(2)检验)(kx是否为可行点.为此需要计算)(kx处的诸约束函数值)()(kixg,)()(kvxh。若是可行点,则muxgku,2,1,
本文标题:第二章-目标函数的基本性质及数学分析
链接地址:https://www.777doc.com/doc-4386205 .html