第九章最优化方法的Matlab实现

第九章最优化方法的Matlab实现在生活和工作中，人们对于同一个问题往往会提出多个解决方案，并通过各方面的论证从中提取最佳方案。最优化方法就是专门研究如何从多个方案中科学合理地提取出最佳方案的科学。由于优化问题无所不在，目前最优化方法的应用和研究已经深入到了生产和科研的各个领域，如土木工程、机械工程、化学工程、运输调度、生产控制、经济规划、经济管理等，并取得了显著的经济效益和社会效益。用最优化方法解决最优化问题的技术称为最优化技术，它包含两个方面的内容：1）建立数学模型即用数学语言来描述最优化问题。模型中的数学关系式反映了最优化问题所要达到的目标和各种约束条件。2）数学求解数学模型建好以后，选择合理的最优化方法进行求解。最优化方法的发展很快，现在已经包含有多个分支，如线性规划、整数规划、非线性规划、动态规划、多目标规划等。9.1概述利用Matlab的优化工具箱，可以求解线性规划、非线性规划和多目标规划问题。具体而言，包括线性、非线性最小化，最大最小化，二次规划，半无限问题，线性、非线性方程（组）的求解，线性、非线性的最小二乘问题。另外，该工具箱还提供了线性、非线性最小化，方程求解，曲线拟合，二次规划等问题中大型课题的求解方法，为优化方法在工程中的实际应用提供了更方便快捷的途径。9.1.1优化工具箱中的函数优化工具箱中的函数包括下面几类：1．最小化函数表9-1最小化函数表函数描述fgoalattain多目标达到问题fminbnd有边界的标量非线性最小化fmincon有约束的非线性最小化fminimax最大最小化fminsearch,fminunc无约束非线性最小化fseminf半无限问题linprog线性课题quadprog二次课题2．方程求解函数表9-2方程求解函数表函数描述\线性方程求解fsolve非线性方程求解fzero标量非线性方程求解3．最小二乘（曲线拟合）函数表9-3最小二乘函数表函数描述\线性最小二乘lsqlin有约束线性最小二乘lsqcurvefit非线性曲线拟合lsqnonlin非线性最小二乘lsqnonneg非负线性最小二乘4．实用函数表9-4实用函数表函数描述optimset设置参数optimget5．大型方法的演示函数表9-5大型方法的演示函数表函数描述circustent马戏团帐篷问题—二次课题molecule用无约束非线性最小化进行分子组成求解optdeblur用有边界线性最小二乘法进行图形处理6．中型方法的演示函数表9-6中型方法的演示函数表函数描述bandemo香蕉函数的最小化dfildemo过滤器设计的有限精度goaldemo目标达到举例optdemo演示过程菜单tutdemo教程演示9.1.3参数设置利用optimset函数，可以创建和编辑参数结构；利用optimget函数，可以获得options优化参数。●optimget函数功能：获得options优化参数。语法：val=optimget(options,'param')val=optimget(options,'param',default)描述：val=optimget(options,'param')返回优化参数options中指定的参数的值。只需要用参数开头的字母来定义参数就行了。val=optimget(options,'param',default)若options结构参数中没有定义指定参数，则返回缺省值。注意，这种形式的函数主要用于其它优化函数。举例：1．下面的命令行将显示优化参数options返回到my_options结构中：val=optimget(my_options,'Display')2．下面的命令行返回显示优化参数options到my_options结构中（就象前面的例子一样），但如果显示参数没有定义，则返回值'final':optnew=optimget(my_options,'Display','final');参见：optimset●optimset函数功能：创建或编辑优化选项参数结构。语法：options=optimset('param1',value1,'param2',value2,...)optimsetoptions=optimsetoptions=optimset(optimfun)options=optimset(oldopts,'param1',value1,...)options=optimset(oldopts,newopts)描述：options=optimset('param1',value1,'param2',value2,...)创建一个称为options的优化选项参数，其中指定的参数具有指定值。所有未指定的参数都设置为空矩阵[]（将参数设置为[]表示当options传递给优化函数时给参数赋缺省值）。赋值时只要输入参数前面的字母就行了。optimset函数没有输入输出变量时，将显示一张完整的带有有效值的参数列表。options=optimset(withnoinputarguments)创建一个选项结构options，其中所有的元素被设置为[]。options=optimset(optimfun)创建一个含有所有参数名和与优化函数optimfun相关的缺省值的选项结构options。options=optimset(oldopts,'param1',value1,...)创建一个oldopts的拷贝，用指定的数值修改参数。options=optimset(oldopts,newopts)将已经存在的选项结构oldopts与新的选项结构newopts进行合并。newopts参数中的所有元素将覆盖oldopts参数中的所有对应元素。举例：1．下面的语句创建一个称为options的优化选项结构，其中显示参数设为'iter'，TolFun参数设置为1e-8:options=optimset('Display','iter','TolFun',1e-8)2．下面的语句创建一个称为options的优化结构的拷贝，改变TolX参数的值，将新值保存到optnew参数中:optnew=optimset(options,'TolX',1e-4);3．下面的语句返回options优化结构，其中包含所有的参数名和与fminbnd函数相关的缺省值：options=optimset('fminbnd')4．若只希望看到fminbnd函数的缺省值，只需要简单地键入下面的语句就行了：optimsetfminbnd或者输入下面的命令，其效果与上面的相同：optimset('fminbnd')参见：optimget9.1.4模型输入时需要注意的问题使用优化工具箱时，由于优化函数要求目标函数和约束条件满足一定的格式，所以需要用户在进行模型输入时注意以下几个问题：1.目标函数最小化优化函数fminbnd、fminsearch、fminunc、fmincon、fgoalattain、fminmax和lsqnonlin都要求目标函数最小化，如果优化问题要求目标函数最大化，可以通过使该目标函数的负值最小化即-f(x)最小化来实现。近似地，对于quadprog函数提供-H和-f，对于linprog函数提供-f。2.约束非正优化工具箱要求非线性不等式约束的形式为Ci(x)≤0，通过对不等式取负可以达到使大于零的约束形式变为小于零的不等式约束形式的目的，如Ci(x)≥0形式的约束等价于-Ci(x)≤0；Ci(x)≥b形式的约束等价于-Ci(x)+b≤0。3.避免使用全局变量9.1.5@（函数句柄）函数MATLAB6.0中可以用@函数进行函数调用。@函数返回指定MATLAB函数的句柄，其调用格式为：handle=@function利用@函数进行函数调用有下面几点好处：●用句柄将一个函数传递给另一个函数；●减少定义函数的文件个数；●改进重复操作；●保证函数计算的可靠性。下面的例子为humps函数创建一个函数句柄，并将它指定为fhandle变量。fhandle=@humps;同样传递句柄给另一个函数，也将传递所有变量。本例将刚刚创建的函数句柄传递给fminbnd函数，然后在区间[0.3,1]上进行最小化。x=fminbnd(@humps,0.3,1)x=0.63709.2最小化问题9.2.1单变量最小化9.2.1.1基本数学原理本节讨论只有一个变量时的最小化问题，即一维搜索问题。该问题在某些情况下可以直接用于求解实际问题，但大多数情况下它是作为多变量最优化方法的基础在应用，因为进行多变量最优化要用到一维搜索法。该问题的数学模型为：其中，x,x1,和x2为标量，f(x)为函数，返回标量。该问题的搜索过程可用下式表达：其中xk为本次迭代的值，d为搜索方向，α为搜索方向上的步长参数。所以一维搜索就是要利用本次迭代的信息来构造下次迭代的条件。求解单变量最优化问题的方法有很多种，根据目标函数是否需要求导，可以分为两类，即直接法和间接法。直接法不需要对目标函数进行求导，而间接法则需要用到目标函数的导数。1．直接法常用的一维直接法主要有消去法和近似法两种。（1）消去法该法利用单峰函数具有的消去性质进行反复迭代，逐渐消去不包含极小点的区间，缩小搜索区间，直到搜索区间缩小到给定的允许精度为止。一种典型的消去法为黄金分割法(GoldenSectionSearch)。黄金分割法的基本思想是在单峰区间内适当插入两点，将区间分为三段，然后通过比较这两点函数值的大小来确定是删去最左段还是最右段，或同时删去左右两段保留中间段。重复该过程使区间无限缩小。插入点的位置放在区间的黄金分割点及其对称点上，所以该法称为黄金分割法。该法的优点是算法简单，效率较高，稳定性好。（2）多项式近似法该法用于目标函数比较复杂的情况。此时寻找一个与它近似的函数代替目标函数，并用近似函数的极小点作为原函数极小点的近似。常用的近似函数为二次和三次多项式。二次内插涉及到形如下式的二次函数数据拟合问题：其中步长极值为：然后只要利用三个梯度或函数方程组就可以确定系数a和b，从而可以确定α*。得到该值以后，进行搜索区间的收缩。在缩短的新区间中，重新安排三点求出下一次的近似极小点α*，如此迭代下去，直到满足终止准则为止。其迭代公式为：其中二次插值法的计算速度比黄金分割法的快，但是对于一些强烈扭曲或可能多峰的函数，该法的收敛速度会变得很慢，甚至失败。2．间接法间接法需要计算目标函数的导数，优点是计算速度很快。常见的间接法包括牛顿切线法、对分法、割线法和三次插值多项式近似法等。优化工具箱中用得较多的是三次插值法。三次插值的基本思想与二次插值的一致，它是用四个已知点构造一个三次多项式P3(x)，用它逼近函数f(x)，以P3(x)的极小点作为f(x)的近似极小点。一般讲，三次插值法比二次插值法的收敛速度要快些，但每次迭代需要计算两个导数值。三次插值法的迭代公式为其中如果函数的导数容易求得，一般来说首先考虑使用三次插值法，因为它具有较高的效率。对于只需要计算函数值的方法中，二次插值法是一个很好的方法，它的收敛速度较快，尤其在极小点所在区间较小时尤其如此。黄金分割法则是一种十分稳定的方法，并且计算简单。由于以上原因，Matlab优化工具箱中使用得较多的方法是二次插值法、三次插值法、二次、三次混合插值法和黄金分割法。9.2.1.2相关函数介绍fminbnd功能：找到固定区间内单变量函数的最小值。语法：x=fminbnd(fun,x1,x2)x=fminbnd(fun,x1,x2,options)x=fminbnd(fun,x1,x2,options,P1,P2,...)[x,fval]=fminbnd(...)[x,fval,exitflag]=fminbnd(...)[x,fval,exitflag,output]=fminbnd(...)描述：fminbnd求取固定区间内单变量函数的最小值。x=fminbnd(fun,x1,x2)返回区间{x1，x2}上fun参数描述的标量函数的最小值x。x=fm