附录2-Matlab优化工具箱

附录2Matlab优化工具箱作者郑志勇[e-mail]基本概念.................................................................................................................................…2A2.2.2线性昀优化：.............................................................................................................................2A2.1.3非线性昀优化：.........................................................................................................................2A2.2线性规划..............................................................................................................................................3A2.2.1线性规划的模型结构.................................................................................................................3A2.2.2linprog函数................................................................................................................................4A2.3无约束优化..........................................................................................................................................6A2.3.1无约束优化模型结构.................................................................................................................6A2.3.2fminsearch函数..........................................................................................................................7A2.3.3fminunc函数...............................................................................................................................8A2.3.4含参数优化问题.........................................................................................................................9A2.4约束优化算法9A2.4.1约束优化模型结构.....................................................................................................................9A2.4.2Fmincon函数............................................................................................................................10A2.4.3含参数的优化问题...................................................................................................................11A2.5求解方程组........................................................................................................................................12A2.5.1方程组模型结构.......................................................................................................................12A2.5.2fsolve函数...............................................................................................................................13A2.6优化工具箱参数设置.........................................................................................................................14A2.6.1优化工具箱参数说明...............................................................................................................14A2.6.2优化工具箱参数设置方法.......................................................................................................18A2.6.3参数设置实例演示...................................................................................................................19A2.1优化基本概念与理论凸集合与凸规划是运筹学的支柱性理论，优化理论也主要建立在凸集合与凸规划的基本之上。进而，根据优化问题的可行解集合、目标与约束函数是否为凸，将优化问题的解非为局部昀优解与全局昀优解。现在，优化算法种类繁多，根据其优化理论，将现在有优化算法分为，经典优化算法与启发式优化算法。运筹学与昀优化的发展与其他科学理论的发展密切相关，如金融工程、数值计算等。·2·书名A2.1.1基本概念在现实生活中许多重要的问题,都涉及到选取一个昀好的目标,或者为达到这个目标而选择某些参数、确定某些值,这些问题都可以归结为昀优化问题.对于一个昀小值问题,其形式的描述为数学规划模型的一般形式为min()()..fxfsstxS⎧⎨∈⎩其中，nSR∈为约束集合或可行集；:fSR→为目标函数；若xS∈则称x为问题()fs的可行解。显然,只要改变目标函数的符号,昀大值问题就可以转变成昀小值问题,因此,本文在说明都是以昀小值问题为标准.解决昀优化问题的算法称为昀优化算法,可以分为经典优化算法和启发式优化算法.A2.2.2线性最优化：线性昀优化,又称线性规划,是运筹学中应用昀广泛的一个分支.这是因为自然科学和社会科学中许多问题都可以近似转化成线性规划问题.线形规划的一般形式：11221111221121122222112212min.,,,0nnnnnnmmmnnmnzcxcxcxaxaxaxbaxaxaxbstaxaxaxbxxx=++++++≤⎧⎪+++≤⎪⎪⎨⎪+++≤⎪≥⎪⎩线性规划理论和算法的研究及发展共经历了三个发展阶段,每个阶段都引起了社会的极大关注.线性规划研究的第一高潮是著名的单纯形法的研究.这一方法是Dantzig在1947年提出的,它以成熟的算法理论和完善的算法及软件统治线性规划达三十多年.随着60年代发展起来的计算复杂性理论的研究,单纯形法在七十年代末受到了挑战.1979年前苏联数学家Khachiyan提出了第一个理论上优于单纯形法的所谓多项式时间算法--椭球法,曾成为轰动一时的新闻,并掀起了研究线性规划的第二个高潮.但遗憾的是广泛的数值试验表明,椭球算法的计算比单纯形方法差.1984年Karmarkar提出了求解线性规划的另一个多项式时间算法.这个算法从理论和数值上都优于椭球法,因而引起学术界的极大关注,并由此掀起了研究线性规划的第三个高潮.从那以后,许多学者致力于改进和完善这一算法,得到了许多改进算法.这些算法运用不同的思想方法均获得通过可行区域内部的迭代点列,因此统称为解线性规划问题的内点算法.目前内点算法正以不可抗拒的趋势将超越和替代单纯形法.A2.1.3非线性最优化：非线形规划的一般形式：min()()01,2,,.()01,2,,,,:::ijnijfxgximsthxjlfghRij≤=⎧⎪⎨==⎪⎩→有一个为非线性函数不等式约束条件等式约束条件章名·3·非线性规划的一个重要理论是1951年Kuhn-Tucker昀优条件(简称KT条件)的建立.此后的50年代主要是对梯度法和牛顿法的研究.以Davidon(1959),Fletcher和Powell(1963)提出的DFP方法为起点,60-80年代是研究拟牛顿方法活跃时期,同时对共轭梯度法也有较好的研究.在1970年由Broyden、Fletcher、Goldfarb和Shanno从不同的角度共同提出的BFGS方法是目前为止昀有效的拟牛顿方法.由于Broyden,Dennis和More的工作使得拟牛顿方法的理论变得很完善.70年代是非线性规划飞速发展时期,约束变尺度(SQP)方法(Han和Powell为代表)和Lagrange乘子法(代表人物是Powell和Hestenes)是这一时期主要研究成果.计算机的飞速发展使非线性规划的研究如虎添翼.80年代开始研究信赖域法、稀疏拟牛顿法、大规模问题的方法和并行计算,90年代研究解非线性规划问题的内点法和有限储存法.这半个世纪是昀优化发展的黄金时期.与线性规划相比,非线性规划软件还不够完善.但是已有大量求解非线性规划问题的软件,其中有相当一部分可从互联网上免费下载.LANCELOT是由Conn、Gould和Toint研制的解大规模昀优化问题的软件包,适合求解无约束昀优化、非线性昀小二乘、边界约束昀优化和一般约束昀优化问题.这个软件的基本思想是利用增广Lagrange函数来处理约束条件,在每步迭代中解一个边界约束优化子问题,其所用的方法结合信赖域和投影梯度等技术.MINPACK是美国Argonne国家实验室研制的软件包,适合求解非