Matlab优化算法

2015/4/241Matlab优化主讲人：饶志欢现代优化算法什么是优化？就是从各种方案中选取一个最好的。从数学角度看，优化理论就是研究如何在状态空间中寻找到全局最优点。比如水泥混凝土的性能，涉及到水、沙、石子、水泥和其他掺杂物比例。学校课程表排课问题、售票员上岗问题、公司内部人员安排出效益等。降低成本、提高效益是问题的关键。2015/4/2421.1MATLAB解优化问题的主要函数1.2优化函数的输入变量2015/4/2431.3优化函数的输出变量下表1.4控制参数options的设置(1)Display:显示水平.取值为’off’时,不显示输出;取值为’iter’时,显示每次迭代的信息;取值为’final’时,显示最终结果.默认值为’final’.(2)MaxFunEvals:允许进行函数评价的最大次数,取值为正整数.(3)MaxIter:允许进行迭代的最大次数,取值为正整数控制参数options可以通过函数optimset创建或修改。命令的格式如下：(1)options=optimset(‘optimfun’)创建一个含有所有参数名,并与优化函数optimfun相关的默认值的选项结构options.2015/4/2441.4控制参数options的设置(2)options=optimset(‘param1’,value1,’param2’,value2,...)创建一个名称为options的优化选项参数,其中指定的参数具有指定值,所有未指定的参数取默认值.(3)options=optimset(oldops,‘param1’,value1,’param2’,value2,...)创建名称为oldops的参数的拷贝,用指定的参数值修改oldops中相应的参数.例：opts=optimset(‘Display’,’iter’,’TolFun’,1e-8)该语句创建一个称为opts的优化选项结构,其中显示参数设为’iter’,TolFun参数设为1e-8.2.1一元函数无约束优化问题一元函数无约束优化问题常用格式如下：（1）x=fminbnd(fun,x1,x2)（2）x=fminbnd(fun,x1,x2，options)（3）[x，fval]=fminbnd（...）（4）[x，fval，exitflag]=fminbnd（...）（5）[x，fval，exitflag，output]=fminbnd（...）函数fminbnd的算法基于黄金分割法和二次插值法，它要求目标函数必须是连续函数，并可能只给出局部最优解。2015/4/2452.1一元函数无约束优化问题例在0x8中的最小值与最大值程序如下：f='2*exp(-x).*sin(x)';fplot(f,[0,8]);%作图语句[xmin,ymin]=fminbnd(f,0,8)f1='-2*exp(-x).*sin(x)';[xmax,ymax]=fminbnd(f1,0,8)运行结果：xmin=3.9270ymin=-0.0279xmax=0.7854ymax=0.64482.2多元函数无约束优化问题标准型为：minF(X)命令格式为:（1）x=fminunc（fun,X0）或x=fminsearch（fun,X0）（2）x=fminunc（fun,X0，options）；或x=fminsearch（fun,X0，options）（3）[x，fval]=fminunc（...）；或[x，fval]=fminsearch（...）（4）[x，fval，exitflag]=fminunc（...）；或[x，fval，exitflag]=fminsearch（5）[x，fval，exitflag，output]=fminunc（...）；或[x，fval，exitflag，output]=fminsearch（.2015/4/2463多元函数无约束优化问题说明:•fminsearch是用单纯形法寻优.fminunc的算法见以下几点说明：[1]fminunc为无约束优化提供了大型优化和中型优化算法。由options中的参数LargeScale控制：LargeScale=’on’(默认值),使用大型算法LargeScale=’off’(默认值),使用中型算法[2]fminunc为中型优化算法的搜索方向提供了4种算法，由options中的参数HessUpdate控制：HessUpdate=’bfgs’（默认值），拟牛顿法的BFGS公式；HessUpdate=’dfp’，拟牛顿法的DFP公式；HessUpdate=’steepdesc’，最速下降法[3]fminunc为中型优化算法的步长一维搜索提供了两种算法，由options中参数LineSearchType控制：LineSearchType=’quadcubic’(缺省值)，混合的二次和三次多项式插值；LineSearchType=’cubicpoly’，三次多项式插使用fminunc和fminsearch可能会得到局部最优解2.2多元函数无约束优化问题例minf(x)=(4*x1^2+2*x2^2+4*x1*x2+2*x2+1)*exp(x1)1、编写M-文件fun1.m:functionf=fun1(x)f=exp(x(1))*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1);2、输入M文件wliti3.m如下:x0=[-1,1];x=fminunc(‘fun1’,x0);y=fun1(x)3、运行结果:x=0.5000-1.0000y=1.3029e-102015/4/2472.3二次规划用MATLAB软件求解,其输入格式如下:1.x=quadprog(H,C,A,b);2.x=quadprog(H,C,A,b,Aeq,beq);3.x=quadprog(H,C,A,b,Aeq,beq,VLB,VUB);4.x=quadprog(H,C,A,b,Aeq,beq,VLB,VUB,X0);5.x=quadprog(H,C,A,b,Aeq,beq,VLB,VUB,X0,options);6.[x,fval]=quaprog(...);7.[x,fval,exitflag]=quaprog(...);8.[x,fval,exitflag,output]=quaprog(...);2.3二次规划例minf(x1,x2)=-2*x1-6*x2+x1^2-2*x1*x2+2*x2^2s.t.x1+x2≤2-x1+2x2≤2x1≥0,x2≥01、写成标准形式：2、输入命令：H=[1-1;-12];c=[-2;-6];A=[11;-12];b=[2;2];Aeq=[];beq=[];VLB=[0;0];VUB=[];[x,z]=quadprog(H,c,A,b,Aeq,beq,VLB,VUB)3、运算结果为：x=0.66671.3333z=-8.22222015/4/2482.4一般非线性规划标准型为minF(X)s.tAX=bG(X)Ceq(X)=0VLBXVUB其中X为n维变元向量，G(X)与Ceq(X)均为非线性函数组成的向量，其它变量的含义与线性规划、二次规划中相同.用Matlab求解上述问题，基本步骤分三步：1.首先建立M文件fun.m,定义目标函数F（X）:functionf=fun(X);f=F(X);2.若约束条件中有非线性约束:G(X)或Ceq(X)=0,则建立M文件nonlcon.m定义函数G(X)与Ceq(X):function[G,Ceq]=nonlcon(X)G=...Ceq=...2.4一般非线性规划3.建立主程序.非线性规划求解的函数是fmincon,命令的基本格式如下：(1)x=fmincon(‘fun’,X0,A,b)(2)x=fmincon(‘fun’,X0,A,b,Aeq,beq)(3)x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB)(4)x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB,’nonlcon’)(5)x=fmincon(‘fun’,X0,A,b,Aeq,beq,VLB,VUB,’nonlcon’,options)(6)[x,fval]=fmincon(...)(7)[x,fval,exitflag]=fmincon(...)(8)[x,fval,exitflag,output]=fmincon(...)2015/4/2492.4一般非线性规划注意：[1]fmincon函数提供了大型优化算法和中型优化算法。默认时，若在fun函数中提供了梯度（options参数的GradObj设置为’on’），并且只有上下界存在或只有等式约束，fmincon函数将选择大型算法。当既有等式约束又有梯度约束时，使用中型算法。[2]fmincon函数的中型算法使用的是序列二次规划法。在每一步迭代中求解二次规划子问题，并用BFGS法更新拉格朗日Hessian矩阵。[3]fmincon函数可能会给出局部最优解，这与初值X0的选取有关。2.4一般非线性规划例2015/4/24102.4一般非线性规划2、先建立M-文件fun3.m:functionf=fun3(x);f=-x(1)-2*x(2)+(1/2)*x(1)^2+(1/2)*x(2)^23、再建立主程序youh2.m：x0=[1;1];A=[23;14];b=[6;5];Aeq=[];beq=[];VLB=[0;0];VUB=[];[x,fval]=fmincon('fun3',x0,A,b,Aeq,beq,VLB,VUB)4、运算结果为：x=0.76471.0588fval=-2.02942.5线性规划问题线性规划问题线性规划问题是目标函数和约束条件均为线性函数的问题，MATLAB6.0解决的线性规划问题的标准形式为：minf(x)sub.to：xA≤b⋅xAeq=beq⋅ub≤x≤lb其中f、x、b、beq、lb、ub为向量，A、Aeq为矩阵。其它形式的线性规划问题都可经过适当变换化为此标准形式。x=linprog(f,A,b,Aeq,beq,lb,ub,x0)%设置初值x02015/4/24113MATLAB优化工具箱1工具箱（1）求解无约束条件非线性极小值；（2）求解约束条件下非线性极小值，包括目标逼近问题、极大-极小值问题和半无限极小值问题；（3）求解二次规划和线性规划问题；（4）非线性最小二乘逼近和曲线拟合；（5）非线性系统的方程求解；（6）约束条件下的线性最小二乘优化；（7）求解复杂结构的大规模优化问题。3MATLAB优化工具箱2工具箱函数一元函数极小值X=fminbnd(‘F’,x1,x2)无约束极小X=fminunc(‘F’,X0)X=fminsearch(‘F’,X0)线性规划X=linprog(c,A,b)0-1整数规划X=bintprog(F)二次规划X=quadprog(H,c,A,b)约束极小值（非线性规划）X=fmincon(‘FG’,X0)非线性最小二乘X=lsqnonlin(F,X0)目标达到问题X=fgoalattain(‘F’,x,goal,w)极小极大问题X=fminimax(‘FG’,x0)2015/4/24123.1GUI优化工具命令行输入optimtool；Start-Toolboxes-Optimization-Optimizationtool(optimtool)3.2使用步骤1.选择求解器solver和优化算法algorithm；2.选定目标函数（objectivefunction）；3.设定目标函数的相关参数；4.设置优化选项；5.单击“start”按钮，运行求解；6.查看求解器的状态和求解结果；7.将目标函数、选项和结果导入\导出。2015/4/24133.2使用步骤3.3应用实例一无约束优化（fminunc求解器）求f(x)=x^2+4*x-6极小值，初始点取x=0。解：1.首先建立目标