智能优化方法及MATLABGA工具箱简介

智能优化方法及MATLABGA工具箱简介2011.4自动化创新实践课程专题讲座陆宁云目录1优化问题2经典优化方法3现代优化方法4遗传算法5基于GA的优化问题求解实例6Matlab的GA工具箱简介优化问题简介生活中经常遇到的求利润最大、用料最省、效率最高等问题，都是优化问题。所谓最优化问题就是在满足一定的约束条件下，寻找一组参数值，以使某些最优性度量得到满足，即使系统的某些性能指标达到最大或最小。最优化问题描述：其中为目标函数，为约束函数，S为约束域。SXXf)(min00)(0)(.或XhXgtsii)(Xf)(Xgi经典优化方法非线性规划线性规划动态规划。。。整数规划多目标规划1线性规划研究线性约束条件下线性目标函数的极值问题的数学理论和方法。2非线性规划具有非线性约束条件或目标函数的数学规划。3动态规划解决多阶段决策过程最优化问题的优化方法。本质上还是一种非线性规划方法，核心是Bellman提出的最优性原理。经典优化方法4多目标规划研究目标函数多于一个时的最优化问题。5整数规划要求问题的最优解中的全部或一部分变量为整数的数学规划。从约束条件的构成又可细分为线性，二次和非线性的整数规划经典优化方法缺点：应用对象受限，计算量大，收敛速度慢现代优化算法又称智能优化算法或现代启发式算法，是一种具有全局优化性能、通用性强、且适合于并行处理的算法。这种算法一般具有严密的理论依据,而不是单纯凭借专家经验，理论上可以在一定的时间内找到最优解或近似最优解。现代优化方法模拟物理中固体退火原理（加温，等温，冷却），从某一较高初温出发，伴随温度参数的不断下降,结合概率突跳特性在解空间中随机寻找目标函数的全局最优解是一种全局性邻域搜索算法，模拟人类具有记忆功能的寻优特征。它通过局部邻域搜索机制和相应的禁忌准则来避免迂回搜索，并通过破禁水平来释放一些被禁忌的优良状态，进而保证多样化的有效探索，以最终实现全局优化。由大量处理单元互联组成的非线性、自适应信息处理系统。是由人工建立的以有向图为拓扑结构的动态系统，它通过对连续或断续的输入作状态响应而进行信息处理禁忌搜索算法模拟退火算法人工神经网络现代优化方法是通过模拟。鸟群觅食行为而发展起来的一种基于群体协作的随机搜索算法。系统初始化为一组随机解，通过迭代搜寻最优值。与GA类似。模拟蚂蚁在寻找食物过程中发现路径的行为，是一种用来在图中寻找优化路径的机率型算法蚁群算法粒子群算法现代优化方法•遗传算法(GeneticAlgorithm,GA)：现代优化方法GA遗传算法是20世纪60年代由美国Michigan大学的J.H.Holland教授首先提出的，主要模拟自然界优胜劣汰的进化现象，把搜索空间映射为遗传空间，把可能的解编码成一个向量——染色体，向量的每个元素成为基因。通过不断计算各染色体的适应值，获得最优解。•遗传学中常用的词汇：细胞(Cell)：构成生物的基本的结构和单位。染色体(Chromosome):细胞中含有的一种微小丝状化合物。基因(Gene):遗传的基本单位。复制(reproduction):细胞在分裂时，遗传物质DNA通过复制而转移到新产生的细胞中，并集成旧细胞的基因。现代优化方法遗传算法交叉(Crossover):两个同源染色体之间通过交叉而重组。变异(Mutation)：在细胞复制时，可能产生复制差错，从而使DNA发生变异，产生出新的染色体。进化(Evolution):生物在其延续生存的过程中，逐渐适应于其生存环境，使得其品质不断得到改良，这种生命现象称之为进化群体(Population):生物进化是以集团的形式进行的，这样的集团称为群体现代优化方法遗传算法适应度(Fitness):每个个体对其生存环境都有不同的适应能力，这种适应能力称为适应度现代优化方法遗传算法现代优化方法遗传算法求解问题流程开始初始化种群计算适应度值选择，交叉，变异条件终止结束是否编码，初始种群个体适应度评价遗传算子停止准则•编码（解码）：一般采用二进制0/1字符编码。x(十进制数)y(二进制数)现代优化方法遗传算法的实现编码解码],[maxminxxx1111...2bbbbLLiLii12minmaxLxx转换精度：•产生初始群体MM越大，搜索范围越宽，但每代的遗传操作时间越长；M越小，搜索范围越小，但每代的遗传操作时间越短。通常：M=20~100现代优化方法遗传算法的实现•个体适应度评价在GA中，以个体适应度的大小来确定该个体被遗传到下一代的概率。个体适应度越高，被选中的概率越大（要求个体适应度）。对于求目标函数最大值的优化问题对于求目标函数最大值的优化问题现代优化方法遗传算法的实现0)(xF)()(xfxF)(-)(xfxF•个体被选中的概率其中现代优化方法遗传算法的实现iiiffP为群体的累加适应度的适应度为个体被选中的概率为个体iiififiP显然，个体适应度越高，被选中的概率越大•遗传算子：现代优化方法选择交叉变异遗传算法实现•选择(Selection)：根据个体的相对适应度反复地从群体中选择M个个体组成下一代群体。选择算法：轮盘赌选择随机遍历抽样现代优化方法遗传算法的实现iP截断选择锦标赛选择•交叉(Crossover)在GA中交叉是产生新个体的主要手段，类似于生物学的杂交，使不同个体的基因互相交换，从而产生新个体。交叉原理：a）对群体中的个体进行两两配对，当群体总数为M，则共有M/2对相互配对的个体组现代优化方法遗传算法的实现•b)设置交叉点，随机设置某一基因座后的位置为交叉点，若染色体长度为L，则共有L-1个可能的交叉点位置。•C)设置交叉概率Pc。被交叉的个体数目：Mc=Pc*M现代优化方法遗传算法的实现•交叉示例：11111111父代1111000000000000子代111100000000000011111111交叉点位置现代优化方法遗传算法的实现•交叉方法单点交叉多点交叉均匀交叉洗牌交叉现代优化方法遗传算法的实现•变异(Mutation)以变异概率Pm改变染色体的某一个基因,当以二进制编码时，变异的基因由0变成1，或者由1变成0。•变异过程：a）依据变异概率Pm指定变异点。b）对指定的变异点进行取反运算。现代优化方法遗传算法的实现Pm=0.01~0.001•变异示例11010100父代01010101子代变异基因变异基因现代优化方法遗传算法的实现•停止准则a）种群中个体的最大适应值超过预设定值b）种群中个体的平均适应值超过预设定值c）种群中个体的进化代数超过预设定值现代优化方法遗传算法的实现现代优化方法基于GA的优化问题求解实例计算由简单的代数运算我们知道x=31。采用GA：1）编码：]31,0[)(max2xxxf311-21111153111111...110000000000x2）形成初始群体，计算适应度现代优化方法基于GA的优化问题求解实例个体编号初始群体适应度101101131690.14211000245760.493010008640.06410011193610.31ix)(ixf)()(iixfxf复制淘汰选择后的新一代群体：01101，11000,11000,10011现代优化方法基于GA的优化问题求解实例个体编号复制初始群体复制后交换对象交换位置交换后群体交换后101101131692201100144211000245761211001625311000244764311011729410011193613310000256ix)(ixf)(ixf3）复制与交叉4）变异设置变异点，将个体字符串某位符号进行逆变。5）终止反复执行直到得到满意的结果现代优化方法基于GA的优化问题求解实例现代优化方法Matlab的GA工具箱使用简介利用遗传算法函数ga求解两种方案利用遗传算法工具箱gatool求解遗传算法函数：[x,fval]=ga(fitnessfun,nvars,A,b,Aeq,beq,lb,ub,nonlcon,options)输出函数：•x-----最优解•fval-----最优适应度输入函数•fitnessfun-----适应度函数•nvars-----变量个数现代优化方法Matlab的GA工具箱使用简介输入参数•A,b----不等式约束•Aeq,beq----等式约束•Lb,ub----变量的上下限•nonlcon----非线性函数约束•options----传递给ga的参数，不写matlab自动取默认值,参考gaoptimset现代优化方法Matlab的GA工具箱使用简介bAxeqeqbxAubxlb遗传算法工具箱gatool在matlab控制窗口输入gatool打开ga工具箱，控制界面如下图现代优化方法Matlab的GA工具箱使用简介现代优化方法Matlab的GA工具箱使用简介实例讲解：•将目标函数创建为Simple_objective的m文件：functiony=simple_objective(x)y=100*(x(1)^2-x(2))^2+(1-x(1))^2;现代优化方法Matlab的GA工具箱使用简介132011002*11005.1212*1.xxxxxxxxts222)11()21(*100)(xxxxfMin•将非线性约束函数创建为simple_constraint的m文件：function[c,ceq]=simple_constraint(x)c=[1.5+x(1)*x(2)+x(1)-x(2);-x(1)*x(2)+10];ceq=[];用ga函数求解，对应的程序如下现代优化方法Matlab的GA工具箱使用简介•用gatool求解现代优化方法Matlab的GA工具箱使用简介x=0.812212.3122fval=1.3578e+004Q&A