计算智能ppt课件

计算智能周春光吉林大学计算机科学系E-mail:[e-mail]目录序篇计算智能第一章绪论第一篇人工神经网络第二章人工神经网络的基本模型第三章前馈型神经网络第四章反馈型神经网络第五章自组织竞争神经网络第二篇模糊系统第六章模糊数学基础第七章模糊控制理论第八章模糊神经网络与模糊神经系统第三篇进化计算第九章遗传算法第十章遗传算法的数学基础第十一章遗传算法的实现技术第十二章遗传算法的若干改进研究第十三章遗传算法的收敛性第十四章用遗传算法解决组合优化问题第十五章其它进化算法第一章绪论一.第一台电子计算机问世……难以估量的作用二.冯.诺依曼机的局限性……另辟溪径三.智能计算机§1.1关于计算智能§1.2人工神经网络§1.3模糊系统§1.4进化计算§1.5人工神经网络、模糊系统和进化计算的相互融合§1.1关于计算智能（ComputationalIntelligence,CI）§1.1.1什么是计算智能§1.1.2计算智能所包含的领域§1.1.1关于计算智能（ComputationalIntelligence,CI）92年，美国学者James首次提出：计算智能(CI)是依靠生产者提供的数字、数据材料进行加工处理，而不是依赖于知识；人工智能（ArtificialIntelligence,AI）则是须用知识进行处理。94年，James在Florida,Orlando,94IEEEEWCCI会议上又阐述他的观点，智能有三个层次：生物智能（BiologicalIntelligence,BI）由人脑的物理化学过程反映出来的，人脑是有机物，它是智能的基础。人工智能（ArtificialIntelligence,AI）是非生物的，人造的，常用符号来表示，AI的来源是人类知识的精华。计算智能（ComputationalIntelligence,CI）是由数学方法和计算机实现的，CI的来源数值计算的传感器。关系：从复杂性来看：BIAICI；从所属关系来看：AI是CI到BI的过渡，因为AI中除计算算法之外，还包括符号表示及数值信息处理。模糊集合和模糊逻辑是AI到CI的过渡。也有些人认为CI不属于AI，仅有部分重合。AI：符号主义，知识、规则、推理。左脑CI：连接主义，数据、学习、记忆。右脑§1.1.2计算智能所包含的领域人工神经网络（ArtificialNeuralNetwork,ANN）进化计算（EvolutionComputing,EC）模糊系统（FuzzySystem,FS）进化计算（EvolutionComputing）遗传算法（GeneticAlgorithm,GA）75年，Holand首次提出。组合优化等问题得到广泛应用。进化规划（EvolutionProgramming,EP）60年代，由美国人L.J.Fogel等人提出的。背景是求解时间序列预测问题。进化策略（EvolutionStrategies,ES）64年，由德国人I.Rechenberg等提出。背景是求解流体动力学柔性弯曲管形状优化问题。模糊系统（FuzzySystem,FS）65年，美国加州大学伯克莱分校的L.Zadeh发表了著名论文FuzzySets开创了模糊论。模糊逻辑、模糊规则、模糊推理、模糊控制、隶属度、模糊集合等。§1.2人工神经网络§1.2.1什么是神经网络§1.2.2人工神经网络研究的历史§1.2.1什么是神经网络人工神经网络是指模拟人脑神经系统的结构和功能，运用大量的处理部件，由人工方式构造的网络系统。神经网络理论突破了传统的、线性处理的数字电子计算机的局限，是一个非线形动力学系统，并以分布式存储和并行协同处理为特色，虽然单个神经元的结构和功能极其简单有限，但是大量的神经元构成的网络系统所实现的行为却是极其丰富多彩的。§1.2.2人工神经网络研究的历史第一阶段初始发展期（40年代－60年代）1．1943年，美国心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型，即M-P模型。能完成有限的逻辑运算。2．1949年，心理学家Hebb提出了改变神经元间连接强度的Hebb规则。3．1957年，计算机科学家Rosenblatt用硬件完成了最早的神经网络模型，称之为感知器（Perceptron）用来模拟生物的感知和学习能力。4．1962年，电机工程师Windrow和Hoff提出了自适应线形元件Adaline是一个连续取值的线形网络，在信号处理系统中用于抵消通讯中的回波和噪声，应用十分广泛。第二阶段低谷期（60年代末－70年代末）原因：1.69年，人工智能之父Minskey和Papert发表了《Perdeptron》一书指出了Perdeptron无科学价值而言，连XOR逻辑分类都做不到，只能作线形划分。2.Von.Neumann机的兴盛期，陶醉在成功的喜悦之中，掩盖了新型计算机的发展的必然。但是仍然有不少有识之士不断努力：1.Boston大学的Grossberg和Carpenter提出了自适应共振理论ART网络。2.芬兰的Heisinki大学的Kohonen提出了自组织映射网络。3.日本的大坂大学的Fukushima提出了神经认知机网络模型。4.日本东京大学的Amari对神经网络进行了数学理论的研究，为神经网络的研究奠定了理论基础。第三阶段兴盛期（80年代以后）原因：1.70年代末期研究和试图模拟视听觉的人工智能专家遇到了挫折，人们习以为常的知识难能教给计算机。2.计算机的科学家发现前面有不可逾越的鸿沟，线路微型的物理极限,人们思考Von.Neumann机到底还能走多远。3.VLSI、脑科学、生物学、光学的进步为人工神经网络的发展打下了基础。兴盛期的代表人物：1.1982年，加州大学的物理学家Hopfield提出了Hopfield网络模型，并用电路实现。2.1985年，Rumelhart提出了BP算法。3.Hinton等人提出了Boltzman机模型。4.1988年，蔡少堂提出了细胞神经网络模型。目前国内外研究状况1.研究机构美国DARPA计划、日本HFSP计划、法国尤里卡计划、德国欧洲防御计划、前苏联高技术发展计划等；2.学会86年4月，美国物理学会在Snowbirds召开了国际神经网络学术会议；87年6月，IEEE在SanDiego召开了国际神经网络学术会议，并成立了国际神经网络学会；88年起，IEEE和国际神经网络学会每年召开一次国际会议；我国自91年开始每两年召开一次学术会议。3.刊物1990年3月，IEEE神经网络会刊问世。4.应用范围已经渗透到各个领域，智能控制、模式识别、计算机视觉、自适应滤波、信号处理、非线形优化、语音识别、知识处理、传感技术与机器人等等。神经网络代表一种新的主义—连接主义，解决诸如知识表达、推理学习、联想记忆、乃至复杂的社会现象，如混沌，社会演变的复杂系统的统一模型，它预示着一个新的工业。§1.3模糊系统§1.3.1模糊系统理论的起源和发展§1.3.2模糊系统的研究范畴§1.3.1模糊系统理论的起源和发展1.1965年，美国控制论专家、加利福尼亚大学教授扎德(L.A.Zadeh)首先提出模糊集合概念,发表了开创性论文《模糊集合论(Fuzzysets)》。他提出,模糊数学的核心思想就是运用数学手段,仿效人脑思维，对复杂事物进行模糊处理。模糊数学在基础理论和实际应用等方面引起了各国学者的极大兴趣,并产生了许多有价值的应用和惊人的成果。2.1973年，扎德教授又提出模糊逻辑(FuzzyLogic)的理论，并积极倡导将模糊理论向人工智能方向发展。模糊逻辑的研究虽然时间还不长，但在智能模拟和智能控制等领域却已有了飞快的发展。3.1974年，印度裔英国学者马德尼(E.H.Mamdani)首先将模糊理论用于锅炉和蒸汽机的控制，并实验成功，开创了模糊控制的新领域。4.80年代后期以来，在日本采用模糊控制技术的家电产品大量上市，模糊技术在图像识别、自动控制、市场预测、人工智能等领域普遍应用，掀起了一股模糊热。日本、美国和我国都成功地研制出了智能化的模糊推理机，这表现了模糊理论的强大生命力和伟大意义。5.另一方面，模糊理论在学术界也得到了普遍的认同和重视。1992年，IEEE召开了第一届关于模糊系统的国际会议（FUZZ－IEEE），并决定以后每年举行一次。1993年IEEE创办了专刊IEEETransactiononFuzzySystem。6.当前，模糊理论和应用正向深度和广度进一步发展，发展的速度越来越快，研究成果大量涌现，已经成为世界各国高科技竞争的重要领域之一。§1.3.2模糊系统的研究范畴模糊系统基于模糊数学理论，能对复杂事物进行模糊处理。模糊数学的理论基础包括模糊逻辑、模糊规则、模糊推理、隶属度和模糊集合等。另外，以模糊数学为基础的模糊控制器和模糊神经网络的理论和设计，将在第二篇中详细讲解。§1.4进化计算进化计算（EvolutionComputing）是采用简单的编码技术来表示各种复杂的结构，并通过简单的遗传操作和优胜劣汰的自然选择来指导学习和确定搜索的方向。由于它采用种群（即一组表示）的方式组织搜索，这使得它可以同时搜索解空间内的多个区域，特别适合大规模并行计算。进化计算具有自组织、自适应、自学习的特点，并且不受其搜索空间限制性条件（如可微、单峰等）的约束，不需要其它辅助信息（如导数）。这使得进化计算不仅能获得较高的效率，而且操作简单、通用性强。§1.4.1进化计算的发展过程§1.4.2进化计算的主要分支§1.4.3进化计算的主要特点§1.4.1进化计算的发展过程1.进化计算在20世纪六七十年代并未受到普遍的重视。其主要原因一是因为这些方法本身还不够成熟；二是由于这些方法需要较大的计算量，而当时的计算机还不够普及且速度较慢，这样便限制了它们的应用；三是当时基于符号处理的人工智能方法正处于其顶峰时期，使得人们难以认识到其它方法的有效性及适应性。2.到了80年代，人工智能方法的局限性越来越突出，并且随着计算机速度的提高和并行计算机的普及，已使得进化计算对机器速度的要求不再是制约其发展的因素。进化计算的不断发展及其在一些应用领域内取得的成功，已表现出了良好的应用前景。3.由于进化计算在机器学习、过程控制、经济预测、工程优化等领域取得的成功，引起了各领域科学家们的极大兴趣，自80年代中期以来，世界上许多国家都掀起了进化计算的研究热潮。目前，有数种以进化计算为主题的国际会议在世界各地定期召开，并已出版了两种以上专门关于进化计算的杂志。可以预料，随着进化计算理论研究的不断深入和应用领域的不断拓广，进化计算必将取得更大的成功。§1.4.2进化计算的主要分支进化计算的三大分支包括：遗传算法(GeneticAlgorithm,简称GA)、进化规划（EvolutionProgramming,简称EP）和进化策略（EvolutionStrategies,简ES）。这三个分支在算法实现方面具有一些细微的差别，但它们具有一个共同的特点，即都是借助生物进化的思想和原理来解决实际问题。下面我们分别就这三个分支作以简单的介绍。①遗传算法遗传算法是一类通过模拟生物界自然选择和自然遗传机制的随机化搜索算法，由美国J.Holand教授于1975年首次提出。它是利用某种编码技术作用于称为染色体的二进制数串，其基本思想是模拟由这些串组成的种群的进化过程，通过有组织地然而是随机地信息交换来重新组合那些适应性好的串。遗传算法对求解问题的本身一无所知，它所需要的仅是对算法所产生的每个染色体进行评价，并根据适应性来选择染色体，使适应性好的染色体比适应性差的染色体有更多的繁殖机会。遗传算法尤其适用于处理传统搜索方法难于解决的复杂的非线性问题，可广泛用于组合优化、机器学习、自适应控制、规划设计和人工生命等领域,是21世纪有关智能计算中的关键技术之一。②进化策略1964年，由德国柏林工业大学的I.Rechenberg等人提出。在求解流体动力学柔性弯曲管的形状优化问题时，用传统的方法很难优化设计中描述物体形状