神经网络与人工神经网络控制综述

第1页共14页神经网络与人工神经网络控制综述摘要：本文阐述了人工神经网络和神经网络控制的基本概念、特点以及两者之间的关系，着重介绍了人工神经网络的工作原理和神经网络控制技术的应用，并对该技术的发展趋势做出了预测。关键词：神经元；人工神经网络；神经网络控制；应用Abstract:Itexpoundsthebasicconcepts,characteristicsoftheartificialneuralnetworkandneuralnetworkcontrolandtherelationshipbetweenthem,andthebasicprincipleofartificialneuralnetworksandapplicationsofneuralnetworkcontroltechnologyareemphaticallyintroduced,thenthedevelopmenttrendofthetechnologyhasbeenforecasted.Keyword:NerveCell;ArtificialNeuralNetworks;NeuralNetworkControl;Application1人工神经网络与神经网络控制的基本概念和特点人工神经网络是由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。基于人工神经网络的控制（ANN—basedControl）简称神经网络控制（NeuralControl）。[1]1.1人工神经网络1.1.1生物神经元模型自20世纪40年代，随着神经解剖学、神经生理学以及神经元的电生理过程等的研究取得突破性进展，人们对人脑的结构、组成及最基本工作单元有了越来越充分的认识。人脑大约包含1012个神经元，分成约1000种类型，每个神经元大约与102～104个第2页共14页其他神经元相连接，形成极为错综复杂而又灵活多变的神经网络。每个神经元虽然都十分简单，但是如此大量的神经元之间、如此复杂的连接却可以演化出丰富多彩的行为方式。同时，如此大量的神经元与外部感受器之间的多种多样的连接方式也蕴含了变化莫测的反应方式。一个神经元结构的模型示意图如图一所示。图一神经元结构的模型示意图由图一看出，神经元由胞体、树突和轴突构成。胞体是神经元的代谢中心，它本身又由细胞核、内质网和高尔基体组成。内质网是合成膜和蛋白质的基础，高尔基体主要作用是加工合成物及分泌糖类物质，胞体一般生长有许多树状突起，称为树突，它是神经元的主要接受器。胞体还延伸出一条管状纤维组织，称为轴突。轴突外面可能包有一层厚的绝缘组织，称为髓鞘（梅林鞘），髋鞘规则地分为许多短段，段与段之间的部位称为郎飞节（Ranvier节）。轴突的作用主要是传导信息，传导的方向是由轴突的起点传向末端。通常，轴突的末端分出许多末梢，它们同后一个神经元的树突构成一种称为突触的机构。其中，前一个神经元的轴突末梢称为突触的前膜，后一个神经元的树突称为突触的后膜；前膜和后膜两者之间的窄缝空间称为突触的间隙，前一个神经元的信息由其轴突传到末梢之后，通过突触对后面各个神经元产生影响。[2~4]神经元作为控制和信息处理的基本单元，具有下列一些重要的功能和特性:1）空间整合功能：神经元对于同一时间通过不同突触传入的神经冲动具有空间整合功能，两种功能相互结合，具有时空整合的输入信息处理功能。2）兴奋与抑制状态：神经元具有两种常规工作状态。兴奋：当传入冲动的时空整合结果使得细胞膜电位升高，并超过被称为动作电位第3页共14页的阀值时，细胞进入兴奋状态，产生神经冲动，由轴突输出，用“1”表示。抑制：当输入没有达到阀值时，细胞进入抑制状态，无神经冲动输出，用“0表示。3）学习、遗忘和疲劳：由于结构可塑性，突触的传递作用有增强，减弱和饱和，所以细胞具有相应的学习功能，遗忘或疲劳效应(饱和效应)。以上的这些特性是神经元功能中比较突出的一部分，也是本论文的模型中主要涉及的功能。我们可以发现，神经元并不是简单的双稳态逻辑元件，而是超级的微型生物信息处理机和控制机。[5]1.1.2人工神经元模型人工神经元是对生物神经元的一种模拟与简化，它是神经网络的基本处理单元。图二所示为一种简化的人工神经元结构。它是一个多输入、单输出的非线性元件。图二人工神经元结构其输入、输出关系为：1niijjijIwx()iiyfI其中，(1,2,3,jxj…，n)是从其他神经元传来的输入信号；ijw表示从神经元j到神经元i的连接权值；i为阈值；f(•)称为激发函数或作用函数。第4页共14页方便起见，常把-i也看成是恒等于1的输0x的权值，因此上式可写成：0niijjjIwx其中：0iiw，01x。输出激发函数f(•)又称为变换函数，它决定神经元（节点）的输出。该输出为1或0，取决于其输入之和大于或小于内部阈值i。f(•)函数一般具有非线性特性。[6~7]1.1.3人工神经网络模型人工神经网络是以工程技术手段来模拟人脑神经网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。目前已有数十种不同的神经网络模型，其中前馈型网络和反馈型网络是两种典型的结构模型。1）前馈型神经网络前馈型神经网络，又称前向网络（FeedforwardNN）。如图三所示，神经元分层排列，有输入层、隐层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前一层神经元的输入。图三前馈型神经网络从学习的观点来看，前馈网络是一种强有力的学习系统，其结构简单而易于编程；从系统的观点看，前馈网络是一静态非线性映射，通过简单非线性处理单元的复合映射，可获得复杂的非线性处理能力。但从计算的观点看，缺乏丰富的动力学行为。大部分前馈网络都是学习网络，它们的分类能力和模式识别能力一般都强于反馈网第5页共14页络，典型的前馈网络有感知器网络、BP网络等。2）反馈型神经网络反馈型神经网络（FeedbackNN）的结构如图四所示。如果总节点（神经元）数为N，那么每个节点有N个输入和一个输出，所有节点都是一样的，它们之间都可相互连接。图四反馈型神经网络反馈神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。Hopfield神经网络是反馈网络中最简单且应用广泛的模型，它具有联想记忆的功能，如果将Lyapunov函数定义为寻优函数，Hopfie1d神经网络还可以用来解决快速寻优问题。在此基本认识的基础上，综合数学、物理学以及信息处理等学科的方法对人脑神经网络进行抽象，并建立简化的模型，称为人工神经网络ANN(ArtificialNeuralNetwork)。目前，关于人工神经网络的定义尚不统一，按美国神经网络学家HechtNielsen的观点，神经网络的定义是：“神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算机系统，该系统靠其状态对外部输入信息的动态响应来处理信息的”。综合神经网络的来源、特点和各种解释，它可简单地表述为：人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。[8]1.2.4人工神经网络的特点1）非线性第6页共14页非线性关系是自然界的普遍特性。大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制二种不同的状态，这种行为在数学上表现为一种非线性人工神经网络关系。具有阈值的神经元构成的网络具有更好的性能，可以提高容错性和存储容量。2）非局限性一个神经网络通常由多个神经元广泛连接而成。一个系统的整体行为不仅取决于单个神经元的特征，而且可能主要由单元之间的相互作用、相互连接所决定。通过单元之间的大量连接模拟大脑的非局限性。联想记忆是非局限性的典型例子。3）非常定性人工神经网络具有自适应、自组织、自学习能力。神经网络不但处理的信息可以有各种变化，而且在处理信息的同时，非线性动力系统本身也在不断变化。经常采用迭代过程描写动力系统的演化过程。4）非凸性一个系统的演化方向，在一定条件下将取决于某个特定的状态函数。例如能量函数，它的极值相应于系统比较稳定的状态。非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样性。[9]1.2.5人工神经网络的分类人工神经网络除了按联接方式分为前馈（前向）型与反馈型以外，还有其他的分类方式。按性能分为连续型与离散型。按逼近特性分为全局逼近型与局部逼近型。按学习方式分为有导师的学习（监督学习）与无导师的学习（无监督学习）。再励学习（强化学习）它们都是模拟人适应环境的学习过程的一种机器学习模型，因此，具有学习能力的系统，称：学习系统（学习机）。按工作方式分为同步与异步。[10]第7页共14页1.2.6人工神经网络的优点神经网络控制具有以下优点：1）能够充分逼近任意复杂的非线性系统；2）能够学习和适应严重不确定系统的动态特性；3）由于大量神经元之间广泛连接，即使少量神经元或连接损坏，也不影响系统的整体功能，表现出很强的鲁棒性和容错性；4）采用并行分布处理方法，使得快速进行大量运算成为可能。这些特点显示了神经网络在解决高度非线性和严重不确定性系统的控制方面具有很大潜力。人工神经网络中，神经元处理单元可表示不同的对象，例如特征、字母、概念，或者一些有意义的抽象模式。网络中处理单元的类型分为三类：输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据；输出单元实现系统处理结果的输出；隐单元是处在输入和输出单元之间，不能由人工神经网络由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度，信息的表示和处理体现在网络处理单元的连接关系中。人工神经网络是一种非程序化、适应性、大脑风格的信息处理，其本质是通过网络的变换和动力学行为得到一种并行分布式的信息处理功能，并在不同程度和层次上模仿人脑神经系统的信息处理功能。[11~12]神经网络具有很强的自适应性和学习能力、非线性映射能力、鲁棒性和容错能力。充分地将这些神经网络特性应用于控制领域，可使控制系统的智能化向前迈进一大步。随着被控系统越来越复杂，人们对控制系统的要求越来越高，特别是要求控制系统能适应不确定性、时变的对象与环境。传统的基于精确模型的控制方法难以适应要求，现在关于控制的概念也已更加广泛，它要求包括一些决策、规划以及学习功能。1.2神经网络控制许多难确定的非线性系统对控制精度的要求很高，需要新的控制系统具有自适应的能力、良好的鲁棒性和实时性、计算简单、柔性结构和自组织并行离散分布处理等智能信息处理的能力。由此产生了神经网络控制系统。神经网络控制或神经控制第8页共14页是指在控制系统中，应用神经网络技术，对难以精确建模的复杂非线性对象进行神经网络模型辨识，或作为控制器，或进行优化计算，或进行推理，或进行故障诊断，或同时兼有上述多种功能。称这种控制方式为神经网络控制，这样的系统称为基于神经网络的控制系统。通常将人工神经网络技术与传统的控制理论或智能技术综合使用。神经网络在控制中的作用有以下几种：1）在传统的控制系统中用以动态系统建模，充当对象模型；2）在反馈控制系统中直接充当控制器的作用；3）在传统控制系统中起优化计算作用；4）与其他智能控制方法如模糊逻辑、遗传算法、专家控制等相融合。1.2.1神经网络控制的优越性神经网络控制具有以下特性冗余性、容错性、本质的非线性、自组织、自学习、自适应。其优越性主要表现为：1）可以处理那些难以用模型或者规则描述的过程或系统，例如人骑自行车；2）行分布式信息处理方式，具有很强的容错性。3）本质的非线性系统。4）很强的信息综合能力。可以同时处理不同类型的信息，具有很好的互补性与冗余性。利用神经网络，人们可以有效进行信息的融合来达到运动学、动力模型和环境模型间的有机结合。5）硬件实现非常方便。大规模集成电路技术的发展为神经网络硬件的实现提供了技术手段。1.2.2神经网络控制器的类型1）有导师的控制器第9页共14页2）逆控制器3）自适应网络控制器4）神经内模控制器5）前馈控制结构：基于鲁棒性