第二章-神经网络控制系统

第二章神经网络控制系统主讲人：钱锋2.1神经网络发展历程2.2人工神经元模型2.3人工神经网络的结构类型2.4人工神经网络的学习算法2.5人工神经网络的典型模型2.6神经网络在系统建模中的应用2.7基于神经网络的控制方案主要内容2.1神经网络发展历程（1）奠基阶段¾1943年，McCulloch与Pitts合作提出了第一个神经计算模型，简称MP模型。¾1949年，Hebb对大脑神经细胞、学习与条件反射作了大胆地假设，提出Hebb学习规则。¾50年代初，神经网络理论具备了初步模拟实验条件。2.1神经网络发展历程(2)第一次高潮阶段¾1958年，Rosenblatt基于MP模型，增加了学习机制，推广了MP模型。¾1960年，Widrow和Hoff提出了自适应线性元件ADACINE网络模型。2.1神经网络发展历程(3)坚持阶段¾1969年，Minsky和Papert出版论著Percertrons，对当时与感知器有关的研究及其发展产生了恶劣的影响。¾1960年，Holland经过长期探索与实践，建立了遗传算法理论。¾1976年，自适应共振理论(ART)、视觉图象识别的Neocognitron模型、进化随机策略等理论相继提出。2.1神经网络发展历程(4)第二次高潮阶段¾1982年，Hopfield提出的神经网络模型，对神经网络理论的发展产生了深远的影响。¾1984年，Hinton等人提出了Boltzmann机模型，借用统计物理学中的概念和方法，引入了模拟退火方法。¾1986年，Rumelhart提出了BP算法，受到许多学者的重视。2.1神经网络发展历程(5)新发展阶段¾90年代初，Edelman提出了Darwinism模型。¾Miller基于小脑模型关节控制器(CMAC)，研究了非线性动态系统控制问题。¾进化计算成为研究热点。¾1990年Takagi综述性地讨论了神经网络与模糊逻辑的结合，模糊神经网络迅速发展。2.1神经网络发展历程2.2人工神经元模型2.3人工神经网络的结构类型2.4人工神经网络的学习算法2.5人工神经网络的典型模型2.6神经网络在系统建模中的应用2.7基于神经网络的控制方案主要内容2.2人工神经元模型人工神经元模型是生物神经元的抽象和模拟，是神经网络的昀基本组成部分，一般是多输入-单输出的非线性器件。如下图：1x2xnx1iwinwiyiθ2iwΣ)(1ijnjijixwfyθ−∑==人工神经元模型输入与输出之间的关系：2.2人工神经元模型转换函数类型（1）阀值型（2）分段线性型0001)(≤⎩⎨⎧=iiixxxffliiiliiiiiixxxxxxxfkxxf≥≤⎪⎩⎪⎨⎧=pp00max0)(10xfmaxf0ixilxx0f2.2人工神经元模型转换函数类型（3）Sigmoid函数型（4）Tan函数型Txexf−+=11)(TxTxTxTxeeeexf−−+−=)(f5.00x1fx012.1神经网络发展历程2.2人工神经元模型2.3人工神经网络的结构类型2.4人工神经网络的学习算法2.5人工神经网络的典型模型2.6神经网络在系统建模中的应用2.7基于神经网络的控制方案主要内容2.3人工神经网络的结构类型人工神经网络由神经元模型构成；这种由许多神经元组成的信息处理网络具有并行分布结构。每个神经元具有单一输出，并且能够与其它神经元链接；存在许多输出连接方法，每种连接方法对应一个连接权系数。严格地说，人工神经网络是一种具有以下特性的有向图：),,(ijiiiwxfθ对于昀一般的情况，此函数取为：∑−jijijixwf)(θ„对于每个结点i，存在一个状态变量xi„从节点j到结点i，存在一个连接权系数wij„对于每个结点i，存在一个阈值„对于每个结点i，定义一个变换函数2.3人工神经网络的结构类型典型神经网络结构„前馈式网络„输出反馈的前馈式网络„前馈式内层互连网络„反馈型全互连网络„反馈型局部互连网络2.3人工神经网络的结构类型前馈式网络神经元分层排列，组成输入层、隐含层（可以有若干层）和输出层。每一层的神经元只接受前一层神经元的输入。输入模式经过各层的顺次变换后，在输出层输出。各神经元之间不存在反馈。感知器和误差反向传播算法中使用的网络都属于这种类型。入输MM出输根据激活函数的不同，有BP神经网络、正交函数网络、径向基函数网络、样条函数网络、小波函数网络等模型。这些前馈式网络结构特别适合于使用BP算法，如今BP算法已经得到了非常广泛的应用。2.3人工神经网络的结构类型输出反馈的前馈式网络：这种网络结构指的是只在输出层到输入层存在反馈，即每一个输入节点都有可能接受来自外部的输入和来自输出神经元的反馈，这种模式可用来存储某种模式序列，如神经认知机即属于此类，也可以用于动态时间序列过程的神经网络建模。输入输出2.3人工神经网络的结构类型前馈式内层互连网络：在这种网络结构中，同一层之间存在着相互关联，神经元之间有相互制约的关系，但从层与层之间的关系看还是前馈式的网络结构，许多自组织神经网络大多具有这样的结构，如ART网络等。输入输出2.3人工神经网络的结构类型反馈型全互连网络：每个神经元的输出都和其他神经元相连，从而形成了动态的反馈关系，如Hopfield网络。这种网络结构具有关于能量函数的自寻优能力。反馈型局部互连网络：每个神经元只和他周围若干层的神经元发生互连关系，形成局部反馈，从整体上看，是一种网格状结构，如Elman网络和Jordan网络。这种网络结构因为引入了反馈，又称为动态递归神经网络（DRNN——DynamicalRecurrentNeuralNetwork）。动态网络由于其内部的反馈作用，可以用较小的网络结构来实现系统的复杂行为，所以比较适合非线性动态系统的辨识与控制。2.1神经网络发展历程2.2人工神经元模型2.3人工神经网络的结构类型2.4人工神经网络的学习算法2.5人工神经网络的典型模型2.6神经网络在系统建模中的应用2.7基于神经网络的控制方案主要内容2.4人工神经网络的学习算法无师学习算法不需要知道期望输出。在训练过程中，只要向神经网络提供输入模式，神经网络就能够自动地适应连接权，以便按相似特征把输入模式分组聚集。无师学习算法的例子包括Kohonen算法和Carpenter-Grossberg自适应谐振理论（ART)等。距离计算神经网络输入信号PT期望输出　pXpY网络输出W神经网络w输入信号PXPY网络输出有师学习算法能够根据期望的和实际的网络输出(对应于给定输入)间的差来调整神经元间连接的强度或权。有师学习算法的例子包括Delta规则、广义Delta规则或反向传播算法以及LVQ算法等。2.4人工神经网络的学习算法学习规则根据连接权系数的改变方式不同又可以分为：a)相关学习仅仅根据连接间的激活水平改变权系数。它常用于自联想网络，执行特殊记忆状态的死记式学习。昀常见的学习算法是Hebb规则。是表示学习速率的比例常数。D.Hebb于1949年提出：两元同时兴奋，则突触连接加强，即连接权的调整正比于两个神经元活动状态的乘积。b)纠错学习依赖关于输出节点的外部反馈改变权系数，它常用于感知器网络、多层前向传播网络和Boltzman机网络。其学习方法是梯度下降法。昀常见的学习方法有δ学习规则、模拟退火学习规则。δ学习规则即通过计算该神经元节点的实际激活值，与期望状态进行比较，若不满足要求，将两者的误差的一部分作为调整量，若满足要求，则相应的权值保持不变。jiijyywα=Δαijijywαδ=Δjjjyy−=δ2.1神经网络发展历程2.2人工神经元模型2.3人工神经网络的结构类型2.4人工神经网络的学习算法2.5人工神经网络的典型模型2.6神经网络在系统建模中的应用2.7基于神经网络的控制方案主要内容2.5人工神经网络的典型模型一、前向神经网络模型－感知器模型及其学习算法感知器模型是美国学者罗森勃拉特（Rosenblatt）为研究大脑的存储、学习和认知过程而提出的一类具有自学习能力的神经网络模型，它把神经网络的研究从纯理论探讨引向了从工程上的实现。Rosenblatt提出的感知器模型是一个只有单层计算单元的前向神经网络，由线性阈值单元组成，称为单层感知器。2.5人工神经网络的典型模型（1）线性阀值单元线性阈值单元是前向网络(又称前馈网络)中昀基本的计算单元，它具有n个输入(x1，x2…，xn)，一个输出(y)，n个连接权值(w1，w2，…，wn。)，且符合下式：2.5人工神经网络的典型模型（2）单层感知器单层感知器只有一个计算层，它以信号模板作为输入，经计算后汇总输出，层内无互连，从输出至输入无反馈，是一种典型的前向网络，如图所示：2.5人工神经网络的典型模型（3）单层感知器的学习算法①考虑仅有一个输出节点的情况，给wi(0)(i=1，2，…，n)及阈值θ分别赋予一个较小的非零随机数作为初值；这里wi(0)表示在时刻t=0时第i个输入的连接权值。②输入一个样例X={x1，x2，…，xn}和一个所期望的输出d。③计算网络的实际输出，当输入的加权和大于等于阈值时，输出为1，否则为0或-1。2.5人工神经网络的典型模型（3）单层感知器的学习算法④调整连接权值，此处0η≤1，它是一个增益因子，用于控制调整速度。如果实际输出与已知的输出一致，表示网络已经作出了正确的决策，此时就无需修改wi(t)的值。⑤转到第(2)步，直到连接权值w对一切样例均稳定不变时为止。2.5人工神经网络的典型模型（4）单层感知器的实例分析a)“与”运算令w1=w2=1，θ=2，则y=f(1×x1+1×x2-2)显然，当x1和x2均为1时，y的值1；而当x1和x2有一个为0时，y的值就为0。b)“或”运算令w1=w2=1,θ=0.5，则y=f(1×x1+1×x2-0.5)显然，只要x1和x2中有一个为1，则y的值就为1；只有当x1和x2都为0时，y的值才为0。假设单层感知器的输出为：(x1,x2)=f(w1×x1+w2×x2-θ)用此感知器可以实现如下的简单逻辑运算：2.5人工神经网络的典型模型（4）单层感知器的实例分析d)“异或”运算如果“异或”问题能用单层感知器解决，则由XOR的真值表可知，w1、w2和θ必须满足如下方程组：w1+w2-θ＜0w1+0-θ≥00+0-θ＜00+w2-θ≥0显然，该方程组是无解，这就说明单层感知器是无法解决异或问题的。c)“非”运算令w1=-1，w2=0，θ=-0.5，则y=f((-1)×x1+1×x2+0.5))显然，无论x2为何值，x1为1时，y的值都为0；x1为0时，y的值为1。2.5人工神经网络的典型模型（4）单层感知器的实例分析单层感知器不能解决线性不可分函数，相关研究表明，线性不可分函数的数量随着输入变量个数的增加而快速增加，甚至远远超过了线性可分函数的个数。也就是说，单层感知器不能表达的问题的数量远远超过了它所能表达的问题的数量。这也难怪当Minsky给出单层感知器的这一致命缺陷时，会使人工神经网络的研究跌入漫长的黑暗期。2.5人工神经网络的典型模型（5）多层感知器在单层感知器的输入部分和输出层之间加入一层或多层处理单元，就构成了二层或多层感知器。在多层感知器模型中，只允许某一层的连接权值可调，这是因为无法知道网络隐层的神经元的理想输出，因而难以给出一个有效的多层感知器学习算法。多层感知器克服了单层感知器的许多缺点，原来一些单层感知器无法解决的问题，在多层感知器中就可以解决。例如，应用二层感知器就可以解决异或逻辑运算问题。2.5人工神经网络的典型模型二、前向神经网络模型－反向传播模型及其学习算法反向传播网络又称BP网络，是一种能反向传递误差，并能修正误差的多层映射网络。当参数适当时，此网络的实际输出能够以较小的均方误差收敛到期望输出，是目前应用昀广的网络之一。2.5人工神经网络的典型模型（1）反向传播网络的学习算法BP算法的学习目的是对网络的连接权值进行调整，使得调整后的网络对任一输入都能得到所期望的输出。„学习过程由正向传播和反向传播组成；„正向传播用于对前向网络进行计算，即对