第6章--先进控制技术2

第六章先进控制技术先进控制技术主要解决传统的、经典的控制技术所难以解决的控制问题，代表着控制技术最新的发展方向，并且与多种智能控制算法是相互交融、相互促进发展的。本章主要介绍控制技术中的模糊控制技术、神经网络控制技术、专家控制技术和预测控制技术。6.1模糊控制技术6.2神经网络控制技术6.3专家控制技术6.4预测控制技术6.5其它先进控制技术6.2神经网络控制技术6.2.1神经网络概述6.2.2神经网络模型6.2.3神经网络系统辨识6.2.4神经网络控制6.2.5神经网络控制举例一、神经网络的产生与发展二、神经网络的特性与功能6.2.1神经网络概述一、神经网络的产生与发展1943年心理学家McCulloch和数学家Pitts提出神经元生物数学模型（简称MP模型），标志着神经网络的产生。1982年美国加州物理学家Hopfield提出了Hopfield神经网络系统（简称HNNS）模型，并提出了能量函数和稳定性等概念。并在计算TSP（售货员送货线路）问题上取得进展。神经网络系统理论与技术发展大体分三方面：1.硬件技术目前一些先进国家已实现了1000多个神经元的神经网络系统。2.神经网络系统理论3.神经网络应用研究神经网络系统理论的应用研究主要在模式识别、经济管理、优化控制、数据压缩、编码、解码、股市分析等方面。人工神经网络定义人工神经网络是一个由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处理方式。人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。二、神经网络的基本特性与功能1.神经网络的特性并行分布处理非线性映射通过训练进行学习适应与集成硬件实现2.神经网络的功能联想记忆功能非线性映射功能分类与识别功能优化计算功能知识处理功能联想记忆功能非线性映射功能输入样本神经网络输出样本自动提取非线性映射规则分类与识别功能传统分类能力ANN分类能力优化计算功能知识处理功能问题解答知识分布式表示由同一知识获取、知识库神经网平行推理络实现输入数据变量变换求解的问题神经网络专家系统的构成返回本节一、生物神经元及其信息处理二、人工神经元模型及人工神经网络模型三、多层感知器与BP算法四、Hopfield网络6.2.2神经网络模型一、生物神经元及其信息处理生物神经元的结构生物神经元的信息处理机理生物神经网络人类大脑大约包含有1.41011个神经元，每个神经元与大约103～105个其它神经元相连接，构成一个极为庞大而复杂的网络，即生物神经网络。神经生理学和神经解剖学的研究结果表明，神经元(Neuron)是脑组织的基本单元，是人脑信息处理系统的最小单元。1.生物神经元的结构生物神经元在结构上由细胞体(Cellbody)树突(Dendrite)轴突(Axon)突触(Synapse)四部分组成。用来完成神经元间信息的接收、传递和处理。2.生物神经元的信息处理机理（1）信息的产生神经元间信息的产生、传递和处理是一种电化学活动。神经元状态：兴奋：当传入的神经冲动使细胞膜电位升高超过阈值时，细胞进入兴奋状态，产生神经冲动由轴突输出。抑制：当传入的神经冲动使细胞膜电位下降低于阈值时，细胞进入抑制状态，没有神经冲动输出。（2）信息的传递与接收（3）信息的整合空间整合：同一时刻产生的刺激所引起的膜电位变化，大致等于各单独刺激引起的膜电位变化的代数和。时间整合：各输入脉冲抵达神经元的时间先后不一样。总的突触后膜电位为一段时间内的累积。3.生物神经网络•由多个生物神经元以确定方式和拓扑结构相互连接即形成生物神经网络。•生物神经网络的功能不是单个神经元信息处理功能的简单叠加。•神经元之间的突触连接方式和连接强度不同并且具有可塑性，这使神经网络在宏观呈现出千变万化的复杂的信息处理能力。二、人工神经元模型及人工神经网络模型神经元模型连接机制结构的基本处理单元与神经生理学类比往往称为神经元每个构造网络的神经元模型模拟一个生物神经元神经元及其突触是神经网络的基本器件。因此，模拟生物神经网络应首先模拟生物神经元。在人工神经网络中，神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工神经元是对生物神经元的一种形式化描述。x1x1w1j┆oj┆wijojxixi┆┆wnjxnxn(a)多输入单输出(b)输入加权x1w1jx1w1j┆wijoj┆wijojxI∑xI∑f┆wnj┆wnjxnxn(c)输入加权求和(d)输入-输出函数1.人工神经元模型神经元模型示意图（1）神经元的数学模型})]({[)(jn1iijiijjTtxwftoτij——输入输出间的突触时延；Tj——神经元j的阈值；wij——神经元i到j的突触连接系数或称权重值；f()——神经元转移函数。})]({[)1(1jniiijjTtxwfto（2）神经元的转移函数1）阈值型转移函数1x≥0f(x)=0x＜0f(x)1.0x02）非线性转移函数xexf11)(f(x)1.00.5x0xxeexf11)(f(x)1.00x-1.03）分段线性转移函数f(x)1.0x0xc0x≤0f(x)=cx0＜x≤xc1xc＜x（1）前向网络（层次型结构）2.人工神经网络模型○○○○○○○○○○○○输入层输出层中间层或隐层（2）（反馈网络）输出层到输入层有连接○○○○○○○○○○○○○○（3）（相互结合型网络）全互连型结构（4）（混合型网络）层内有连接的层次型结构○○○○○○○○○○○○神经网络能够通过对样本的学习训练，不断改变网络的连接权值以及拓扑结构，以使网络的输出不断地接近期望的输出。这一过程称为神经网络的学习或训练，其本质是可变权值的动态调整。3.人工神经网络的学习神经网络的主要学习算法有师学习有师学习算法能够根据期望的和实际的网络输出（对应于给定输入）间的差来调整神经元间连接的强度或权。无师学习无师学习算法不需要知道期望输出。强化学习强化学习算法采用一个“评论员”来评价与给定输入相对应的神经网络输出的优度（质量因数）三、多层感知器与BP算法1.感知器（1）感知器模型感知器是在MP模型基础上建了起来的单细胞神经网络的信息处理器。ojx1-1x2jT设输入向量X=(x1,x2)T0Txwxw10Txwxw1oj2j21j1j2j21j1j输出：则由方程w1jx1+w2jx2-Tj=0确定了二维平面上的一条分界线。ojx1-1x2（2）感知器的功能jTx1****O**O**OO*Ox2**OOOOw1jx1+w2jx2-Tj=0设输入向量X=(x1,x2,x3)T0101332211332211jjjjjjjjjTxwxwxwTxwxwxwo输出：则由方程w1jx1+w2jx2+w3j–Tj=0确定了三维空间上的一个分界平面。x2ojx1x3-1jTx1****O**O**OO*Ox2**OOOx3w1jx1+w2jx2+w3j–Tj=0设输入向量X=(x1，x2,…，xn)T则由方程w1jx1+w2jx2+…+wnjxn–Tj=0确定了n维空间上的一个分界平面。净输入：w1jx1+w2jx2+…+wnjxn–Tj一个最简单的单计算节点感知器具有分类功能。其分类原理是将分类知识存储于感知器的权向量（包含了阈值）中，由权向量确定的分类判决界面将输入模式分为两类。（1）基于BP算法的多层前馈网络模型2.多层感知器与BP算法误差反向传播神经网络，简称BP网络（BackPropagation），是一种单向传播的多层前向网络。在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等领域有着较为广泛的应用。如图是BP网络的示意图。o1…ok…olW1○Wk○Wl○y1○y2○…○yj…○ymy0=-1V1Vm○○○○○x0=-1x1x2…xi…xn-1xnBP网络的示意图输入向量：X=(x1,x2,…,xi,…,xn)T隐层输出向量：Y=(y1,y2,…,yj,…,ym)T输出层输出向量：O=(o1,o2,…,ok,…,ol)T期望输出向量：d=(d1,d2,…,dk,…,dl)T输入层到隐层之间的权值矩阵：V=(V1,V2,…,Vj,…,Vm)隐层到输出层之间的权值矩阵用：W=(W1,W2,…,Wk,…,Wl))(kknetfo对于输出层：k=1,2,…,lmjjjkkywnet0k=1,2,…,l对于隐层：j=1,2,…,mj=1,2,…,m)(jjnetfyniiijjxvnet0xexf11)(输出误差E定义为：221)(EOdlkkk)od(1221将以上误差定义式展开至隐层：lkkknetfdE12)]([21lkmjjjkkywfd120)]([21（2）BP学习算法的权值调整思路BP算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐层逐层处理，并传向输出层，每层神经元（节点）的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转入反向传播，将误差信号沿原来的连接通路返回，通过修改各层神经元的权值，使误差信号最小。权值调整思路:jkjkwEwj=0,1,2,…,m;k=1,2,…,lijijvEvi=0,1,2,…,n;j=1,2,…,m式中负号表示梯度下降，常数η∈(0,1)表示比例系数。在全部推导过程中，对输出层有j=0,1,2,…,m;k=1,2,…,l对隐层有i=0,1,2,…,n;j=1,2,…,m（3）BP学习算法的计算步骤1)初始化置所有权值为较小的随机数2)提供训练集3)计算实际输出计算隐含层、输出层各神经元输出4)计算目标值与实际输出的偏差E5)计算6)计算7)返回“2）”重复计算，直到误差满足要求为止jkwijv（4）标准BP算法的改进标准的BP算法在应用中暴露出不少内在的缺陷：易形成局部极小而得不到全局最优；训练次数多使得学习效率低，收敛速度慢；隐节点的选取缺乏理论指导；训练时学习新样本有遗忘旧样本的趋势。针对上述问题，国内外已提出不少有效的改进算法，下面为其中3种较常用的方法。1)增加动量项)1(δ)(ttWXWα为动量系数，一般有α∈(0，1)2)自适应调节学习率设一初始学习率，若经过一批次权值调整后使总误差↑，则本次调整无效，且=β(β1)；若经过一批次权值调整后使总误差↓，则本次调整有效，且=θ(θ1)。3)引入陡度因子实现这一思路的具体作法是，在原转移函数中引入一个陡度因子λ/11neteoo1=1121net0返回本节四、Hopfield网络Hopfield网络是一个单层网络，有多个神经元节点，每个神经元的输出均接到其它神经元的输入。各节点没有自反馈，每个节点都附有一个阀值。每个节点都可处于一种可能的状态（1或－1），即当该神经元所受的刺激超过其阀值时，神经元就处于一种状态（比如1），否则神经元就始终处于另一状态（比如－1）。一、系统辨识的定义及应用二、辨识的主要步骤三、在线辨识与离线辨识四、神经网络系统辨识应用实例6.2.3神经网络系统辨识定义：系统辨识就是在输入和输出数据的基础上，从一组给定的模型类中确定一个与所测系统等价的模型。一、系统辨识的定义及应用1.系统辨识的定义系统辨识（Identification）的主要应用：控制系统的分析和设计用于自校正、模型参考自适应系统预测和预报监视系统运行状态，进行故障诊断2.系统辨识的应用1)实验设计确定输入信号、采样周期、辨识时间、开环或闭环、离线或在线等等。2)确定辨识模型M的结构M的结构设计主要依靠人的