基于人工神经网络的系统辨识

基于人工神经网络的系统辨识系统辨识与自适应控制课程讲义PowerElectronics&ElectricalDriveLab.HIT.2主要内容人工神经网络的概述人工神经元模型人工神经网络的结构人工神经网络的学习几种典型的人工神经网络系统辨识概述系统辨识的基本概念系统辨识的三要素系统辨识的基本过程基于神经网络的系统辨识技术人工神经网络辨识的基本原理飞行器系统气动力参数辨识PowerElectronics&ElectricalDriveLab.HIT.3人工神经网络的概述1.1人工神经元模型生物神经元结构PowerElectronics&ElectricalDriveLab.HIT.4人工神经网络的概述f1p2p3pRp……1,kwRkw,k连接权求和单元激活函数阈值kuky输入信号1.1人工神经元模型三个基本要素：1、连接权；2、求和单元；3、激活函数。1kkkRiikikufypwu数学模型PowerElectronics&ElectricalDriveLab.HIT.5人工神经网络的概述激活函数：1,0()0,0nafnn()afnn1()1exp()afnn1、硬限幅(Heaviside)激活函数2、线性激活函数3、对数-S型(sigmoid)激活函数4、对称硬极限激活函数5、饱和线性激活函数6、双曲正切S型激活函数7、正线性激活函数……PowerElectronics&ElectricalDriveLab.HIT.6人工神经网络的概述1.2神经网络的结构…………1p2pRp1y2yRy输入层隐含层输出层前馈型网络（FNN）根据激活函数的不同，FNN又可分为多种类型。如多层感知器（MLP）、径向基网络（RBF）、小波网络（WN）PowerElectronics&ElectricalDriveLab.HIT.7人工神经网络的概述………………输出输入1p2p1Rp1y2y1RyRpRy反馈（递归）型网络全局反馈：Hopfield网络、Elman网络局部反馈网络是在单个神经元上进行反馈，类型很多PowerElectronics&ElectricalDriveLab.HIT.8人工神经网络的概述1.3神经网络的学习通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点，在一般情况下，性能的改善是按某种规定的度量调节自身参数（如权值）并随时间逐步达到的，学习方式（按环境所供信息的多少分）有以下三种：1.有监督学习2.无监督学习3.强化学习学习算法：1.δ学习规则（误差纠正规则）2.Hebb学习规则3.竞争学习221111()22NNiiiiiJtyePowerElectronics&ElectricalDriveLab.HIT.9人工神经网络的概述1.4几种典型的人工神经网络1.感知机神经网络2.BP（BackPropagation）神经网络3.径向基（RadialBasisFunction,RBF）神经网络4.竞争学习神经网络5.Hopfield神经网络6.Boltzmann神经网络……PowerElectronics&ElectricalDriveLab.HIT.10人工神经网络的概述BP神经网络………1p2pMp1y2yLy输入层隐含层输出层ijwkiwjikMLq隐含层和输出层的激活函数采用对数-S型激活函数1()1exp()ygxxPowerElectronics&ElectricalDriveLab.HIT.11人工神经网络的概述………1p2pMp1y2yLy输入层隐含层输出层ijwkiwjikMLq隐含层的第i个神经元在样本p作用下的输入为：11(1,2,,)MMpppiijjiijjijjnetwowxiq隐含层的第i个神经元的输出为：()(1,2,,)ppiiognetiq输出层第k个神经元的总输入为：1(1,2,,)qppkkiikinetwokL输出层的第k个神经元的实际输出为：()(1,2,,)ppkkognetkLBP网络的前馈计算PowerElectronics&ElectricalDriveLab.HIT.12人工神经网络的概述BP网络权系数的调整规则对于每一样本p的输入模式对的二次型误差函数为：211()2LpppkkkJtoBP学习算法的基本原理是梯度最速下降法，它的中心思想是调整权值使网络总误差最小。学习过程按使误差函数Jp减小最快的方向调整加权系数直到获得满意的加权系数为止。因此，权系数应按Jp函数梯度变化的反方向调整，使网络逐渐收敛。(1)()ppkikikiwkwko(1)()ppijijijwkwko(1)()pppppkkkkkooto1(1)()Lppppiiikkikoow输出层的神经元权系数修改公式：隐含层的神经元权系数修改公式：PowerElectronics&ElectricalDriveLab.HIT.13人工神经网络的概述BP网络学习算法的计算步骤1.初始化：置所有的加权系数为最小的随机数；2.提供训练集：给出输入向量p和期望的输出向量t。3.计算实际输出；4.计算期望值与实际输出的误差；5.调整输出层的加权系数；6.调整隐含层的加权系数；7.返回步骤（3），直到误差满足要求为止。PowerElectronics&ElectricalDriveLab.HIT.14系统辨识概述2.1系统辨识的基本概念设有一离散时不变因果系统，它的输入和输出分别为u(t)和yp(t)，并设u(t)是一致有界函数，那么辨识问题可以描述为寻求一数学模型,使得模型的输出和被辨识系统的输出尽量接近。PowerElectronics&ElectricalDriveLab.HIT.15系统辨识概述2.2系统辨识三要素辨识三要素和辨识要点输入/输出数据系统模型类型等价准则能够量测到的系统的输入/输出数据所考虑的系统的结构给出辨识的优化目标输入信号的选择：必须能充分激励系统的所有模态。模型的选择：兼顾精确性和复杂性最常用的误差准则是误差平方和函数PowerElectronics&ElectricalDriveLab.HIT.16系统辨识概述2.3系统辨识的基本过程⑴选定和预测被辨识系统的数学模型类型⑵试验设计：选择试验信号，记录输入/输出数据⑶参数估计：选择估计方法，根据测量数据估计数学模型中的未知参数。⑷模型验证：验证所确定的模型是否恰当地表示了系统PowerElectronics&ElectricalDriveLab.HIT.17基于神经网络的系统辨识技术对象辨识模型uyyˆe＋－×在正向建模问题中，神经网络与待辨识系统具有相同的输入，两者的输出误差作为网络的训练信号，这是典型的有监督学习问题。学习结束后，网络模型将具有与实际系统相同的输入输出特性。3.1人工神经网络辨识的基本原理正向模型（1）正向模型PowerElectronics&ElectricalDriveLab.HIT.18基于神经网络的系统辨识技术（2）逆向模型直接逆模型间接逆模型直接逆向模型是把系统输出作为网络输入，用网络的输出与系统的输入作比较,两者的误差作为网络的训练信号；而间接模型结构中有一个已知的系统正向模型,同时将逆模型网络与系统串联，网络输入是系统的期望输出，训练信号为系统的期望输出与其实际输出之差，或者是与己知神经网络正向模型的输出之差。PowerElectronics&ElectricalDriveLab.HIT.19飞行器系统气动力参数辨识3.2飞行器系统气动力参数辨识飞行器系统各主要符号及其含义（6自由度）PowerElectronics&ElectricalDriveLab.HIT.20飞行器系统气动力参数辨识滚转姿态（副翼）PowerElectronics&ElectricalDriveLab.HIT.21飞行器系统气动力参数辨识俯仰（水平尾翼）PowerElectronics&ElectricalDriveLab.HIT.22飞行器系统气动力参数辨识偏航（垂直尾翼）PowerElectronics&ElectricalDriveLab.HIT.23飞行器系统气动力参数辨识假设：◆飞行器具有对称平面;◆运动中对称平面处于铅垂位置,且运动平面与飞机对称平面重合;◆飞行器进行定常直线运动。线性小扰动方程可分为彼此独立的两组，即可在纵、横两个方向上进行解耦。注：系统方程见文档PowerElectronics&ElectricalDriveLab.HIT.24飞行器系统气动力参数辨识纵向系统仿真PowerElectronics&ElectricalDriveLab.HIT.25飞行器系统气动力参数辨识通过MATLAB仿真得到纵向系统输入如右(其中，左侧输入为宽度为3秒的单位幅度脉冲；右侧输入为宽度为1秒的单位幅度脉冲)PowerElectronics&ElectricalDriveLab.HIT.26飞行器系统气动力参数辨识利用神经网络的正向辨识模型，对飞行器系统在小扰动情况下的动态特性进行辨识。采用串并联辨识模型，通过试验发现当输入、输出分别延时5个单元时能得到好的辨识结果。各神经网络辨识模型均由四个不含隐层的线性神经网络构成。准则函数如下:PowerElectronics&ElectricalDriveLab.HIT.27飞行器系统气动力参数辨识PowerElectronics&ElectricalDriveLab.HIT.28飞行器系统气动力参数辨识PowerElectronics&ElectricalDriveLab.HIT.29谢谢大家！