智能传感器系统神经网络技术及其在智能传感器系统中的应用

第六章神经网络技术及其在智能传感器系统中的应用人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。逻辑性的思维：是指根据逻辑规则进行推理的过程。神经网络信息概念（符号表示）逻辑推理串行指令直观性的思维：是将分布式存储的信息综合起来，结果是瞬间产生想法或解决问题的办法。1.信息是通过神经元上的兴奋模式分布存储在网络上；2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。6.1神经网络基本知识6.1.1人工神经网络模型图6-1基本神经元模型神经元是神经网络的基本单元；Wli表示某一神经元与第i个神经元的连接权值；阈值（偏置值）；神经元的输出可描述为：injjjiiiiQxWAAfy1)(式中：f(Ai)表示神经元输入—输出关系的函数，称为作用函数或传递函数，常用的作用函数有如图6-2所示的三种：阈值型、S型和分段线性型(伪线性型)。这样，就有三类神经元模型。如果有阈值，则表示当神经元的输入达到一定的强度后才能激活。图6-2(a)阈值型；(b)S型；(c)伪线性型一、阈值型神经元阈值型神经元是一种最简单的神经元，Mc.Culloch和数学家Pitls共同提出，因此，通常称为M-P模型。M-P模型神经元是二值型神经元，其输出状态取值为1或0，分别代表神经元的兴奋状态和抑制状态。其数学表达式为0001)(iiiiAAAfy对于M-P模型神经元，权值Wji可在(-1,1)区间连续取值。取负值表示抑制两神经元间的连接强度，取正值表示加强。二、S型神经元模型这是常用的一种连续型神经元模型，输出值是在某一范围内连续取值的。输入—输出特性多采用指数函数表示，用数学公式表示如下：iAiieAfy11)(S型作用函数反映了神经元的非线性输入—输出特性。用于多层神经网络的隐层三、神经元的输入—输出特性满足一定的区间线性关系，其输出可表示为iCiiiiAAACAAy1000式中,C、AC表示常量。多用于输出层。6.1.2神经网络结构一、分层网络图6-3分层网络功能层次二、相互连接型结构图6-4相互连接型网络6.1.3学习与记忆一、神经网络的学习Hebb（赫布是加拿大著名生理心理学家）学习规则可以描述为：如果神经网络中某一神经元与另一直接与其相连的神经元同时处于兴奋状态，那么这两个神经元间的连接强Wji(t+1)=Wji(t)+η［xi(t),xj(t)］式中：Wji(t+1)——η——常量，决定每次权值修正量，又称学习因子xi(t)、xj(t)——t时刻第i个、第j个神经元的状态。误差修正算法是神经网络学习中另一个更重要的方法。像感知机、BP网络学习均属此类。是最基本的误差修正学习方法，即通常说的δ学习规则，(1)任选一组初始权值Wji(0)。(2)计算某一输入模式对应的实际输出与期望输出的误差。(3)更新权值Wji(t+1)=Wji(t)+η［dj-yj(t)］xi(t)式中：η——dj、yj——第jxi——第i个神经元的输入。(4)返回步骤(2)，直到对所有训练模式、网络输出均满足误二、神经网络记忆包含两层含义：信息的存储与回忆。网络通过学习将所获取的知识信息分布式存储在连接权的变化上，并具有相对稳定性。一般来讲，存储记忆需花较长时间，因此这种记忆称为长期记忆，而学习期间的记忆保持时间很短，称为短期记忆。6.1.4神经网络的信息处理功能神经网络可以完成大量的信息处理任务，正因为这样，其应用涉及相当广泛的领域。归纳起来，神经网络的信息处理任务主要包括：一、通过一组映射样本(x1,y1),(x2,y2),…,(xn,yn)，网络以自组织方式寻找输入、输出之间的映射关系：yi=f(xi)二、联想记忆联想记忆是指实现模式完善、恢复相关模式的相互回忆等，典型的有如Hopfield网络等。6.2前向网络6.2.1感知机图6-5基本感知机结构感知机的学习算法为)()]([)()1(kxkydkWkWijjjijii=1,2,…,nnijijiixkWfky1)()(式中：η为学习因子，在(0,1］区间取值。期望输出与实际输出之差为1)(,01)(011)(kydkyddkydjjjjjjjj输入状态xi(k)=1或06.2.2BP一、BP网络模型是一种多层前馈神经网络，变换函数是S型，输出为0~1之间的连续量；通过网络权值和偏置值调整，以满足输出要求。图6-6一个三层BP网络结构在实际应用中一般为三层：输出层：Lwkj表示隐层第j个节点与输出层第k个节点的连接权值；神经元序号k=1，2，…，M隐层：Iwji表示输入层第i个节点与隐层第j个节点的连接权值；神经元序号j=1，2，…，L输入层：神经元序号i=1，2，…，R二、网络结构示意图（书中图6-9）网络的输入层有3个节点；隐层有4个节点；输出层有2个节点。三、BP神经网络神经元模型BP网络神经作用函数：1）输入层神经作用函数：纯线性节点i的输出为：Oi=Pi2）隐层作用函数：对数S型，共有4*3个权值输出层神经作用函数：对数S型，共有2*4个权值1111311111jjjjnRjijijiOfnaenOIwb2224222111kkknLkjkjkjOfnenOLwb节点K的总输入节点K的输出节点j的输出节点j的总输入一般选用下列S形作用函数：xexf11)(且处理单元的输入、输出值可连续变化。BP网络模型实现了多层网络学习的设想。当给定网络的一个输入模式时，它由输入层单元传到隐层单元，经隐层单元逐层处理后再送到输出层单元，由输出层单元处理后产生一个输出模式，故称为前向传播。如果输出响应与期望输出模式有误差，且不满足要求，那么就转入误差后向传播，即将误差值沿连接通路逐层向后传送，并修正各层连接权值。如果任意设置网络初始权值，那么对每个输入模式p,网络输出与期望输出一般总有误差。定义网络误差为jpjpjpppOdEEE2)(21式中，dpj表示对第p个输入模式输出单元j的期望输出。δ学习规则的实质是利用梯度最速下降法，使权值沿误差函数的负梯度方向改变。若权值Wji的变化量记为ΔWji,则jipjiWEW而pjpjpjpjpjipjpjpjipOOaEWaaEWE这里，令pjppjaE于是0,pjpjjiOW这就是通常所说的δ学习规则。当Opj表示输出层单元的输出时，其误差pjpjpjppjppjaOOEaE)('pjpjpjafaO)(pjpjpjpOdOE))(('pjpjpjpjOdaf当Opj表示隐单元输出时，其误差pjpkpkppjppjpjppjpjpjppjppjOaaEOEafOEaOOEaE)('kjpjpkWOapkpkpaEkjpkpjpWOE故kjpkpjpjWaf)('至此，BP算法权值修正公式可统一表示为pjpjjijiOtWtW)()1(kjpkpjpjpjpjpjWafOdaf)('))(('对于输出单元对于隐单元(6-26)在实际应用中，考虑到学习过程的收敛性，通常为了使学习因子η取值足够大，又不致于产生振荡，在权值修正公式(6-29)中再加一个势态项，得)]1()([)()1(tWtWOtWtWjijipjpjjiji式中，α是常数，称势态因子，它决定上一次学习权值对本次权值更新的影响程度。一般地，BP网络学习算法步骤描述如下(1)初始化网络及学习参数，如设置网络初始矩阵、学习因子η、参数α(2)提供训练样本，训练网络，(3)前向传播过程：对给定训练模式输入，计算网络的输出模式，并与期望模式输出比较，若有误差，则执行(4)，否则，返回(2)；(4)①计算同一层单元的误差δpj。②修正权值和阈值)]1()([)()1(tWtWOtWtWjijipjpjjiji阈值即为i=0时的连接权值。③返回(2)。用网络的均方根值(RMS)误差来定量反映学习性能。其定义为mnydEmpnjpjpjRMS112)(6.4.2一、具有传感、执行、信号处理、通信与控制等功能的结构称之为智能结构。这种结构不仅具有承受载荷的能力，还具有感知和响应内外环境的变化，实现自检测、自监控、自校正、自适应、自修复等功能。下面介绍利用人工神经网络和埋入偏振型光纤传感器阵列，实时适应监测复合材料损伤，并指示损伤位置的智能结构系统模型。二、智能结构系统简介图6-15智能结构系统图三、前向BP网络处理器图6-16三层BP网络图6-17BP算法流程6.4.6基于神经网络的三传感器数据融合处理法(消除两个非目标参量的影响)1.传感器静态特性不仅受某一个环境参量的影响，即不只受一个非目标参量的影响，有时甚至受多个非目标参量的影响。如一个压力传感器，在输入压力P数值不变的情况下，当工作温度T变化以及供电电源波动γ都将引起传感器输出电压U发生变化，则该压力传感器受两个非目标参量(T，γ)的影响。为了提高传感器的稳定性，消除两个非目标参量对传感器输入—输出特性的影响，可采用多种智能化技术，如多维回归分析法与神经网络法，这是两种有效的融合处理方法。2.基于神经网络法的三传感器数据融合原理图6-25采用神经网络进行三传感器数据融合的智能压力传感器系统框图图6-26传感器模块电路原理图(1)压力传感器：这里的压力传感器采用的是CYJ-101型压阻式压力传感器，对应被测压力P(目标参量)输出电压U。一个理想的压力传感器，其输出U应为输入P的一元单值函数，即U=f(P)其反函数为P=f-1(U)但是，该传感器受工作温度T与供电电源波动γ的影响，其输出电压U将发生变化，实际上是一个三元函数，U=f(P,T,γ)(2)温度传感器：温度传感器将工作温度T转换为电压信号Ut,如图6-26。采用恒流源供电的压力传感器，其供电端(AC两端)电压UAC即为Ut。(3)电流传感器：电流传感器将电流信号I转换为电压信号UI,如图6-26。采用标准恒定电阻RN与压力传感器相串联，RN两端电压UI为UI=IRN则供电电源波动γ为IIUUII||||2)神经网络模块是由软件编程实现的一种BP网络算法。其三个输入量X1、X2、X3分别为U、Ut、γ，输出量为P′。P′亦是智能压力传感器系统的总输出量。总输出量P′(1)P′仅为被测压力P的单值函数，这样就消除了工作温度和供电电源波动两个非目标参量的影响。(2)在工作温度和供电电源同时波动情况下，要求系统输出P′以某个允许偏差逼近被测目标参量P，从而实现了系统测量目标参量P的目的。要实现上述要求，需对神经网络进行训练，网络训练样本由三维标定实验数据来提供。3.1)在不同工作温度T(=21.5℃,44.0℃,70.0℃),令电源电流波动分别为=3%,-1%,-3%条件下，对CYJ-101型压力传感器的静态输入(P)—输出(U)特性进行标定。实验标定数据列于表6-5。II表6-5不同工作温度及供电电源波动下传感器输入输出标定值2)神经网络训练样本数据的归一化表6-6神经网络输入输出标准样本库05.0)(9.0minmaxminminmaxminPPPPPXXXXXmmiiiimim式中:——第m个样本神经网络输入、输出归一化值；Xim、Pm——第m个样本第i个传感器的输入、Ximax、Ximin——第i个传感器输出最大、最小标定值。mimPX、(6-53)(6-52)如T=21.5℃且当i=1时，X1max=Umax=100.12mV,X1min=0；当i=2时，X2max=Utmax=290.5mV,X2min=184.4mV;又如T=70.0℃且当i=