混沌神经网络的研究及其应用---王敏瑞

上海大学2010～2011学年冬季学期研究生课程论文课程名称：《动力系统基础》课程编号：011201907论文题目:混沌神经网络的研究及其应用作者姓名:王敏瑞学号:10720072成绩:论文评语:评阅人签名:批阅日期:混沌神经网络的研究及其应用王敏瑞（上海大学理学院，上海200444）摘要：本文通过保持暂态混沌神经元的混沌搜索机制，产生了一类新的混沌动力学系统。首先分析了该混沌动力系统的参数对系统的影响；其次分析了其混沌时间序列的Lyapunov指数、关联维、熵等动力学特性。举例通过试验分析验证了该混沌动力系统在密码学上应用。关键词：混沌动力系统混沌神经元Lyapunov指数TheResearchAndApplicationOfChaoticNeuralNetworkWangMinrui(Collegeofscience,ShanghaiUniversity,Shanghai200444.China)Abstract：ThispaperpresentsakindofnovelchaoticdynamicsystembymaintainingthechaoticsearchingmechanismofTCNN.First,wemakeananalysisoftheparameters’effectstothesystem;second,wemakeananalysisoftheLyapunovexponent,correlationdimension,entropyofthechaotictimeseries.Thetestprovesthatthechaoticdynamicsysteminencryptisvalid.KeyWords:chaoticdynamicsystemchaoticneuralunitLyapunovexponent0.引言目前广泛研究的混沌神经网络模型是在Hopfield神经网络中引入了一个具有混沌特性的负反馈项，进而得到了混沌神经网络模型，因此在深入研究混沌神经网络之前，有必要先介绍一下Hopfield神经网络。美国物理学家J.J.Hopfield首先提出一种单层反馈网络系统，这种单层反馈网络就称为Hopfield网络。反馈神经网络的非线性和高维数，使得现有工具难以确定其状态轨迹，甚至可能出现混沌现象。由于具有混沌特性的神经网络其动力学特性十分复杂，因此获得了广泛研究。暂态混沌神经网络利用混沌的遍历性搜索对解决例如TSP(旅行商)等NP问题有很好的效果，这是因为混沌神经网络是一非线性巨复杂动力系统。如果消除混沌神经网络的暂态混沌而使混沌一直存在，那么被改进的系统就是一个非线性巨复杂的混沌动力系统。1.混沌神经网络及混沌神经元模型暂态混沌神经网络模型如下：))(()(tyftxit(1)))()(()()1(0iijijijiiItxtzIxWtkyty(2))()1()1(tzβtzii(3)其中，式(1)—神经元的激励函数(activationfunction)；ix—第i神经元的输出；iy—第i神经元的输入；ijW—从第j神经元到第i神经元的连接权值；iI—第i神经元的偏置；0I—正常数；—神经元之间的联接强度，也称耦合因子；k神经隔膜的阻尼因子，0≤k≤1；β(0≤β≤1)—模拟退火参数，iz(t)模拟退火的初始值，式(3)类似于模拟退火算法函数,随着迭代次数的增加，该式会逐渐趋于0。式(1)作为激励函数不是固定不变的，它可以是Sigmoid函数，也可以是其它与Sigmoid相合的函数。本文采用Sigmoid函数，该模型就是Chen和Aihara提出的模型[1]，Sigmoid函数如下式所示))/exp(1/(1)(uuf(4)其中—增益参数。当=0时，以上三个方程就演化为混沌神经元模型：))(()(tyftx(5)))()(()()1(0Itxtztkyty(6))()1()1(tzβtz(7)2.混沌神经元的动力学研究首先，暂态混沌神经元之所以出现暂态混沌现象，与式(7)模拟退火参数β的关系很大。取=0.004,k=0.6,β=0.008,I0=0.1,y(1)=0.283，z=0.1,暂态混沌神经元x演化相图如图1所示：图1x相图从图1看出x首先进入了混沌搜索，然后通过倒分岔消除了混沌现象，进入了类似Hopfield网络的梯度下降域。其次，为了产生混沌系统，就要保持混沌搜索一直持续下去。于是，本文去掉混沌神经元的模拟退火策略。取=0.004,k=0.6,β=0,I0=0.1,y(1)=0.283，z=0.1，暂态混沌神经元演化为混沌动力系统：/)(e11))(()(tytyftx(8)))(()()1(0Itxztkyty(9)此时x的相位图见图2(下图）。为了验证该相图的时间序列是混沌的，本文对其进行了如下研究：3.Lyapunov指数在以上参数下，本文计算了最大Lyapunov指数的时间演化图，如图3示：图3最大Lyapunov指数时间演化图通过上图可以看到，由于消除了模拟退火，动力系统的最大Lyapunov指数一直大于零。4.功率谱本文采用韦尔奇法[2]进行功率谱估计。功率谱若无明显的峰值或峰值连成一片，则对应于湍流或混沌序列[3]。由图4所示，峰值连成一片，说明是混沌时间序列。图4时间序列的功率谱5.关联维及熵关联维是判断分形的重要工具，图中存在直线的区域，说明此区域内客体具有自相似性，并可视为分形[4]。本文采用C-C方法[5]，计算出该混沌时间序列的嵌入维数10，时间延迟=4。为了计算Kolmogorov熵，本文采用了文献[6]从混沌时间序列同时计算关联维和Kolmogorov熵的方法，即嵌入维以等间隔m不断增加，但选择的嵌入维是大于关联维的整数。以=4为延迟，对时间序列从嵌入维10,11,12(m=1)计算的log2C(r)~log2r的关系图5所示。图5时间序列的关联维算得关联维约为1.5058和Kolmogorov熵约为0.5609。6.参数研究通过以上研究可知，混沌神经元在保持混沌搜索的情况下是复杂的混沌动力系统。为了进一步研究该混沌动力系统，本文对其各个参数进行了深入研究。首先研究k的影响。取=0.004,I0=0.1,y(1)=0.283，z=0.1k∈[0,2]。图6是k对x的相位图，横坐标是把k分成n等份。图6k对x的相位图从图6中看到，k在[0，2]内对x的影响。从图中可以看出，k=0时系统有两个周期，随着k的增加，系统由两个周期进入了四周期，…，以后随着k的增加系统进入了混沌域，…，k增加到一定程度的时候，系统又从混沌域演化到周期域，…，最后系统进入一周期域。由此可以，k对该混沌动力系统的影响很复杂，与Logistic有着明显的区别。其次研究的影响。取k=0.6，I0=0.1,y(1)=0.283，z=0.1∈[1/300,1]。图7是对x的相位图。图7对x的相位图图7表明对系统也有着深刻的影响：随着得增加，系统由1周期进入2周期，进入4周期，…，最后进入混沌域。可见，该混沌动力系统除了k的影响，还有的影响能使系统进入混沌域。再次研究I0的影响。取=0.005,y(1)=0.283，z=0.1，k=0.5，I0∈[-0.2,1.2]。图8是I0对x的相位图。图8I0对x的相位图图8表明I0也对系统有着重要的影响。这说明I0的重要性，I0是系统的一个重要因素。I0对系统的影响也是通过分岔进入混沌，又通过倒分岔推出混沌。最后研究z的影响。取=0.004,I0=0.1,y(1)=0.283，k=0.5，z∈[0,0.3]。图9是z对x的影响。图9z对x的相位图图9表明z同样对系统有着重要的影响，同样是通过倍周期进入混沌。通过参数研究表明，该混沌动力系统的每一个参数都对系统能否进入混沌有着一定的影响，也同时说明了系统对参数的敏感性，也即只要其中的一个参数有微小变化，由系统产生的混沌时间序列就会截然不同。因此该混沌动力系统可以刻画为如下的模型：),,,,,(FyfIzkx0(10)7.该混沌动力系统的应用目前国内外已提出一些基于混沌的密码算法及相应的密码分析。HabutsuT提出用帐篷影射(TentMap)迭代进行加密的算法；BaptistaMS和Wai-kitW提出把明文与混沌吸引域一一对应，把混沌映射进入明文所对应的混沌域子域的迭代次数作为密文；还有根据Logistic映射和Henon映射在混沌域上遍历性和有限置换群上的随机行走性质设计的流密码体制。由于混沌时间序列的无穷大周期和伪随机性，因此在密码学上有很好的应用。为了进一步验证混沌时间序列的伪随机性，现对该系统的混沌二值时间序列的伪随机性进行了研究。7.1混沌二值时间序列的伪随机性研究采用十进制小数映射到二进制整数的算法，把混沌时间序列映射为二值序列。具体算法描述如下：iixXL2(11)102)()(iiXX(12)由于Sigmoid激励函数的特性，能保持混沌时间序列中的元素值在[0,1]范围内。然而由于其中的大量值趋于0时，导致当L很大时，这些值的二进制的左边的无效0增多，破坏了0、1平衡；而当L取的较小时，将导致那些趋于0的数的信息损失很大。基于以上考虑，本文折中处理，取L=24，转换后，只取所有二进制的前16位，即相当于把混沌时间序列的十进制数对应成两个密钥字节。根据以上算法，本文进行了Golomb的三个随机假设试验：首先，根据Golomb假设，伪随机二值序列的0、1比是1：1。表1是多次试验的0、1数及比值，取=0.004,I0=0.1,k=0.6，y(1)=0.2，z=0.1，通过表1可以看出，0、1比值基本上趋于1。表10、1数及比值迭代次数0的个数1的个数0、1比值200015884161160.9856500039502404980.9754800063047649530.9707其次，游程特性，即长为L的游程数占总游程数的1/2L。表2是在如上参数取值，迭代次数为2000时的试验数据：表2游程特性游程N0N1N0/N1实际比理论比1428342321.0120.51180.50000002216820171.0740.25150.25000003101410590.9570.12460.125000045164771.0810.05960.062500052362291.0300.02790.0312500由表2可以看出，由于统计的时间序列有限，因此实际比接近于理论比，可以认为该混沌二值序列符合游程特性。再次，自相关性和互相关性。令101limNiiNxNx(13)则自相关函数为10))((1lim)(acNimiiNxxxxNm(14)互相关函数为10)(21))((1lim)(ccNimiiNxxxxNm(15)其中1ix，2ix表示从两个不同初始值开始迭代产生的混沌时间序列对应的二值序列；m表示相关间隔。对量化后的混沌二值序列进行相关特性检测，取序列长度为2000，相关间隔为-500～500，其非周期自相关与互相关特性如图10和图11，由实验结果看出，混沌序列具有尖锐的自相关特性和很小的互相关值。图10自相关特性图图11互相关特性图通过以上的分析可知，该混沌二值时间序列是伪随机的，可以应用于流密码加密上。7.2密码学仿真采用上述参数值及算法产生的混沌二值序列对数据进行异或加密，实验的明文数据如下：Cryptologistthescienceofovertwriting(cryptography),ofitsauthorizeddecryption(cryptanalysis),andoftheruleswhichareinturnintendedtomakethatunauthorizeddecryptiondifficult(encryptionsecurity).通过对上述的明文的实验，得