您好,欢迎访问三七文档
感知机的学习规则朱婷平(江西理工大学信息工程学院,江西赣州341000)指导老师:沈慧芳老师摘要:每个人是由很多神经元的高度互连的集合帮助完成阅读、呼吸、运动和思考。人的每个神经元都是生物组织和化学物质的有机结合。若不考虑其速度的话,可以说每个神经元都是一个复杂的微处理器。人工神经网络模拟人脑生物神经网络系统处理信息的方式,是通过经验而不是通过设计好的程序进行感知和学习的,这些构成了人工神经网络具有模式识别、预测、评价和优化决策等能力的基础。本文就第一个应用神经网络:感知机及其规则进行了综合论述。关键词:人工神经网络;感知机;规则TurboCodeanditsApplicationin3GMobileCommunicationZHUTing-ping(InformationengineeringcollegeofJiangxiUniversityofScienceandTechnology,Ganzhou,341000,China)TutorShenhui-fangAbstract:Turbocodehasbeenanimportantpm-tofthetransmittechnologyofdigitalbaseband,ThispaperintroducesthebasicprinciplesandstructureofTurbocodeanditskeytechnology.Comparedtheperformanceofdifferentdecodealgorithmsandstoppingcriterionofiterativedecodingalgorithms,Thendiscusseditsapplicationin3Gmobilecommunicationsystems.Keywords:The3Gmobilecommunication;Channelcoding;Turbocode;DecodeAlgorithms1概述一般认为,包括记忆在内的所有生物神经功能,都存储在神经元和及其之间的连接上。学习被看做是在神经元之间建立新的连接或对已有的连接进行改造的过程。这便将引出下面一个问题:既然我们已经对生物神经网络有一个基本的认识,那么能否利用一些简单的人工“神经元”构造一个人小系统,然而对其进行训练,从而使他们具有一定有用功能呢?回答是肯定的。我们在这里考虑的神经元不是生物神经元。他们是对生物神经元极其简单的抽象,可以用程序或硅电路实现。虽然由这些神经元组成的网络能力远远不及人脑的那么强大,但是可对其进行训练,以实现一有用的功能。。20世纪50年代末,人们提出了一种称为感知机的神经网络,他证明了只要求解问题的权值存在,那么其学习规则通常会收敛到正确的网络权值上。整个学习过程简单,而且是自动的。只要把反映网络行为的实例提交给网络,网络就能根据实例从随机初始化的权值和偏置值开始自动地进行学习。然而感知机网络本身却具有其内在的局限性。对于某些应用问题而言,这种神经网络仍不失为一种快速可靠的求解方法。另外,对感知机网路行为的理解将会理解为更加复杂的神经网络奠定良好基础。因此,这里讨论感知机网络及其联想学习规则是十分必要的。下面首先将对学习规则的概念给出明确的定义,然后解释感知机网络及其学习规则,并讨论感知机网络的局限性。2学习规则所谓学习规则就是修改神经网络的权值和偏置值的方法和过程(也称这种过程是训练算法)。学习规则的目的是为了训练网络来完成某些工作。现在有很多类型的神经网络学习规则。大致可分为有监督学习、无监督学习和增强学习。增强学习与有监督的学习类似,只是它不像有监督的学习一样为每一个输入提供相应的目标输出,而是仅仅给出一个级别。这个级别是对网络在某些输入序列上的性能测度。当前这种类型的学习要比有监督的学习少见。看起来它最为适合控制系统应用领域。无监督学习:在无监督的学习中,仅仅根据网络的输入调整网络的权值和偏置值,它没有目标输出。2.1感知机的结构感知机如下图所示主要由输入部分和硬极限层部分组成。图1感知机的结构感知机网络的输出由下式给出:a=hardlim(Wp+b)该式在开发感知机的学习规则中十分有用,利用该公式可以方便地引用感知机网络输出中的单个元素。感知机的基本功能是将输入矢量转化为0或1的输出。这一功能可以通过在输入矢量空间里的作图来加以解释。以输入矢量r=2为例,对选定的权值w1、w2和b,可以在以p1和p2分别作为横、纵坐标的输入平面内画出W*P+b=w1p1+w2p2+b=0的轨迹。轨迹是一条直线,此直线上及其线以上的所有p1、p2值均使w1p1+w2p2+b>0这些点通过由w1、w2和b构成的感知器的输出为1;该直线以下部分的点通过感知器的输出为0.2.2应用实例请用感知机学习规则求解如下分类问题。按顺序重复使用各个输入向量,直至最终求得问题的解,并在求出最后一个解后画出问题的图形。{p1=[],t1=0}{p2=[],t2=1}{p3=[],t3=0}{p4=[],t4=1}请使用如下的初始权值和偏置值:W(0)=[00],b(0)=0解:首先利用初始的权值和偏置值计算与第一个输入向量P1相应的感知机输出a:a=hardlim(W(0)p1+b(0))=hardlim([00][]+0)=hardlim(0)和两个校在此处键入公式。验序列进行译码时,应该相互利用校验序列所含的信息,采用迭代译码,通过分量译码器之间软信息的交换来提高译码性能。结构图如图2所信道模型子程序、交织子程序、RSC编码子程序、使用不同的算法进行译码的译码子程序等。影响Turbo码性能的参数很多,本文分别就迭代次数、交织长度、译码算法对Turbo码性能的影响进行分析,给出仿真结果。(1)迭代次数图3给出了不同迭代次数下,Turbo码的误比特率与信噪比的关系曲线,采用MAX-Log-MAP算法,码率为31。图3迭代次数对Turbo码的影响从图3所示的仿真结果可以看出,随着迭代次数的增加,Turbo码的误比特率曲线不断降低并趋于收敛;而且随着信噪比的增加,迭代对误比特率性能的影响越来越明显。这是Turbo码通过迭代译码充分利用冗余信息来提高编译码性能这一特点的反映。最初,迭代译码的增益较高,但随着迭代次数的增加,译码增益增长相对缓慢,虽然继续增加迭代次数可以提高Turbo码的性能,但权衡迭代所需要的时间、性能改善的幅度,通常都选取合适的迭代次数。(2)交织长度图4给出了不同交织长度下,Turbo码的误比特率与信噪比的关系曲线。图4交织长度对Turbo码的影响从图4中可以看出,交织长度越大,性能就越好,而且交织长度对性能的影响是很大的,这是由于交织器的存在所产生的所谓交织增益,使得Turbo码的性能随交织长度的增长而改善且在交织长度足够长时接近信道容量。交织长度是决定Turbo码性能的一个重要因素。同时,还应该注意到交织深度和编译码时延之间还存在着一个兼顾的问题。交织长度越长,时延也越大。通信系统中,时延是个很重要的因素,实时的通信系统中总是对时延提出了较高的要求。在实际的应用中,需要根据时延的要求来确定最佳的码长。(3)不同译码算法的性能比较Turbo码译码算法主要有MAP算法、log-MAP算法和Max-Log-MAP算法和SOVA算法。从图5中可以看出,Log-MAP算法要优于MAX-Log-MAP算法,所以在应用过程中,要兼顾复杂性与性能,选用合理的算法。图5不同译码算法对Turbo码的影响3小结Turbo理论的出现是信道编码史上的一个里程碑,它可以相当接近信道容量极限,在高速率数据传递中有着传统信道编码无可比拟的优势,在第三代移动通信系统中具有重要地位,如何简化Turbo码的编码及译码算法以及如何设计商性能的随机交织器,将是今后研究的新热点。参考文献[1]吴伟陵,牛凯.移动通信原理(第二版)[M].北京:电子工业出版社,2009[2]刘泉,高路,杨广昕.Turbo码在第三代移动通信中的应用研究[J].武汉理工大学学报,2002,7:16~19[3]于秀兰.Turbo码及其在第三代移动通信系统中的应用[J].四川通信技术,2000,4:4~8[4]王晓利,张洪顺.Turbo码技术及其在第三代移动通信中的应用[J].重庆通信学院学报,2005,6:49~51[5]汪汉新,尹超.一种改进的LDPC码译码算法[J].中南民族大学学报(自然科学版),2011,30(4):74~76[6]石红.Turbo码在移动通信中的应用[D].哈尔滨工程大学,2009
本文标题:神经网络论文定稿
链接地址:https://www.777doc.com/doc-4224533 .html