前沿知识讲座

自动化专业知识讲座——人工神经网络的研究人工神经网络概述人工神经网络ANN（AritificalNeuralNetwork）简称神经网路，是在现代神经生物学和认识科学研究的基础上提出来的，是由众多的输入层神经元、中间层神经元和输出层神经元相互连接构成的，具有很强的自适应性、自学习能力、鲁棒性和容错能力，是一种分布式并行处理系统。人工神经网络的研究可以追溯到1957年Rosenblatt提出的感知器模型。它几乎与人工智能AI（ArtificalIntelligence）同时起步，但发展较慢，知道80年代人们才重新对人工神经网络发生了兴趣，导致神经网络的复兴。神经网络的产生是从生物学上取得的灵感，用实现模拟生物神经元的某些基本功能的元件组织起来但不管网络的组织形式如何，它们均有以下3个共同特性：学习、概括、抽取。人工神经元网络模型由以下三个特性：一、神经元特性：每一种神经元的计算的输出，又是下一层神经元的输入，再用于计算它们的输出，一个神经元的输出用连接到它的神经元的输出和这些连接弧的权值来计算；二、动态特性：在一些模型中，所有神经元的计算新的输出是并行进行的，对其输出做出改变也是同时的；三、学习特性：用所希望的行为的若干训练，经学习算法生成每一连接弧的相应权值。人工神经网络基本原理人工神经网络模型主要考虑网络连接的拓扑结构、神经元的特征、学习规则等。目前，已有近40种神经网络模型，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。根据连接的拓扑结构，神经网络模型可以分为：（1）前向网络网络中各个神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示。这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单，易于实现。反传网络是一种典型的前向网络。（2）反馈网络网络内神经元间有反馈，可以用一个无向的完备图表示。这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。系统的稳定性与联想记忆功能有密切关系。Hopfield网络、波耳兹曼机均属于这种类型。一般的特性函数可以表示为：根据输入输出特性的不同，可以选取不同的输入输出变换函数表示，使用较多的有线性特性函数、阈值特性函数、S型逻辑特性函数等。人工神经元的结构忽略了许多生物原形神经元的特性，如它没有考虑影响网络动态特性的时间延迟，输入立即产生输出；更重要的是，它不包括同步或异步的影响，虽然没有考虑这些特性，神经元构成的网络仍显示了很强的生物原形特性。各类神经元改变状态的次序有两种;一种是同步进行，即各个神经元平行计算，同时改变其输出；另一种是异步进行。异步进行又分为两种情况：一种是各神经元改变状态的次序是随机的，一种是改变状态的次序是有序的。网络连接模型：这是讨论把这些神经元按一定的模式连接，并通过神经元之间的连接弧权值的大小反应信号传递的强弱来组成各种连接模型。主要包括：单层连接模式、多层连接模式、循环连接模式。在循环连接模式中包含反馈连接，它的神经元输出不同于非循环的，非循环的没有“短期记忆”，其输出单独由当前的输入和权值决定，而循环的有先前输出反馈作为输入，因此，它们的输出由当前的输入和先前的输出两者决定。学习是神经网络研究的一个重要内容，它的适应性是通过学习实现的。根据环境的变化，对权值进行调整，改善系统的行为。由Hebb提出的Hebb学习规则为神经网络的学习算法奠定了基础。Hebb规则认为学习过程最终发生在神经元之间的突触部位，突触的联系强度随着突触前后神经元的活动而变化。在此基础上，人们提出了各种学习规则和算法，以适应不同网络模型的需要。有效的学习算法，使得神经网络能够通过连接权值的调整，构造客观世界的内在表示，形成具有特色的信息处理方法，信息存储和处理体现在网络的连接中。根据学习环境不同，神经网络的学习方式可分为监督学习和非监督学习。在监督学习中，将训练样本的数据加到网络输入端，同时将相应的期望输出与网络输出相比较，得到误差信号，以此控制权值连接强度的调整，经多次训练后收敛到一个确定的权值。当样本情况发生变化时，经学习可以修改权值以适应新的环境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习时，事先不给定标准样本，直接将网络置于环境之中，学习阶段与工作阶段成为一体。此时，学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb学习规则。竞争学习规则是一个更复杂的非监督学习的例子，它是根据已建立的聚类进行权值调整。自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。人工神经网络发展趋势人工神经网络特有的非线性适应性信息处理能力，克服了传统人工智能方法对于直觉，如模式、语音识别、非结构化信息处理方面的缺陷，使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。人工神经网络与其它传统方法相结合，将推动人工智能和信息处理技术不断发展。近年来，人工神经网络正向模拟人类认知的道路上更加深入发展，与模糊系统、遗传算法、进化机制等结合，形成计算智能，成为人工智能的一个重要方向，将在实际应用中得到发展。将信息几何应用于人工神经网络的研究，为人工神经网络的理论研究开辟了新的途径。神经计算机的研究发展很快，已有产品进入市场。光电结合的神经计算机为人工神经网络的发展提供了良好条件。人工神经网络应用领域神经网络的应用已经涉及到各个领域，且取得了很大的进展。自动控制领域：主要有系统建模和辨识，参数整定，极点配置，内模控制，优化设计，预测控制，最优控制，滤波与预测容错控制等。处理组合优化问题：成功解决了旅行商问题，另外还有最大匹配问题，装箱问题和作业调度问题。模式识别：手写字符，汽车牌照，指纹和声音识别，还可用于目标的自动识别，目标跟踪，机器人传感器图像识别及地震信号的鉴别。图像处理：对图像进行边缘监测，图像分割，图像压缩和图像恢复。机器人控制：对机器人轨道控制，操作机器人眼手系统，用于机械手的故障诊断及排除，智能自适应移动机器人的导航，视觉系统。医疗：在乳房癌细胞分析，移植次数优化，医院费用节流，医院质量改进等方面均有应用。心得体会：通过本学期开设的自动化前沿知识讲座，丰富了我们的知识面，是我们了解到了自动化前沿的发展方向，虽然我们有一些知识听得也是似懂非懂，但我觉得从中收获了很多。一、这门课使我真正意识到读研以及读博的重要性，或许本科教育知识教会了我们如何来掌握知识，然而更高等的教育则更能锻炼我们解决实际问题的能力，就我们现在掌握的知识来看，对于一些项目还不能够解决，因此我们在科研方面还有很长的路要走。二、通过这门课，我深入地了解到了基础知识的重要性，以前总觉得基础课的学习的课时太多，通过各位老师的讲解，我意识到了数学这一基础课使我们搞科研的基础，几乎任何问题都可以用数学的思想和方法来解决。三、这门课使我了解到了其实自动化专业的方向还是很宽的，以前一直以为我们自动化主要与仪表有关，这门课的学习使我摒弃了这个想法，可以说自动化的应用可以应用到各行各业。四、这门课上我学到了很多新的算法，以及一些考虑问题的思路，拓宽了自己的知识面，同时也看到了各位老师在搞科研这方面的细心认真的一面，是我今后要学习的方面。五、这门课上，一些老师还向我们介绍了关于项目申请、项目答辩以及做项目等方面的一些情况，这对我们致力于搞科研的来说是很重要的，教会了我们在申请项目时应该着重突出哪些方面，以及一些注意事项，同时还想我你们介绍了自己所作的项目，为我们以后自己申请项目打下了坚实的基础。最后感谢各位老师认真的上课、回答我们的提问，感谢给位老师给我们带来了自动化行业的前沿知识，再次感谢你们！自动化前沿知识讲座——人工神经网络的研究姓名：程光亮专业班级：自动化08-2班学号：08051209日期：2011-12-16