BP神经网络在分类与预测中的应用解析

一、BP神经网络二、徽章的分类三、光催化臭氧氧化处理自来水BP神经网络在分类与预测中的应用BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的利用机器模仿人类的智能是长期以来人们认识自然、改造自然和认识自身的理想。(1)探索和模拟人的感觉、思维和行为的规律，设计具有人类智能的计算机系统。(2)探讨人脑的智能活动，用物化了的智能来考察和研究人脑智能的物质过程及其规律。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法(1)生理结构的模拟用仿生学观点，探索人脑的生理结构，把对人脑的微观结构及其智能行为的研究结合起来即人工神经网络（ArtificialNeuralNetwroks，简称ANN）方法。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法(1)生理结构的模拟(2)宏观功能的模拟从人的思维活动和智能行为的心理学特性出发，利用计算机系统来对人脑智能进行宏观功能的模拟，即符号处理方法。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容(1)理论研究ANN模型及其学习算法，试图从数学上描述ANN的动力学过程，建立相应的ANN模型，在该模型的基础上，对于给定的学习样本，找出一种能以较快的速度和较高的精度调整神经元间互连权值，使系统达到稳定状态，满足学习要求的算法。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容(1)理论研究(2)实现技术的研究探讨利用电子、光学、生物等技术实现神经计算机的途径。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容(1)理论研究(2)实现技术的研究(3)应用的研究探讨如何应用ANN解决实际问题，如模式识别、故障检测、智能机器人等。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述人工神经网络是由具有适应性简单的单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实物体所作出的交互作用。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述1.1.5脑神经信息活动的特征(1)巨量并行性(2)信息处理和存储单元的有机结合(3)自组织自学习功能1.1.6ANN研究的目的和意义BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述1.1.5脑神经信息活动的特征(1)通过揭示物理平面与认知平面之间的映射,了解它们相互联系和相互作用的机理,揭示思维的本质，探索智能的本源。1.1.6ANN研究的目的和意义BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述1.1.5脑神经信息活动的特征(2)争取构造出尽可能与人脑具有相似功能的计算机，即ANN计算机。1.1.6ANN研究的目的和意义BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述1.1.5脑神经信息活动的特征(3)研究仿照脑神经系统的人工神经网络,将在模式识别、组合优化和决策判断等方面取得传统计算机所难以达到的效果。1.1.6ANN研究的目的和意义1.1.7神经网络研究的发展BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述1.1.5脑神经信息活动的特征(1)第一次热潮(40-60年代未)1943年，美国心理学家W.McCulloch和数学家W.Pitts在提出了一个简单的神经元模型,即MP模型.1958年，F.Rosenblatt等研制出了感知机(Perceptron）。1.1.6ANN研究的目的和意义1.1.7神经网络研究的发展BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.1研究ANN目的1.1.2研究ANN方法1.1.3ANN的研究内容1.1.4人工神经网络概述1.1.5脑神经信息活动的特征(2)低潮(70-80年代初)(3)第二次热潮1982年，美国物理学家J.J.Hopfield提出Hopfield模型，它是一个互联的非线性动力学网络，他解决问题的方法是一种反复运算的动态过程,这是符号逻辑处理方法所不具备的性质。1987年首届国际ANN大会在圣地亚哥召开,国际ANN联合会成立，创办了多种ANN国际刊物。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.8神经网络基本模型细胞体突触轴突树突图12.2生物神经元功能模型输入输出信息处理电脉冲形成传输BP神经网络在分类与预测中的应用一、BP神经网络1.1.9人工神经网络研究的局限性1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.8神经网络基本模型（1）ANN研究受到脑科学研究成果的限制（2）ANN缺少一个完整、成熟的理论体系（3）ANN研究带有浓厚的策略和经验色彩（4）ANN与传统技术的接口不成熟BP神经网络在分类与预测中的应用一、BP神经网络1.1.9人工神经网络研究的局限性1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.8神经网络基本模型细胞体突触轴突树突图12.2生物神经元功能模型输入输出信息处理电脉冲形成传输黑箱BP神经网络在分类与预测中的应用一、BP神经网络1.1.9人工神经网络研究的局限性1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.1.8神经网络基本模型细胞体突触轴突树突图12.2生物神经元功能模型输入输出信息处理电脉冲形成传输黑箱一般而言,ANN与经典计算方法相比并非优越,只有当常规方法解决不了或效果不佳时ANN方法才能显示出其优越性.尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断,特征提取和预测等问题,ANN往往是最有利的工具.另一方面,ANN对处理大量原始数据而不能用规则或公式描述的问题,表现出极大的灵活性和自适应性。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络人工神经网络以其具有自学习、自组织、较好的容错性和优良的非线性逼近能力，受到众多领域学者的关注。在实际应用中，80%～90%的人工神经网络模型是采用误差反传算法或其变化形式的网络模型(简称BP网络),目前主要应用于函数逼近、模式识别、分类和数据压缩或数据挖掘。BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络Rumelhart，McClelland于1985年提出了BP网络的误差反向后传BP(BackPropagation)学习算法J.McClellandDavidRumelhart1.2.1BP神经网络概述BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络BP算法基本原理利用输出后的误差来估计输出层的直接前导层的误差，再用这个误差估计更前一层的误差，如此一层一层的反传下去，就获得了所有其他各层的误差估计。1.2.1BP神经网络概述BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络1.2.1BP神经网络概述1.2.2BP神经网络特点神经网络能以任意精度逼近任何非线性连续函数。在建模过程中的许多问题正是具有高度的非线性。(1)非线性映射能力BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络1.2.1BP神经网络概述1.2.2BP神经网络特点在神经网络中信息是分布储存和并行处理的，这使它具有很强的容错性和很快的处理速度。(2)并行分布处理方式(1)非线性映射能力BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络1.2.1BP神经网络概述1.2.2BP神经网络特点神经网络在训练时，能从输入、输出的数据中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。(2)并行分布处理方式(3)自学习和自适应能力(1)非线性映射能力BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络1.2.1BP神经网络概述1.2.2BP神经网络特点神经网络可以同时处理定量信息和定性信息，因此它可以利用传统的工程技术（数值运算）和人工智能技术（符号处理）(2)并行分布处理方式(3)自学习和自适应能力(4)数据融合的能力(1)非线性映射能力BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络1.2.1BP神经网络概述1.2.2BP神经网络特点(2)并行分布处理方式(3)自学习和自适应能力神经网络的输入和输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式,不必考虑各子系统间的解耦问题。(4)数据融合的能力(5)多变量系统(1)非线性映射能力BP神经网络在分类与预测中的应用一、BP神经网络1.1神经网络(ArtificialNeuralNetwroks,简称ANN)1.2BP神经网络1.2.1BP神经网络概述1.2.2BP神经网络特点1.2.3BP神经网络模型三层BP网络的拓扑结构1.2.3BP神经网络模型(1)激活函数(传输函数）必须处处可导一般都使用S型函数-2-112-1-0.50.51221()1xxefxeSigmoid函数-2-1120.20.40.60.821()1xfxe对数Sigmoid