江南大学人工智能期末大作业

人工智能期末大作业班级：计科1203班学号：1030412313姓名：•灰色神经网络预测算法综述xxx摘要灰色神经网络是将灰色系统模型与神经网络模型有机融合的一种新型智能计算模型,它充分利用了两者在信息表现上存在的相似性及模型特点上存在的互补性,能弥补单纯使用灰色模型或单纯使用神经网络解决问题的不足,使新模型具有更好的预测性能。组合而成的灰色神经网络模型能克服灰色预测模型不能进行自我反馈调节、神经网络模型易陷入局部极小且收敛速度慢的缺点，具有更好的预测效果。目前，灰色神经网络预测模型已经成功应用于数据挖掘、模式识别和机器学习等领域。本文详细介绍了几种常用的灰色算法，神经网络算法，并分析了这两种算法的优缺点；详细介绍灰色神经网络算法及其关键技术，并着重研究和分析灰色神经网络算法的原理以及灰色神经网络预测过程中存在的问题，并在前面研究的基础上提出模型的改进和解决方案，建立GNNM(0,N)型灰色神经网络模型并对模型参数进行改进;关键词：灰色系统;神经网络;灰色神经网络模型;优化•SummarizeonPredictionMethodBasedOnGrayTheoryandNeuralNetworkxxxAbstractGreyNeuralNetworkisaninnovativeintelligentcomputingapproachcombinggreysystemmodelandneuralnet-work,whichmakesfulluseofthesimilaritiesandcomplementaritiesbetweengreysystemmodelandneuralnetworktosettlethedisadvantageofapplyinggreymodelandNeuralNetworkseparately,sothecombineddataminingalgorithmmodelmakeabetterpredictperformance.Comparedtothetraditionaldataminingmodel,grayneuralmodeliscombinedbytwotraditionalmodelsthatgraymodelandneuralmodel.Onthebasis,accordingtothecharacteristericsofthesinglemodels,wecandotheimprovedandoptimizedwork.Currently,thegrayneuralnetworkhasbeenusedinpatternrecognition,dataminingandmachinelearningandotherfieldswidely.Thispaperdescribesavarietyoftraditionaldataminingalgorithmsandtheirkeytechnologies,andseveralcommonprinciplesofdataminingalgorithmsareanalyzed.Analysisoftheadvantagesanddisadvantagesofseveraldataminingalgorithmsisalsomentioned.Thepaperintroducesthegrayneuralnetworkalgorithmparticularly.Focusonresearchandanalysisofthestepsthatthealgorithmtakesandtheproblemsinthepredictionprocess.Onthisbasis,thepaperproposestheimprovementandsolution，establishedthegreyneuralnetworkmodelofGNNM(0,N).Keywords:greysystem;neuralnetwork;greyneuralnetworkmodel;optimization•目录•1.引言1.1研究背景近年来，计算机技术和网络技术都有迅猛发展，同时也产生大量的数据。但是对于这样数量庞大的数据，传统的统计、查询方法不能对这些数据进行人们所需的复杂处理，但在这些庞大数据之中必然存在很多没有明显规律的有价值信息，这就需要采用更先进的技术来挖掘这些数据中所蕴含的隐藏信息。按照所用挖掘方法的不同，可将数据挖掘方法分为统计方法、神经网络模型预测方法、数据库挖掘方法和机器学习方法，特别是机器学习方法作为数据挖掘预测方法中的一种重要方法，已被众多学者深入研究。机器学习方法的代表之一，灰色神经网络方法是近年来研究的重要方向，这种方法在许多领域都得到了广泛的应用近些年来，灰色神经网络模型已广泛应用于定量预测、机器学习、图像处理、故障诊断等领域。灰色神经网络预测模型成功避免了传统的灰色预测模型和人工神经网络预测模型预测过程中存在的诸多问题，使组合成的新预测模型具备更优秀的预测性能。正因为灰色神经网络模型表现出来的优秀预测性能，灰色神经网络模型这些年来一直是数据挖掘研究中非常具有活力的领域。1.2国内外研究概况1.2.1数据挖掘技术的的研究概况数据挖掘，又称数据库中的知识发现（KnowledgeDiscoveryinDatabases,KDD）[1]，它是二十世纪八十年代末出现的一门新兴的交叉学科。现阶段，国外对数据挖掘技术研究的主要方向有：对数据挖掘方法进行更深入的研究，包括更加重视流式聚类方法、贝叶斯（Bayes）方法和（布斯丁）Boosting方法；在数据库数据挖掘中运用传统的数据研究方法；数据挖掘技术与数据库技术的紧密结合。数据挖掘的应用方面包括：数据挖掘软件的开发和完善；研究专门针对单个领域的数据挖掘算法；处理问题时用系统观点考虑问题使对系统的认识更加全面。在国内，对数据挖掘技术的研究工作主要分布在高校，还有少量在商业机构或院所。其中，数据挖掘模型的主要研究方向有数据挖掘算法、学习算法的研究及数据挖掘技术的实际应用研究。从研究内容上来说，热门的研究领域有常规文本数据挖掘、生态和环境信息的数据挖掘、互联网海量信息数据挖掘等。近些年来，许多高校单独设置了数据挖掘课程，也出版了许多介绍数据挖掘的书籍，如毛国君等人编著的《数据挖掘原理与算法》，朱明编著的《数据挖掘方法与应用》，梁循主编的《数据挖掘算法与应用》等。1.2.2灰色神经网络技术的研究概况自1969年J.M.BATES与C.WJ.GRANGER首次系统地提出组合预测的概念以来，组合预测因其预测性能可靠、精度高、稳定性好受到各国研究人员的热烈追捧，对组合预测模型的研究工作进展明显，研究出许多种高效的组合预测模型，如灰色神经网络预测模型、遗传神经网络预测模型、灰色支持向量机预测模型等[2]。其中，灰色神经网络预测模型是将神经网络预测模型与灰色预测模型结合起来，组合成的模型既具有灰色预测模型只需小样本、离散数据的优点，又具有神经网络预测模型非线性、能进行自我反馈调节的优点[3]。正因为组合预测模型所表现出的强大功能和稳定性能，灰色神经网络一直受到研究人员的青睐，并取得了很显著的研究和应用效果。如梁娜利用主成分分析模型和神经网络模型的组合预测对中国石化2006-2007年的股价进行了成功预测，万星等人利用改进灰色神经网络成功实现对四川省2002年电力负荷预测等等。现阶段，对灰色神经网络预测模型的研究方向主要有如下几个：1)研究灰色预测模型与神经网络预测模型采用何种融合方式进行预测。现阶段虽然对灰色模型与神经网络模型结合的研究并不少，但对于两种模型融合方式的研究还不够深入，神经网络预测模型与灰色预测模型融合的方式主要有以下几种：(1)简单融合神经网络预测模型与灰色预测模型(2)串联方法融合神经网络预测模型与灰色预测模型(3)用灰色预测模型加强神经网络预测模型(4)用神经网络预测模型补充灰色预测模型(5).对神经网络预测模型和灰色预测模型进行完全融合2)改进、优化灰色神经网络预测模型的结构和参数3)研究如何更好利用灰色神经网络预测模型进行预测应用本文中，着重研究神经网络预测模型和灰色预测模型的完全融合方式，针对这种融合方式中存在的问题提出改进方案，并采用改进模型实现对实际问题的定量预测。•2.灰色模型与神经网络模型本章主要研究对象是灰色神经网络预测模型及其改进模型。为更好的了解灰色神经网络预测模型进行预测的过程和原理，在介绍灰色神经网络模型这种组合预测模型之前，先介绍组合预测模型中两个单个模型的基本概念及预测原理。2.1灰色模型灰色性是指系统的层次、结构关系不确定，系统在动态过程中变化特征模糊，反映系统状态的指标数据不完全。若某个系统具备这种特性，则这个系统是灰色系统。对灰色系统进行表达和分析时，常采用灰色模型进行描述，灰色模型是利用灰色系统中较少的、不确定的数据通过特定变换得到的，用来描述灰色系统状态和变化规律的模型。2.1.1灰色模型的基本概念在庞大的数据系统中，从表面来看数据杂乱无章，用传统的查询、统计工具对这样的数据进行处理根本束手无策。但在灰色系统理论中，这样的杂乱无章只是系统的表面现象，在数据内部一定存在某种联系和规律。依据灰色系统理论，将灰色系统抽象出来，通过数学、逻辑方法把抽象出来的信息加以表示，就形成了灰色模型。灰色模型只需选取灰色系统中并不完备的已知信息，将系统用数学方式抽象出来，建立能够反映系统状态和变化的灰色模型。灰色模型是华中理工大学（现华中科技大学）控制科学与工程系教授、博士生导师邓聚龙于1982年提出的，他发表的论文《灰色系统的控制问题》（TheControlProblemsofGreySystems）标志着灰色模型的诞生。根据控制论观点，颜色的深浅用来反映所了解系统的信息量大小和认识程度。白色表示对系统完全了解、信息量充分的开放系统；黑色表示对系统完全不了解、无法获知系统信息的封闭系统；而灰色则表示系统的信息只有部分已知，处于半确定的状态的系统。灰色模型将这种控制论观点具体化，运用数学模型的方法将灰色系统理论用数学方程式的形式表达出来，生成灰色模型进行预测，已经应用到经济、生态等许多复杂领域。一般来说，一个完全确定的系统所包含的信息包括以下几个方面：[4]1)表示系统因素的信息2)反映因素关系的信息3)系统的结构信息4)系统作用原则信息因此，控制论观点中所说的系统信息半确定状态是指系统的以上四种信息有所缺失。2.1.2灰色模型预测原理灰色模型在预测过程中，为了提高模型预测的稳定性，通常通过累加来实现，通过数学方法[5]找出系统中的主要因子及其所占比重，这样就找到了数据的内在联系和反映系统状态和变化的主要因素，因此可以通过训练好的灰色预测模型进行预测。灰色模型的简写为GM(m,n)，简写方法中m是模型的微分方程阶数，n是灰色模型的变量个数，其中应用最为广泛的灰色预测模型有GM(0,n)模型和GM(1,1)模型，下面详细介绍这两种预测模型的预测过程和工作原理。2.1.2.1GM(1,1)模型GM(1,1)模型是灰色模型中应用最普遍的模型，由上一节的灰色模型表示方法介绍可以看出，GM(1,1)模型中的数学表达式是一阶微分方程，有一个变量因子。模型通过已有的样本数据来寻找模型的规律，建立灰色预测模型，然后运用预测数据来进行模型预测，得到灰色模型的预测值。2.1.2.1.1灰色模型的预测原理GM(1,1)的数学表达式为一阶微分方程，如式2-1所示：(2-1)其中，a为模型的发展系数，u为模型的灰色输入，这两项都是未知参数，序列为原始序列叠加生成的序列。建立灰色预测模型所需的原始序列为,序列是序列通过一次累加生成的单增序列。如果原始序列中的元素均为非负，则直接用一次累加生成转换即可得到序列；如果原始序列中含有负元素，则需要引入指数映射先将序列转换成非负序列，然后再利用一次累加生成转换得到序列。由非负序列累加求和得到的公式为：(2-2)为了了解序列的动态特征，将生成的序列