模式识别理论及其应用简介

什么是模式识别模式识别（PatternRecognition）是一种从大量信息和数据出发，在专家经验和已有认识的基础上，利用计算机和数学推理的方法对形状、模式、曲线、数字、字符格式和图形自动完成识别的、评价的过程。从数学角度而言，模式识别也是一个数学建模过程。只是给出的是定性结论而不是定量指标。什么是模式识别模式识别包括两个阶段，即学习阶段和实现阶段，前者是对样本进行特征选择，寻找分类的规律，后者是根据分类规律对未知样本集进行分类和识别。广义的模式识别属计算机科学中智能模拟的研究范畴，内容非常广泛，包括声音和语言识别、文字识别、指纹识别、声纳信号和地震信号分析、照片图片分析、化学模式识别等等。计算机模式识别实现了部分脑力劳动自动化。模式识别的特点模式识别的理论基础是多元统计理论和一些近代数学方法（如神经元网络理论）。模式识别给出的是统计和经验的规律，无法提供关于样本理论模型。例如根据大批物质的化学结构数据和物理、化学特性或生物活性的数据，采用计算机模式识别方法总结结构与物性间的经验规律，进而预报未知物的特性，有目的地研制新物质。在新材料、药物的设计方面应用很广。建立各类化合物的各种红外光谱、极谱、色谱、波谱谱图数据库，借助于计算机模式识别方法，可自动鉴定样品的结构。用计算机模式识别方法总结规律预报未知，虽然不如纯粹的理论方法严格和有明确的机理及解释，但却有广泛的适应面，能够在现有知识、理论不够完善的情况下发挥作用。在用计算机模式识别方法解决问题时，我们仍需要借助于与研究对象相关的理论知识，去估计、判断影响研究对象的大致因素，用这些因素的参数构筑多维空间（即模式空间）描述研究对象的特征，才能用模式识别的方法总结规律。模式识别计算过程示意图有监督模式识别（判别分析）如果样本的类别数是已知的，先用一组已知类别的化合物作为训练集，建立判别模型，再用建立的模型根据相似性原则来对未知样本进行识别，称为判别分析。判别分析是在事先知道类别特征的情况下建立判别模型对样本进行识别归属，是一种有监督模式识别。无监督模式识别（聚类分析）如果预先不知道样本的类别，要在学习过程中根据样本的相似性对被识别的样品进行识别分类和归类，称为聚类分析。聚类分析是完全依靠样本自然特性进行识别的方法，是一种无监督模式识别。模式空间化学样本或化工过程xi可用一组参量(矢量)来表征，即xi=(xi1,xi2,...,xin)，在化学模式识别的文献中，这种参量值又称特征。通常这些参量实际上就是原始化学量测数据。这样一组参量构成了化学模式识别空间的一个点，或称一个n维的化学模式。由这些化学模式所构成的n维变量空间，称为模式空间。因高维模式空间提供了更多的信息，故有可能解决一些低维空间中难于解决的问题。化学模式识别计算机模式识别可用来进行有机结构解析，研究定量构效关系，识别真伪商品，追踪污染源，进行药物分类、临床诊断、矿物普查、考古研究、材料设计等。这一类模式识别同化学有密切关系，都是化学模式识别的研究对象。化学模式识别的应用为烟、酒、茶叶定级；与标准样本对照，用化学模式识别辨别营养品、饮料、药品、化妆品等的真伪，能为查处市场上出售的各种假冒商品提供可靠的技术证据；区别癌症等疾病潜伏期，为疾病早期诊断和预防提供科学依据，等等。AnexamplefromTCM:同种中药材的指纹图谱2468101214051015x106Retentiontime(min)Intensity2468101214012x107Retentiontime(min)IntensityIIIIIIIVIVIIIIIIcd2468101214051015x106Retentiontime(min)Intensity2468101214051015x106Retentiontime(min)IntensityIIIIIIIIIIIIIVIVab不同草药的指纹图谱计算机品茶－用化学模式识别进行茶叶评级用1988年商业部颁布的4套6个等级的炒青绿茶标准样，选取茶叶中的氨基酸、咖啡碱、水浸出物、粗纤维、叶底、茶汤等10个理化指标作为特征量，建立模式识别模型，编成计算机茶叶品质评定软件包。对未知等级的茶叶进行评定时，将其10个特征理化指标值输入计算机，计算机便按照建好的模式识别模型和这10个输入的特征量值，自动评定它们的等级。计算机品茶－用化学模式识别进行茶叶评级模式识别对6个市售茶样定级的结果后验概率指已知级别的样品落入应落入那一级别的概率计算机打假－用化学模式识别判别化妆品的真伪检验人员从送检的3瓶市售永芳珍珠膏中取出少量样品，置于广口瓶中，放入一根吸附丝在30℃吸附样品放出的气体2小时后,取出吸附丝放入居里点裂解器中加热，将吸附的挥发气体导入毛细管气相色谱仪进行测定，定性分析检测出21个组分，这21个指标再加上总挥发量，共计22个指标。计算机打假－用化学模式识别判别化妆品的真伪分析在过去一年内生产的24个永芳珍珠膏真品。对其22个指标进行R因子分析，发现有些指标之间的相关性很好，这样就不必将所有指标列出，只需在相关性好的一类指标中选择1个或2个贡献最大的指标就可以了。最终从22个指标中选择了1，2-二甲苯、蒈烯、邻散化烃、对邻散化烃、苎烯、1，2-二甲基-2-乙基苯、萘和一个未定性的组分等8个指标作为特征指标。将24个真品永芳珍珠膏记为1～24号样品，3个市售样品记为25～27号。将1～27号样品的8个特征指标输入到计算机中，进行聚类分析，得到的聚类谱系图。计算机打假－用化学模式识别判别化妆品的真伪计算机打假－用化学模式识别判别化妆品的真伪编号为25、26和27的3个市售永芳珍珠膏与真品不同，自成一类。由此可以判定，这3个永芳珍珠膏均为假冒商品。计算机辅助癌症诊断化学模式识别已被成功地用于云南个旧地区（肺癌高发区）肺癌的早期诊断。从该地区采集117例人发样品，其中67例健康人，22例肺癌早期患者和28例肺癌患者。用原子吸收分光光度法和示波催化极谱等方法测定发样中的硒、锌、铜、铬、镉、砷、铅和锡等8种痕量元素。考察了这些痕量元素与肺癌的关系，其中硒、锌、铬、镉、砷5种元素含量与肺癌有关系。计算机辅助癌症诊断选取这5种元素的含量为特征量，建立模式识别模型，得到痕量元素含量和肺癌关系非线性映射图。在该图中，健康人、癌症初期和癌症患者三种类型发样分别位于不同的区域。对肺癌早期诊断的正确率达到80％以上。可以根据发样中痕量元素的含量，用模式识别方法对肺癌进行早期诊断。计算机辅助癌症诊断人发痕量元素含量和肺癌关系非线性映射图常用术语特征抽提（FeatureExtraction）训练集（TrainingSet）预报集（PredictionSet）识别率（RecognitionRate）预报能力（PredictiveAbility）留一法（LeavingOneMethod）注意事项①训练集的数据一定要可靠。②训练集的样本数目要足够多，样本数m与模式空间维数n的比值至少应满足m/n≥3，最好m/n≥10。③模式空间特征的选择是成败的关键，要选取与样本分类有关的特征，如果不能包括与分类有关的主要特征，模式识别就不会有好的效果。模式识别的数据预处理常用的化学特征(1)拓扑特征：此类特征由分子平面拓扑结构派生出来，如原子及化学键的属性、原子的联接度及各类拓扑指数等；(2)几何特征：由分子的三维模型派生出来，其中包括惯性动量、分子体积、分子表面积和分子的立体参数等；(3)电子特征：如原子电荷、原子半径、键的强度等；(4)物理化学参数：如化合物的疏水性（lgP）等；(5)化合物的谱图特征：如C-13核磁共振谱图中的化学位移、质谱中的峰位（即m/e比）等；(6)化学组成：如某类物质的无机化学组成及有机化学组成等。常用的化学特征特征抽提模式间相似度的度量马氏距离（MahalanobisDistance）设Xi,是从均值为，协方差阵为Z的总体G中的样本，则它们的马氏距离为而Xi与总体G的距离为它与均值的距离)()(1jiTjiijXXZXXD)()(1iTiijXZXD马氏距离（MahalanobisDistance）其中Xi为样本i所有变量构成的p×1维向量，Z为关于p个变量的协方差阵（p×p维）。当采用主成分得分向量Ti替代Xi时，由于主成分向量正交，Z成为由其方差（特征值）构成的对角阵，此时马氏距离为：mkkjkikijTTD12/)(问题马氏距离与前面介绍过的其它距离指标相比，有什么特点？化学模式识别方法I有监督模式识别法（判别分析法）Supervisedpatternrecognition(Discriminatinganalysismethods)参数判别分析法包括距离判别、Fisher判别与Beayes判别分析法等非参数判别分析法包括线性学习机、K-最近邻法、人工神经网络法等K-NearestNeighborsDiscriminationMethodKNN法的基本假设：“同类样本在模式空间中相互较靠近”。K最近邻法考查未知样本点的K个近邻（K为单数整数），若近邻某一类样本最多，则可将未知样本判为该类。为了进行定量判别，可先找出待分类样本的最近邻，并事先约定最近邻区域中的训练集样本数。如果只取一个最近邻样本点，即样本数为１，则称1NN法；如果取２个最近邻样本点，即样本数为2，则称2NN法；如果样本数为K，则称K近邻法，简称KNN法。KNN算法计算未知样本点和所有训练集样本点之间的距离。从最小距离开始计样本数，一直计到有K个样本数为止，此时所对应的距离就为最近邻的最小距离。如果在这个最小距离中，距某一类训练集中的样本数多，距离又小，则可将待分类样本划到该类中。优点：对数据结构无特殊要求，简单易行，不需要训练过程。缺点：未对训练点进行信息压缩，每判断一个点都要将其对所有已知点的距离计算一遍,工作量较大。简化的KNN法—类重心法将训练集中每类样本点的重心求出，然后判别未知样本点与各类重心的距离。未知样本点距哪一类重心距离最近，即未知样本属于哪一类。例：有两种地层，用7种指标的分析数据判别，先从已经准确判断的地层中各取9个样本，测得的数据如下表：将上表数据进行归一化处理后计算两类的重心得：C1=[-0.0103,0.0402,-0.0246,0.0166,0.0313,-0.0246,-0.0174]´C2=[0.0103,-0.0402,0.0246,-0.0166,-0.0313,0.0246,0.0174]´地层I、II的每一个矢量与C1和C2的距离分别如表a和表b所示：课后练习用本例数据，在MATLAB平台上计算各样本到地层I、II的马氏距离。线性学习机法Linearlearningmachine—LLM作为模式识别中决策分类的一种方法，该法希望通过某种方法，在模式空间中到找到一个判决面（此面叫做分类器），使不同类的模式点分别位于判别面的两侧。未知模式的分类可根据它位于判别面的哪一侧来定。若判别面是一个线性超平面，就叫线性分类器。例：现有甲状腺病人（记为类1）和正常人（记为类2）各10例，分别测试5项功能指标，测试结果见表a和表b所示。以每一类的前8个样本作为训练集（表a），后2个作为测试集（表b）。用LLM法对其进行判别。根据烟叶NIR光谱区分烟叶产地5个产地烟叶的近红外一阶导数平均光谱给定产地种类样品信息输入基于主成分对近红外光谱进行discriminationanalysis的方法原理对建模样品的近红外光谱进行主成分分析，将原来上千个波长点下的近红外吸光值压缩为m个主成分得分来表示；计算每一类样品在主成分坐标系（即载荷轴、特征向量，又叫主成分光谱）下的类重心坐标；求每个样品到每一类重心的马氏距离，距哪一类马氏距离最小，该样品就归哪一类。根据NIR一阶导数光谱对125个烟叶样品产地识别的结果建模样本99个，预测集样本26个三种方法判别125个烟叶样本产地的统计平均结果预