第 1 章 智能信息处理课程概述

智能信息处理概述SchoolofInformationScience&TechnologyDalianMaritimeUniversity2011-09-142IIP’2012-2013(1)目录1.1智能信息处理的产生及发展1.1.2智能计算的产生与发展1.2智能信息处理的主要技术1.3智能技术的综合集成3IIP’2012-2013(1)1.1智能信息处理的产生及发展信息获取信息传输信息处理信息应用图1.1信息技术的四个组成部分及其信息链测量技术传感技术网络技术智能技术智能感知智能行为可靠传递智能思维4IIP’2012-2013(1)信息•信息（Information），一般可理解为消息、情报或知识。例如，–语言文字是社会信息；–商品报导是经济信息；–遗传密码是生物信息等。•从物理学观点出发来考察，信息是物质所固有的，是其客观存在或运动状态的特征。–信息本身不是物质，不具有能量，但信息的传输却依靠物质能量。–一般来说，传输信息的载体称为信号（Signal），信息蕴涵于信号之中。5IIP’2012-2013(1)智能智能就是智慧和能力，是个体有目的的行为，合理的思维，以及有效的适应环境的综合性能力个体认识客观事务和运用知识解决问题的能力。人们常把传感器比作人的感官，计算机比作人的大脑。从信息化角度出发，“智能”应体现在三个方面，即：感知，信息的获取；思维，信息的处理；行为，信息的利用。6IIP’2012-2013(1)智能ABC生物智能(BiologicalIntelligence,BI)人工智能(ArtificalIntelligence,AI)计算智能(ComputationalIntelligence，CI）由数学方法和计算机实现的，CI的来源是数值计算和传感器是非物质的，是人造的，常用符号表示，AI的来源是人的知识精华和传感器数据）由人脑的物理化学过程反映出来,人脑是有机物,它是智能的物质基础B(有机）A(符号）C(数值）7IIP’2012-2013(1)智能计算目前国际上提出智能计算就是以人工神经网络为主导，与模糊逻辑系统、进化计算以及信号与信息处理学科的综合集成。新一代的智能计算信息处理技术是神经网络、模糊系统、进化计算、混沌动力学、分形理论、小波变换、人工生命等交叉学科的综合集成。8IIP’2012-2013(1)智能计算的两个重要特征1）智能计算与传统人工智能不同，主要依赖的是生产者提供的数字材料，而不是依赖于知识；它主要借助数学计算方法(特别是与数值相联系的计算方法)的使用。一方面，具有明显的数值计算信息处理特征；另一方面，强调用“计算”的方法来研究和处理智能问题。CI中计算的概念在内涵上已经加以拓广和加深。一般地，在解空间进行搜索的过程都被称为计算。9IIP’2012-2013(1)智能计算的两个重要特征2）智能计算的积极意义在于：促进基于计算的或基于计算和基于符号物理相结合的各种智能理论、模型、方法的综合集成，以便在智能计算这个主题下发展思想更先进、功能更强大、能够解决更复杂问题的大系统的智能科学成果。10IIP’2012-2013(1)两类智能信息处理基于传统计算机的智能信息处理基于神经计算的智能信息处理11IIP’2012-2013(1)基于传统计算机的智能信息处理包括智能仪器、自动跟踪监测仪器系统、自动控制制导系统、自动故障诊断系统等。在人工智能系统中，它们具有模仿或代替与人的思维有关的功能，通过逻辑符号处理系统的推理规则来实现自动诊断、问题求解以及专家系统的智能。这种智能实际上体现了人类的逻辑思维方式，主要应用串行工作程序按照一些推理规则一步一步进行计算和操作，目前应用领域很广。其发展速度已不太适应社会信息数量增长速度的需求，因而促使人们注意到新型智能信息处理系统的研究。12IIP’2012-2013(1)基于神经计算的智能信息处理ANN是模仿延伸人脑认知功能的新型智能信息处理系统。构造具有脑智能的人工智能信息处理系统，可以解决传统方法所不能或难以解决的问题（大脑是人的智能、思维、意识等一切高级活动的物质基础）。以联接机制为基础的神经网络具有大量的并行性、巨量的互连性、存储的分布性、高度的非线性、高度的容错性、结构的可变性、计算的非精确性等特点。基于神经计算的智能信息处理是模拟人类形象思维、联想记忆等高级精神活动的人工智能信息处理系统。能联想记忆和从部分信息中获得全部信息。分布式存储和自组织性，而使系统连接线即使被破坏了50％，它仍能处在优化工作状态，这在军事电子系统设备中有着特别重要的意义。13IIP’2012-2013(1)1.2智能信息处理的主要技术神经计算技术神经网络(ArtificalNeuralNetwork,ANN)主元分析(PrincipalComponentAnalysis,PCA)支持向量机(SupportVectorMachine,SVM)模糊计算技术模糊理论(FuzzySets,FuzzyTheory)粗糙集理论(RoughSetTheory)进化计算技术遗传算法(GeneticAlgorithm)进化策略(EvolutionStrategy)进化规划(EvolutionaryProgramming)蚁群优化(AntColonyOptimization,ACO)微粒群算法(ParticleSarmOptimization，PSO)14IIP’2012-2013(1)神经计算技术—脑神经系统脑神经系统是以离子电流机构为基础的由神经细胞组成的非线性的(Nonlinear)、适应的(Adaptive)、并行的(Parallel)和模拟的(Analog)网络(Network)，简称NAPAN。在脑神经系统中，信息的收集、处理和传送都在细胞上进行。各个细胞基本上只有兴奋与抑制两种状态。神经细胞的响应速度是毫秒级，比半导体器件要慢得多。15IIP’2012-2013(1)神经计算技术—神经网络人工神经网络是对真实脑神经系统构造和功能予以极端简化的模型。神经网络的主要特征是大规模的并行处理、分布式的信息存储、良好的自适应性、自组织性以及很强的学习功能、联想功能和容错功能。与冯·诺依曼计算机相比，神经网络的信息处理模式更加接近人脑。主要表现在以下几个方面：16IIP’2012-2013(1)神经计算技术—神经网络1)能够处理连续的模拟信号(例如连续变换的图像信号)。2)能够处理不精确的、不完全的模糊信息。3)冯·诺依曼计算机给出的是精确解，神经网络给出的是次最优的逼近解。4)神经网络并行分布工作，各组成部分同时参与运算；单个神经元的动作速度不快，但网络总体的处理速度极快。17IIP’2012-2013(1)神经计算技术—神经网络5)神经网络具有鲁棒性，即信息分布于整个网络各个权重变换之中，某些单元的障碍不会影响网络的整体信息处理功能。6)神经网络具有较好的容错性，即在只有部分输入条件，甚至包含了错误输入条件的情况下，网络也能给出正确的解。7)神经网络在处理自然语言理解、图像识别、智能机器人控制等疑难问题方面具有独到的优势。18IIP’2012-2013(1)神经计算技术—神经网络神经网络以联接主义为基础，是人工智能研究领域的一个分支。它从微观出发，认为符号是不存在的，认知的基本元素就是神经细胞。认知过程是大量神经细胞的连接引起神经细胞不同兴奋状态和系统表现出的总体行为。19IIP’2012-2013(1)神经计算技术—神经网络传统的符号主义与其不同。符号主义认为，认知的基本元素是符号，认知过程是对符号表示的运算。人类的语言、文字、思维均可用符号来描述，而且思维过程只不过是这些符号的存储、变换和输入、输出而已。以这种方法实现的系统具有串行、线性、准确、易于表达的特点，体现了逻辑思维的基本特性。20世纪70年代的专家系统和80年代日本的第五代计算机研制计划就体现了典型的符号主义思想。20IIP’2012-2013(1)神经计算技术—神经网络基于符号主义的传统人工智能和基于联接主义的神经网络分别描述了人脑左、右半脑的功能(逻辑思维、形象思维)，反映了人类智能的两重性：一方面是精确处理，对应认知过程的理性方面。另一方面是非精确处理，对应认知过程的感性方面。两者的关系是互补的，不能相互替代。理想的智能系统及其表现的智能行为应是两者相互结合的结果。21IIP’2012-2013(1)神经计算技术—主元分析主元分析（principalcomponentanalysis,PCA）就是这样的一种降维技术。是神经计算中近些年来发展的一种方法，通过把数据投影到能够准确表征过程状态的低维空间，降维技术可以简化和改进过程监控过程。它以某种方式产生低维表示，这种方式保留了过程变量间的关系结构，按获取数据的变化度来说是最优的。22IIP’2012-2013(1)神经计算技术—支持向量机支持向量机（supportvectormachine,SVM）是建立统计学习理论基础上的一种新型的神经网络。统计学习理论是针对小样本情况研究统计学习规律的理论，是传统统计学的重要发展和补充，为研究有限样本情况下机器学习的理论和方法提供了理论框架，其核心思想是通过控制学习机器的容量实现对推广能力的控制。在这一理论中发展出的支持向量机方法是一种新的通用学习机器，较以往方法表现出很多理论和实践上的优势。23IIP’2012-2013(1)模糊计算技术—模糊集合和模糊理论1965年，美国加州大学伯克莱分校L．Zadeh教授发表了著名的论文“FuzzySets”(模糊集)，开创了模糊理论。经历近三十年的曲折，这一领域已取得长足的进步，Zadeh也被国际上誉为“模糊之父”。最近十年来，模糊理论又在实际应用中获得重大突破，作为一种高新技术还在迅速发展，预计21世纪它将成为信息科学中的核心技术之一。24IIP’2012-2013(1)模糊计算技术—模糊集合和模糊理论Zadeh教授当初曾提出过一个著名的不相容原理：“随着系统复杂性增加，人们对系统进行精确而有效地描述的能力会降低，直至一个阈值，精确和有效成为互斥”。其实质在于：真实世界中的问题，概念往往没有明确的界限，而传统数学的分类总试图定义清晰的界限，这是一种矛盾，一定条件下会变成对立的东西。模糊理论的基本出发点：从而引出一个极其简单而又重要的思想：任何事情都离不开隶属程度这样一个概念。25IIP’2012-2013(1)模糊计算技术—模糊集合和模糊理论模糊理论源于美国，但长期以来受学派之争的束缚，实际应用进展缓慢。到20世纪80年代后期，在日本以家用电器广泛使用模糊控制作为突破口，使模糊逻辑的实际应用获得迅速发展。20世纪90年代初，美国已醒悟到“美国人的理论却让日本人赚钱”的教训，工业界也已行动起来。美国IEEE分别自1992年和1993年开始，专门针对“模糊系统”主题定期举行国际会议和出版学术期刊。中国从事模糊数学的研究比较早，并处于国际前列。但由于众所周知的原因，应用仍有一定差距。模糊技术有许多诱人的优越性，应用前景看好，但毕竟还是新兴技术，尚不成熟，有许多问题需要研究和解决。26IIP’2012-2013(1)模糊计算技术—粗糙集理论粗糙集理论是一种新的处理模糊和不确定性知识的数学工具。其主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或分类规则。当今社会已经进入了网络信息时代，计算机与网络信息技术的飞速发展使得各个领域的数据和信息急剧增加（信息爆炸），并且由于人类的参与使数据与信息系统中的不确定性更加显著（复杂系统）。如何从大量的、杂乱无章的、强干扰的数据（海量数据）中挖掘潜在的、有利用价值的信息（有用知识）,这给人类的智能信息处理能力提出了前所未有的挑战。27IIP’2012-2013(1)进化计算技术进化计算是智能计算的重要组成部分，受到众多学科的高度重视。20世纪50年代中期创立了仿生