人工智能第5章

第5章机器学习课前思考知识点学习要求课前思考什么机器学习？机器学习的模型是什么？机器学习方法可分为哪几种？各有什么特点？机器学习的研究目标是什么？知识点机器学习的定义、研究意义及发展机器学习的主要策略与基本结构机械学习示教学习类比学习示例学习基于神经网络的学习学习要求理解机器学习的定义及发展掌握机器学习的基本原理及机器学习系统的基本结构了解机器学习的传统方法掌握神经网络学习方法第5章机器学习5.1机器学习的定义、研究意义与发展5.2机器学习的主要策略与基本结构5.3常见的几种学习方法5.4基于神经网络的学习5.1机器学习的定义、意义与发展一、机器学习的定义顾名思义，机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。机器学习的定义、意义与发展（续）二、机器学习的研究意义按照人工智能大师西蒙的观点，学习就是系统在不断重复的工作中对本身能力的增强或者改进，使得系统在下一次执行同样任务或类似任务时，会比现在做得更好或效率更高。西蒙对学习给出的定义本身，就说明了学习的重要作用。机器学习的定义、意义与发展（续）三、机器学习的发展史机器学习的发展过程大体上可分为4个时期。第一阶段是在50年代中叶到60年代中叶，属于热烈时期。第二阶段是在60年代中叶至70年代中叶，被称为机器学习的冷静时期。第三阶段是从70年代中叶至80年代中叶，称为复兴时期。机器学习的最新阶段始于1986年。第5章机器学习5.1机器学习的定义、研究意义与发展5.2机器学习的主要策略与基本结构5.3常见的几种学习方法5.4基于神经网络的学习5.2机器学习的策略与结构一、机器学习的主要策略按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种——机械学习、通过传授学习、类比学习和通过事例学习。学习中所用的推理越多，系统的能力越强。机器学习的策略与结构（续）二、机器学习系统的基本结构1、基本结构环境向系统的学习部分提供某些信息，学习部分利用这些信息修改知识库，以增进系统执行部分完成任务的效能，执行部分根据知识库完成任务，同时把获得的信息反馈给学习部分。环境学习知识库执行机器学习的策略与结构（续）2、影响学习系统设计的因素（1）影响学习系统设计的最重要的因素是环境向系统提供的信息。或者更具体地说是信息的质量。（2）知识库是影响学习系统设计的第二个因素。知识的表示有多种形式，比如特征向量、一阶逻辑语句、产生式规则、语义网络和框架等等。第5章机器学习5.1机器学习的定义、研究意义与发展5.2机器学习的主要策略与基本结构5.3常见的几种学习方法5.4基于神经网络的学习5.3常见的几种学习方法机械学习1、机械学习模式机械学习是最简单的学习方法。机械学习就是记忆，即把新的知识存储起来，供需要时检索调用，而不需要计算和推理。机械学习又是最基本的学习过程。常见的几种学习方法（续）2、机械学习的主要问题对于机械学习，需要注意3个重要的问题。(a)存储组织信息。要采用适当的存储方式，使检索速度尽可能地快。(b)环境的稳定性与存储信息的适用性问题。机械学习系统必须保证所保存的信息适应于外界环境变化的需要。(c)存储与计算之间的权衡。对于机械学习来说很重要的一点是它不能降低系统的效率。常见的几种学习方法（续）解释学习解释学习过程和算法：1、解释学习一般包括3个步骤（1）利用基于解释的方法对训练实例进行分析与解释，以说明它是目标概念的一个实例。（2）对实例的结构进行概括性解释，建立该训练实例的一个解释结构，以满足对所学概念的定义；解释结构的各个叶节点应符合可操作性准则，且使这种解释比最初的例子适用于更大的一类例子。（3）从解释结构中识别出训练实例的特性，并从中得到更大一类例子的概括性描述，获取一般控制知识。常见的几种学习方法（续）2、解释学习算法1986年米切尔（Mitchell）等人为基于解释的学习提出了一个统一的算法EBG。求解问题的形式可描述如下。给定：（1）目标概念描述TC；（2）训练实例TE；（3）领域知识DT；（4）操作准则OC。求解：训练实例的一般化概括，使之满足：（1）目标概念的充分概括描述TC；（2）操作准则OC。操作准则新准则知识库目标概念训练例子常见的几种学习方法（续）类比学习类比学习就是通过类比，即通过对相似事物加以比较所进行的一种学习。其推理过程如下：回忆与联想—选择—建立对应关系—转换常见的几种学习方法（续）归纳学习归纳学习是应用归纳推理进行学习的一类学习方法，按其有无教师指导可分为示例学习及观察与发现学习。常见的几种学习方法（续）强化学习又称再励学习或评价学习，是一种重要的机器学习方法，在智能控制机器人及分析预测等领域有许多应用。在连接主义学习中，把学习算法分为三种类型，即非监督学习、监督学习和强化学习。所谓强化学习就是智能系统从环境到行为映射的学习，以使奖励信号(强化信号)函数值最大。强化学习中由环境提供的强化信号是对产生动作的好坏作一种评价(通常为标量信号)，而不是告诉强化学习系统如何去产生正确的动作。由于外部环境提供的信息很少，强化学习系统必须靠自身的经历进行学习。通过这种方式，强化学习系统在行动-评价的环境中获得知识，改进行动方案以适应环境。第5章机器学习5.1机器学习的定义、研究意义与发展5.2机器学习的主要策略与基本结构5.3常见的几种学习方法5.4基于神经网络的学习5.4基于神经网络的学习从广义上讲，神经网络泛指生物神经网络和人工神经网络。生物神经网络指由中枢神经系统和周围神经系统所构成的错综复杂的神经网络，负责对动物机体各种活动的管理。人工神经网络是指模拟人脑神经系统的结构和功能，运用大量处理部件，由人工方式建立起来的网络系统。基于神经网络的学习（续）一、神经网络的组成与特性1、生物神经元的结构与功能神经细胞是构成神经系统的基本单元，简称神经元。主要由三部分构成：细胞体、轴突、树突。轴突和树突共同作用，实现了神经元间的信息传递。轴突的末端与树突进行信号传递的界面称为突触，通过突触向其它神经元发送信息。越来越明显的证据表明，学习发生在突触附近，而且突触把经过一个神经元轴突的脉冲转化为下一个神经元的兴奋或抑制。大脑的全部神经元构成极其复杂的拓扑网络群体，用于实现记忆与思维。基于神经网络的学习（续）2、人工神经元的组成与分类（1）人工神经元的组成人工神经网络(artificialneuralnets,ANN)或模拟神经网络是由模拟神经元组成的，可把ANN看成是以处理单元为节点，用加权有向弧(链)相互连接而成的有向图。其中，处理单元是对生理神经元的模拟，而有向弧则是轴突-突触-树突对的模拟。有向弧的权值表示两处理单元间相互作用的强弱。基于神经网络的学习（续）（2）人工神经网络的数学描述（工作过程）令来自其它处理单元(神经元)i的信息为Xi，它们与本处理单元的互相作用强度为Wi，i=0,1,…，n-1，处理单元的内部阈值为θ。那么本神经元的输入为而处理单元的输出为式中，xi为第i个元素的输入，wi为第i个元素与本处理单元的互联权重。f称为激发函数或作用函数。它决定节点(神经元)的输出。该输出为1或0取决于其输入之和大于或小于内部阈值θ。基于神经网络的学习（续）（3）人工神经网络分类（几十种神经网络模型）a.按网络性能分：连续型和离散型确定型和随机型b.按网络拓扑结构分：反馈网络和无反馈网络c.按网络学习方法分：有教师的学习网络和无教师的学习网络基于神经网络的学习（续）二、基于反向传播网络的学习反向传播（back-propagation,BP）算法是一种用于前向多层的反向传播学习算法。因为用它可以对组成前向多层网络的各人工神经元之间的连接权值进行不断的修改，从而使该前向多层网络能够将输入它的信息变换成所期望的输出信息。将多层网络看成一个变换，而网络中各人工神经元之间的连接权值看做变换中的参数，那么，这种学习算法就是要求得这些参数。之所以称其为反向学习算法，是因为在修改各人工神经元的连接权值时，所依据的是该网络的实际输出与其期望的输出之差，将这一差值反向一层一层的向回传播，来决定连接权值的修改。基于神经网络的学习（续）1、反向传播网络的结构鲁梅尔哈特(Rumelhart)和麦克莱兰(Meclelland)于1985年发展了BP网络学习算法，实现了明斯基的多层网络设想。BP网络不仅含有输入节点和输出节点，而且含有一层或多层隐(层)节点，输入信号先向前传递到隐节点，经过作用后，再把隐节点的输出信息传递到输出节点，最后给出输出结果。节点的激发函数一般选用S型函数。基于神经网络的学习（续）BP算法的学习目的是对网络的连接权值进行调整，使得调整后的网络对任一输入都能得到所期望的输出。学习的方法是使用一组训练样例对网络的连接权值进行训练，每一个样例中，都包括输入及期望的输出两部分。在正向传播过程中，首先将训练样例的输入信息输入到网络中，输入信息从输入层经隐层节点逐层计算处理后，传至输出层。在计算过程中，每一层神经元的状态只影响下一层神经元的状态，如果在输出层得到的结果不是所期望的输出，那就转反向传播。基于神经网络的学习（续）反向传播把误差信号沿原连接路径返回，并按一定的原则对各层神经元的连接权值进行适当修改，直至第一个隐层，这时再开始进行正向传播，利用刚才的输入信息进行正向网络计算，如果网络的输出达到了误差要求，则学习过程结束，如果达不到，则再进行反向传播的连接权值调整。一旦网络进行训练后，再用于求解实际问题时就只需使用正向传播，而不需要再进行反向传播了。基于神经网络的学习（续）2、反向传播学习算法（1）选取比率参数r。（2）进行下列过程直至性能满足要求为止：①对于每一训练（采样）输入a)计算所得输出b)按式计算输出节点的值c)按式计算全部其他节点d)按式计算全部权值变化②对于所有训练（采样）输入，对权值变化求和，并修正各权值。基于神经网络的学习（续）反向传播特性与所求解问题的性质和所做细节选择有极为密切的关系。由于BP算法采用梯度法时步长和系数是由经验确定的，所以效率较低。曾提出几种BP改进算法，可提高学习速度3-5倍，使BP算法获得更广泛的应用。反向传播算法已在图像识别、边缘检测、模式记忆等方面得到应用。基于神经网络的学习（续）三、基于Hopfield网络的学习BP是一种前向多层网络，从输出层到输入层无反馈，结构简单，网络稳定性好，但缺乏动态处理能力，计算能力不够强。Hopfield模型就是一种带反馈的人工神经网络模型。由于在反馈网络中，网络的输出要反复地作为输入再送入网络中，这就使网络具有动态性，网络的状态在不断改变。因此就提出网络的稳定性问题。基于神经网络的学习（续）Hopfield网络模型基于神经网络的学习（续）Hopfield提出，如果把神经网络的各平衡点设想为存储于该网络的信息，而且网络的收敛性保证系统的动态特性随时间而达到稳定，那么这种网络就成为按内容定址的存储器，或称联想存储器。Hopfield网络系统不仅能够实现联想记忆，而且能够执行线性和非线性规划等优化求解任务。基于神经网络的学习（续）四、基于神经网络的推理开发知识系统的一个难点是获取有关领域的知识，构造知识库，而NN（Neuralnets）技术的一个主要特点是能从有关领域的样例集中自动获取(学习)该领域的知识，较之其它机器学习方法来得优越。基于神经网络的学习（续）利用NN技术来获取知识系统的知识是一个有效途径。但NN技术的一个弱点是它所获取的知识是分布于网络的隐式知识，难于与推理网络相一致，难于具有可解释性，因此，通过借助于NN获取知识，来了解推理在知识学习中的某些应用。本章小结本章对机器学习做了简单的入门介绍。机器学习在过去十多年中获得较大发展。今后机器学习将在理论概念、计算机理、综合技术和推广应用等方面开展新的研究。特别是结构模型、计算理论、算法和混合学习的开发尤为重要。本章重点有两个，一是机器学习相关概念，机器学习的基本结构；二是神经网络学习的基本原理，以及两种典型的神经网络学习模型BP和Ho