第六讲-计算智能与群智能

智能科学与技术系人工智能课程改革与建设第六讲计算智能与群智能ComputationalIntelligence&SwarmIntelligence中南大学刘丽珏2011智能科学与技术系本讲要点涉及人工智能中新的研究内容和方向。许多算法、方法等比较抽象，不好理解，所以尽量以实例、动画，甚至游戏等方式激发学生兴趣，帮助其掌握知识。计算智能主要以神经计算为例。先通过简单的神经元展示神经元的基本功能—分类，再介绍较深入的知识，借助游戏让学生对权值、阈值和变换函数有直观的了解。群智能属于较新的前沿领域，主要以原理介绍为主，拓宽学生视野，鼓励学生自己深入研究。智能科学与技术系主要内容引言神经计算模糊计算进化计算人工生命……智能科学与技术系引言计算智能是信息科学与生命科学相互交叉的前沿领域，是现代科学技术发展的一个重要体现。计算智能涉及神经网络、模糊逻辑、进化计算和人工生命等领域，它的研究和发展正反映了当代科学技术多学科交叉与集成的重要发展趋势。智能科学与技术系关于A，B，C智能贝兹德克于1994年提出一种表示ABC与神经网络(NN)、模式识别(PR)和智能(I)之间的关系，见下页图示：A－Artificial，表示人工的、符号的(非生物的)B－Biological,表示生物的C－Computational，表示计算的计算智能是一种智力方式的低层认知，它与人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识，低层系统则没有。智能科学与技术系计算智能与人工智能的区别和关系输入人类知识(＋)传感输入知识(＋)传感数据计算(＋)传感器C－数值的A－符号的B－生物的层次复杂性复杂性BNNBPRBIANNAPRAICNNCPRCI智能科学与技术系计算智能系统与人工智能系统当一个系统只涉及数值(低层)数据，含有模式识别部分，不应用人工智能意义上的知识，而且能够呈现出：(1)计算适应性；(2)计算容错性；(3)接近人的计算速度；(4)计算误差率与人相近。则该系统就是计算智能系统。当一个智能计算系统以非数值方式加上知识，即成为人工智能系统。智能科学与技术系神经计算研究的进展1943年麦卡洛奇和皮茨提出神经网络模型(称为MP模型)的概念。20世纪60年代威德罗和霍夫提出自适应线性元件。60年代末期至80年代中期，整个神经网络研究处于低潮。80年代后期以来，人工神经网络研究得到复苏和发展，在模式识别、图像处理、自动控制等领域得到广泛应用。神经计算（NeuralComputation）智能科学与技术系人工神经网络特性人工神经网络（ANN）的特性并行分布处理非线性映射通过训练进行学习适应与集成硬件实现这些特性使得人工神经网络具有应用于各种智能系统的巨大潜力。智能科学与技术系生物神经元生物神经元结构细胞体树突轴突突触末端智能科学与技术系生物神经元的工作机理-120-100-80-60-40-20020400102030405060708090100msmVmembranerestactivationRefractorytimeActionpotentialActionpotential≈40mVActivationthreshold≈-30mVRestpotential≈-70mVSpiketime≈1-2msRefractorytime≈10-20ms神经元膜电位约为-70毫伏，膜内为负，膜外为正，处于抑制状态当神经元受到外部刺激时，膜内电位上升、膜外电位下降，当膜内外的电位差大于阈值电位（约+40毫伏）时，神经元产生冲动而进入兴奋状态。智能科学与技术系人工神经元的结构神经元单元由多个输入xi，i=1,2,...,n和一个输出y组成。中间状态由输入信号的权和表示，而输出为式中，j为神经元单元的偏置，wji为连接权系数，f为变换函数神经元模型Wj2Wj1∑f(_)x1x2xnθWjnYi：：-1nijijijxwfty1)()(智能科学与技术系常用变换函数又称激励函数可以是线性或非线性函数常用函数包括二值型函数线性变换函数Sigmoid函数智能科学与技术系二值型函数an011ap011wba=hardlim(n)a=hardlim(wp+b)a=0,ifn0a=1,ifn0MATLABfunction:hardlim智能科学与技术系线性变换函数anapwbb0011a=purelin(n)a=purelin(wp+b)a=nMATLABfunction:purelin智能科学与技术系Sigmoid函数anapwb001111a=logsig(n)a=logsig(wp+b)a=1/[1+exp(n)]MATLABfunction:logsig智能科学与技术系线性阈值单元最简单的神经元为线性阈值单元(LinearThresholdUnitorThresholdLogicUnit,TLU)变换函数采用二值型函数Wj2Wj1∑f(_)x1x2xnθWjnYi：：-1TdTdTTdjjjxxwwxwfy,...,,...,0100)(111xwxwxw智能科学与技术系当输入的x1和x2位于直线上或上方时,w1x1+w2x2+b0，即net0，则y=1TLUTLU的基本功能为线性划分当有两个输入x1和x2时，若将x1和x2分别看成平面上的横轴和纵轴，则不同的x1和x2值将对应该平面上的不同点。x1x2yx1x2w1w21b0010)(1netnetnetfybxwnetniii022111bxwxwbxwniii直线方程若令当输入的x1和x2位于直线下方时，w1x1+w2x2+b0，即net0，则y=0智能科学与技术系TLU对于两个输入，TLU通过权值阈值决定的直线，将平面上的点划分为两类，分别对应神经元的兴奋状态和抑制状态。对于三个输入，TLU则通过权值阈值决定的平面，将空间中的点划分为两类。对于多个输入来说，权值阈值对应的就是一个超平面，将超空间中的点进行分类。称能通过单个TLU解决的问题为线性可分的。与、或、非等简单逻辑都可通过单个TLU实现。最早的神经网络——感知器模型就是由单个TLU构成的智能科学与技术系单个TLU的局限性单个TLU只能解决线性可分问题，解决不了线性不可分问题。例：异或问题inputoutputx1x2x1XORx2000011101110异或逻辑真值表x1x2输出0输出1无论怎样，都不可能用一条直线将两类点分开必须使用多个神经元网络来解决智能科学与技术系人工神经网络的基本结构神经网络是多个神经元以一定的拓扑结构互连组成的网络，按其结构可分为：递归（反馈）网络多个神经元互连组织成一个互连神经网络，如图a前馈（多层）网络具有递阶分层结构，同层神经元间不存在互连，如图ba.递归（反馈）网络b.前馈（多层）网络智能科学与技术系人工神经网络的基本结构异或问题既可以用前馈网络实现，也可以用反馈网络实现。11y=x1XORx2x1x2111-20.51.5-111y=x1XORx2x1x2x12-111-1输入层隐含层输出层权重0.5-1.51.5-1权重智能科学与技术系人工神经网络的基本结构异或问题的实现其实质就是通过多个神经元互联构成网络，形成多条直线对平面上的点进行分类，从而实现最终目的。x1x2l1:b1+w11x1+w12x2=0l1andl2l1orl2=not(l1andl2)l2:b2+w21x1+w22x2=0智能科学与技术系人工神经网络的基本结构当问题更加复杂，通过直线已经无法对空间进行有效划分时，则Sigmoid函数对应一个S型曲线，多个曲线相交可将空间进行更复杂的划分，完成所需任务智能科学与技术系ANN的主要学习算法有师学习：能够根据期望的和实际的网络输出（对应于给定输入）间的差来调整神经元间连接的强度或权。无师学习：不需要知道期望输出。增强学习：采用一个“评论员”来评价与给定输入对应的神经网络输出的优度（质量因数）。增强学习算法的一个例子是遗传算法（GA）。智能科学与技术系感知器学习最简单的神经网络模型“单层感知器”就是由一个权值可调的TLU构成的，可以区分线性可分的模式权值的调整采用有师学习的方式进行感知器学习算法步骤输入：给定正例集合P和反例集合N，对所有x∈P，f(x)=1，所有x∈N，f(x)=0输出：w∈Rn+1NxPxxxw1.初始化权值为2.随机选择x∈P∪N3.更新w=w+η(t-o)x（η为学习常数，t为期望输出，o为实际输出）4.回到2直到当前权值对所有训练例误差为0智能科学与技术系感知器学习:示例w=(6,−1)+(−3,1)−(0,−1)−(7,−2)=(−4,3)P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1x1x2智能科学与技术系w・x0w=w+(1-0)x=(-4,3)+(6,-1)=(2,2)P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1感知器学习:示例智能科学与技术系w・x0w=w+(1-0)x=(-4,3)+(6,-1)=(2,2)P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1感知器学习:示例智能科学与技术系w・x0w=w+(1-0)x=(2,2)+(-3,1)=(-1,3)P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1w・x0w=w+(1-0)x=(-4,3)+(6,-1)=(2,2)感知器学习:示例智能科学与技术系w・x0w=w+(1-0)x=(-1,3)+(6,-1)=(5,2)P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1w・x0w=w+(1-0)x=(2,2)+(-3,1)=(-1,3)感知器学习:示例智能科学与技术系w・x0w=w+(1-0)x=(-1,3)+(6,-1)=(5,2)P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1w・x0w=w+(1-0)x=(5,2)+(-3,1)=(2,3)感知器学习:示例智能科学与技术系P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1w・x0w=w+(0-1)x=(2,3)-(7,-2)=(-5,5)w・x0w=w+(1-0)x=(5,2)+(-3,1)=(2,3)感知器学习:示例智能科学与技术系P={(6,−1),(−3,1)}N={(0,−1),(7,−2)}η＝1w・x0w=w+(0-1)x=(2,3)-(7,-2)=(-5,5)w・x0w=w+(1-0)x=(-5,5)+(6,-1)=(1,4)感知器学习:示例其他神经网络学习方法将在机器学习中具体介绍智能科学与技术系神经网络游戏——BugBrain神经网络被广泛应用于自动控制、模式识别等众多领域让我们通过一个游戏，为瓢虫小姐构造一个大脑来看看神经网络的应用实验室瓢虫世界工厂蠕虫世界游戏可分为实验室、瓢虫世界、工厂、蠕虫世界等几关，每关难度增加智能科学与技术系神经网络游戏——BugBrain实验室游戏从最简单的实验室任务开始，在这里，玩家被要求完成包括与、或、非在内的各种任务，搭建能够完成相应任务的神经网络并测试成功后才能进入下一任务实验室所有任务完成后可进入下一关例：构造完成“或”逻辑的神经网络如图，所有权值阈值都可自行设置以完成任务智能科学与技术系神经网络游戏——BugBrain完成网络设计后，可进行测试，检验是否成功例如：“或”任务要求在两个开关中的任何一个被按下时灯能够亮，测试我们的网络成功智能科学与技术系神经网络游戏——BugBrain在进入瓢虫世界后任务变得更加实际，要求为瓢虫小姐来设计大脑，让她能够完成不同任务如：在有宽度传感器（范围0~100）的情况下，如何让瓢虫小姐既能吃到蚜虫又不会掉下树干？智能科学与技术系扎德(Zadeh)1965年提出了模糊集理论模糊计算（FuzzyComp