浙江大学研究生人工智能引论课件运功第五讲D-S证据理

浙江大学研究生《人工智能引论》课件徐从富(CongfuXu)PhD,AssociateProfessorEmail:[e-mail]ntelligence,CollegeofComputerScience,ZhejiangUniversity,Hangzhou310027,P.R.ChinaMarch10,2002第一稿September22,2007第五次修改稿第五讲D-S证据理论(Chapter5D-SEvidentialTheory)Outline本章的主要参考文献证据理论的发展简况经典证据理论关于证据理论的理论模型解释基于DS理论的不确定性推理证据理论的实现途径计算举例[1]Dempster,A.P.Upperandlowerprobabilitiesinducedbyamultivaluedmapping.AnnalsofMathematicalStatistics,1967,38(2):325-339.【提出证据理论的第一篇文献】[2]Dempster,A.P.GeneralizationofBayesianInference.JournaloftheRoyalStatisticalSociety.SeriesB30,1968:205-247.[3]Shafer,G.AMathematicalTheoryofEvidence.PrincetonUniversityPress,1976.【证据理论的第一本专著，标志其正式成为一门理论】[4]Barnett,J.A.Computationalmethodsforamathematicaltheoryofevidence.In:Proceedingsof7thInternationalJointConferenceonArtificialIntelligence(IJCAI-81),Vancouver,B.C.,Canada,Vol.II,1981:868-875.【第一篇将证据理论引入AI领域的标志性论文】本章的主要参考文献[5]Zadeh,L.A.ReviewofShafer’samathematicaltheoryofevidence.AIMagazine,1984,5:81-83.【对证据理论进行质疑的经典文献之一】[6]Shafer,G.Perspectivesonthetheoryandpracticeofbelieffunctions.InternationalJournalofApproximateReasoning,1990,4:323-362.[7]Shafer,G.Rejoindertocommentson“Perspectivesonthetheoryandpracticeofbelieffunctions”.InternationalJournalofApproximateReasoning,1992,6:445-480.[8]Voorbraak,F.OnthejustificationofDempster’sruleofcombination.ArtificialIntelligence,1991,48:171-197.[9]Smets,P.Thecombinationofevidenceinthetransferablemodel.IEEETransactionsonPatternAnalysisandMachineIntelligence,1990,12(5):447-458.[10]Smets,P,andKennes,R.Thetransferablebeliefmodel.ArtificialIntelligence,1994,66:191-234.本章的主要参考文献（续1）[11]Voobraak,F.AcomputationallyefficientapproximationofDempster-Shafertheory.InternationalJournalofMan-MachineStudy,1989,30:525-536.[12]Dubois,D,Prade,H.Consonantapproximationsofbelieffunctions.InternationalJournalofApproximateReasoning,1990,4:279-283.[13]Tessem,B.Approximationsforefficientcomputationinthetheoryofevidence.ArtificialIntelligence,1993,61:315-329.【注：文献10-12均为证据理论近似计算方法】[14]Simard,M.A.,etal.DatafusionofmultiplesensorsattributeinformationfortargetidentityestimationusingaDempster-Shaferevidentialcombinationalgorithm.In:ProceedingsofSPIE-InternationalSocietyforOpticalEngineering,1996,Vol.2759:577-588.【提出了一种实现证据理论的“修剪算法”】本章的主要参考文献（续2）[15]Josang,A.Theconsensusoperatorforcombiningbeliefs.ArtificialIntelligence,2002,141(1-2):157-170.[16]Yang,Jian-Bo,Xu,Dong-Ling.Ontheevidentialreasoningalgorithmformultipleattributedecisionanalysisunderuncertainty.IEEETransactiononSystems,Man,andCybernetics–PartA:SystemsandHumans,2002,32(3):289-304.[17]Yaghlane,B.B.,etal.Belieffunctionindependence:I.Themarginalcase.InternationalJournalofApproximateReasoning,2002,29(1):47-70.[18]Yaghlane,B.B.,etal.Belieffunctionindependence:II.Theconditionalcase.InternationalJournalofApproximateReasoning,2002,31:31-75.本章的主要参考文献（续3）[19]段新生.证据理论与决策、人工智能.中国人民大学出版社,1993.[20]徐从富等.Dempster-Shafer证据推理方法理论与应用的综述.模式识别与人工智能,1999,12(4):424-430.[21]徐从富等.面向数据融合的DS方法综述.电子学报,2001,29(3):393-396.[22]徐从富等.解决证据推理中一类“0绝对化”问题的方法.计算机科学,2000,27(5):53-56.[23]李岳峰等.证据理论中的近似计算方法.吉林大学自然科学学报,1995,(1):28-32.[24]刘大有等.广义证据理论的解释.计算机学报,1997,20(2):158-164.[25]刘大有等.凸函数证据理论模型.计算机研究与发展,2000,37(2):175-181.本章的主要参考文献（续4）[26]杨莹等.对一种基于证据理论的不确定性处理模型的重要扩充.计算机学报,1990,(10):772-778.[27]刘大有等.一种简化证据理论模型的研究.计算机研究与发展,1999,36(2):134-138.[28]肖人彬等.相关证据合成方法的研究.模式识别与人工智能,1993,6(3):227-234.[29]孙全等.一种新的基于证据理论的合成公式.电子学报,2000,28(8):117-119.[30]曾成,赵保军,何佩昆.不完备框架下的证据组合方法.电子与信息学报,2005,27(7):1043-1046.[31]王永庆.人工智能原理与方法.西安交通大学出版社,1998.pp.185-197.（第5章第5.5节“证据理论”）本章的主要参考文献（续5）5.1证据理论的发展简况1、证据理论的名称证据理论(EvidentialTheory)Dempster-Shafer理论Dempster-Shafer证据理论DS(或D-S)理论其它叫法：Dempster规则Dempster合成规则Dempster证据合成规则2、证据理论的诞生和形成诞生：源于20世纪60年代美国哈佛大学数学家A.P.Dempster在利用上、下限概率来解决多值映射问题方面的研究工作。自1967年起连续发表了一系列论文，标志着证据理论的正式诞生。形成：Dempster的学生G.Shafer对证据理论做了进一步的发展，引入信任函数概念，形成了一套基于“证据”和“组合”来处理不确定性推理问题的数学方法，并于1976年出版了《证据的数学理论》(AMathematicalTheoryofEvidence)，这标志着证据理论正式成为一种处理不确定性问题的完整理论。3、证据理论的核心、优点及适用领域核心：Dempster合成规则，这是Dempster在研究统计问题时首先提出的，随后Shafer把它推广到更为一般的情形。优点：由于在证据理论中需要的先验数据比概率推理理论中的更为直观、更容易获得，再加上Dempster合成公式可以综合不同专家或数据源的知识或数据，这使得证据理论在专家系统、信息融合等领域中得到了广泛应用。适用领域：信息融合、专家系统、情报分析、法律案件分析、多属性决策分析，等等。4、证据理论的局限性要求证据必须是独立的，而这有时不易满足证据合成规则没有非常坚固的理论支持，其合理性和有效性还存在较大的争议计算上存在着潜在的指数爆炸问题5、证据理论的发展概况“Zadeh悖论”：对证据理论的合成公式的合理性进行质疑。例子：利用Dempster证据合成规则对两个目击证人（W1,W2）判断某宗“谋杀案”的三个犯罪嫌疑人（Peter,Paul,Mary）中究竟谁是真正的凶手，得到的结果（认定Paul是凶手）却违背了人的常识推理结果，Zadeh认为这样的结果无法接受。m1()m2()m12()Peter0.990.000.00Paul0.010.011.00Mary0.000.990.00专家系统MYCIN的主要开发者之一Shortliffe：对证据理论的理论模型解释和算法实现进行了研究。AI专家Dubois&Prade：指出证据理论中的信任函数（Belieffunction）是一种模糊测度，以集合论的观点研究证据的并、交、补和包含等问题。Smets等人：将信任函数推广到识别框架的所有模糊子集上，提出Pignistic概率和可传递信度模型（TBM）。粗糙集理论的创始人Pawlak：认为粗糙集理论使得无限框架上的证据处理向有限框架上的证据处理的近似转化成为可能。证据理论的发展概况（续1）为了避免证据组合爆炸，提高证据合成的效率：Voorbraak：提出一种Dempster证据合成公式的Bayes近似方法，使得焦元个数小于等于识别框架中元素的个数。Dubois&Prade：提出一种“和谐近似”（Consonantapproximation），即用和谐函数来代替原来的信任函数。Tessem：提出了一种称为(k,l,x)近似方法。Yen等人：将模糊集引入证据理论。Yen,J.GeneralizingtheDempster-Shafertheorytofuzzysets.IEEETrans.onSystems,Man,andCybernetics,1990,20(3):559-5