湘潭大学-人工智能课件-非经典推理-part-1

ArtificialIntelligence(AI)人工智能第三章：非经典推理内容提要第三章：非经典推理1.经典推理和非经典推理2.不确定性推理3.概率推理4.主观贝叶斯方法5.可信度方法6.证据理论内容提要第三章：非经典推理1.经典推理和非经典推理2.不确定性推理3.概率推理4.主观贝叶斯方法5.可信度方法6.证据理论经典推理和非经典推理经典逻辑推理建立在以形式逻辑和数理逻辑为主的经典逻辑基础上，运用确定性知识进行推理，是一种单调性的推理。现实世界中的大多数问题存在随机性、模糊性、不完全性和不精确性。对于这些问题，若采用前面所讨论的精确性推理方法显然是无法解决的。为此，出现了一些新的逻辑学派，称为非经典逻辑，相应的推理方法称为非经典推理。人工智能需要研究不精确性的推理方法，以满足客观问题的需求。经典推理和非经典推理非经典逻辑推理与经典逻辑推理的区别在推理方法上，经典逻辑采用演绎逻辑推理，非经典逻辑采用归纳推理。在辖域取值上，经典逻辑是二值逻辑，非经典逻辑是多值逻辑。在运算法则上，两者大不相同。在逻辑运算符上，非经典逻辑有更多的逻辑运算符。在单调性上，经典逻辑是单调的，即已知事实均为充分可信的，不会随着新事实的出现而使原有事实变为假。非经典逻辑是非单调的。内容提要第三章：非经典推理1.经典推理和非经典推理2.不确定性推理3.概率推理4.主观贝叶斯方法5.可信度方法6.证据理论不确定性推理不确定性推理不确定性推理是建立在非经典逻辑基础上的一种推理，它是对不确定性知识的运用与处理。不确定性推理泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理，模糊知识的推理，非单调性推理等。不确定性推理从不确定性的初始证据（即事实）出发，通过运用不确定性的知识，最终推出具有一定程度不确定性的结论。不确定性推理为什么要采用不确定性推理所需知识不完备或问题的背景知识不足所需知识描述不精确或模糊多种原因导致同一结论或解题方案不唯一不确定性推理的基本问题1.不确定性的表示2.不确定性的匹配3.组合证据的不确定性的计算4.不确定性的更新5.不确定性结论的合成不确定性的表示知识的不确定性的表示考虑因素：1.问题描述能力;2.推理中不确定性的计算含义：知识的确定性程度，或静态强度表示：用概率，[0,1]，0接近于假，1接近于真用可信度，[-1,1]，大于0接近于真，小于0接近于假证据的非精确性表示证据来源：初始证据，中间结论表示：用概率或可信度不确定性的表示不确定性的匹配含义：不确定的前提条件与不确定的事实匹配问题：前提是不确定的，事实也是不确定的方法：设计一个计算相似程度的算法，给出相似的限度标志：相似度落在规定限度内为匹配，否则为不匹配不确定性的表示组合证据不确定性的计算含义：知识的前提条件是多个证据的组合方法：T(E)表示证据E为真的程度最大最小法：T(E1ANDE2)=min{T(E1),T(E2)}T(E1ORE2)=max{T(E1),T(E2)}概率法：在事件之间完全独立时使用T(E1ANDE2)=T(E1)T(E2)T(E1ORE2)=T(E1)＋T(E2)－T(E1)T(E2)有界法：T(E1ANDE2)=max{0,T(E1)＋T(E2)－1}T(E1ORE2)=min{1,T(E1)＋T(E2)}不确定性的表示不确定性的更新主要问题：解决不确定性知识在推理的过程中，知识不确定性的累积和传递。解决方法已知规则前提证据E的不确定性T(E)和规则的强度F(E,H)，则结论H的不确定性：T(H)=g1[T(E),F(E,H)]证据合取：T(E1ANDE2)=g2[T(E1),T(E2)]证据析取：T(E1ORE2)=g3[T(E1),T(E2)]不确定性的表示不确定性结论的合成主要问题：多个不同知识推出同一结论，且不确定性程度不同解决方法：并行规则算法：根据独立证据E1和E2分别求得结论H的不确定性为T1(H)和T2(H)，则证据E1和E2的组合导致结论H的不确定性：T(H)=g[T1(H),T2(H)]函数g视不同推理方法而定不确定性的表示不确定性推理的类型模糊推理基于概率的方法主观Bayes方法不确定性理论证据理论数值方法非数值方法不确定性推理框架推理语义网络推理常识推理…内容提要第三章：非经典推理1.经典推理和非经典推理2.不确定性推理3.概率推理4.主观贝叶斯方法5.可信度方法6.证据理论概率推理概率论基础回顾样本空间：在概率论中，把试验中每一个可能出现的结果称为试验的一个样本点，由全体样本点构成的集合称为样本空间。通常，用D表示样本空间。随机事件：由样本点构成的集合称为随机事件。运算：并事件：事件A与事件B至少有一个发生记为A∪B交事件：事件A与事件B同时发生记为A∩B互逆事件：事件A与B之间满足A∩B=Φ,A∪B=D概率推理概率论基础回顾统计概率：在同一组条件下所进行大量重复试验时，如果事件A出现的频率总是在区间[0,1]上的一个确定常数p附近摆动，并且稳定于p，则称p为事件A的统计概率，记为P(A)。条件概率：设A与B是两个随机事件，P(B)0，则称：P(A|B)=P(A∩B)/P(B)为在事件B发生的条件下事件A的条件概率。概率推理概率论基础回顾全概率公式：设事件A1,A2,…,An满足：任意两个事件都互不相容，即当i≠j时，有Ai∩Aj=Φ(i=1,2,…,n；j=1,2,…,n)；P(Ai)0(i=1,2,…,n);1niiDA则对任何事件B由下式成立：1()()(|)niiiPBPAPBA该公式称为全概率公式，它提供了一种计算P(B)的方法。A1A2A3An……概率推理全概率公式示例：有人从外地赶来参加会议，乘火车、船、汽车、飞机来的概率分别为0.3，0.2，0.1，0.4，迟到的概率分别为0.25，0.3，0.1，0；求他迟到的概率。解：记A1=他乘火车来，A2=他乘船来，A3=他乘汽车来，A4=他乘飞机来，B=他迟到。易见：A1,A2,A3,A4构成一个完备事件组，由全概率公式得41|0.30.250.20.30.10.10.400.145iiiPBPAPBA概率推理概率论基础回顾贝叶斯（Bayes）公式：设事件A1,A2,…,An满足全概率公式的条件，则对任何事件B有下式成立：1()()()()(),1,2,,()()iiiiinjjjPBAPAPBAPAPABinPBPBAPA该定理称为Bayes定理，上式称为Bayes公式。Bayes定理给出了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。概率推理贝叶斯公式示例：某医院对某种疾病有一种看起来很有效的检验方法，97%的患者检验结果为阳性，95%的未患病者检验结果为阴性，设该病的发病率为0.4%．现有某人的检验结果为阳性，问他确实患病的概率是多少？解：A:患病，:未患病，B:阳性，:阴性()0.004,()0.996,(|)0.97,(|)0.95,PAPAPBAPBAAB()(|)(|)()(|)()(|)0.0040.970.072.0.0040.970.9960.05PAPBAPABPAPBAPAPBA概率推理概率推理方法设有如下产生式规则：IFETHENH其中，E为前提条件，H为结论。条件概率P(H|E)可以作为在证据E出现时结论H的确定性程度，即规则的静态强度。把贝叶斯方法用于不精确推理的思想已知前提E的概率P(E)和结论H的先验概率P(H)已知H成立时E出现的条件概率P(E|H)利用规则推出H在E出现的条件下的后验概率：()()()PEHPHPHEPE概率推理概率推理方法对于一组产生式规则：IFETHENHi一个前提条件E支持多个结论H1,H2,...,Hn同样有后验概率如下（Hi确定性的程度，或规则的静态强度）：1()(|)(|),1,2,...,()(|)iiinjjjPHPEHPHEinPHPEH概率推理概率推理方法对于有多个证据E1,E2,…,Em和多个结论H1,H2,...,Hn,并且每个证据都以一定程度支持结论的情况，上面的式子可进一步扩展为:1212121(|)()(|)(|)(|)()(|)(|)(|),1,2,...,imiiiminjjjmjjPHEEEPHPEHPEHPEHPHPEHPEHPEHin概率推理概率推理方法举例例1：设H1,H2,H3分别是三个结论，E是支持这些结论的证据。已知：P(H1)=0.3；P(H2)=0.4；P(H3)=0.5P(E|H1)=0.5；P(E|H2)=0.3；P(E|H3)=0.4求P(H1|E),P(H2|E)及P(H3|E)的值各是多少？解：111112233()(|)(|)()(|)()(|)()(|)0.150.150.120.20.32PHPEHPHEPHPEHPHPEHPHPEH概率推理概率推理方法举例同理可得：P(H2|E)=0.26P(H3|E)=0.43观察：(注：P(E)=0.47)P(H1)=0.3,P(E|H1)=0.5P(H1|E)=0.32P(H2)=0.4,P(E|H2)=0.3P(H2|E)=0.26P(H3)=0.5,P(E|H3)=0.4P(H3|E)=0.43结论：由于E的出现，H1成立的可能性增加，H2和H3成立的可能性不同程度的下降。概率推理概率推理方法举例例:2：设H1,H2,H3分别是三个结论，E1,E2是支持这些结论的证据。已知：P(H1)=0.4；P(H2)=0.3；P(H3)=0.3P(E1|H1)=0.5；P(E1|H2)=0.6；P(E1|H3)=0.3.P(E2|H1)=0.7；P(E2|H2)=0.9；P(E2|H3)=0.1求P(H1|E1E2),P(H2|E1E2)及P(H3|E1E2)的值各是多少？解：11121112111212122231323()(|)(|)(|)()(|)(|)()(|)(|)()()(|)0.45PHPEHPEHPHEEPHPEHPEHPHPEHPEHPHPEHPEH概率推理概率推理方法举例同理可得：P(H2|E1E2)=0.52P(H3|E1E2)=0.03观察：(注：P(E1)=0.47,P(E2)=0.58)P(H1)=0.4,P(E1|H1)=0.5,P(E2|H1)=0.7P(H1|E)=0.45P(H2)=0.3,P(E1|H2)=0.6,P(E2|H2)=0.9P(H2|E)=0.52P(H3)=0.3,P(E1|H3)=0.3,P(E2|H3)=0.1P(H3|E)=0.03结论：由于E1和E2的出现，H1和H2成立的可能性不同程度的增加，H3成立的可能性下降。概率推理概率推理方法的特点优点：概率推理方法有较强的理论背景和良好的数学特性，当证据彼此独立时计算的复杂度比较低。缺点：概率推理方法要求给出结论Hi的先验概率P(Hi)及条件概率P(Ej|Hi)。内容提要第三章：非经典推理1.经典推理和非经典推理2.不确定性推理3.概率推理4.主观贝叶斯方法5.可信度方法6.证据理论主观贝叶斯方法使用概率推理方法求结论Hi在存在证据E时的条件概率P(Hi|E)，需要给出结论Hi的先验概率P(Hi)及证据E的条件概率P(E|Hi)。这对于实际应用是不容易做到的。Duda和Hart等人在贝叶斯公式的基础上，于1976年提出主观贝叶斯方法，建立了不精确推理的模型，并把它成功地应用于PROSPECTOR专家系统（PROSPECTOR是国际上著名的一个用于勘察固体矿的专家系统）。主观贝叶斯方法在主观Bayes方法中，知识是用产生式表示的，其形式为：IFETH