人工智能_AI讲稿4(不精确推理)

人工智能（ArtificialIntelligence）基本原理(4)福州大学数学与计算机学院陈昭炯2020/3/3第四章不确定与非单调推理基本概念概率方法主观Bayes方法可信度方法证据理论基本概念不确定推理：（均不确定）→结论（不确定但合理）初始证据知识不确定性的表示和度量知识（静态强度）：一般由专家给出的数值证据（动态强度）初始：专家给出中间：传递算法计算度量方式选择原则：－表达充分－便于估计－便于传递计算－直观且有依据匹配算法及阈值选择－计算相似度的算法－相似度的“限度”组合证据不确定性的算法－最大最小方法：－概率方法：基本概念T(E1ANDE2)=Min{T(E1),T(E2)}T(E1ORE2)=Max{T(E1),T(E2)}T(E1ANDE2)=T(E1)×T(E2)T(E1ORE2)=T(E1)＋T(E2)－T(E1)×T(E2)传递算法及结论合成算法基本概念概率方法主观Bayes方法可信度方法证据理论基于概率论基于模糊论数值方法非数值方法模型方法控制方法相关性制导回溯机缘控制启发式搜索条件概率：乘法定理)0)(()()()/(APAPABPABP其中)0)(()/()()(APABPAPABP)0)(()/()()(BPBAPBPABP概率回顾全概率公式设为样本空间S的一个划分，，A是其中的一个事件，则nBBB...,,21),,2,1(0)(niBPi)/()(...)/()()/()()(2211nnBAPBPBAPBPBAPBPAP贝叶斯（Bayes）公式或逆概率公式：设为样本空间S的一个划分，A是其中的一个事件，且则有:nBBB...,,21),,2,1(0)(,0)(niBPAPi)/()(...)/()()/()()()()/(11nniiiiBAPBPBAPBPBAPBPAPABPABP概率方法经典概率方法IFEThenHP(H/E)IFE1E2…EnThenHP(H/E1E2…En)•E只有“T”,“F”两种状态，即证据是确定的，应用时受限•P(H/E)有时很难统计获得逆概率方法通过统计P(E/H)后利用Bayes公式反求P(H/E)IFEThenHiP(Hi/E)（一对多）E：咳嗽H1：支气管炎，H2：肺炎，H3：流感先验概率:)()()|()()|(iiiiHPEPHEPHPEHP3,4.02,3.01,5.0)|(,3,3.02,4.01,3.0)(1iiiHEPiiiHPii：例概率方法3,31.02,31.01,38.0)()|()()|(iiiEPHEPHPEHPBayesiii公式：解：的可能性下降的可能性增加，而发生时，证据231,EHHH可信度,3,31.02,31.01,38.0iiiHThenEIFi可信度）多对多(),,2,1(21niHThenEEEIFimnimjiijmjijiHPHEPHEPHP111)()|()|()(相互独立）（当jmmjijimiEEEEPHEPHPEEEHP)()|()()|(21121是空间的一个划分）当iniiimmjijiHHPHEEEPHEPHP()()|()|()(12113,1.02,9.01,7.0)|(3,3.02,6.01,5.0)|(3,3.02,3.01,4.0)(221iiiHEPiiiHEPiiiHPiii：例3,03.02,52.01,45.0)|(21iiiEEHPi计算得：疾病的可能性时，病人患：对病人观察到症状的条件概率发生时观察到的症状：疾病发生的先验概率：统计得到疾病：相应症状：可能发生的疾病immijiijiijiHEEEEEEHPEHHEPHHPEH2121)|()|()(特点：理论背景好，数学特性强符合条件时，计算方便简洁证据出现与否是确定的，应用时受限先验概率、条件概率不易获得独立性要求高概率方法贝叶斯公式在智能决策中的应用Bayes公式1）：划分2）：A发生的各种“因素”3）：A出现前“原因”出现的可能性，即先验概率。4）：后验概率；A的出现有助于对导致A出现的各种“因素”发生的概率作进一步估计•贝叶斯决策：在已知先验概率的情况下，做试验。再通过试验中事件A的具体情况得到的新信息，获得导致A出现的各种因素发生情况的新知识。nBBB...,,21)(mBPmBmB)/(ABPm)(mBP例1:为提高产品质量，某公司经理考虑增加投资改进设备。顾问意见：Y1：改进后，高质量产品可占90%，Y2：改进后，高质量产品可占70%。经理认为Y1的可信度只有40%，Y2的可信度有60%，即P(Y1)=0.4,P(Y2)=0.6这二个都是经理的主观概率。经理不想仅凭过去的经验来决策此事，为此他决定先通过小规模试验，观其结果再做决定。试验结果（记为A）如下：A：试制5个产品，全是高质量的产品。经理希望知道此试验结果会如何改变他原来对Y1和Y2的看法，即要求后验概率P(Y1/A)与P(Y2/A)。（接上页）不妨设每一个产品的生产都是相互独立的，有：P(A/Y1)=(0.9)5=0.590，P(A/Y2)=(0.7)5=0.168。再由全概率公式算得P(A)=P(A/Y1)P(Y1)+P(A/Y2)P(Y2)=0.337。于是可求得后验概率为P(Y1/A)=P(A/Y1)P(Y1)/P(A)=0.236/0.337=0.700P(Y2/A)=P(A/Y2)P(Y2)/P(A)=0.101/0.337=0.300。这表明，经理应该根据试验A的结果调整自己的看法，把对Y1与Y2的可信度由0.4和0.6分别调整到0.7和0.3。经过试验A后，经理在决策上有了依据。例2对某故障A进行诊断，以确定原因是d1,d2,d3三种中的哪一种。做两个试验，结果都用不良（-）或良好(+)表示。共有四种可能的：++，+-，-+，--。以往试验结果的统计资料如下表；试用贝叶斯方法分析故障发生的原因。因素以往故障数统计(总数10000)试验结果+++--+--d1d2d332152125466021103017041003961321187410510356873509P(d1)=3215/10000=0.3215；P(+-|d1)=301/3215=0.094。求：P(di|++),P(di|+-),P(di|-+),P(di|--)(i=1,2,3)解：利用贝叶斯公式计算对应结果的后验概率，即：P(di|++),P(di|+-),P(di|-+),P(di|--)(i=1,2,3),计算公式如下：31)()/()()/()()()/()/(iiiiiiiidPdPdPdPPdPdPdP后验概率d1d2d3＋＋＋－－＋――0.7000.1320.1680.0760.0330.8910.3570.6050.0380.0980.4050.497预测或排除主观Bayes方法知识不确定性的表示IFETHEN(LS,LN)H(P(H))E：前提条件，简单或复合（OR,AND)H：结论P(H)：H的先验概率，无专门证据时，由专家给出LS：充分性度量，由专家给定，∈[0,∞]LN：必要性度量，由专家给定，∈[0,∞]主观Bayes方法初始证据不确定性的表示P(E|S):在观察S下给出初始证据E的概率∈[0,1]用户直接给出P(E|S)通过可信度C(E|S)∈[-a,a]间接给出P(E|S)S1：电子检测仪检测S2：试纸比对S3：直接望诊例：E：血色素小于100g/L0)|(,))|()(()|(0,))|()(()|()|(,10)|(),()|(,0SECaaaSECEPaSECaSECaEPSECaSECSECEPaSEC三点插值(-a,0)(0,P(E))(a,1))|(SEPP(E)C(E|S)-a0aP(E|S)10)|(,))|()(()|(0,))|()(()|()|(SECaaaSECEPaSECaSECaEPSECSEP*P(E)也不易给出时，如何由C(E|S)导出P(E|S)*若存在多种观察可信度C(E|Si),如何导出P(E|S)组合证据不确定性算法iininininiEESEPEEEESEPEEEESEPSEP),|(1)},|({max)},|({min)|(211211不确定性的传递算法P(H)P(E),P(E|S)LS,LNP(H|E),E肯定存在时P(H|﹁E),E肯定不存在时，先验→后验P(H|S)，E不确定时1。证据E肯定存在的情况；P(E)=P(E|S)=1（1）几率函数)(1)()(xPxPxQ•Q(x)与P(x)单调性相同•P(x)∈[0,1]；Q(x)∈[0,+∞](2)后验概率P(H|E)1)()1()()|()|()|()()|(HPLSHPLSEHPHEPHEPLSHQLSEHQ相除，整理)()()|()|()()()|()|(EPHPHEPEHPEPHPHEPEHPBayes(3)LS的意义:Q(H|E)=LS×Q(H)LS1Q(H|E)Q(H)P(H|E)P(H)E的使H为真的概率↗,LS↗→P(H|E)↗,LS→∞Q(H|E)→∞,P(H|E)→1,LS充分性LS=1Q(H|E)=Q(H)P(H|E)=P(H)E的与H无关LS∈(0,1)Q(H|E)Q(H)P(H|E)P(H)E的使H为真的概率↘,LS↘→P(H|E)↘LS=0Q(H|E)=0P(H|E)=0E的使H为假尽管LS=P(E|H)/P(E|﹁H)，但LS并不由此式确定，该式仅具理论意义专家根据上表中LS的定性意义给出估算值2。证据E肯定不存在的情况；P(E)=P(E|S)=0，P(﹁E)=1(1)后验概率P(H|﹁E)1)()1()()|()|()|()()|(HPLNHPLNEHPHEPHEPLNHQLNEHQ相除，整理)()()|()|()()()|()|(EPHPHEPEHPEPHPHEPEHPBayes(2)LN的意义:Q(H|﹁E)=LN×Q(H)LN1Q(H|﹁E)Q(H)P(H|﹁E)P(H)E不使H为真的概率↗,LN↗→P(H|﹁E)↗,LN→∞Q(H|﹁E)→∞,P(H|﹁E)→1LN=1Q(H|﹁E)=Q(H)P(H|﹁E)=P(H)﹁E的与H无关LN∈(0,1)Q(H|﹁E)Q(H)P(H|﹁E)P(H)E不使H为真的概率↘,LN↘→P(H|﹁E)↘﹁E→H不为真；LN必要性LN=0Q(H|﹁E)=0P(H|﹁E)=0LN→0H为假H真E尽管LN=P(﹁E|H)/P(﹁E|﹁H)，但LN并不由此式确定，该式仅具理论意义专家根据上表中LN的定性意义给出估算值LS=P(E|H)/P(E|﹁H)，LN=P(﹁E|H)/P(﹁E|﹁H)；从公式上看两者有联系，但实际赋值时不由公式计算例：LS＝10，LN＝1，矛盾？∵LN＝P(﹁E|H)/P(﹁E|﹁H)＝1∴P(﹁E|H)＝P(﹁E|﹁H)；1－P(﹁E|H)＝1－P(﹁E|﹁H)∴P(E|H)＝P(E|﹁H)；LS＝1；(LN≈1,则LS可以变化较大）LS，LN不可出现下列两种情况之一，否则矛盾(a)LS1，LN1(b)LS1，LN1A→B，A是B的充分条件：LS↗→P(H|E)↗，LS是P(H|E)的充分性度量B→A，A是B的必要条件：LN↘→P(H|﹁E)↘等价于P(H|﹁E)↗→LN↗，LN是P(H|﹁E)的必要性度量?