L-概率推理-人工智能(AI)

人工智能原理2008年春季广西大学计算机学院Dr.Ou概率信度状态与概率推理ProbabilisticBeliefStatesandProbabilisticInference(通过探索少量直接影响的事件来推理整个世界)R&N:Chap.14,Sect.14.1–4人工智能原理2008年春季广西大学计算机学院Dr.Ou概率信度ProbabilisticBelief考虑这样的一个问题，该问题的整个世界由牙科医生D和患者P组成D关心的只是P是否有牙洞；因此可由单个命题：Cavity，描述问题的状态在对患者P作检查（观察）之前，D并不知道P是否有牙洞，但由多年的行医实践，他认为一个人有牙洞（Cavity）的概率会是P，而没有牙洞（Cavity）的概率则是1－P于是命题Cavity成为了一个布尔随机变量，而(Cavity,p)则称为概率信度人工智能原理2008年春季广西大学计算机学院Dr.Ou概率信度状态ProbabilisticBeliefState整个牙医问题世界只有两种可能状态，分别由Cavity和Cavity描述一个智能体的概率信度状态即为智能体自己认为的问题世界所有状态的概率分布在牙医问题的例子中，D的信度状态为：CavityCavityp1-p人工智能原理2008年春季广西大学计算机学院Dr.Ou智能吸尘器VacuumRobot如果机器人不知道问题世界的状态的具体情况，它会认为所有的状态有着同样的可能性（无差别原理），于是其信度状态将会为：1/81/81/81/81/81/81/81/8人工智能原理2008年春季广西大学计算机学院Dr.Ou信度与信度状态是怎样发生联系的？Howarebeliefsandbeliefstatesrelated?1/161/161/161/81/161/41/81/4(Clean(R1),5/16)(Clean(R2),0.5)(In(Robot,R1),0.5)(In(Robot,R2),0.5)通常处理单个信度比处理整个信度状态更为方便,例如:-机器人仅当Clean(R2)概率很低的时候执行Suck(R2)-机器人可直接观察是否Clean(R1)或Clean(R2)单个信度是怎样影响到这个信度状态及其它的信度的?人工智能原理2008年春季广西大学计算机学院Dr.Ou回到牙医的例子......现在我们使用3个命题：Cavity,Toothache,和PCatch，来表示整个牙医问题世界D的信度状态由23=8个状态组成，每个状态有对应的概率:{CavityToothachePCatch,CavityToothachePCatch,CavityToothachePCatch,...}人工智能原理2008年春季广西大学计算机学院Dr.Ou信度状态可由所有命题的全联合概率定义ThebeliefstateisdefinedbythefulljointprobabilityofthepropositionsPCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothache人工智能原理2008年春季广西大学计算机学院Dr.Ou概率推理ProbabilisticInferencePCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothacheP(CavityToothache)=0.108+0.012+...=0.28人工智能原理2008年春季广西大学计算机学院Dr.OuPCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothacheP(Cavity)=0.108+0.012+0.072+0.008=0.2概率推理ProbabilisticInference人工智能原理2008年春季广西大学计算机学院Dr.OuPCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothache边缘化Marginalization:P(c)=StSpcP(ctpc)式中c=Cavity或Cavity，St是有关t={Toothache,Toothache}的和，Spc是有关{PCatch,PCatch}的和概率推理ProbabilisticInference人工智能原理2008年春季广西大学计算机学院Dr.Ou条件概率ConditionalProbabilityP(AB)=P(A|B)P(B)=P(B|A)P(A)P(A|B)是给定B，A的后验概率人工智能原理2008年春季广西大学计算机学院Dr.OuPCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothacheP(Cavity|Toothache)=P(CavityToothache)/P(Toothache)=(0.108+0.012)/(0.108+0.012+0.016+0.064)=0.6解释：在观察到有牙疼(Toothache)之后，患者有牙洞的概率将不再是“平均”的概率，即Cavity的先验概率已不再适用P(Cavity|Toothache)的值可通过保持上表蓝色4项之间的比率不变，并将它们的和进行归一化得到人工智能原理2008年春季广西大学计算机学院Dr.OuPCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothacheP(Cavity|Toothache)=P(CavityToothache)/P(Toothache)=(0.108+0.012)/(0.108+0.012+0.016+0.064)=0.6P(Cavity|Toothache)=P(CavityToothache)/P(Toothache)=(0.016+0.064)/(0.108+0.012+0.016+0.064)=0.4P(c|Toochache)=aP(cToothache)=aSpcP(cToothachepc)=a[(0.108,0.016)+(0.012,0.064)]=a(0.12,0.08)=(0.6,0.4)归一化常数人工智能原理2008年春季广西大学计算机学院Dr.Ou条件概率ConditionalProbabilityP(AB)=P(A|B)P(B)=P(B|A)P(A)P(ABC)=P(A|B,C)P(BC)=P(A|B,C)P(B|C)P(C)P(Cavity)=StSpcP(Cavitytpc)=StSpcP(Cavity|t,pc)P(tpc)P(c)=StSpcP(ctpc)=StSpcP(c|t,pc)P(tpc)人工智能原理2008年春季广西大学计算机学院Dr.Ou独立性Independence两个随机变量A和B是独立(independent)的如果P(AB)=P(A)P(B)即P(A|B)=P(A)两个随机变量A和B是给定C条件下独立的如果P(AB|C)=P(A|C)P(B|C)即P(A|B,C)=P(A|C)人工智能原理2008年春季广西大学计算机学院Dr.Ou信度状态更新UpdatingtheBeliefStatePCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothache假设D现在观察到患者牙疼(Toothache)的概率为0.8(例如,“患者说有牙疼”)那么D应该如何对其信度状态进行更新呢?人工智能原理2008年春季广西大学计算机学院Dr.OuUpdatingtheBeliefStatePCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothache令E为证据，在证据E出现的条件下有P(Toothache|E)=0.8我们想计算P(ctpc|E)=P(cpc|t,E)P(t|E)由于E与牙洞或器械感染不直接相关,因此可以认为在给定t条件下，c、pc和E是独立的，则有:P(cpc|t,E)=P(cpc|t)人工智能原理2008年春季广西大学计算机学院Dr.Ou令E为证据，在证据E出现的条件下有P(Toothache|E)=0.8我们想计算P(ctpc|E)=P(cpc|t,E)P(t|E)由于E与牙洞或器械感染不直接相关,因此可以认为在给定t条件下，c、pc和E是独立的，则有:P(cpc|t,E)=P(cpc|t)更新的这4项概率通过将它们的和正态化到0.2得到更新的这4项概率通过将它们的和正态化到0.8得到UpdatingtheBeliefStatePCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothache0.4320.0640.2560.0480.0180.0360.1440.002人工智能原理2008年春季广西大学计算机学院Dr.Ou一些问题如果一个状态由n个命题描述，则信度状态包含2n个状态(可能其中一些概率为0)建模的难点计算量问题人工智能原理2008年春季广西大学计算机学院Dr.Ou给定Cavity(或Cavity)条件下，Toothache和PCatch是独立的，只不过该独立关系隐藏在数字后！[请同学们自行验证]贝叶斯网络Bayesiannetworks将命题之间的独立性明确表示出来，从而减少了定义整个信度状态所需的概率数量PCatchPCatchPCatchPCatchCavity0.1080.0120.0720.008Cavity0.0160.0640.1440.576ToothacheToothache人工智能原理2008年春季广西大学计算机学院Dr.Ou贝叶斯网络BayesianNetwork注意到Cavity是Toothache和PCatch的“起因”，然后将这样的因果关系明确的表示出来给出Cavity的先验概率分布给出Toothach和PCatch的条件概率表CavityToothacheP(Cavity)0.2P(Toothache|c)CavityCavity0.60.1PCatchP(PClass|c)CavityCavity0.90.025个概率，而全联合概率分布需要7个概率P(ctpc)=P(tpc|c)P(c)=P(t|c)P(pc|c)P(c)人工智能原理2008年春季广西大学计算机学院Dr.Ou一个稍复杂的BNBurglaryEarthquakeAlarmMaryCallsJohnCalls原因causes结果effects有向无环图Directedacyclicgraphx到y的弧的直觉意义：“x对y有直接影响”人工智能原理2008年春季广西大学计算机学院Dr.OuBEP(A|…)TTFFTFTF0.950.940.290.001BurglaryEarthquakeAlarmMaryCallsJohnCallsP(B)0.001P(E