《第5.5节 确定性方法》由会员分享，可在线阅读，更多相关《第5.5节 确定性方法（25页珍藏版）》请在金锄头文库上搜索。
1、第5.5节 确定性方法,王庆江计算机科学与技术系,2008-2009学年第1学期,第5.5节 确定性方法,统计理论在不确定性推理中的局限性,贝叶斯公式在疾病诊断系统中，疾病（原因）种类和症状（结果）种类都很多；需确定很多概率。,证据,结论,2008-2009学年第1学期,第5.5节 确定性方法,而且证据是一点点增加的，如A1代表咳嗽（原证据），A2是扁桃体发炎（新增证据），令A=A1A2，则但上述公式中的概率一般很难求得。,2008-2009学年第1学期,第5.5节 确定性方法,概率的“求余”运算往往不反映专家知识,例：生物的染色体呈革兰式阳性；生物的形态是球形；生物生长构造是链状。则生物为链
2、球菌的可能性为70。后验概率表示为：P(B|A1A2A3)=70%那么，P(B|A1A2A3)=30%,专家不赞同蓝色表示的知识。,2008-2009学年第1学期,第5.5节 确定性方法,MYCIN斯坦福大学一个AI实验室历时5年开发的医疗诊断专家系统；Edward Shortliffe博士论文（1975年）用于判断引起严重感染（如菌血症、脑膜炎）的细菌，以及给出适合病人体重剂量的抗生素建议；规则（产生式）的不确定性（uncertainty）用所谓的确定性因子（certainty factors）表示，知识库中有大约600条规则；一个推理引擎向内科医生提出一系列的yes/no问题，最后给出按诊
3、断概率由大到小的细菌列表、每种诊断的推理依据（即问题和判断规则的列表）和建议的药物处理。,2008-2009学年第1学期,第5.5节 确定性方法,MYCIN可以比斯坦福大学医学院大夫做得更好，却从来未投入实际应用；若MYCIN给出了错误的诊断或治疗方案，谁负责呢？70年代的系统集成技术还比较落后。没有PC，程序只能运行在分时系统上；尽管临床大夫可经ARPANet访问MYCIN，但回答所有问题需要至少30分钟。今天，可把病人数据库集成进来，交互用时就可缩短了。MYCIN的重要性提出了不确定性表示和推理的新方法确定性方法；按MYCIN提供的方法，许多领域出现了基于规则的系统；80年代，“专家系统”
4、一词诞生了。,2008-2009学年第1学期,第5.5节 确定性方法,在MYCIN中,不采用严格的统计理论；用专家估计代替统计数据；并尽量减少专家估计；要适应证据不断增加的情况；专家数据轻微扰动不影响推理结论；给出可信度较高的前几个结论。,2008-2009学年第1学期,第5.5节 确定性方法,5.5.1 规则的不确定度,在贝叶斯网络中， 用P(B|A)和P(B|A)表示；在主观贝叶斯方法中，用LS和LN表示；它们都假设“求余”运算是合理的，但确定性方法中不这么认为。该怎么表示规则的可信度（即不确定度）呢？,2008-2009学年第1学期,第5.5节 确定性方法,如果P(B|A)P(B)，规则
5、成立的信任度增加；增加了多少呢？P(B|A)P(B)在最大增加幅度下，相对增加了多少？,2008-2009学年第1学期,第5.5节 确定性方法,如果P(B|A)0，MD(B,A)=0A不支持B，则MB(B,A)=0，MD(B,A)0,应该是0才对！,应该是0才对！,2008-2009学年第1学期,第5.5节 确定性方法,定义：规则AB的可信度CF(B, A) CF(B,A) MB(B,A) MD(B,A)CF(B, A)也即确定性因子（Certainty Factor）；A对B真的支持度相对P(B)计算，此时CF(B,A)0；A对B真的不支持度相对P(B)计算，此时CF(B,A)0。,2008
6、-2009学年第1学期,第5.5节 确定性方法,规则支持度（MB）和不支持度（MD）被组合进CF中；没有用概率“求余”运算。1CF(B, A) 1CF(B, A) 1此时有P(B|A)1，故A真，则B真。CF(B, A) 1此时有P(B|A)0，故A真，则B假。CF(B, A) 0此时有P(B|A)P(B)，故A真与B无关。实际中，规则的CF值不是由P(B|A)和P(B)计算得到的，而是专家给定的。,2008-2009学年第1学期,第5.5节 确定性方法,证据的不确定度怎么表示？,CF(A)表示证据A的不确定度。规定：1CF(A)1CF(A)=1, 表示A肯定真；CF(A)=1,表示A肯定假；
7、CF(A)=0,表示对A一无所知；CF(A)0,表示A以CF(A)程度为真；CF(A)0,表示A以CF(A)程度为假。,原始证据的CF值由专家给，其他证据CF值由推理计算得到,2008-2009学年第1学期,第5.5节 确定性方法,5.5.3 不确定性的传播与更新,已知原始证据和所有规则的可信度，就可以推理计算了。证据“与”的不确定度计算例：A1A2BCF(A1A2) = minCF(A1), CF(A2)证据“或”的不确定度计算例：A1A2BCF(A1A2) = maxCF(A1), CF(A2),OR,2008-2009学年第1学期,第5.5节 确定性方法,5.5.3 不确定性的传播与更新
8、,证据“非”的不确定度计算CF(A) = CF(A)CF(B)=0，由A、AB计算B的不确定度CF(B) = max0, CF(A) CF(B,A),若CF(A)0，即A以CF(A)程度不发生，此时CF(B)=0，即A对B无影响。,2008-2009学年第1学期,第5.5节 确定性方法,5.5.3 不确定性的传播与更新,结果的“合成”例：A1B，A2B，CF(B)=0CF1(B) = max0, CF(A1) CF(B,A1)CF2(B) = max0, CF(A2) CF(B,A2),注意：当规则数大于2时，合成顺序影响结果!,2008-2009学年第1学期,第5.5节 确定性方法,“合成”
9、公式的一个改进,当CF1(B)CF2(B)0时，这时，合成顺序不再影响最后的结果；在80年代的EMYCIN中采用。,2008-2009学年第1学期,第5.5节 确定性方法,CF(B)的更新计算,已知CF(B) 0，当A通过规则AB作用到B，怎样计算CF(B|A)？符号CF(B|A)：A以CF(A)程度发生时B的可信度如果CF(A)=1，即肯定发生，,2008-2009学年第1学期,第5.5节 确定性方法,CF(B)的更新计算（续）,如果0CF(A)1，即可能发生，如果CF(A)0，即A以CF(A)程度不发生，则不考虑对B的影响。,2008-2009学年第1学期,第5.5节 确定性方法,例5.4
10、 已知R1:A1B1，CF(B1,A1)=0.8； R2:A2B1，CF(B1,A2)=0.5； R3:B3A1B2，CF(B2,B1A3)=0.8；CF(A1)=CF(A2)=CF(A3)=1；CF(B1)=CF(B2)=0。计算CF(B1)和CF(B2)。,解：CF(B1|A1)=CF(B1)+CF(B1,A1)(1CF(B1)=0.8CF(B1|A2)=CF(B1)+CF(B1,A2)(1CF(B1)=0.9CF(B1)的最后更新值为0.9CF(B1A3)=minCF(B1),CF(A3)=0.9CF(B2|B1A3)=CF(B2)+CF(B1A3)CF(B2,B1A3)(1CF(B2)
11、=0+0.90.8(10)=0.72,2008-2009学年第1学期,第5.5节 确定性方法,5.5.4 确定性方法的特点,规则的CF按概率定义，但推理规则却与概率理论无关；推理计算简单，易于理解和实现；CF值可能与后验概率不一致。例： P(B1)=0.8，P(B2)=0.2，P(B1|A)=0.9 P(B2|A)=0.8，则CF(B1,A)=0.5，F(B2,A)=0.75,2008-2009学年第1学期,第5.5节 确定性方法,若有推理链：概率理论中，一般有P(B|A)P(B|A)P(A|A)若SA、SA 、SB分别是得感冒、发烧、炎症的人群，当满足下图关系时，才有P(B|A)=P(B|A)P(A|A),问题是，发烧的人未必感冒，有炎症的人未必发烧（或感冒）,2008-2009学年第1学期,第5.5节 确定性方法,而确定性方法中， CF(B,A)=CF(B,A)CF(A,A)CF(A) = CF(A)CF(A,A)CF(B) = CF(A)CF(B,A) = CF(A)CF(A,A)CF(B,A) CF(B,A)=CF(B,A)CF(A,A)尽管如此，MYCIN仍是成功的，可能缘于推理链短、比较简单。有人证得: 确定性因子理论是标准概率理论的一个近似。,2008-2009学年第1学期,第5.5节 确定性方法,作业,5.10,
