《AI章不确定性推理实用教案》由会员分享,可在线阅读,更多相关《AI章不确定性推理实用教案(104页珍藏版)》请在金锄头文库上搜索。
1、11. 不确定性的表示2. 不确定性的匹配3. 组合证据(zhngj)的不确定性的计算4. 不确定性的更新5. 不确定性结论的合成6.1.2 不确定性推理(tul)的基本问题 第1页/共103页第一页,共104页。2(1)知识的不确定性的表示考虑(kol)因素:问题的描述能力推理中不确定性的计算含义:知识的确定性程度,或动态强度表示:用概率,0,1,0接近于假,1接近于真用可信度,-1,1,大于0接近于真小于0接近于假6.1.2 不确定性推理的基本问题(wnt)1. 不确定性的表示(2) 证据的非精确性表示 证据来源:初始证据,中间结论(jiln) 表示:用概率或可信度第2页/共103页第二页
2、,共104页。3含义 不确定的前提条件与不确定的事实匹配问题 前提是不确定的,事实也是不确定的方法 设计一个计算相似程度(chngd)的算法,给出相似的限度标志 相似度落在规定限度内为匹配,否则为不匹配6.1.2 不确定性推理的基本(jbn)问题2. 不确定性的匹配第3页/共103页第三页,共104页。4含义 知识的前提条件是多个证据(zhngj)的组合方法 最大最小方法,如合取取最小、析取取最大 概率方法,按概率6.1.2 不确定性推理的基本(jbn)问题3. 组合证据不确定性的计算第4页/共103页第四页,共104页。54. 非精确性的更新 主要问题 如何用证据的不确定性去更新结论的不确定
3、性 如何在推理中把初始证据的不确定性传递给最终结论 解决方法 对,不同(b tn)推理方法的解决方法不同(b tn) 对,不同(b tn)推理方法的解决方法基本相同,即把当 前结论及其不确定性作为新的结论放入综合数据库,依次 传递,直到得出最终结论5. 非精确性结论的合成 含义:多个不同(b tn)知识推出同一结论,且不确定性程度不同(b tn) 方法:视不同(b tn)推理方法而定6.1.2 不确定性推理的基本(jbn)问题4. 不确定性的更新 5. 不确定性结论的合成第5页/共103页第五页,共104页。6模糊推理基于概率的方法主观Bayes方法确定性理论证据理论数值方法非数值方法不确定性
4、推理框架推理语义网络推理常识推理6.1.2 不确定性推理(tul)的类型第6页/共103页第六页,共104页。76.1不确定性推理(tul)的基本概念6.2不确定性推理(tul)的概率论基础6.2.1样本空间和随机事件6.3.2事件的概率6.3.3全概率公式和Bayes公式6.3确定性理论6.4主观Bayes方法6.5证据理论6.6模糊推第6章 不确定性推理(tul) 第7页/共103页第七页,共104页。8概念在概率论中,把试验中每一个可能出现的结果称为试验的一个样本点,由全体样本点构成的集合称为样本空间。表示通常(tngchng),用D表示样本空间,d表示样本点。例子在掷币试验中,若用d1
5、表示硬币的正面向上,用d2表示硬币的反面向上,则该试验的样本空间为:D=d1,d26.2.1样本空间和随机(suj)事件1.样本空间第8页/共103页第八页,共104页。9概念由样本点构成的集合称为随机事件例子:在掷币试验中,若用A表示硬币正面向上这一事件,则有A=d1运算并事件事件A与事件B至少有一个发生(fshng)记为AB交事件事件A与事件B同时发生(fshng)记为AB互逆事件事件A与B之间满足“AB=,AB=D”6.2.1样本空间和随机(suj)事件2.随机(suj)事件第9页/共103页第九页,共104页。10频率的概念统计概率是通过某一事件出现的频率定义的。频率:fn(A)=m/
6、n式中,A所讨论的事件,n是试验的总次数,m是实验中A发生的次数统计概率的定义定义6.1在同一组条件下所进行(jnxng)大量重复试验时,如果事件A出现的频率总是在区间0,1上的一个确定常数p附近摆动,并且稳定于p,则称p为事件A的统计概率。即P(A)=p统计概率例子在掷币试验中,当掷币次数足够多时有fn(正面向上)=0.5则称正面向上的概率为0.5,即P(正面向上)=0.56.2.2事件的概率(gil)1.统计概率(gil)(1/2)第10页/共103页第十页,共104页。11统计概率的性质(1)对任一事件(shjin)A,有0P(A)=1(2)必然事件(shjin)D的概率P(D)=1,不
7、可能事件(shjin)的概率P()=0。(3)对任一事件(shjin)A,有P(A)=1-P(A)(4)设事件(shjin)A1,A2,Ak(kn)是两两互不相容的事件(shjin),即有AiAj=(ij),则(5)设A、B是两个事件(shjin),则P(AB)=P(A)+P(B)-P(AB)6.2.2事件(shjin)的概率1.统计概率(2/2)第11页/共103页第十一页,共104页。12概念定义6.2设A与B是两个随机事件,P(B)0,则称:P(A|B)=P(AB)/P(B)为在事件B发生的条件下事件A的条件概率。例子设样本空间D是扑克牌中的54张牌,即D=红桃A,方块A,黑桃A,梅花A
8、,红桃2,方块2,小王,大王,且有以下两个事件A=取花脸牌,B=取红桃牌,求在事件B发生的条件下事件A发生的概率P(A|B)。解:由于事件B已经发生,因此以下事件取到红桃A;取到红桃2;取到红桃3;取到红桃K中必有一个出现。而对事件A,在事件B发生的前提下,只有(zhyu)以下事件取到红桃J;取到红桃Q;取到红桃K中的一个发生时事件A才能发生。因此,在事件B发生的条件下事件A发生的概率是3/13。6.2.2事件(shjin)的概率2.条件概率第12页/共103页第十二页,共104页。13 定理6.1 设事件A1,A2,An满足: (1)任意两个事件都互不相容,即当ij时,有AiAj= (i=1
9、,2,n;j=1,2,n); (2) P(Ai)0 (i=1, 2, ,n); (3) D= 则对任何事件B由下式成立: 该公式称为全概率(gil)公式,它提供了一种计算P(B)的方法。 6.2.3全概率(gil)公式和Bayes公式1.全概率(gil)公式第13页/共103页第十三页,共104页。14定理6.2设事件A1,A2,An满足定理6.1规定的条件,则对任何事件B有下式成立:该定理称为Bayes定理,上式称为Bayes公式。其中,P(Ai)是事件Ai的先验概率,P(B|Ai)是在事件Ai发生条件下事件B的条件概率;P(Ai|B)是在事件B发生条件下事件Ai的条件概率。如果把全概率公式
10、代入Bayes公式,则有:即这是Bayes公式的另一种(yzhn)形式。Bayes定理给处了用逆概率P(B|Ai)求原概率P(Ai|B)的方法。6.2.3全概率(gil)公式和Bayes公式2.Bayes公式第14页/共103页第十四页,共104页。156.1不确定性推理的基本概念6.2不确定性推理的概率论基础6.3确定性理论6.3.1可信度的概念6.3.2CF模型6.4主观Bayes方法(fngf)6.5证据理论6.6模糊推理第6章 不确定性推理(tul) 第15页/共103页第十五页,共104页。16可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断,或者说是人们对某个事物或现
11、象为真的相信(xingxn)程度。例如,沈强昨天没来上课,理由是头疼。就此理由,只有以下两种可能:一是真的头疼了,理由为真;二是没有头疼,理由为假。但就听话人而言,因不能确切知道,就只能某种程度上相信(xingxn),即可信度。可信度具有一定的主观性,较难把握。但对某一特定领域,让该领域专家给出可信度还是可行的。6.3.1可信度的概念(ginin)第16页/共103页第十六页,共104页。176.3.2CF模型(mxng)1.知识不确定性的表示表示(biosh)形式:在C-F模型中,知识是用产生式规则表示(biosh)的,其一般形式为:IFETHENH(CF(H,E)其中,E是知识的前提条件;
12、H是知识的结论;CF(H,E)是知识的可信度。说明:(1)E可以是单一条件,也可以是复合条件。例如:E=(E1ORE2)ANDE3ANDE4(2)H可以是单一结论,也可以是多个结论(3)CF是知识的静态强度,CF(H,E)的取值为-1,1,表示(biosh)当E为真时,证据对H的支持程度,其值越大,支持程度越大。例子:IF发烧AND流鼻涕THEN感冒(0.8)表示(biosh)当某人确实有“发烧”及“流鼻涕”症状时,则有80%的把握是患了感冒。第17页/共103页第十七页,共104页。18可信度的定义(dngy)在CF模型中,把CF(H,E)定义(dngy)为CF(H,E)=MB(H,E)-M
13、D(H,E)式中MB称为信任增长度,MB(H,E)定义(dngy)为MD称为不信任增长度,MB(H,E)定义(dngy)为6.3.2CF模型2.可信度的定义(dngy)与性质(1/5)第18页/共103页第十八页,共104页。19MB和MD的关系当MB(H,E)0时,有P(H|E)P(H),即E的出现(chxin)增加了H的概率当MD(H,E)0时,有P(H|E)0,CF(H,E)=0,CF(H,E)0-=-=-=)()|()()|()()|()()|()(),(00)(1)()|(0),(),(HPEHPHPEHPHPEHPHPEHPHPEHMDHPHPEHPEHMBEHCF若若若6.3.2
14、CF模型(mxng)2.可信度的定义与性质(2/5)第19页/共103页第十九页,共104页。20可信度的性质(1)互斥性对同一证据,它不可能既增加对H的信任程度,又同时增加对H的不信任程度,这说明MB与MD是互斥的。即有如下互斥性:当MB(H,E)0时,MD(H,E)=0当MD(H,E)0时,MB(H,E)=0(2)值域(3)典型值当CF(H,E)=1时,有P(H/E)=1,它说明由于E所对应证据的出现使H为真。此时,MB(H,E)=1,MD(H,E)=0。当CF(H,E)=-1时,有P(H/E)=0,说明由于E所对应证据的出现使H为假。此时,MB(H,E)=0,MD(H,E)=1。当CF(
15、H,E)=0时,有MB(H,E)=0、MD(H,E)=0。前者(qinzh)说明E所对应证据的出现不证实H;后者说明E所对应证据的出现不否认H。6.3.2CF模型2.可信度的定义(dngy)与性质(3/5)第20页/共103页第二十页,共104页。21(4)对H的信任(xnrn)增长度等于对非H的不信任(xnrn)增长度根据MB、MD的定义及概率的性质有:再根据CF的定义和MB、MD的互斥性有CF(H,E)+CF(H,E)=(MB(H,E)-MD(H,E)+(MB(H,E)-MD(H,E)=(MB(H,E)-0)+(0-MD(H,E)(由互斥性)=MB(H,E)-MD(H,E)=0它说明:(1
16、)对H的信任(xnrn)增长度等于对非H的不信任(xnrn)增长度(2)对H的可信度与非H的可信度之和等于0(3)可信度不是概率,不满足P(H)+P(H)=1和0P(H),P(H)16.3.2CF模型2.可信度的定义(dngy)与性质(4/5)第21页/共103页第二十一页,共104页。22(5)对同一前提E,若支持若干个不同的结论Hi(i=1,2,n),则因此,如果发现专家(zhunji)给出的知识有如下情况CF(H1,E)=0.7,CF(H2,E)=0.4则因0.7+0.4=1.11为非法,应进行调整或规范化。6.3.2CF模型(mxng)2.可信度的定义与性质(5/5)第22页/共103
17、页第二十二页,共104页。23不确定性的表示:证据的不确定性也是用可信度来表示的,其取值范围也为-1,1若E为初始证据,其值由用户给出。若E为中间(zhngjin)结论,其值可通过计算得到。不确定性的含义:对E,其可信度CF(E)的含义如下:CF(E)=1,证据E肯定它为真CF(E)=-1,证据E肯定它为假CF(E)=0,对证据E一无所知0CF(E)1,证据E以CF(E)程度为真-1CF(E)0,证据E以CF(E)程度为假6.3.2CF模型3.证据(zhngj)不确定性的表示第23页/共103页第二十三页,共104页。244.否定证据不确定性的计算CF(E)=-CF(E)5.组合证据不确定性的
18、计算对证据的组合形式可分为“合取”与“析取”两种基本(jbn)情况。合取当组合证据是多个单一证据的组合时,即E=E1ANDE2ANDANDEn时,若已知CF(E1),CF(E2),CF(En),则CF(E)=minCF(E1),CF(E2),CF(En)析取当组合证据是多个单一证据的析取时,即E=E1ORE2OROREn时,若已知CF(E1),CF(E2),CF(En),则CF(E)=maxCF(E1),CF(E2),CF(En)6.3.2CF模型4、5.否定、不确定(qudng)证据的计算第24页/共103页第二十四页,共104页。25CF模型中的不确定性推理(tul)实际上是从不确定的初始
19、证据出发,不断运用相关的不确性知识,逐步推出最终结论和该结论可信度的过程。而每一次运用不确定性知识,都需要由证据的不确定性和知识的不确定性去计算结论的不确定性。不确定性的更新公式CF(H)=CF(H,E)max0,CF(E)若CF(E)1时,O(H|E)O(H),说明E支持H,LS越大,O(H|E)比O(H)大得越多 , 即 LS越 大 , E对 H的 支 持 越 充 分 。 当 LS时 , O(H|E), 即P(H/E)1,表示由于E的存在,将导致H为真。当LS=1时,O(H|E)=O(H),说明E对H没有影响。当LS1时,O(H|E)1时,O(H|E)O(H),说明E支持H,即由于E的不出
20、现,增大了H为真的概率。并且(bngqi),LN得越大,P(H|E)就越大,即E对H为真的支持就越强。当LN时,O(H|E),即P(H|E)1,表示由于E的存在,将导致H为真。当LN=1时,O(H|E)=O(H),说明E对H没有影响。当LN1时,O(H|E)1且LN1LS1LS=LN=1证:LS1P(E|H)/P(E|H)1P(E|H)P(E|H)1-P(E|H)1-P(E|H)P(E|H)P(E|H)P(E|H)/P(E|H)1LNP(E),使用(shyng)(6.8)式的后半部分,得P(H1|S1)为:第43页/共103页第四十三页,共104页。44(2)计算O(H1|(S1ANDS2)由
21、于r2的前件(qinjin)是E1、E2的合取关系,且已知P(E1|S1)=0.76,P(E2|S2)=0.68,即P(E2|S2)P(E2),还使用(shyng)(6.8)式的后半部分,得P(H1|S2)为:第44页/共103页第四十四页,共104页。45(3)计算(jsun)O(H1|S1,S2)先将H1的先验概率转换为先验几率再根据合成公式(gngsh)计算H1的后验几率 然后(rnhu)再将后验几率转换为后验概率第45页/共103页第四十五页,共104页。46(4)计算(jsun)P(H2|S1,S2)对r3,H1相当于已知事实,H2为结论。将H2的先验概率P(H2)更新为在H1下的后
22、验概率P(H2|H1)由于P(H1|S1,S2)=0.321P(H1),仍使用(6.8)式的后半部分,得到(ddo)在当前观察S1、S2下H2的后验概率P(H2|S1,S2)可以看出,H2的先验概率是0.01,通过r1、r2、r3及初始证据进行推理,最后(zuhu)推出H2的后验概率为0.177,相当于概率增加了16倍多。主观Bayes方法的主要优点是理论模型精确,灵敏度高,不仅考虑了证据间的关系,而且考虑了证据存在与否对假设的影响,因此是一种较好的方法。其主要缺点是所需要的主观概率太多,专家不易给出。第46页/共103页第四十六页,共104页。476.1不确定性推理的基本概念6.2不确定性推
23、理的概率论基础6.3确定性理论6.4主观Bayes方法6.5证据理论证据理论是由德普斯特(A.P.Dempster)首先提出,并有沙佛(G.Shafer)进一步发展起来的用于处理不确定性的一种理论,也称DS(Dempster-Shafer)理论。它将概率论中的单点赋值扩展为集合赋值,可以处理由“不知道”所引起的不确定性,比主观Bayes方法有着更大的灵活性。在DS理论中,可以分别用信任函数、似然函数及类概率函数来描述知识的精确(jngqu)信任度、不可驳斥信任度及估计信任度。6.5.1DS理论的形式描述6.5.2证据理论的推理模型6.5.3推理实例6.6模糊推理第6章 不确定性推理(tul)
24、第47页/共103页第四十七页,共104页。486.5.1DS理论的形式描述1.概率(gil)分配函数(1/3)DS理论处理的是集合上的不确定性问题,为此需要先建立(jinl)命题与集合之间的一一对应关系,以把命题的不确定性问题转化为集合的不确定性问题,。设为样本空间,且中的每个元素都相互独立,则由的所有子集构成的幂集记为2。当中的元素个数为N时,则其幂集2的元素个数为2N,且其中的每一个元素都对应于一个关于x取值情况的命题。例6.4设=红,黄,白,求的幂集2。解:的幂集可包括如下子集:A0=,A1=红,A2=黄,A3=白,A4=红,黄,A5=红,白,A6=黄,白,A7=红,黄,白其中,表示空
25、集,空集也可表示为。上述子集的个数正好是23=8第48页/共103页第四十八页,共104页。496.5.1DS理论的形式(xngsh)描述1.概率分配函数(2/3) 定义6.3 设函数m:20,1,且满足则称m是2上的概率分配函数,m(A)称为A的基本概率数。 对例6.4 ,若定义2上的一个基本函数m: m( , 红, 黄, 白, 红,黄, 红,白, 黄,白, 红,黄,白) =(0, 0.3, 0, 0.1, 0.2, 0.2, 0, 0.2)其中,(0, 0.3, 0, 0.1, 0.2, 0.2, 0, 0.2)分别(fnbi)是幂集2中各个子集的基本概率数。 显然m满足概率分配函数的定义
26、。第49页/共103页第四十九页,共104页。506.5.1DS理论的形式描述1.概率分配(fnpi)函数(3/3)对概率分配函数的说明(1)概率分配函数的作用是把的任一子集(zj)映射为0,1上的一个数m(A)当A,且A由单个元素组成时,则m(A)表示对A的精确信任度;当A、A,且A由多个元素组成时,m(A)也表示对A的精确信任度,但却不知道这部分信任度该分给A中哪些元素;当A=时,则m(A)也表示不知道该如何分配的部分。例如,对上例所给出的有限集及基本函数m,当A=红时,有m(A)=0.3,它表示对命题“x是红色”的精确信任度为0.3。B=红,黄时,有m(B)=0.2,它表示对命题“x或者
27、是红色,或者是黄色”的精确信任度为0.2,却不知道该把这0.2分给红还是分给黄。C=红,黄,白时,有m()=0.2,表示不知道该对这0.2如何分配,但知道它不属于红,就一定属于黄或白。(2)概率分配函数不是概率例如,在例6.5中,m符合概率分配函数的定义,但m(红)+m(黄)+m(白)=0.3+0+0.1=0.41因此m不是概率,因为概率P要求:P(红)+P(黄)+P(白)=1第50页/共103页第五十页,共104页。51定义(dngy)6.4信任函数Bel:20,1为其中,2是的幂集。Bel又称为下限函数,Bel(A)表示对A的总的信任度。例如,对例6.5有Bel(红)=0.3Bel(红,白
28、)=m(红)+m(白)+m(红,白)=0.3+0.1+0.2=0.6根据(gnj)定义还可以得到:例如,对例6.5有Bel()=m()=0Bel(红,黄,白)=m()+m(红)+m(黄)+m(白)+m(红,黄)+(红,白)+(黄,白)+(红,黄,白)=0+0.3+0+0.1+0.2+0.2+0+0.2=16.5.1D-S理论的形式(xngsh)描述2.信任函数第51页/共103页第五十一页,共104页。526.5.1D-S理论(lln)的形式描述3.似然函数(1/2)定义6.5似然函数Pl:20,1为Pl(A)=1-Bel(A)对所有的A其中,A=-A。似然函数又称为不可驳斥函数或上限函数。由
29、于(yuy)Bel(A)表示对A的信任度,即A为假的信任度,因此,Pl(A)表示对A为非假的信任度。以例6.5为例:Pl(红)=1-Bel(红)=1-Bel(黄,白)=1-(m黄+m白+m黄,白)=1-(0+0.1+0)=0.9这里的0.9是“红”为非假的信任度。由于(yuy)“红”为真的精确信任度为0.3,而剩下的0.9-0.3=0.6,则是知道非假,但却不能肯定为真的那部分。再如:Pl(黄,白)=1-Bel(黄,白)=1-Bel(红)=1-0.3=0.7这里的0.7的含义与上面分析类似。第52页/共103页第五十二页,共104页。536.5.1D-S理论的形式(xngsh)描述3.似然函数
30、(2/2) 似然函数的另外(ln wi)一种计算办法: 由于可见,Pl(红),Pl(黄,白)亦可分别用下式计算: 如果把它推广到一般可得公式: 其证明见教材第53页/共103页第五十三页,共104页。546.5.1D-S理论的形式描述4.信任函数(hnsh)与似然函数(hnsh)的关系(1/3)信任函数和似然函数之间存在关系:Pl(A)Bel(A)证明(zhngmng):由于Bel(A)和Pl(A)分别表示A为真的信任度和A为非假的信任度,因此,可分别称Bel(A)和Pl(A)为对A信任程度的下限和上限,记为:ABel(A),Pl(A)第54页/共103页第五十四页,共104页。55例如,在前
31、面的例子中Bel(红)=0.3Pl(红)=0.9即:红0.3,0.9它表示对红的精确(jngqu)信任度为0.3,不可驳斥部分为0.9,肯定不是红的为0.1。同理可以求得黄0,0.4白0.1,0.5红,黄0.5,0.9红,白0.6,1黄,白0.1,0.7红,黄,白1,10,06.5.1D-S理论的形式(xngsh)描述4.信任函数与似然函数的关系(2/3)第55页/共103页第五十五页,共104页。56一些典型值的含义:A0,1:说明对A一无所知(ywsuzh)。其中,Bel(A)=0,说明对A无信任;再由Pl(A)=1-Bel(A)=1,可知Bel(A)=0,说明对A也没有信任。A0,0:说
32、明A为假。即Bel(A)=0,Bel(A)=1。A1,1:说明A为真。即Bel(A)=1,Bel(A)=0。A0.6,1:说明对A部分信任。即Bel(A)=0.6,Bel(A)=0。A0,0.4:说明对A部分信任。即Bel(A)=0,Bel(A)=0.6。A0.3,0.9:说明对A和A都有部分信任。其中,Bel(A)=0.3,说明对A为真有0.3的信任度;Bel(A)=1-0.9=0.1,说明对A为假有0.1的信任度。因此,A0.3,0.9表示对A为真的信任度比A为假的信任度稍高一些。6.5.1D-S理论(lln)的形式描述4.信任函数与似然函数的关系(3/3)第56页/共103页第五十六页,
33、共104页。576.5.1D-S理论(lln)的形式描述5.概率分配函数的正交和(1/3)当证据来源不同时,可能会得到不同的概率分配函数。例如,对=红,黄假设从不同知识源得到的两个概率分配函数分别为:m1(,红,黄,红,黄)=(0,0.4,0.5,0.1)m2(,红,黄,红,黄)=(0,0.6,0.2,0.2)可采用德普斯特提出的求正交和的方法(fngf)来组合这些函数定义6.6设m1和m2是两个不同的概率分配函数,则其正交和m=m1m2满足其中:如果K0,则正交和也是一个概率分配函数;如果K=0,则不存在正交和m,称m1与m2矛盾。第57页/共103页第五十七页,共104页。586.5.1D
34、-S理论的形式描述5.概率(gil)分配函数的正交和(2/3)例6.5设=a,b,且从不同(btn)知识源得到的概率分配函数分别为m1(,a,b,a,b)=(0,0.3,0.5,0.2)m2(,a,b,a,b)=(0,0.6,0.3,0.1)求正交和m=m1m2。解:先求K第58页/共103页第五十八页,共104页。596.5.1D-S理论的形式描述5.概率(gil)分配函数的正交和(3/3)再求m(,a,b,a,b),由于同理可求得m(b)=0.43m(a,b)=0.03故有m(,a,b,a,b)=0,0.54,0.43,0.03对于多个概率分配函数(hnsh)的组合,方法类似。第59页/共
35、103页第五十九页,共104页。606.5.2证据(zhngj)理论的推理模型Bel(A)和Pl(A)分别表示命题A的信任度的下限和上限,同时也可用来表示知识强度的下限和上限。从信任函数和似然函数的定义看,它们都是建立在概率分配函数之上的,可见不同的概率分配函数将得到不同的推理模型。下面(ximian)就给出一个特殊的概率分配函数,并在其上建立推理模型。第60页/共103页第六十页,共104页。616.5.2证据理论的推理模型1.一个特殊的概率分配(fnpi)函数(1/4)设=s1,s2,sn,m为定义在2上的概率分配函数,且m满足其中, A 表示命题A所对应的集合中的元素个数。该概率分配函数
36、的特殊性:只有当子集中的元素个数为1时,其概率分配数才有可能大于0;当子集中有多个或0个元素,且不等于全集(qunj)时,其概率分配数均为0;全集(qunj)的概率分配数按(3)计算。第61页/共103页第六十一页,共104页。626.5.2证据理论(lln)的推理模型1.一个特殊的概率分配函数(2/4)例6.6设=红,黄,白,有如下概率分配函数(hnsh)m(,红,黄,白,红,黄,白)=(0,0.6,0.2,0.1,0.1)其中:m(红,黄)=m(红,白)=m(黄,白)=0,可见,m符合上述概率分配函数(hnsh)的定义。定义6.8对任何命题A,其信任函数(hnsh)为第62页/共103页第
37、六十二页,共104页。636.5.2证据理论(lln)的推理模型1.一个特殊的概率分配函数(3/4) 定义6.9 对任何命题A ,其似然函数为 可以看出,对任意命题A 和B 均有: Pl(A)-Bel(A)=Pl(B)-Bel(B)= m()它表示对A(或B )不知道(zh do)的程度。第63页/共103页第六十三页,共104页。646.5.2证据理论的推理模型1.一个特殊(tsh)的概率分配函数(4/4)例6.7设=红,黄,白,概率(gil)分配函数m(,红,黄,白,红,黄,白)=(0,0.6,0.2,0.1,0.1)A=红,黄,求m()、Bel(A)和Pl(A)的值。解:m()=1-m(
38、红)+m(黄)+m(白)=1-(0.6+0.2+0.1)=0.1Bel(红,黄)=m(红)+m(黄)=0.6+0.2=0.8Pl(红,黄)=m()+Bel(红,黄)=0.1+0.8=0.9或Pl(红,黄)=1-Bel(红,黄)=1-Bel(白)=1-0.1=0.9定义6.10设m1和m2是2上的基本概率(gil)分配函数,它们的正交和定义为其中,第64页/共103页第六十四页,共104页。65类概率函数的定义(dngy)定义(dngy)6.11设为有限域,对任何命题A,命题A的类概率函数为其中(qzhng)(qzhng),|A|A|和|分别是A A及中元素的个数。 类概率函数f(A)的性质(x
39、ngzh)证明:6.5.2证据理论的推理模型2.类概率函数(1/4)第65页/共103页第六十五页,共104页。66(2)对任何(rnh),有Bel(A)f(A)Pl(A)证明(zhngmng):6.5.2证据(zhngj)理论的推理模型2.类概率函数(2/4)第66页/共103页第六十六页,共104页。67(3)对任何(rnh),有f(A)=1-f(A)证明(zhngmng):6.5.2证据(zhngj)理论的推理模型2.类概率函数(3/4)第67页/共103页第六十七页,共104页。68(1)f()=0(2)f()=1(3)对任何(rnh),有0f(A)1推论(tuln)例子例6.8设=红
40、,黄,白,概率(gil)分配函数m(,红,黄,白,红,黄,白)=(0,0.6,0.2,0.1,0.1)若A=红,黄,求f(A)的值。解:6.5.2证据理论的推理模型2.类概率函数(4/4)第68页/共103页第六十八页,共104页。696.5.2证据理论(lln)的推理模型3.知识不确定性的表示表示形式:IFETHENH=h1,h2,hnCF=c1,c2,cn其中:E为前提条件,它既可以(ky)是简单条件,也可以(ky)是用合取或析取词连接起来的复合条件;H是结论,它用样本空间中的子集表示,h1,h2,hn是该子集中的元素;CF是可信度因子,用集合形式表示。该集合中的元素c1,c2,cn用来指
41、出h1,h2,hn的可信度,ci与hi一一对应。并且,ci应满足如下条件:第69页/共103页第六十九页,共104页。70定义6.12设A是规则条件部分的命题,E是外部(wib)输入的证据和已证实的命题,在证据E的条件下,命题A与证据E的匹配程度为定义6.13条件部分命题A的确定性为CER(A)=MD(A/E)f(A)其中(qzhng)f(A)为类概率函数。由于f(A)0,1,因此CER(A)0,16.5.2证据(zhngj)理论的推理模型4.证据(zhngj)不确定性的表示否则中的所有元素都出现在如果01) /(EAEAMD=第70页/共103页第七十页,共104页。71当组合(zh)证据是
42、多个证据的合取时:E=E1ANDE2ANDANDEn则CER(E)=minCER(E1),CER(E2),CER(En)当组合(zh)证据是多个证据的析取时:E=E1ORE2OROREn则CER(E)=maxCER(E1),CER(E2),.CER(En)6.5.2证据理论(lln)的推理模型5.组合证据不确定性的表示第71页/共103页第七十一页,共104页。72(1)求H的概率(gil)分配函数如果(rgu)有两条或多条知识支持同一结论H,例:IFETHENH=h1,h2,hnCF=c11,c12,c1nIFETHENH=h1,h2,hnCF=c21,c22,c2n则按正交和求CER(H)
43、,即先求出:m1=m(h1,h2,hn)m2=m(h1,h2,hn)然后再用公式求m1和m2的正交和,最后求得H的m。设有知识(zhshi)IFETHENH=h1,h2,hnCF=c1,c2,cn则求结论H的确定性CER(H)的方法如下:6.5.2证据理论的推理模型6.不确定性的更新(1/2)第72页/共103页第七十二页,共104页。73(2)求Bel(H)、Pl(H)及f(H)6.5.2证据理论(lln)的推理模型6.不确定性的更新(2/2)(3)求H的确定性CER(H)按公式(gngsh)CER(H)=MD(H/E)f(H)计算结论H确定性。第73页/共103页第七十三页,共104页。7
44、46.5.3推理(tul)实例例6.9(1/8)例6.10设有如下规则(guz):r1:IFE1ANDE2THENA=a1,a2CF=0.3,0.5r2:IFE3AND(E4ORE5)THENB=b1CF=0.7r3:IFATHENH=h1,h2,h3CF=0.1,0.5,0.3r4:IFBTHENH=h1,h2,h3CF=0.4,0.2,0.1已知用户对初始证据给出的确定性为:CER(E1)=0.8CER(E2)=0.6CER(E3)=0.9CER(E4)=0.5CER(E5)=0.7并假定中的元素个数 =10求:CER(H)=?第74页/共103页第七十四页,共104页。756.5.3推理
45、(tul)实例例6.9(2/8)解:由给定知识形成的推理(tul)网络为:HAE1E2BE3E4E5=h1,h2,h3=b1=a1,a2第75页/共103页第七十五页,共104页。76(1)求CER(A)CER(E1ANDE2)=minCER(E1),CER(E2)=min0.8,0.6=0.6m(a1,a2)=0.60.3,0.60.5=0.18,0.3Bel(A)=m(a1)+m(a2)=0.18+0.3=0.48Pl(A)=1-Bel(A)=1-0=1f(A)=Bel(A)+|A|/|*Pl(A)-Bel(A)=0.48+2/10*1-0.48=0.584CER(A)=MD(A/E)f(
46、A)=0.5846.5.3推理(tul)实例例6.9(3/8)第76页/共103页第七十六页,共104页。77(2)求CER(B)CER(E3AND(E4ORE5)=minCER(E3),maxCER(E4),CER(E5)=min0.9,max0.5,0.7=min0.9,0.7=0.7m(b1)=0.70.7=0.49Bel(B)=m(b1)=0.49Pl(B)=1-Bel(B)=1-0=1F(B)=Bel(B)+|B|/|*Pl(B)-Bel(B)=0.49+1/10*1-0.49=0.541CER(B)=MD(B/E)f(B)=0.5416.5.3推理(tul)实例例6.9(4/8)第
47、77页/共103页第七十七页,共104页。78(3)求CER(H)由r3可得m1(h1,h2,h3)=CER(A)0.1,CER(A)0.5,CER(A)0.3=0.5840.1,0.5840.5,0.5840.3=0.058,0.292,0.175m1()=1-m1(h1)+m1(h2)+m1(h3)=1-0.058+0.292+0.175=0.475再由r4可得m2(h1,h2,h3)=CER(B)0.4,CER(B)0.2,CER(B)0.1=0.5410.4,0.5410.2,0.5410.1=0.216,0.108,0.054m2()=1-m2(h1)+m2(h2)+m2(h3)=1
48、-0.216+0.108+0.054=0.6226.5.3推理(tul)实例例6.9(5/8)第78页/共103页第七十八页,共104页。79求正交和m=m1 m2K=m1()m2()+m1(h1)m2(h1)+m1(h1)m2()+m1()m2(h1)+m1(h2)m2(h2)+m1(h2)m2()+m1()m2(h2)+m1(h3)m2(h3)+m1(h3)m2()+m1()m2(h3)=0.4750.622+0.0580.216+0.0580.622+0.4750.216+0.2920.108+0.2920.622+0.4750.108+0.1750.054+0.1750.622+0.4
49、750.054=0.8556.5.3推理(tul)实例例6.9(6/8)第79页/共103页第七十九页,共104页。80同理可得:m()=1-m(h1)+m(h2)+m(h3)=1-0.178+0.309+0.168=0.3456.5.3推理(tul)实例例6.9(7/8)第80页/共103页第八十页,共104页。816.5.3推理(tul)实例例6.9(8/8)再根据m可得Bel(H)=m(h1)+m(h2)+m(h3)=0.178+0.309+0.168=0.655Pl(H)=m()+Bel(H)=0.345+0.655=1CER(H)=MD(H/E)f(H)=0.759优点:能处理由“不
50、知道(zhdo)”所引起的非精确性;并且由于辨别框(样本空间)的子集可以是多个元素的集合,这样更有利于领域专家在不同层次上进行知识表示。缺点:要求辨别框中的元素满足互斥条件,这在实际系统中不易实现;并且,需要给出的概率分配数太多,计算比较复杂。第81页/共103页第八十一页,共104页。826.1不确定性推理的基本概念6.2不确定性推理的概率论基础6.3确定性理论6.4主观Bayes方法(fngf)6.5证据理论6.6模糊推理在模糊计算的基础上,重点讨论模糊推理问题。6.6.1模糊知识表示6.6.2模糊概念的匹配6.6.3模糊推理第6章 不确定性推理(tul) 第82页/共103页第八十二页,
51、共104页。83概念:用自然语言中的词或句子表示的变量(binling)例如:变量(binling)“年龄”在普通集合中为数字变量(binling)u0,150,而在模糊集和中可使用语言变量(binling),该语言变量(binling)的取值可以是年轻、很年轻、不很年轻、老、很老、不很老等。这些值可看作是论域U=0,150上模糊集的集合名。6.6.1模糊知识(zhshi)表示1.语言变量第83页/共103页第八十三页,共104页。846.6.1模糊知识(zhshi)表示2.模糊命题的描述(1/)模糊谓词(wic)设xU,F为模糊谓词(wic),即U中的一个模糊关系,则模糊命题可表示为xisF
52、其中的模糊谓词(wic)F可以是大、小、年轻、年老、冷、暖、长、短等。模糊量词模糊逻辑中使用的模糊量词,如极少、很少、几个、少数、多数、大多数、几乎所有等。这些模糊量词可以很方便地描述类似于下面的命题:大多数成绩好的学生学习都很刻苦。很少有成绩好的学生特别贪玩。模糊概率、模糊可能性和模糊真值设为模糊概率,为模糊可能性,为模糊真值,则对命题还可以附加概率限定、可能性限定和真值限定:(xisF)is(xisF)is(xisF)is其中,可以是“或许”、“必须”等;可以是“非常可能”、“很不可能”等;可以是“非常真”、“有些假”等。例如,“常青很可能是年轻的”可表示为(Age(Changqing)i
53、syoung)islikely第84页/共103页第八十四页,共104页。85模糊修饰语设m是模糊修饰语,x是变量,F谓模糊谓词,则模糊命题可表示为xismF,模糊修饰语也称为程度词,常用的程度词有“很”、“非常”、“有些”、“绝对”等。模糊修饰语的表达主要通过以下四种(szhn)运算实现:求补表示否定,如“不”、“非”等,其隶属函数的表示为 集中 表示“很”、“非常”等,其效果是减少(jinsho)(jinsho)隶属函数的值: 扩张表示(biosh)“有些”、“稍微”等,其效果是增加隶属函数的值:6.6.1模糊知识表示2.模糊命题的描述(2/3)第85页/共103页第八十五页,共104页。
54、86 加强对比 表示“明确”、“确定”等,其效果是增加0.5以上隶属函数(hnsh)的值,减少0.5以下隶属函数(hnsh)的值: 则“非常(fichng)(fichng)真”、“有些真”、“非常(fichng)(fichng)假”、“有些假”可定义为 在以上4种运算中,集中与扩张用的较多。例如(lr),语言变量“真实性”取值“真”和“假”的隶属函数定义为:6.6.1模糊知识表示2.模糊命题的描述(3/3)第86页/共103页第八十六页,共104页。87在扎德的推理模型中,产生式规则的表示形式是IFxisFTHENyisG其中:x和y是变量(binling),表示对象;F和G分别是论域U和V上
55、的模糊集,表示概念。6.6.1模糊(mhu)知识表示3.模糊(mhu)知识的表示第87页/共103页第八十七页,共104页。88连续论域:如果论域U是实数(shsh)域上的某个闭区间a,b,则海明距离为 语义距离用于刻划两个模糊概念之间的差异。这里主要讨论海明距离。 离散论域:设U=u1, u2, , un是一个离散有限论域,F和G分别(fnbi)是论域U上的两个模糊概念的模糊集,则F和G的海明距离定义为 6.6.2模糊(mhu)概念的匹配1.语义距离例6.17设论域U=-10,0,10,20,30表示温度,模糊集F=0.8/-10+0.5/0+0.1/10G=0.9/-10+0.6/0+0.
56、2/10分别表示“冷”和“比较冷”,则d(F,G)=0.2(|0.8-0.9|+|0.5-0.6|+|0.1-0.2|)=0.20.3=0.06即F和G的海明距离为0.06。第88页/共103页第八十八页,共104页。896.6.2模糊(mhu)概念的匹配2.贴近度设F和G分别是论域U=u1,u2,un上的两个模糊(mhu)概念的模糊(mhu)集,则它们的贴近度定义为(F,G)=(1/2)(FG+(1-F G)其中:称FG为内积,F G为外积(wij)。例6.18设论域U及其上的模糊集F和G如上例所示,则FG=0.80.90.50.60.10.20000=0.80.50.100=0.8F G=
57、(0.80.9)(0.50.6)(0.10.2)(00)(00)=0.90.60.200=0(F,G)=0.5(0.8+(1-0)=0.51.8=0.9即F和G的贴近度为0.9。第89页/共103页第八十九页,共104页。906.6.3模糊推理模糊推理实际上是按照给定(idn)的推理模式,通过模糊集合与模糊关系的合成来实现的。主要讨论:模糊关系的构造模糊推理的基本方法第90页/共103页第九十页,共104页。91模糊关系RmRm是由扎德提出的一种构造(guzo)模糊关系的方法。设F和G分别是论域U和V上的两个模糊集,则Rm定义为其中,号表示模糊集的笛卡尔乘积。例6.19设U=V=1,2,3,F
58、和G分别(fnbi)是U和V上的两个模糊集,且F=1/1+0.6/2+0.1/3,G=0.1/1+0.6/2+1/3,求UV上的Rm解:6.6.3模糊推理1.模糊关系(gunx)的构造(1/3)如:Rm(2,3)=(0.61)(1-0.6)=0.60.4=0.6第91页/共103页第九十一页,共104页。92模糊关系RcRc是由麦姆德尼(Mamdani)提出的一种(yzhn)构造模糊关系的方法。设F和G分别是论域U和V上的两个模糊集,则Rc义为例:对例6.12所给出的模糊集F=1/1+0.6/2+0.1/3,G=0.1/1+0.6/2+1/3其Rc为如Rc(3,2): 6.6.3模糊推理1.模
59、糊关系(gunx)的构造(2/3)第92页/共103页第九十二页,共104页。93模糊关系RgRg是米祖莫托(Mizumoto)提出的一种构造模糊关系的方法。设F和G分别(fnbi)是论域U和V上的两个模糊集,则Rg定义为其中(qzhng)例:对例6.12所给出的模糊集F=1/1+0.6/2+0.1/3,G=0.1/1+0.6/2+1/3其Rg为6.6.3模糊推理1.模糊关系(gunx)的构造(3/3)第93页/共103页第九十三页,共104页。94模糊假言推理设F和G分别是U和V上的两个模糊集,且有知识(zhshi)IFxisFTHENyisG若有U上的一个模糊集F,且F可以和F匹配,则可以
60、推出yisG,且G是V上的一个模糊集。这种推理模式称为模糊假言推理,其表示形式为:知识(zhshi):IFxisFTHENyisG证据:xisF-结论:yisG6.6.3模糊推理2.模糊推理的基本(jbn)方法(1/7)在这种推理模式下,模糊(mhu)知识IFxisFTHENyisG表示在F与G之间存在着确定的因果关系,设此因果关系为R。则有G=FR其中的模糊(mhu)关系R,可以是Rm、Rc或Rg中的任何一种。第94页/共103页第九十四页,共104页。95例6.13对例4.19所给出的F、G,以及所求出的Rm,设有已知事实:xis较小,并设“较小”的模糊(mhu)集为:较小=1/1+0.7
61、/2+0.2/3,求在此已知事实下的模糊(mhu)结论。解:本例的模糊(mhu)关系Rm已在例6.12中求出,设已知模糊(mhu)事实“较小”为F,F与Rm的合成即为所求结论G。=0.4,0.6,1即所求出的模糊(mhu)结论G为G=0.4/1+0.6/2+1/36.6.3模糊推理2.模糊推理的基本(jbn)方法(2/7)第95页/共103页第九十五页,共104页。96模糊拒取式推理设F和G分别是U和V上的两个模糊集,且有知识IFxisFTHENyisG若有V上的一个模糊集G,且G可以和G匹配(ppi),则可以推出xisF,且F是U上的一个模糊集。这种推理模式称为模糊拒取式推理,其表示形式为:
62、知识:IFxisFTHENyisG证据:yisG-结论:xisF在这种推理模式下,模糊知识IFxisFTHENyisG也表示在F与G之间存在着确定的因果关系,设此因果关系为R,则有F=RG其中的模糊关系R,可以是Rm、Rc或Rg中的任何一种。6.6.3模糊推理2.模糊推理的基本(jbn)方法(3/7)第96页/共103页第九十六页,共104页。97例6.14设F、G如例4.19所示,已知事实为yis较大且“较大”的模糊集为:较大=0.2/1+0.7/2+1/3,若已知事实与G匹配,以模糊关系Rc为例,在此已知事实下推出F。解:本例的模糊关系Rc已在前面求出,设模糊概念(ginin)“较大”为G
63、,则Rc与G的合成即为所求的F。即所求出的F为G=1/1+0.6/2+0.1/3 6.6.3模糊推理2.模糊推理的基本(jbn)方法(4/7)第97页/共103页第九十七页,共104页。98模糊假言三段论推理(tul)设F、G、H分别是U、V、W上的3个模糊集,且由知识IFxisFTHENyisGIFyisGTHENzisH则可推出:IFxisFTHENzisH这种推理(tul)模式称为模糊假言三段论推理(tul)。它可表示为:知识:IFxisFTHENyisG证据:IFyisGTHENzisH-结论:IFxisFTHENzisH6.6.3模糊推理2.模糊推理的基本(jbn)方法(5/7)第9
64、8页/共103页第九十八页,共104页。99在模糊假言三段论推理模式下,模糊知识r1:IFxisFTHENyisG表示在F与G之间存在着确定(qudng)的因果关系,设此因果关系为R1。模糊知识r2:IFyisGTHENzisH表示在G与H之间存在着确定(qudng)的因果关系,设此因果关系为R2。若模糊假言三段论成立,则模糊结论r3:IFxisFTHENzisH的模糊关系R3可由R1与R2的合成得到。即R3=R1R2这里的关系R1、R2、R3都可以是前面所讨论过的Rm、Rc、Rg中的任何一种。6.6.3模糊推理2.模糊推理的基本(jbn)方法(6/7)第99页/共103页第九十九页,共104
65、页。100例6.15设U=W=V=1,2,3,E=1/1+0.6/2+0.2/3,F=0.8/1+0.5+0.1/3,G=0.2/1+0.6+1/3。按Rg求EFG上的关系(gunx)R。解:先求EF上的关系(gunx)R1再求EG上的关系(gunx)R26.6.3模糊推理2.模糊推理的基本(jbn)方法(7/7)最后求EFG上的关系R 第100页/共103页第一百页,共104页。101作 业6.8设有如下一组推理规则:r1:IFE1THENE2(0.6)r2:IFE2ANDE3THENE4(0.7)r3:IFE4THENH(0.8)r4:IFE5THENH(0.9)且已知CF(E1)=0.5
66、,CF(E2)=0.6,CF(E3)=0.7。求CF(H)=?6.15设U=V=1,2,3,4,5且有如下推理规则:IFxis少THENyis多其中,“少”与“多”分别(fnbi)是U与V上的模糊集,设少=0.9/1+0.7/2+0.4/3多=0.3/3+0.7/4+0.9/5已知事实为xis较少“较少”的模糊集为较少=0.8/1+0.5/2+0.2/3请用模糊关系Rm求出模糊结论。第101页/共103页第一百零一页,共104页。102实验2:基于可信度的不确定性推理系统1.实验目的理解和掌握基于可信度的不确定知识表示方法和推理过程,能够用某种程序语言建立一个简单的不精确推理系统。2.实验环境
67、(1)硬件环境:微型(wixng)计算机。(2)软件环境:Windows或其他操作系统,任选一种编程语言和数据库管理系统。3.实验要求(1)根据本人熟悉的领域,自行建立一个不少于15条规则的知识库,并且至少有2条规则支持同一个结论,规则的静态强度用可信度表示。(2)以选定的数据库系统建立知识库,用选定的编程语言开发一个具有解释功能的不精确推理系统。(3)提交完整的软件系统和相关文档,包括源程序和可执行程序。实 验 选 作第102页/共103页第一百零二页,共104页。103感谢您的观赏(gunshng)!第103页/共103页第一百零三页,共104页。内容(nirng)总结1。相似度落在规定(gudng)限度内为匹配,否则为不匹配。0P(A)=1。(1)互斥性。3.证据既非为真有非为假。=0.48+2/10*1-0.48。连续论域:如果论域U是实数域上的某个闭区间a,b,则海明距离为。表示在F与G之间存在着确定的因果关系,设此因果关系为R1。表示在G与H之间存在着确定的因果关系,设此因果关系为R2。感谢您的观赏第一百零四页,共104页。