人工智能第五章不确定性推理2

《人工智能第五章不确定性推理2》由会员分享，可在线阅读，更多相关《人工智能第五章不确定性推理2（188页珍藏版）》请在金锄头文库上搜索。

1、第五章 不确定性推理,概述 概率论基础 Bayes网络 主观Bayes方法 确定性方法 证据理论,第五章 不确定性推理,概述 概率论基础 Bayes网络 主观Bayes方法 确定性方法 证据理论,5.1 概述,不精确思维并非专家的习惯或爱好所至，而是客观现实的要求。 很多原因导致同一结果 推理所需的信息不完备 背景知识不足 信息描述模糊 信息中含有噪声 规划是模糊的 推理能力不足 解题方案不唯一,不精确推理就是从不确定性的初始事实（证据）出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性却是合理或者近乎合理的结论的思维过程,5.1.1 不确定性,1. 不确定性的表示 2. 不确定性的

2、匹配 3. 组合证据的不确定性的计算 4. 不确定性的更新 5. 不确定性结论的合成,p160,证据的不确定性 规则的不确定性 推理的不确定性,5.1.2 不确定性推理的基本问题p161,不确定问题的数学模型表示的3方面问题 表示问题：表达要清楚。表示方法规则不仅仅是数，还要有语义描述。 计算问题：不确定性的传播和更新。也是获取新信息的过程。,不确定性推理例子,例如，对于如下的推理过程： R1：A2A3B1 （f1=0.8） R2：A1A2B2 （f2=0.6） R3：B1B （f4=0. 4） R4：B2B （f3=0.7）在描述这些规则时采用的都是不确定性知识表示方式,推理树结果图,表示的

3、3方面问题,语义问题：将各个公式解释清楚。语义问题：如何解释表示和计算的含义，目前多用概率方法。 如：P（B，A）可理解为当前提A为真时结论B为真的一种影响程度， P（A）可理解为证据A为真的程度，即证据的可信度。 特别关心的是f（B，A）的值：1）A(T) B(T), P (B，A）=? 2）A(T) B(F), P (B，A）=? 3）B 独立于A，P（B，A）=? 对P（A）关心的是：1）A为TRUE，P（A）？2）A为FALSE, P（A）？T：True，F：False,=1,=0,=p(B),=1,=0,5.1.3 不确定性分类方法（1）,不确定性推理方法可分为形式化方法和非形式化方

4、法。 形式化方法有逻辑法、新计算法和新概率法。 逻辑法是非数值方法，采用多值逻辑和非单调逻辑来处理不确定性。传统的有基于概率理论的贝叶斯网络等。 新计算法认为概率法不足以描述不确定性，从而出现了证据理论（也叫DempsterShafter， D-S方法），确定性方法（CF法）以及模糊逻辑方法。 新概率法试图在传统的概率论框架内，采用新的计算方法以适应不确定性描述。如主观贝叶斯方法、贝叶斯网络 非形式化方法是指启发性方法，对不确定性没有给出明确的概念。,不确定性分类方法（2）,不确定推理方法：工程方法、控制方法和并行确定性法。 工程法是将问题简化为忽略哪些不确定性因素。 控制法是利用控制策略来消

5、除不确定性的影响，如启发式的搜索方法。 并行确定性法是把不确定性的推理分解为两个相对独立的过程：一个过程不计不确定性采用标准逻辑进行推理；另一过程是对第一个过程的结论加以不确定性的度量。前一过程决定信任什么，后一过程决定对它的信任程度。,第五章 不确定性推理,概述 概率论基础 Bayes网络 主观Bayes方法 确定性方法 证据理论,第五章 不确定性推理,概述 概率论基础 Bayes网络 主观Bayes方法 确定性方法 证据理论,5.2 概率论基础,概率论是研究随机现象中数量规律的科学。 所谓随机现象是指在相同的条件下重复进行某种实验时，所得实验结果不一定完全相同且不可预知的现象。众所周知的是

6、掷硬币的实验。 实践证明，采用概率论的思想方法考虑能够得到较好的结果。 概率论的基本概念和贝叶斯定理。,5.2.1 随机事件,随机实验：随机实验是一个可观察结果的人工或自然的过程，其产生的结果可能不止一个，且不能事先确定会产生什么结果。 样本空间：样本空间是一个随机实验的全部可能出现的结果的集合，通常记作，中的点（即一个可能出现的实验结果）成为样本点，通常记作。 随机事件：随机事件是一个随机实验的一些可能结果的集合，是样本空间的一个子集。常用大写字母A,B,C,表示。,例如：投币实验是一个随机实验，它的样本空间是全部可能出现的结果的集合【正面，反面】 随机事件：随机事件是一个随机实验的一些可能

7、结果的集合，是样本空间的一个子集。 随机事件：现在投币5次，则有5个随机事件分别为【正面，正面，反面，正面，反面】,事件间的关系与运算,两个事件A与B可能有以下几种特殊关系： 包含：若事件B发生则事件A也发生，称“A包含B”，或“B含于A”，记作A B或B A。 等价：若A B且B A，即A与B同时发生或同时不发生，则称A与B等价，记作A=B。 互斥：若A与B不能同时发生，则称A与B互斥，记作AB= 对立：若A与B互斥，且必有一个发生，则称A与B对立，记作或，又称A为B的余事件，或B为A的余事件。 任意两个事件不一定会是上述几种关系中的一种。,概率论基础（事件间的关系与运算 ）,设A，B，A1

8、，A2，An为一些事件，它们有下述的运算： 交：记C=“A与B同时发生”，称为事件A与B的交，C=|A且B，记作 或。类似地用表示事件“n个事件A1, A2, An同时发生”。 并：记C=“A与B中至少有一个发生”，称为事件A与B的并，C=|A或B，记作。类似地用表示事件“n个事件A1, A2, An中至少有一个发生”。 差：记C=“A发生而B不发生”，称为事件A与B的差，C=|A但B，记作或A-B。 求余：,概率论基础（运算的性质 ）,事件的运算有以下几种性质： 交换率： 结合律：分配律：摩根率： 事件计算的优先顺序为：求余，交，差和并。,5.2.2 事件的概率1.概率定义,定义：设为一个随

9、机实验的样本空间，对上的任意事件A，规定一个实数与之对应，记为P(A)，满足以下三条基本性质，称为事件A发生的概率：若二事件AB互斥，即，则以上三条基本规定是符合常识的。,，,例掷一颗骰子的试验E, 观测出现的点数: 事件A 表示“偶数点”, 事件B 表示“小于4 的奇数”, 事件C 表示“大于2 的点数”, 用集合的列举表示法表示下列事件: , A,B, C, A + B, B - C, B C, AB , A + C . 解. 根据题意知 =1,2,3,4,5,6, A =2,4,6, B =1,3, C =3,4,5,6, A + B =1,2,3,4,6, B - C =1, BC =

10、3, AB =1,3, A + C =1,3,4,5,6.,例 随机地抽取三件产品。设A 表示“三件产品中至少有一件是废品”, B 表示“三件中至少有两件是废品”, C 表示“三件都是正品”,问A , B , A + C, A C, A - B 各表示什么事件? 解 A =“三件都是正品”= C; B =“三件产品中至多有一件废品”; A+C = (必然事件); AC = (不可能事件); A-B =“三件中恰有一件废品”.,5.2.2 事件的概率2.概率性质p166,定义：设An, n=1, 2, 为一组有限或可列无穷多个事件，两两不相交，且 ，则称事件族An, n=1, 2, 为样本空间的

11、一个完备事件族，又若对任意事件B有BAn=An或, n=1, 2, ，则称An, n=1, 2, 为基本事件族（其中BA=B和A的交集）。完备事件族与基本事件族有如下的性质：定理：若An, n=1, 2, 为一完备事件族，则，且对于一事件B有,，,基本事件（ ）：试验的每一个结果都是一个事件，这些事件不可能再分解成更简单的事件 一般的事件由基本事件复合而成。例如：考察掷一个骰子一次的试验，可能发生的结果有6种 “掷得1点” “掷得2点” “掷得3点” “掷得4点” “掷得5点” “掷得6点” “掷得奇数” “掷得偶数”,基本事件,复合事件,有若An, n=1, 2, 为一基本事件族，则,例如掷

12、一个骰子得到的一个组合（B)的可能性 P(14)=P(2,6,6)+P(3,6,5)+P(4,6,4)+,5.2.2 事件的概率3.统计概率性质,对任意事件A，有 必然事件的概率P() =1，不可能事件的概率P() = 0 对任意事件A，有 设事件A1，A2，An（kn）是两两互不相容的事件，即有，则设A，B是两事件，则,，,5.2.2 事件的概率4.条件概率,定义：如果两个事件A 和B 不是互相独立的，并且知道事件B 中的一个事件已经发生，我们就能得到关于P(A)的信息。这反映为A 在B 中的条件概率（或后验概率），记为P(AB) ： P(A)在概率推理中称为边缘概率（先验概率）。 P(AB

13、)称为A与B的联合概率。有联合概率公式：P(AB)=P(A/B)*P(B),，,条件概率（或后验概率）例子： A水藻发生 B日平均温度超过25C 已知从藻类和温度的长期观察记录中得到概率：则：我们知道，如果水温超过25C，则发生水藻的概率显著增加。,5.2.2 事件的概率-条件概率性质p168,， 若 ，则乘法公式：全概率公式：设A1，A2，An互不相交， ，且 ，则对于任意事件A有,，,假设样本空间S 被分成一个含有n 个互斥事件的集合，每个事件称为S 的一个划分：考虑S 中的一个任意事件B,如下图所示：,全概率公式的解释(1),全概率公式的解释(2),事件B 可以写成由n 个不相交（互斥）

14、事件BA1，,BA2,., BAn 组成，记为： P(B)=P(BA1)+P(BA2)+,P(BAn) 这隐含了全概率定理：,=P(BA1),5.2.3 贝叶斯定理,，,设A，B1，B2，Bn为一些事件，P(A)0，B1，B2，Bn互不相交，P(Bi)0, i=1, 2, , n，且 ，则对于k=1, 2, , n，,=P(A),贝叶斯公式容易由条件概率的定义和全概率公式得到。在贝叶斯公式中，P(Bi), i=1, 2, , n称为先验概率，而P(Bi|A) i=1, 2, , n称为后验概率也是条件概率。,例 1 为了提高某产品的质量，企业决策人考虑增加投资来改进生产设备，预计需投资90万元

15、。但从投资效果看，下属部门有两种意见：一是认为改进设备后高质量产品可占90%；二是认为改进设备后高质量产品可占70%。根据经验决策人认为第一种意见可信度有40%，第二种意见可信度有60%。为慎重起见，决策人先做了个小规模试验：试制了5个产品，结果全是高质量产品。问现在决策人对两种意见的可信程度有没有变化？,例题分析,回总目录,回本章目录,解答：此问题中，决策人根据经验对两种意见的看法属于先验信息，在决策人试验之后，就需要利用贝叶斯公式，结合试验结果进行后验分析了。,首先计算得到：,然后用贝叶斯公式计算 和 的后验概率，,可以看到，试验后决策人对两种意见的可信程度变为了0.7和0.3。这就是贝叶斯决策的后验概率。,后验概率的使用,感冒引起发烧，但也可能是其他原因。 现在已经知道感冒的概率（统计），也知道因感冒而引起发烧的概率（统计）,已经知道发烧的概率（统计）， 已知某人发烧，问他是否感冒是感冒引起的？-由先验概率到后验概率的转换 A为感冒，B为发烧，已知P(A)和P(B/A) 求P(A/B)=P(AB)/P(B)=P(A)*P(B/A)/P(B),