《全概率公式与贝叶斯公式课件》由会员分享，可在线阅读，更多相关《全概率公式与贝叶斯公式课件（23页珍藏版）》请在金锄头文库上搜索。
1、概率论与数理统计概率论与数理统计 一盒子装有一盒子装有一盒子装有一盒子装有5 5只产品，其中只产品，其中只产品，其中只产品，其中3 3只一等品，只一等品，只一等品，只一等品，2 2只二只二只二只二 等品。从中取产品两次，每次任取一只，作不放回抽样。等品。从中取产品两次，每次任取一只，作不放回抽样。等品。从中取产品两次，每次任取一只，作不放回抽样。等品。从中取产品两次，每次任取一只，作不放回抽样。 设事件设事件设事件设事件A A1 1为为为为“ “第一次取到一等品第一次取到一等品第一次取到一等品第一次取到一等品” ”，事件，事件，事件，事件A A2 2为为为为“ “第二次取第二次取第二次取第二次
2、取到一到一到一到一 等品等品等品等品” ”，求概率，求概率，求概率，求概率P(AP(A2 2) )。 如何将一个复杂概率计算问题分解为如何将一个复杂概率计算问题分解为如何将一个复杂概率计算问题分解为如何将一个复杂概率计算问题分解为简单计算问题之和简单计算问题之和简单计算问题之和简单计算问题之和? ? ? ?S概率论与数理统计概率论与数理统计 有三个箱子有三个箱子,分别编号为分别编号为1,2,3.1号箱装有号箱装有1个红球个红球4个白球个白球,2号箱装有号箱装有2红红3白球白球 , 3号箱装有号箱装有3 红球红球. 某人从三箱中任取一箱某人从三箱中任取一箱,从中任意摸出一球从中任意摸出一球,求取
3、得求取得红球的概率红球的概率.123A2A1A3B概率论与数理统计概率论与数理统计设设设设 为样本空间，若事件为样本空间，若事件为样本空间，若事件为样本空间，若事件 满足：满足：满足：满足：两两不相容，即两两不相容，即两两不相容，即两两不相容，即 则称则称则称则称 为样本空间为样本空间为样本空间为样本空间 的一个的一个的一个的一个分划分划分划分划将将将将 的计算分解到的计算分解到的计算分解到的计算分解到上计算然后求和上计算然后求和上计算然后求和上计算然后求和通常要求通常要求通常要求通常要求概率论与数理统计概率论与数理统计于是于是于是于是设设设设 为样本空间为样本空间为样本空间为样本空间 的一个
4、分划，即的一个分划，即的一个分划，即的一个分划，即对任何事件对任何事件对任何事件对任何事件 有有有有概率论与数理统计概率论与数理统计说明说明 全概率公式的主要用处在于它可以将一个全概率公式的主要用处在于它可以将一个复杂事件的概率计算问题复杂事件的概率计算问题,分解为若干个简单事件分解为若干个简单事件的概率计算问题的概率计算问题,最后应用概率的可加性求出最终最后应用概率的可加性求出最终结果结果.概率论与数理统计概率论与数理统计 某某一一事事件件A的的发发生生有有各各种种可可能能的的原原因因 ，如如果果A是由原因是由原因Bi (i=1,2,n) 所引起，则所引起，则A发生的概率是发生的概率是 每一
5、原因都可能导致每一原因都可能导致A发生，故发生，故A发生发生的概率是各原因引起的概率是各原因引起A发生概率的总和，发生概率的总和，即全概率公式即全概率公式.P(ABi)=P(Bi)P(A |Bi)全概率公式全概率公式.我们还可以从另一个角度去理解我们还可以从另一个角度去理解概率论与数理统计概率论与数理统计 一盒子装有一盒子装有一盒子装有一盒子装有5 5 5 5只产品，其中只产品，其中只产品，其中只产品，其中3 3 3 3只一等品，只一等品，只一等品，只一等品，2 2 2 2只二只二只二只二 等品。从中取产品两次，每次任取一只，作不放回抽样。等品。从中取产品两次，每次任取一只，作不放回抽样。等品
6、。从中取产品两次，每次任取一只，作不放回抽样。等品。从中取产品两次，每次任取一只，作不放回抽样。 设事件设事件设事件设事件A A A A1 1 1 1为为为为“第一次取到一等品第一次取到一等品第一次取到一等品第一次取到一等品”，事件，事件，事件，事件A A A A2 2 2 2为为为为“第二次取第二次取第二次取第二次取到一到一到一到一 等品等品等品等品”，求概率，求概率，求概率，求概率P(AP(AP(AP(A2 2 2 2) ) ) )。利用全概率公式求事件利用全概率公式求事件利用全概率公式求事件利用全概率公式求事件BB的概率，其实质就是我们的概率，其实质就是我们的概率，其实质就是我们的概率，
7、其实质就是我们熟悉的分情况讨论。情况记为熟悉的分情况讨论。情况记为熟悉的分情况讨论。情况记为熟悉的分情况讨论。情况记为AA11，AA22，AAnn;就是就是就是就是这里定义的完备事件组这里定义的完备事件组这里定义的完备事件组这里定义的完备事件组。概率论与数理统计概率论与数理统计 有三个箱子有三个箱子, ,分别编号为分别编号为1,2,3.11,2,3.1号箱装有号箱装有1 1个红球个红球4 4个白球个白球,2,2号箱装有号箱装有2 2红红3 3白球白球 , 3 , 3号箱装有号箱装有3 3 红球红球. . 某人从三箱中任取一箱某人从三箱中任取一箱, ,从中任意摸出一球从中任意摸出一球, ,求取得
8、红球的概率求取得红球的概率. .123概率论与数理统计概率论与数理统计 袋中有袋中有袋中有袋中有a a 只红只红只红只红球球球球 b b 只白球只白球只白球只白球, , 先从袋中任取一球先从袋中任取一球先从袋中任取一球先从袋中任取一球, , 记下颜色后放回，同时向袋中放入同颜色的球记下颜色后放回，同时向袋中放入同颜色的球记下颜色后放回，同时向袋中放入同颜色的球记下颜色后放回，同时向袋中放入同颜色的球 1 1 只只只只, , 然后然后然后然后再从袋中取出一球再从袋中取出一球再从袋中取出一球再从袋中取出一球. . 求第二次取到白球的概率求第二次取到白球的概率求第二次取到白球的概率求第二次取到白球的
9、概率. .记记记记 第第第第 次取到白球次取到白球次取到白球次取到白球第第第第 次取到红球次取到红球次取到红球次取到红球第第第第 次取到白球次取到白球次取到白球次取到白球则则则则 是是是是 的一个分划的一个分划的一个分划的一个分划，由全概率公式有，由全概率公式有，由全概率公式有，由全概率公式有 第二次取到白球的概率与第二次取到白球的概率与第二次取到白球的概率与第二次取到白球的概率与第一次取到白球的概率相等，第一次取到白球的概率相等，第一次取到白球的概率相等，第一次取到白球的概率相等，与前面放入什么颜色的球无关与前面放入什么颜色的球无关与前面放入什么颜色的球无关与前面放入什么颜色的球无关如果加入
10、如果加入如果加入如果加入 c c 个同个同个同个同色球有什么结果？色球有什么结果？色球有什么结果？色球有什么结果？概率论与数理统计概率论与数理统计设设Ai =“任取的一箱为第任取的一箱为第i箱零件箱零件”，i = 1,2,3， Bj =“第第j次取到的是一等品次取到的是一等品”，j = 1，2 假设有假设有3箱同种型号零件，里面分别装有箱同种型号零件，里面分别装有50件、件、30件、件、40件，件，而且一等品分别有而且一等品分别有20件、件、12件和件和24件，件， 现在任取一箱，从中不现在任取一箱，从中不放回地先后取出两个零件，试求放回地先后取出两个零件，试求: 两次取出的零件均为一等品的两
11、次取出的零件均为一等品的概率概率概率论与数理统计概率论与数理统计 有三个箱子，分别编号为有三个箱子，分别编号为1,2,31,2,3，1 1号箱装有号箱装有1 1个红球个红球4 4个白球，个白球，2 2号箱装有号箱装有2 2红球红球3 3白球，白球，3 3号箱装有号箱装有3 3红球红球. . 某人从三箱中任取一箱，从中任意摸出一某人从三箱中任取一箱，从中任意摸出一球，球，发现是红球发现是红球, ,求该球是取自求该球是取自1 1号箱的概率号箱的概率 . .1231红红4白白?概率论与数理统计概率论与数理统计某人从任一箱中任意摸出一球，某人从任一箱中任意摸出一球，发现是红球，求该球是取自发现是红球，
12、求该球是取自1 1号号箱的概率箱的概率. . 记记 Ai=球取自球取自i号箱号箱, i=1,2,3; B =取得红球取得红球求求P(A1|B)运用全概率公式运用全概率公式计算计算P P( (B B) )将这里得到的公式一般化，就得到将这里得到的公式一般化，就得到贝叶斯公式贝叶斯公式1231红红4白白?概率论与数理统计概率论与数理统计设设设设 为样本空间为样本空间为样本空间为样本空间 的一个分划，且的一个分划，且的一个分划，且的一个分划，且则由乘法公式有则由乘法公式有则由乘法公式有则由乘法公式有由全概率公式有由全概率公式有由全概率公式有由全概率公式有概率论与数理统计概率论与数理统计贝叶斯公式在实
13、际中有很多应用贝叶斯公式在实际中有很多应用. 它可以帮助人们确定某结果（事件它可以帮助人们确定某结果（事件 B）发生的最发生的最可能原因可能原因.概率论与数理统计概率论与数理统计由全概率公式有由全概率公式有由全概率公式有由全概率公式有记记记记 取到次品取到次品取到次品取到次品取到的产品是取到的产品是取到的产品是取到的产品是 车间生产的车间生产的车间生产的车间生产的由由由由 Bayes 公式有公式有公式有公式有可见该次品是第二车间生产的可能性较大可见该次品是第二车间生产的可能性较大可见该次品是第二车间生产的可能性较大可见该次品是第二车间生产的可能性较大Bayes Bayes 推断推断推断推断 某
14、工厂的一、二、三车间都生产同一产品某工厂的一、二、三车间都生产同一产品某工厂的一、二、三车间都生产同一产品某工厂的一、二、三车间都生产同一产品, , , ,产量产量产量产量分别占总产量的分别占总产量的分别占总产量的分别占总产量的 三个车间的次品率分别为三个车间的次品率分别为三个车间的次品率分别为三个车间的次品率分别为 现从汇总起来的产品中任取一个，经检查是现从汇总起来的产品中任取一个，经检查是现从汇总起来的产品中任取一个，经检查是现从汇总起来的产品中任取一个，经检查是次品，问它是哪个车间生产的可能性较大？次品，问它是哪个车间生产的可能性较大？次品，问它是哪个车间生产的可能性较大？次品，问它是哪
15、个车间生产的可能性较大？概率论与数理统计概率论与数理统计 BayesBayes 方法广泛应用于网络、分类、诊断、估计、方法广泛应用于网络、分类、诊断、估计、方法广泛应用于网络、分类、诊断、估计、方法广泛应用于网络、分类、诊断、估计、检验、判别、推理等方面检验、判别、推理等方面检验、判别、推理等方面检验、判别、推理等方面假定假定假定假定 为导致试验结果的为导致试验结果的为导致试验结果的为导致试验结果的 “ “原因原因原因原因” ”称称称称先验概率先验概率先验概率先验概率为为为为若试验产生事件若试验产生事件若试验产生事件若试验产生事件 , , 则要探讨事件发生的则要探讨事件发生的则要探讨事件发生的
16、则要探讨事件发生的“ “原因原因原因原因” ”称称称称 为为为为后验概率后验概率后验概率后验概率后验概率可以通过后验概率可以通过后验概率可以通过后验概率可以通过 BayesBayes 公式进行计算公式进行计算公式进行计算公式进行计算 后验概率反映了后验概率反映了后验概率反映了后验概率反映了试验后对各种试验后对各种试验后对各种试验后对各种“ “原因原因原因原因” ”发生的可能性大小的推发生的可能性大小的推发生的可能性大小的推发生的可能性大小的推断断断断先验概率反映了各种先验概率反映了各种先验概率反映了各种先验概率反映了各种“原因原因原因原因” ” ” ” 发生的可能性大发生的可能性大发生的可能性
17、大发生的可能性大小（在试验前是知道的）小（在试验前是知道的）小（在试验前是知道的）小（在试验前是知道的） BayesBayes公式的重要意义在于利用人们公式的重要意义在于利用人们公式的重要意义在于利用人们公式的重要意义在于利用人们掌握的先验知识来推断后验概率掌握的先验知识来推断后验概率掌握的先验知识来推断后验概率掌握的先验知识来推断后验概率概率论与数理统计概率论与数理统计由由由由 BayesBayes 公式公式公式公式, , , ,此人真正患有癌症的概率为此人真正患有癌症的概率为此人真正患有癌症的概率为此人真正患有癌症的概率为用某种用某种用某种用某种诊断法诊断癌症诊断法诊断癌症诊断法诊断癌症诊
18、断法诊断癌症, , , ,记记记记判断被检验者患有癌症判断被检验者患有癌症判断被检验者患有癌症判断被检验者患有癌症被检验者患有癌症被检验者患有癌症被检验者患有癌症被检验者患有癌症 已知已知已知已知现在若有一人被诊断患有癌症，问此人真正患有癌症的可现在若有一人被诊断患有癌症，问此人真正患有癌症的可现在若有一人被诊断患有癌症，问此人真正患有癌症的可现在若有一人被诊断患有癌症，问此人真正患有癌症的可能性有多大？能性有多大？能性有多大？能性有多大？, , , ,又设人群中又设人群中又设人群中又设人群中 可见，虽然检验法相当可可见，虽然检验法相当可可见，虽然检验法相当可可见，虽然检验法相当可靠，但被诊断
19、患有癌症而真靠，但被诊断患有癌症而真靠，但被诊断患有癌症而真靠，但被诊断患有癌症而真正患有癌症的可能性并不大正患有癌症的可能性并不大正患有癌症的可能性并不大正患有癌症的可能性并不大ENDEND概率论与数理统计概率论与数理统计 伊索寓言伊索寓言伊索寓言伊索寓言“孩子与狼孩子与狼孩子与狼孩子与狼”讲的是一个小孩每天讲的是一个小孩每天讲的是一个小孩每天讲的是一个小孩每天到山上放羊，山里有狼出没。第一天，他在山上到山上放羊，山里有狼出没。第一天，他在山上到山上放羊，山里有狼出没。第一天，他在山上到山上放羊，山里有狼出没。第一天，他在山上喊喊喊喊“狼来了！狼来了！狼来了！狼来了！狼来了！狼来了！狼来了！
20、狼来了！”，山下的村民闻声便去，山下的村民闻声便去，山下的村民闻声便去，山下的村民闻声便去打狼，发现狼没有来；第二天仍是如此；第三天，打狼，发现狼没有来；第二天仍是如此；第三天，打狼，发现狼没有来；第二天仍是如此；第三天，打狼，发现狼没有来；第二天仍是如此；第三天，狼真的来了，可无论小孩怎么喊叫，也没有人来狼真的来了，可无论小孩怎么喊叫，也没有人来狼真的来了，可无论小孩怎么喊叫，也没有人来狼真的来了，可无论小孩怎么喊叫，也没有人来救他，因为前两次他说了谎，人们不再相信他了。救他，因为前两次他说了谎，人们不再相信他了。救他，因为前两次他说了谎，人们不再相信他了。救他，因为前两次他说了谎，人们不再
21、相信他了。 现在用贝叶斯公式来分析此寓言中村民对这现在用贝叶斯公式来分析此寓言中村民对这个小孩的可信程度是如何下降的。个小孩的可信程度是如何下降的。概率论与数理统计概率论与数理统计首先记事件首先记事件A为为“小孩说谎小孩说谎”，记事件，记事件B为为“小孩可信小孩可信”。不妨设村民过去对这个小孩的印象为。不妨设村民过去对这个小孩的印象为我们现在用贝叶斯公式来求我们现在用贝叶斯公式来求，亦及这个小孩，亦及这个小孩说了一次谎后，村民对他的可信程度的改变。说了一次谎后，村民对他的可信程度的改变。在贝叶斯公式中我们要用到在贝叶斯公式中我们要用到，这两个概，这两个概率的含义是：前者为率的含义是：前者为“可
22、信可信”(B)的孩子的孩子“说谎说谎”(A)的的可能可能性，后者为性，后者为“不可信不可信”的孩子的孩子“说谎说谎”的可能性。设：的可能性。设：概率论与数理统计概率论与数理统计 第一次村民上山打狼，发现狼没有来，即小孩说了谎第一次村民上山打狼，发现狼没有来，即小孩说了谎（A）。村民根据这个信息，对小孩的可信程度改变为）。村民根据这个信息，对小孩的可信程度改变为（用贝叶斯公式）（用贝叶斯公式） 这表明村民上了一次当后，对这个小孩的可信程度这表明村民上了一次当后，对这个小孩的可信程度由原来的由原来的0.8调整为调整为0.444，也就是，也就是概率论与数理统计概率论与数理统计在此基础上，我们再用一次
23、贝叶斯公式计算在此基础上，我们再用一次贝叶斯公式计算 亦即这个小孩第二次说谎后，村民对他的可信程度改亦即这个小孩第二次说谎后，村民对他的可信程度改变为：变为： 这表明村民们经过两次上当，对这个小孩的可信这表明村民们经过两次上当，对这个小孩的可信程度已经从程度已经从0.8下降到下降到0.138，如此低的可信程度，村，如此低的可信程度，村民听到第三次呼叫怎么再会上山打狼呢？民听到第三次呼叫怎么再会上山打狼呢？概率论与数理统计概率论与数理统计1.条件概率条件概率全概率公式全概率公式贝叶斯公式贝叶斯公式小结小结乘法定理乘法定理概率论与数理统计概率论与数理统计 在应用全概率公式与贝叶斯公式时，有两个问题
24、需在应用全概率公式与贝叶斯公式时，有两个问题需 要弄清楚：要弄清楚： 当事件的发生与相继两个试验有关时，从当事件的发生与相继两个试验有关时，从第一试验第一试验 入手入手寻找完备事件组；寻找完备事件组； 当事件的发生是由诸多当事件的发生是由诸多两两互斥的原因两两互斥的原因而引起的，而引起的， 可以这些可以这些“原因原因”为完备事件组。为完备事件组。 2 2、如何区分是用全概率公式还是用贝叶斯公式、如何区分是用全概率公式还是用贝叶斯公式、如何区分是用全概率公式还是用贝叶斯公式、如何区分是用全概率公式还是用贝叶斯公式 1 1、如何确定完备事件组、如何确定完备事件组、如何确定完备事件组、如何确定完备事件组一般，可从下列两个方面来寻找完备事件组：一般，可从下列两个方面来寻找完备事件组： “由因求果由因求果”用全概率公式用全概率公式,“执果求因执果求因”用贝叶斯公式用贝叶斯公式.
