《通过江湖大盗偷珠宝的例子以及日常生活中的例子来解读贝叶斯公式》由会员分享，可在线阅读，更多相关《通过江湖大盗偷珠宝的例子以及日常生活中的例子来解读贝叶斯公式（5页珍藏版）》请在金锄头文库上搜索。
1、通过江湖大盗偷珠宝的例子以及日常生活中的例子 来解读贝叶斯公式贝叶斯公式：MMQ） = P（D3） p（e）/ P（D）、7Z、V、,7posterior likelihood prior evidencep（D） = I dO江湖大盗偷珠宝的例子： JTTTTrTr. TTTTTT. TTTTTFTF ff ff ff II II ff ff ff ff ff ff II fl ff ff ff ff ff ff II fl ff ff ff事件：偷珠宝嫌疑犯i：江湖大盗，资深小偷，小马仔。证据1：碰响了警报器并留下指纹。已知1： p(0i)先验概率，嫌疑犯i偷珠宝的概率有多大？ 80%，5
2、0%，30%已知2： p(Data1 I 0i )后验概率，嫌疑犯i留下证据1的概率有多大？10%，40%，80%已知3： p(Data1)先验概率，在所有偷珠宝案件中证据1出现的概率有多大?80%*10% + 50%*40% + 30%*80% =(8 + 20 + 24)% = 52%终极问题：发现证据1后，认定每个嫌疑犯偷珠宝的概率有多大?终极问题：p(a I Datal)后验概率，发现证据1后，认定每个嫌疑犯偷珠宝事件的概率有多大？小马仔：后验疑犯概率=p(01 I Datal) = p(01, Datal) / p(Datal)=小马仔作案并留下证据1的情况占所有证据1曾出现情况的比
3、例=p(01) * p(Data1 I 01) / p(Datal)=小马仔作案的概率* (小马仔留下证据1占现场出现证据1的比例)。=疑犯先验概率* (释然证据1的后验概率/出现证据1的先验概率)=疑犯先验概率*证据1的标准权重江湖大盗：p(01 I Data1) = p(01) * p(Data1 I 01) / p(Data1)=80% * 10%/52% = 80% * 0.192= 15.38462%资深小偷：p(01 | Data1) = p(01) * p(Data1 | 01) / p(Data1)=50% * 40%/52% =50% * 0.769=38.46154%小马仔
4、：p(01 | Data1) = p(01) * p(Data1 | 01) / p(Data1) =30% * 80%/52% =30% * 1.538=46.15385%抛硬币的例子：#有100个硬币，随机上抛，发现25个正面朝上，求正面朝上的概率？P(。)先验值为：normal(0.5, sd)，平均值为0.5个概率正态分布。P(DI0)为：平均值为0.25的偏正态分布。p(D)为：出现证据1的先验概率。P(0ID)为：发生证据1后，正面朝上的概率。P(0|D)= P(e)*P(D|0)/ p(D)图中红色部分在有证据1后，先验概率增大而形成后验概率。黑色部分在有证据 1后，先验概率减小
5、而形成后验概率。PriorIllIllIIllH lllHllIllI0.20.4“0.60.81.0Likelihoodp(D) = 0.00039.ll1 1 1 1 1 0.20.4 u 0.60.81.003 02 o OOPosterior日常生活中的贝叶斯推理ff ff ff ff If U U ff ff ff ff If U U ff ff ff ff If U U ff ff ff ff If u TTTTTFTT TTTFTF nTTTTFTF TTTTff ff If II fl ff ff ff ff ff If II fl ff ff ff ff ff If II f
6、l ff ff ff ff ff If II fl ff1福尔摩斯排除法贝叶斯推断除了在复杂而精确的数学模型中应用之外，也经常可见于日常生活中。关于 贝叶斯推理一个经常被提起的例子是Sherlock Holmes经常对他的朋友Watson博士讲的 依据话。“我跟你说过很多次了，在你剔除掉所有的不可能后，不管还剩下什么，不管 它怎么不可思议，剩下的东西就是真相。”这个推断实际上是对贝叶斯公式的具体化， 其实和公式4.4中表达的内容一样。我们换一种方式重新表述一下：“我跟你说过很多 次了，当所有ij都有释然值P CDI0i) =0,那么，不管先验值P(Qj)0的概率是多么 小，后验值P(0j|D)
7、的概率必定趋近于1.”这种方式听起来是不是比Holmes说的更清晰？ Homes排除法的思路是很明确的，那就是：在我们降低了一些可能事件可信度的同时， 提升了对互斥事件的可信度(比如我们可以尽可能排除掉所有可想象的选项)。所以， 根据Holmesian排除法的思路，当数据让一些选项变得不可信，实际上是增加了其它的 选项的可信度。p(0i | D) = p(0i) * p(D| 0i) / p(D)Sum( p(0i | D) ) = 1Sum( p(0i) ) = 12嫌疑人免责Holmes逻辑相反的思路同样是很常见的。如，一件工艺品从它的架子上掉下来，我们 刚开始认为肯定是屋里的那只猫干的，
8、但当我们看到一个刚学走路的小孩在架子旁边晃 晃荡荡时，之前的那只猫可能就会被免责了。最初假设的置信度，随着另外一个假设的 被证实而降低。这些免责同样也是贝叶斯公式的具体化：当释然值P(D|0j)变高时，虽 然对于所有i#j的释然值P CD|0i)没有改变，后验值P(0i|D)还是降低了。免责逻辑就 是利用了多种互斥事件的对立性：如果事件A被证实，那么时间B就会被排除。Holmesian排除法和嫌疑人免除都是涉及到贝叶斯推断的精髓。我们确定互斥事件，并 找到所有种可能事件。当数据降低了原假设的可信度，就提高了其互斥事件的看信度（就 像Holmes所说的那样），或者，当数据提升了一些互斥事件的的可
9、信度，就降低了原 假设的可信度（就像免责一样）。bayes规律告诉了我们在实际生活中怎样在复杂变化 的互斥事件中，转变我们对原有经验的可信度。#The prior, p(G), is the strength of our belief iii 6 without the data D. The posterior, p(仞D), is the strength of our belief in 9 when the data D have been taken into account. The likelihood, p(D6), is the probability that the d
10、ata could be generated by the model with parameter values 0. The evidence, y?(Z), is the probability of the data according to the model, detennined by summing across all possible parameter values weighted by the strength of belief in those parameter values.p(0i I Datal) = p(0i) *p(Data1 I 0i) / p(Datal)p(0i I Datal) = p(0i) * p(Data1 I 0i) / p(Datal)p(0i I Data1) = p(0i, Data1) / p(Data1)Jd(i) p(0i) = 1p(Datai) = / d(i) p(Data1I0i) * p(0i)参考文献：John K. Kruschke, Doing Bayesian Data Analysis, Atutorial with R and BUGS.Academic press 2010.
