贝叶斯公式的探究

《贝叶斯公式的探究》由会员分享，可在线阅读，更多相关《贝叶斯公式的探究（3页珍藏版）》请在金锄头文库上搜索。

1、贝叶斯公式的探究 班级: 班内序号: 姓名: 学号:摘要: 简要介绍了贝叶斯的生平以及贝叶斯公式提出时的情境，简要分析了对贝叶斯公式及 其含义，介绍了其中蕴含的“逆概率”思想，并对统计中的先验概率和后验概率给出了详 细的定义和说明，最后介绍了以贝叶斯公式和逆概率思想为基础衍生的贝叶斯理论极其广 泛应用的情况。 关键词： 托马斯贝叶斯 贝叶斯公式 逆概率思想 贝叶斯理论 一贝叶斯简介 托马斯贝叶斯（Thomas Bayes,1702-1761 ）英国数学家。1702 年出生于伦敦一个新 教徒家庭，做过神甫。1736 年发表了“流数术导论及对分析学家作者的数学家辩护” (An introducti

2、on to the doctrine of fluxions, and a defense of the mathematicians against the objections of the author of the analyst) 的数学论文,还击了贝克莱(GBerkeley, 16851753)主 教对微积分的攻击,捍卫了牛顿的微积分基本思想。正是在这篇文章所显示的数学才华,使得 贝叶斯于 1742 年 4 月 8 日当选为英国皇家学会会员。 贝叶斯与同时代的多位数学家保持着联系,和棣莫弗(De Moivre, A. 16671754) 、马克 劳林(ColinMaclaurin,

3、 16981746)进行过学术交流。他大力宣传数学新思想,还将数学家推荐 给其他朋友。如向斯坦候普( Stanhope) 引荐莫杜克( Patrick Murdoch) 的论文等。 斯坦候普是贝叶斯进入皇家学会的推荐人。研究表明,斯坦候普保留了贝叶斯的大量手 稿和信件。在早期发现贝叶斯幸存的 4 件手稿中 3 件是他写给康顿的信和论文,另 1 件是其 读书笔记。在某一封信中,贝叶斯对辛普森的误差理论进行了评论,并处理了大数定理的特殊 情形, 尤其是证明了大量观测数据的平均值优于单个试验中的参数估计值。 贝叶斯的两篇遗作于逝世前 4 个月,寄给好友普莱斯(R. Price, 17231791 )

4、 。普莱斯又 将其寄到皇家学会,并于 1763 年 12 月 23 日在皇家学会大会上作了宣读。第一篇论文刊于 英国皇家学会的哲学学报1763L 卷 370418 页,于 1764 年出版。第二篇论文已故 贝叶斯先生致康顿的信(A letter from the late reverendMr. Thomas Bayes to John Canton) 刊 于 1764 年 L 卷 296325 页, 出版日期是 1765 年。正是在第一篇题为机会学说中一个 问题的解(An essay towards solving a p roblem in the doctrine of chance)

5、的论文中, 贝叶斯给 出了其逆概率思想,创立了贝叶斯定理。统计学家巴纳德(C. Barnard, 1922) 赞誉其为“科 学史上最著名的论文之一” 。贝叶斯所采用的许多术语被沿用至今。 贝叶斯对统计推理的主要贡献是使用了“逆概率”这个概念，并把它作为一种普遍的 推理方法提出来。贝叶斯定理原本是概率论中的一个定理，这一定理可用一个数学公式来 表达，这个公式就是著名的贝叶斯公式。贝叶斯公式又称逆概率公式。二贝叶斯公式 贝叶斯公式是我们在课堂上学习过的内容，在此做简要叙述： 设 A 1,A 2,A n, 为 的一个划分，B 为任一事件，且 P(A i )0 ，i=1,2,n，P(B)0，则 P(A

6、 i |B)= P(A i )P(B|A i ) / n j=1 P(A j )P(B|A j ) 贝叶斯公式是贝叶斯在 1763 年提出来的： 假定 A 1 ,A 2 ,A n 是某个过程的若干可能的前提，则 P(A i ) 是人们事先对各前提条件出现 可能性大小的估计，称之为先验概率。如果这个过程得到了一个结果 B，那么贝叶斯公式 提供了我们根据 B 的出现而对前提条件做出新评价的方法。P(A i B)即是对以 B 为前提下 A i 的出现概率的重新认识，称 P(A i B) 为后验概率。 贝叶斯公式为利用搜集到的信息对原有判断进行修正提供了有效手段。在采样之前， 经济主体对各种假设有一个

7、判断（先验概率） ，先验概率是指根据以往经验和分析得到的概 率，如全概率公式中的，它往往作为“由因求果”问题中的“因”出现。后验概率是指在 得到“结果”的信息后重新修正的概率，是“执果寻因”问题中的“因” 。后验概率是基于 新的信息，修正原来的先验概率后所获得的更接近实际情况的概率估计。先验概率和后验 概率是相对的。如果以后还有新的信息引入，更新了现在所谓的后验概率，得到了新的概 率值，那么这个新的概率值被称为后验概率。先验概率不是根据有关自然状态的全部资料 测定的，而只是利用现有的材料( 主要是历史资料) 计算的；后验概率使用了有关自然状态 更加全面的资料，既有先验概率资料，也有补充资料；先

8、验概率的计算比较简单，没有使 用贝叶斯公式；而后验概率的计算，要使用贝叶斯公式，而且在利用样本资料计算逻辑概 率时，还要使用理论概率分布，需要更多的数理统计知识。 三贝叶斯公式的应用 首先通过书本上的例子对贝叶斯公式进行初步的描述。 据调查某地居民肝癌发病率为 0.0004，现用甲胎蛋白法来检查肝癌：若呈阳性表明患 病，若呈阴性表明未患病。假阳性（即未患病结果却呈阳性）和假阴性（即患病结果却称 阴性）的概率分别为 0.05 和 0.01 。某人经检验结果呈阳性，他确实患肝癌的概率有多大？ 令 A=“被检验者患肝癌” ，B=“检验结果呈阳性”则 P(A)=0.004 P(B|A)=0.005 P

9、(B|A)=0.01 由贝叶斯公式可得 P(A|B)= P(A) P(B|A) / P(A) P(B|A)+ P(A) P(B|A)=0.004（1-0.01） / 0.004（1-0.01+（1-0.004 ）0.05）0.00786 由此可知，经过检验结果呈阳性的患者，真正患肝癌的可能性却非常之小。这似乎看 起来不可思议，按理说这种检验方法的准确性应该是很高的，但在实际使用时准确性又如 此之低，这是为什么呢？在上述计算中，假阳性的概率并不大（P(B|A)=0.05） ，即检验结果 是错误的情况并不多，但肝癌的发病率很低（P(A)=0.0004 ） ，即绝大多数情况下不会患肝癌， 这就使得检

10、验结果是错误的部分 P(A)P(B|A)相对很大，这就造成了 P(A|B)很小。但并不是 说这种检验方法不可以在临床上使用，因为我们去医院看病时，医生通常会做一些初查， 例如询问病史，测量体温、血压等，当他通过这些初查后怀疑某人可能患有肝癌时才会用 这种方法进行检验。而这时，被怀疑的对象的肝癌发病率就不再是普通人群的 0.0004 了， 而是明显的增加了，例如当 P(A)=0.4 时，按上述方法计算得到 P(A|B)=0.9296 ，这样就大大 的提高了这种方法的准确性。这也就是为什么医生在诊断一些疑难杂症时，会用几种不同 的方法来进行检查的原因。四贝叶斯理论概述 贝叶斯决策理论是主观贝叶斯派

11、归纳理论的重要组成部分。 贝叶斯决策就是在不完全情报下，对部分未知的状态用主观概率估计，然后用贝叶斯 公式对发生概率进行修正，最后再利用期望值和修正概率做出最优决策。 贝叶斯决策理论方法是统计模型决策中的一个基本方法，其基本思想是： 1、 已知类条件概率密度参数表达式和先验概率。 2、 利用贝叶斯公式转换成后验概率。 3、 根据后验概率大小进行决策分类。 贝叶斯理论的应用 数学领域： 贝叶斯分类算法 应用: 统计分析、测绘学 贝叶斯风险 应用: 统计决策论 贝叶斯公式 应用: 概率空间 贝叶斯估计 应用: 参数估计 贝叶斯区间估计 应用: 数学中的区间估计 贝叶斯统计 应用: 统计决策论 贝叶

12、斯序贯决策函数 应用: 统计决策论 经验贝叶斯方法 应用: 统计决策论 工程领域 ： 贝叶斯定理 应用: 人工智能、心理学、遗传学 贝叶斯分类器 应用: 模式识别、人工智能 贝叶斯分析 应用: 计算机科学 贝叶斯决策 应用: 人工智能 贝叶斯逻辑 应用: 人工智能 贝叶斯推理 应用: 数量地理学、人工智能 贝叶斯网络 应用: 人工智能 贝叶斯学习 应用: 模式识别 其他领域 贝叶斯主义 应用: 自然辩证法 有信息的贝叶斯决策方法 应用: 生态系统生态学 参考文献 1 徐传胜, 张士勤, 刘建宇. 托马斯贝叶斯的逆概率思想研究N. 西北大学学报（自然科 学版）,2009-4(39,No. 2) 2 钟翔. 全概率与逆概率公式及其应用N. 时代教育,2010-7-8(No. 7) 3浙江大学盛骤,谢式千,潘承毅.概率论与数理统计M.高等教育出版社,2008.6. 4百度百科“贝叶斯”http:/