《概率论课件62》由会员分享，可在线阅读，更多相关《概率论课件62（25页珍藏版）》请在金锄头文库上搜索。
1、第六章,点 估 计,6.2 极大似然估计,二、具体方法,一、基本思想,一、基本思想,极大似然法是在总体类型已知条件下使用的一种参数估计方法 .,它首先是由德国数学家高斯在1821年提出的, 然而，这个方法常归功于英国统计学家费歇. 费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 .极大似然估计这一名称也是费歇给的.,Gauss,Fisher,它建立在极大似然原理的基础上，即，一个随机试验下有若干个可能的结果A、B 、C，如在一次试验中，结果A出现了，那么可以认为P(A)较大。,最大似然法的基本思想,先看一个简单例子：,一只野兔从前方窜过 .,是谁打中的呢？,某位同学与一位猎
2、人一起外出打猎 .,如果要你推测，,你会如何想呢?,只听一声枪响，野兔应声倒下 .,你就会想，只发一枪便打中, 猎人命中的概率一般大于这位同学命中的概率 . 看来这一枪是猎人射中的 .,这个例子所作的推断已经体现了极大似然法的基本思想 .,例1 罐中放有若干黑、白球、仅知两色球的数目之比为1:3，但不知何色球多，试估计抽到黑球的概率p 是 或 .,现以n =3为例，讨论如何根据的 值来估计参数 ，,通过分析、可定义 的估计量 如下：,二、具体方法,则样本 的概率分布为,或,称 L( ) 为样本的似然函数.,一般, 设 为离散型随机变量, 其分布律为,称这样得到的,为参数 的极大似然估计值，,称
3、统计量,为参数 的极大似然估计量,选择适当的 = ,使 取最大值, 即,极大似然法的思想,简记,简记,则似然函数为,注1,注2,未知参数可以不止一个, 如1, k，,则定义似然函数为,若 连续, 取 p (xi, )为 i 的密度函数，,设 的密度(或分布)为,为似然方程组.,若对于某组给定的样本值 x1, x2, xn，参数 使似然函数取得最大值, 即,显然，,称统计量,为1, 2, k 的极大似然估计量.,求极大似然估计量的步骤:,(一）写出似然函数,(二）取对数,离散型,连续型,极大似然估计法也适用于分布中含有多个未知参数的情况. 此时只需令,对数似然方程组,对数似然方程,解出由k个方程
4、组成的方程组，即可得各未知参数,极大似然估计值,解,似然函数,例2,这一估计量与矩估计量是相同的.,两边取对数,且,例3 设总体 服从参数为 的指数分布，即 求 的极大似然估计。,解 设 是取自 的一个样本， 为其观测值，则 的似然函数为,且,故 使 达最大.从而 为 的极大似然估计值， 为 的极大似然估计量。,上式两边取对数,令,例4 设总体 服从Poisson分布P (),其中0是一未知参数，求的极大似然估计。,解 设 是取自 的一个样本， 为其观测值，则 的似然函数为,上式两边取对数,令,解上面的似然方程得,经验证 是L()的最大值点，所以 是的极大似然估计量.,。,例5 设总体 N (
5、, 2), x1, x2, xn 是 的样本值, 求 , 2 的极大似然估计.,解, 2 的极大似然估计量分别为,似然 方程 组为,似然函数为,例6 设 x1, x2, xn 是 的一个样本值, 求 的极大似然估计值与极大似然估计量.,由于 的支撑与 有关，不存在易解的似然方程，我们由定义，找 的最大值点，由 的表达式， 越小 就越大.,又 ，从而 .,故 最大次序统计量是参数 的极大似然估计量。,例7 设总体 的密度函数为,为常数，,为 的一个样本.,（1）求 的极大似然估计 ； （2）试判断 是否是的无偏估计？,解 （1） 的似然函数为,（2） 服从参数为 的指数分布，所以,故 为 的无偏
6、估计。,且,故 的极大似然估计量为,两种求点估计的方法:,矩估计法,极大似然估计法,在统计问题中往往先使用极大似然估计法, 在极大似然估计法使用不方便时, 再用矩估计法.,注:,如 在正态总体N (, 2)中, 2的极大似然估计值为,是 2的单值函数, 且具有单值反函数，故 的极大似然估计值为,lg 的极大似然估计值为,极大似然估计的不变性,费歇资料,Ronald Aylmer Fisher,Born: 17 Feb. 1890 in London, England Died: 29 Jul. 1962 in Adelaide, Australia,英国统计学家和遗传学家。1890年 2月17
7、日生于伦敦,1962年7月29日卒于澳大利亚阿德莱德。 1912年毕业于剑桥大学数学系，后随英国数理统计学家J.琼斯进修了一年统计力学。他担任过中学数学教师，1918年任罗坦斯泰德农业试验站统计试验室主任。1933年，因为在生物统计和遗传学研究方面成绩卓著而被聘为伦敦大学优生学教授。1943年任剑桥大学遗传学教授。1957年退休。1959年去澳大利亚，在联邦科学和工业研究组织的数学统计部作研究工作。,他的主要贡献有： 用亲属间的相关说明了连续变异的性状可以用孟德尔定律来解释，从而解决了遗传学中孟德尔学派和生物统计学派的论争。 论证了方差分析的原理和方法，并应用于试验设计，阐明了最大似然性方法以
8、及随机化、重复性和统计控制的理论，指出自由度作为检查K.皮尔逊制定的统计表格的重要性。此外，还阐明了各种相关系数的抽样分布，亦进行过显著性测验研究。 他提出的一些数学原理和方法对人类遗传学、进化论和数量遗传学的基本概念以及农业、医学方面的试验均有很大影响。例如遗传力的概念就是在他提出的可将性状分解为加性效应、非加性（显性）效应和环境效应的理论基础上建立起来的。,主要著作有： 根据孟德尔遗传方式的亲属间的相关 研究者用的统计方法 自然选择的遗传理论 试验设计 近交的理论 统计方法和科学推理等。 他在进化遗传学上是一个极端的选择论者，认为中立性状很难存在。 他一生在统计生物学中的功绩是十分突出的。,
