《概率论第十九讲极大似然估计法》由会员分享，可在线阅读，更多相关《概率论第十九讲极大似然估计法（40页珍藏版）》请在金锄头文库上搜索。
1、教学目的：1.讲解极大似然估计法； 2.讲解评价估计量优劣的三个标准。教学内容： 第六章， 6.1-2； 6.2。 第十九讲 极大似然估计法、 估计量优劣的标准 q 极大似然估计法思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球一箱 99个白球 1 个红球一箱 1 个白球 99个红球现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球.答: 第一箱.问: 所取的球来自哪一箱？例6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值. 解总体 X 的概率分布为设 x1, x2, xn为总体样本X1, X2,
2、Xn 的样本值,则对于不同的 p , L (p)不同, 见右下图现经过一次试验，发生了，事件则 p 的取值应使这个事件发生 的概率最大.在容许范围内选择 p ，使L(p)最大注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大, 则这个p 必使L(p)最大。所以为所求 p 的估计值.一般, 设 X 为离散型随机变量, 其分布律为则样本 X1, X2, Xn的概率分布为或称 L( ) 为样本的似然函数称这样得到的 为参数 的极大似然估计值称统计量为参数 的极大似然估计量选择适当的 = ,使 取最大值, 即L( )极大似然法的思想简记简记若 X 连续, 取 f (xi, )
3、为Xi 的密度函数似然函数为注1注2未知参数可以不止一个, 如1, k 设X 的密度(或分布)为 则定义似然函数为若关于1, , k可微,则称为似然方程组 若对于某组给定的样本值 x1, x2, xn， 参数 使似然函数取得最大值, 即则称为1, k 的极大似然估计值显然，称统计量为1, 2, k 的极大似然估计量例7 设总体 X N (, 2), x1, x2, xn 是 X的样本值, 求 , 2 的极大似然估计.解, 2 的极大似然估计量分别为似然 方程 组为极大似然估计方法1） 写出似然函数 L2）求出, 使得可得未知参数的极大似然估计值 然后, 再求得极大似然估计量.L是 的可微函数,
4、解似然方程组若L不是 的可微函数, 需用其它方法求极大似然估计值. 请看下例：若例8 设 X U (a,b), x1, x2, xn 是 X 的一个 样本值, 求 a , b 的极大似然估计值与极大 似然估计量. 解 X 的密度函数为似然函数为似然函数只有当 a 1) . (1) 不是 D( X )的无偏估量; (2) 是 D( X ) 的无偏估计量. 证 前已证证明因而故 证毕.例3 设是总体 X 的一个样本 , XB(n , p) n 1 , 求 p 2 的无偏估计量.解 由于样本矩是总体矩的无偏估计量 以及数学期望的线性性质, 只要将未知 参数表示成总体矩的线性函数, 然后用样 本矩作为
5、总体矩的估计量, 这样得到的未 知参数的估计量即为无偏估计量. 令因此, p 2 的无偏估计量为故例4 设总体 X 的密度函数为为常数为 X 的一个样本 证明与都是 的无偏估计量证 故是 的无偏估计量.令即故 n Z 是 的无偏估计量.都是总体参数 的无偏估计量, 且则称 比 更有效.定义 设有效性所以,比更有效.是 的无偏估计量,问哪个估计量更有效？ 由例4可知, 与 都为常数例5 设总体 X 的密度函数为解 ，例6 设总体 X，且 E( X )= , D( X )= 2 为总体 X 的一个样本证明是 的无偏估计量(2) 证明比更有效证 (1) (1) 设常数(2) 结论算术均值比加权均值更
6、有效.而例如 X N( , 2 ) , ( X 1 ,X 2 ) 是一样本.都是 的无偏估计量由例6(2) 知最有效.定义 设 是总体参数 则称是总体参数 的一致(或相合)估计量.的估计量. 若对于任意的 , 当n 时, 一致性依概率收敛于 , 即一致性估计量仅在样本容量 n 足够大时,才显示其优越性.一致关于一致性的两个常用结论 1. 样本 k 阶矩是总体 k 阶矩的一致性估计量. 是 的一致估计量.由大数定律证明用切贝雪夫不等式证明矩法得到的估计量一般为一致估计量在一定条件下, 极大似然估计具有一致性2. 设 是 的无偏估计量, 且 , 则例8为常数则 是 的无偏、有效、一致估计量.证 由例7 知 是 的无偏、有效估计量.所以 是 的一致估计量, 证毕.作业 P.192-193 习题六8 9 11习题
