《参数估计极大似然法》由会员分享，可在线阅读，更多相关《参数估计极大似然法（19页珍藏版）》请在金锄头文库上搜索。
1、极大似然估计法 极大似然原理的直观想法是:一个随机试 验如有若干个可能的结果A,B,C,.若在一次 试验中,结果A出现, 则一般认为A出现的概 率最大,也即试验条件对A出现有利.或者说 在试验的很多可能条件中，认为应该是使事 件A发生的概率为最大的那种条件存在.极大似然估计的基本思想例：假若一个盒子里有许多白球和红球,而且已知 它们的数目之比是3:1,但不知是白球多还是红球多 .设随机地在盒子中取一球为白球的概率是p.如果 有放回地从盒子里取3个球,那么白球数目X服从二 项分布如果样本中白球数为0,则应估计p=1/4,而不估计 p=3/4.因为具有X=0的样本来自p=1/4的总体的可 能性比来
2、自p=3/4的总体的可能性要大.一般当 X=0,1时,应估计p=1/4;而当X=2,3时,应估计 p=3/4.极大似然估计法的思想： 设总体X的密度函数为f(x,)，为未知参数，则样本（X1,X2,Xn）的联合密度函数为令 参数的估计量 ，使得样本（X1,X2,Xn）落在观测值 的邻域内的概率L()达到最大，即则称 为参数的极大似然估计值。 令求极大似然估计的一般步骤归纳如下： 例:设随机变量X服从泊松分布:其中0是一未知参数,求的极大似然估计.解 设(x1,x2,xn)是样本 (X1,X2,Xn)的一组观测值 .于是似然函数两边取对数得从而得出的极大似然估计量为 解这一方程得解 总体X服从参
3、数为的指数分布，则有 所以似然函数为 取对数 令 解得的极大似然估计值为 极大似然估计量为 例:设(X1,X2,Xn)是来自正态总体N(,2)的一个 样本,其中,2是未知参数,参数空间=-0.求与2的极大似然估计.解 正态分布的似 然函数为两边取对数得由微积分知识易验证以上所求为与2的极大似然 估计.分别求关于与2的偏导数,得似然方程组解这一方程组得例:设总体X具有均匀分布,其概率密度函数为求未知参数的极大似然估计.解 设 (X1,X2,Xn)是来自总体X的一个样本.似然 函数为要使L(; x1,x2,xn)达到最大,就要使达到最小,由于所以的极大似然估计值为：参数的极大似然估计量为：例 假设（X1，X2，Xn）是取自正态总体N(,2)的样本，求和2的极大似然估计量。解 构造似然函数 取对数 求偏导数，并令其为0 解得 所以，2的极大似然估计计量为为 与矩估计量相同例 设总体 X N (, 2), x1, x2, xn 是 X的样本值, 求 , 2 的极大似然估计.解7-26, 2 的极大似然估计量分别为似然 方程 组为7-27
