《最大似然估计.ppt》由会员分享，可在线阅读，更多相关《最大似然估计.ppt（25页珍藏版）》请在金锄头文库上搜索。
1、5.2 5.2 最大似然估计最大似然估计 1其中其中是待估参数是待估参数当一次抽样得观测值当一次抽样得观测值 得此观测值的概率为得此观测值的概率为: :其分布率为其分布率为设设X X是是 取值为取值为 的概率的概率与与 有关有关, ,与参数与参数有关有关时时,记为记为为待估参数为待估参数的函数的函数, , 称为称为似然函数似然函数. .若若在在 处达到最大值处达到最大值, 则称则称 为参数为参数 的的最大最大似然估计值似然估计值.相应的估计量相应的估计量称为称为的的最大似然最大似然估计量估计量. .统称为统称为的的最大似然最大似然估计估计. .离散型随机变量离散型随机变量, ,2其中其中是待估
2、参数是待估参数, ,设其密度函数为设其密度函数为当当 是是记记为待估参数为待估参数的函数的函数, ,称为称为似然函数似然函数. .它的大小反映了它的大小反映了落在落在附近的概率的大小附近的概率的大小. .若若在在 处达到最大值处达到最大值, 则称则称 为参数为参数 的的最大最大似然估计值似然估计值. 相应的估计量相应的估计量称为称为的的最大似然最大似然估计量估计量. . 统称为统称为的的最大似然最大似然估计估计. .连续型随机变量时连续型随机变量时, ,3由于由于 是是的最大值点的最大值点, ,一般应满足条件一般应满足条件: :从而满足条件从而满足条件是离散型随机变量是离散型随机变量是连续型随
3、机变量是连续型随机变量离散型离散型连续型连续型4求最大似然估计量求最大似然估计量1.1.写出似然函数写出似然函数X X是离散型随机变量是离散型随机变量X X是连续型随机变量是连续型随机变量当只有一个待估参数当只有一个待估参数时，时，2.2.写出似然方程写出似然方程或或3.3.求解似然方程求解似然方程得到驻点，得到驻点， 并判断驻点是否为并判断驻点是否为最大值点最大值点. .的步骤的步骤: :5几种常见分布的几种常见分布的最大似然估计量最大似然估计量1.01.01 1分布分布设总体设总体 为待估参数为待估参数. .可统一表示为可统一表示为设一抽样得观测值为设一抽样得观测值为 为似然函数为似然函数
4、.6似然估计值似然估计值, ,为为 的最大似然的最大似然为为 的最大的最大为似然函数为似然函数.估计量估计量. .72.2.泊松分布泊松分布设总体设总体即即为待估参数为待估参数设样本观测值为设样本观测值为 为似然函数为似然函数. .8为似然函数为似然函数. .为为的最大似然估计值的最大似然估计值.为为的最大似然估计量的最大似然估计量.93.3.指数分布指数分布设总体设总体 服从指数分布服从指数分布为待估参数为待估参数.求参数求参数的最大似然估计的最大似然估计. .设样本观测值为设样本观测值为 解解 可以认为可以认为为似然函数为似然函数. .10为似然函数为似然函数. .为为的最大似然估计值的最
5、大似然估计值.为为的最大似然估计量的最大似然估计量.11或两个以上或两个以上未知参数未知参数时，时，似然函数为似然函数为当有两个当有两个（离散型）（离散型）或或（连续型）（连续型）12或两个以上或两个以上未知参数未知参数时，时，似然函数为似然函数为若此似然函数在若此似然函数在达到最大，达到最大， 则称则称为为的的最大似然估计值最大似然估计值，称为称为i i的的最大似然最大似然估计量估计量. .估计量估计量相应的相应的此时，此时，一般应满足条件一般应满足条件: :或或当有两个当有两个13求最大似然求最大似然1.1.写出似然函数写出似然函数X X是离散型随机变量是离散型随机变量X X是连续型随机变
6、量是连续型随机变量当有两个或两个以上待估参数当有两个或两个以上待估参数时，时，2.2.写出似然方程组写出似然方程组3.3.求解似然方程组，求解似然方程组，得到驻点，得到驻点， 并判断驻点是否并判断驻点是否为最大值点为最大值点. .估计量估计量的步骤的步骤: :144.4.正态分布正态分布设总体设总体令令和和为待估参数为待估参数, ,求参数求参数和和服从正态分布服从正态分布的最大似然估计的最大似然估计. .求参数求参数和和的最大似然估计的最大似然估计. .15设样本观测值为设样本观测值为 解解 似然函数为：似然函数为：令令求参数求参数和和的最大似然估计的最大似然估计. .16似然函数为似然函数为
7、为为的最大似然估计值的最大似然估计值.17似然函数为似然函数为为为的最大似然估计值的最大似然估计值.为为的最大似然估计值的最大似然估计值.18为为的最大似然估计值的最大似然估计值.为为的最大似然估计值的最大似然估计值.的最大似然估计量为的最大似然估计量为的最大似然估计量为的最大似然估计量为最大似然估计量最大似然估计量不一定是无偏估计量不一定是无偏估计量令令19 其基本思想是其基本思想是用样本矩的函数估计总体矩的函数用样本矩的函数估计总体矩的函数矩估计法是英国统计学家矩估计法是英国统计学家K.皮尔逊皮尔逊最早提出的最早提出的 矩估计矩估计20记总体记总体k阶原点阶原点 矩为矩为样本样本k阶矩为阶矩为用相应的样本矩去估计总体矩的用相应的样本矩去估计总体矩的估计方法就称为估计方法就称为矩估计法矩估计法. .总体的总体的k k阶中心矩为阶中心矩为样本的样本的k k阶中心矩为阶中心矩为2122解解: 代换得代换得的矩估计的矩估计.即为即为X1,X2,Xn是取自是取自X的样本的样本,求参数求参数 的矩估计的矩估计. 例例 设总体设总体X的概率密度为的概率密度为是未知参数是未知参数,其中其中232425
