《5.2参数的最大似然估计与矩估计沐风学堂》由会员分享，可在线阅读，更多相关《5.2参数的最大似然估计与矩估计沐风学堂（22页珍藏版）》请在金锄头文库上搜索。
1、5 2 参数的最大似然估计与矩估参数的最大似然估计与矩估计计 一、最大似然估计一、最大似然估计 二、矩估计二、矩估计1听风学堂听风学堂一、最大似然估计一、最大似然估计1 最大似然法的基本思想最大似然法的基本思想 在已经得到试验结果的情况下在已经得到试验结果的情况下 我们应该寻找使这个我们应该寻找使这个结果出现的可能性最大的那个结果出现的可能性最大的那个 作为真作为真 的估计的估计 2听风学堂听风学堂一、最大似然估计一、最大似然估计1 最大似然法的基本思想最大似然法的基本思想 若若X为离散型随机变量为离散型随机变量 其概率分布的形式为其概率分布的形式为 PX x p(x ) 则样本则样本(X1
2、Xn)的概率分布的概率分布 称为似然函数称为似然函数 设设(X1 Xn)为来自总体为来自总体X的样本的样本 X的分布类型已知的分布类型已知 但参数但参数 未知未知 似然函数似然函数L( )的值表示的值表示(X1 Xn)取值取值(x1 xn)的可的可能性的大小能性的大小 3听风学堂听风学堂一、最大似然估计一、最大似然估计1 最大似然法的基本思想最大似然法的基本思想 设设(X1 Xn)为来自总体为来自总体X的样本的样本 X的分布类型已知的分布类型已知 但参数但参数 未知未知 若若已已经经得得到到了了样样本本值值(x1 xn) 那那该该样样本本值值出出现现的的可可能能性性应应该该是是大大的的 因因而
3、而我我们们选选择择使使L( )达达到到最最大大值值的的那那个个 作为真作为真 的估计的估计 称为似然函数称为似然函数 若若X为连续型随机变量为连续型随机变量 其密度函数为其密度函数为f(x ) 则样则样本本(X1 Xn)的密度函数的密度函数 4听风学堂听风学堂定义定义5 4(最大似然估计最大似然估计) 若若对对任任意意给给定定的的样样本本值值(x1 xn) 存存在在 * *(x1 xn) 使使 则则称称 *(x1 xn)为为 的的最最大大似似然然估估计计值值 称称相相应应的的统统计计量量 *(X1 Xn)为为 的的最最大大似似然然估估计计量量 它它们们统统称称为为 的的最最大大似似然然估计估计
4、 可简记为可简记为MLE maximum likelihood estimate5听风学堂听风学堂2 最大似然估计的一般求法最大似然估计的一般求法 当当似似然然函函数数关关于于未未知知参参数数可可微微时时 一一般般可可通通过过求求导导数数得到得到MLE 其主要步骤是其主要步骤是 (1)写出似然函数写出似然函数( 1 r) (3)判断驻点为最大值点判断驻点为最大值点 (4)求得各参数的求得各参数的MLE 说明说明 按按照照本本课课程程的的要要求求 当当似似然然函函数数的的驻驻点点惟惟一一时时 不不必必验验证证该该驻驻点点是是否否为为最最大大值值点点 可可直直接接把把驻驻点点作作为为所所求求参参数
5、数的的最大似然估计最大似然估计 6听风学堂听风学堂 例例5 7 设设 总总 体体 XN( 2) 与与 2均均 未未 知知 2 0 (X1 Xn)为为来来自自X的的样样本本 (x1 xn)为为样样本本值值 试试求求 与与 2的最大似然估计的最大似然估计 解解 X的密度为的密度为 似然函数为似然函数为 7听风学堂听风学堂 例例5 7 设设 总总 体体 XN( 2) 与与 2均均 未未 知知 2 0 (X1 Xn)为为来来自自X的的样样本本 (x1 xn)为为样样本本值值 试试求求 与与 2的最大似然估计的最大似然估计 解解 似然函数为似然函数为 似然函数的驻点为似然函数的驻点为 别为别为 与与 2
6、的最大似然估计值的最大似然估计值 8听风学堂听风学堂最大似然估计的不变性最大似然估计的不变性 解解9听风学堂听风学堂10听风学堂听风学堂 例例5 8 设某种型号的电子元件的寿命设某种型号的电子元件的寿命X(以小时计以小时计)的的密密 168 130 169 143 174 198 108 212 252 平均寿命以及概率平均寿命以及概率PX 180的最大似然估计值的最大似然估计值 先求平均寿命先求平均寿命EX即即 的最大似然估计量的最大似然估计量 解解 似然函数为似然函数为 11听风学堂听风学堂 例例5 8 设某种型号的电子元件的寿命设某种型号的电子元件的寿命X(以小时计以小时计)的的密密 1
7、68 130 169 143 174 198 108 212 252 平均寿命以及概率平均寿命以及概率PX 180的最大似然估计值的最大似然估计值 先求平均寿命先求平均寿命EX即即 的最大似然估计量的最大似然估计量 解解 似然函数为似然函数为 12听风学堂听风学堂 解解 例例5 8 设某种型号的电子元件的寿命设某种型号的电子元件的寿命X(以小时计以小时计)的的密密 168 130 169 143 174 198 108 212 252 平均寿命以及概率平均寿命以及概率PX 180的最大似然估计值的最大似然估计值 13听风学堂听风学堂解解似然函数似然函数对数似然函数对数似然函数14听风学堂听风学
8、堂15听风学堂听风学堂二、矩估计二、矩估计1 矩法的基本思想矩法的基本思想 用用相相应应的的样样本本矩矩去去估估计计总总体体矩矩 用用相相应应的的样样本本矩矩的的函函数去估计总体矩的函数数去估计总体矩的函数 例如例如 16听风学堂听风学堂二、矩估计二、矩估计1 矩法的基本思想矩法的基本思想 一般地一般地 若记若记 则总体的则总体的k阶原点矩用相应的样本阶原点矩用相应的样本k阶原点矩来估计阶原点矩来估计 而总而总体的体的k阶中心矩用相应的样本阶中心矩用相应的样本k阶中心矩来估计阶中心矩来估计 即即 这种求点估计的方法叫做矩法这种求点估计的方法叫做矩法 用用矩矩法法确确定定的的估估计计量量称称为为
9、矩矩估估计计量量 相相应应的的估估计计值值称称为为矩矩估估计计值值 矩矩估估计计量量与与矩矩估估计计值统称为矩估计值统称为矩估计 可简记为可简记为ME 17听风学堂听风学堂2 矩估计的求法矩估计的求法 按照矩法的基本思想求矩估计的一般步骤为按照矩法的基本思想求矩估计的一般步骤为 (1)从总体矩入手将待估参数从总体矩入手将待估参数 表示为总体矩的函数表示为总体矩的函数 即即 g( 1 l 2 s) (2)用用Ak Bk分别替换分别替换g中的中的 k k 18听风学堂听风学堂 例例5 9 设总体设总体XN( 2) (X1 Xn)为取自总为取自总体体X的样本的样本 试求试求 2的矩估计量的矩估计量
10、解解 EX 2 DX 故故 分别为分别为 与与 2的矩估计量的矩估计量 由此可见由此可见 正态总体正态总体N( 2)中中 与与 2的最大似然估的最大似然估计和矩估计是完全一样的计和矩估计是完全一样的 19听风学堂听风学堂 例例5.10 设设总总体体X服服从从参参数数为为m p的的二二项项分分布布 m已已知知 p未知未知 (X Xn)为其样本为其样本 试求试求 (1) p的矩估计量的矩估计量 (2) p与与q之比的矩估计量之比的矩估计量 其中其中q 1 p 解解 矩估计量矩估计量 20听风学堂听风学堂 例例5 11 设总体设总体X的密度函数为的密度函数为其其中中参参数数 均均未未知知 0 (X1 Xn)为为取取自自X的的样样本本 试试求求 的矩估计量的矩估计量 解解 计算得到计算得到 21听风学堂听风学堂 解解 计算得到计算得到 从而从而 与与 的矩估计量分别为的矩估计量分别为 例例5 11 设总体设总体X的密度函数为的密度函数为其其中中参参数数 均均未未知知 0 (X1 Xn)为为取取自自X的的样样本本 试试求求 的矩估计量的矩估计量 22听风学堂听风学堂
