《5.2参数的最大似然估计与矩估计ppt课件》由会员分享，可在线阅读，更多相关《5.2参数的最大似然估计与矩估计ppt课件（22页珍藏版）》请在金锄头文库上搜索。
1、5 2 参数的最大似然估计与矩估计参数的最大似然估计与矩估计 一、最大似然估计一、最大似然估计 二、矩估计二、矩估计1一、最大似然估计一、最大似然估计1 最大似然法的基本思想最大似然法的基本思想 在已经得到试验结果的情况下在已经得到试验结果的情况下 我们应该寻找使这个结果出现的可能性最大的那我们应该寻找使这个结果出现的可能性最大的那个个 作为真作为真 的估计的估计 2一、最大似然估计一、最大似然估计1 最大似然法的基本思想最大似然法的基本思想 若若X为离散型随机变量为离散型随机变量 其概率分布的形式为其概率分布的形式为 PX x p(x ) 则样本则样本(X1 Xn)的概率分布的概率分布 称为
2、似然函数称为似然函数 设设(X1 Xn)为来自总体为来自总体X的样本的样本 X的分布类型已知的分布类型已知 但参数但参数 未知未知 似然函数似然函数L( )的值表示的值表示(X1 Xn)取值取值(x1 xn)的可能性的大小的可能性的大小 3一、最大似然估计一、最大似然估计1 最大似然法的基本思想最大似然法的基本思想 设设(X1 Xn)为来自总体为来自总体X的样本的样本 X的分布类型已知的分布类型已知 但参数但参数 未知未知 若若已已经经得得到到了了样样本本值值(x1 xn) 那那该该样样本本值值出出现现的的可可能能性性应应该该是是大大的的 因因而而我我们选择使们选择使L( )达到最大值的那个达
3、到最大值的那个 作为真作为真 的估计的估计 称为似然函数称为似然函数 若若X为连续型随机变量为连续型随机变量 其密度函数为其密度函数为f(x ) 则样本则样本(X1 Xn)的密度函数的密度函数 4定义定义5 4(最大似然估计最大似然估计) 若对任意给定的样本值若对任意给定的样本值(x1 xn) 存在存在 * *(x1 xn) 使使 则则称称 *(x1 xn)为为 的的最最大大似似然然估估计计值值 称称相相应应的的统统计计量量 *(X1 Xn)为为 的的最最大大似似然然估估计量计量 它们统称为它们统称为 的最大似然估计的最大似然估计 可简记为可简记为MLE maximum likelihood
4、estimate52 最大似然估计的一般求法最大似然估计的一般求法 当似然函数关于未知参数可微时当似然函数关于未知参数可微时 一般可通过求导数得到一般可通过求导数得到MLE 其主要步骤是其主要步骤是 (1)写出似然函数写出似然函数( 1 r) (3)判断驻点为最大值点判断驻点为最大值点 (4)求得各参数的求得各参数的MLE 说明说明 按按照照本本课课程程的的要要求求 当当似似然然函函数数的的驻驻点点惟惟一一时时 不不必必验验证证该该驻驻点点是是否否为为最最大大值值点点 可直接把驻点作为所求参数的最大似然估计可直接把驻点作为所求参数的最大似然估计 6 例例 5 7 设设 总总 体体X N ( 2
5、) 与与 2均均 未未 知知 2 0 (X1 Xn)为来自为来自X的样本的样本 (x1 xn)为样本值为样本值 试求试求 与与 2的最大似然估计的最大似然估计 解解 X的密度为的密度为 似然函数为似然函数为 7 例例 5 7 设设 总总 体体X N ( 2) 与与 2均均 未未 知知 2 0 (X1 Xn)为来自为来自X的样本的样本 (x1 xn)为样本值为样本值 试求试求 与与 2的最大似然估计的最大似然估计 解解 似然函数为似然函数为 似然函数的驻点为似然函数的驻点为 别为别为 与与 2的最大似然估计值的最大似然估计值 8最大似然估计的不变性最大似然估计的不变性 解解910 例例5 8 设
6、某种型号的电子元件的寿命设某种型号的电子元件的寿命X(以小时计以小时计)的密的密 168 130 169 143 174 198 108 212 252 平均寿命以及概率平均寿命以及概率PX 180的最大似然估计值的最大似然估计值 先求平均寿命先求平均寿命EX即即 的最大似然估计量的最大似然估计量 解解 似然函数为似然函数为 11 例例5 8 设某种型号的电子元件的寿命设某种型号的电子元件的寿命X(以小时计以小时计)的密的密 168 130 169 143 174 198 108 212 252 平均寿命以及概率平均寿命以及概率PX 180的最大似然估计值的最大似然估计值 先求平均寿命先求平均
7、寿命EX即即 的最大似然估计量的最大似然估计量 解解 似然函数为似然函数为 12 解解 例例5 8 设某种型号的电子元件的寿命设某种型号的电子元件的寿命X(以小时计以小时计)的密的密 168 130 169 143 174 198 108 212 252 平均寿命以及概率平均寿命以及概率PX 180的最大似然估计值的最大似然估计值 13解解似然函数似然函数对数似然函数对数似然函数1415二、矩估计二、矩估计1 矩法的基本思想矩法的基本思想 用相应的样本矩去估计总体矩用相应的样本矩去估计总体矩 用相应的样本矩的函数去估计总体矩的函数用相应的样本矩的函数去估计总体矩的函数 例如例如 16二、矩估计
8、二、矩估计1 矩法的基本思想矩法的基本思想 一般地一般地 若记若记 则总体的则总体的k阶原点矩用相应的样本阶原点矩用相应的样本k阶原点矩来估计阶原点矩来估计 而总体的而总体的k阶中心矩用相应的样阶中心矩用相应的样本本k阶中心矩来估计阶中心矩来估计 即即 这种求点估计的方法叫做矩法这种求点估计的方法叫做矩法 用用矩矩法法确确定定的的估估计计量量称称为为矩矩估估计计量量 相相应应的的估估计计值值称称为矩估计值为矩估计值 矩估计量与矩估计值统称为矩估计矩估计量与矩估计值统称为矩估计 可简记为可简记为ME 172 矩估计的求法矩估计的求法 按照矩法的基本思想求矩估计的一般步骤为按照矩法的基本思想求矩估
9、计的一般步骤为 (1)从总体矩入手将待估参数从总体矩入手将待估参数 表示为总体矩的函数表示为总体矩的函数 即即 g( 1 l 2 s) (2)用用Ak Bk分别替换分别替换g中的中的 k k 18 例例5 9 设总体设总体XN( 2) (X1 Xn)为取自总体为取自总体X的样本的样本 试求试求 2的矩的矩估计量估计量 解解 EX 2 DX 故故 分别为分别为 与与 2的矩估计量的矩估计量 由此可见由此可见 正态总体正态总体N( 2)中中 与与 2的最大似然估计和矩估计是完全一样的的最大似然估计和矩估计是完全一样的 19 例例5.10 设设总总体体X服服从从参参数数为为m p的的二二项项分分布布
10、 m已已知知 p未未知知 (X Xn)为为其其样样本本 试求试求 (1) p的矩估计量的矩估计量 (2) p与与q之比的矩估计量之比的矩估计量 其中其中q 1 p 解解 矩估计量矩估计量 20 例例5 11 设总体设总体X的密度函数为的密度函数为其中参数其中参数 均未知均未知 0 (X1 Xn)为取自为取自X的样本的样本 试求试求 的矩估计量的矩估计量 解解 计算得到计算得到 21 解解 计算得到计算得到 从而从而 与与 的矩估计量分别为的矩估计量分别为 例例5 11 设总体设总体X的密度函数为的密度函数为其中参数其中参数 均未知均未知 0 (X1 Xn)为取自为取自X的样本的样本 试求试求 的矩估计量的矩估计量 22
