《点估计的求法》由会员分享，可在线阅读，更多相关《点估计的求法（46页珍藏版）》请在金锄头文库上搜索。
1、一、矩估计法一、矩估计法第二节第二节 点估计的求法点估计的求法 二、极大似然估计法二、极大似然估计法一一. . 矩估计法矩估计法理论依据：理论依据：记总体记总体k阶矩为阶矩为样本样本k阶矩为阶矩为 （辛钦大数定律及其推论）（辛钦大数定律及其推论）则样本则样本 k 阶矩阶矩 依概率收敛于总体依概率收敛于总体 k 阶矩阶矩 . 方法：方法：出待估参数出待估参数.用样本用样本 k 阶矩阶矩估计总体估计总体 k 阶矩阶矩 建立含有待估参数的方程建立含有待估参数的方程, 从而解从而解样本样本 X1, X2, Xn的的前前 k 阶矩记为阶矩记为步骤：步骤：设总体的分布函数的形式已知，待估参数为设总体的分布
2、函数的形式已知，待估参数为总体的前总体的前 k 阶矩存在阶矩存在. .（1 1）求出总体的前）求出总体的前 k 阶矩，阶矩，一般一般是这是这 k 个参数的函个参数的函函数函数, ,记为：记为：7-12（3 3）解此方程组）解此方程组 , , 得得 k 个统计量：个统计量： 称为未知参数称为未知参数 1 1, , , , k k 的的矩估计量矩估计量这是含未知参数这是含未知参数 1 1, , 2 2, , , , k k 的的k个方程构成的方程组，个方程构成的方程组，（2 2）令）令7-12代入样本值，得代入样本值，得 k 个数个数:称为未知参数称为未知参数 1, , k 的的矩估计值矩估计值例
3、例1.1.设总体设总体 X B( m, p), 其中其中p 未知，未知， X1, X2, Xn为总体的样本为总体的样本, , 求求p 的矩估计量的矩估计量. .解：解：令令7-13得得总体矩总体矩样本矩样本矩例例2.2.设总体设总体X的概率密度为的概率密度为解：解：X1， ， Xn为样本，求参数为样本，求参数 的矩估计的矩估计.令令得得总体矩总体矩样本矩样本矩 例例3.3.设设X1,X2,Xn是取自总体是取自总体X的一个样本的一个样本其中其中0, 求求，的矩估计的矩估计.解解: :令令解得解得用样本矩估计用样本矩估计总体矩总体矩由课文本节例由课文本节例1 1知：知：不论总体为何分布，总体均值的
4、矩估计量总是不论总体为何分布，总体均值的矩估计量总是总体方差的矩估计量总是总体方差的矩估计量总是例例4.4.设从某灯泡厂某天生产的灯泡中随机设从某灯泡厂某天生产的灯泡中随机抽取抽取1010只灯泡，测得其寿命为只灯泡，测得其寿命为( (单位单位: :小时小时) )1050, 1100, 1080, 1120, 1200，1250, 1040, 1130, 1300, 1200，试用矩法估计该厂这天生产的试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差灯泡的平均寿命及寿命分布的方差. .解：解：7-14 二、二、 极大似然估计法极大似然估计法 即：在一次试验中，概率最大的事件最有可能发生即
5、：在一次试验中，概率最大的事件最有可能发生. .引例引例: : 有两个外形相同的箱子有两个外形相同的箱子, ,各装各装100100个球，一箱中个球，一箱中取得的球是白球取得的球是白球. .问问: : 所取的球来自哪一箱？所取的球来自哪一箱？答答: : 第一箱第一箱. .中有中有9999个白球个白球1 1个红球，一箱中有个红球，一箱中有1 1个白球个白球9999个红球。个红球。现从两箱中任取一箱现从两箱中任取一箱, , 并从箱中任取一球并从箱中任取一球, ,结果所结果所 一般说，若事件一般说，若事件A发生的概率与参数发生的概率与参数 有关，有关， 取值不同，取值不同，P(A)也不同。则应记也不同
6、。则应记事件事件A发生的概发生的概率为率为P(A| ).若一次试验，事件若一次试验，事件A发生了，可认为发生了，可认为此时的此时的 值应是在值应是在 中使中使P(A| ) 达到最大的那一个达到最大的那一个。这就是这就是极大似然原理极大似然原理极大似然原理极大似然原理.（极大似然原理）（极大似然原理）极大似然估计法的理论依据：极大似然估计法的理论依据：X1,X2,Xn是取自总体是取自总体X的样本，的样本，x1 , x2 , xn是样本值是样本值. .则则样本的联合分布律为：样本的联合分布律为：似然函数：似然函数：似然函数：似然函数：其中其中为为未知待估参数，未知待估参数，1. X是是离散型总体，
7、其分布律为离散型总体，其分布律为: : 记记2. X是是连续型总体，其概率密度为连续型总体，其概率密度为 为其样本的似然函数为其样本的似然函数.则称则称称称为样本的似然函数为样本的似然函数.似然函数似然函数的值的大小实质上反映的是的值的大小实质上反映的是该样本值出现的可能性大小该样本值出现的可能性大小.极大似然估计的极大似然估计的方法：方法：对于给定的样本值对于给定的样本值x1 , x2 , ,xn ，选，选取取使得其使得其似然函数似然函数达到最大值。即求达到最大值。即求使得使得7-22称为未知参数称为未知参数 1, , k 的的极大似然估计值极大似然估计值这样得到的估计值这样得到的估计值对应
8、的统计量对应的统计量称为未知参数称为未知参数 1 1, , , k k 的的 极大似然极大似然估计估计量量(1) (1) 由总体分布和所给样本，求得似然函数由总体分布和所给样本，求得似然函数步骤：步骤：( (2 2) ) 求似然函数求似然函数的对数函数函数的对数函数函数（化积商为和差，而（化积商为和差，而和和同时取得最大值）同时取得最大值）(3) (3) 解方程组解方程组LLLLLLLLLLLLLL7-12 (4) (4) 得未知参数得未知参数 1 1, , , , k k的极大似然估计值的极大似然估计值及其对应的极大似然估计量及其对应的极大似然估计量7-12 若待估参数只有一个，则似然函数是
9、一元若待估参数只有一个，则似然函数是一元函数函数L( )，此时，只须将上述步骤中求偏导改为，此时，只须将上述步骤中求偏导改为求导即可。求导即可。说明：说明：例例5.5. 设总体设总体X 服从参数为服从参数为的的泊松分泊松分布，求参数布，求参数 的极大似然估计量的极大似然估计量解：解：的的样本，样本观察值为样本，样本观察值为由由X 服从泊松分布，得服从泊松分布，得X的分布律为的分布律为为从为从总体总体X中随机抽取中随机抽取设设似然函数为似然函数为两边取对数，得两边取对数，得=0得得对对 求导求导，并令其为并令其为0 0，所以参数所以参数 的极大似然估计量为：的极大似然估计量为：，其中其中 0 0
10、总体总体X 的样本值，求参数的样本值，求参数 的极大似然估计值的极大似然估计值.例例6.6. 设总体设总体X的概率密度为的概率密度为为待估参数，为待估参数，a a00是已知常数，是已知常数，是取自是取自解解: : 两边取对数，得两边取对数，得对对 求导求导, ,并令其为并令其为0 0，得得这就是这就是 的极大似然估计值的极大似然估计值. 其中其中 是未知参数是未知参数，3，1，3，0，3，1，2，3，是来自总体是来自总体X的样本观察值的样本观察值,求参数求参数 的极大似然的极大似然估计值估计值. .例例7.7. 设总体设总体X的分布律的分布律解：解：两边取对数，得两边取对数，得对对 求导求导，
11、并令其为并令其为0 0，=0得得和和因为因为不合题意，不合题意，所以所以 的极大似然估计值为的极大似然估计值为 1.1.可证明极大似然估计具有下述性质：可证明极大似然估计具有下述性质： 设设 的函数的函数g=g( )是是 上的实值函数上的实值函数,且有唯一反且有唯一反函数函数 . 如果如果 是是 的极大似然估计，则的极大似然估计，则g( )也是也是g( )的极大似然估计的极大似然估计.关于极大似然估计的两点说明：关于极大似然估计的两点说明：此性质称为此性质称为极大似然估计的不变性极大似然估计的不变性例例8. 设设X1 X2 ， ，Xn为取自参数为为取自参数为 的指数分布的指数分布总总体的样本，
12、体的样本，a0为一给定实数。求为一给定实数。求p=PXa的极大似的极大似然估计然估计解：解：概率密度和分布函数分别为概率密度和分布函数分别为由总体由总体X服从参数为服从参数为 的指数分布的指数分布知，知， X 的的两边取对数，得两边取对数，得对对 求导求导，并令其为并令其为0 0，得得 的极大似然估计值为的极大似然估计值为 因为因为所以，所以，p=PXa的极大似然估计值为的极大似然估计值为2 2、当似然函数不是可微函数时，须用极大似、当似然函数不是可微函数时，须用极大似然原理来求待估参数的极大似然估计然原理来求待估参数的极大似然估计. .例例9. 设设 X U (a,b), x1, x2, x
13、n 是是 X 的一个的一个样本值样本值, 求求 a , b 的极大似然估计值与极大似然估的极大似然估计值与极大似然估计量计量.解：解：由由X U (a,b)知，知，X 的密度函数的密度函数为为似然函数为似然函数为似然函数只有当似然函数只有当 a xi b, i = 1,2, n 时才能获得最时才能获得最大值大值, 且且 a 越大越大, b 越小越小, L（a，b） 越大越大.令令xmin = min x1, x2, xnxmax = max x1, x2, xn取取则对满足则对满足的一切的一切 a b , 都有都有故故是是 a , b 的极大似然估计值的极大似然估计值.分别是分别是 a , b
14、 的极大似然估计量的极大似然估计量.，其中，其中为待估参数，为待估参数，是取自总体是取自总体X 的样本值，的样本值，例例10.10. 设总体设总体X的概率密度为的概率密度为的矩估计值和极大似然估计值的矩估计值和极大似然估计值. 求参数求参数解：解：令令得得 的矩估计值：的矩估计值：（1）矩估计）矩估计两边取对数，得两边取对数，得（2）极大似然估计）极大似然估计得得 的极大似然估计值：的极大似然估计值：对对 求导求导，并令其为并令其为0 0， 通过例通过例1010可见，对同一个待估参数，用不同可见，对同一个待估参数，用不同的方法进行点估计，可能得到不同的估计量的方法进行点估计，可能得到不同的估计量. .这这样就有必要判断哪一个估计量更好，这就是下一样就有必要判断哪一个估计量更好，这就是下一节要讲的内容：节要讲的内容： 评价估计量优良性的标准评价估计量优良性的标准
