《（毕业设计论文）点估计中两种方法的分析和比较》由会员分享，可在线阅读，更多相关《（毕业设计论文）点估计中两种方法的分析和比较（19页珍藏版）》请在金锄头文库上搜索。
1、lw点估计中两种常用方法的比较与分析点估计中两种常用方法的比较与分析河南理工大学数学与信息科学学院信息与计算科学专业 摘摘 要：要：本文首先介绍矩估计法和极大似然估计法，然后对于同一分布和同一参数，用这两种不同的方法求出矩估计量和极大似然估计量，利用估计量的三条评选标准：无偏性、有效性和一致性来判断哪个估计量在这种情况下与该参数的真实值更相近，从而选择相应的点估计法。关键词：关键词：矩估计 极大似然估计 无偏性 有效性 一致性1 引言当我们碰到这样的问题：假设总体分布函数的形式已知（它可由理论分析和过去经验得到，或者从抽样数据的直方图和概率纸描点初步估计出） ，但它的一个或多个参数未知，借助于
2、总体的一个样本值，构造适当的样本函数来估计总体未知参数的问题，我们称之为点估计问题。点估计是数理统计学中内容很丰富的一个分支，其中两种最常用的构造的估计量的方法是矩估计法和极大似然估计法。当对于同一分布和同一参数时，先用矩估计法和极大似然估计法分别求得矩估计量和极大似然估计量，然后用无偏性、有效性和一致性对这两个估计量进行衡量，当样本容量足够大时，从而选出一个估计量使得这个估计量既在未知参数的真实值附近，又与未知参数真实值的偏离程度很小，而且随着样本容量的增大估计量与被估计参数的偏差越来越小，进而选择相应的点估n计法。2 相关概念2.1 参数估计参数估计所谓参数估计，是指从样本中提取有关总体的
3、信息，),(21nXXXX即构造样本的函数统计量，然后用样本值代入，求出统),(21nXXXglw计量的观测值，用该值来作为相应待估参数的值。12( ,)ng x xx此时，把统计量称为参数的估计量，把),(21nXXXg称为参数的估计值。),(, 21nxxxg2.2 参数估计的类型参数估计的类型参数估计问题常有两类：点估计和区间估计。（1） 点估计：指对总体分布中的参数，根据样本及样),(21nXXX本值，构造一统计量，将作),(21nxxx),(21nXXXg),(, 21nxxxg为的估计值，则称为的点估计量，简称点估计，记为=),(21nXXXg 。),(21nXXXg由于这种估计是
4、单个的数值，总是存在误差，对误差也不能准确地计算出来。另外，点估计无法指出对总体参数给予正确估计的概率有多大。所以，这种点估计只能作为一种不精确的大致的估计，更好的办法是对总体参数进行区间估计。（2）区间估计：指对总体中的一维参数，构造两个统计量：=1 ),(211nXXXg=2 ),(212nXXXg使得待估参数以较大的概率落在，内，此时，称，为的区间估1 2 1 2 计。2.3 估计量的评选标准估计量的评选标准（1）无偏性设是未知参数的估计量，则是一个随机变量，对于不同的样本值就 会得到不同的估计值，我们总希望估计值在的真实值左右徘徊，而若其数学期望恰等于的真实值，这就导致无偏性这个标准。
5、设（）是未知参数的估计量，若存在，且对 nXXX,21)( Elw有=，则称是的无偏估计量，称具有无偏性。)( E （2）有效性那么，究竟哪个无偏估计更好、更合理，这就看哪个估计量的观察值更接近真实值的附近，即估计量的观察值更密集的分布在真实值的附近。我们知道，方差是反映随机变量取值的分散程度。所以无偏估计以方差最小者为最好、最合理。为此引入了估计量的有效性概念。设（）与（）都是的无偏 11nXXX,21 22nXXX,21估计量，若有，则称有效。若对的无偏估计都有：)()(21 DD22比 ，则称为的最小方差无偏估计。)()(0 DD0 （3）一致性关于无偏性和有效性是在样本容量固定的条件下
6、提出的，即，我们不仅希望一个估计量是无偏的，而且是有效的，自然希望伴随样本容量的增大，估计值能稳定于待估参数的真值，为此引入一致性概念。设是的估计量，若对，有，则称是 01|limp n 的一致性估计量。3 矩估计3.1 矩估计法的基本思想矩估计法的基本思想矩估计法是英国统计学家 KPearson 提出的，是求估计量的最古老的也是最直观的方法，其基本思想是：由于样本来源于总体，样本矩在一定程度上反映了总体矩，而且由大数定律可知，样本矩依概率收敛于总体矩。因此，只要总体的 k 阶原点矩存在，就可以用样本矩作为相应总体矩的估计量，用样本矩的函数作为总体矩的函数的估计量。例如，用样本均值来估计总体均
7、值，用样本方差来估计总体方差。矩估计法简单、直观，而且不必知道总体的分布类型，所以矩估计法得到了广泛应用。但矩估计法也有局限性，它要求总体以 k 阶原lw点矩存在，否则无法估计，它不考虑总体分布类型，因此也就没有充分利用总体分布函数提供的信息。3.2 矩估计法的定义矩估计法的定义假设为总体的待估参数（） ，),(21kX是来自的一个样本，令),(21nXXXX1122kkAm AmAm 即，l lnil ilEXmXnA 11 kl, 2 , 1得一个包含个未知数的方程组，从中解出的一kk,21),(21k组解，然后用这个方程组的解分别作为),( 21kk,21的估计量，这种估计量称为矩估计量
8、，矩估计量的观察值称为矩估k,21计值。该方法称为矩估计法。3.3 矩估计法的求解过程矩估计法的求解过程（1）总体矩是未知参数的函数。一般来说，总体矩个数合未知参数个数相同：1112221212( ,)( ,)( ,)nnnnn （2）求出未知参数表达式，未知参数为总体矩的函数：1112221212(,)(,)(,)nnnnn lw（3）用样本矩代替相应的总体矩，进而求出未知参数的估计计算式：1112221212(,) (,)(,)nnnnnA AAA AAA AA 3.4 矩估计法的实践应用矩估计法的实践应用例例 1 设总体, 均为未知参数,为样本，求(, )XB M p:,M p12,nX
9、XX的矩估计。,M p解： （1）总体有两个未知参数,且=,=,M pEXMpDX(1)Mpp于是令 )1()1(2 pMpDXnSnMpEXX（2）由上式我们可求得未知参数的表达式,M p22(1)1,(1)1nSpnX XMnS nX （3）用样本矩代替相应的总体矩，得到：2(1)1, nSpnX XMp 对于矩估计问题的实际求解，只要掌握好这三步就可以了。例例 2 设，未知，是的一个样本，求的矩),(kPX),(21nXXXX 估计。解：由，可解得()E X)(XDlw()E XX niiXXnXD12)(1)(由以上可看出，显然是两个不同的统计量，但都是 niiXXnX12)(1与的估
10、计。 3.5 矩估计法的优缺点矩估计法的优缺点通过矩估计法在实际例题中的应用，我们可以发现据估计法最大的优点就是计算简单，但是它也有一些缺点：（1）得到不合理的解如总体服从的均匀分布，由上述矩估计量的求法易知，的矩估X0, 计量是，样本,样本矩为 4，故2X125(,)(1,2,3,5,9)XXX。也就是说，但，该值大于 8，所以的估28X(0,8)XU:59X 8计是不合理的。（2）求矩估计时，不同的做法会得到不同的估计值如 3.4 中的例 2，用两种不同的解法得到了两个不同的估计值。这样，就会给应用带来不便。 niiXXnX12)(1与（3）总体分布的矩不一定存在，所以矩估计法不一定有解例
11、如的概率密度为，总体的一阶矩不存在，X2, ( )(0)0,xxf xx矩估计法也就无解了。4 极大似然估计4.1 极大似然估计法的发展过程与基本思想极大似然估计法的发展过程与基本思想极大似然估计法最早是由 CF.Gauss 提出的，后来 R.A .Fisher 在 1912 年的一篇文章中重新提出，并证明了这个方法的一些性质，极大似然估计这一名称也是由 Fisher（费歇）给出的，这是目前仍得到广泛应用的一种求估计值的方法，lw它建立在极大似然原理的基础上，即：一个随机试验下有若干个可能的结果 A B C，等，如在一次试验中，结果 A 出现了，那么可以认为 P(A)较大。其基本思想是：设总体
12、分布的函数形式已知，但有未知参数，可以取很多值，在的一切可能取值中选一个使样本观察值出现的概率为最大的值作为的估计值，记作，称为的极大似然估计值，这种求估计量的方法称为极大似 然估计法。4.2 极大似然估计法的定义极大似然估计法的定义若总体为离散型，其分布的形式已知，X()()()P Xxp x ；为待估参数，一般地它是向量，其可能取值的范围记为。 设是相应于样本的一个样本值，易知样本12,nx xx12,nXXX取道观测值的概率，亦即事件12,nXXX12,nx xx发生的概率为1122(,)nnXx XxXx12 1( , )( ,; )( ; ),nni iL xL x xxp x.这一
13、概率随的取值而变化，它是的函数，称此函数为样本的似( , )L x然函数。由 R.A .Fisher 引进的极大似然估计法，就是固定样本观测值，12,nx xx在取值的可能范围内挑选使概率达到最大的参数值，作12( ,; )nL x xx为参数的估计值，即取，使1212( ,; )max ( ,; )nnL x xxL x xx 这样得到的与样本值有关，常记为，称为参12,nx xx12( ,)nx xx数的极大似然估计值，而相应的统计量称为参数的极大12(,)nXXX似然估计量，也记为或。 L若总体属连续型，其概率密度函数的形式已知，待估参X( ; )()f x 数的可能取值范围为。设是来自
14、的样本，是12,nXXXX12,nx xx相应的一个样本值，则随机点落在点的微分邻域12(,)nXXX12( ,)nx xxlw（边长分别是的维立方体）内的概率为12,ndx dxdxn， 1212 1( , )( ,; )( ; )nnnii if xdxf x xxdx dxdxf xdx其值随的取值而变化。与离散型的情况一样，我们取的估计值使概率取到最大值，但因子不随而变化，故1212( ,; )nnf x xxdx dxdx1ni idx只需考虑函数12 1( , )( ,; )( ; )ndefni iL xL x xxf x的最大值。这里称为样本的似然函数。若是下式成立，( , )L x12( , )max ( , )max ( ,; ),nL xL xL x xx 则称为的极大似然估计值，而称为的极12( ,)nx xx12(,)nXXX大似然估计量，一般都记为或。 L4.3 极大似然估计法的求解过程极大似然估计法的求解过程（1）在很多情况下，和关于可微，故可先求出似然函数( ;
