《参数估计课件》由会员分享，可在线阅读，更多相关《参数估计课件（75页珍藏版）》请在金锄头文库上搜索。
1、 第七章第七章 参数估计参数估计2021/6/161XP(),XE(),XN(,2)用所获得的样本值去估计参数取值称为参数估计参数估计.参参数数估估计计点估计点估计区间估计区间估计用某一数值作为用某一数值作为参数的近似值参数的近似值在要求的精度范围内在要求的精度范围内指出参数所在的区间指出参数所在的区间 参数估计的基本思想参数估计的基本思想2021/6/1621 参数的点估计参数的点估计2021/6/1631.1 矩估计法矩估计法 设设(X(X1 1,X,X2 2,X,Xn n) )是来自总体是来自总体X X的一个样本的一个样本, ,根据根据大数定律大数定律, ,对任意对任意0,0,有有并且对
2、于任何并且对于任何k,k,只要只要E(XE(Xk k) )存在存在, ,同样有同样有因此因此, ,很自然地想到用样本矩来代替总体矩很自然地想到用样本矩来代替总体矩, ,从而从而得到总体分布中参数的一种估计得到总体分布中参数的一种估计. .2021/6/164 定义：用样本矩来代替总体矩定义：用样本矩来代替总体矩, ,从而得到总体从而得到总体分布中参数的一种估计分布中参数的一种估计. .这种估计方法称为这种估计方法称为矩法估矩法估计计. .它的思想实质是用样本的经验分布和样本矩去它的思想实质是用样本的经验分布和样本矩去替换总体的分布和总体矩替换总体的分布和总体矩. .今后称之为今后称之为替换原则
3、替换原则. . 设总体设总体X X具有已知类型的概率函数具有已知类型的概率函数p(x;p(x;1 1,k k), (), (1 1,k k)是是k k个未知参数个未知参数. .(X(X1 1,X,X2 2,X,Xn n) )是来自总体是来自总体X X的一个样本的一个样本. .假若假若X X的的k k阶阶矩矩k k=E(X=E(Xk k) )存在存在, ,则对于则对于ik, E(Xik, E(Xi i) )都存在都存在, ,并且并且是是(1 1,k k) )的函数的函数i i (1 1,k k).).2021/6/165得到含有未知参数得到含有未知参数(1 1,k k) )的的k k个方程个方程
4、. .解这解这k k个联立方程组就可以得到个联立方程组就可以得到(1 1,k k) )的一组解的一组解: :用上面的解来估计参数用上面的解来估计参数i i就是矩法估计就是矩法估计. .2021/6/166解解 总体X的期望为 从而得到方程 所以的矩估计量为 2021/6/167解解 其概率密度函数为 总体X的期望为 从而得到方程 所以的矩估计量为 2021/6/168解解 由于 故令 2021/6/169例例 : 设某炸药厂一天中发生着火现象的次数X服从 解解 2021/6/1610 矩法的优点矩法的优点是简单易行是简单易行, 并不需要事先知道总体并不需要事先知道总体是什么分布。是什么分布。缺
5、缺点点是是，当当总总体体类类型型已已知知时时，没没有有充充分分利利用用分分布布提提供供的的信信息息。一一般般场场合合下下, 矩矩估估计计量量不不具具有有唯唯一一性。性。其主要原因在于建立矩法方程时，选取那些总体其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性。矩用相应样本矩代替带有一定的随意性。2021/6/1611它它是是在在总总体体类类型型已已知知条条件件下下使使用用的的一一种种参参数数估估计方法计方法 。它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的。年提出的。GaussFisher 然而然而, 这个方这个方法常归功于英国统计学家法常归功
6、于英国统计学家费歇费歇。 费歇费歇在在1922年重新发现了这一年重新发现了这一方法，并首先研究了这种方法方法，并首先研究了这种方法的一些性质。的一些性质。1.2最大似然法最大似然法2021/6/1612最大似然法的基本思想最大似然法的基本思想先看一个简单例子：先看一个简单例子：是谁打中的呢？是谁打中的呢？某位同学与一位猎人一起外出打某位同学与一位猎人一起外出打猎。一只野兔从前方窜过。猎。一只野兔从前方窜过。如果要你推测，如果要你推测，你会如何想呢你会如何想呢? ?只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下 。2021/6/1613你就会想，只发一枪便打中，猎人命中的概率一你就会想，只
7、发一枪便打中，猎人命中的概率一般大于这位同学命中的概率。看来这一枪是猎人般大于这位同学命中的概率。看来这一枪是猎人射中的。射中的。 这个例子所作的推断已经体现了最大似然法的基这个例子所作的推断已经体现了最大似然法的基本思想本思想 ：一次试验就出现的事件有较大的概率。一次试验就出现的事件有较大的概率。 2021/6/16142021/6/16152021/6/1616令2021/6/16172021/6/1618求极大似然估计的一般步骤归纳如下： 2021/6/1619 例例:设随机变量X服从泊松分布:其中0是一未知参数,求的极大似然估计.解解 设(x1,x2,xn)是样本 (X1,X2,Xn)
8、的一组观测值.于是似然函数两边取对数得2021/6/1620从而得出的极大似然估计量为 解这一方程得2021/6/1621解解 总体X服从参数为的指数分布，则有 所以似然函数为 2021/6/1622取对数 令 解得的极大似然估计值为 极大似然估计量为 2021/6/1623 例例:设(X1,X2,Xn)是来自正态总体N(,2)的一个样本,其中,2是未知参数,参数空间=- 0.求与2的极大似然估计.解解 正态分布的似 然函数为两边取对数得2021/6/1624由微积分知识易验证以上所求为与2的极大似然估计.分别求关于与2的偏导数,得似然方程组解这一方程组得2021/6/1625 例例:设总体X
9、具有均匀分布,其概率密度函数为求未知参数的极大似然估计.解解 设 (X1,X2,Xn)是来自总体X的一个样本.似然函数为 要使L(; x1,x2,xn)达到最大,就要使达到最小,由于所以的极大似然估计值为：参数的极大似然估计量为：2021/6/16262估计量的评选标准估计量的评选标准 对于总体的同一个未知参数，由于对于总体的同一个未知参数，由于采用的估计方法不同，可能会产生采用的估计方法不同，可能会产生多个不同的估计量。这就提出了一多个不同的估计量。这就提出了一个问题，当总体的同一个参数存在个问题，当总体的同一个参数存在不同的估计量时，究竟采用哪一个不同的估计量时，究竟采用哪一个更好？这涉及
10、到用什么样的标准来更好？这涉及到用什么样的标准来评价估计量的好坏问题，对此，我评价估计量的好坏问题，对此，我们介绍几个常用的评价标准：们介绍几个常用的评价标准：无偏无偏性性、有效性有效性和和一致性一致性。2021/6/16272.1无偏性无偏性 在评价一个估计量的好坏时,我们当然希望估计量与被估参数越接近越好.但估计量是一个随机变量,它的取值随样本的观测值而变,有时与被估参数的真值近些,有时远些,我们只能从平均意义上看估计量是否与被估参数尽量接近,最好是等于被估参数.于是有无偏估计量的概念.2021/6/1628 例例:设总体X具有均匀分布,其密度函数为解解用矩法估计得求的无偏估计.总体X的均
11、值2021/6/1629 例例:设总体X的k阶矩E(Xk)存在,证明样本的k阶矩是E(Xk)的无偏估计.证明证明所以,证明样本的k阶矩是E(Xk)的无偏估计.因为2021/6/1630 例例:设总体的方差D(X)存在,试证样本二阶中心矩B2是总体方差D(X)的有偏估计.证明证明所以,B2是总体方差D(X)的有偏估计. 注注:2021/6/16312.2有效性有效性 一个参数的无偏估计量不是唯一的,假若参数有两个无偏估计量 ,我们认为其观测值更密集在参数真值附近的一个较为理想.由于方差是随机变量取值与其数学期望的偏离程度的度量,所以无偏估计以方差小者为好.这就引出了估计量的有效性这一概念. 20
12、21/6/1632证明证明 由于总体服从泊松分布，故 于是有 2021/6/1633同理 但是 2021/6/1634 例例:设(X1,X2, X3)是来自总体X的一个样本,证明下面的三个估计量都是总体均值E(X)的无偏估计量证明证明2021/6/16352.3一致性一致性 估计量的无偏性和有效性都是在样本容量固定的前提下提出的.我们自然希望随着样本容量的增大,一个估计量的值稳定于待估参数的真值.这就对估计量提出了一致性的要求.2021/6/16362021/6/16373参数的区间估计参数的区间估计 点估计有使用方便、直观等优点点估计有使用方便、直观等优点, ,但他并没有提供但他并没有提供关
13、于估计精度的任何信息关于估计精度的任何信息, ,为此提出了未知参数的为此提出了未知参数的区间估计法区间估计法. .例例 对明年小麦的亩产量作出估计为:即即 若设X表示明年小麦亩产量,则估计结果为P(800X1000)=80%明年小麦亩产量八成为明年小麦亩产量八成为800-1000斤斤.区间估计区间估计2021/6/16382021/6/16392021/6/16402021/6/16412021/6/16422021/6/16432021/6/1644这时必有 2021/6/16453.1正态总体均值正态总体均值的区间估计的区间估计 2021/6/16463.1.1方差已知时均值的区间估计方差
14、已知时均值的区间估计由总体服从正态分布可得 0a/2za/2a/2-za/22021/6/1647得到 从而 2021/6/1648 例例:设轴承内环的锻压零件的平均高度X服从正态分布N(,0.42).现在从中抽取20只内环,其平均高度为32.3毫米.求内环平均高度的置信度为95%的置信区间.解解2021/6/1649解解 经计算可得 查表得 从而 故所求置信区间为 2021/6/1650例例: 已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为： 115,120,131,115,109,115,115,105,110cm;解解 2021/6/16513.1.2方差未知
15、时均值的区间估计2021/6/16520a/2a/2-ta/2(n-1)ta/2(n-1)2021/6/1653解解 经计算得 查表可得 从而所以的置信度为0.99置信区间是2021/6/1654例例: 用仪器测量温度，重复测量7次，测得温度分别为： 115,120,131,115,109,115,115,105,110cm; 设温度解解 2021/6/16553.2正态总体方差的区间估计正态总体方差的区间估计 3.2.1均值已知时方差的区间估计2021/6/1656a/2a/22021/6/16573.2.2均值未知时方差的区间估计2021/6/1658a/2a/22021/6/1659解解
16、 由题意得 查表得 算得 所求置信区间为(0.038,0.506)2021/6/1660例例: 设某机床加工的零件长度今抽查16个零件，测得长度（单位：mm）如下：12.15, 12.12, 12.01, 12.08, 12.09, 12.16, 12.03, 12.01, 12.06, 12.13, 12.07, 12.11, 12.08, 12.01, 12.03, 12.06,在置信度为95%时，试求总体方差 的置信区间.解解2021/6/16613.3两个正态总体均值差的区间估计两个正态总体均值差的区间估计 2021/6/1662由于样本函数 其中 对于给定的置信度1-有即 置信区间为 2021/6/16632021/6/1664解解 求得 2021/6/1665由于样本函数 2021/6/16662021/6/1667解解 求得 2021/6/16683.4 两个正态总体方差之比的区间估计两个正态总体方差之比的区间估计 2021/6/16692021/6/1670解解 求得 查表得 计算得2021/6/16713.5 单侧置信区间单侧置信区间 2021/6/16722021/6/1673解解 此时 于是 2021/6/1674 结束语结束语若有不当之处，请指正，谢谢！若有不当之处，请指正，谢谢！
