《《点估计量的求法》PPT课件.ppt》由会员分享,可在线阅读,更多相关《《点估计量的求法》PPT课件.ppt(46页珍藏版)》请在金锄头文库上搜索。
1、第第2 2.2.2节节 点估计量的求法点估计量的求法一、矩估计法一、矩估计法二、最大似然估计法二、最大似然估计法三、用次序统计量估计参数的方法三、用次序统计量估计参数的方法一、矩估计法一、矩估计法 由于估计量是样本的函数由于估计量是样本的函数, 是随机变量是随机变量, 故故对不同的样本值对不同的样本值, 得到的参数值往往不同得到的参数值往往不同, 因此因此如何求得参数如何求得参数 的估计量便是问题的关键所在的估计量便是问题的关键所在.常用构造估计量的方法常用构造估计量的方法: (三种三种)1. 矩估计法矩估计法2. 最最(极极)大似然估计法大似然估计法.3. 次序统计量估计法次序统计量估计法1
2、. 矩估计法矩估计法 基本思想基本思想:用:用样本矩样本矩估计估计总体矩总体矩 . 理论依据理论依据: : 或格列汶科定理或格列汶科定理 它是基于一种简单的它是基于一种简单的“替换替换”思思想建立起来的一种估计方法想建立起来的一种估计方法 .是英国统计学家是英国统计学家K.皮尔逊最早提出的皮尔逊最早提出的 .大数定律大数定律记总体记总体k阶原点矩为阶原点矩为样本样本k阶原点矩为阶原点矩为记总体记总体k阶中心矩为阶中心矩为样本样本k阶中心矩为阶中心矩为 用样本矩来估计总体矩用样本矩来估计总体矩, , 用样本矩的连续函用样本矩的连续函数来估计总体矩的连续函数数来估计总体矩的连续函数, , 这种估计
3、法称这种估计法称为矩估计法为矩估计法. .矩估计法的具体步骤矩估计法的具体步骤:设总体设总体 X 的分布函数为的分布函数为m个待估参数个待估参数 (未知未知)为来自总体为来自总体X的简单随机样本的简单随机样本.矩估计量的观察值称为矩估计值矩估计量的观察值称为矩估计值.注注解解根据矩估计法根据矩估计法,例例1解解例例2解方程组得到解方程组得到a, b的矩估计量分别为的矩估计量分别为解解解方程组得到矩估计量分别为解方程组得到矩估计量分别为例例3上例表明上例表明: 总体均值与方差的矩估计量的表达式不因不总体均值与方差的矩估计量的表达式不因不同的总体分布而异同的总体分布而异.一般地一般地: :例例4
4、设总体设总体X的分布密度为的分布密度为为来自总体为来自总体X的样本的样本. 求参数求参数 的矩估计量的矩估计量.分析:分析:一般地,一般地,只需要求:只需要求: 的矩估计量的矩估计量.不含有不含有 ,故不能由此得到故不能由此得到 的矩估计量的矩估计量.解解(方法方法1) 要求:要求: 的矩估计量的矩估计量(方法方法2) 要求:要求: 的矩估计量:的矩估计量:注注此例表明:同一参数的矩估计量可不唯一此例表明:同一参数的矩估计量可不唯一.例例5(p43例例2.9)解解建立方程建立方程求解方程可得求解方程可得 矩法的矩法的优点:优点:简单易行简单易行, 并不需要事先并不需要事先 知道总体是什么分布知
5、道总体是什么分布 .缺点:缺点:当总体类型已知时,没有当总体类型已知时,没有 充分利用分布提供的信息充分利用分布提供的信息. 一般场合下一般场合下, 矩估计量不矩估计量不 具有唯一性具有唯一性 . 其主要原因在于建立矩法方程时,选取那些其主要原因在于建立矩法方程时,选取那些总体矩用相应样本矩代替带有一定的随意性总体矩用相应样本矩代替带有一定的随意性 .小结:小结:二二 、最大似然估计法、最大似然估计法 最最大大似似然然估估计计法法是是在在总总体体类类型型已已知知条条件件下下使用的一种参数估计方法使用的一种参数估计方法 . 它首先是由德国数学家它首先是由德国数学家高斯在高斯在1821年提出的年提
6、出的 , GaussFisher 然而,这个方法常归功于然而,这个方法常归功于英国统计学家英国统计学家Fisher . Fisher在在1921年重新发现了年重新发现了这一方法,并首先研究了这种方这一方法,并首先研究了这种方法的一些性质法的一些性质 .Fisher资料资料 先看一个简单例子:先看一个简单例子:一只野兔从前方窜过一只野兔从前方窜过 .是谁打中的呢?是谁打中的呢?某位同学与一位猎人一起外某位同学与一位猎人一起外出打猎出打猎 .如果要你推测,如果要你推测,你会如何想呢你会如何想呢?只听一声枪响,野兔应声倒下只听一声枪响,野兔应声倒下 .1 最大似然法的基本思想最大似然法的基本思想 你
7、就会想,只发一枪便打中你就会想,只发一枪便打中,猎人命中的猎人命中的概率一般大于这位同学命中的概率概率一般大于这位同学命中的概率. 看来这一看来这一枪是猎人射中的枪是猎人射中的 . 这个例子所作的推断已经体现了这个例子所作的推断已经体现了最大似然最大似然法法的基本思想的基本思想 . 设设 XB(1, p), p未知未知. 设想我们事先知道设想我们事先知道 p 只有两种可能只有两种可能:问问: 应如何估计应如何估计p?p=0.7 或或 p=0.3如今重复试验如今重复试验3次次,得结果得结果: 0 , 0, 0由概率论的知识由概率论的知识, 3次试验中出现次试验中出现“1”的次数的次数(k=0,
8、1, 2, 3)引例引例(k=0, 1, 2, 3)Y0 1 2 3 0.343 0.441 0.189 0.0270.027 0.189 0.441 0.343依题设,依题设,“重复试验重复试验3次次, 得结果得结果: 0 , 0, 0”应如何估计应如何估计p?p=0.7 还是还是 p=0.3 ?2 2 似然函数似然函数最大似然估计法最大似然估计法似然函数的定义似然函数的定义3.3.求最大似然估计的步骤求最大似然估计的步骤 最大似然估计法也适用于分布中含有多个最大似然估计法也适用于分布中含有多个未知参数的情况未知参数的情况. 此时只需令此时只需令对数似然方程组对数似然方程组对数似对数似然方程
9、然方程 解解例例6(p466(p46例例2 2.12).12)这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的. 解解X 的的似然函数为似然函数为例例7(p477(p47例例2 2.13).13)它们与相应的矩它们与相应的矩估计量相同估计量相同.例例8(p478(p47例例2 2.14).14)设总体设总体X服从柯西分布,其分布密度为服从柯西分布,其分布密度为解解由分布可知,其似然函数为由分布可知,其似然函数为此方程只能求解其数值解,可以以样本中位数为初始此方程只能求解其数值解,可以以样本中位数为初始值进行迭代。又因为此分布均值不存在,不可用矩估计值进行迭代。又因为此分布均值不存在,不
10、可用矩估计.解解例例9(p48例例2.15)4.4. 最大似然估计的性质最大似然估计的性质定理定理2.4 此性质可以推广到总体分布中含有多个未知此性质可以推广到总体分布中含有多个未知参数的情况参数的情况.例例10(p4810(p48例例2 2.16).16)解解定理定理2.5证证由因子分解定理可知由因子分解定理可知注注 该定理说明最大似然估计充分利用了样本该定理说明最大似然估计充分利用了样本中包含的参数的信息,因而是一种比较好的估计,中包含的参数的信息,因而是一种比较好的估计,通常情况下,最大似然估计不仅是相合估计,而通常情况下,最大似然估计不仅是相合估计,而且是渐近正态估计且是渐近正态估计.
11、三、用次序统计量估计参数的方法三、用次序统计量估计参数的方法1.1. 用样本中位数与样本极差估计参数用样本中位数与样本极差估计参数 由由1.4节可知,由于样本中位数与样本极差计算方节可知,由于样本中位数与样本极差计算方便,因而通常情况下,可以用样本中位数估计总体期望,便,因而通常情况下,可以用样本中位数估计总体期望,用样本极差估计总体的标准差。用样本极差估计总体的标准差。 定理定理2 2.6.6因此因此例例10 (p51例例2.18)某维尼纶厂某维尼纶厂20天内生产正常,天内生产正常,随机的抽样得到随机的抽样得到20个纤度数值,等分成个纤度数值,等分成4组,每组组,每组5个数值,如下表:个数值,如下表:极差极差R11.361.491.431.411.370.1321.401.321.421.471.390.1531.411.361.401.341.420.0841.421.451.351.421.390.10假设纤度服从正态分布,试估计总体的标准差。假设纤度服从正态分布,试估计总体的标准差。解解计算平均极差计算平均极差显然两种估计结果极为接近,但极差形式简单显然两种估计结果极为接近,但极差形式简单.再再 见见