《7172参数估计实用教案》由会员分享，可在线阅读，更多相关《7172参数估计实用教案（26页珍藏版）》请在金锄头文库上搜索。
1、这类问题这类问题(wnt)称为参数估计称为参数估计参数估计问题的一般(ybn)提法X1,X2,Xn要依据该样本对参数 作出估计，或估计的某个已知函数 g(). .现从该总体抽样，得样本设有一个统计总体，总体的分布函数向量) . 为 F(x, )，其中 为未知参数 ( 可以是点估计区间(q jin)估计第1页/共25页第一页，共26页。估计(gj) 为1.68，（假定身高服从正态分布 ） 设这5个数是:1.65 1.67 1.68 1.78 1.69这是点估计.这是区间(q jin)估计.估计在区间1.57, 1.84内，假如(jir)我们要估计某队男生的平均身高. 现从该总体选取容量为5的样本
2、，我们的任务是要根据选出的样本（5个数）求出总体均值 的估计. 而全部信息就由这5个数组成 .第2页/共25页第二页，共26页。寻求寻求(xnqi)估计估计量的方法量的方法1. 矩估计(gj)法2. 极大(j d)似然法3. 最小二乘法4. 贝叶斯方法这里我们主要介绍前面两种方法 .第3页/共25页第三页，共26页。矩估计(gj)法 其基本(jbn)思想是用样本矩估计总体矩 . 理论依据: 它是基于一种简单的“替换”思想建立(jinl)起来的一种估计方法 .是英国统计学家K.皮尔逊最早提出的 .大数定律第4页/共25页第四页，共26页。记总体k阶矩为用相应的样本矩去估计总体矩的估计方法(fng
3、f)就称为矩估计法.记总体k阶中心矩为样本(yngbn)k阶中心矩为样本k阶矩为第5页/共25页第五页，共26页。求矩估计求矩估计(gj)的方法的方法参数参数则则（1）一般一般(ybn)都是这都是这个未知参数的函数个未知参数的函数,（*）（2）设总体设总体的分布函数的分布函数中含有中含有 个未知个未知的前的前 阶矩阶矩求总体求总体记为记为从从(*)中解得中解得（3）的估计量的估计量分别代替上式分别代替上式再用再用第6页/共25页第六页，共26页。求矩估计求矩估计(gj)的方法的方法（3）的估计量的估计量分别代替上式分别代替上式再用再用即可得即可得的矩估计量：的矩估计量：注注：求求类似类似(li
4、 s)于上述步骤，于上述步骤，最后用最后用代替代替求出矩估计求出矩估计(gj)的的中中第7页/共25页第七页，共26页。例例1设总体设总体的概率密度为的概率密度为其中其中是未知参数是未知参数, ,样本样本(yngbn),求参数求参数的矩估计的矩估计.解解数学数学(shxu)期望是一阶原点矩期望是一阶原点矩是取自是取自的其样本矩为其样本矩为而而即为即为的矩的矩估计(gj).第8页/共25页第八页，共26页。例例2设总体设总体的均值的均值及方差及方差都存在都存在, ,但但均为未知均为未知, , 又设又设是来自是来自的样的样试求试求的矩估计量的矩估计量.解解得到得到(d do)以以代替代替得得和和的
5、矩估计量分别为的矩估计量分别为且有且有本,注注:本例表明本例表明(biomng),总体(zngt)均值与方差的矩估计量的表达式不因不同的总体公布而异不因不同的总体公布而异. .第9页/共25页第九页，共26页。例例2 设总体设总体的均值的均值及方差及方差都存在都存在, ,但但均为未知均为未知, , 又设又设是来自是来自的样的样试求试求的矩估计量的矩估计量.解解得到得到(d do)以以代替代替得得和和的矩估计量分别为的矩估计量分别为且有且有本,注注:本例表明本例表明(biomng),总体(zngt)均值与方差的矩估计量的表达式不因不同的总体公布而异不因不同的总体公布而异. .如如, ,的矩估计量
6、为的矩估计量为则未知未知, ,第10页/共25页第十页，共26页。 矩法的优点是简单易行矩法的优点是简单易行,并不需并不需要事先知道总体是什么要事先知道总体是什么(shn me)分分布布 . 缺点是，当总体类型已知时，没有 充分利用分布提供的信息(xnx) . 一般场合下,矩估计量不具有唯一性 . 其主要原因在于建立矩法方程时，选取那些(nxi)总体矩用相应样本矩代替带有一定的随意性 .第11页/共25页第十一页，共26页。7.27.2极大极大(j d)(j d)似似然估计然估计第12页/共25页第十二页，共26页。极大极大(j d)似然法似然法 是在总体(zngt)类型已知条件下使用的一种参
7、数估计方法 . 它首先(shuxin)是由德国数学家高斯在1821年提出的 , GaussFisher然而，这个方法常归功于英国统计学家费歇 . 费歇在1922年重新发现了 这一方法，并首先研究了这 种方法的一些性质 .第13页/共25页第十三页，共26页。 极大极大(j d)似然法的基本思想似然法的基本思想 先看一个简单(jindn)例子：一只野兔(yt)从前方窜过 .是谁打中的呢？某位同学与一位猎人一起外出打猎 .如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下 .第14页/共25页第十四页，共26页。 下面我们再看一个例子,进一步体会(thu)极大似然法的基本思想 . 你就会想，只
8、发一枪便打中你就会想，只发一枪便打中,猎人命中的猎人命中的概率一般大于这位同学概率一般大于这位同学(tng xu)命中的概率命中的概率. 看来这一枪是猎人射中的看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了极大(j d)似然法的基本思想 .第15页/共25页第十五页，共26页。 例例1 设设XB(1,p), p未知未知.设想我们事先设想我们事先知道知道p只有只有(zhyu)两种可能两种可能:问:应如何(rh)估计p?p=0.7 或 p=0.3如今(rjn)重复试验3次,得结果: 0 , 0, 0由概率论的知识, 3次试验中出现“1”的次数k=0,1,2,3第16页/共25页第十六页，
9、共26页。 将计算结果列表将计算结果列表(li bio)如下：如下：应如何(rh)估计p?p=0.7 或 p=0.3k=0,1,2,3p值值P(Y=0) P(Y=1) P( Y=2) P(Y=3) 0.70.027 0.189 0.441 0.343 0.30.343 0.441 0.189 0.027出现(chxin)估计出现出现出现估计估计估计0.3430.4410.4410.343第17页/共25页第十七页，共26页。如果有如果有p1,p2,pm可供选择可供选择, 又如何又如何(rh)合理地选合理地选p呢呢?从中选取从中选取(xunq)使使Qi 最大的最大的pi 作为作为p的估计的估计.
10、i=1,2,m则估计(gj)参数p为 若重复进行试验n次,结果“1”出现k次(0 k n), 我们计算一切可能的 P(Y=k; pi )=Qi ， i=1,2,m时Qi 最大,比方说,当第18页/共25页第十八页，共26页。 如果如果(rgu)只知道只知道0p1,并且实测记并且实测记录是录是 Y=k (0 k n),又应如何估计又应如何估计p呢呢?注意(zh y)到是p的函数,可用求导的方法(fngf)找到使f (p)达到极大值的p .但因f (p)与lnf (p)达到极大值的自变量相同,故问题可转化为求lnf (p)的极大值点 .=f (p)第19页/共25页第十九页，共26页。 以上这种选
11、择一个参数使得(sh de)实验结果具有最大概率的思想就是极大似然法的基本思想 .求未知参数求未知参数的最大似然估计，的最大似然估计，归结为求似然归结为求似然函数函数的最大值点的问题的最大值点的问题.主要主要(zhyo)步骤：步骤：（1）（2）求出驻点求出驻点(zh din)；写出似然函数写出似然函数或或令令(3)在最大值点的表达式中在最大值点的表达式中,用样本值代入即得参数的最大估计值用样本值代入即得参数的最大估计值. 判断并求出最大值点判断并求出最大值点,第20页/共25页第二十页，共26页。例例2个样本个样本(yngbn),试求参数试求参数的最大似然估计的最大似然估计. .解解设设是是的
12、一个样本值的一个样本值, ,的分布的分布(fnb)律为律为故似然函数故似然函数(hnsh)为为设设是取自总体是取自总体的一而而第21页/共25页第二十一页，共26页。例例2个样本个样本(yngbn),试求参数试求参数的最大似然估计的最大似然估计. .解解设设是取自总体是取自总体的一令令解得解得的最大似然估计值的最大似然估计值而而从而从而的最大似然估计量的最大似然估计量第22页/共25页第二十二页，共26页。例例3 设总体设总体服从服从上的均匀分布上的均匀分布, ,为为的样本的样本, ,为样本值为样本值, , 试求试求的最大似然估的最大似然估解解似然函数似然函数(hnsh)因因不可导不可导, ,
13、 可按最大似然法的基本思想确定可按最大似然法的基本思想确定欲使欲使最大最大, ,应尽量小但又不能太小应尽量小但又不能太小,时满足时满足(mnz)即即计.它必须(bx)同否则否则而而不可能是不可能是的最大值的最大值.因此因此, ,可达最大可达最大. .时时, ,当第23页/共25页第二十三页，共26页。例例3 设总体设总体(zngt)服从服从(fcng)上的均匀分布上的均匀分布, ,为为的样本的样本(yngbn),为样本值为样本值, ,试求试求的最大似然估的最大似然估解解计.否则否则而而不可能是不可能是的最大值的最大值.因此因此, ,时时, ,可达最大可达最大. .当所以所以的最大似然估计值与最
14、大似然估计量分别为的最大似然估计值与最大似然估计量分别为第24页/共25页第二十四页，共26页。谢谢大家(dji)观赏！第25页/共25页第二十五页，共26页。内容(nirng)总结这类问题称为参数估计。作出估计，或估计。第1页/共25页。其基本思想是用样本矩估计总体矩 .。它是基于一种简单的“替换”思想建立起来的一种估计方法 .。是英国统计学家K.皮尔逊最早提出的 .。第5页/共25页。总体均值与方差的矩估计量的表达式。矩法的优点是简单易行,并不需要事先知道总体是什么分布 .。缺点是，当总体类型已知时，没有。这个例子所作的推断已经体现(txin)了极大似然法的基本思想 .。如果有p1,p2,。谢谢大家观赏第二十六页，共26页。
