《概率论-参数估计课件》由会员分享，可在线阅读，更多相关《概率论-参数估计课件（44页珍藏版）》请在金锄头文库上搜索。
1、 第 七 章 参 数 估 计第第7.17.1节节 参数的点估计参数的点估计一、点估计问题的提法一、点估计问题的提法二、估计量的求法二、估计量的求法三、小结三、小结 现在我们来介绍一类重要的统计推断问题现在我们来介绍一类重要的统计推断问题 参数估计问题是利用从总体抽样得到的信息参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数来估计总体的某些参数或者参数的某些函数. 参数估计参数估计估计废品率估计废品率估计新生儿的平均体重估计新生儿的平均体重估计湖中鱼数估计湖中鱼数 估计平均降雨量估计平均降雨量 在参数估计问题中，假定总体分布在参数估计问题中，假定总体分布形式已知，未知
2、的仅仅是一个或几个形式已知，未知的仅仅是一个或几个参数参数.这类问题称为参数估计这类问题称为参数估计.参数估计问题的一般提法参数估计问题的一般提法X1, X2, , Xn要依据该样本对参数要依据该样本对参数作出估计，或估计作出估计，或估计的某个已知函数的某个已知函数 .现从该总体中抽取样本现从该总体中抽取样本设有一个统计总体，总体的分布函数设有一个统计总体，总体的分布函数向量向量) . 为为 F(x, )，其中其中 为未知参数为未知参数 ( 可以是可以是参数估计参数估计点估计点估计区间估计区间估计一、点估计问题的提法一、点估计问题的提法 设总体设总体X的分布函数形式已知的分布函数形式已知, 但
3、它的一但它的一个或多个参数为未知个或多个参数为未知, 借助于总体借助于总体X的一个样的一个样本来估计总体未知参数的问题称为本来估计总体未知参数的问题称为点估计问点估计问题题.解解例例1二、估计量的求法二、估计量的求法 由于估计量是样本的函数由于估计量是样本的函数, 是随机变量是随机变量, 故故对不同的样本值对不同的样本值, 得到的参数值往往不同得到的参数值往往不同, 求估求估计量的问题是关键问题计量的问题是关键问题.估计量的求法估计量的求法: (两种两种)矩估计法和最大似然估计法矩估计法和最大似然估计法.一、一、 矩估计法矩估计法 其基本思想是用样本矩估计总体矩其基本思想是用样本矩估计总体矩
4、. 理论依据理论依据: 它是基于一种简单的它是基于一种简单的“替换替换”思想建立起来的一种估计方思想建立起来的一种估计方法法 .是英国统计学家是英国统计学家K.皮尔逊最早提出的皮尔逊最早提出的 .大数定律大数定律设设 X1, X2, , Xn 来自总体来自总体X的样本的样本记总体记总体k阶矩为阶矩为样本样本k阶矩为阶矩为 用样本矩来估计总体矩用样本矩来估计总体矩,用样本矩的连续函数用样本矩的连续函数来估计总体矩的连续函数来估计总体矩的连续函数,从而得出参数估计，从而得出参数估计，这种估计法称为矩估计法这种估计法称为矩估计法.记总体记总体k阶中心矩为阶中心矩为样本样本k阶中心矩为阶中心矩为那么用
5、诸那么用诸 的估计量的估计量 Ai分别代替上式分别代替上式中的诸中的诸 , 即可得诸即可得诸 的矩估计量的矩估计量 ：设总体的分布函数中含有设总体的分布函数中含有k个未知参数个未知参数 都是这都是这k个参数的函数个参数的函数,记为：记为：,那么它的前那么它的前k阶矩阶矩一般一般i=1,2,k从这从这k个方程中解出个方程中解出j=1,2,kj=1,2,k矩估计法的具体步骤矩估计法的具体步骤:矩估计量的观察值称为矩估计值矩估计量的观察值称为矩估计值.例例 2 设总体设总体 服从泊松分布服从泊松分布 ， 求参数求参数 的估计量的估计量.解：解：设设 是总体是总体 的一个的一个样本样本,由于由于 ,可
6、得可得 解解例例3解方程组得到解方程组得到a, b的矩估计量分别为的矩估计量分别为解解例例4解解解方程组得到矩估计量分别为解方程组得到矩估计量分别为例例5上例表明上例表明: 总体均值与方差的矩估计量的表达式，不因总体均值与方差的矩估计量的表达式，不因不同的总体分布而异不同的总体分布而异.一般地一般地: 矩法的优点是简单易行矩法的优点是简单易行, 缺点是，当总体类型已知时，没有缺点是，当总体类型已知时，没有 充分利用分布提供的信息充分利用分布提供的信息 . 一般场合下一般场合下,矩估计量不具有唯一性矩估计量不具有唯一性 . 例例6 设总体设总体 的分布密度为的分布密度为 为总体为总体 的样本的样
7、本,求参数求参数 的矩估的矩估 计量计量. 解解：由于：由于 只含有一个未知参数只含有一个未知参数 ，一般只，一般只需求出需求出 便能得到便能得到 的矩估计量，但是的矩估计量，但是 即即 不含有不含有 ,故不能由此得到故不能由此得到 的矩估的矩估计量计量.为此为此, 求求 故令故令 于是解得于是解得 的矩估计量为的矩估计量为 本例本例 的矩估计量也可以这样求得的矩估计量也可以这样求得 故令故令 即即 的矩估计量为的矩估计量为 该例表明参数的矩估计量不唯一该例表明参数的矩估计量不唯一 二、二、 最大（极大）似然估计法最大（极大）似然估计法最最大大似似然然法法是是在在总总体体类类型型已已知知条条件
8、件下下使使用用的一种参数估计方法的一种参数估计方法 . 它首先是由德国数学家它首先是由德国数学家高斯在高斯在1821年提出的年提出的 ,然而，然而，GaussFisher这个方法常归功于英国统这个方法常归功于英国统计学家费歇计学家费歇 . 费歇在费歇在1922年重新发现了年重新发现了 这一方法，并首先研究了这这一方法，并首先研究了这 种方法的一些性质种方法的一些性质 .（或分（或分1.似然函数似然函数设总设总体体X的分布律的分布律为为，其中，其中是未知参数，是未知参数，是是总总体体X的一个的一个样样为为 布密度为布密度为 ）本，则样本本，则样本，当，当给给定定样样本本值值后，它只是参数后，它只
9、是参数的函数，的函数，记为记为即即的分布律的分布律则则称称为为似然函数。似然函数似然函数。似然函数实质实质上上是样本的分布律或分布密度。是样本的分布律或分布密度。2.最大似然估最大似然估计计法法最大似然估最大似然估计计法，是建立在最大似然法，是建立在最大似然原理的基原理的基础础上的求点估上的求点估计计量的方法。最量的方法。最大似然原理的直大似然原理的直观观想法是：在想法是：在试验试验中概中概率最大的事件最有可能出率最大的事件最有可能出现现。因此，一。因此，一个个试验试验如有若干个可能的如有若干个可能的结结果果 若在一次若在一次试验试验中中，结结果果 出出现现，则则一般一般出出现现的概率最大。的
10、概率最大。认为认为定义定义6.1设总体设总体 的分布密度（或分布律）为的分布密度（或分布律）为 ，其中，其中 为未知参为未知参数。又设数。又设 是总体是总体 的一个样的一个样本值，如果似然函数本值，如果似然函数（6.1） 替替换换成成样样本本分分别为别为似然估似然估计值计值。需要注意的是，最大似然估需要注意的是，最大似然估计值计值依依赖赖于于样样本本值值，即，即 若将上式中若将上式中样样本本值值则则所得的所得的 的最大的最大 称称为为参数参数的最大似然估的最大似然估计计量。量。 由于由于而而与与在同一在同一 处达到处达到最大最大值值，为为最大似然估最大似然估计计的必要条件的必要条件为为 称它称
11、它为为似然方程，其中似然方程，其中（6.2）因此，因此，求最大似然估计量的一般步骤为求最大似然估计量的一般步骤为： （1）求似然函数求似然函数（2）一般地，求出一般地，求出及似然方程及似然方程 （3）解似然方程得到最大似然估解似然方程得到最大似然估计值计值 （4）最后得到最大似然估最后得到最大似然估计计量量 解解似然函数似然函数例例1 1这一估计量与矩估计量是相同的这一估计量与矩估计量是相同的.解解X 的的似然函数为似然函数为例例2它们与相应的矩它们与相应的矩估计量相同估计量相同.用上述求导方法求参数的最大似然估计用上述求导方法求参数的最大似然估计有时行不通，这时要用极大似然原则来有时行不通，这时要用极大似然原则来求求 .说明：说明：解解例例3三、小结三、小结两种求点估计的方法两种求点估计的方法:矩估计法矩估计法最大似然估计法最大似然估计法 在统计问题中往往先使用最大似然估计法在统计问题中往往先使用最大似然估计法, 在最大似然估计法使用不方便时在最大似然估计法使用不方便时, 再用矩估计法再用矩估计法.
