自考概率论与数理统计

《自考概率论与数理统计》由会员分享，可在线阅读，更多相关《自考概率论与数理统计（16页珍藏版）》请在金锄头文库上搜索。

1、第一章 参数估计从本章开始我们介绍统计推断，所谓统计推断就是由样本推断总体，统计推断包括参数估计和假设检验两部分，它们是统计推断最基本而且是互相有联系的两部分，本章介绍统计推断的第一部分参数估计。参数通常指总体分布中的特征值 和 和各种分布中的参数，例如二点分布B（1，P）中的 p，泊松分布 P（ ）中的 ，正态分布 N（ 、 ）的 、 等，习惯用表示参数，通常参数 是未知的。参数估计的形式有两类，设 x1,x2,xn 是来自总体的样本。我们用一个统计量的取值作为参数 的估计值，则 称为 的点估计（量） ，就是参数 的点估计，如果对参数 的估计需要对估计作出可靠性判断，就需要对这一可靠性给出可

2、靠性区间或置信区间，叫区间估计。下面首先介绍点估计7.1点估计的几种方法直接用来估计未知参数 的统计量 称为参数 的点估计量，简称为点估计，人们可以运用各种方法构造出很多 的估计，本节介绍两种最常用的点估计方法。它们是：矩法和极大似然法。7.1.1替换原理和矩法估计用下面公式表示 的方法叫矩法例 71对某型号的 20 辆汽车记录每 5L 汽油的行驶里程（km） ，观测数据如下：29.827.628.327.930.128.729.928.027.928.728.427.229.528.528.030.029.129.829.626.9这是一个容量为 20 的样本观测值，对应总体是该型号汽车每

3、5L 汽油的行驶里程，其分布形式尚不清楚，可用矩法估计其均值，方差，本例中经计算有28.695， 0.9185由此给出总体均值，方差的估计分别为即【答疑编号：10070101 针对该题提问】矩法估计的统计思想（替换原理）十分简单明确，众人都能接受，使用场合甚广。例 72设总体为指数分布，其密度函数为x 1,xn 是样本，由于 ，亦即 ，故 的矩法估计为例 73设 x1,xn 是来自服从区间（0， ）上的均匀分布 的样本， 0 为未知参数。求 的矩估计 。【答疑编号：10070102 针对该题提问】解：易知总体 X 的均值为由矩法 的矩估计为比如，若样本值为 0.1，0.7，0.2，1，1.9，

4、1.3，1.8，则 的估计值2 （0.1+0.7+0.2+1+1.9+1.3+1.8）2例 74在一批产品取样 n 件，发现其中有 m 件次品，试用此样本求该批产品的次品率 p 的矩估计。【答疑编号：10070103 针对该题提问】解：因为例如抽样总数 n=100，其中次品 m=5.则例 75电话总机在一分钟间隔内接到呼唤次数 XP（ ） 。观察一分种接到呼唤次数共观察 40 次，结果如下接到呼唤次数 0 1 2 3 4 5观察次数 5 10 12 8 3 2求未知参数 的矩估计【答疑编号：10070104 针对该题提问】解：（1）XP （ ）EX=由矩法（2）计算 （05+110+212+3

5、8+43+52）2 27.1.2极大似然估计为了叙述极大似然原理的直观想法，先看例 76例 76设有外表完全相同的两个箱子，甲箱中有 99 个白球和 1 个黑球，乙箱中有99 个黑球和 1 个白球，现随机地抽取一箱，并从中随机抽取一球，结果取得白球，问这球是从哪一个箱子中取出的？【答疑编号：10070105 针对该题提问】解：不管是哪一个箱子，从箱子中任取一球都有两个可能的结果：A 表示取出白球，B 表示取出黑球，如果我们取出的是甲箱，则 A 发生的概率为 0.99，而如果取出的是乙箱，则 A 发生的概率为 0.01，现在一次试验中结果 A 发生了，人们的第一印象就是： “此白球（A）最像从甲

6、箱取出的”，或者是说，应该认为试验条件对事件 A 出现有利，从而可以推断这球是从甲箱中取出的，这个推断很符合人们的经验事实，这里“最像”就是“极大似然”之意。本例中假设的数据很极端，一般地，我们可以这样设想，在两个箱子中各有 100 个球，甲箱中白球的比例是 P1，乙箱中白球的比例是 P2，已知 P1 P2，现随机地抽取一个箱子并从中抽取一球，假定取到的是白球，如果我们要在两个箱子中进行选择，由于甲箱中白球的比例高于乙箱，根据极大似然原理，我们应该推断该球来自甲箱。下面分别给出离散型随机变量和连续型随机变量的极大似然估计求未知参数 的估计 的步骤（一）离散型随机变量第一步，从总体 X 取出样本

7、 x1,x2,xn第二步，构造似然函数L（x 1,x2,xn， ）P（Xx 1）P（X x 2）P （X x n）第三步，计算 ln L（x 1,x2,xn， ）并化简第四步，当 时 ln L（x 1,x2,xn， ）取最大值则取 常用方法是微积分求最值的方法。（二）连续型随机变量若 Xf（x, ）第一步从总体 X 取出样本 x1,x2,xn第二步构造似然函数L（x 1,x2,xn， ）f（x 1， ）f （x 2， ）f（x n， ）第三步计算 ln L（x 1,x2,xn， ）并化简第四步当 时 ln L（x 1,x2,xn， ）取最大值则取 常用方法是微积分求最值的方法例 77设总体 X

8、B（1，P）即设 P（A） ，从总体 X 中抽样 x1,x2,xn，问最大似然法求【答疑编号：10070106 针对该题提问】解：当 XB（1，P ）时，应有 P（X 1）P，P（X0）=1P第一步构造似然函数L（x 1,x2,xn，P）P （Xx 1）P（Xx 2）P（Xx n）第二步计算 ln L（x 1,x2,xn，P ）并化简（x 1+xn）lnp+ （n-（x 1+xn）ln（1-p ）第三步求驻点为化简为（x 1+xn） （1-p）=pn-（x 1+xn）（x 1+xn）=np驻点因为只有一个驻点 是最大点取例抽样 n 次 A 发生 m 次，则在 x1，x 2xn 中有 m 个 1

9、，其余为 0，例 78（1）设总体 X 服从泊松分布 p（ ） ，求 的极大似然估计；（2）设总体 X服从指数分布 E（ ） ，求 的极大似然估计【答疑编号：10070107 针对该题提问】解：（1）XP （ ）p（X=k）= 从总体 X 中取样本 x1 ，x 2xn。驻点解得 的极大似然估计易知 的矩估计亦为（2）XE（ ）第一步，从中取样本值 x1 ，x 2xn，应有 x10，x 20x n0似然函数 L（x 1 ，x 2xn）f（x 1）f（x 2）f （x n）=第二步计算第三步求驻点 是最大点取在例 72 中用矩法估计也是同样结果 。例 79设 ，即从中取样 x1 ，x 2xn，试用

10、最大似然法求【答疑编号：10070108 针对该题提问】解：因为样本 x1 ，x 2xn 已经取出。所以应有 0x1 ,0x2 ,0x n所以 的取值范围为第一步构造似然函数 0，很明显，似然函数 是 的单调减函数，因此当 最小时，似然函数 最大，由条件知 的最小值为所以 时 最大。取这一结果与用矩法估计（例 73）的结果 不同。例 710若 ,从中抽样 x1，x 2xn，试用最大似然估计法求： ，【答疑编号：10070109 针对该题提问】解：X 的似然函数将 分别关于两个分量求偏导并令其为 0 即得到似然方程组， （1）， （2）解此方程组，由（1）可得驻点 ， 的极大似然估计为 ，将之代

11、入（2）给出 的极大似然估计7.2点估计的评价标准我们已经看到，点估计有各种不同的求法，为了在不同的点估计间进行比较选择，就必须对各种点估计的好坏给出评价标准。数理统计中给出了众多的估计量评价标准，对同一估计量使用不同的评价标准可能会得到完全不同的结论，因此，在评价某一个估计好坏时首先要说明是在哪一个标准下，否则所论好坏毫无意义。但在诸多标准中，有一个基本标准是所有的估计都应该满足的，它是衡量一个估计是否可行的必要条件，这就是估计的相合性，我们就从相合性开始介绍。7.2.1相合性我们知道，点估计是一个统计量，因此它是一个随机变量，在样本量一定的条件下，我们不可能要求完全等同于参数的真实取值，但

12、如果我们有足够的观测值，根据格里纹科定理，随着样本量的不断增大，经验分布函数逼近真实分布函数，因此完全可以要求估计量随着样本量的不断增大而逼近参数真值，这就是相合性，严格定义如下， 定义 72设 为未知参数， 是 的一个估计量，n 是样本容量， 若对任何一个 ，有 （7.2.1） 则称 为参数 的相合估计相合性被认为是对估计的一个最基本要求，如果一个估计量，在样本量不断增大时，它都不能把被估参数估计到任意指定的精度，那么这个估计是很值得怀疑的，通常，不满足相合性要求的估计一般不予考虑，证明估计的相合性一般可应用大数定律或直接由定义来证。例 11用大数定律证明 是 的相合估计【答疑编号：1007

13、0110 针对该题提问】证：由切比雪夫大数定律即 是 的相合估计为了避免用定义判断相合性的困难，下面介绍一个判断相合性很有用的定理： 定量：设 是 的估计量若（1）（2）则 是 的相合估计。例 12证明 是 的相合估计【答疑编号：10070111 针对该题提问】证：在前面我们已经证明（1）（2） 是 的相合估计7.2.2无偏性相合性是大样本下估计量的评价标准，对小样本而言，需要一些其他的评价标准，无偏性便是一个常用的评价标准。 设 是 的一个估计， 的参数空间为 ，若对任意的 ，有 则称 是 的无偏估计，否则称为有偏估计。例 713对任一总体而言，样本均值是总体均值的无偏估计，当总体 k 阶矩

14、存在时，样本 k 阶原点矩 是总体 k 阶原点矩 的无偏估计，但对 k 阶中心矩则不一样，例如，二阶样本中心矩 就不是总体方差 的无偏估计，事实上，【答疑编号：10070112 针对该题提问】对此，有如下两点说明 （1）当样本量趋于无究时，有 ，我们称 为 的渐近无偏估计，这表明 当样本量较大时， 可近似看作 的无偏估计 （2）若对 作如下修正： （7.2.4） 则 是总体方差的无偏估计，这种简章的修正方法在一些场合常被采用， 它比 更常用，这是因为在 n2 时， ，因此用 估计 有偏小的倾向，特别在小样本场合要使用 估计 。 无偏性不具有不变性。即若 是 的无偏估计，一般而言，g（ ）不是

15、g（ ）的无 偏估计，除非 g（ ）是 的线性函数，例如， 是 的无偏估计，但 s 不是 的无偏估计例 14证明 是 的无偏估计。其中 是 X 的样本【答疑编号：10070113 针对该题提问】证：特别情形 是 的无偏估计例 15证明 是 的无偏估计【答疑编号：10070114 针对该题提问】证7.2.3有效性参数的无偏估计可以有很多，那么如何在无偏估计中进行选择？直观的想法是希望该估计围绕参数真值的波动越小越好，波动的大小可以用方差来衡量，因此人们常用无偏估计的方差的大小作为度量无偏估计优劣的标准，这就是有效性。 定义 74设 ， 是 的两个无偏估计，如果对任意的 有 则称 比 有效例 16设 x1,xn 是取自某总体的样本，记总体均值为 ，总体方差为 ，则都是 的无偏估计，但 显然，只要 n1， 比 有效，这表明，用全部数据的平均估计总体均值要比只使用部分数据更有效。【答疑编号：10070115 针对该题提问】例 17比较 与 谁有效【答疑编号：10070116 针对该题提问】解：（1） 与 都是 的无偏估计（2） 比 有效例 18设 ，从总体中取样【答疑编号：10070117 针对该题提问】证明 是 的无偏估计和相