第7章 参 数 估 计统计推断的两大基本问题7.1 点 估 计 法点估计：对总体分布函数中包含的未知参数作出统计推断，即作出估计．先见下例，增加感性认识．例1．设某次考试的成绩，、为未知参数．今随机地抽取6名考生，成绩分别为：68，75，45，61，87，72． 试估计及．解：——考试的平均成绩； ——考试成绩（总体）的方差．可用样本均值 及样本方差 来估计及．； ．得 的估计值68， 的估计值 200.8．估计量：设 为总体X的待估计的参数，由样本 构造统计量 来估计． 称为的一个估计量．相应于样本的一个观察值， 称为的一个估计值．推广到多个参数的情形： 设为总体分布中的一组未知参数， 用统计量 作为参数的估计， 则称k维统计量为参数向量 的一个估计．如上例中的估计量 ， ；估计值 ， ． 下面介绍两种常用的点估计法：矩估计法和最大似然法．一. 矩估计法（数字特征法）概率函数：称随机变量X的概率函数为， 是指 ．设总体X的概率函数为的类型已知，为未知参数，待估计． 样本． 假设 X的前k阶矩存在． 由辛钦大数定律，，， 且样本的连续函数总体矩的连续函数． 由 ． 上述 称为矩估计量，相应的观察值称为矩估计值．此方法称为矩估计法．例1．设总体 ，未知． 是一个样本，求 的矩估计量．解：，即 ．例2．设总体 X的均值及方差均存在，且， 未知．样本，试求 的矩估计量．解：．特别，若， 未知，则 ．例3．设总体 ，参数未知．样本，试求 的矩估计量．解：， 得 ．二. 最大似然法 ( Maximum Likelihood Estimators, 简称MLE )设总体X的概率函数 的类型已知，为未知参数，待估计．则样本 的联合概率密度（或分布律）为． 令 ——似然函数 ( likelihood function )．结合例子介绍最大似然法的思想方法．例子：设一袋中装有黑、白两种球，试通过摸球估计两者数量之比．解：p ——摸到黑球的概率．只要估计p，．总体，p为未知参数．作n次放回抽样摸球， 令 得样本 ．， ()．若() 为一组观察值， 概率函数 ；似然函数 ．假定摸球100次，观察值 中有9个为1，其余为0，此时 ．最大似然法的主要思想：若在一次观察中一个事件出现了，则可以认为此事件出现的概率很大．令 ， 求 ．令 ， 当 时， 取max． 所以，黑球 : 白球= 0.09 : 0.91= 9 : 91．用同样的思想方法可以估计连续随机变量总体的未知参数．最大似然估计法： 设总体X的概率函数为 的类型已知，为未知参数．作似然函数 ． 若存在 的一个估计值，使 ， 则称 为的一个最大似然估计值； 称 为的一个最大似然估计量．方法：求的问题就是求的最大值问题．当可导时，可由 求得．因 与在同一个值处取得最值，也可由 ． (对数似然方程)例1．设总体 ，未知参数． 样本，试求 的最大似然估计量．解：概率函数 ；，， ，（最大似然估计值）； 最大似然估计量 ．例2．设总体，， 未知参数 ．为一组观察值，试求 的最大似然估计量．解：似然函数 ，； ， （最大似然估计值）； 最大似然估计量 ．最大似然估计法可用于多个未知参数的概率函数 的总体． 这时． 求k元函数 L的最大值， 可令， 解得 ．例3．设总体，参数 未知．样本，试求的最大似然估计量．解：；似然函数 ；； ，得 ．X1 2 3 P 例4．设总体X具有分布律 其中为未知参数．已知取得了样本值，试求的矩估计值和最大似然估计值．解：，（矩估计量）； 矩估计值为 ． 设 为样本，则似然函数 ．， （最大似然估计值）．7.2 点估计的评价标准上面介绍了两种点估计法．对同一参数，用不同的估计法可能得到不同的估计量．那么，究竟采用哪一个好呢？这就涉及到估计量的评选标准问题．本节介绍三种评选标准：无偏性、有效性及相合性．这些标准都是刻画了估计量与参数之间在概率意义下的接近程度．一．无偏性估计量是随机变量，我们希望其数学期望等于未知参数的真值．这样，估计值在未知参数真值左右徘徊．定义：设 为总体X中的待估参数，样本，为的一个估计量，若，则称为的一个无偏估计量； 否则，称为有偏估计量．注：常称为的估计的系统误差．无偏估计量就是无系统误差．无偏性不是没有偏差，它有随机误差，无系统误差．例1．样本均值和样本方差分别是总体均值和总体方差的无偏估计量．， ， ， ．若取二阶中心矩 作为 的估计量， 则 ——有偏估计量．注：一般地，若是的一个有偏估计量，且．可取 ，则是的一个无偏估计量．二．有效性设和是未知参数的两个无偏估计量：．现进一步比较这两个估计量的优劣．如果比更密集地集中于，则认为 比 有效．定义：和是未知参数的两个无偏估计量，若，则称比有效． 方差最小的无偏估计量称为有效估计量．例2. 总体X，，样本，． 考查的以下三个点估计：， ， ，试证： 都是的无偏估计量，且 都有效．证：， ，，故 都是的无偏估计量． 方差分别为：， ，，因为 ， ，所以 都有效．注： 都是的无偏估计量．三．相合性（一致性）总体X，样本， 为的一个估计量． 当容量 时， 是否有 (依概率收敛)？定义：若 ， 即，有 ， 则称是的一个相合估计量．例如：(1) 样本均值是总体均值的相合估计量． 即： (辛钦大数定律)．(2) 同理，是总体方差的相合估计量．(3) 在一定条件下，最大似然估计量也是相合估计量．两种点估计法和三种评选标准综述：先简单回顾两种点估计法和三种评选标准．矩估计法意义直观，易想到；最大似然法理论上优点多．对于估计量的评选标准，无偏性标准直观上较合理，但并非每个参数具有无偏估计量；相合性标准要求样本容量大，实际中难做到；有效性标准要求较高，理论上、实际上都比较合理，因此较常用．参数估计：点估计，区间估计．7.3 区 间 估 计在计算或测量时，不但要得到近似值，还要估计误差，即要确切地知道近似值的精确程度．同样，对于未知参数，除求出它的点估计外，还要求出一个范围（通常为区间），并希望知道这个范围含参数真值的可靠程度．这种形式的估计称为区间估计．本节主要介绍正态总体的区间估计．问题：调查大学生每月生活费支出 ， ．置信区间： 总体X，分布函数 ，未知参数，样本． ， 统计量 及 满足 ， (*) 称随机区间 是的一个置信水平为 的置信区间；及分别称为的置信水平为的置信下限、置信上限．(*) 的意义：固定容量n，若反复多次抽样，每组样本观察值确定一个区间，要么包含，要么不包含．在这么多的区间中，按伯努利大数定律，约占 的区间包含；另外约占 的区间不包含． 下面介绍几种常用的区间估计法．一. 单个正态总体的情况总体，样本， 置信水平．1．均值的区间估计(a) 方差 已知是的无偏点估计，且 (ch6，Th.6.4.1) ． 由 ， 解得：；所求置信区间为 ， 简记 ．例1．已知某种零件的长度 (单位m)，样本．求总体均值的一个置信水平为0.95的置信区间．解：． ．． 得：．， ， 故的一个0.95置信区间为．若得到样本的一组观察值 ， 则 ， 代入得区间 ．（略释意义）注：置信区间不唯一．如本例中，显然，， 解得 ， 即 ． 此区间长度较长，一般地取对称的即双侧的百分 位点来计算未知参数的置信区间．特 别在概率密度函数曲线单峰且对称的情况下． o E(X) x求置信区间的方法(枢轴量法)：(1) 构造样本的一个函数 ，含未知参数，但W的分布不含未知参数．（一般地，W可由的点估计经变换而得）． 称 为枢轴量．(2) 对于置信水平为，定出常数 ，使 ．(3) 从 求得 ， 就是 的置信水平为的置信区间．(b) 方差 未知 用 估计， 估计， 且 ， (ch6，Th6.4.2) 由此得：， 得的置信区间为 ．例2．为了调查某种溶液中的甲醛浓度，取得4个 o t独立测定值的平均值，样本标准差．设总体近似服从．求的0.95置信区间．解：， ， 未知． ，．的0.95置信区间为 ．2．方差的区间估计（设未知） 是的无偏估计，且 ． 取， o y解得的置信区间为 ． (*) 由(*)式还可得 的置信区间为 ．注：在这里采用了“等尾置信区间”．例3．求例2中 的0.95置信区间及的0.95置信区间．解：，，，． 查附表2，，， ． 的0.95置信区间 ； 的0.95置信区间 ．二. 两个正态总体的情况实际中常遇见这样的问题：已知某产品的质量指标X服从正态分布，但由于工艺改变、原料不同、设备条件不同、操作人员不同等因素，引起总体均值、方差有改变．我们需知道这些改变有多大．这就需要考虑两总体均值差或者方差比的估计问题．设总体，样本， 样本均值 ， 样本方差；总体， 样本 ， 样本均值 ， 样本方差；两总体X与Y相互独立．给定置信水平．1．两总体均值差的区间估计(a) 均已知 由于，分别是，的无偏估计，是的无偏估计．且，， ， ，得 的置信区间为 ．(b) 均未知只要 充分大（一般要求），就可用 作为 的近似置信区间．(c) ，但未知此时，， (ch6, Th.6.4.4)， 其中 ．从而得 的置信区间为 ．例4．检查某地正常成年女子20名，正常成年男子25名，计算得女性红细胞样本均值为422.16万/mm3，样本方差为2453.80 (万/mm3)2；男性红细胞样本均值为465.13万/mm3，样本方差为3022.41 (万/mm3)2．设总体X和Y分别表示正常成年女性和男性每mm3中的红细胞数，，，未知．求 的0.99置信区间．解：，但未知． ， ，． ， ． 的0.99置信区间为．含意：我们有较大把握认为，若置信下限，则； 若置信上限，则 ； 若置信区间含0，则均值无显著差别．2．两总体方差比的区间估计（设未知）因 ， ， 相互独立．比值 ．由 ，得 的置信区间 ．含意：我们有较大把握认为，若置信上限或下限，则方差 有显著差别；若置信区间包含1，则方差无显著差别．例5. 总体，， 容量 ，样本方差 ，，置信水平． 则 ， ， ，，．故 的0.95置信区间为 ． 表明无显著。