概率论与数理统计课件：8-1 点估计方法

参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估区间估 计计统计统计推断推断 的的基本基本问题问题什么是参数估计？什么是参数估计？参数是刻画总体某方面的概率特性的数量参数是刻画总体某方面的概率特性的数量.当这个数量是未知的时候，从总体抽出一个当这个数量是未知的时候，从总体抽出一个样本，用某种方法对这个未知参数进行估计样本，用某种方法对这个未知参数进行估计就是参数估计就是参数估计.例如，例如，X ~N (  ,  2), 点估计点估计区间估计区间估计若若 ,   2未知，通过构造样本的函数未知，通过构造样本的函数, 给出它给出它们的估计值或取值范围就是参数估计的内容们的估计值或取值范围就是参数估计的内容.参数估计的类型参数估计的类型点估计点估计 —— 估计未知参数的值估计未知参数的值区间估计区间估计—— 估计未知参数的取值范围，估计未知参数的取值范围， 使得这个范围包含未知参数使得这个范围包含未知参数 真值的概率为给定的值真值的概率为给定的值.§8.1 点估计方法点估计方法点估计的思想方法点估计的思想方法设总体X 的分布函数的形式已知，但它含有一个或多个未知参数：1,2, ,k设 X1, X2,…, Xn为总体的一个样本构造 k 个统计量：随机变量当测得一组样本值(x1, x2,…, xn)时，代入上述统计量，即可得到 k 个数：数值称数为未知参数的估计值问题如何构造统计量？如何评价估计量的好坏？对应的统计量为未知参数的估计量三种常用的点估计方法三种常用的点估计方法q 频率替换法频率替换法利用事件A 在 n 次试验中发生频率作为事件A 发生的概率 p 的估计量例例1 设总体X ~ N (  , 2 ), 在对其作28 次独立 观察中, 事件 “X < 4”出现了21 次, 试用频率替换法求参数 的估计值.解解 由查表得于是 的估计值为q 矩法矩法方法方法用样本的 k 阶矩作为总体的 k 阶矩的 估计量, 建立含有待估计参数的方程，从而可解出待估计参数一般地，不论总体服从什么分布，总体期望  与方差 2 存在，则它们的矩估计量分别为事实上，按矩法原理，令设待估计的参数为设总体的 r 阶矩存在，记为设 X1, X2,…, Xn为一样本，样本的 r 阶矩为令—— 含未知参数 1,2, ,k 的方程组解方程组，得 k 个统计量：——未知参数1,2, ,k 的矩估计量——未知参数1,2, ,k 的矩估计值代入一组样本值得k个数:例例2 设总体 X ~ N (  , 2 ), X1, X2,…, Xn为总体的 样本, 求  , 2 的矩法估计量。

解解例例3 设总体 X ~ E(), X1, X2,…, Xn为总体的样本, 求的矩法估计量解解令故例例4 设从某灯泡厂某天生产的一大批灯泡中 随机地抽取了10只灯泡，测得其寿命为 (单位：小时)： 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 试用矩法估计该厂这天生产的灯泡的平均 寿命及寿命分布的标准差.解解例例5 设总体 X ~ U (a, b), a, b 未知，求 a, b 的 矩法估计量.解解 由于令解得q 点估计的极大似然估计法点估计的极大似然估计法思想方法：一次试验就出现的 事件有较大的概率 例如: 有两个外形相同的箱子,都装有100个球 一箱 99个白球， 1个红球 一箱 1个白球， 99个红球现从两箱中任取一箱，并从箱中任取一球，结果所取得的球是白球答答 第一箱.问问 所取的球来自哪一箱？例例6 设总体 X 服从0-1分布，且P (X = 1) = p, 用极大似然法求 p 的估计值。

解解X 的概率分布可以写成设 X1, X2,…, Xn为总体 X 的样本,设 x1, x2,…, xn为总体 X 的样本值,则对于不同的 p ,L (p)不同，见右下图现经过一次试验，发生了，事件则 p 的取值应使这个事件发生的概率最大在容许的范围内选择 p ，使L(p)最大 注意到，ln L(p)是 L 的单调增函数，故 若某个p 使ln L(p)最大，则这个p 必使L(p)最大所以为所求 p 的估计值.一般地，设X 为离散型随机变量，其分布律为 X1, X2,…, Xn为总体 X 的样本, x1, x2,…, xn为总体 X 的样本值,则X1, X2,…, Xn的概率分布为或称L( )为样本的似然函数则称这样得到的 为参数  的极大似然估计值称统计量为参数  的极大似然估计量 选择适当的 = ,使 取最大值，即L( )当给定一组样本值时， 就是参数 的函数,极大似然估计法的思想就是：L( )若随机变量X 连续, 取 f (xi, )为Xi 的密度函数似然函数为注注1 1注注2 2未知参数个数可以不止一个, 如1, 2,…, k 设X 的密度函数(或概率分布)为则定义似然函数为若关于1, 2,…, k 可微，为似然方程组若对于某组给定的样本值x1, x2,…, xn，参数 使得似然函数取得最大值，即则称为1, 2,…, k 的极大似然估计值则称显然，称统计量为1, 2,…, k 的极大似然估计量例例7 设总体 X ~ N (, 2), x1, x2,…, xn 是 X 的 一组样本值，求 ,  2 的极大似然估计.解解 ,  2 的极大似然估计量分别为似然方程组为求未知参数的极大似然估计值求未知参数的极大似然估计值( (量量) )的方法的方法1） 写出似然函数L2）求出, 使得可求得未知参数的极大似然估计值然后, 再求得极大似然估计量. L 是 的可微函数, 解似然方程组若若 L 不是 的可微函数, 需用其它方法求极大似然估计值. 请看下例：若若例例8 设 X ~ U (a,b), x1, x2,…, xn 是 X 的一个样本,求 a , b 的极大似然估计值与极大似然估计量.解解 X 的密度函数为似然函数为似然函数只有当 a < xi < b, i = 1,2,…, n 时才能获得最大值, 且 a 越大, b 越小, L 越大.令xmin = min {x1, x2,…, xn}xmax = max {x1, x2,…, xn}取则对满足的一切 a < b , 都有故是 a , b 的极大似然估计值.分别是 a , b 的极大似然估计量.问问 题题1) 待估参数的极大似然估计是否一定存在?2) 若存在, 是否惟一?例例9 设 X ~ U ( a – ½, a + ½), x1, x2,…, xn 是 X 的一个样本, 求 a 的极大似然估计值.解解 由上例可知, 当时, L 取最大值 1, 即显然, a 的极大似然估计值可能不存在, 也可能不惟一.不仅如此, 任何一个统计量若满足都可以作为 a 的估计量.极大似然估计值的不变性原理极大似然估计值的不变性原理设 是 的极大似然估计值, u( ) (   )是 的函数，且具有单值的反函数  =  (u), uU 则 是 u( ) 的极大似然估计值. 如：在正态分布总体N (, 2)中， 2的极大 似然估计值为是 2的单值函数，且具有单值的反函数，故 的极大似然估计值为lg 的极大似然估计值为矩估计就不具有这个性质.例如 设 X 的密度函数为X1, X2,…, Xn为总体的样本由矩法，令得 与 2的矩法估计量为—— 不具有不变性。