《数理统计3.1章节》由会员分享,可在线阅读,更多相关《数理统计3.1章节(13页珍藏版)》请在金锄头文库上搜索。
1、1,第三章 参 数 估 计,一、点估计 二、估计量的评选标准 三、区间估计,2,一、矩 估 计 法,1、方法思想,将要估计的总体参数 表示成总体X的矩的函数,然后用样本的相应的矩的函数作为其估计量进行估计。 -这种估计方法称为矩估计法。,例1 已知总体的概率密度为 试由样本(X1,X2,Xn)估计参数。,分析:,1、参数与总体的矩有什么关系?,计算E(X)不难得到:,2、如何利用样本来估计E(X),进而估计参数?,用样本均值 (一阶矩)来估计E(X)!,也可以建立参数与E(X 2)的关系,3,一般地,若总体X的概率分布含有k个未知参数1,2,k ,则总体X的l阶(原点)矩l存在,且应为1,2,
2、k的函数: l =l(1,2,k),2、理论依据,用相应的样本矩Al估计l ,得,用样本的矩来推断总体相应的矩,其理论依据为 “大数定律” 若总体X的k阶(原点)矩k存在,则当样本容量n充分大时,样本的k阶矩Mk 依概率收敛于k。,3、方法步骤,1)建立待估参数 与总体的矩之间的关系式; 2)解方程组,解得参数用总体矩表示的关系式。 3)用相应的样本矩做总体矩的估计量,代入关系式得到 的估计量。代入样本值得到 的估计值。,此方程组的解 ,,就称为参数1,2,k 的矩估计量。,4,例2 设灯泡厂从某天生产的一大批灯泡中随机抽取10只进行寿命试验,测得数据如下(单位:小时): 1050,1100,
3、1080,1120,1200,1250,1040,1130,1300,1200; 试估计该批灯泡的平均寿命及寿命分布的标准差。,析:,而 D(X)=E(X2)-E2(X),需要估计的是总体的均值 和标准差 ;,其中 本身就是总体的一阶矩;而标准差 呢?,它们与总体的(原点)矩之间的关系?,用相应的样本矩取代总体矩得到估计量:,或者:D(X)就是总体的二阶中心矩!,5,例3 设总体X服从a,b上的均匀分布,a,b未知. X1,X2,Xn是来自总体X的样本,试求a,b的矩估计量.,析:, 待估参数与总体的(原点)矩之间有何关系?, 如何得到估计量?,对于均匀分布而言,我们熟知:,思考,该题做法唯一
4、吗?,6,二、最大似然估计,1、基本原理,若在一次观察中一个事件出现了,那么此事件的概率应该较大。,思考:,有一个事件A,如果我们只知道它发生的概率P(A)有三种可能:0.1、0.6和0.99;在一次观测中,这一事件确实发生了,此时我们应当倾向于认为 P(A)= ?,若A发生的概率有更多种可能的选择呢?,当我们用样本估计总体的参数 时,应让参数 取能使所观测到的样本出现的概率最大的那个值。,7,2、基本思想,设总体X的分布已知,记为f(x, )(若X为离散型随机变量,则f(x, )为PX=x),其中为待估参数,则总体X的样本(X1,X2 ,Xn)的联合概率密度为,对应具体的一次样本实现(x1,
5、x2,xn),记,称L()为 似然函数;,L() 描述了样本(X1,X2, ,Xn)取值为(x1,x2,xn)的可能性大小!,依“基本原理”,此时的L()应当取到的是最大值. 故的值应当是使得L()取到最大值的点。,-这种求参数 估计值的方法,就称为最大似然估计法。,由此方法而求出的参数的估计值,称为 的最大似然估计值,相应的估计量为最大似然估计量。,8,3、方法步骤, 写出似然函数L() ; 求似然函数L()的最值(极值)。 (注:通常转为求 LnL()的极值更方便),例4 已知Xb(1,p), (X1,X2,Xn)为一个样本,求p的最大似然估计量。,解:,故p 的最大似然估计量为,X的分布
6、率为,PX=x=px(1-p)1-x, x=0,1,,故似然函数,把分布率写成这种形式很必要!,9,说明: 最大似然估计法可推广至分布中含有多个未知参数的估计。,解:,似然函数为,得最大似然估计值为,X的概率密度为,例5 设总体XN(,2), ,2均未知, (x1,x2,xn)为X的样本值,求, 2的最大似然估计值.,10,例6已知总体X在a,b上服从均匀分布,a,b未知(X1,X2,Xn)是一个样本。试求a,b的最大似然估计量。,析:,X的概率密度为,似然函数为,无解!,基于已有的样本(X1,X2,Xn),b-a能任意的小吗?,11,解:,似然函数为,若将 x1,x2,xn 按由小到大重新排序,记为,例7已知总体X在a,b上服从均匀分布,a,b未知(X1,X2,Xn)是一个样本。试求a,b的最大似然估计量。,12,例8 设X1,X2,Xn是取自总体X的一个样本,X的密度函数为,其中 0,求 的矩估计.,解得,用样本矩代替得,13,例9 设X1,X2,Xn是取自总体X的一个样本,其中 0,求 的极大似然估计.,对数似然函数为,对 分别求偏导并令其为0,使 达到最大 即极大似然估计,为 的极大似然估计,易得:,因此:,