《《无偏性和有效性》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《无偏性和有效性》PPT课件.ppt（33页珍藏版）》请在金锄头文库上搜索。
1、3.6 点估计的优良性准则点估计的优良性准则 1 为估计为估计 ,我们需要构造出适当的样本我们需要构造出适当的样本的函数的函数T(X1,X2,Xn)，每当有了样本，就每当有了样本，就代入该函数中算出一个值，用来作为代入该函数中算出一个值，用来作为 的的估计值估计值 .把样本值代入把样本值代入T(X1,X2,Xn) 中，得到中，得到的一个的一个点估计值点估计值 .T(X1,X2,Xn)称为参数称为参数的的点估计量点估计量，2XN( )使用什么样的统计量去估计使用什么样的统计量去估计 ？问题是问题是: 可以用样本均值可以用样本均值;也可以用样本中位数也可以用样本中位数;还可以用别的统计量还可以用别
2、的统计量 .3(2) 怎样决定一个估计量是否比另一个估怎样决定一个估计量是否比另一个估计计 量量“好好”？需要讨论以下几个问题需要讨论以下几个问题: :(1) 我们希望一个我们希望一个“好的好的”估计量具有什么估计量具有什么 特性？特性？(3) 如何求得合理的估计量？如何求得合理的估计量？4这是因为估计量是样本的函数，是个随机变量这是因为估计量是样本的函数，是个随机变量 . 因此，由不同的观测结果，就会求得不同的参因此，由不同的观测结果，就会求得不同的参数估计值数估计值. 因此一个好的估计，应在多次试验中体现出优因此一个好的估计，应在多次试验中体现出优良性良性 .即需要讨论对应于样本分布所得到
3、的估计量即需要讨论对应于样本分布所得到的估计量的分布。的分布。 二、估计量的优良性准则二、估计量的优良性准则 在在介介绍绍估估计计量量优优良良性性的的准准则则之之前前，我我们们必必须须强强调调指指出出： 评评价价一一个个估估计计量量的的好好坏坏，不不能能仅仅仅仅依依据据一次试验的结果，而必须由多次试验结果来衡量一次试验的结果，而必须由多次试验结果来衡量 .5 常用的几条原则标准是：常用的几条原则标准是：1. 无偏性无偏性2. 有效性有效性3. 相合性相合性6 估计量是随机变量，对于不同的样本值会得到估计量是随机变量，对于不同的样本值会得到不同的估计值不同的估计值 . 我们希望估计值在未知参数真
4、值我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值附近摆动，而它的期望值等于未知参数的真值. 这这就导致无偏性这个标准就导致无偏性这个标准 . 一、无偏性一、无偏性7则称则称 为估计量为估计量 的的偏差偏差 .若若则称则称 为为 的的渐近无偏估计渐近无偏估计 .若若则称则称 为为 的的无偏估计无偏估计 .设设是未知参数是未知参数 的估计量，若的估计量，若1. 定义定义3.6.3 P78P788 例例如如，用用样样本本均均值值作作为为总总体体均均值值的的估估计计时时，虽虽无无法法说说明明一一次次估估计计所所产产生生的的偏偏差差，但但这这种种偏偏差差随随机机地地在在0的的周周围
5、围波波动动，对对同同一一统统计计问问题题大大量量重重复复使使用不会产生系统偏差用不会产生系统偏差 .无偏性是对估计量的一个常见而重要的要求无偏性是对估计量的一个常见而重要的要求 .无偏性的实际意义是指没有系统性的偏差无偏性的实际意义是指没有系统性的偏差 .9例例3.6.2 设设X1,X2,Xn是取自具有一阶矩、二阶矩存是取自具有一阶矩、二阶矩存在的总体在的总体X一个样本，证明一个样本，证明10证证一般的，一般的，11试问：试问：122. 无偏性的弱点无偏性的弱点无偏估计量是对估计量的一个重要而常见的要求无偏估计量是对估计量的一个重要而常见的要求 ，实际意义是，实际意义是多次试验后没有系统性的偏
6、差，多次试验后没有系统性的偏差，也是也是工程技术中完全合理的要求，但不要一味认为估计工程技术中完全合理的要求，但不要一味认为估计量不满足无偏原则，就是量不满足无偏原则，就是“不好不好”的估计量。的估计量。(3) 无偏估计知只反映了估计量在参数真值附近无偏估计知只反映了估计量在参数真值附近波动。波动。13例例2的样本，其中的样本，其中事实上事实上设设X1,X2,Xn是取自总体是取自总体X：14但是，此估计量有明显的不合理：但是，此估计量有明显的不合理：从而，仅有无偏性原则不够。从而，仅有无偏性原则不够。例例2的样本，其中的样本，其中设设X1,X2,Xn是取自总体是取自总体X：15证证例例1617
7、所以无偏估计以方差小者为好所以无偏估计以方差小者为好, 这就引进了这就引进了有效性有效性这一概念这一概念 .的大小来决定二者谁更优的大小来决定二者谁更优 .和和一个参数往往有不止一个无偏估计一个参数往往有不止一个无偏估计, 若若 和和都是参数都是参数 的无偏估计量，的无偏估计量，我们可以比较我们可以比较由于由于18二、有效性二、有效性D( ) D( )则称则称 较较 有效有效 .都是参数都是参数 的无偏估计量，若对的无偏估计量，若对任意任意 ，设设和和且至少对于且至少对于某个某个 上式中的不等号成立，上式中的不等号成立，19二、最小方差无偏估计二、最小方差无偏估计目的是目的是: 寻找一个寻找一
8、个最有效最有效的估计量的估计量.记为：记为：MVUE.定义定义3.6.43.6.4 P7920 1.最小方差无偏估计提供了一种优良的估计，最小方差无偏估计提供了一种优良的估计，然而一个更深入的问题是：无偏估计的方差是否可然而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这以任意小？如果不可以，那么它的下界是多少？这个下界等否达到？个下界等否达到？21定理定理3.6.1 (Cramer-Rao不等式不等式)设设X1,X2,Xn是是从密度函数为从密度函数为 的总体抽取的样本的总体抽取的样本, 是是 的一个无偏估计的一个无偏估计, 若若(1)集合集合 与与 无关无
9、关;(2)对对 积分与微分可交换且积分与微分可交换且 存在，即存在，即(3) 则有则有其中其中常称常称为为Fisher信息量信息量. 特别当特别当 , 有有常称为常称为C-R不等式不等式. 费希尔信息量是数理统计学中一个基本概念，很费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量与费希尔信息量I( )有关。有关。I( )的种种性质显的种种性质显示，示，“I( )越大越大”可被解释为总体分布中包含未可被解释为总体分布中包含
10、未知参数知参数 的信息越多。的信息越多。例例 设总体服从泊松分布设总体服从泊松分布 ， X1,X2,Xn 是来自是来自总体的一个样本，试求参数总体的一个样本，试求参数 的无偏估计的下界的无偏估计的下界？解解: (1) : (1) 写出密度函数写出密度函数 (2) (2) 求密度函数对数、再求导求密度函数对数、再求导 (3) (3) 计算计算fisherfisher信息量信息量 (4) (4) 代入代入C-RC-R不等式求方差下界不等式求方差下界1. 写出密度函写出密度函数，求对数数，求对数2. 计算计算fiser信息量信息量3.代入代入C-R不等不等式求方差下界式求方差下界例例 设设 X1,X
11、2,Xn 是取自总体是取自总体 X 的一个样的一个样本本, 求求 的无偏估计的方差下界的无偏估计的方差下界. 解解: (1) 写出密度函数写出密度函数 (2) 求密度函数对数、再求导求密度函数对数、再求导 (3) 计算计算 (4) 代入代入C-R不等式求方差下界不等式求方差下界 最后寻找无偏估计中满足方差下界的估计量最后寻找无偏估计中满足方差下界的估计量.1. 写出密度函数写出密度函数2. 求密度函数对数求密度函数对数3. 计算计算fiser信息量信息量4.代入代入C-R不等不等式求方差下界式求方差下界2. 求密求密度函数度函数对数的对数的导数导数3. 计算计算fiser信息量信息量4.代入代入C-R不等不等式求方差下界式求方差下界5. 计算最小方差计算最小方差无偏估计的方差无偏估计的方差2、有效估计、有效估计30 例例3.24 设设 X1, X2, Xn 是取自总体是取自总体 XB(N, p) 的的一个样本，验证一个样本，验证 是参数是参数P的有效估计量的有效估计量.1.写出概率函写出概率函数数,再求对数再求对数2. 计算计算fiser信息量信息量3.代入代入C-R不等不等式求方差下界式求方差下界4. 计算无偏估计计算无偏估计的方差的方差5. 计算效率计算效率股票入门基础知识 http:/ 槷敇愸
