《概率论及数理统计必考点》由会员分享，可在线阅读，更多相关《概率论及数理统计必考点（33页珍藏版）》请在金锄头文库上搜索。
1、6.3克拉默-拉奥（Cramer-Rao）不等式,一、问题的提出,二、复习无偏估计和一致估计,三、有效估计,四、小结,一、问题的提出,从前一节可以看到, 对于同一个参数, 用不同的估计方法求出的估计量可能不相同,那么那一个估计量好坏的标准是什么?,下面介绍几个常用标准.,二、复习无偏估计和一致估计,(2)无偏估计的实际意义: 无系统误差.,(1)无偏性是对估计量的一个基本而重要的要求 .,如果有估计 ,满足关系式,则称 是 的渐近无偏估计（量）。,一个估计量如果不是无偏估计量，就称 这个估计量是有偏的，且称 为估计量 的偏差。,证明,例1,特别地:,证明,例2,(这种方法称为无偏化).,证明,
2、例3,P252,证明,例4,由以上两例可知,同一个参数可以有不同的无偏估计量.,从,无偏性虽然是评价估计量的一个重要标准,而且在许多场合是合理的, 必要的。然而有时一个参数的无偏估计可能不存在，或不合理的。,这些说明仅有无偏性要求是不够的。于是，人们又在无偏性的基础上增加了对方差的要求。若估计量的方差越小,表明该估计量的取值（即估计值）围绕着待估参数的波动就越小，也就是更为理想的估计量。为此，引入最小方差无偏估计。,2.如例4 有时对同一个参数可有多个无偏估计.,1.例:设总体 ,则 就没有无偏估计。,三、有效估计,由于方差是随机变量取值与其数学期望的偏离程度, 所以无偏估计以方差小者为好.,
3、证明,例5 (续例4),证明,练习 (续例3)（课本例6.10）,下面讨论建立一个方差下界的克拉默-拉奥不等式,注（1）称满足上述两个正则条件（1）和（2）的估计量为正规估计。 （2）克拉默-拉奥不等式所规定的下界不是整个无偏估计类的下界，而是无偏估计类的一个子集正规无偏估计类的下界。,对于方差达到克拉默-拉奥不等式所规定的下界的估计，给它名称如下：,复习一致估计 有时候我们不仅要求估计量有较小的方差，还希望当样本容量n充分大时，估计量能在某种意义下收敛于被估计参数，这就是所谓相合性 （或一致性）概念。,定义6.1 设 是未知参数 估计序列，如果 依概率收敛于 ，即对任意 ，有,定理（补充）
4、设 是 的一个估计量，若,或,则 称是 的一致估计量（相合估计）。,且,则 是 的一致估计（相合估计）。,证明：由于,令 且由定理的假设，得,即 是 的一致估计,例（补充） 若总体 的 和 存在,则样本均值 是总体均值的相合估计.,解：,一般地,样本的k 阶原点矩 是总体 的k 阶原点矩 的一致估计.由此可见,矩 估计往往是一致估计.,六、小结,估计量的评选的三个标准,无偏估计,最小方差无偏估计,相合估计,相合性是对估计量的一个基本要求, 不具备相合性的估计量是不予以考虑的.,由最大似然估计法得到的估计量, 在一定条件下也具有相合性.,估计量的相合性只有当样本容量相当大时,才能显示出优越性, 这在实际中往往难以做到,因此,在工程中往往使用无偏性和有效性这两个标准.,
