《概率论与数理统计-参数估计PPT课件》由会员分享,可在线阅读,更多相关《概率论与数理统计-参数估计PPT课件(113页珍藏版)》请在金锄头文库上搜索。
1、1 第7章 参数估计参数估计072 第7章 参数估计目录/Contents7.17.27.37.47.5点估计点估计的优良性评判标准置信区间单正态总体下未知参数的置信区间两个正态总体下未知参数的置信区间3 第7章 参数估计目录/Contents7.1点估计一、矩估计二、极大似然估计 设总体 为总体分布中的未知参数,是取自总体的一个样本,用样本来构造 的估计,称 为 的一个点估计,记作 两个常用方法:矩估计法和极大似然估计法.所求出的估计量则分别称为矩估计量和极大似然估计量.4 第7章 参数估计 用样本的 阶原点矩替代总体的 阶原点矩,这样得到称为 的矩估计量.一、矩估计 总体的 阶原点矩样本的
2、 阶原点矩AB的未知参数 的估计量5 第7章 参数估计一、矩估计例101OPTION02OPTION6 第7章 参数估计一、矩估计解7 第7章 参数估计为取自该总体的一个样本.的矩估计量;的矩估计量.解 因为 ,故 的矩估计量可定义为 例2 设总体 ,其中 未知,一、矩估计试求:12解 因所以:8 第7章 参数估计(2)已知,未知,求 的矩估计量;一、矩估计(1)求 的矩估计量;(3)和 都未知,求 的矩估计量.例39 第7章 参数估计又因为 已知,(2)(3)因为 未知,故一、矩估计解故10 第7章 参数估计定理 设总体 的均值 ,方差 ,为取自该总体的一个样本,则 是 的矩估计量,是 的矩
3、估计量,是 的矩估计量.关于矩估计量有下列结论:一、矩估计11 第7章 参数估计一、矩估计例4解12 第7章 参数估计一、矩估计01OPTION02OPTION03OPTION13 第7章 参数估计设 为取自该总体的 一个样本,求 的矩估计量.因 ,而所以可由此解出故 的矩估计量为一、矩估计补例解14 第7章 参数估计设总体 其中 未知,求 的矩估计量.其余一、矩估计补例由已知条件可求得所以 故,解15 第7章 参数估计例5 设一箱子中装有黑和白两种颜色的球,其中一种颜色的球有99个,另一种颜色的球只有1个.但是不知道那个颜色的球是只有1个.我们随机地从这个箱子里有放回地取2个球,结果取得的都
4、是白球,问这个箱子中那个颜色的球只有1个?二、极大似然估计16 第7章 参数估计二、极大似然估计17 第7章 参数估计二、极大似然估计例6 18 第7章 参数估计分析:二、极大似然估计19 第7章 参数估计极大似然估计的定义:二、极大似然估计20 第7章 参数估计为可微函数时,则将似然函数取对数:当 的似然函数二、极大似然估计21 第7章 参数估计 建立并求解似然方程组:一般说来,极大似然估计值可由解对数似然方程得到.当似然函数不可微时,也可直接寻求使得似然函数达到最大的解来得到极大似然估计值和估计量.二、极大似然估计22 第7章 参数估计二、极大似然估计例723 第7章 参数估计二、极大似然
5、估计24 第7章 参数估计设总体 ,是取自该总体的一个样本,参数 未知(2)的极大似然估计量.解(1)写出似然函数试求(1)的极大似然估计量;二、极大似然估计例8对似然函数取对数:25 第7章 参数估计二、极大似然估计解方程组得建立似然方程组:26 第7章 参数估计由此即得未知参数的极大似然估计量为二、极大似然估计27 第7章 参数估计以 替代 即得 的极大似然估计量为(2)已经求得又二、极大似然估计28 第7章 参数估计二、极大似然估计29 第7章 参数估计例9 设总体 是来自该总体的样本,其中 未知.求 的极大似然估计量.解 样本的似然函数为其余二、极大似然估计30 第7章 参数估计显然无
6、法求解出参数.于是从原始定义出发讨论,发现 ,对数似然方程二、极大似然估计当 时,对数似然函数为 31 第7章 参数估计二、极大似然估计32 第7章 参数估计写出未知参数的极大似然估计量:二、极大似然估计设 是未知参数 的极大似然估计量,则 的定义为 (也是替代的思想).极大似然估计量性质33 第7章 参数估计已知总体 的概率函数为其中 未知,设 是取自总体的样本,其观测值 极大似然估计值.,求参数 的二、极大似然估计34 第7章 参数估计解 样本观测值的似然函数为得,由此即解得取对数得 ,求导并建立似然方程,二、极大似然估计35 第7章 参数估计 设总体的分布为 ,其中 为未知参数,为样本观
7、测值,则求 的极大似然估计值 的过程如下:(1)写出似然函数(2)称满足关系式二、极大似然估计36 第7章 参数估计的解 为 的极大似然估计值,而 为 的极大似然估计量.如果是 的可微函数,则将似然函数 取对数:二、极大似然估计37 第7章 参数估计 建立并求解似然方程组:一般说来,极大似然估计值可由解对数似然方程得到.似然函数不可微时,也可直接寻求使得似然函数达到最大的解来得到极大似然估计值和估计量.二、极大似然估计38 第7章 参数估计极大似然估计求解对数似然求导法直接法似然函数二、极大似然估计39 第7章 参数估计目录/Contents7.17.27.37.47.5点估计点估计的优良性评
8、判标准置信区间单正态总体下未知参数的置信区间两个正态总体下未知参数的置信区间40 第7章 参数估计目录/Contents7.2点估计的优良性评判标准一、无偏性二、有效性三、相合性41 第7章 参数估计如果未知参数 的估计量 满足 如果 则称 为 的一个无偏估计量.则称 为 的渐近无偏估计量.一、无偏性定义142 第7章 参数估计的极大似然估计量 ;的矩估计量 ;解 (1)由矩估计定义可知 (2)又由上一节例9得 .一、无偏性设 是来自总体 的一个样本,总体 其中 未知,试求1无偏估计?若不是,将其修正为无偏估计.问 是不是未知参数的 23例143 第7章 参数估计 ;由次序统计量的分布知当 时
9、,的概率密度函数为故 一、无偏性44 第7章 参数估计定义 ,因此,矩估计是无偏估计而极大似然估计不是无偏估计.一、无偏性45 第7章 参数估计例2分别讨论是 的无偏性.设总体 为来自该总体的一个样本,一、无偏性46 第7章 参数估计故 是 的无偏估计.一、无偏性故 不是 的无偏估计.解47 第7章 参数估计则有若总体 的均值 ,方差 ,样本为 ,因此,样本均值是总体均值的无偏估计,样本方差是总体方差的无偏估计,而样本的二阶中心矩是总体方差的渐近无偏估计。一、无偏性定理 148 第7章 参数估计补例设总体 为从该总体中取出的简单样本,记 分别为样本均值和样本方差,若由统计量性质知由题意 ,即
10、为 的无偏估计,试计算 的值.由此解得 .一、无偏性解49 第7章 参数估计二、有效性意的 ,都有 ,设 是未知参数 的两个无偏估计,若对任 使得上述不等式严格成立,则称 比 有效.且至少有一个 定义2设 是来自总体 的一个样本,总 体 ,其中 未知,由前面的讨论已经知道 的矩估计量 是无偏估计;修正后的 的极大似然估计量 是无偏 估计.(2)(1)例1续50 第7章 参数估计又 二、有效性进一步可得51 第7章 参数估计设总体 为来自该总体 的一个样本,其中 是未知参数,试求解下列问题:试比较这两个估计的有效性.试证 的极大似然估计 和样本方差都是 的无偏估计;补例二、有效性01OPTION
11、02OPTION52 第7章 参数估计解 由题设知故因此二、有效性可见这两个估计都是无偏的;53 第7章 参数估计解 又因为二、有效性显然 比 有效.因此54 第7章 参数估计 的一个估计量.设 是如果对 ,有三、相合性定义355 第7章 参数估计定理 2三、相合性如果 是 的一个无偏估计,且 ,那么 是 的相合估计量.56 第7章 参数估计例3三、相合性证明57 第7章 参数估计补例由 ,且 ,知 是未知参数 的相合估计.设总体 ,其中 未知,的矩 估计量 ,试证明 是一个相合估计.三、相合性证明58 第7章 参数估计目录/Contents7.17.27.37.47.5点估计点估计的优良性评
12、判标准置信区间单正态总体下未知参数的置信区间两个正态总体下未知参数的置信区间59 第7章 参数估计 设 是来自总体 的样本,其中参数 未知,对给定的 ,若存在统计量 使得 那么称随机区间 为 的双侧 置信区间;称 为置信水平;置信区间60 第7章 参数估计 抽样以后就得到置信区间的观测值:简称双侧置信下限或者上限.称 为 的双侧 置信区间的上限,称 为 的双侧 置信区间的下限;置信区间61 第7章 参数估计6置信水平 的几何解释 置信区间62 第7章 参数估计6置信水平 的几何解释 置信区间63 第7章 参数估计6置信水平95%的几何解释 置信区间64 第7章 参数估计6置信水平50%的几何解
13、释 置信区间65 第7章 参数估计置信区间定义2定义366 第7章 参数估计 求参数置信区间的一般步骤:构造一个包含 和 的随机变量 要求先求出未知参数 的一个点估计 ,建议 使用极大似然估计或无偏估计;置信区间 除了未知参数 以外,不再含有任何未知的信息,且 的分布已知或者分位数可以通过查表或者计算得到;1267 第7章 参数估计选取常数 ,使得将不等式 等价变形为,则 ,就是未知参数 的双侧 其中 ,都是统计量.置信区间 置信区间.3468 第7章 参数估计置信区间69 第7章 参数估计 设 是取自正态总体 的一个样 双侧置信区间:本,给定置信水平为 ,置信区间已知方差 ,求期望 的70
14、第7章 参数估计则 满足取 ,置信区间71 第7章 参数估计目录/Contents7.17.27.37.47.5点估计点估计的优良性评判标准置信区间单正态总体下未知参数的置信区间两个正态总体下未知参数的置信区间72 第7章 参数估计目录/Contents7.4单正态总体下未知参数的置信区间一、均值的置信区间二、方差的置信区间 设 是取自正态总体 的一个样 本,给定置信水平为 ,且样本均值为 ,样本方差73 第7章 参数估计一、均值的置信区间12已知方差 ,期望 的双侧置信区间;方差 未知,期望 的双侧置信区间.74 第7章 参数估计已知方差 ,期望 的双侧置信区间则 需要满足取 其次,构造随机
15、变量一、均值的置信区间首先,的无偏估计 ,75 第7章 参数估计相应的置信区间观测值为:不等式等价变形后即得 的双侧置信区间:一、均值的置信区间76 第7章 参数估计一、均值的置信区间77 第7章 参数估计例1 某商店每天每百元投资的利润率服从正态分布,均值为 未知,方差长期以来稳定在0.4.现随机抽取五天的利润率得到数据为:-0.2,0.1,0.8,-0.6,0.9,求 的双侧置信水平为 0.95 的双侧置信区间.解 由题意知 ,计算并查表得故期望的双侧0.95置信区间为 一、均值的置信区间78 第7章 参数估计则 满足取 ,方差 未知,期望 的双侧置信区间构造随机变量,则 符合选取的要求;
16、一、均值的置信区间79 第7章 参数估计相应的置信区间观测值为不等式等价变形后即得 的双侧置信区间:一、均值的置信区间80 第7章 参数估计一、均值的置信区间81 第7章 参数估计二、方差的置信区间12期望 已知,方差 的双侧置信区间;期望 未知,方差 的双侧置信区间.82 第7章 参数估计(1)期望 已知,方差 的双侧置信区间二、方差的置信区间83 第7章 参数估计二、方差的置信区间84 第7章 参数估计取 ,二、方差的置信区间(2)期望 未知,方差 的双侧置信区间85 第7章 参数估计不等式等价变形后即得 的双侧置信区间:二、方差的置信区间而标准差的置信区间为86 第7章 参数估计例2续测量10个灯泡,得为了解灯泡使用时数的均值和标准差 小时,如果灯泡的使用时数服从正态分布 ,求 的置信水平 的双侧置信区间.二、方差的置信区间 小时,查表得故方差的0.95双侧置信区间为解 由题设条件知 87 第7章 参数估计位:厘米,并由此算得从一批螺钉中随机取9枚,测得其长度 ,单 ,设钉子长度 ,其中参数未知,二、方差的置信区间补例试分别求 的置信水平 的双侧置信区间.88 第7章 参数估计查