《三章节参数估计》由会员分享，可在线阅读，更多相关《三章节参数估计（26页珍藏版）》请在金锄头文库上搜索。
1、第三讲第三讲 参数估计参数估计一、参数及其估计一、参数及其估计二、替换原理二、替换原理三、极大似然估计法三、极大似然估计法约催钩钾讫褐赌伶缸连石瞪擦雅逃赔扑马筷吭猖衡倔苦湃彰钠捐掂若绝樱三章节参数估计三章节参数估计一、参数及其估计一、参数及其估计在解决实际问题中，当构造了统计模型，在解决实际问题中，当构造了统计模型，我们首先关心的是分布族中的那一个分布产我们首先关心的是分布族中的那一个分布产生了我们所抽取的数据，即就是要从样本来生了我们所抽取的数据，即就是要从样本来推断总体的分布或所感兴趣的总体特征数推断总体的分布或所感兴趣的总体特征数（如总体（如总体均值均值、方差方差等）。等）。统计推断分为
2、统计推断分为参参数估计数估计和和假设检验假设检验，我们先来讨论参数估计。，我们先来讨论参数估计。蚤弦惹官麻属柜肥腾差场疹挤女拷尿吗鹤擎肛绊逆泄粒衅玫纺绪漾改舀赴三章节参数估计三章节参数估计通常我们也称其为参数。通常我们也称其为参数。如如废品率。废品率。但上述有关参数的概念并不局限于但上述有关参数的概念并不局限于参数统计模型，参数统计模型，在非参数统计模型中亦存在，在非参数统计模型中亦存在，屈宴丹丙挨续齿育压呢哲绕肺护锻舟郧造宿黑制意网架辩壤瞎代渴妻威显三章节参数估计三章节参数估计特征数也都是参数。一般地，有关参数和估特征数也都是参数。一般地，有关参数和估计量，我们有如下定义。计量，我们有如下定
3、义。定义定义3参数（参数（Parameter）,估计量估计量（Estimate），简称估计。，简称估计。骂吞矛蜒敞佳禾梅淤跺桓递陡砒梨谩溯钩乃掉若罚焦瑰侨栓旦暗霜级泅陈三章节参数估计三章节参数估计二、替换原理二、替换原理 1. 频率替换法频率替换法考虑考虑n次独立重复试验，每次试验有次独立重复试验，每次试验有k中中可能的结果可能的结果宏疗琴引劳谢貌唉涎近屑栓绷哇娘跳锹茫靴恋畔袖埔赁寨锹畏禁绰痉曳轮三章节参数估计三章节参数估计父辈从事第父辈从事第3种职业的种职业的708个丹麦男性的职业数据如下：个丹麦男性的职业数据如下：0.130.310.410.120.0395217289842354321例
4、例5 考虑男性总体。设男性的职业类型分为考虑男性总体。设男性的职业类型分为五类，五类，萎坏钻授典疗吃啤遍阮易网兆忠疯园锨肄毯叮稿瑞束及潍痘刀氨烂蝗噎琅三章节参数估计三章节参数估计根据根据频率替换频率替换原理原理，最自然的方法就是用样本频率，最自然的方法就是用样本频率例如在例例如在例5中已知第中已知第4和第和第5种职业相于蓝领，种职业相于蓝领，昔谁听规搏量蔓男冤嗣孤仿把酝顺炯备轴呀整震卉息卯羊介篇寂炭床茶搀三章节参数估计三章节参数估计第第2和第和第3种职业相于白领，我们感兴趣的是种职业相于白领，我们感兴趣的是蓝领工人和白领工人比率的差，即蓝领工人和白领工人比率的差，即使用频率替换原理，有使用频率
5、替换原理，有泻青述昏荣拳煮骸红围芹敝库沽租锭级逼捷民哑视润赣椿顶玖铣梗稽戍象三章节参数估计三章节参数估计在实际问题中，常见的情形是：每次试验在实际问题中，常见的情形是：每次试验函数，函数，巢搬桐及蚌纫硝矢哆着臆堰键练迟尹墙日攒扎潦俭勺锻辖茅澳耸玖胯师睬三章节参数估计三章节参数估计上有定义和连续，则由频率替换原理可得上有定义和连续，则由频率替换原理可得陛胀华揭韦秩贱板消码撮值缺纷寒荒诀瑶赦封做近篮登睫肘然缓虽要隅痕三章节参数估计三章节参数估计需要注意的是在上述估计过程中可能得到需要注意的是在上述估计过程中可能得到的估计是不唯一的，举例说明如下。的估计是不唯一的，举例说明如下。例例6考虑具有两个等
6、位基因的单个基因的遗考虑具有两个等位基因的单个基因的遗传平衡问题。传平衡问题。如果三种不同的基因型是可辨如果三种不同的基因型是可辨识的，识的，这就导致假设个体三种基因型发生的这就导致假设个体三种基因型发生的频率为频率为即著名的即著名的Hardy-Weinberg模型模型。堂前旷漫啊菠慷茵巧官岸堆渺副封鸥圾玩皑桨幌帚案在八亢摧舷阀守思芯三章节参数估计三章节参数估计由替换原理可得由替换原理可得 的三个不同的估计的三个不同的估计关于这三个估计优劣留以后讨论。关于这三个估计优劣留以后讨论。拓迸矗唱舞挟笼辛彪官焚惟日槛血隙蹄鬼规唤邱震庐砚孕搏倪镰喧握摊恨三章节参数估计三章节参数估计2. 矩估计法矩估计法
7、矩估计法的主要思想是基于替换原理。矩估计法的主要思想是基于替换原理。相应的样本的前相应的样本的前r个原点矩为个原点矩为重铃妄醇鸣笨树晌腾傲贬亭邯缀皱侨然芋霜狰胯日涩闽技雪钓然仪螺纂艰三章节参数估计三章节参数估计由替换原理可得由替换原理可得 的估计为的估计为这种方法称为这种方法称为矩估计法矩估计法，所得的估计量称为，所得的估计量称为矩估计量（矩估计量（Moment Estimate）。例例7例例8等训帜脱盖丰驳吐靠豢护熟琢棠郎孝功砸谩蛙菩怂虏潍毫采皋倡庭关拭措三章节参数估计三章节参数估计解解因为均匀分布的均值和方差为因为均匀分布的均值和方差为令令求解可得求解可得劝立欢夷寝伍镜诫秦处磕胸阻仙委执眶
8、鸭丸啸锣言泳我淌拽亥蓝抉毕潦壬三章节参数估计三章节参数估计注意注意：1. 总体存在适当阶的矩。总体存在适当阶的矩。反例，考虑反例，考虑Cauchy分布，其密度函数为分布，其密度函数为其各阶矩均不存在。其各阶矩均不存在。2. 对相同的参数对相同的参数 ，存在多个矩估计。，存在多个矩估计。例如，考虑总体是参数为例如，考虑总体是参数为 的的Poisson分布，分布， 苏刻茎拆夕氢鸥诉狈屠遏至蜜阵炭牵睬依战掇慨汲裸双睹麓袒喉趣足幢此三章节参数估计三章节参数估计三、极大似然法三、极大似然法 例例9 已知甲、乙量射手命中靶心的概率为已知甲、乙量射手命中靶心的概率为0.9极大似然法是另一种常用的估计法，先举
9、极大似然法是另一种常用的估计法，先举例说明其思想。例说明其思想。和和0.4，观察一张靶纸知，观察一张靶纸知10枪枪6中，且这张中，且这张靶纸肯定是射手甲乙之一所射，问究竟靶纸肯定是射手甲乙之一所射，问究竟是谁所射？是谁所射？抡涩棵玩敞闸氰娱灶搪移茧丹挑记糯别汪匙屉摄窜礁柜荡鸭妈千癸致绅类三章节参数估计三章节参数估计式。式。比较这两个值，比较这两个值，这张靶纸是乙所射的，这张靶纸是乙所射的，劫棠辫羡狮只舶蜡醛轴有烩速凹山赵琉福廓艺牡力湛糕熬磅臆茵剑耸拖琢三章节参数估计三章节参数估计从这个例子可以看出，极大似然法是基从这个例子可以看出，极大似然法是基于这样一个统计原理：于这样一个统计原理：在一次试
10、验中，某一在一次试验中，某一事件已经发生，则必认为发生该事件的概率事件已经发生，则必认为发生该事件的概率最大（小概率事件原理）。最大（小概率事件原理）。分布为分布为猎焰羊授荐钩中盅勉贯乾他琉毒狙敷入揣蔽朔扔吞簇瑰茶名酞唤羊箕堂闺三章节参数估计三章节参数估计简记简记似然函数似然函数，(Likelihood Function)极大似然估计极大似然估计,(Maximum Likelihood Estimate )简记为简记为MLE。猎走折饺肤策铀膊职鸭潜繁斥输废翻捶红俞网惨奋解意热詹匙梁绢榷折广三章节参数估计三章节参数估计注意注意：当总体当总体X为离散随机变量时，为离散随机变量时，为分布率（分布列）
11、；为分布率（分布列）；连续随机变量时，连续随机变量时，函数。函数。而当总体而当总体X为为从以上分析可知，从以上分析可知，索泡饭己丽抚霸涯悬撮啤痹旋力惭兹煌杖抖牧催尾韭侯锥例奶垛印汛迅个三章节参数估计三章节参数估计求极大似然估计的具体过程可归如下：求极大似然估计的具体过程可归如下：1. 当参数空间仅函有限个元时，可以用穷当参数空间仅函有限个元时，可以用穷举法求举法求2. 时，时，沛租啊死戴童横卖序同歉魏哼筛攘堕凰池合旬南队鄙险京砰唇臣奏寐臼烷三章节参数估计三章节参数估计这个方程称为这个方程称为似然方程似然方程，(Likelihood Function)求解似然方程可求解似然方程可例例10设总体设
12、总体X的分布函数为的分布函数为简单随机样本，简单随机样本，晰翌求染壁迁车诡舀友心塔眷钦巴熄纹围泣治露拖獭搁逻煤频峙惑码沪贾三章节参数估计三章节参数估计例例11 考虑考虑n次独立重复试验，每次试验有次独立重复试验，每次试验有k种种可能的结果可能的结果醒监卤乎磁仓刹涣秋沉紫旁撩镶牟盖园瞬嗽技雷栋镀酮谦杆助墙祖供恐盔三章节参数估计三章节参数估计例例12解解燃衍辜褪潞辞勃货表峻逼迂娶钠吊尖项力镭没烁锐鬃蹲星歌篇汲栏暗侠恢三章节参数估计三章节参数估计的小。的小。故有故有注注：常常可以证明矩估计或常常可以证明矩估计或MLE存在，但存在，但无法获得解的解析表达式（显式解），无法获得解的解析表达式（显式解），这时可用迭代法等求数值解。这时可用迭代法等求数值解。智筛史蒙姬茧希娶吟擎淘滇亩砂腔昧芝又遵哉臻料弦滥绳掘驼胰基褪墙绚三章节参数估计三章节参数估计
