《二章节参数估计理论》由会员分享，可在线阅读，更多相关《二章节参数估计理论（18页珍藏版）》请在金锄头文库上搜索。
1、第二章第二章 参数估计理论参数估计理论 1.1.估计子的性能估计子的性能n估计子的定义1.1.估计子的性能估计子的性能( (续续) )1.1.估计子的性能估计子的性能( (续续) ) n两个无偏估计(或其中一个渐进无偏估计)的性能比较：1.1.估计子的性能估计子的性能( (续续) )2.Fisher信息与信息与Cramer-Rao下界下界2.Fisher信息与信息与Cramer-Rao下界下界(续续)n损失函数(代价函数)n绝对损失函数n二次型损失函数3.Bayes估计估计n均匀损失函数3.Bayes估计估计(续续)n风险函数: 损失函数的数学期望nBayes估计：使风险函数最小化的参数估计3
2、.Bayes估计估计(续续)4.最大似然估计最大似然估计(maximum likelyhood)n线性均方LMS (linear mean square)5.线性均方估计线性均方估计5.线性均方估计线性均方估计(续续)5.线性均方估计线性均方估计(续续)n正交性原理n线性均方估计是典型的Bayes估计6.最小二乘估计最小二乘估计n问题6.最小二乘估计最小二乘估计(续续)n超定方程6.最小二乘估计最小二乘估计(续续)nGaussian-Markov定理n加权最小二乘估计本章小结本章小结n评价参数估计好坏的问题：n采用均方误差来衡量参数估计的优劣n判断无偏估计是否最好：使用Fisher信息，满足Cramer-Rao下界n如何进行参数估计：nBayes估计（关键选什么风险函数）n最大似然估计（需知道似然函数形式）n线性均方估计（正交性原理）n最小二乘估计（若e零均值、同方差，则最小二乘法是最优的，否则要用加权最小二乘法）n习题n题2.3， 题2.6，题2.8，题2.13
