《普通最小二乘法》由会员分享,可在线阅读,更多相关《普通最小二乘法(3页珍藏版)》请在金锄头文库上搜索。
1、普通最小二乘法(OLS)普通最小二乘法(Ordinary Least Square,简称 OLS) ,是应用最多的 参数估计方法 ,也是从最小二乘原理出发的其他估计方法的基础,是必须熟练掌握的一种方法。在已经获得样本观测值 ixy,(i=1,2,n)的情况下(见图 2.2.1 中的散点) ,假如模型(2.2.1)的参数估计量已经求得到,为0和 1,并且是最合理的参数估计量,那么直线方程(见图 2.2.1 中的直线)iixy10i=1,2,n (2.2.2)应该能够最好地拟合样本数据。其中 i为被解释变量的估计值,它是由参数估计量和解释变量的观测值计算得到的。那么,被解释变量的估计值与观测值应该
2、在总体上最为接近,判断的标准是二者之差的平方和最小。),()( 1022101 QuxyQiinii (2.2.3),(min 102110212,10 xyuniiniii 为什么用平方和?因为二者之差可正可负,简单求和可能将很大的误差抵消掉,只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么,就可以从最小二乘原则和样本观测值出发,求得参数估计量。由于 2110)(niiiixyQ是0、 1的二次函数并且非负,所以其极小值总是存在的。根据罗彼塔法则,当 Q 对、 的一阶偏导数为 0 时,Q 达到最小。即 (2.2.4)0100100,1,Q容易推得特征方程: 0)( 1011
3、10 iiini iiiinii exyxyx解得: 2101iii ii xxxyn(2.2.5)所以有: (2.2.6) xyxyxnyyniini iiniiiiniiinii 10121211211 )()( 于是得到了符合最小二乘原则的参数估计量。为减少计算工作量,许多教科书介绍了采用样本值的 离差形式 的参数估计量的计算公式。由于现在计量经济学计算机软件被普遍采用,计算工作量已经不是什么问题。但离差形式的计算公式在其他方面也有应用,故在此写出有关公式,不作详细说明。记 ixn1iyyyxxiiii(2.2.6)的参数估计量可以写成(2.2.7)xyyxntinti1021至此,完成
4、了模型估计的第一项任务。下面进行模型估计的第二项任务,即求随机误差项方差的估计量。记 为第 i 个样本观测点的 残差 ,即被解释变量的估iiii yue计值与观测值之差。则随机误差项方差的估计量为(2.2.8)22neiu在关于 的无偏性的证明中,将给出(2.2.8)的推导过程,有兴趣的读者可以参考2u有关资料。在结束普通最小二乘估计的时候,需要交代一个重要的概念,即“估计量”和“估计值”的区别。由(2.2.6)给出的参数估计结果是由一个具体样本资料计算出来的,它是一个“估计值” ,或者“点估计” ,是参数估计量0和 1的一个具体数值;但从另一个角度,仅仅把(2.2.6)看成0和 1的一个表达式,那么,则是 iy的函数,而 iy是随机变量,所以0和 1也是随机变量,在这个角度上,称之为 “估计量” 。在本章后续内容中,有时把 和 作为随机变量,有时又把0和 1作为确定的数值,道理就在于此。