《普通最小二乘法》由会员分享，可在线阅读，更多相关《普通最小二乘法（3页珍藏版）》请在金锄头文库上搜索。
1、普通最小二乘法（OLS）普通最小二乘法（Ordinary Least Square，简称OLS），是应用最多的参数估计方法也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。在已经获得样本观测值七七（i=1,2,n）的情况下（见 图2.2.1中的散点），假如模型（2.2.1）的参数估计量已经求 得到，为0和也，并且是最合理的参数估计量，那么直线 方程（见图2.2.1中的直线）i=1,2,n (2.2.2)应该能够最好地拟合样本数据。其中七为被解释变量的估计值，它是由参数估计量和解释 变量的观测值计算得到的。那么，被解释变量的估计值与观测值应该在总体上最为接近，判 断的标准是二
2、者之差的平方和最小。Q = （y 即眼）2 =Z u2 = Q （P , P ）i 01 ii01i=1Q p=P ,p=P00*1 1=& x - y 亍=以-P -P x ）=mW , P ）,小、ii ii 01 i01（2.2.3）11为什么用平方和？因为二者之差可正可负，简单求和可能将很大的误差抵消掉，只有平 方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么，就可以从最小二乘原则和样本观测值出发，求得参数估计量。由于Q = 号 *）21 =工（七-（任0 +6 x ）21是修0、1的二次函数并且非负，所以其极小值总是存在的。根据罗彼塔法则，当Q对PP1的一阶偏导数为0时，
3、Q达到最小。即膈顼0，p 1=耽p 0=p0，p 1=p1容易推得特征方程:i=1(2.2.4)-p-p X ) = Z(y- y )=Zi 01 ii i1iZX (y - p - p x ) = Zx e = 0iiiii=1解得：z yiz yi所以有:5 Z0任Z X +0i(2.2.5)nZxy -(Zx )(Zy ) Z(x -x)(y - y)iiiiiii=1i=1i=1 =马nZx 2-(Zx)2iii=1i =1八p =y-p x01i=1一 X)2i(2.2.6)于是得到了符合最小二乘原则的参数估计量。的参数估计量的计算公为减少计算工作量，许多教科书介绍了采用样本值的离差
4、形式式。由于现在计量经济学计算机软件被普遍采用，计算工作量已经不是什么问题。但离差形 式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。记.Xi.yi=X - X=yi - y(2.2.6)的参数估计量可以写成.知g = _ 1 V .乙 X 2(2.2.7)出广y - E x至此，完成了模型估计的第一项任务。下面进行模型估计的第二项任务，即求随机误差项方 差的估计量。记匕Ui 一七七为第i个样本观测点的残差，即被解释变量的估计值 与观测值之差。则随机误差项方差的估计量为 2 二u n - 2(2.2.8) 2 _. . 一 一在关于 u的无偏性的证明中，将给出(2.2.8)的推导过程，有兴趣的读者可以参考 有关资料。在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值” 的区别。由(2.2.6)给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估 计值”，或者“点估计”，是参数估计量任0和g的一个具体数值；但从另一个角度，仅仅 把(2.2.6)看成任0和g的一个表达式，那么，则是七的函数，而y是随机变量，所以K 和g也是随机变量，在这个角度上，称之为“估计量”。在本章后续内容中，有时把g0和 g作为随机变量，有时又把g0和g作为确定的数值，道理就在于此。
