《计量经济学Econometrics2.3一元线性回归》由会员分享，可在线阅读，更多相关《计量经济学Econometrics2.3一元线性回归（33页珍藏版）》请在金锄头文库上搜索。
1、2.3 一元线性回归模型的统一元线性回归模型的统计检验计检验 一、拟合优度检验一、拟合优度检验 二、变量的显著性检验二、变量的显著性检验 三、参数的置信区间回归分析回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。 尽管从统计性质统计性质上已知，如果有足够多的重复 抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。 那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行统计检验统计检验。 主要包括拟合优度检验拟合优度检验、变量的显著性检验显著性检验及参数的区间估计区间估计。 一、拟
2、合优度检验一、拟合优度检验 拟合优度检验（拟合优度检验（拟合优度检验（拟合优度检验（Goodness of FitGoodness of FitGoodness of FitGoodness of Fit）：对样本回归直线与样本观测值之间拟合程度的检验。 度量拟合优度的指标度量拟合优度的指标度量拟合优度的指标度量拟合优度的指标：判定系数判定系数（可决系数可决系数- -coefficient of determinationcoefficient of determination）R2 2 问题：问题：采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？OLS
3、是对不同的直线而言。如果采用不同的解释变量来解释被解释变量，可能有的解释好点，有点解释差点。相当于模型的选择方法。 1 1、总离差平方和的分解、总离差平方和的分解 已知由一组样本观测值（Xi,Yi），i=1,2,n得到如下样本回归直线 没有解释的部分没有解释的部分被解释了的部分 如果Yi=i 即实际观测值落在样本回归“线”上，则拟合最好拟合最好。可认为，“离差”全部来自回归线，而与“残差”无关。 对于所有样本点，则需考虑这些点与样本均值离差的平方和,可以证明：记总体平方和总体平方和（Total Sum of Squares）回归平方和回归平方和（Explained Sum of Squares
4、）残差平方和残差平方和（Residual Sum of Squares ）TSS=ESS+RSS Y的观测值围绕其均值的总离差总离差(total variation)可分解为两部分：一部分来自回归线一部分来自回归线(ESS)，另一部，另一部分则来自随机势力分则来自随机势力(RSS)。在给定样本中，TSS不变， 如果实际观测点离样本回归线越近，则ESS在TSS中占的比重越大，因此 拟合优度拟合优度：回归平方和：回归平方和ESS/YESS/Y的总离差的总离差TSSTSS2、可决系数、可决系数R2 2统计量统计量 称 R2 为（样本）（样本）可决系数可决系数/判定系数判定系数（coefficient
5、 of determination)。 可决系数可决系数的取值范围取值范围：0，1 R2 2越接近越接近1 1，说明实际观测点离样本线越近，拟，说明实际观测点离样本线越近，拟合优度越高合优度越高。直观上，若y对其均值的离差中由x对其离差所解释的部分大于由残差所解释的部分，则回归显得拟合得较好！ 在例2.1.1的收入收入-消费支出消费支出例中， 注：可决系数注：可决系数是一个非负的统计量。它也是随是一个非负的统计量。它也是随着抽样的不同而不同。为此，对可决系数的统计着抽样的不同而不同。为此，对可决系数的统计可靠性也应进行检验，这将在第可靠性也应进行检验，这将在第3章中进行。章中进行。但是但是实际
6、计算有可能为负值，这是由于计算的问题，实际计算有可能为负值，这是由于计算的问题，通常要求有常数项，可以保证非负通常要求有常数项，可以保证非负！ 可决系数为负的原因见Green（2004，p240）.The proof of that R20 require X to contain a column of 1s.If not, then ()ESS = explained sum of squares = TSS - RSS andTSS = total sum of squares = sum of (y - ybar)2 andRSS = residual (error) sum of s
7、quares = sum of (y -Xb)2 On your output ESS is negative, so R2 would be negative. ESS is negative because RSS is greater than TSS. RSS is greater than TSS because ybar is a better predictor of y (in the sum-of-squares sense) than Xb! 可决系数为负的原因见Green（2004，p240）.如果没有常数项，那么（2.2.3）中的一式不存在，即估计的残差和不一定等于0。
8、从而不能保证第41页中从而无法保证TSSRSS,这样就有可能小于0。运用可决系数时应注意运用可决系数时应注意 可决系数只是说明列入模型的所有解释变量对可决系数只是说明列入模型的所有解释变量对 因变量的联合的影响程度，不说明模型中每个因变量的联合的影响程度，不说明模型中每个 解释变量的影响程度（在多元中）解释变量的影响程度（在多元中） 回归的主要目的如果是经济结构分析，不能只回归的主要目的如果是经济结构分析，不能只 追求高的可决系数，而是要得到总体回归系数追求高的可决系数，而是要得到总体回归系数 可信的估计量，可决系数高并不表示每个回归可信的估计量，可决系数高并不表示每个回归 系数都可信任系数都
9、可信任 如果建模的目的只是为了预测因变量值，不是如果建模的目的只是为了预测因变量值，不是 为了正确估计回归系数，一般可考虑有较高的为了正确估计回归系数，一般可考虑有较高的 可决系数，一般来说时间系列的很高，而面板数据的可决系数，一般来说时间系列的很高，而面板数据的0.5就不错了。就不错了。Green认为不同模型的可决系数很难比较。认为不同模型的可决系数很难比较。可决系数与相关系数的关系（可决系数与相关系数的关系（1）（1）联系）联系 数值上，可决系数等于应变量与解释变量之间简数值上，可决系数等于应变量与解释变量之间简单相关系数的平方单相关系数的平方:可决系数与相关系数的关系（可决系数与相关系数
10、的关系（2）可决系数可决系数相关系数相关系数就模型而言就模型而言就两个变量而言就两个变量而言说明解释变量对应变量说明解释变量对应变量的解释程度的解释程度度量两个变量线性依存度量两个变量线性依存程度。程度。度量不对称的因果关系度量不对称的因果关系度量不含因果关系的对度量不含因果关系的对称相关关系称相关关系取值：取值：0,1取值：取值：1,1（2）区别）区别二、变量的显著性检验二、变量的显著性检验 回归分析回归分析是要判断解释变量解释变量X X是否是被解释被解释变量变量Y Y的一个显著性的影响因素。 在一元线性模型一元线性模型中，就是要判断X X是否对Y Y具有显著的线性性影响。这就需要进行变量的
11、显变量的显著性检验。著性检验。 变量的显著性检验所应用的方法是数理统计学变量的显著性检验所应用的方法是数理统计学中的中的假设检验假设检验。 计量经计学中计量经计学中，主要是针对变量的参数真值是，主要是针对变量的参数真值是否为零来进行显著性检验的。否为零来进行显著性检验的。 1、假设检验、假设检验 所谓假设检验假设检验，就是事先对总体参数或总体分就是事先对总体参数或总体分布形式作出一个假设，然后利用样本信息来判断布形式作出一个假设，然后利用样本信息来判断原假设是否合理，即判断样本信息与原假设是否原假设是否合理，即判断样本信息与原假设是否有显著差异，从而决定是否接受或否定原假设有显著差异，从而决定
12、是否接受或否定原假设。 假设检验采用的逻辑推理方法是反证法。假设检验采用的逻辑推理方法是反证法。 先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设。 判断结果合理与否，是基于判断结果合理与否，是基于“小概率事件不易小概率事件不易发生发生”这一原理的这一原理的 2、变量的显著性检验、变量的显著性检验 检验步骤：检验步骤： （1）对总体参数提出假设 H0： 1=0， H1：10（2）以原假设H0构造t统计量，并由样本计算其值（3）给定显著性水平，查t分布表，得临界值t /2(n-2)(4) 比较，判断 若 |t| t /2(n-2)，则拒绝H0 ，接受H
13、1 ； 若 |t| t /2(n-2)，则拒绝H1 ，接受H0 ；现在常用p值来判断，什么是p值？p小于0.05说明不显著。 对于一元线性回归方程中的0，可构造如下t统计量进行显著性检验： 在上述收入-消费支出例中，首先计算2的估计值 t统计量的计算结果分别为： 给定显著性水平=0.05，查t分布表得临界值 t 0.05/2(8)=2.306 |t1|2.306，说明家庭可支配收入在家庭可支配收入在95%95%的置信的置信度下显著，即是消费支出的主要解释变量；度下显著，即是消费支出的主要解释变量； |t2|2.306,表明在95%的置信度下，无法拒绝截距项为零的假设。 3、置信区间前面，我们讨
14、论了参数的点估计前面，我们讨论了参数的点估计. 它是它是用样本算得的一个值去估计未知参数用样本算得的一个值去估计未知参数. 但是，点估计值仅仅是未知参数的一个但是，点估计值仅仅是未知参数的一个近似值，它没有反映出这个近似值的误近似值，它没有反映出这个近似值的误差范围，使用起来把握不大差范围，使用起来把握不大.置信区间置信区间（也称（也称参数真值的区间估计参数真值的区间估计）正好弥补）正好弥补了点估计的这个缺陷了点估计的这个缺陷 . 譬如，在估计湖中鱼数的问题中，若我们譬如，在估计湖中鱼数的问题中，若我们根据一个实际样本，得到鱼数根据一个实际样本，得到鱼数 N 的极大似然估的极大似然估计为计为1
15、000条条. 若我们能给出一个区间，在此区间内我们若我们能给出一个区间，在此区间内我们合理地相信合理地相信 N 的真值位于其中的真值位于其中. 这样对鱼数的这样对鱼数的估计就有把握多了估计就有把握多了. 实际上，实际上，N的真值可能大于的真值可能大于1000条，也可条，也可能小于能小于1000条条.也就是说，我们希望确定一个区间，使我们能也就是说，我们希望确定一个区间，使我们能以比较高的以比较高的可靠程度可靠程度相信它包含真参数值相信它包含真参数值.湖中鱼数的真值湖中鱼数的真值 这里所说的这里所说的“可靠程度可靠程度”是用概率来度量的是用概率来度量的 ，称为称为置信度置信度或或置信水平置信水平
16、. 习惯上把置信水平记作习惯上把置信水平记作 ，这里，这里 是一个是一个 很小的正数很小的正数.一、一、 置信区间定义置信区间定义满足满足设设 是是 一个待估参数，给定一个待估参数，给定X1,X2,Xn确定的两个统计量确定的两个统计量则称区间 是 的置信水平（置信度 )为 的置信区间.和和 分别称为置信下限和置信上限分别称为置信下限和置信上限. 若由样本若由样本找一个区间使得要估计的参数以1a的可能落在这个区间置信水平的大小是根据实际需要选定的置信水平的大小是根据实际需要选定的.置信区间置信区间.称区间称区间 为为 的的置信水平为置信水平为 的的例如，通常可取置信水平例如，通常可取置信水平 =
17、0.95或或0.9等等.根据一个实际样本，由给定的置信水平，我根据一个实际样本，由给定的置信水平，我小的区间小的区间 ，使，使们求出一个尽可能们求出一个尽可能这里有两个要求这里有两个要求:可见，可见， 对参数对参数 作区间估计，就是要设法找出两个作区间估计，就是要设法找出两个只依赖于样本的界限只依赖于样本的界限(构造统计量构造统计量). 一旦有了样本，就把一旦有了样本，就把 估计在区间估计在区间 内内 .可靠度与精度是一对矛盾，一般是可靠度与精度是一对矛盾，一般是在保证可靠度的条件下尽可能提高在保证可靠度的条件下尽可能提高精度精度.1. 要求要求 以很大的可能被包含在区间以很大的可能被包含在区
18、间内，就是说，概率内，就是说，概率 要尽可能大要尽可能大 .即要求估计尽量可靠即要求估计尽量可靠. 2. 估计的精度要尽可能的高估计的精度要尽可能的高. 如要求区间长度如要求区间长度 尽可能短，或能体现该要求的其它准则尽可能短，或能体现该要求的其它准则. 可见，确定区间估计很关键的是要寻找一个可见，确定区间估计很关键的是要寻找一个待估参数待估参数 和估计量和估计量T 的函数的函数U(T, ), 且且U(T, )的分布为已知的分布为已知, 不依赖于任何未知参数不依赖于任何未知参数 .而这与总体分布有关，所以，而这与总体分布有关，所以，总体分布的形式是总体分布的形式是否已知，是怎样的类型，至关重要
19、否已知，是怎样的类型，至关重要. 假设检验假设检验可以通过一次抽样的结果检验总体参数可能的假设值的范围（如是否为零），但它并没有指出在一次抽样中样本参数值到底离总体参数的真值有多“近”。 要判断样本参数的估计值在多大程度上可以“近似”地替代总体参数的真值，往往需要通过构造一个以样本参数的估计值为中心的“区间”，来考察它以多大的可能性（概率）包含着真实的参数值。这种方法就是参数检验的置信区间估置信区间估计计。 如 果 存 在 这 样 一 个 区 间 ， 称 之 为 置置 信信 区区 间间（confidence interval）； 1-称为置置信信系系数数（置置信信度度）（confidence
20、coefficient）， 称为显显著著性性水水平平（level of significance） ； 置 信 区 间 的 端 点 称 为 置置 信信 限限（confidence limit）或临界值临界值（critical values）。一元线性模型中一元线性模型中， i (i=1，2）的置信区间的置信区间: :在变量的显著性检验中已经知道： 意味着，如果给定置信度（1-），从分布表中查得自由度为(n-2)的临界值，那么t值处在(-t/2, t/2)的概率是(1- )。表示为： 即于是得到:(1-)的置信度下, i的置信区间是 在上述收入收入- -消费支出消费支出例中，如果给定 =0.01，查表得： 由于于是，1、0的置信区间分别为： （0.6345,0.9195) （-433.32,226.98） 由于置信区间一定程度地给出了样本参数估计值与总体参数真值的“接近”程度，因此置信区间置信区间越小越好越小越好。 要缩小置信区间，需 （1 1）增大样本容量）增大样本容量n n，因为在同样的置信水平下，n越大，t分布表中的临界值越小；同时，增大样本容量，还可使样本参数估计量的标准差减小； （2 2）提高模型的拟合优度）提高模型的拟合优度，因为样本参数估计量的标准差与残差平方和呈正比，模型拟合优度越高，残差平方和应越小。
