《多元线性回归自相关问题课件》由会员分享，可在线阅读，更多相关《多元线性回归自相关问题课件（32页珍藏版）》请在金锄头文库上搜索。
1、第十章 序列相关问题一、序列相关性二、序列相关性的后果三、序列相关性的发现和判断四、误差序列相关的处理和克服1多元线性回归-自相关问题一、序列相关性的定义线性回归模型假设要求线性回归模型假设要求 对任意对任意 都成立都成立误差序列相关比较基本和重要类型误差序列相关比较基本和重要类型一阶自回归：一阶自回归： 其中其中 满足满足2多元线性回归-自相关问题二、序列相关性的后果1、参数估计量是无偏的和一致的，但不再是、参数估计量是无偏的和一致的，但不再是BLUE的，的，是非有效。是非有效。2、OLS估计量的方差是有偏的估计量的方差是有偏的3、检验统计量不再生效，变量显著性检验失去意义。、检验统计量不再
2、生效，变量显著性检验失去意义。3、模型的预测失效。、模型的预测失效。3多元线性回归-自相关问题三、序列相关性的发现和判断（一）残差序列图分析（一）残差序列图分析如形成锯齿形或循环状，可断定残差序列存在相关如形成锯齿形或循环状，可断定残差序列存在相关4多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断分析误差序列相关残差分布图分析误差序列相关残差分布图5多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断例例7.1 美国进口支出函数美国进口支出函数 给出美国给出美国1968年到年到1987年期进口支出与个人可支配收年期进口支出与个人可支配收入（入（PDI）数据，建立美国
3、支出函数模型，检验残差序）数据，建立美国支出函数模型，检验残差序列的自相关性。列的自相关性。p 绘出残差序列随时间变化的趋势绘出残差序列随时间变化的趋势p 绘出残差序列与其滞后项绘出残差序列与其滞后项6多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（二）回归检验法（二）回归检验法 首先应用首先应用OLS估计模型并求出估计模型并求出的估计值即残差的估计值即残差e，然后以然后以et 为被解释变量，以各种可能的相关变量如为被解释变量，以各种可能的相关变量如 等等作为自变量进行线性拟合如：作为自变量进行线性拟合如： 对各种拟合形式进行统计检验，选择显著的最优的拟合对各种拟合形式进行统
4、计检验，选择显著的最优的拟合形式作为序列相关的具体形式。形式作为序列相关的具体形式。7多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（三）游程检验（三）游程检验 游程：为同一符号或属性（例如游程：为同一符号或属性（例如+或或-)的一个不间断历程。的一个不间断历程。 如：记残差的符号如：记残差的符号(+或或-),有有 (+)(-)(+)(-)(+) 总共有总共有20个残差构成了个残差构成了5个游程。其中一个个游程。其中一个7个正值的游程个正值的游程（其长度为（其长度为7）。若游程太多，则意味着）。若游程太多，则意味着e在频繁地变换着在频繁地变换着符号，表明存在负的序列相关；如果
5、游程太少，则意味着符号，表明存在负的序列相关；如果游程太少，则意味着存在正的自相关。在残差是独立的假设下，史威德存在正的自相关。在残差是独立的假设下，史威德（Swed）和艾森哈特（和艾森哈特（Eisenhart）建立了游程检验的临建立了游程检验的临界值。界值。8多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（三）游程检验（三）游程检验 令令N为观察值的总个数，为观察值的总个数，N1表示表示+号（正的残差）的个数，号（正的残差）的个数， N2表示表示-号（负的残差）的个数，号（负的残差）的个数，k表示游程个数，在残差表示游程个数，在残差是独立的假设下，是独立的假设下，Swed-
6、Eisenhart给出了游程检验的上下给出了游程检验的上下临界值，如果实际游程个数小于或等于下临界值，或是大临界值，如果实际游程个数小于或等于下临界值，或是大于或等于上临界值，则可以拒绝零假设，说明所观察的序于或等于上临界值，则可以拒绝零假设，说明所观察的序列是随机的列是随机的实例实例7-2 利用游程检验判断美国抵押债务方程残差项的利用游程检验判断美国抵押债务方程残差项的 自相关性自相关性9多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（四）杜宾（四）杜宾-瓦尔森瓦尔森(D-W)检验（适应于一阶自相检验（适应于一阶自相关情况的检验）关情况的检验）DW检验的原理检验的原理 对线
7、性回归模型对线性回归模型 如果误差项有一阶自回归问题，那么如果误差项有一阶自回归问题，那么 其中的其中的 ， 是均值为是均值为0的独立同分布随机变的独立同分布随机变量。量。 10多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断根据根据 和和 的性质，有的性质，有因此因此11多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断考虑与考虑与 有密切关系的有密切关系的DW统计量统计量12多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断检验误差序列正自相关性检验误差序列正自相关性DW检验区域图检验区域图 一阶自相关一阶自相关 无法判断无法判断 无一阶自相关性
8、无一阶自相关性 无法判断无法判断 一阶负自相关一阶负自相关实例实例7-3 利用利用杜宾杜宾-瓦尔森检验瓦尔森检验判断美国抵押债务方程残判断美国抵押债务方程残差项的差项的 自相关性自相关性13多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断DW检验序列相关性的主要不足：检验序列相关性的主要不足：（1）D.W.统计量的扰动项在原假设下依赖于系数矩阵统计量的扰动项在原假设下依赖于系数矩阵X；（2）回归方程右边如果存在滞后变量，）回归方程右边如果存在滞后变量， D.W.检验不再检验不再有效；有效；（3）仅仅检验残差是否存在一阶序列相关）仅仅检验残差是否存在一阶序列相关 14多元线性回归
9、-自相关问题三、三、序列相关性的发现和判断发现和判断（五）相关图和（五）相关图和Q统计量检验序列相关统计量检验序列相关 可以应用所估计回归方程残差序列的自相关和偏自相关可以应用所估计回归方程残差序列的自相关和偏自相关系数以及系数以及Ljung-Box Q统计量来检验序列相关。统计量来检验序列相关。Q统计量统计量的表达式为的表达式为 其中其中rj是残差序列的是残差序列的j阶自相关系数，阶自相关系数，T为样本容量，为样本容量，p为为设定的滞后阶数。设定的滞后阶数。 15多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（五）相关图和（五）相关图和Q统计量检验序列相关统计量检验序列相关
10、 p阶滞后的阶滞后的Q统计量的原假设是：序列不存在统计量的原假设是：序列不存在p阶自相关；阶自相关；备选假设为：序列存在序列相关。在实际检验中，通常会计算备选假设为：序列存在序列相关。在实际检验中，通常会计算出不同滞后阶数的出不同滞后阶数的Q统计量、自相关系数和偏自相关系数。如统计量、自相关系数和偏自相关系数。如果各阶果各阶Q统计量都没有超过临界值，则接受原假设，即不存在统计量都没有超过临界值，则接受原假设，即不存在序列相关，并且此时各阶的自相关和偏自相关系数都接近于序列相关，并且此时各阶的自相关和偏自相关系数都接近于0；如果存在某一滞后阶数；如果存在某一滞后阶数p，Q统计量超过设定的显著性水
11、平的统计量超过设定的显著性水平的临界值，则拒绝原假设，说明残差存在临界值，则拒绝原假设，说明残差存在p阶自相关。阶自相关。 16多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（五）相关图和（五）相关图和Q统计量检验序列相关统计量检验序列相关Eviews 实现实现 View-Residual Tests-Correlogram and Q-statistics17多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（五）序列相关（五）序列相关LM检验检验LM检验原假设为：直到检验原假设为：直到p阶滞后不存在序列相关，阶滞后不存在序列相关，p为预先定义好为预先定义好的
12、整数；备择假设为：存在的整数；备择假设为：存在p阶自相关阶自相关检验过程：估计回归方程，并求出残差，对原始回归变量检验过程：估计回归方程，并求出残差，对原始回归变量X和直到和直到p阶的滞后残差作回归。阶的滞后残差作回归。LM检验通常给出两个统计量：检验通常给出两个统计量：F统计统计量和量和nR2统计量。统计量。F统计量是对以上回归方程中所有滞后残差统计量是对以上回归方程中所有滞后残差联合显著性的检验。联合显著性的检验。 nR2统计量是统计量是Breusch-Godfrey LM检验检验统计量，是观测值个数统计量，是观测值个数n乘以以上方程的乘以以上方程的R2, 一般地它服从渐近一般地它服从渐近
13、地地2 2( (p) )分布。分布。18多元线性回归-自相关问题三、三、序列相关性的发现和判断发现和判断（五）序列相关（五）序列相关LM检验检验在给定地显著性水平下，如果统计量大于临界值，则说明序在给定地显著性水平下，如果统计量大于临界值，则说明序列存在序列相关性，否则不存在序列相关性。列存在序列相关性，否则不存在序列相关性。Eviews 实现实现 View-Residual Tests-Correlogram and Q-statistics实例：美国的投资方程实例：美国的投资方程建立美国国内私人投资建立美国国内私人投资INV和和GNP平减指数、利息率之间的平减指数、利息率之间的方程，并检验
14、序列相关性。方程，并检验序列相关性。19多元线性回归-自相关问题四、误差序列相关的处理和克服（一）一阶差分法（一）一阶差分法（二）广义差分法（二）广义差分法（三）杜宾（三）杜宾(Durbin)两步法两步法（四）广义最小二乘法（四）广义最小二乘法20多元线性回归-自相关问题（一）一阶差分法（一）一阶差分法设线性回归模型为设线性回归模型为已知已知 有很强的一阶自相关性，即有很强的一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：把滞后一期的观测值代入变量关系，得方程：可得可得21多元线性回归-自相关问题由于由于 ，因此，因此令令 ，可得可得因为因为 ，所以上式近似为，所以上式近似为 注意注
15、意 相当于相当于DW趋于趋于0。22多元线性回归-自相关问题（二）广义差分法（二）广义差分法设线性回归模型为设线性回归模型为已知已知 有一阶自相关性，即有一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：把滞后一期的观测值代入变量关系，得方程：23多元线性回归-自相关问题可得可得使使根据根据 可得可得如果记如果记 ，所以上式为，所以上式为24多元线性回归-自相关问题（三）杜宾两步法（三）杜宾两步法从两变量模型的广义差分式从两变量模型的广义差分式整理后可得整理后可得,25多元线性回归-自相关问题接受上述多元线性回归得到的接受上述多元线性回归得到的 估计值估计值 ，利用广义差分，利用广义差
16、分变换变换 ， 得到得到 对它进行最小二乘估计，并把估计回归结果计算的对它进行最小二乘估计，并把估计回归结果计算的 和和1 ，作为原模型参数的估计。，作为原模型参数的估计。26多元线性回归-自相关问题（四）广义最小二乘法（四）广义最小二乘法w广义最小二乘法的一般原理广义最小二乘法的一般原理 设线性回归模型为设线性回归模型为 其中其中 但但 对对 进行分析进行分析 27多元线性回归-自相关问题（四）广义最小二乘法（四）广义最小二乘法记记得到得到其中误差向量满足其中误差向量满足对变换过的模型进行最小二乘估计，得参数估计对变换过的模型进行最小二乘估计，得参数估计28多元线性回归-自相关问题（四）广义
17、最小二乘法（四）广义最小二乘法 以误差序列一阶自相关问题为例以误差序列一阶自相关问题为例 设模型为设模型为 其误差满足其误差满足 其中其中 ， 是均值为是均值为0、独立同分布的随机变、独立同分布的随机变量，且方差为量，且方差为 。 29多元线性回归-自相关问题（四）广义最小二乘法（四）广义最小二乘法不同时期误差之间的协方差可以表示为：不同时期误差之间的协方差可以表示为：由于由于 30多元线性回归-自相关问题（四）广义最小二乘法（四）广义最小二乘法因此可以得到协方差矩阵，为因此可以得到协方差矩阵，为31多元线性回归-自相关问题（五）应用举例（五）应用举例例例1：修正美国投资方程残差序列的自相关性：修正美国投资方程残差序列的自相关性例例2：考虑美国消费：考虑美国消费CS和和GDP及前期消费之间的关系。数及前期消费之间的关系。数据区间：据区间：1947年第年第1季度到季度到1995年第年第1季度，数据中已季度，数据中已消除了季节要素。建立模型，检验序列相关性，并进消除了季节要素。建立模型，检验序列相关性，并进行修正。行修正。32多元线性回归-自相关问题
