《计量经济学第6章多元模型的矩阵运算》由会员分享，可在线阅读，更多相关《计量经济学第6章多元模型的矩阵运算（55页珍藏版）》请在金锄头文库上搜索。
1、第第6 6章章 计量经济学的矩阵运算计量经济学的矩阵运算 6.1 6.1 多元模型及其参数多元模型及其参数多元模型及其参数多元模型及其参数 ( (6.1.1 6.1.1 关于多元模型关于多元模型关于多元模型关于多元模型；6.1.2 6.1.2 关于关于U U的基本假定的基本假定； 6.1.3 6.1.3 参数的最小平方估计参数的最小平方估计参数的最小平方估计参数的最小平方估计) ) 6.2 6.2 最小平方估计式的性质最小平方估计式的性质最小平方估计式的性质最小平方估计式的性质 ( (6.2.1 6.2.1 线性特性线性特性线性特性线性特性；6.2.2 6.2.2 无偏性无偏性无偏性无偏性；6
2、.2.3 6.2.3 最小方差性最小方差性最小方差性最小方差性) ) 6.3 6.3 拟合优度及预测拟合优度及预测拟合优度及预测拟合优度及预测 ( (6.3.1 6.3.1 拟合优度拟合优度拟合优度拟合优度；6.32 6.32 区间预测区间预测区间预测区间预测；6.3.3 6.3.3 随机扰动项方随机扰动项方随机扰动项方随机扰动项方差的估计差的估计差的估计差的估计) ) 6.4 6.4 广义最小平方方法广义最小平方方法广义最小平方方法广义最小平方方法 ( (6.4.1 6.4.1 关于随机扰动项关于随机扰动项关于随机扰动项关于随机扰动项U U的方差的方差的方差的方差协方差矩阵；协方差矩阵；协方
3、差矩阵；协方差矩阵；6.4.2 6.4.2 广义最小平方方法广义最小平方方法广义最小平方方法广义最小平方方法；6.4.3 6.4.3 异方差和序列相关的处理异方差和序列相关的处理异方差和序列相关的处理异方差和序列相关的处理) )2024年9月13日制作人：熊义杰1 6.16.1 多元模型及其参数多元模型及其参数多元模型及其参数多元模型及其参数6.1.1 6.1.1 关于多元模型关于多元模型关于多元模型关于多元模型设有设有K K个自变量的线性模型为：个自变量的线性模型为： 对于以后各章的矩阵运算而言，规定用小写字母表示观测值，用大写字母表示矩阵。 假定总体中的每一个观测点均服从由该模型所确定假定
4、总体中的每一个观测点均服从由该模型所确定的线性趋势，则对于的线性趋势，则对于n n个观测点必然有：个观测点必然有：2024年9月13日制作人：熊义杰2 将这几个方程写成矩阵形式，得： 或6.1.2 6.1.2 关于关于U U的基本假定：的基本假定：o假定 I（零均值假定）：(62)2024年9月13日制作人：熊义杰3o 假定II和假定III（常方差和无序列相关性）： 就相当于：2024年9月13日制作人：熊义杰4o假定IV（正态性假定）：U 的每一个元素均服从正态分布，亦即：o假定（不完全共线性假定）： 解释变量之间的不完全共线性假定就等价于： 如果该假定成立，则矩阵X中至少有k+1阶子行列式
5、不为零，这时解释变量之间不存在线性相关关系。可以证明，这时矩阵 也是满秩的，即有： 于是有行列式 即必然存在 2024年9月13日制作人：熊义杰56.1.3 参数的最小平方估计参数的最小平方估计 根据总体方程式，对于一个给定的样本，显然有2024年9月13日制作人：熊义杰6o写成矩阵形式，即：2024年9月13日制作人：熊义杰76.2 最小平方估计式的性质：最小平方估计式的性质： 6.2.1 线性特性线性特性： 不仅是Y的线性函数，也是U的线性函数。证明如下： 在上式中，(XX)-1是一个k1阶方阵，X是一个(k1)n的矩阵，所以(XX)-1X也是一个(k+1)n的矩阵，与Y相乘后应为一有k1
6、个元素的列向量。2024年9月13日制作人：熊义杰86.2.2 无偏性无偏性： 6.2.3 最小方差性最小方差性： 为证明最小方差性，需要先求出 的方差-协方差矩阵。令方差-协方差矩阵为于是有：2024年9月13日制作人：熊义杰9o 这是一个对称矩阵，主对角线上给出了各参数估计值的方差，其余元素则给出了不同参数估计值间的协方差，故称作 的方差-协方差矩阵。o 同时，根据线性特征，应有：2024年9月13日制作人：熊义杰102024年9月13日制作人：熊义杰11下面证明 的最佳性。为此，令 的另一具有线性特征的估计量为：其中P为与 同阶的不为零的非随机矩阵，当P=0时， 。要比较 与 的优劣，
7、首先也应是无偏的，即应有：2024年9月13日制作人：熊义杰12半正定矩阵半正定矩阵半正定矩阵半正定矩阵：即主对角线上元素不小于0的实对称矩阵。正定矩阵正定矩阵正定矩阵正定矩阵：即主对角线上元素均大于0的实对称矩阵。2024年9月13日制作人：熊义杰136.3 拟合优度及预测拟合优度及预测6.3.1 拟合优度拟合优度 因为：2024年9月13日制作人：熊义杰14而2024年9月13日制作人：熊义杰15（610）式即总平方和的分解公式。于是，得到：6.3.2 区间预测区间预测 假定模型在预测期间仍然有效，令 表示未来的一个预测值，xf为一(k+1)个元素的行向量，现确定 E(yf) 的置信区间，
8、为此，必须计算 的方差。 因此，应有：所以：2024年9月13日制作人：熊义杰16所以，应有：于是，E(yf)置信概率为 1的置信区间为：相应的，可得到 的方差为：据此，即可估计出 yf 的预测区间。6.3.3 随机扰动项方差的估计随机扰动项方差的估计 由于在现实中u是不可观察的，因此 只能通过样本残差平方和 估计得到。2024年9月13日制作人：熊义杰17由于：记： 在此，M称作基本幂等矩阵基本幂等矩阵，幂等矩阵通常具有两个重要性质： 另一方面根据矩阵求迹的性质，我们知道，残差平方和e2（一个标量）除了用e/e表示外，还可以用矩阵 (ee/) 的迹即主对角线上元素的代数和来表示，于是采用矩阵
9、求迹矩阵求迹的方式，可以得到：2024年9月13日制作人：熊义杰18 因为矩阵的迹有性质： 于是对残差平方取期望，得到： 根据上述得到的结果，不难得到： 所以，应有：2024年9月13日制作人：熊义杰19 所以： 记：根据(614)式，很显然 是 的无偏估计量。2024年9月13日制作人：熊义杰20 6.46.4 广义最小平方方法广义最小平方方法广义最小平方方法广义最小平方方法 序列相关序列相关序列相关序列相关和异方差异方差异方差异方差是经济计量分析中经常会遇到的问题，而广义最小平方方法广义最小平方方法广义最小平方方法广义最小平方方法则是统一处理异方差和序列相关问题的常用方法。6.4.1 关于
10、随机扰动项关于随机扰动项U的方差的方差协方差矩阵协方差矩阵 U的方差协方差矩阵即：按照假定II和假定III应有：2024年9月13日制作人：熊义杰21现令：其中： 阶实对称矩阵， 为常数。 显然，如果 ，则表明： （1）各随机项的方差相同且等于 ； （2）各随机项无自相关。 如果 ，则同样有两种可能： （1）随机项存在异方差， 的主对角线元素不全为1，此时随机项的方差不完全相同， （2）随机项存在自相关， 的非主对角线元素不全为零，此时随机项的协方差2024年9月13日制作人：熊义杰22其中： 一阶自相关系数。可证明如下：设一阶自回归形式为：其中，vt满足所有关于随机扰动项的基本假定。2024
11、年9月13日制作人：熊义杰23于是，有： (其中，s2k ；正交 矩阵C的各列分别为与特征根1， 2，k相对应的特征向量，即应有：根据75式，现定义：显然，应有：不难看出，新的自变量 zi 即为一组正交变量。同时，根据620式，式619可改写为：这就是用正交自变量陈述的模型，亦即用主成分陈述的模型。其中，矩阵 和 为相似矩阵相似矩阵，其特征值相同。 在这里，变量Z也就是我们所说的主成分主成分。所以，所谓主主成分，即能够使原变量用一组正交自变量重新陈述的另一组变成分，即能够使原变量用一组正交自变量重新陈述的另一组变量量。作为主成分的变量显然具有如下重要性质： （1）各主成分的均值为0。 （2）各
12、主成分的方差等于计算该主成分时所依据的原始变量的相关矩阵的对应特征根。 （3）各主成分之间互不相关，主成分俩俩之间的协方差为0。 （4）主成分与原始变量之间的协方差等于特征根与特征向量的乘积。 （5）全部主成分的方差之和等于全部原始变量的方差之和。 6.5.3 系数向量系数向量 的估计的估计 对模型76应用最小平方方法，得到： 同时，根据77式和75式，显然应有： 为了对模型进行检验，必须知道 的方差协方差矩阵。 由于 是最小平方估计值，因而应具有线性特性，即应有： 同时，根据式77和78，应有：所以，应有：其中：6.5.4 多重共线性的诊断和处理多重共线性的诊断和处理 首先需要指出的是，如果
13、直接对正交 模型模型621 应用最小平方方法，所得出的结果将与对 模型模型625 应用最小平方方法所得出的结果完全相同，因为这两个模型是等价的。这种做法实际不能解决任何问题。 主成分分析的目的主成分分析的目的，首先在于对多重共线性进行判断。判断的依据或标准就是看特征根j的大小。理由有二： 一、 j实际上就是正交变量 zj 的平方和，除以样本容量n就是zj的方差。因此，如果j比较接近于0，根据统计知识，相应的主成分zj 实际上就接近于常数(常数的方差为0)。显然，常数不宜作为变量考虑。 亦即，当i0时，应有： 二、根据关系式 ZXC ， i0 等价于： 这就是说，根据线性相关的概念，由于 c1j
14、，c2j， ckj不全为0 ，所以在这里由 k 个标准化自变量的线性组合构成的向量 zj 实际是线性相关的，因而是应该予以处理的。 主成分分析的另一重要目的主成分分析的另一重要目的，就是要设法减轻多重共线性的影响。其方法就是将模型76中与较小特征根相对应的一个或几个主成分摒弃，然后将因变量对余下的主成分进行回归，估计出相应的系数，然后再通过逆变换求出模型中的估计值。只是需要注意，在逆变换中必须将C中的相应列、 的相应估计值及其方差均以0看待。在第四章中我们已经知道，遗漏重要的解释变量，会产生估计偏吴，所以主成分分析方法是一种有偏估计法。6.5.5 案例分析案例分析 下表是我国1984 一 19
15、91年三种宏观数据的统计数据(引自中国统计年鉴1992)，试估计社会商品零售总额的二元回归模型。表7-1我国1984 一 1991年三种宏观数据的统计数据EView10的输出结果的输出结果LS / Dependent Variable is YSample: 1984 1991Included observations: 8VariableCoefficientStd. ErrorT-StatisticProb. C 544.4771 1399.072 0.3891700.7132X1 1.794231 0.733709 2.4454240.0583X2 11.59356 11.94230 0
16、.9707980.3762R-squared 0.981594 Mean dependent var 6462.750Adjusted R-squared 0.974231 S.D. dependent var 2157.581S.E. of regression 346.3474 Akaike info criterion 11.97488Sum squared resid 599782.7 Schwartz criterion 12.00467Log likelihood -56.25103 F-statistic 133.3246Durbin-Watson stat 0.805191 P
17、rob(F-statistic) 0.000046 不难看出，不仅常参数和Z的系数不显著，而且Z的系数符号跟一般的需求理论也不相一致，这主要是由于两个解释变量之间的高度相关即共线性引起的。所以必须寻找另外一的估计方法。 对实际问题进行主成分回归，主要可按照如下六个步骤进行： 第一步，计算解释变量相关系数矩阵的特征值和相应的特征向量。 在上述案例中，解释变量的相关系数矩阵为：相应的特征值分别为：1.9781和0.022，相应地特征向量组成的正交矩阵是： 这一步，利用EViews5.0很容易完成。先将变量所有解释变量作为一个数组打开（利用Show命令），在数组窗口菜单上点击：ViewPrincip
18、al Components，得到一个主成分分析对话框，在其中的输出变量框中输入主成分序列名(Component series)；如果需要保存特征值或特征向量，也可以在Vector of eigenvalues栏和Matrix of eigenvectors栏分别输入特征值向量名和特征向量矩阵名。点击OK后得到如表7-3所示的主成分分析输出结果。输出内容分成两部分，上半部分的第一行是特征值，第二行和第三行分别是各个主成分的贡献率和累计贡献率；下半部分的各列分别是每个特征值所对应的(单位)特征向量。 表表7-3主成分分析输出结果主成分分析输出结果-0.54074 -0.46415 -0.4632-
19、0.37799 -0.37767 -0.36625-0.265 -0.2762 -0.29156-0.1126 -0.17207 -0.194610.17119 0.12795 0.068220.28699 0.2206 0.36840.32185 0.35297 0.410050.5163 0.58857 0.46894第三步，应用特征向量矩阵对观测值的标准化矩阵进行变换。 于是，有：不难看出，由于共线性的影响，z2变得既接近于0又不很稳定。第二步，计算确定观测值矩阵的标准化矩阵。转换后的三组标准变量分别是： 第四步，对变换后的矩阵应用OLS法，估计主成分参数。得到： 由于z2属于线性相关组合，所以舍弃z2，则相应地，有： 第五步，估计参数标准误差。 为了计算参数的标准误差，必须先估计u2，于是有： 第六步，把主成分参数及其标准误差还原为OLS估计值。 所以，原模型应该是： 根据估计结果不难看出，主成分估计法只是提高了参数的有效性，并没有解决参数的符号问题。主成分分析的主成分分析的EViews5计算计算
