清华计量 6 GMM估计

《清华计量 6 GMM估计》由会员分享，可在线阅读，更多相关《清华计量 6 GMM估计（78页珍藏版）》请在金锄头文库上搜索。

1、第六章 GMM估计 问题的引入 线性模型中的GMM 非线性模型中的GMM GMM的大样本特性 假设检验 GMM的应用7.1 问题问题 的引入 Introduction一、矩估计(Method of Moment, MM)矩估计法是一种类比方法，该方法从总体具有的 某些固有的特征出发，认为如果样本是从某总体中 抽出的，则样本也应具有类似的特征，从而通过计 算样本的相关特征，寻找总体参数的估计。类比法中讨论最多的是总体矩与样本矩的类比问 题。这时，类比法也称为矩估计法。例：对于总体均值，=E(X)，这时g(X)=X对于总体方差，2=E(X-)2，这时g(X)=(X-)2总体均值称为总体的1阶原点矩

2、，总体方差称为总体 的2阶中心矩。总体矩M可以简单地定义为一随机变量X的某个连 续函数g 的数学期望：M=Eg(X)根据类比法的原理，可以用样本矩(或样本矩函数 )来估计总体矩(或总体矩函数），而且，样本矩在大 样本下往往具有一致性。这一类比法也称为矩法。矩法可用于估计总体的参数例1. 设Xi是从某一服从指数分布的总体f(X,)=exp(-X)， X0中抽出的。由于指数分布的均值为：M1=()=E(X)=1/二、OLS作为一个矩问题对模型 Y=X+ 假设模型的设定是正确的，则有E(X)=0， 从而有矩条件：M()=EX(Y-X)=0根据矩法（类比法），相应的样本矩为：m()= (1/n)X(Y

3、-X)问题归结为，寻找适当的=b，使得 m(b)=0或： (1/n)X(Y-Xb)=0 解为： b=(XX)-1XY线性模型的OLS估计可以看成是矩估计。三、工具变量(IV)作为一个矩问题假设有如下模型： Yt=Xt11 +Xt22+t 其中：X2为单一变量，X1为包括截距项的k维行向量2、1为对应的参数变量与参数向量。如果模型设定正确，则有如下矩条件E(Xt1t )=0, E(Xt2t)=0(1/n)Xt1(Yt-Xt1b1-Xt2b2) =0 (1/n)Xt2(Yt-Xt1b1-Xt2b2) =0(1/n)Xt1(Yt-Xt1b1-Xt2b2) =0 (1/n)Xt2(Yt-Xt1b1-X

4、t2b2) =0正规方程组如果缺少矩条件，如E(Xt2t)0，则上述正规方程组最后一个方程不存在，则无法求解。这时，工具变量法就是寻找一工具变量Z2，满足 E(Zt2t)=0，E(Zt2Xt2)0。使得原模型的矩条件变为E(Xt1t)=0, E(Zt2t)=0bIV=(ZtXt)-1ZtYt=(ZX)-1(ZY)其中，Xt=(Xt1, Xt2) , Zt=(Xt1, Zt2)(1/n)Xt1(Yt Xt1b1,IV Xt2b2,IV) =0 (1/n)Zt2(Yt Xt1b1,IV Xt2b2,IV) =0相应的样本矩方程组为对于矩阵形式： Y=X+ 如果E(X)0,（假设Xk与随机项相关)，

5、用工具变 量Z替代X(用Zk替代Xk)：由于Z与X的列相同l=K，ZX满秩，解为：bIV=(ZX)-1ZY则相应的样本矩条件为：(1/n)Z(Y-Xb)=0 或 ZXb=ZY得到总体矩条件E(Z)=0,四、非线性模型的矩估计法对非线性回归模型Yt=h(Xt;)+t tiid(0,2) 或 Y=h(X;)+ iid(0,2I)那么，如果Zt=(Zt1, Zt2, , ZtK) 为任一其元素属 于t的1K向量，则E(Ztt)=EZt(Yt-h(Xt;)=0 （*）记t为时期t的任何与t无关的变量的任意组合构 成的信息集。 记则E(Ztt)=0对应的矩阵式为：E(ZY-h(X;)=0由矩估计原理，对

6、一容量为n的样本Yt,Xt,有(1/n)ZY-h(X;)=0 (*)(*)式为K个非线性方程组，其解bMM为原非线性模 型的矩估计。五、MM估计的性质矩估计的关键在于选择具有渐近列满秩的、与随 机扰动项正交的矩阵Z。选择满足正交性条件的不同的Z，则会得到不同的 矩估计。但它们都是参数的一致估计。尽管不同的Z对应着不同的但却一致的矩估计，但 不同矩估计量往往有着不同的渐近方差矩阵。因此，可以选择一Z，使其矩估计量具有渐近有效 性。1、bMM具有一致性与NLS估计中bNLS 的一致性相似，对MM估计法：bNLS的求解是在如下总体正交性条件E(Xt()t)=0 成立时，通过求解如下非线性方程组完成的

7、：X()Y-h(X;)=0同样地，如果成立E(Ztt)=0，则可通过求解下式 得到bMMZY-h(X;)=0当参数渐近可识别时，bMM具有一致性对向量 ()=plim (1/n)X()Y-h(X;)一方面 (0)=0, 另一方面 (bNLS)=0由NLS法的渐近可识别性：plim bNLS=0同样地，当0为模型真实的参数时，对MM估计 仍有确定性向量()=plim (1/n)ZY-h(X;)由E(Ztt)=0，仍可由LNN得到 (0)=0, 另一方面，由于ZY-h(X;bMM)=0 从而 (bMM)=0当0为模型真实的参数时，NLS估计法中在MM法渐近可识别性条件下：plim bMM=02、b

8、MM具有渐近正态性类似于bNLS渐近正态性的讨论，bMM也具有渐近 正态性。Proof: 由于bMM是模型Y=h(X;)+的MM估计，则ZY-h(X;bMM)=0 (*)将 Y=h(X;0)+ 代入（*）式得：Z+ h(X;0) - h(X;bMM)=0 (*)于是，结合(*)式有plim (1/n)Z=plim(1/n)t=1n Ztt=EZtt=0lim(1/n)t=1nVar(Ztt)=lim(1/n)t=1nE(Ztt2Zt)= 2plim(1/n)ZZ=2ZZ在E(t|Zt)=0及tiid(0,2)的假设下 其中，假设ZZ是有限非奇异对称矩阵3、渐近有效性Z的不同取法，都可得到参数的

9、一致估计，但 渐近方差不同。当取Z=X(0)时，bMM具有最小的渐近方差。由于 2 (ZX0)-1 ZZ (ZX0)-1=2plim(n-1ZX0)-1(n-1ZZ)(n-1X0Z)-1= 2plim n-1X0Z(ZZ)-1ZX0-1=2plim n-1X0PZX0)-1 （*）其中，X0=X(0)称(*)式为n1/2(bMM - 0)的渐近方差，bMM的渐近方差为(1/n)2plim(n-1X0PZX0)-1 2 (ZX0)-1 ZZ (ZX0)-1 =2plim(n-1X0PZX0)-1 （*）取Z=X(0)，(*)式退化为NLS估计的渐近方差2 (X0X0)-1 =2plim(n-1X

10、0X0)-1其中于是： X0X0-X0PZX0=X0MZX0=(MZX0)(MZX0)=半正定矩阵下面证明 2 (X0X0)-1 =2plim(n-1X0X0)-1是最小的 渐近方差。对任意可行的Z，相应的bMM的渐近方差为(1/n)2plim n-1X0Z(ZZ)-1ZX0-1=(1/n)2plim n-1X0PZX0)-1这也证明了第6章中的NLS估计具有渐近有效性只需证明，对任意nN，X0X0与其他估计的方差 之差为半正定矩阵。7.2 线线性模型中的GMM GMM Estimators for Linear Regression Models一、广义矩估计的基本原理在上述线性模型工具变量

11、法的估计中，尽管我们 假设工具变量的个数不小于参数的个数，lK，但实 际上在选取工具变量时，只取了l=K=k+1。即工具 变量矩阵Z的列数等于X的列数。这主要是由于寻找 的总体矩条件的个数等于未知参数的个数。如果寻找的总体矩条件的个数多于参数的个数， lK，则相应的样本矩条件形成的正规方程组Z(Y-Xb)=0 将无解。三种解决思路：第一，去掉多余的矩条件，使矩条件的个数等于 未知参数的个数，或者说工具变量的个数等于参数 的个数，这时，就是上面介绍的工具变量法；第二，既然无法满足每一个样本矩为0，但可使 它们尽可能地接近0，因此可像OLS法那样让它们 的平方和最小，即求如下问题的极小值：min

12、Z(Y-Xb)Z(Y-Xb)第三，如同第二种那样使各样本矩接近0，但对 不同的样本矩给予不同的权重：min Z(Y-Xb)WZ(Y-Xb) 第一种思路不是最优的，因为舍弃了相关信息。权矩阵(W)ll的选择，可根据每个样本矩条件估计 的精确程度来设置（用方差来度量），如：对估计较精确的矩条件给予较大的权重，对估计 较不精确的矩条件给予较小的权重。 或者说：W应是Var(Z)-1的一致估计。第二种思路与第三种类似（都得到的一致估计） ，但hansen(1982)证明第三种方法更有效。广义矩估计(Generalized Method of Moment, GMM) 就是依据第三种思路展开的。即选择适

13、当的权矩阵 W后，求解如下极小化问题min Q(b)=Z(Y-Xb)WZ(Y-Xb)对广义矩估计中的最小化问题min Q(b)=Z(Y-Xb)WZ(Y-Xb)当lK时，ZX是一个列满秩于K的矩阵。从而 (XZWZX)KK非奇异，于是有：bGMM=(XZWZX)-1XZWZY该式即为原模型Y=X+的一个广义矩估计量。1阶极值条件（偏导为0）：-2XZWZY+2XZWZXb=0或 XZWZXb=XZWZY这是一个有K个未知参数，K个方程的线性方程组。渐近方差为了讨论bGMM的渐近方差矩阵，仍在E(|Z)=V 的假设下考察 plim Varn1/2(bGMM-)易知：bGMM-=XZWZX-1XZW

14、Z从而，Var(bGMM-)=E(bGMM-)(bGMM-)=XZWZX-1XZWZVZWZXXZWZX-1于是，plimVarn1/2(bGMM-)=plimnXZWZX-1XZWZVZWZXXZWZX- 1或 Avar(bGMM)=XZWZX-1XZWZVZWZXXZWZX-1注意：如果W的选取满足：W=Var(Z)-1=ZVZ-1=W则 Var(bGMM-) =XZ(ZVZ)-1ZX-1于是 plimVarn1/2(bGMM-) =plim nXZ(ZVZ)-1ZX-1或 Avar(bGMM) =XZ(ZVZ)-1ZX-1 讨论2种情形：(1) l=K，这时ZX为KK方阵且可逆。于是：b=(ZX)-1W-1(XZ)-1XZWZY=(ZX)-1ZY可见，bGMM=bIV, 这时W的选择对结果无影响。(2) lK，这时根据W选取的不同，有不同的解 bGMM，但只要W是对称