ARMA模型的几种定阶方法

I 摘 要 本文针对自回归滑动平均（ARMA）过程的参数估计和定阶，把 Box-Jenkins 方法和 BIC 准则与系统的定阶方法加以结合，详细地介绍了基于线性估计和自回归定阶准则的方法(ARCRI)和公因子检验定阶改进法。并且把这两种方法和广义样本自相关系数函数定阶法（ESACF）加以比较总结。ARCRI 在估计部分采用了两步回归法（two-stage regression method），用自回归定阶准则来确定模型的阶。而公因子检验定阶改进法的参数估计是基于长自回归系数所组成的矩阵，模型阶数的确定则着眼于上述矩阵行列式是否为零。在方法的比较中，主要从样本大小，模型结构和参数值大小对模型合理性的影响三方面加以阐述。关键词关键词：Box-Jenkins 方法；BIC 准则线性估计；自回归定阶准则；公因子检验 II Abstract This article aims at the estimation and order identification of the autoregressive moving average(ARMA)models.As performing Box-Jenkins method BIC and system order identification to unify we introduced the Autoregressive order determination criterion and common factor test in detail.And compare these two methods to ESACF at the end.The former used two-stage regression method in estimation and the Autoregressive order determination criterion in order identification.In the latter,however,both estimation and identification are based on a matrix formed from the coefficients of autoregressive approximation to the process of interest.We show that a zero determination of this matrix is necessary and sufficient for the existence of a common factor in autoregressive and moving average lag polynomials and therefore for redundant parameters in the model.In the method comparison,mainly the influence performs from the sample size,model structure and parameter values to the rationality of the model is elaborated Key words:Box-Jenkins method;Bayesian information criterion;two-stage regression method;Autoregressive order determination criterion;common factor test III 目 录 中文摘要中文摘要 英文摘要 英文摘要 第 1 章 ARMA 模型定阶的背景及内容简介第 1 章 ARMA 模型定阶的背景及内容简介1 1.1ARMA 模型定阶的背景1 1.2 内容简介3 第 2 章 基于线性估计和自回归定阶准则的方法第 2 章 基于线性估计和自回归定阶准则的方法4 2.1 两段估计回归法4 2.2 自回归定阶准则6 2.3 建模的基本步骤7 第 3 章 公因子检验定阶改进法第 3 章 公因子检验定阶改进法11 3.1 参数的估计11 3.2 公因子检验定阶14 3.3 方法的阐述19 3.4 关于方法的几点思考19 第 4 章 广义样本自相关系数函数定阶法（ESACF）第 4 章 广义样本自相关系数函数定阶法（ESACF）20 第 5 章 方法的比较与总结第 5 章 方法的比较与总结23 参考文献参考文献 25 后后 记记26 1第 1 章 ARMA 模型定阶的背景及内容简介 1.1 ARMA 模型定阶的背景 在时间序列分析中，对于平稳序列有以下结论：如果自协方差函数()满足0lim()0hh=，则总可以求得一个ARMA过程使其自协方差函数()满足对任意的整数0k，有()(),0,1,zhh hk=?。正因如此（当然还有其他原因），ARMA过程在时间序列数据建模中起着关键作1用。这类模型通常有如下表示：()()ptqtB ZB a=（1.1）其中 B 是后移算子，mtt mB ZZ=（mz）,ta0.1.2t=为白噪声序列。()0ta=，2()taVar a=。1()1pjpjjBB=，1()1qiqiiBB=。当()pB，()qB的根都在单位圆外时，原过程即是平稳的又是可逆的。ARMA(p,q)过程即有无限阶滑动平均表示：0()tjtjjZBa=(1()()()pqBBB=)，又有无限阶自回归表示：1()ttjtjtjB ZZZa=，即1tjtjtjZZa=+。（1()()()qpBBB=权j和j都是绝对可和的）。根据已经掌握的一组样本12,NZ ZZ?建立ARMA模型，其含义就是对模型的阶数(p,q)和参数（2,jia ）做出判断和估计。一般称(p,q)的判断为定阶，而估计相应的2,jia 称为参数估计。然而参数估计都是在假设自回归滑动平均模型的阶数事先已知的情况下进行的。但事实上这些阶数几乎总是不知道的。所以定阶成为其中有难度的一部分。用假定的某类模型来拟合量测的数据有各种不同的方法，而且即使是用同一组量测数据也可能得到不同的拟合模型。这一点并不奇怪，人们可以从各种准则出发例如模型参数数目较小，便于实施计算，拟合残差最小或其他准则最优等来选择自己认为最合适的模型。所以，在过去二十多年的时间里，人们给出很多ARMA模型的定阶方法。Box和Jenkins最早着眼于用序列的自相关系数函数（ACF）和偏自相关系数函数(PACF1)来定 2阶，以后不断有人在这方面提出新的方法。如Woodward和Gray的广义偏自相关系数函数（GPACF2)，Tsay和Tiao的广义样本自相关系数函数（ESACF3)等。由于Box 和Jenkins最早指出序列的自相关系数和偏自相关系数的不同表现性质决定了ARMA模型的类别，所以Box Jenkins方法可以说是时间序列分析建模的启发式方法。还有一类方法是给出某种定阶准则，根据准则最优来确定模型的阶。这始于Akaike的两种方法：基于预测误差方差最小准则（FPE准则）或信息损失最小准则(AIC、BIC准则4)。在这之后Rissanen在1978年给出了S准则，Hannan 和Quinn在1979年给出HQ准则，Geweke 和Meese在1981年给出BEC准则5等。当然定阶问题不存在“万能公式”，我们所能做的就是用某种方法得到更接近于现实过程的模型。1985年Gooijer等人写了一篇很漂亮的综5述，总结了自1970年到1985年期间的13种方法：FPE准则、CAT准则、CVC准则、AIC准则、BIC准则、BEC准则、HQ准则、S准则、ACF和PACF、GPACF、ESACF、Corner方法、R-and-S-array。并把这些方法加以分类比较。分类的原则是：“主观”方法(Subject method)和“客观”方法(Object method)。主观方法通常认为是由人来做某种决定。如选择显著性水平，某统计量图表性质的观测；而客观方法则在建模过程中不必要加进人为因素。主观方法又分为两个子类：基于统计假设检验的方法和基于确定或随机理论的方法。客观方法又包括了一步预测误差、信息尺度和贝叶斯方法(当然也有另外的分类，比如Chio把Corner方法、ESACF等称为“模式定阶法6”(pattern identification methods)。在这篇文章的最后，作者给出了几种方法的联系：1AIC准则和似然比检验法有如下关系：AIC（s,0）-AIC(L,0)=LR(s)-2(L-s)(s=0,1,?，L-1)2IC准则和FPE准则有如下关系：AIC（p,q）nlogFPE(p,q)3AIC准则和CAT准则有如下关系：CAT（p）exp-AIC（p,0）单纯关于方法的比较，也有很多人发表了自己的看法。如：Koehler关于AIC与BIC的比 7较，Kreisha关于Corner方法、基于线性估计和自回归定阶准则的方法(ARCRI)以及广义样本自相关系数函数定阶法（ESACF）的比8较 31.2 内容简介 1985年以后，不断有人提出了新的定阶方法，本文结合Box Jenkins方法和BIC准则，详细阐述了1990年以后具有代表性的两种方法：基于线性估计和自回归定阶准则的方法()9ARCRI和公因子检验定阶改进10法。并且把这两种方法和广义样本自相关系数函数定阶法（ESACF）加以比较总结。ARCRI在估计部分采用了两步回归估计法（two-stage regression method），这是一种线性估计，它的好处在于，简单易操作，在任何计算机上都可以实现。两步回归法见于Kreisha和Pukkila于1990年发表的文11 12、章。在这两篇文章中，作者给出了对于ARMA模型的若干种参数估计的方法。包括广义最小二乘和线性估计。两步回归法分两步给出ARMA参数的估计：第一步用长自回归给出初估计，然后利用广义最小二乘得到广义最小二乘估计，再利用这些广义最小二乘估计逐渐更新残差的协方差阵，反复应用广义最小二乘，直到给出的估计收敛为止。这样给出的参数估计更有效。定阶遵循的是自回归定阶准则。它的基本思想是：如果建立的模型是合理的，那么残差 t应该是白噪声的。既然白噪声序列可以看成是AR(0)序列，那么如果某序列被判定为AR(P)(P)0)的，则此序列就可以认为是非白噪声的。所以，就可以把 t当作观测数据，用某种准则（如BIC准则）判断其是否为白噪声序列即可。公因子检验定阶改进法的参数估计是基于长自回归系数所组成的矩阵。如果ARMA模型是可逆的，那么就有AR()表示，AR()表示的系数也就包含了ARMA模型中的所有信息。实际中AR()可以用 AR(k)去近似。所以只要给出AR(k)近似的参数估计,就可以得到ARMA模型中参数的估计。阶数的确定则着眼于长自回归系数所组成矩阵的行列式是否为零。当上述行列式为零时，说明自回归多项式和滑动平均多项式有公因子，则所建模型的阶数要减小。本文在第二章详细阐述了基于线性估计和自回归定阶准则的方法。第一节介绍了两步回归估计法，第二节说明了自回归定阶准则的基本思想，第三节则结合了Box Jenkins方法从最简单的模型ARMA(1,1)开始详细阐述了建模的基本步骤。第三章主要介绍了公因子检验定阶改进法。这种方法的框架前人已经给出。这里所介绍的是一种改进的方法。在参数估计阶段，定义了新的统计量，使得估计更有效；在定阶中，应用了Wald检验，并指出，当原假设成立时，Wald统计量渐进自由度为1的卡方分布。第三节详细阐述了建立模型的基本步骤。第四节则给出了作者自己关于这种方法的理解。由于前面的综述中已经介绍过广义样本自相关系数函数定阶法，所以第四章只是简单介绍了这种方法：只给出了递推公式和广义样本自相关系数函数的定义。在第五章我们主要把这几种方法加以比较总结。最后是参考文献和后记。4第 2 章 基于线性估计和自回归定阶准