第六章时间序列分析模

《第六章时间序列分析模》由会员分享，可在线阅读，更多相关《第六章时间序列分析模（71页珍藏版）》请在金锄头文库上搜索。

1、第六章 时间序列分析模型学习目标：熟悉随机过程及时间序列的概念与分类掌握ARIMA(p,d,q)（P,D,Q）S模型的识别、参数估计、诊断与预测方法掌握如何识别时间序列的单整、协整检验以及误差修正模型的建立掌握基于VAR模型分析的因果检验、脉冲响应分析、方差分解、协整检验与误差修正模型的建立第一节 ARMA模型中的基本概念一、随机过程与时间序列(一) 随机过程随机过程是以时间为标号的一组随机变量，其中为样本空间，而表示时间指标集合。显然对于固定的，就是一个随机变量，对于固定的，是时间的函数，称为样本的函数或实现，所有可能的实现构成了时间序列。实际上，由于时间的不可逆性，在实践中，一般只能得到一

2、个样本，我们就是在适当的假设下，利用这个样本进行分析，也就是进行时间序列分析。随机过程可以按照其两个维度是离散还是连续进行分类，如果时间是连续的，则称为连续型随机过程，如果取整数集合，则随机过程为离散型的。如果的取值是连续的，则随机过程是连续的，若的取值是离散的，则随机过程是离散型的。本章主要讨论为离散型的随机过程，同时把随机过程简记为或者。随机过程的概率结构通常被其联合分布所决定，称为维联合分布，定义其均值函数、方差函数和协方差函数如下：显然，这几个矩都是时间的函数，因而是未知的，如果不加以限制，则这样的参数就非常多，然而对每个固定时刻，我们只能得到一个实现值，因此必须对随机过程进行某种限制

3、，例如假设其为平稳的随机过程或者为近似独立过程等。(二) 平稳随机过程 一个随机过程被称为严平稳过程，如果其联合分布满足：由于严平稳采用了联合分布来定义，在实践中很难进行验证。另一种是从矩角度定义的弱平稳（宽平稳）过程，若均值函数、方差函数和协方差函数满足：即期望和方差与时间无关，而协方差只与时间间隔有关，弱平稳过程也称为二阶矩平稳过程。显然严平稳与弱平稳过程既有区别也有联系，如果严平稳过程具备上述矩条件，则也为宽平稳过程，而宽平稳过程一般不是严平稳过程弱。如果该过程的服从高斯分布时，严平稳过程与宽平稳过程等价。例6-1 白噪声过程(white noise)，若随机过程满足：，该过程称为白噪声

4、过程，记为。显然该过程是零均值等方差且不相关的过程。如果进一步假设有，则为独立白噪声过程。特别地，如果假设，则该过程不但为宽平稳过程也是严平稳过程。例6-2 随机游走过程(random walk)，若随机过程满足：其中为白噪声过程。显然我们有：，显然，随机游走过程不满足弱平稳条件，因此是非宽平稳过程。在接下来的分析中，我们只对弱平稳过程进行分析。二、理论自协方差、自相关函数与偏自相关函数（一）自协方差与自相关函数对于一个平稳过程来说，由于其协方差满足条件：由于是随机变量与其自身滞后期的协方差，因此也称为自协方差。同时该自协方差是时间间隔的函数，因此也称为自协方差函数。定义自相关函数为：显然有，

5、从而有，。因此我们通常只给出对应的自协方差函数和自相关函数即可。在以后的分析中，我们通常将自协方差或自相关函数排成一个矩阵形式，例如以自相关函数为例有：该矩阵为对称半正定的。（二）偏自相关函数上述的是度量随机变量与之间的相关程度，这种相关度量可能并不是“纯净的”，因为它可能受到随机变量的影响，我们需要消除这些随机变量的影响，由此计算的相关系数称为随机变量之间的偏自相关函数，记为。不失一般性，假设平稳过程的期望为0，可以证明，即为下列回归模型：中的回归系数。为了得到该回归系数，两边同乘以并取期望，然后再除以得到： （6.1.1）称此方程组为Yule-Walker方程，利用克莱姆法则有：例6-3

6、求白噪声过程的自协方差函数、自相关函数与偏自相关函数。 根据白噪声的构成，显然有，因此有，从而有。三、样本自协方差、自相关函数与偏自相关函数（一）样本自协方差、自相关函数上述的自协方差、自相关函数以及偏自相关函数一般是未知的，需要通过样本来估计，假设我们有一个样本为，为此定义如下几个估计量：样本均值： （6.1.2）样本自协方差函数： （6.1.3）或者 （6.1.4）样本自相关函数： （6.1.5）在后面的模型诊断中，我们经常需要检验理论自相关函数是否在某个阶如以后是否为零，或者检验拟合后的残差是否为白噪声过程，也就是要检验理论自相关函数是否为零，这需要通过样本自相关函数来进行，Bartle

7、tt(1964)证明，当样本容量较大时，近似服从，若认为理论自相关函数在阶以后有，则有，其中，实际计算中需要使用各个理论自相关函数的样本对应值进行替代。特别地，当检验序列是否为白噪声过程，则样本自相关函数的近似为正态分布，因此样本自相关函数落在之内，则我们认为理论自相关函数为零，对应的序列为白噪声过程。（二）样本偏自相关函数当我们获得样本自相关函数以后以后，根据Yule-Walker方程式（6.1.1）可以得到样本偏自相关函数。Quenouille（1949）指出，在原过程为白噪声时，样本偏自相关系数也近似服从，从而如果样本偏自相关系数落在之内，则我们认为理论自相关函数为零。在以后的模型识别中

8、，我们将利用这个结论识别模型的种类。四、ARMA模型（一）滞后算子与差分算子为了书写方便，我们先介绍两种算子，它们分别是滞后算子和差分算子，它们在差分运算中有着广泛的应用。称符号满足为滞后算子，而称符号满足为差分算子，显然一次差分运算有。例如进行二次差分有：有时我们需要进行高阶差分，特别是在季节性数据分析中，例如一个阶差分可以表示为滞后算子运算有下列性质：1.滞后算子作用于常数后仍为常数本身，即；2.滞后算子的运算满足分配律，即有；3. 滞后算子的运算满足结合律，即有；4.滞后算子的零次幂为1，即；5. 滞后算子的负整数次幂表示前移算子，即；6. 当时，（二）AR(p)模型如果随机过程的生成满

9、足： （6.1.6）其中，表示白噪声序列，称为阶自回归过程，简记为AR(p)。用滞后算子表示可以得到： 记，则AR(p)可以表示为。如果该过程是平稳的，则有：从而得到，从而有，重新带入上述表达式有：令，则，且有： （6.1.7）因此只要对进行中心化处理，就可以使用不带常数项的过程来表示，以后我们就用这种表达式。（三）MA(q)模型如果随机过程的生成表达式满足： （6.1.8）其中，表示白噪声序列，称为阶移动平均过程，简记为MA(q)。用滞后算子表示可以得到：记，则MA(q)可以表示为。一般来说，平稳过程都可以由上述移动平均过程来加以表示，这就是Wold定理所阐述的内容，该定理表明：任何协方差平

10、稳过程，都可以被表示为： （6.1.9）其中表示的期望。表示的线性确定性成分，如周期性成分、时间t的多项式和指数形式等。（四）ARMA模型更为一般的模型是把上述两种模型合并在一起，即随机过程的生成表达式满足： （6.1.10）其中、，表示白噪声序列，称为自回归移动平均过程，简记为ARMA(p,q)。用滞后算子表示为，其中和同上，且没有公因子。五 、差分方程解的理论与稳定性 （一）差分方程为了便于后续章节的分析，需要简单介绍差分方程的基本理论，我们只介绍常系数齐次线性差分方程解的理论与稳定性问题。称下列差分方程： （6.1.11）为常系数非齐次线性差分方程，如果，称为常系数齐次线性差分方程。（二

11、）常系数齐次线性差分方程解的理论 对应齐次差分方程的特征方程为： （6.1.12）这是个次线性方程，因此有个根，记为。根据这些根取值的不同，其解也有不同的形式，主要有：1. 为互异的实根：这时齐次差分方程的解可以表示为，其中为任意常数，通常需要通过一些初始条件来确定。2. 有相同的实根：不失一般性，假设为个相同的根，而为互不相同的根，则齐次差分的解可以表示为。3. 有复根：根据解的理论，一旦有复根出现，必定是以共轭形式成对出现，不妨假设：其中。假设为互不相同的实根，则齐次差分方程的解可以表示为。例6-4 设二阶齐次差分方程为，且有，求其解。根据该方程的形式得到特征方程为，得到特征根为，从而得到

12、通解为，带入两个初始条件得到最终解为。例6-5 设二阶齐次差分方程，求其解。该方程的特征方程为，容易判断出其有复根，两个特征根分别为，其模为，从而得到，因此该齐次差分方程的解为。例6-6 设二阶齐次差分方程，求其解。该方程的特征方程为，特征根为，因此该齐次差分方程的解为。（三）常系数齐次线性差分方程解的稳定性理论齐次线性差分方程解的稳定性要求差分方程对应的特征方程得到的特征根落在单位圆之内，即，如果是实根，则表示取绝对值，如果为复根，则表示取模运算。第二节 平稳ARMA模型的识别、参数估计、诊断与预测一、AR(p)模型的识别与偏自相关系数（一）AR(p)模型的格林函数与平稳性设平稳且均值为0的

13、AR(p)模型的表达式为 （6.2.1）或者记为。如果该模型可以表示成Wold形式，则一定是平稳的，则有：如果的根都在单位圆以外，则AR(p)模型可以表示为： （6.2.2）其中为格林(Green)函数，为的根的倒数，位于单位圆内。我们可以比较两边的系数而通过下列等式来求得格林函数： （6.2.3）从而可以得到：由此可得到初始的。当时有： （6.2.4）这显然是一个p阶差分方程，也可以利用滞后多项式表示为，因此根据差分方程解的理论，不失一般性，设差分方程有个互异的实根，则，由于各个根位于单位圆之内，因此当有。这样我们就把AR(p)模型表示为： （6.2.5）我们称这种表示为时间序列的传递表示形

14、式。（二）AR(p)模型的自相关函数式（6.2.1）两边同乘以，取期望并除以得到： （6.2.6）通过克莱姆法则可以求得初始的，当时有 （6.2.7）写成差分方程形式有，或者有。同样有，通过克莱姆法则得到的个初始值可以求得未知系数，从而可以得到所有自相关函数的通解。当为平稳模型时，所有的根都单位圆以内，从而自相关函数呈指数衰减方式（实根）或者是正弦衰减方式（复根）或者两者的叠加衰减方式（实根和复根），即当有。我们称其自相关函数具有拖尾性。例6-7 求AR(1) 模型的自相关函数。两边分别乘以、取期望并除以得到、。类似得到。因此AR(1) 模型的平稳性要求，如果，则自相关函数始终正向衰减到0，如果，则自相关函数正负交错衰减到0，且越接近0衰减越快。例6-8 求AR(2) 模型的自相关函数。类似AR(p)模型的操作有得到。对于超过2阶的自相关函数可以使用差分方程理论得到，其结果为： （6.2.8）其中、可以由和来确定。 另外根据平稳性要求，容易得到AR(2) 模型平稳时系数应该满足的充要条件为： （6.2.9）（三）AR(p)模型的偏自相关函数先考察AR(1)模型的偏自相关函数，根据式（6.1.1）有：