《第5章 平稳时间序列模型的建立》由会员分享，可在线阅读，更多相关《第5章 平稳时间序列模型的建立（76页珍藏版）》请在金锄头文库上搜索。
1、在第3章中所建立的ARMA模型，都是针对零均值平稳序列考虑的。但实际问题中并非如此。,第5章 平稳时间序列模型的建立,如果序列是平稳的，而均值不为0，我们可以通过以下两种方法建模。,1. 模型中包含常数项。,假定过程的理论均值为，则模型可以描述为：,通过整理可得：,具体建模时，只需要在ARMA模型中加入一个截距项，和回归模型是一样的。如果事先未对序列进行零均值化，即使该截距项可能不显著，也不要把它从模型中删去。因为这个不显著性可能和自回归系数的取值有关。,设平稳过程Xt的均值为，给定序列X1,XN, 要检验=0，就需要构造检验统计量或求参数的置信区间。可以从考虑样本均值出发,所以参数的置信度为
2、1-的置信区间为,若白噪声序列服从正态分布，则有,样本均值只是总体均值的一个估计，可能存在误差，因此我们有必要利用样本均值对总体均值是否为0进行检验-即零均值检验。（这个也称为模型的预处理）,2. 序列减去样本均值得到零均值的序列。,而,实际问题中 k未知，可用它的样本自协方差函数来代替，从而可对=0进行检验。 如果0，则通过减去样本均值使其零均值化。MATLAB中可用ttest命令实现零均值的检验，SPSS中选择均值的检验即可。,平稳零均值序列的自相关函数和偏自相关函数的统计特性,可依据上述性质初步确定模型的类型。,第一节 模型识别,选择模型的困难,因为由于样本的随机性，样本的相关系数不会呈
3、现出理论截尾的完美情况，本应截尾的 或 仍会呈现出小值振荡的情况。,当 或 在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？,若k序列在m步后截尾，即若km,应有k=0，此时k的估计量渐近于正态分布。即：,1. 自相关函数截尾的判定,因此，判断一个序列的k序列是否在m步后截尾，具体做法如下：,若某一个k比较大，而其后的k都很小且接近于0，则可以此k作为模型的阶m，计算上面的置信区间。如果m之后的k落在该区间的频率超过68.3%(或95.5%)，则认为序列适合用MA(m)或更低阶的模型拟合。否则提高m继续
4、计算，一直到满足条件为止。若m值比较大才满足条件，可认为自相关函数拖尾，用AR模型或ARMA模型可能更好。,若kk序列在n步后截尾，即若kn,应有kk =0，此时kk的估计量渐近于正态分布。即：,因此，判断一个序列是否可用AR模型来拟合，具体做法如下：若某一个kk比较大，而其后的都很小且接近于0，则可以此时的k作为模型的阶n，计算上面的置信区间。如果n之后的kk值落在该区间的频率超过68.3% (或95.5%) ，则认为序列适合用AR(n)或更低阶的模型拟合。否则提高n继续计算，一直到满足条件为止。若n值比较大才满足条件，可认为偏自相关函数拖尾，用MA模型或ARMA模型可能更好。,2. 偏自相
5、关函数截尾的判定,若序列的自相关和偏自相关函数都拖尾，则序列是ARMA模型。若序列自相关函数和偏自相关函数无以上特征，而是出现缓慢衰减或周期性衰减情况，则说明序列不是平稳的。,例5.1 下图是一磨轮剖面资料的数据图，共250个。试对该序列建立合适的时间序列模型。,观察序列图及样本自相关函数和偏自相关函数图，发现2阶之后值都比较小，假设m=2，则有,统计一下2阶之后落在-0.0867*2到0.0867*2之间的自相关函数有几个？适合用MA(2)模型拟合吗？,再观察偏自相关函数，发现2阶之后值都比较小，假设n=2，则有,统计一下2阶之后落在-0.0634*2到0.0634*2之间的偏自相关函数有几
6、个？适合用AR(2)模型拟合吗？进一步适合用AR(1)模型拟合吗？,第三节 参数估计,自回归模型AR(n)的参数估计：采用Yule-Walker方程,一、矩估计,原则：以样本数字特征作为总体相应数字特征的估计，以样本数字特征的函数作为总体相应数字特征的相应函数的估计,或把其中的改为亦可。,但是在上述方程组中，自协方差函数是未知的，因此需要用样本自协方差函数来估计， 所以可得到,和,求解上述的方程，即可得到参数和a2的估计,注. 如果满足一定的条件，上述的自协方差函数矩阵是可逆的。,对于AR(1)模型，参数的矩估计为：,AR(2)模型：,所以,移动平均模型MA(m)的参数估计,上述方程为非线性方
7、程，通常要用特定的数值计算方法求解。下面我们只考虑MA(1)模型的直接解法。,1. 直接解法,变换得：,对于MA(2)模型及更高阶的模型，参数的解析解更难表示出来。,对于MA(1)模型，自协方差函数满足：,2. 线性迭代法,经过重排可得到,给定m+1个参数的一组初值，然后进行迭代，直到取到满意的精度为止。 该方法得到的参数拟合出的模型可以满足可逆性条件。,如果MA(m)模型的阶数已知，则可用下述方法来估计其中的参数。 已知,即利用,不断进行迭代， 最后当k时，x(k)就是f(x)=0的解。,对于此问题，具体做法是：将上式改写为,令,则上式变为,3. Newton-Raphson迭代算法,令,记
8、,则,该方法的优点： （1）收敛速度较快； （2）比线性迭代法精度要高一些。 该方法的缺点： （1）估计出的参数拟合出来的模型不能保证具有可逆性； （2）该算法强烈依赖于初始值的选择。,最后用样本自协方差函数代替总体自协方差函数即可得到参数的估计。,自回归移动平均模型ARMA(n,m)的参数矩估计：,将模型分成两个部分，先对AR部分应用Yule-Walker方程，估计出AR部分的参数；然后把参数代入计算得到剩余序列，对剩余序列应用MA模型的参数估计方法。具体如下:,(2). 令,则,因此可用MA模型的参数估计方法估计出参数。,(1). 当km时，考虑Yule-Walker方程的解,例: 求AR
9、MA(1,1)模型系数的矩估计,ARMA(1,1)模型,矩估计,对矩估计的评价,优点估计思想简单直观不需要假设总体分布计算量小（低阶模型场合）缺点信息浪费严重只用到了n+m个样本自相关系数信息，其他信息都被忽略估计精度差通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值,原理使残差平方和达到最小的那组参数值即为最小二乘估计值,下面只考虑AR(n)模型的参数的最小二乘估计。,二、最小二乘估计（LS）,观测方程为：,即：,因此参数的最小二乘估计为：,比较AR(n)模型参数的最小二乘估计和矩估计。,对最小二乘估计的评价,优点最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度
10、高缺点需要假定总体分布,原理在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值,三、极大似然估计（ML）,似然方程,由于 和 都不是 的显式表达式。因而似然方程组实际上是由n+m+1个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值,对极大似然估计的评价,优点极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质缺点需要假定总体分布,第二节 模型的定阶,自相关函数和偏自相关函数定阶法 自相关函数和偏自相关函数不
11、但可以用来进行模型的识别，同样也可以用来进行AR模型和MA模型的定阶。,该方法对ARMA模型定阶较为困难。同时，用该方法定的阶数也只能作为初步参考值。,残差方差图定阶法 残差方差图定阶法借用了统计学中多元回归的原理。 假定模型是有限阶的自回归模型，如果选择的阶数小于真正的阶数，则是一种不足拟合，因而剩余平方和必然偏大，残差方差也将偏大；如果选择的阶数大于真正的阶数，则是一种过度拟合，残差方差并不因此而显著减小。,具体方法：以阶数作为自变量，残差方差作为因变量，绘制残差方差图，阶数较低时残差方差较大，随着阶数的增加，残差方差趋于平稳，此时可得到模型的阶数。,这种判别方法也适用于MA模型和ARMA
12、模型。在ARMA模型中，残差方差图是一个曲面图。,AR、MA、ARMA三种模型的残差方差估计式分别为：,ARMA模型：,MA模型：,AR模型：,关于残差平方和的计算：估计出来参数后得到at，然后再计算其平方和。MA(1)模型中：a1= x1，a2=x2+x1, a3=.。P138 图5.4,F检验定阶法,基本思想：首先用ARMA(n,m)进行过度拟合，再令 高阶系数 中某些取值为零，用F检验判定阶数降低之后的模型与ARMA(n,m)之间是否存在显著性差异。如果有显著性差异，阶数能够升高；如果没有差异，阶数可以降低。,基本过程：对N个独立的观察值，建立回归模型：,设,为,的最小二乘估计。,则残差
13、平方和为：,若舍弃后面s个因子，另建一个回归模型：,设,为,的最小二乘估计。,则残差平方和为：,检验舍弃的回归因子对Y的影响是否显著，等价于检验原假设：,是否成立。,借助有关回归理论：,对于给定的显著性水平,，计算统计量,若FF(s,N-r)，则拒绝原假设，表示两个模型存在显著性差异。,该方法对MA模型和ARMA模型也适用。,若FF0.05(1,246)=3.88,说明两个模型存在显著性差异，阶数仍有上升可能。再拟合AR（3）模型，残差平方和为1473.784，与AR（2）比较，有：,Fn)是AR(n)过程的一个实现，如果,是基于x1,xN的系数的极大似然估计，则一步预报均方误差为,FPE准则
14、 在1969年，日本学者赤池（Akaike）提出了一种最小化最终预报误差准则（FPE），可以用于AR(n)模型的定阶。,其中a2是模型白噪声的方差。DN是未知的。,而由,可证明,但DN未知，因此可以考虑它的无偏估计。如果用,估计来替代a2，则得到均方预报误差DN的一个无偏估计为,最终均方预报误差准则即为：取FPE(k)的最小值点作为AR(n)模型阶数n的估计。即,可知,基本思想：建立模型时，根据准则函数取值来判断模型的优劣，使准则函数达到极小的是最佳模型，该准则是在模型极大似然估计的基础上建立起来的。,基本理论：最小信息准则AIC函数的一般形式：,AIC定阶 该方法由日本人赤池提出,可用于AR模型或ARMA模型定阶.,式中“模型极大似然度”一般用似然函数表示。,设样本长度N充分大时，ARMA模型的近似极大似然估计的对数似然函数为：,于是得到采用ARMA（n,m）模型拟合的AIC准则函数：,对于AR模型，AIC函数可取：,对事先给好最高阶数M(N)，若,则取n0为最佳模型阶数。,这里舍弃了常数2/N.,对AR(n)模型，比较FPE准则和AIC准则的结果。 对FPE准则两端取对数有,由数学分析知，当,时，,因此只要N充分大，k/N就很小，从而有,由于对数函数是严格单调上升的，O(N-3)是N的高阶无穷小量，可忽略。,
