《随机过程-4平稳随机过程》由会员分享，可在线阅读，更多相关《随机过程-4平稳随机过程（85页珍藏版）》请在金锄头文库上搜索。
1、平稳随机过程硕士研究生学位课程应用数学基础(Stationary stochastic process)(演示文稿)主讲教师 段禅伦2008年秋季学期第八章 时间序列分析时间序列是指按时间先后顺序排列的随机序列,或者 说是定义在概率空间(,F,P)上的一串有序随机变量集 合Xt,t=0,1,简记为Xt;它的每一个样本(现实) 序列,是指按时间先后顺序对Xt所反映的具体随机现象或 系统进行观测或试验所得到的一串动态数Xt,t=0,1, .所谓时间序列分析,就是根据有序随机变量或者观测 得到的有序数据之间相互依赖所包含的信息,用概率统计 方法定量地建立一个合适的数学模型,并根据这个模型对 相应序列
2、所反映的过程或系统作出预报或进行控制.本章主要以平稳时间序列为讨论对象,着重介绍一类 具体的,在自然科学、工程技术及社会、经济学的建模分 析中起着非常重要作用的平稳时间序列模型-自回归滑 动平均模型,简称ARMA模型.ARMA模型 8.1 ARMA模型 1.自回归模型设Xt为零均值的实平稳时间序列, 定义阶数为p的自 回归模型为Xt=1Xt-1+2Xt-2+pXt-p+at, ()Eat=0, EatXt=0,st, Easat=模型()简记为AR(p).AR(p)是一个动态模型, 是时间序列Xt自身回归的表 达式,所以称自回归模型.满足AR(p)模型的随机序列称为 AR(p)序列,其中yk,
3、k=1,2,p称为自回归系数. 从白 噪声序列at所满足的条件看出,at之间互不相关,且at与 以前的观测值也不相关,at亦称为新信息序列, 在时间 序列分析的预报理论中有重要应用.,t=s, 0, ts.ARMA模型为方便起见,引进延迟算子概念.令BXt=Xt-1, B2Xt=B(BXt)=Xt-2 . 一般有BkXt=Xt-k(k=1,2,3,),称B为一步延迟算子,Bk为 k步延迟算子.于是()式可以写成(B)Xt=at, () 其中(B)=1-1B-2B2-pBp. () 对于()式的AR(p)模型,若满足条件:(B)=0的根全在单 位圆外,即所有根的模都大于l, 则称此条件为AR(p
4、)模型 的平稳性条件.当模型()满足平稳性条件时,-1(B)存在 且一般是B的幂级数,于是()式又可写作Xt=-1(B)at.ARMA模型称为逆转形式.模型()可以看做是把相关的Xt变为一 个互不相关序列at的系统. 2.滑动平均模型设Xt为零均值的实平稳时间序列, 定义阶数为q的滑 动平均模型为Xt=at-1at-1-qat-q, () 其中(k,k=1,2,q. t称为滑动平均系数并简记() 模型为MA(q).满足MA(q)模型的随机序列称为MA(q)序列. 用延迟算子表示,()式可以写成Xt=(B)at, () 其中(B)=1-1B-qBq. () 对于()式的MA(q)模型, 若满足条
5、件: (B)=0的根全ARMA模型在单位圆外,即所有根的模都大于1, 则称此条件为MA(q) 模型的可逆性条件.当模型()满足可逆性条件时,-1(B) 存在,此时()式可以写成at=-1(B)Xt, 称它为逆转形式.模型()中的Xt可以看做是白噪声序列 at输入线性系统中的输出. 3.自回归滑动平均模型设Xt是零均值的实平稳时间序列,定义p阶自回归q阶 滑动平均混合模型为Xt-1Xt-1+2Xt-2+pXt-p=at-1at-1-qat-q,() 或 (B)Xt=(B)at. () 其中(B)和(B)分别由()式和()式所表示,且(B)和ARMA模型(B)无公共因子,(B)满足平稳性条件,(B
6、)满足可逆性 条件.模型()记为ARMA(p,q). 满足ARMA(p,q)模型的随 机序列,称为ARMA(p,q)序列.显然当q=0时,ARMA(p,0)就是AR(p);当p=0时,ARMA(0,q) 就是MA(q).如平稳过程的时域分析与频域分析有对应关系一样,这 里介绍ARMA(p,q)序列与具有有理谱密度的平稳序列之间 存在着对应关系,并且指出一个平稳序列在什么条件下是 ARMA(p,q)序列. 定义8.1 设Xt是零均值平稳序列, 它的谱密度f()是e-i2的有理函数:f()=模型的识别其中()和()是形如()和()式的多项式, 且它 们无公共因子,()满足平稳性条件,()满足可逆性
7、 条件.则称Xt是具有有理谱密度的平稳序列. 定理8.1 均值为零的平稳时间序列Xt满足()式的充要条件是: Xt具有形如定义8.1中表式的有理谱密度. 从定理8.1看出, 只要平稳序列的谱密度是有理函数形 式,则它一定是一个ARMA(p,q)序列. 因此,总可以找到一 个ARMA(p,q)序列, 满足预先给定的精度去逼近所研究的 平稳序列.8.2 模型的识别对于一个平稳时间序列预测问题,首先要考虑的是寻求 与它拟合最好的预测模型.而模型的识别与阶数的确定则模型的识别是选择模型的关键.本节先对AR(p),MA(q)与ARMA(p,q)序 列作相关分析,讨论其理论自相关函数和偏相关函数所具 有的
8、特性,以求找到识别模型的方法.在8.3节再讨论模型 阶数的确定. 1.MA(q)序列的自相关函数用Xt-k乘以()式两边,再取均值(由于序列的均值为零 , 所以自相关函数与协方差函数相同),为了不致混淆,记所 得协方差函数为k:k=EXtXt-k=E(at-1at-1-qat-q)(at-k-1at-k-1-qat-k-q) =Eatat-k- jEatat-k-j- iEat-iat-k+ijEat-iat-k-j. 模型的识别由阶数为p的自回归模型定义中的Easat的取值知,上页 等式右端第2项,对一切k都为0,而其余各项的值依赖于k. (1)当k=0时, 0=E + E = + ; (2
9、)1kq, k=-kE + ii-kE =-k + ii-k ; (3)当kq时,等式右端4项都为0,此时k=0.用0除以k得标准化自相关函数k=k/0,简称为 自相关函数.综上便得MA(q)序列的协方差函数k和自相关函数k:k=(1+ + ), k=0,0, kq;(-k+k+1 1 +qq-k),1kq,模型的识别k=从上式看出,MA(q)序列的自相关函数k在kq时全为零. 这种性质称为q步截尾性. 这表明MA(q)序列只有q步相关 性,即当|t-s|q时,Xs与Xt不相关.这是MA(q)模型所具有 的本质特性,截尾处的k值就是模型的阶数. 定理8.2 设零均值平稳时间序列Xt具有谱密度f
10、()0,则Xt是MA(q)序列的充要条件,是它的自相关函数q步截尾(定理的必要性由以上的讨论可得,充分性证明略 ). 例8.1 已知MA(2)模型Xt=at+0.5at-1-0.3at-2,试验证模型满足可逆性条件,并求自相关函数.1, kq.1, k=0, 1k0,模型的识别解: 因为(B)=1+0.5B-0.3B2,令其为零,得1+0.5B-0.3B2=0.解得 B1=1.17, B2=-2.84.由于|B1|1,|B2|1,所以模型满足可逆性条件.将1=-0.5, 2=0.3代入k的等式,得自相关函数 0=1, 1= =0.2612,2= =0.2239, k=0(k2).2.AR(p)
11、序列的自相关函数用Xt-k乘阶数为p的自回归模型的两边,再取均值,得k=lk-1+pk-p , k0.除以0得: k=lk-1-pk-p=0,() 即模型的识别(B)k=0,k0. () 令()式的k=1,2,p,得1=l+21+pp-1,2=l1+2+31+pp-2, () p=lp-1+2p-2+p. 写成矩阵式有 1 1 1 2 p-1 l2 1 1 1 p-2 2 p p-1 p-2 p-3 1 p 此矩阵式称为尤尔-瓦尔克方程.而()式是k所满足的 差分方程.参数 由下式给出=0- jj. ()=.()模型的识别这是因为 =E =EXt-tXt-1-pXt-p2=0-2 jj+ ij
12、j-i=0-2 jj+ j( ij-i)=0-2 jj+ jj-i=0- jj .定理8.3 AR(p)序列Xt的自相关函数满足()式,白噪声序列at的方差满足()式. 定理指出了AR(p)序列Xt的自相关函数所满足的方程, 但尚未讨论其求解方法. 不过应当了解:由线性差分方程模型的识别理论可以证明,AR(p)序列的自相关函数,不能在某步之后 截尾,而是随k增大逐渐衰减,其衰减的速度受负指数函数 控制. 这种特性称为拖尾性. 如何理解拖尾性? 例8.2 求AR(1)序列的自相关函数. 解: 因为AR(1模型为Xt-lXt-1=at,由()式得1=l, 2=l1=l2, , k=lk-1=lk.
13、由(B)=1-l(B)=0知,B=1/l.在满足平稳性条件下,|l|1,所以当k时,有k0.考虑到lk= 且|l|1,即ln|l|0,故存在c1 0,c20使|k|c1 ,k被负指数函数控制. 模型的识别例8.3 AR(2)模型为Xt=0.1Xt-1+0.2Xt-2+at.验证它满足平稳性条件,并求自相关函数. 解: 由伊(B)=1-0.1B-0.2B2=0,解得B1=2,B2=-2.5. 由于|B1|1,|B2|1,所以模型满足平稳性条件.由()式得1= , k=1k-1+2k-2, k2.代入1=0.1, 2=0.2得1=0.125, 2=0.213, 3=0.046, 4=0.047,5=0.014, 6=0.011, 7=0.004, 8=0.003, 9=0.001, .从例中的数值看出,k具有拖尾性.模型的识别3.ARMA(p,q)序列的自相关函数根据自回归滑动平均模型中的(B)Xt=(B)at式,若(B) 满足平稳性条件,则Xt的平稳解为Xt=-1(B)(B)at 将-1(B)写成B的级数形式,令G(B)=-1(B)(B)= GiBi, G0=1, () 其中系数序列Gi称为格林函数. 于是Xt可用at的现在 和过去的值表示为
