《 时间序列分析》由会员分享,可在线阅读,更多相关《 时间序列分析(100页珍藏版)》请在金锄头文库上搜索。
1、1,第九章,时间序列分析,2,第一节时间序列基础预测知识,一 线性最小二乘法(Linear Least Squares Prediction, LLS)假设X和Y是两个散点分布的随机变量,它们具有某种联合分布。它们的期望、方差、协方差分别是:X xE Y = y,3,X x X xE Y- y Y- y= R SS Q,4,其中,X的期望E(X)= x ,Y的期望E(Y)= y ,X的方差E(X- x)2=R Y的方差E(Y- y) 2 =QCOV(XY)=E(X- x)(Y- y)=S,5,现假设我们可以观测到X的一组值,如何预测Y呢?即如何利用X推知Y,假设只知道它们的期望、方差和协方差。
2、我们可以利用这些已知条件求出Y的线性最小二乘估计值。,6,假设这一线性形式为: Yhat=a+b(X- x) 我们的任务是在使平均平方误差(均方误)最小的情况下求出a和b的值。 MSE=EY-Yhat2 =EY-a-b(x- x) 2 =E(Y- y)-(a- y)-b(X- x) 2,7,=E(Y- y)2+E(a- y) 2 +b 2 E(X- x) 2 -2E(Y- y)(a- y)+2bE(X- x)(a- y) -2bE(Y- y)(X- x) =Q+ (a- y) 2 + b 2 R-2bS 分别对a和b求导,令其为零 2( a- y )=0,所以a= y, 2bR-2S=0, b
3、=S/R=SR-1 所以,Yhat= y + SR-1(X- x) 也可以写成:Yhat= y + cov(X,Y)/var(x)*(X- x) (X- x)的系数表明我们所估计Y值受观测值X影响程度的大小,它和X的方差成反比,X、Y的协方差成正比。,8,二,线性最小二乘估计的特点 1,Y的估计值和Y的期望相同。 证明: E(Yhat)=Ey + SR-1(X- x) = y,9,2,线性转换 如C是任一常数,则CY的LLS估计是CYhat. 证明: 令Z=CY Yhat=a+b(X- x) 根据定义: Zhat= z +cov(X,Z)/var(X) *(X- x),10,z =E(CY)=
4、C y Cov(X,Z)=E(X- x)(Z- z) = E(X- x)(CY- C y ) =C E(X- x)(Y- y ) =C cov(X,Y),11,将结果代入定义: Zhat= z +cov(X,Z)/var(X) *(X- x) = C y + C cov(X,Y)/ var(X) *(X- x) =Cy + cov(X,Y)/ var(X) *(X- x) =CYhat,12,3,线性组合 Y1、Y2的LLS估计分别是Y1 hat Y2hat.则Y1+Y2的LLS估计为Y1hat +Y2hat. 证明: 已知: Y1hat= y1 +S1R-1(X- x) Y2hat= y2
5、+S2R-1(X- x),13,根据定义: Zhat= z+cov(XZ)/var(X)(X- x) z =E(Y1+ Y2)= y1 + y2 , cov(XZ)=E(X- x)(Z- z) =E (X- x)(Y1+ Y2 - y1 - y2 ) = E (X- x)(Y1 - y1 )+ E (X- x)(Y2 - y2 ) =cov(X, Y1)+cov(X, Y2),14,Zhat= z+cov(XZ)/var(X)(X- x) = y1 + y2 + cov(X, Y1)+cov(X, Y2)/var(X) (X- x) = Y1hat+ Y2hat,15,4, MSE(Yhat)
6、=E(Y-Yhat)2 =EY-y -SR-1(X- x) 2 =E(Y-y ) 2 -2 SR-1E(X- x) (Y-y ) +S 2 R-2 E(X- x) 2 =Q-S 2R -1,16,第二节时间序列基本概念,一,平稳性定义任何一个时间序列都可以被看作是由随机过程产生的结果。如果一个随机过程所产生的时间序列均值和方差在任何时间过程上都是常数,并且任何两个时期之间的协方差仅依赖于这两个时期的距离或滞后,而不依赖于计算这个协方差的实际时间,就称该时间序列是平稳的(Stationary)。,17,我们可以把上述的描述表达成下式: 如果时间序列Yt具有下列性质: 1,E(Yt)=, 2, v
7、ar(Yt)= 2, 3, cov(Yt Y t+k )=E(Yt- )(Yt+k- )=rk,18,二,自协方差函数和自相关函数 如果Yt的均值为0,那么 rk =E(Yt Y t+k ) 被称为自协方差函数 定义: k rk / r0, 为自相关函数 r0= E(Yt Y t) =var(Y t)= 2,19,三,滞后算子(Lag operator) 为了使计算简单,引入滞后算子的概念。定义L Y t= Y t-1, L2Yt=Y t-2,. LsYt=Y t-s , 例如Y t 1.5 Y t-1 0.6 Y t-2 =(11.5L+0.6L2) Yt,20,第三节自回归模型(AR),一
8、,AR模型的定义如果时间序列Y t可以表示为它先前的值和一个误差项的线性函数,称此模型为自回归模型(Autoregressive Models,记做AR(p) )。 一般的表达式是: Y t 1 Y t-1 + 2 Y t-2 +. p Y t-p + t,21, t为白噪声序列,它满足以下条件: 1, E( t)=0, 2, E( t s) = 2 t= s0 t s 3, E( t Y t-i )=0 可以进一步假设误差项服从于正态分布,期望是0,方差是固定的常数 2 。 条件3表明t时刻的误差 t与Y t的过去值无关。 同时为简单起见,假设E(Y t)=0,该假设一直存在,除非特别说明。
9、,22,利用滞后算子,可以把AR(p)表示成: Y t 1 L Y t+ 2 L2 Y t +. p L p Y t + t,(1- 1 L - 2 L2 - - p L p ) Y t = t , 令(L ) (1- 1 L - 2 L2 - - p L p ) (L )Y t = t , 或 Y t = (L )1 t AR(1)模型: Y t 0.5 Y t-1 + t , 可以写成(1-0.5L) Y t = t , 或 Y t = (1-0.5L) 1 t Y t 0.6 Y t-1 + 0.4Y t-2 t , 可以写成: (1-0.6 L -0.4 L2) Y t = t ,,2
10、3,二,AR(1)平稳的必要条件 Y t Y t-1 + t 对上式两边平方再取期望 E(Y t 2)= 2 E(Y t -12)+E( t 2)+2 E(Y t-1 t)= 2 E(Y t -12)+ 2 如果Y t序列是平稳的,则在任何时候的方差是相同的 ,所以E(Y t 2)=E(Y t -12) y 2,24, y 2 = 2 /(1- 2 ), 因为 y 2是非负的,所以 2 /1- 2 0, 从而就有| |1, 因此| |1是AR(1)模型平稳的必要条件。,25,三,AR模型的自相关函数1,AR(1)的自相关函数Y t Y t-1 + t其自协方差函数为: r1 cov(Y t Y
11、 t-1 )=E(Y t Y t-1 ) =E(Y t-1 + t) Y t-1 = E(Y t -12)= r0 , r2=cov(Y t Y t-2 )=E(Y t Y t-2)= E(Y t-1 + t) Y t-2 = E(Y t -1 Y t-2 )= r1 = 2 r0, r3=cov(Y t Y t-3 )=E(Y t Y t-3)= E(Y t-1 + t) Y t-3 = E(Y t -1 Y t-3 )= r2= 3r0,26,rk= kr0, 所以,根据自协方差函数,可以计算出自相关函数为:k rk / r0 k , 如果Y t是平稳的, | |0) 当k=1,2时 1
12、1 + 2 1, 2 1 1 + 2, 1 1 /( 1- 2 ), 2 1 2 /( 1- 2 )+ 2 ,31,例题,求AR(2): Y t 0.6 Y t-1 - 0.2Y t-2 t ,自相关系数(k=0,1,2) 可以按照上面推导的公式,直接计算。 1 1 / 1- 2 0.6/1-(-0.2)=0.6/1.2=0.5 2 1 2 / 1- 2 + 2 =0.36/1.2-0.2=0.1 也可以按照定义来计算,32,r1 cov(Y t Y t-1 )=E(Y t Y t-1 )E(0.6 Y t-1 - 0.2Y t-2 t ) Y t-1 = 0.6 r0 0.2 r1 r2cov(Y t Y t-2 )=E(Y t Y t-2)E(0.6 Y t-1 - 0.2Y t-2 t ) Y t-2 =0.6 r1 0.2 r0 1 1 + 2 1, 2 1 1 + 2, 所以自相关函数 k 1 k-1 + 2 k-2, (k0),33,也可以得到相同的结果。 3 0.6 2 -0.2 10.6*0.1-0.2*0.50.06-0.1-0.04 4 0.6 3 -0.2 2,0.6*(-0.04)-0.2*0.1-0.024-0.02-0.044,