《平稳时间序列模型的基本概念解析》由会员分享，可在线阅读，更多相关《平稳时间序列模型的基本概念解析（61页珍藏版）》请在金锄头文库上搜索。
1、3.1 时间序列的基本概念,一、随机过程 二、平稳时间序列 三、随机过程的特征描述 四、线性差分方程,一、随机过程,（一）随机过程的定义 （二）随机过程与随机变量之间的关系,返回本节首页,下一页,上一页,返回本节首页,上一页,1.引言：事物的变化过程可分为两类：对于每一个固定的时刻t，变化的结果， 一类是确定的，这个结果可用t的某个确定性函数来描述； 另一类结果是随机的，即以某种可能性出现多个（有限多个或无限多个）结果之一。,（一）随机过程的定义,下一页,返回本节首页,上一页,2.定义：,设E是随机试验，S是它的样本空间，如果对于每一个e ，我们总可以依某种规则确定一时间t的函数 与之对应（T
2、是时间t的变化范围），于是，对于所有的的e 来说，就得到这族时间t的函数为随机过程，而族中每一个函数为这个随机过程的样本函数（或一次实现）。,该定义蕴涵的四种情况： 1、当e和t都是变量时，x(t)是一族时间的函数，它表示一个随机过程； 2、当e给定，t为变量时， x(t)是一个时间t的函数，称它为样本函数，有时也称为一次实现。 3、当t给定，e为变量时， x(t)是一个随机变量。 4、当e、t均给定时， x(t) 是一个标量或者矢量。,我们所要讨论的时间序列分析，只是对平稳序列及其有关的随机序列进行统计分析，而不是对所有的随机序列进行统计分析。,此类随机过程又称随机序列（random seq
3、uence)或时间序列（time series)。对于一个连续时间的随机过程，通过等间隔采样，也是一个随机序列。,区别： 1、随机变量是定义在样本空间上的一个单值实函数，随机过程是一族时间t的函数。 2、对应于一定随机试验和样本空间的随机变量与时间t无关，而随机过程与时间密切相关。 3、随机变量描述事物在某一特定时点上的静态，随机过程描述事物发展变化的动态。,（二）随机过程与随机变量之间的关系,下一页,返回本节首页,上一页,联系： 1、随机过程具有随机变量的特性，同时还具有普通函数的特性。 2、随机变量是随机过程的特例。一元随机变量可视为参数集为单元素集的随机过程。 3、当随机过程固定某一个时
4、刻时，就得到一个随机变量。 4、随机过程是N维随机向量、随机变量列的一般化，它是随机变量X(t)的集合。,二、平稳时间序列,（一）两种不同的平稳性定义 （二）时间序列的分布、均值和协方差函数 （三）平稳序列的自协方差和自相关函数 （四）白噪声序列和独立同分布序列 （五）独立增量随机过程、二阶矩过程 （六）线性平稳序列 （七）偏自相关函数,下一页,返回本节首页,上一页,（一）两种不同的平稳性定义,1.严平稳过程：若对于时间 t的任意n个值t1t2tn，此序列中的随机变量Xt1+s,Xt2+s, ,Xtn+s联合分布与整数s无关，即有： Ft1,t2,tn(Xt1,Xt2,Xtn)=Ft1+s,t
5、2+s+tn+s(Xt1+s,Xt2+s, ,Xtn+s) 则称Xt为严平稳过程。有些参考书也称为狭义平稳或强平稳过程。,下一页,返回本节首页,上一页,此定义表明，严平稳的概率分布与时间的平移无关。 一般来说，若所研究的随机过程，前后的环境和主要条件都不随时间变化，就可以认为它是平稳随机过程。,平稳随机过程的一维概率密度函数与时间无关。二维概率密度函数只与时间间隔S有关，而与时间的起点和终点无关。,2.宽平稳过程：若时间序列有有穷的二阶矩，且Xt满足如下两个条件：,则称该时间序列为宽平稳过程。,此定义表明，宽平稳过程各随机变量的均值为常数，且任意两个变量的协方差仅与时间 间隔(t-s)有关。
6、（宽平稳过程只涉及一阶和二阶矩）,3.严平稳过程和宽平稳过程的联系和区别 区别： （1）严平稳的概率分布随时间的平移而不变，宽平稳序列的均值和自协方差随时间的平移而不变。 （2）一个严平稳序列，不一定是宽平稳序列；一个宽平稳序列也不一定是严平稳序列。,联系： （1）若一个序列为严平稳序列，且有有穷的二阶矩，那么该序列也必为宽平稳序列。 （2）若时间序列为正态序列（即它的任何有限维分布都是正态分布），那么该序列为严平稳序列和宽平稳序列是相互等价的。,注：由于在实际中严平稳序列的条件非常难以满足，我们研究的通常是宽平稳序列. 在以后讨论中，若不作特别说明，平稳序列即指宽平稳序列。,（二）时间序列的
7、分布、均值和协方差函数,1.时间序列的概率分布 随机过程是一族随机变量，类似于随机变量，可以定义随机过程的概率分布函数和概率密度函数。它们都是两个变量t, x的函数。,下一页,返回本节首页,上一页,如果我们能确定出时间序列的概率分布，我们就可以对时间序列构造模型，并描述时间序列的全部随机特征， 但由于确定时间序列的分布函数一般不可能，人们更加注意使用时间序列的各种特征量的描述，如均值函数、协方差函数、自相关函数、偏自相关函数等，这些特征量往往能代表随机变量的主要特征。,2.均值函数 一个时间序列Xt，t=0, 1, 2 的均值函数指：,即为Xt的均值函数。它实质上是一个实数列， 被Xt的一维分
8、布族所决定。均值表示随机过程在 各个时刻的摆动中心。,3. 时间序列的自协方差函数,由此可见，时间序列的自协方差函数是 随机变量间协方差推广差. 时间序列自协方差函数具有对称性：,4.时间序列的自相关函数,自相关函数描述了时间序列的Xt自身的 相关结构。 时间序列的自相关函数具有对称性，且有,（三）平稳序列的自协方差和自相关函数,1.平稳序列的自协方差函数和自相关函数 若Xt为平稳序列，假定EXt=0，由于 令s=t-k，于是我们就可以用以下记号表示平稳序列的自协方差函数，即：,下一页,返回本节首页,上一页,相应的，严平稳序列的自相关函数记为：,2.平稳序列的自协方差序列和自相关函数列的性质,
9、（四）白噪声序列和独立同分布序列,1.白噪声（White noise）序列 定义：若时间序列Xt满足下列性质：,则称此序列为白噪声序列。,下一页,返回本节首页,上一页,白噪声序列是一种特殊的宽平稳序列，也是一种最简单的平稳序列，它在时间序列分析中占有非常重要的地位。,2.独立同分布（iid）序列 定义：如果时间序列Xt中的随机变量Xt，t=0, 1, 2 是相互独立的随机变量，且Xt具有相同的分布（当Xt有一阶矩时，往往还假定EXt=0）,则称Xt为独立同分布序列。 可见独立同分布序列Xt是一个严平稳序列。,一般来说，白噪声序列与独立同分布序列是不同的两种序列，但是当白噪声序列为正态序列时，它
10、也是独立同分布序列，此时我们称其为正态白噪声序列。,-4,-2,0,2,4,80,82,84,86,88,90,92,94,96,正态白噪声序列,（五）独立增量随机过程、二阶矩过程,独立增量随机过程 独立增量过程是物理上重要的马氏过程。随机过程X(t)，t =0，用X(t1,t2)表示随机变量X(t2)-X(t1),并称为X(t)在(t1,t2)上的增量，如果对一切t1=0是一个独立增量过程。 马氏过程：从对过去记忆性角度来考虑的，简单的说，一阶马氏过程表示：将来时刻tn的状态xn的统计特性仅取决于现在时刻tn-1时刻的值xn-1。,下一页,返回本节首页,上一页,二阶矩过程 定义：若一个随机过
11、程X(t) ， ，如果对于一切 ,总有 则称此过程为二阶矩过程。宽平稳过程是二阶矩过程中的一类。高斯过程也是二阶矩过程。高斯分布是指随机过程的各有限维分布都是高斯分布，高斯分布的各阶矩都存在，故也属于二阶矩过程。,（六）线性平稳序列,1.时间序列的线性 运算 设Xt与Yt为两个时间序列，a，b为两个实数，那么，zt=aXt+bYt t=0, 1, 2 为序列Xt与Yt的一种线性运算。 2.时间序列的延迟运算 设Xt为一时间序列，d为一正整数，那么， Yt=Xt-d t=0, 1, 2 为Xt的d步延迟运算。,下一页,返回本节首页,上一页,3.时间序列的线性与延迟联合运算 yt=a0xt+a1x
12、t-1+ +apXt-p t=0,1,2为时间序列线性与延迟联合运算。 当ai=1/p，i=0,1,2, 时，Yt即为对序列Xt的移动平均序列。 4.时间序列的非线性运算 非线性运算的形式是多种多样的：如 yt=xt2+axt，yt=xt-1/(1+xt-2)2等。,5.平稳线性序列 设at为正态白 噪声序列，则称序列：,注：可以证明， 为一宽平稳序列。,为线性平稳序列。,（七）偏自相关函数,偏自相关函数：指扣除Xt和Xt+k之间的随机变量Xt+1,Xt+2, Xt+k-1等影响之后的Xt和Xt+k之间的相关性。 偏自相关函数一般用 表示。,偏自相关其实就是如下的条件相关： cov(Xt,Xt
13、+k|Xt+1,Xt+2 Xt+k-1),下一页,返回本节首页,上一页,三、随机过程的特征描述,（一）样本均值 （二）样本自协方差函数 （三）样本自相关函数（SACF） （四）样本偏自相关函数,下一页,返回本节首页,上一页,（一）样本均值,对时间序列的一次样本实现，需要用样本均值代替总体均值,可以证明， 是 的无偏、一致估计。,下一页,返回本节首页,上一页,对于时间序列的一次样本现，我们也需要通过样本自协方差函数估计总体自协方差函数。这里有两种形式：,（二）样本自协方差函数,下一页,返回本节首页,上一页,通过证明有如下结论： 上述样本自协方差函数 都是总体自协方差函数 的渐近无偏估计，且 比
14、的偏差要大。但是， 比 的方差小，且在大样本情况下（n很大），二者差别不大，因此我们通常用 作为样本自协方差函数。,由于当k相对于n而言较大时， 的偏比 更大，因此，在时间序列分析时，一般滞后期k最多取至n/4,（三）样本自相关函数（SACF） 1.对给定的序列x1,x2, xn，样本自相关函数定义为：,下一页,返回本节首页,上一页,（四）样本偏自相关函数（SPACF） 1.样本偏自相关函数有如下递推公式(Durbin1960)：,下一页,返回本节首页,上一页,例如，根据上述递推公式，我们有：,在过程是一个白噪声序列的假设下，,所以， 能作为检验白噪声过程假设的 准则区限。,四、线性差分方程,
15、（一）线性差分方程 （二）关于线性差分方程基本定理 （三）n阶常系数线性差分方程的解,下一页,返回本节首页,上一页,（一）线性差分方程,1.n阶非齐次线性差分方程,2.n阶齐次线性差分方程,（1），（2）式中，ai(t)、f(t)为t的已知函数，且 an(t)、f(t)不同时为零，若 ai(t)为常数，则上述两式 即为常系数差分方程。,下一页,返回本节首页,上一页,（二）关于线性差分方程基本定理,定理1. 若y1(t)，y2(t)， ym(t)是n阶齐次线性差分方程（2）的m个特解，则如下的线性组合也是该差分方程的的特解：y(t)=c1y1(t)+c2y2(t)+ +cmym(t) 式中c1、
16、c2cm为任意常数。,下一页,返回本节首页,上一页,定理2. n阶齐线性齐次差分方程一定存在n个线性无关的特解，若y1(t)，y2(t)， yn(t)为式（2）的n个线性无关的特解，则（2）式的通解为： yc(t)=c1y1(t)+c2y2(t)+ +cnyn(t) 式中c1、c2cn为n个任意常数。,定理3. N阶非齐次线性差分方程（1）的通解等于它的一个特解与它对应的齐次方程（2）的通解之和。,（三）n阶常系数线性差分方程的解,1. n 阶常系数线性差分方程的一般形式,其中：a1,a2, an为常数，且an不为零，f(t)为t 的已知函数。,下一页,返回本节首页,上一页,（4）式为（3）式所对应的齐次方程。,2. 齐次线性差分方程的通
