《平稳序列参数表征》ppt课件

《《平稳序列参数表征》ppt课件》由会员分享，可在线阅读，更多相关《《平稳序列参数表征》ppt课件（80页珍藏版）》请在金锄头文库上搜索。

1、第三章 平稳序列参数表征 的矩估计,均值估计 自协方差函数和自相关函数的估计 偏相关函数的估计 白噪声的检验,第一节 平稳序列均值的估计,若 为平稳序列，均值函数 与t无关，记为 。记 为序列 的容量为n的样本序列。,回顾：当 为独立同分布序列时，根据大数定律和中心极限定理，可知 的极限性质。主要有： (1) 相合性 设 是独立同分布的随机变量序列, 记 ， 则,(2) 渐近正态性 设随机变量 相互独立，同分布，且 ,则当 时 的分布趋于标准正态分布，也就是 其中 是标准正态分布N(0,1)的分布函数,设 是平稳序列 的观测值， 均值函数 的点估计，由下式 表示出， 。,一 相合性(consi

2、stency) 定义1.1 设统计量 是 的估计，在统计学中有如下的定义： (1) 如果 ，则称 是 的无偏估计。 (2) 如果当 时， ，则称 是 的渐进无偏估计。 (3) 如果 依概率收敛到 ，就称 是 的 相合估计。 (4) 如果 几乎处处(a.s.)收敛到 ，就称 是 的强相合估计。,定理1.1 设平稳序列 有均值 和自协方差函 数 ，若以 作为 的估计，那么 (1) 是 的无偏估计, (2) 若 ， 则 是 的相合估计。即当 时，有 或 (3) 如果 是严平稳遍历序列，则 是 的强相 合估计。,二 中心极限定理-渐近正态(Asymptotic Normality) 回顾：如果 是独立

3、同分布序列， 当 时，从中心极限定理知道 依分布收敛到 。利用这个结果可以给出 的置信度为0.95的渐近置信区间： 当标准差 未知和n较大时,可用样本标准差 代替 。可解决有关均值 的假设检验。,定理1.2 若 其中 为正态白噪声序列，则 渐近正态 N(0,v)分布，记作 其中,定理1.3 设 是平稳过程 其中 , 是独立同分布的 ， 则当 时， 依分布收敛到正态分布 N(0,v)，记作 其中 或者说 渐近正态分布 。,注：定理1.3对求关于 的大样本近似置信区间是有用的，如果过程 是平稳Gauss过程，则对有限n, 的精确分布 如果 已知，则上式给出 的精确置信界，如果 未知，有观测值估计量

4、则只能给出近似置信界。,三 的模拟计算 我们考虑标准正态白噪声 和AR(2)模型， 从计算机上产生n=1000个观测数据 对于n=1,2,1000分别计算出 ,同时还计算出 的相应样本均值 ，这时真值为 。,模拟计算1 当 时，,模拟计算2 当 时，,第二节 自协方差与自相关函数 的估计,一 估计方法 根据零均值的平稳序列 的样本值序列 ,估计它的自协方差函数由两种简单方法： (1) (2.1) (2) (2.2),两种不同估计的差异 (1) 是 的无偏估计，而 不是 的无偏估计(k=0例外),但当 时, 是渐近无偏的。 (2) 由(2.1)定义的样本自协方差函数能够使得样本自协方差矩阵 不仅

5、是对称方阵，而且是非负定的。,定理2.1 设 为零均值平稳序列， 是长度为n的样本， 如(2.1)定义，记 则对任意 ，有 (非负定)。,注1：在定理2.1中，若 ，则对任意 ， (正定) a.s. 注2：对于由(2.2)定义的 ，虽然 是 的无偏估计，但序列 并不像 具有正定性。,例2.1：设 为平稳序列, 是长度为n=3的样 本， 为非零实数，经计算 故样本协方差矩阵为 取 ，则 取 ，则 故由(2.2)定义的样本协方差 为不定序列。,当平稳序列 的均值 不为零时，我们用以下方法估计 的自协方差函数， (2.3) 式中 为 的样本均值。,在 的估计方法确定后，相应的序列的自相关函数 用以下

6、两种方法估计,即 (2.4) (2.5) 并且称 为样本自相关函数。,二 的相合性 定理2.2 设平稳序列的样本自协方差函数 和 由(2.1),(2.4)定义，则 (1) 分别是 的渐近无偏估计。 (2) 分别是 的弱相合估计,即 其中 表示依概率收敛。 (3) 如果 是严平稳遍历序列,则对每个确定的k, 和 分别是 和 的强相合估计，即,注：从这个定理知道，只要 是线性平稳序列，则样本自协方差函数 是渐近无偏估计，特别当 是AR(p),MA(q) 或ARMA(p,q)序列, 是 的渐近无偏估计。,三. 的渐近分布 1. 渐近方差 定理2.3 若 为如下的平稳序列 式中 为独立同分布的随机序列

7、，且 ，则 (1) 与 的协方差有渐近表达式,(2) 样本自相关函数 和 的协方差有以下渐近表达式 注：当 为正态序列时， ,从而有,2 渐近正态分布(中心极限定理) 定理2.4 在定理1.6的相同条件下，令 对于任意正整数k， 具有联合渐近正态分 布，即 其中，G为(k+1)阶对称方阵，其i行j列元素 为,类似地， 其中R为k阶对称方阵,其i行j列元素 为 （2.6） 称(2.6)为Bartlett公式。,该定理应用的例子：sample3.1 例2.2 （独立白噪声） 设 ，如果 ，则 ，由Bartlett 公式， 故，当n充分大时,有,例:产生样本长度n=400的白噪声序列,样本自相关函数

8、如下图(sample3.1)： 19/20=95%,例2.3 对MA(q)序列 ，利用定理知,如果白噪声 是独立同分布的，只要mq，由Bartlett公式知, 则 于是可作假设检验 ： 是MA(q)下，对mq有,检验： 使用： q=0, q=1,注: 一般地，常用 或 作为与 进行比较，以检验数据由MA(1)过程 产生。,例2.4 (一阶自回归过程) 对平稳AR(1)过程 用Bartlett公式，并注意到 ,则 的渐近方差为 当i比较大时,四. 随机模拟 AR(2)模型： 其中 为独立同分布正态白噪声。分别利用前100， 500，900数据计算 ，结果如图:,五. 遍历性(Erdogic) 一

9、个时间序列的期望和第j个自协方差视作如下意义上的总体平均，即 平稳序列 的一个样本是 的一个实现，而不是某个特定时刻t的 的简单抽样，故不能直接引用统计中的大数定律的结果。,对于从随机序列中得到的样本量为N的实现， ，可计算： 样本均值： (2.7) 样本协方差： (2.8) 它们不是一个总体平均而是一个时间平均。,一个平稳过程被称作是关于均值遍历的，如果当 时，(2.7)依概率收敛于 。 如果一个平稳过程的自协方差满足 则 关于均值是遍历的。 一个平稳过程，如果 对所有的j都成立，则称该过程是关于二阶矩遍历的。,若 是一个正态平稳过程时，条件 足可以保证关于所有阶矩的遍历性。 物理上的解释：

10、 时间平均=总体平均 这一结果表明：求平稳序列的统计特征矩只需序列的一 次实现，而不需要多次实现。,例2.5： 一个平稳的但非遍历的过程 设第i个实现 的均值 是由 分布生成 的， 其中 是独立于 的均值为0，方差为 的正态白 噪声过程。,第三节 偏相关函数估计,偏相关函数 的估计 的递推公式，,定理3.1 设 为正态平稳序列，则 (1) (2) (3) 当kp时， 的偏相关函数的估计为随机向量 为渐近独立且渐近分布 为 ， 为M阶单位阵，M为大于1的任意给 定的正整数。,第四节 模型的初步分析,一. 独立序列的判别方法(白噪声) 设 为独立同分布的随机序列，而且 , 从而 是白噪声序列。,1

11、. 白噪声的正态分布检验法 根据 的样本数据列 计算出样本自相 关函数 ，它们的误差为 由Bartlett公式，可知 其中H的第i行第j列的元素 为， 于是有，,于是对于 j=1,2,k,我们有 取m=1时， ，即在 中约有68.3%的点值落在区间 内; 取m=2时， ，即在 中约有95.44%的点落在区间 内; 取m=3时， ，即在 中约有99.74%的点落在区间 内 (称为 原则)。,换一种角度，令 表示满足下面条件的j的个 数(j=1,2,k), 对于原假设 ： 是独立白噪声下，对较大的 n，应当有95%的 小于1.96，所以当 取值大于0.05值，应当拒绝 是白噪声的假设。,例4.1

12、(1) 样本长度n=400, ，取m=2,这时,也可取m=3的检验方法，则,也可取m=1的检验方法，则,例4.2 样本长度n=400, AR(1)序列,例4.3 样本长度n=400, MA(1)序列：,二. 白噪声的 检验 如果 是独立同分布的标准正态随机变量，它们的平方和 服从自由度为k的 分布 对于独立同分布的白噪声 ，由样本自相关函数 的中心极限定理，当n充分大后， 近似服从k维标准正态分布，于是， 近似服从 分布，这里,由于在原假设 下， 所以当检验统计量 的取值较大时应当拒绝原假设，否则没理由拒绝原假 设 。具体地， 给定检验水平 ，查k个自由度的 分布表得到临界值满足 当实际计算结

13、果 时，应当否定 是独立白噪声的原假设,当 时， 不能否定 是独立白噪声序列。,例4.4 （例4.1的续）对于白噪声序列 ， 有 故，不能否定原假设。,对于AR(1)序列 有 故，否定原假设 。,例4.5 对于AR(1)序列 样本数n=400,重复n=500，得到否定原假设 的比例为， (1) m=5,(2) m=20,例4.6 MA(1)序列： ,样本数n=400,重复n=500，得到否定原假设 的比例为， (1) m=5,(2) m=20，,注1. 上述讨论的问题叙述的依据虽然都基于 是独立同分布的白噪声假设，但在实际问题中，这个假设条件可以放宽，即对于假设 ： 是白噪声，一般都可采用上面

14、的方法。 注2.在实际问题中，k一般既不能取得过大，亦不能取得太小。一般地，若观测量较多，k可取 或 ，甚至更小；若观测量较小，m可取 。,二. 周期分量与季节序列的判别方法 例4.7：序列 其中 为某个平稳线性序列.记 分别表示序列 的样本自协方差 函数，于是有 经计算，当 时，,由平稳序列自相关协方差函数的相合性,当k很大时，有,例4.8. 北京1990.1-2000.12年的气温序列sample3.5,样本自相关函数,例4.9 序列： Sample3.6,样本自协方差函数图,三. 回归趋势与求和模型判别 考虑序列包含一个(d-1)次多项式的趋势项，例如序 列 称上式中 为回归趋势项。并记 分别为 的样本均值，样本自相关函数分别为 ，于是 其中，,经计算得到，当n很大时， 又由于，当n很大时， 于是 的样本自相关函数 满足 (*) 对每个k成立。 注1. 当序列中的趋势项是两阶或更高阶的多项式，仍有(*)的近似结果。 注2.