《平稳序列参数表征》PPT课件

《《平稳序列参数表征》PPT课件》由会员分享，可在线阅读，更多相关《《平稳序列参数表征》PPT课件（80页珍藏版）》请在金锄头文库上搜索。

1、第三章 平稳序列参数表征 的矩估计n均值估计n自协方差函数和自相关函数的估计n偏相关函数的估计n白噪声的检验第一节第一节 平稳序列均值的估计平稳序列均值的估计n若 为平稳序列，均值函数 与t无关，记为 。记 为序列 的容量为n的样本序列。 n回顾：当 为独立同分布序列时，根据大数定律和中心极限定理，可知 的极限性质。主要有：(1) 相合性 设 是独立同分布的随机变量序列,记 ，则, (2) 渐近正态性 设随机变量 相互独立，同分布，且 ,则当 时 的分布趋于标准正态分布，也就是 其中 是标准正态分布N(0,1)的分布函数 n设 是平稳序列 的观测值， 均值函数 的点估计，由下式 表示出， 。

2、一一 相合性相合性( (consistency)consistency)n定义1.1 设统计量 是 的估计，在统计学中有如下的定义： (1) 如果 ，则称 是 的无偏估计。 (2) 如果当 时， ，则称 是 的渐进无偏估计。 (3) 如果 依概率收敛到 ，就称 是 的 相合估计。 (4) 如果 几乎处处(a.s.)收敛到 ，就称 是 的强相合估计。 n定理1.1 设平稳序列 有均值 和自协方差函数 ，若以 作为 的估计，那么(1) 是 的无偏估计,(2) 若 ，则 是 的相合估计。即当 时，有或(3) 如果 是严平稳遍历序列，则 是 的强相合估计。 二二 中心极限定理中心极限定理-渐近正态渐近

3、正态( (Asymptotic Asymptotic Normality)Normality)n回顾：如果 是独立同分布序列， 当 时，从中心极限定理知道 依分布收敛到 。利用这个结果可以给出 的置信度为0.95的渐近置信区间： 当标准差 未知和n较大时,可用样本标准差 代替 。可解决有关均值 的假设检验。 n定理1.2 若 其中 为正态白噪声序列，则 渐近正态N(0,v)分布，记作 其中 n定理1.3 设 是平稳过程 其中 , 是独立同分布的 ，则当 时， 依分布收敛到正态分布N(0,v)，记作 其中或者说 渐近正态分布 。 n注：定理1.3对求关于 的大样本近似置信区间是有用的，如果过程

4、是平稳Gauss过程，则对有限n, 的精确分布 如果 已知，则上式给出 的精确置信界，如果 未知，有观测值估计量则只能给出近似置信界。 三三 的模拟计算的模拟计算n我们考虑标准正态白噪声 和AR(2)模型， 从计算机上产生n=1000个观测数据 对于n=1,2,1000分别计算出 ,同时还计算出 的相应样本均值 ，这时真值为 。 n模拟计算1 当 时， n1030501000.1941 0.0516 0.0543 0.03390.3010 0.1370 0.1700 0.0495 n3005007001000-0.0226-0.0181-0.0140-0.0105-0.0700-0.0613-

5、0.0508-0.0467 n模拟计算2 当 时， n1030501000.2365 0.1273 0.1465 0.06300.2775 0.1543 0.1849 0.0850 n3005007001000-0.0194-0.0143-0.0206-0.0069-0.0283-0.0205-0.0301-0.0102第二节第二节 自协方差与自相关函数自协方差与自相关函数 的估计的估计一一 估计方法估计方法n根据零均值的平稳序列 的样本值序列 ,估计它的自协方差函数由两种简单方法： (1) (2.1) (2) (2.2) n两种不同估计的差异(1) 是 的无偏估计，而 不是 的无偏估计(k=

6、0例外),但当 时, 是渐近无偏的。(2) 由(2.1)定义的样本自协方差函数能够使得样本自协方差矩阵 不仅是对称方阵，而且是非负定的。 n定理2.1 设 为零均值平稳序列， 是长度为n的样本， 如(2.1)定义，记 则对任意 ，有 (非负定)。 n注1：在定理2.1中，若 ，则对任意 ， (正定) a.s.n注2：对于由(2.2)定义的 ，虽然 是 的无偏估计，但序列 并不像 具有正定性。 例2.1：设 为平稳序列, 是长度为n=3的样本， 为非零实数，经计算故样本协方差矩阵为取 ，则取 ，则故由(2.2)定义的样本协方差 为不定序列。 n当平稳序列 的均值 不为零时，我们用以下方法估计 的

7、自协方差函数， (2.3) 式中 为 的样本均值。 n在 的估计方法确定后，相应的序列的自相关函数 用以下两种方法估计,即 (2.4) (2.5) 并且称 为样本自相关函数。 二二 的相合性的相合性n定理2.2 设平稳序列的样本自协方差函数 和 由(2.1),(2.4)定义，则 (1) 分别是 的渐近无偏估计。(2) 分别是 的弱相合估计,即 其中 表示依概率收敛。(3) 如果 是严平稳遍历序列,则对每个确定的k, 和 分别是 和 的强相合估计，即 n注：从这个定理知道，只要 是线性平稳序列，则样本自协方差函数 是渐近无偏估计，特别当 是AR(p),MA(q) 或ARMA(p,q)序列, 是

8、的渐近无偏估计。 三三. . 的渐近分布的渐近分布1. 渐近方差n定理2.3 若 为如下的平稳序列 式中 为独立同分布的随机序列，且 ，则(1) 与 的协方差有渐近表达式 (2) 样本自相关函数 和 的协方差有以下渐近表达式 注：当 为正态序列时， ,从而有 2 2 渐近正态分布渐近正态分布( (中心极限定理中心极限定理) )n定理2.4 在定理1.6的相同条件下，令对于任意正整数k， 具有联合渐近正态分布，即其中，G G为(k+1)阶对称方阵，其i行j列元素 为 类似地， 其中R为k阶对称方阵,其i行j列元素 为 （2.6）称(2.6)为Bartlett公式。 n该定理应用的例子：例2.2

9、（独立白噪声） 设 ，如果 ，则 ，由Bartlett 公式， 故，当n充分大时,有 例:产生样本长度n=400的白噪声序列,样本自相关函数如下图(sample3.1)： 19/20=95% n例2.3 对MA(q)序列 ，利用定理知,如果白噪声是独立同分布的，只要mq，由Bartlett公式知,则 于是可作假设检验 ： 是MA(q)下，对mq有 n检验： 使用： q=0,q=1, n注: 一般地，常用 或 作为与 进行比较，以检验数据由MA(1)过程产生。 n例2.4 (一阶自回归过程) 对平稳AR(1)过程 用Bartlett公式，并注意到 ,则的渐近方差为 当i比较大时 四四. . 随机

10、模拟随机模拟nAR(2)模型：其中 为独立同分布正态白噪声。分别利用前100，500，900数据计算 ，结果如图: n 五五. . 遍历性遍历性( (Erdogic)Erdogic)n一个时间序列的期望和第j个自协方差视作如下意义上的总体平均，即n平稳序列 的一个样本是 的一个实现，而不是某个特定时刻t的 的简单抽样，故不能直接引用统计中的大数定律的结果。 n对于从随机序列中得到的样本量为N的实现， ，可计算： 样本均值： (2.7) 样本协方差： (2.8) 它们不是一个总体平均而是一个时间平均。 n一个平稳过程被称作是关于均值遍历的，如果当 时，(2.7)依概率收敛于 。n如果一个平稳过程

11、的自协方差满足 则 关于均值是遍历的。n一个平稳过程，如果 对所有的j都成立，则称该过程是关于二阶矩遍历的。 n若 是一个正态平稳过程时，条件足可以保证关于所有阶矩的遍历性。n物理上的解释： 时间平均=总体平均这一结果表明：求平稳序列的统计特征矩只需序列的一次实现，而不需要多次实现。 n例2.5： 一个平稳的但非遍历的过程设第i个实现 的均值 是由 分布生成的，其中 是独立于 的均值为0，方差为 的正态白噪声过程。 第三节第三节 偏相关函数估计偏相关函数估计n偏相关函数 的估计 的递推公式， n定理3.1 设 为正态平稳序列，则(1) (2) (3) 当kp时， 的偏相关函数的估计为随机向量

12、为渐近独立且渐近分布为 ， 为M阶单位阵，M为大于1的任意给定的正整数。第四节第四节 模型的初步分析模型的初步分析一一. . 独立序列的判别方法独立序列的判别方法( (白噪声白噪声) )n设 为独立同分布的随机序列，而且 , 从而 是白噪声序列。 1. 1. 白噪声的正态分布检验法白噪声的正态分布检验法 n根据 的样本数据列 计算出样本自相关函数 ，它们的误差为 由Bartlett公式，可知其中H的第i行第j列的元素 为，于是有， 于是对于 j=1,2,k,我们有取m=1m=1时， ，即在 中约有68.3%的点值落在区间 内;取m=2m=2时， ，即在 中约有95.44%的点落在区间 内;取m

13、=3m=3时， ，即在 中约有99.74%的点落在区间 内(称为 原则)。 n换一种角度，令 表示满足下面条件的j的个数(j=1,2,k), 对于原假设 ： 是独立白噪声下，对较大的n，应当有95%的 小于1.96，所以当取值大于0.05值，应当拒绝 是白噪声的假设。 n例4.1 (1) 样本长度n=400, ，取m=2,这时 n也可取m=3的检验方法，则 n也可取m=1的检验方法，则 n例4.2 样本长度n=400, AR(1)序列 n例4.3 样本长度n=400, MA(1)序列： 二二. . 白噪声的白噪声的 检验检验n如果 是独立同分布的标准正态随机变量，它们的平方和 服从自由度为k的

14、 分布n对于独立同分布的白噪声 ，由样本自相关函数 的中心极限定理，当n充分大后， 近似服从k维标准正态分布，于是， 近似服从 分布，这里 由于在原假设 下，所以当检验统计量的取值较大时应当拒绝原假设，否则没理由拒绝原假设 。具体地， 给定检验水平 ，查k个自由度的 分布表得到临界值满足 当实际计算结果 时，应当否定 是独立白噪声的原假设,当 时，不能否定 是独立白噪声序列。 n例4.4 （例4.1的续）对于白噪声序列 ，有 故，不能否定原假设。 n对于AR(1)序列 有 故，否定原假设 。 n例4.5 对于AR(1)序列 样本数n=400,重复n=500，得到否定原假设 的比例为，(1) m

15、=5, b0.00.10.20.30.50.70.80.9 p4.5%26%88.5%99.5%100%100%100%100% (2) m=20, b0.00.10.20.30.50.70.80.9 p4%13.5%60%96.5%100%100%100%100% n例4.6 MA(1)序列： ,样本数n=400,重复n=500，得到否定原假设 的比例为，(1) m=5, b0.00.10.20.30.50.70.80.9 p1.5%24%86.5%100%100%100%100%100% (2) m=20， b0.00.10.20.30.50.70.80.9 p2.5%11.4%61%97

16、%100%100%100%100% n注1. 上述讨论的问题叙述的依据虽然都基于 是独立同分布的白噪声假设，但在实际问题中，这个假设条件可以放宽，即对于假设 ： 是白噪声，一般都可采用上面的方法。n注2.在实际问题中，k一般既不能取得过大，亦不能取得太小。一般地，若观测量较多，k可取 或 ，甚至更小；若观测量较小，m可取 。 二二. . 周期分量与季节序列的判别方法周期分量与季节序列的判别方法n例4.7：序列 分别表示序列 的样本自协方差函数，于是有经计算，当 时， 由平稳序列自相关协方差函数的相合性,当k很大时，有 n样本自相关函数 n例4.9 序列： n样本自协方差函数图 三三. . 回归趋势与求和模型判别回归趋势与求和模型判别n考虑序列包含一个(d-1)次多项式的趋势项，例如序列称上式中 为回归趋势项。并记 分别为 的样本均值，样本自相关函数分别为 ，于是 其中， 经计算得到，当n很大时，又由于，当n很大时，于是 的样本自相关函数 满足 (*)对每个k成立。注1. 当序列中的趋势项是两阶或更高阶的多项式，仍有(*)的近似结果。注2. 当序列中的趋势项是非多项式时，可知 的尾部不衰