《现代数字信号处理(chap2线性模型)(2011修订版)剖析》由会员分享，可在线阅读，更多相关《现代数字信号处理(chap2线性模型)(2011修订版)剖析（97页珍藏版）》请在金锄头文库上搜索。
1、主讲教师: 何松华 教授 联系方式: 13973132618 (0731) 82687718 13973132618 现代数字信号处理/线性模型 第二章 平稳过程的线性模型 本章的教学内容 线性模型概述 AR模型 MA模型 ARMA模型 平稳随机过程的一般线性表示 各种线性模型间关系 任何物理现象的分 析必须采用一定的 数学模型 关于随机过程产生 机制的数学模型 任何具有有理功率谱函数的随机过程可以认 为是白色噪声通过线性系统产生 确定 信号 ? 参数模型法的基本思路： 第一节 线性模型概述 系统分析: 已知H(z)，如何对随机过程x(n)进行分析 系统设计：已知随机过程x(n)的部分特性，如
2、何得到 其生成系统 H(z) 本科信号与系统: 输入输出为确定性信号 本章: 如何得到随机信号的生成系统, 如何根据生成系 统利用离散随机过程的前面时刻的值预测其未来 的值? 输入u(n)为白色噪声 H(z) u(n) x(n) 第一节 线性模型概述 不妨假定 将随机过程u(n)的方差由u2置换成 u2 =b02 2即可使得模型的b0=1) 假设离散随机过程为白噪声u(n)通过有限阶的因果线性 系统所产生,则有 线性系统的差 分方程表示 为什么ak系数前 面符号为负? 第一节 线性模型概述 若u(n)是方差为 的白噪声序列，则x(n)功率谱为 参见第1章 平稳随机过程的预测: 如果已知其参数模
3、型H(z), 则可 以根据x(n-1),x(n-2),以及n-1、n-2、 时刻的预测误 差 得到n时刻的估 计值 初始条件: x(n)=0 (n0) 第一节 线性模型概述 举例: 加拿大山猫年捕获量数据 (1821-1878) 269,321,585,871,1475,2821,3928,5943,4950,2577,523,98, 184,279,409,2285,2685,3409,1824,409,151,45,68,213,546, 1033,2129,2536,957,361,377,225,360,731,1638,2725,2871, 2119,684,299,236,245,
4、552,1623,3311,6721,4254,687,255, 473,358,784,1594,1676,2251,1426,756,299 假设今年为1878年,请根据历史数据建立预测模型, 得到明年及1880,1881,1882,1883五年内的山猫捕获 量的估计. 数据经过适当次数的差分处理、去均值后为平稳随机过程(去除趋 势项以及周期性的季节项),转化为离散平稳随机过程的预测问题 第一节 线性模型概述 以两次差分处理为例: 原始数据序列: 1次差分序列: 2次差分序列: 1. 利用平稳随机数据项x3,x4,x58建立ARMA模型 本章要解决的问题 2. 利用已经建立ARMA模型进行
5、预测 第一节 线性模型概述 举例: 某城市居民季度用煤消耗量 ( 单位: 吨 ) 请预测1997年度每个 季度的用煤消耗量 年份1季度2季度3季度4季度年平均 1991 6878.4 5343.74847.96421.9 5873.0 1992 6815.4 5532.64745.66406.2 5875.0 1993 6634.4 5658.54674.86645.5 5853.3 1994 7130.2 5532.64898.66642.3 6073.7 1995 7413.5 5863.14997.46776.1 6262.6 1996 7476.5 5965.55202.16894.1
6、 6384.5 非平稳随机过程: (1)趋 势项; (2)季节(周期)项 第一节 线性模型概述 1. 趋势项的消除 (对于本例,也可采用二次方增长趋势) 令 则 线性增长趋势 去除趋势项后 的剩余项 练习 标量对矢量的求 导,根据维数准则 理解与记忆 第一节 线性模型概述 2. 季节(周期)项的消除 (对于本例,周期为4) 去除 趋势项后的序列为 四个季度的剩余项的6年平均值分别为 去除 趋势项和季节项后的序列为 第一节 线性模型概述 3. 利用平稳随机数据项x1,x2,x23,x24建立ARMA模型 本章要解决的问题 4. 利用已经建立ARMA模型进行平稳随机项的预测 5. 综合趋势项以及季
7、节项得到1997年度各季度预测值 第一节 线性模型概述 P阶自回归模型(AR Auto-Regressive) 全极点模型 AR(p) 当前时刻n的值由过 去的p个值通过回归 的方式产生 思考:AR模型系数为最优线 性估计时,预测误差u(n)与观 测数据x(n-1),x(n-2),无关; 与u(n-1),u(n-2),不相关;为 白色噪声 第一节 线性模型概述 q阶移动平均模型 (MA Moving-Average) 全零点模型 MA(q) 当前时刻的值为过去 误差值(时间移动)的加 权平均(求和) 可以得到: 预测误差为白噪 声时, 与观测数据x(n-1),x(n-2), 不相关;最优线性估
8、计 第一节 线性模型概述 自回归移动平均模型(ARMA) ARMA模型适用于零极点功率谱类型的随机过程的预测。 AR模型适用于全极无零功率谱类型的随机过程的预测， MA模型适用于全零无极功率谱类型的随机过程的预测。 ARMA(p,q ) 以前时刻的值以 及以前时刻的估 计误差一同用于 估计当前时刻值 第二节 AR模型 一、AR(1)模型 1、马尔科夫随机过程 为均值为0、方差为2的Gauss分布， 为均值 为 、方差为2的Gauss分布 假设输入n从 n=0开始,初始 状态为x(-1) 第二节 AR模型 2、均值 零输入响应 零状态响应 第二节 AR模型 一阶统计角度上渐近平稳 当且n足够大时
9、, 设 则 “渐近”的含义 ? n足够大时 系统稳定条件： 零输入响应及零 状态响应均有界 第二节 AR模型 3、方差与自相关 一般假设n 为零均值白 色随机过程 ，即 情况下马尔可夫过程的方差是渐近平稳的 n足够大时 第二节 AR模型 根据白色噪声随机过 程的性质，观察下标 相同项的系数 对于 情况，同理可得： 与n无关，记 是二阶渐近平稳的 练习2.1 n足够大，不考 虑初始状态x(-1) 第二节 AR模型 第二节 AR模型 4、功率谱密度 思考: 0a0) 模型参数由系 统的单位脉冲 响应序列构成 的根 全零点模型 第三节 MA模型 二、自相关函数 与n无关,一 定是广义平 稳随机过程;
10、 不管参数值 怎么取 (当然 要为有限值) 对所有 n-kn-r-i E=0 对于给定的k, 最多只有一 个i,满足 E0 第三节 MA模型 滑动平均过程的自相关函数 练习2.4:对于rq, 则 接近于实际的模型参数 或k大于某个设定的值 MA(q)模型特点 1. 一定是广义平稳随机过程。模型参数即是对应 线性时不变系统的单位脉冲响应。 2. 相关长度等于 。 3. 与模型参数b1,b2,bq之间的关系不具有 线性关系。 4. 运用递推算法可以估计MA模型的参数 第三节 MA模型 3、功率谱密度函数 第三节 MA模型 全零(点)谱 一、 ARMA(p,q)模型 第四节 ARMA模型 零均值白噪
11、声,方差为 显然为因果 系统 第四节 ARMA模型 稳定条件： 二、自相关函数 可稳定预测条件 ： 第四节 ARMA模型 因果系统的特性 与 的定义一致 第四节 ARMA模型 推广的Yule-Walker方程 设ARMA(p,q)系统的 单位脉冲响应序列为 hn|n=0,1,2, 因果特性 k0 第四节 ARMA模型 系统分析:已知ARMA(p,q)系统参数及输入，求相关函数 因果特性 先求系统的单 位脉冲响应 第四节 ARMA模型 依此类推，可以求出所有的 第四节 ARMA模型 令r=0,1,max(p,q); 构造方程组，可以求得 利用递推公式可以求得 需要区分pq以及 pq的情况 并利用
12、rx(-m)=rx(m) 第四节 ARMA模型 举例: p=4,q=2 递推得到 代入通式求系数 第四节 ARMA模型 假设平稳随机过程满足ARMA(p,q)模型，如何 根据 观测数据 xn|n=1,2,N估计模型的参数？ 方法1： 矩估计方法 步骤1： 去均值 步骤2： 估计样本的自协方差函数 只介绍一种，其他 方法(自回归逼近最 大似然)请参见有关 文献 第四节 ARMA模型 根据前面得到的方程 令: r=q+1,q+2,q+p, 得到Yule-Walker方程 求解上述线性方程组,得到a1,a2,ap 第四节 ARMA模型 定义新的离散随机过程 是一个MA(q)过程,容易证明,其样本自协
13、方差函数满足 参照第三节介绍的MA模型的参数估计方法 练习 第四节 ARMA模型 递推算法实现, 任意给定噪声方差的初始估计值 以及MA系数的初始估计值 按j=1,2,3,.进行迭代运算 满足 且 第四节 ARMA模型 在单位圆内及单位圆上无零点,则得到最后的估计 否则改变初始条件重新迭代。 附：也可以采用新息法估计MA部分的参数；公式在 MA模型中已经介绍，只要以 替代 则可。 模型的定阶问题：AIC准则，选择AIC(p,q)值最小的p,q 第四节 ARMA模型 附录(自学)：基于ARMA模型的单步预测，假设模型参数 已知(相关函数可以根据模型参数计算) ；初始条件 x0=x-1=x-2=0
14、;按顺序进行单步预测的过程为 第1步：由x1 预测 x2 在已获x1未获得x2时 第2步：由x1 ,x2预测 x3 在已获x2未获得x3时 获得上一步的预测误差 为下次预测做准备 此处rX(m)为根据模 型参数计算得到的 相关函数 第四节 ARMA模型 以此类推 第n步：由x1 ,x2,xn预测 xn+1 在已获xn未获得xn+1时 第四节 ARMA模型 当n足够大时，n,q+1, n,q+2, n,n趋近于0，于是可以简 化运算 第四节 ARMA模型 当n足够大时，由于n,q+1, n,q+2, n,n趋近于0 ，可以简 化运算 第四节 ARMA模型 三、功率谱密度函数 第四节 ARMA模型
15、 ARMA(p,q)模型特点 1. 广义平稳条件：H(z)稳定 2. 自相关函数与模型参数之间的关系不具有线性 关系 3.自相关函数满足推广的Yuler-Walker方程 4. ARMA模型的参数估计 第五节 平稳随机过程的一般线性表示 一、一般线性表示 G(z)因果稳定，则x(n)平稳 G(z) 对于任何因果线性系统 无穷阶的 MA系统 练习 二、一般线性表示的存在性 对于实平稳随机过程 实、非负 已知 ，能否找到一个因果稳定的线性系统 G(z) ，使得白噪声通过该系统后，输出随机过程具有功率 谱 ？ 若平稳过程 的功率谱密度函数 满足条件 则必存在函数 (gn为实的) ，满足 FejerRiess 定理 第五节 平稳随机过程的一般线性表示 且G(z)是最小相位的(因果，且所有零、极点均在单 位圆内，必然是平稳的) 显然(充分性)，如果 则 的零、极点必然 围绕单位圆成对出现 选择 中单位圆内的零极点因子构成 ，让白色 噪声通过该系统，则输出过程xn的功率谱必然满足 正则分解 第五节 平稳随机过程的一般线性表示 必要性，如果rx(k)为实随机过程x(n)的相关函数，Px() 为实随机过程x(n)的功率谱，则有 则 的零、极点必然
