第4章离散随机信号的特征描述及其估计

《第4章离散随机信号的特征描述及其估计》由会员分享，可在线阅读，更多相关《第4章离散随机信号的特征描述及其估计（35页珍藏版）》请在金锄头文库上搜索。

1、 4.1 引言引言 随机信号是一种非确定性的信号，如热噪声信号发生器随机信号是一种非确定性的信号，如热噪声信号发生器输出的电信号，飞行器起飞时的结构振动，以及起伏海面的输出的电信号，飞行器起飞时的结构振动，以及起伏海面的波动高度等。它们的共同特点是无法预测其未来瞬间的精确波动高度等。它们的共同特点是无法预测其未来瞬间的精确值。处理的目的是便于从中提取有用的信息，削弱信号中的值。处理的目的是便于从中提取有用的信息，削弱信号中的多余信息量，便于估计信号的特征参数，或变换成易于分析多余信息量，便于估计信号的特征参数，或变换成易于分析和识别的形式等。和识别的形式等。 随机信号处理的主要理论基础是信号检

2、测理论、估计理随机信号处理的主要理论基础是信号检测理论、估计理论和随机过程理论。根据理论分析，随机信号的不同样本函论和随机过程理论。根据理论分析，随机信号的不同样本函数在同一时刻的值往往是不确定的，因而只能用样本函数集数在同一时刻的值往往是不确定的，因而只能用样本函数集的统计平均来描述，如用均值、均方值、方差、概率密度函的统计平均来描述，如用均值、均方值、方差、概率密度函数、相关函数和功率谱密度函数来描述随机过程的特性。随数、相关函数和功率谱密度函数来描述随机过程的特性。随机信号处理就是利用信号的这些统计特征或信号本身导出一机信号处理就是利用信号的这些统计特征或信号本身导出一套最佳的估计算法，

3、然后利用软件或者硬件予以实现。下一套最佳的估计算法，然后利用软件或者硬件予以实现。下一章所讲的维纳滤波器和卡尔曼滤波器就是根据最佳原理实现章所讲的维纳滤波器和卡尔曼滤波器就是根据最佳原理实现的。的。 离散随机信号或序列，是指由随机变量按一定顺序排列离散随机信号或序列，是指由随机变量按一定顺序排列而成的时间序列，随机序列中的任何一个时间点上的取值都而成的时间序列，随机序列中的任何一个时间点上的取值都是不能先验确定的随机变量。即离散随机信号可表示为是不能先验确定的随机变量。即离散随机信号可表示为v （4-1）式中式中 为随机变量，它可以是有限维的为随机变量，它可以是有限维的也可以是无限维的。产生这

4、些随机变量的过程称为随机过也可以是无限维的。产生这些随机变量的过程称为随机过程，简记为程，简记为 。 例如抛硬币就是一个随机过程，抛硬币的结果就是一个离例如抛硬币就是一个随机过程，抛硬币的结果就是一个离散随机序列。这个结果有两种状态，一种是正面朝上，散随机序列。这个结果有两种状态，一种是正面朝上，用用 表示，另一种是反面朝上，用表示，另一种是反面朝上，用 表示。表示。连续抛掷，可以得到一个由连续抛掷，可以得到一个由+1和和-1组成的序列如图组成的序列如图4-1所所示。这个序列就是离散随机信号或序列。要注意的是如果重示。这个序列就是离散随机信号或序列。要注意的是如果重新将抛掷硬币的过程进行一次，

5、我们得到序列可能看起来与新将抛掷硬币的过程进行一次，我们得到序列可能看起来与图图4-1所示的序列完全不同，所以我们每次得到的序列是这所示的序列完全不同，所以我们每次得到的序列是这个离散随机信号的一个样本序列。个离散随机信号的一个样本序列。4.2 离散随机信号的特征描述离散随机信号的特征描述4.2.1平稳随机过程和各态历经性平稳随机过程和各态历经性 实际中的很多随机过程是属于平稳随机过程。设实际中的很多随机过程是属于平稳随机过程。设 是一是一个平稳随机过程，则其随机序列在各点上的概率特性不随时个平稳随机过程，则其随机序列在各点上的概率特性不随时间平移而变化，而且是无始无终的。即随机变量间平移而变

6、化，而且是无始无终的。即随机变量 的概率的概率特性对于任何时刻特性对于任何时刻 都是相同的，都是相同的， 对于一个无始无终的平稳随机信号，它的傅立叶变换是对于一个无始无终的平稳随机信号，它的傅立叶变换是不存在的，也就是说它的频谱是不存在的，我们只能求它的不存在的，也就是说它的频谱是不存在的，我们只能求它的功率谱。一个平稳随机信号的功率谱就是这个信号的自相关功率谱。一个平稳随机信号的功率谱就是这个信号的自相关函数的傅立叶变换。因此，我们就可用信号的功率谱来表征函数的傅立叶变换。因此，我们就可用信号的功率谱来表征它的谱特性。在本课程中我们所要讨论的随机序列都为平稳它的谱特性。在本课程中我们所要讨论

7、的随机序列都为平稳随机序列。随机序列。4.2.2 各态历经性各态历经性 随机过程的各个样本序列在某一时刻的各种平均特性，随机过程的各个样本序列在某一时刻的各种平均特性，称为集合平均。当样本数趋于无穷时，集合平均就趋于统计称为集合平均。当样本数趋于无穷时，集合平均就趋于统计平均；随即过程的某个样本序列在不同时刻的各种平均特平均；随即过程的某个样本序列在不同时刻的各种平均特性，称为时间平均。性，称为时间平均。已知已知 时刻随机变量时刻随机变量 的的 个取值的集合平均为个取值的集合平均为v （4-2）已知随机信号的一个样本序列已知随机信号的一个样本序列 ，则其时间平均为，则其时间平均为v （4-3）

8、如果一个随机信号的时间平均等于过程的集合平均，则称随如果一个随机信号的时间平均等于过程的集合平均，则称随机过程是各态历经的或各态遍历的。具体地说，如果有机过程是各态历经的或各态遍历的。具体地说，如果有 则称则称 为均值各态历经随机过程。为均值各态历经随机过程。 可见，对各态历经随机过程，可以用一个样本可见，对各态历经随机过程，可以用一个样本序列的时间平均计算随机过程的集合平均。实际序列的时间平均计算随机过程的集合平均。实际上，对一个样本过程进行长时间统计比对许多样本上，对一个样本过程进行长时间统计比对许多样本进行统计要容易实现。实际处理信号时，对已获得进行统计要容易实现。实际处理信号时，对已获

9、得的一个物理信号，先假设它是平稳的，再假设它是的一个物理信号，先假设它是平稳的，再假设它是各态历经的。对信号按此假设处理后，再用处理结各态历经的。对信号按此假设处理后，再用处理结果来检验假设的正确性。各态历经的随机过程一定果来检验假设的正确性。各态历经的随机过程一定是平稳随机过程，实际中常用的高斯白噪声，就是是平稳随机过程，实际中常用的高斯白噪声，就是平稳各态历经的。平稳各态历经的。 4.2.3 离散随机信号的数字特征离散随机信号的数字特征 一个离散随机序列在任何时间点上的取值（随机变量）一个离散随机序列在任何时间点上的取值（随机变量）是不能先验确定的，但它一定具有一定的统计规律，可用其是不能

10、先验确定的，但它一定具有一定的统计规律，可用其统计平均特性来描述。例如抛硬币的所得到的离散序列，每统计平均特性来描述。例如抛硬币的所得到的离散序列，每个时间点上的取值虽然不能预知，但我们知道取值出现个时间点上的取值虽然不能预知，但我们知道取值出现+1和和-1的概率都为的概率都为1/2。实际中要得知一个随机变量的概率分布。实际中要得知一个随机变量的概率分布函数是比较困难的，我们往往只要知道概率分布的某些数字函数是比较困难的，我们往往只要知道概率分布的某些数字特征就足够了。这些数字特征就是随机过程的矩，包括各阶特征就足够了。这些数字特征就是随机过程的矩，包括各阶原点矩和各阶中心矩。对于实随机过程，

11、各阶原点矩是指原原点矩和各阶中心矩。对于实随机过程，各阶原点矩是指原点差值各次方的均值，各阶中心矩是指与均值差值各次方的点差值各次方的均值，各阶中心矩是指与均值差值各次方的均值。均值。 平稳随机过程的主要数字特征包括以下几个：平稳随机过程的主要数字特征包括以下几个：1.均值（数学期望）均值（数学期望）v随机变量随机变量 的均值可用的均值可用 表示表示v均值就是一阶原点矩，它是全部样本在同一时刻取值的均值就是一阶原点矩，它是全部样本在同一时刻取值的集合平均。集合平均。2.均方值均方值v随机变量随机变量 的均方值的均方值 为为 取值平方后的集合平取值平方后的集合平均，是二阶原点矩。均，是二阶原点矩

12、。3.方差方差v随机变量随机变量 的方差定义为的方差定义为v （4-4）v方差是二价中心矩，反映了与均值的偏离程度。方差可方差是二价中心矩，反映了与均值的偏离程度。方差可以用均值和均方值表示，根据上式有以用均值和均方值表示，根据上式有v即即v （4-5）4.自相关函数自相关函数v设两个时间点设两个时间点 和和 上的随即变量分别为上的随即变量分别为 和和 ，自，自相关函数用相关函数用 表示表示v （4-6）v这里这里 是时间间隔，上式也可表示为是时间间隔，上式也可表示为v （4-7）v自相关函数是二价联合原点矩，它反映了同一随机信号自相关函数是二价联合原点矩，它反映了同一随机信号在不同时刻取值的

13、关联程度。在不同时刻取值的关联程度。5.自协方差函数自协方差函数v自协方差函数自协方差函数 用表示用表示v （4-8）v自协方差函数是二价联合中心矩。自相关函数和自协方自协方差函数是二价联合中心矩。自相关函数和自协方差函数只相差一个常数差函数只相差一个常数 ，它们之间没有本质的差别，它们之间没有本质的差别，即即v 6.互相关函数和互协方差函数互相关函数和互协方差函数v 和和 是两个同时发生的随机过程，则它们之间的互是两个同时发生的随机过程，则它们之间的互相关函数和互协方差函数分别用相关函数和互协方差函数分别用 和和 表示表示 v （4-10） v （4-11）v它们反映了两个随机信号在不同时刻

14、取值的关联程度。它们反映了两个随机信号在不同时刻取值的关联程度。v 如果如果 ，则称，则称 和和 为正交过程；如果为正交过程；如果 v，则称，则称 和和 互不相关。互不相关。v 在以上这些数字特征里，自相关函数和自协方差函数在以上这些数字特征里，自相关函数和自协方差函数是表征一个随机过程的最重要的统计特性。是表征一个随机过程的最重要的统计特性。4.2.4 自相关序列和自协方差序列的性质自相关序列和自协方差序列的性质v 设设 和和 是两个实的平稳随机序列，则自相关序列是两个实的平稳随机序列，则自相关序列和自协方差序列具有以下性质：和自协方差序列具有以下性质：v性质性质1v （4-12）v当当 时

15、时v （4-13）v性质性质2v （4-14）v （4-15）v 性质性质3v （4-16） v性质性质4v （4-17）v性质性质5 v （4-18）v证明：证明： v即即v 又因又因 为平稳随机序列，故有为平稳随机序列，故有v同理可证明同理可证明v 性质性质6v （4-19）v当当 越大时，相关性越小，当越大时，相关性越小，当 趋于无穷大时，可认趋于无穷大时，可认为不相关。也就是说为不相关。也就是说v以上性质说明自相关函数以上性质说明自相关函数 是随机过程是随机过程 最重要最重要的统计表征，它蕴含了的统计表征，它蕴含了 、 、 等主要物理量。等主要物理量。v 4.2.5 平稳随机序列的功率

16、谱密度平稳随机序列的功率谱密度v 我们知道，平稳随机序列是非周期函数，且是能量无我们知道，平稳随机序列是非周期函数，且是能量无限的，因此它的傅立叶变换是不存在的，但其功率谱是限的，因此它的傅立叶变换是不存在的，但其功率谱是存在的。如果平稳随机序列的均值为零，则它的功率谱存在的。如果平稳随机序列的均值为零，则它的功率谱密度和自相关函数是一对傅立叶变换对。即密度和自相关函数是一对傅立叶变换对。即v v （4-20）v对于实平稳随机序列功率谱，有以下性质：对于实平稳随机序列功率谱，有以下性质：v（1）功率谱是）功率谱是 的偶函数，即的偶函数，即v（2）功率谱是实的非负函数，即）功率谱是实的非负函数，

17、即v 4.3 线性系统对平稳随机信号的响应线性系统对平稳随机信号的响应v设一个线性非时变系统设一个线性非时变系统 ，它的单位样本响应为，它的单位样本响应为 。如输入一个平稳随机序列如输入一个平稳随机序列 ，可以证明所得到的响应，可以证明所得到的响应 v 也将是一个平稳随机序列，有也将是一个平稳随机序列，有v （4-21）v如果已知随机信号如果已知随机信号 的特征量的特征量 、 、 和和 等，等，我们来求响应我们来求响应 的这些特征量。的这些特征量。v 的均值的均值 按定义为按定义为v即即 （4-22）v 的自相关函数为的自相关函数为v v因为因为 是平稳的，所以是平稳的，所以v所以所以v v令

18、令 ，代入上式，代入上式v v （4-23）v式中式中v （4-24）v 的功率谱为的功率谱为v （4-25）v当输入当输入 为白噪声时，为白噪声时， ，有，有v （4-26）v4.4 均值、方差、自相关函数的估计均值、方差、自相关函数的估计v 随机信号与确定性信号不同，它不能用数学表达式或随机信号与确定性信号不同，它不能用数学表达式或图表来表示，只能用它的某些数字特征来表征。如图表来表示，只能用它的某些数字特征来表征。如 、 v 和和 等，由于随机信号是无始无终的，所以这些数等，由于随机信号是无始无终的，所以这些数字特征是不能精确求出的，我们只能通过估计的方法来字特征是不能精确求出的，我们只

19、能通过估计的方法来得到。得到。v估计的方法很多，所以我们必须有一个标准来确定一个估计的方法很多，所以我们必须有一个标准来确定一个估计是估计是“好好”的估计。我们用的估计。我们用 表示平稳随机序列的某表示平稳随机序列的某个数字特征值，可以是均值、方差、自相关函数、功率个数字特征值，可以是均值、方差、自相关函数、功率谱等。实际上即使用相同的方法进行估计，由于每次所谱等。实际上即使用相同的方法进行估计，由于每次所用样本不同，得到的估计也是不同的。所以用样本不同，得到的估计也是不同的。所以 得估值也得估值也是随机变量，可以取很多值，用是随机变量，可以取很多值，用 表示估值的均值。表示估值的均值。v设设

20、 为样本数，如果当为样本数，如果当 时，时， 满足以下两个条件满足以下两个条件v （4-27）v （4-28）v这里，这里， 称为称为 的偏差，为零表示的偏差，为零表示 是是 的一个无的一个无偏估计；偏估计； 称为估计方差。满足以上两式的估计称为一称为估计方差。满足以上两式的估计称为一致估计，一个好正确的估计必须满足一致估计的条件。致估计，一个好正确的估计必须满足一致估计的条件。v实际上实际上v （4-29）v下面用随机序列下面用随机序列 的的N个样本数据个样本数据 、 、 来估计来估计 的均值、方差和自相关函数。的均值、方差和自相关函数。v4.4.1均值的估计均值的估计v将将 的的N个样本数

21、据的算术平均作为均值得估计个样本数据的算术平均作为均值得估计 ，即，即v （4-30）v由上式可得由上式可得v （4-31）v即偏差为即偏差为 v （4-32）v故这种估计为无偏估计。故这种估计为无偏估计。v现在求现在求 ，按定义有，按定义有v （4-33）v对对 有有v （4-34）v v为便于分析，假定为便于分析，假定 与与 是互不相关的，则是互不相关的，则v v于是式（于是式（4-34）成为）成为v上式代入（上式代入（4-33），有），有v可见，当可见，当 时，时， 。v综合上面对偏差和方差的分析，可以得出结论：由（综合上面对偏差和方差的分析，可以得出结论：由（4-30）所得的对）所得的

22、对 的估计的估计 是无偏的一致估计。是无偏的一致估计。v均值的估计在实际中应用很广，往往通过减去均值使随均值的估计在实际中应用很广，往往通过减去均值使随机信号的均值不为零的情况变为均值为零的情况。机信号的均值不为零的情况变为均值为零的情况。v4.4.2 方差的估计方差的估计v对于有对于有N个样本数据的随机序列，其方差可由下式来估个样本数据的随机序列，其方差可由下式来估计计v （4-35）v此估计的数学期望为此估计的数学期望为v （4-36）v即，当即，当 时时v 所以，式（所以，式（4-35）对方差的估计是无偏估计。）对方差的估计是无偏估计。v下面来讨论这种估计的方差，根据定义有下面来讨论这种

23、估计的方差，根据定义有v （4-37）v将（将（4-36）代入上式，得）代入上式，得v可以证明，当可以证明，当 时，估计的方差趋于零。所以，式时，估计的方差趋于零。所以，式（4-35）对方差的估计是无偏的一致估计。）对方差的估计是无偏的一致估计。v实际中，也可以用下式来估计方差实际中，也可以用下式来估计方差v可以证明，用此式对方差进行估计得到的也是满足一致可以证明，用此式对方差进行估计得到的也是满足一致估计的条件。估计的条件。 v4.4.3 自相关函数的估计自相关函数的估计v由于我们只能观察到由于我们只能观察到 的的N个样本数据，而个样本数据，而 与与 的数据是不知道的，因此，可用下式对自相关

24、的数据是不知道的，因此，可用下式对自相关函数函数 进行估计进行估计v （4-38）v对于实序列，其自相关函数偶对称，即对于实序列，其自相关函数偶对称，即v于是，可将式（于是，可将式（4-38）表示为）表示为v （4-39）v此估计的均值为此估计的均值为v （4-40）v可见，这种估计属于无偏估计。可见，这种估计属于无偏估计。v很多学者都主张用下式来估计自相关函数很多学者都主张用下式来估计自相关函数 v （4-41） v此估计的均值为此估计的均值为v （4-42）v偏差为偏差为v可以看出，当可以看出，当 时，偏时，偏 差，所以式（差，所以式（4-41）也是无偏估计。）也是无偏估计。v下面来讨论这

25、两种估计的方差。将式（下面来讨论这两种估计的方差。将式（4-40）写为）写为v v即即v （4-44）v对对 有有v将式（将式（4-40）代入上式）代入上式v （4-45）v对对 有有第章功率谱估计第章功率谱估计v5.1 经典谱估计经典谱估计v5.2 自回归模型法自回归模型法v5.3 最大熵谱估计最大熵谱估计v5.4 AR模型参数的求解模型参数的求解第章维纳滤波器和卡尔曼滤波器第章维纳滤波器和卡尔曼滤波器v6.1 离散维纳滤波器的时域解离散维纳滤波器的时域解v6.2 离散维纳滤波器的域解离散维纳滤波器的域解v6.3 维纳预测器维纳预测器v6.4 卡尔曼（卡尔曼（Kalman）滤波器）滤波器第章

26、自适应滤波器第章自适应滤波器v7.1 LMS自适应滤波器的基本原理自适应滤波器的基本原理v7.2 Widrow-Hoff LMS算法算法v7.3 自适应滤波器的应用自适应滤波器的应用第章小波变换第章小波变换v8.1 连续小波变换的基本概念和性质连续小波变换的基本概念和性质v8.2 常用的小波变换常用的小波变换v8.3 尺度因子离散化的小波变换及小波标架尺度因子离散化的小波变换及小波标架v8.4 离散小波变换的多分辨分析离散小波变换的多分辨分析v8.5 Mallat算法及实现算法及实现v8.6 小波变换总结小波变换总结精品课件精品课件！精品课件精品课件！第章信号测试技术第章信号测试技术v9.1 测试技术概论测试技术概论v9.2 测量方法测量方法v9.3 信号的分类和可测性信号的分类和可测性v9.4 测试信号的转换与调理测试信号的转换与调理v9.5 现代测试系统现代测试系统