随机过程Ch基本概念与基本类型

《随机过程Ch基本概念与基本类型》由会员分享，可在线阅读，更多相关《随机过程Ch基本概念与基本类型（83页珍藏版）》请在金锄头文库上搜索。

1、随机过程周丽娟13977292092第二章第二章 随机过程的概念与基本类型随机过程的概念与基本类型n随机过程的基本概念n随机过程分布率和数字特征n复随机过程n几种重要的随机过程22.1 随机过程的基本概念及定义自然界变化的过程可以分为确定性过程和随机过程两大类每次观测所得结果都相同，都是时间t的一个确定的函数，具有确定的变化规律。每次观测所得结果都不同，都是时间t的不同函数，观测前又不能预知观测结果，没有确定的变化规律。确定过程随机过程自然界变化过程3 确定性过程（确定信号）：确定性过程（确定信号）： 1 1）每次试验得到的观测过程都相同）每次试验得到的观测过程都相同 2 2）具有确定形式的变

2、化过程，）具有确定形式的变化过程， 或可用一个时间或可用一个时间t t的确定函数表示的确定函数表示随机过程（随机信号和噪声）：随机过程（随机信号和噪声）：1 1）每次试验得到的观测过程都不同）每次试验得到的观测过程都不同2 2）没有确定的变化形式）没有确定的变化形式 或或用用数数学学语语言言说说不不能能用用一一个个时时间间t t的确定函数表示的确定函数表示正弦信号正弦信号示波器的噪声电压示波器的噪声电压研究方法：统计的方法，“估计”的方法。4正弦信号正弦信号调制信号调制信号周期性脉冲信号周期性脉冲信号雷达接收机的噪声雷达接收机的噪声鸟叫声鸟叫声爆破信号爆破信号实际过程实际过程5随机信号： 人体

3、生理信号（ECG, EEG, PCG, ); 语音信号； 噪声信号； 各种经济指标（作物产量，GDP, 股票指数，价格指数，）； 各种自然现象:（河水流量，平均温度，单位面积承受到的风载，太阳黑子数，）等等6 随机过程随机过程被认为是概率论的“动力学”部分（J.Neyman，1960），意思是说它的研究对象是随时间演变的随机现象。7下面通过具体的过程实例来导出随机过程一般的数学定义。例一、设有一电子直流放大器其中U(t)为输入信号，K为放大器，也表示对输入 信号U(t)的放大倍数，X(t)为放后的输出信号。显然对于该放大器，当U(t)=0，也就是没有输入信号时，X(t)应为零，但是由于放大器内

4、部元件以及外部电磁波等各种干挠的影响，使得当U(t)= 0时，输出X(t)0，由此造成所谓的输出零点漂移。 8 进一步分析发现这个输出零点漂移在相同条件，比如每天的某一时刻进行观测，如果我们观测是了n天，就可得n条输出零点漂移曲线， 把这些曲作出，如图1.2所示。 图1.2 电子直流放大器的零点漂移9 可以发现这些曲线形态不一样，即每条曲线各不相同，不能用统一的确定函数表示，但它们都是时间t的函数即零点漂移构成一个随机过程记为X(t)，也可以说这些曲线的全体（时间函数的全体）集合就构成了一个零点漂移随机过程，即X(t)=x1(t),xn(t)，其中每一曲线xi(t)又可称为随机过程的样本曲线函

5、数（时间函数），i=1,2,n。显然，由图1.2所所示的在一次实验结果中，随机过程必取一个样本函数，但究竟取哪一个函数则在试验前不能确定，但是在大量的重复实验中，可知道随机过程呈现出统计规律性。因此直观地讲，随机过程既是时间t的函数，也是试验可能结果e的函数，记为X(t,e)。10n进一步分析可以看出对于随机过程X(t)=x1(t)。n当我们取定t=ti时刻时有n由图1.2可以看出，取值各不相同，没有必然的规律。若把x1(ti),xn(ti)看成是随机过程X(t)在时刻ti的各种可能取值，很显然X(ti)是一个随机变量。11 例二、在地震勘探工作中，我们通过检波器把混有随机干扰的随时间变动的地

6、层结构信号记录下来，如图1.3所示。图1.3 在在O O点放炮，在点放炮，在A A点放点放置记录仪，把接收到的混置记录仪，把接收到的混有干扰的地震信号波记录有干扰的地震信号波记录下来，我们在相同条件下下来，我们在相同条件下做了做了n n次记录，则可得次记录，则可得n n个个彼此有差异的地震波形彼此有差异的地震波形（曲线）。如在时间（曲线）。如在时间t0t0观观察它们的信号波的值察它们的信号波的值X X(t0)(t0)是一个随机变量，也就是是一个随机变量，也就是说，混有随机干扰的地层说，混有随机干扰的地层结构信号波构成一个依赖结构信号波构成一个依赖于时间于时间t t的随机过程。的随机过程。12一

7、、随机过程的定义一、随机过程的定义13141.通常我们可以根据随机变量X(t)在时间和状态上的类型区分随机过程的类型。二、随机过程的分类二、随机过程的分类连续随机过程连续随机过程连续随机序列连续随机序列离散随机序列离散随机序列参数集参数集 T状态空间状态空间 I可列集可列集区间区间离散随机过程离散随机过程连续连续型型离散离散型型随机过程两要素：参数空间，状态空间随机过程两要素：参数空间，状态空间15在时间和状态上都连续连续型随机过程如正弦波随机过程如正弦波随机过程：书上例2.416在时间上连续，状态上离散离散型随机过程如电报信号过程。书上例如电报信号过程。书上例 2.22.217在时间上离散，

8、状态上连续连续型随机序列书上 例2.318在时间上离散，状态上离散离散型随机序列书上 例2.1192021222324 按按X Xt t 的概率特性分类的概率特性分类 （1）正交增量过程；（2）独立增量过程； （3）马尔可夫过程；（4）平稳随机过程252.2 2.2 随机过程的分布律和数字特征随机过程的分布律和数字特征一、随机过程的分布函数n我们知道概率论的研究对象是随机变量的变化规律，由此我们需要建立随机变量的数学模型或称函数关系，这里函数关系在概率论中叫分布函数（或称概率密度函数）。类似的，随机过程也是要研究X(t)的变化规律，进而建立随机过程的数学模型或函数关系，下面我们来分析如何建立所

9、谓随机过程的函数关系。n对于一个随机过程X(t)，严格地说我们不能在图上用一条曲线简单地表示一个过程，因为按随机过程的定义，该随机过程可表为：26n为了研究随机过程的变化规律，我们暂且假定随机过程可以在图上用一条曲线来表示，如图。n当然这条曲线不能作为具体的样本函数，而应把它看作全部可能样本函数的集合。27n现在我们动用记录器来记录X(t)的变化过程，由于记录器不可能连续地记下过程，而只能记下过程X(t)在确定时刻下的状态。n前面已讲过，在确定的时刻t上，随机过程变成为通常的随机变量，于是记录器在时刻t，就记录下相应的结果。显然，当记录器的速度相当快时，即时间间隔很小（或n很大）时，我们可用这

10、n个随机变量的变化来描述随机过程的变化规律。n这样，在一定的近似程度下，我们可以通过研究多维随机变量的变化规律，即分布函数关系来代替研究随机过程的变化规律，由此进而建立起近似随机过程的数学模型。 28n定义一维分布函数：对于随机过程X(t)，当取定 时， 为随机变量，该随机变量X(t1)的分布函数记为则称 为随机过程X(t)的一维分布函数。n同随机变量一样，若 对x1的偏导数存在，则有这里称 为随机过程的一维概率密度。29例1.1 求随机过程 的一维概率密度函数，式中 是常数，x是一个服从标准正态分布的随机变量。n解: 对于任意取定时间 是一个随机变量，由随机过程的一维分布函数及一维概率密度函

11、数定义知 又 30注意注意: 的二元函数， 又可称为是 时刻的状态 31n结合概率论知识，显然随机过程X(t)的一维分布函数、一维概率密度具有普遍随机变量分布函数和概率密度函数的各种性质。惟一的差别是随机过程的一维分布函数和一维密度都是时间t的函数，即是一个动态的分布函数和概率密度。n由上面的分布知随机过程的一维分布函数仅仅描述了随机过程X(t)在t=(t1)时刻所对应的一个状态X(t1)的变化规律。显然此时由随机过程的一维分布函数来近似描述X(t)的变化规律，其数学模型误差太大。n为了比较全面地描述随机过程X(t)的变化规律，我们引入随机过程的二维分布函数。32定义随机过程的二维分布函数：定

12、义随机过程的二维分布函数：n对于随机过程X(t)在任意两个时刻 两个随机变量（两个状态），我们把这两个随机变量的二维分布函数记为：称 为随机过程X(t)的二维分布函数。若 对 的二阶偏异数存在，则有称之为随机过程X(t)的二维概率密度。33 随机过程的二维分布函数比一维分布函数包含了随机过程变化规律更多的信息，但它仍不能完整地反映出随机过程的全部特性及变化规律。用同样的方法，我们可以引入随机过程X(t)的n维分布函数和n维概率密度。34对于一个随机过程X(t),在任意n个时刻 个随机变量（n个状态），我们把这n个随机变量的n维分布函数记为：显然，当n取得愈大，随机过程X(t)的n维分布函数就愈

13、能描述随机过程的变化规律及其统计特性。35当 取遍参数集T时，便得一族n维分布函数，这些分布函数的全体：称为随机过程X(t)的有限维分布函数族。36有限维分布函数的性质有限维分布函数的性质对称性相容性37有限维分布函数族对称性相容性柯尔莫哥洛夫（Kolmogorov)存在定理 设已给参数集T及满足对称性和相容性条件的分布函数族F，则必存在概率空间（,F,P）及定义在其上的随机过程X(t),tT，它的有限维分布函数族是F。38有限维特征函数族：39n随机过程的分布函数在实际上是很难获取的，甚至是不可能的。n随机过程（信号）的特征（或参数）在实际工作中运用得十分广泛。40设X(t),tT是随机过程

14、，如果对任意tT， EX(t)存在，则称函数为X(t)的均值函数，反映随机过程在时刻t的平均值。1.1.均值函数均值函数二、随机过程的数字特征 随机过程的数字特征的定义和计算与随机变量的数字特征类似，只是含有参数t，在求数字特征时，把参数t当作常数看待。41 422.协方差函数3.方差函数： 若对任意tT， E（X(t)）2存在，则称 是二阶矩过程，而称 是t的确定函数，它描述了随机过程的诸样本函数对数学期望 的偏离程度见图示。43是非负函数，它的平方根称是非负函数，它的平方根称为随机过程的均方差函数为随机过程的均方差函数。即：即：44均值和方差刻划了随机过程在各个时刻均值和方差刻划了随机过程

15、在各个时刻的统计特性，但不能的统计特性，但不能描描述述过程在不同时刻的相过程在不同时刻的相关关系，这点可从下图所示的两个随机过程关关系，这点可从下图所示的两个随机过程和和来说明来说明，从直观上看，它们具有大从直观上看，它们具有大致相同的均值和方差，但两者的内部结构却有致相同的均值和方差，但两者的内部结构却有非常明显的差别非常明显的差别 4. （自）相关函数45具有相同均值函数和方差函数的两个不同的随机过程均值、方差只能描述随机过程孤立的时间点上的统计特性。随机过程孤立的时间点上的统计特性不能反映随机过程的起伏程度46（2） 而而 的样本函数变化激烈，波动性大，的样本函数变化激烈，波动性大，其不

16、同时刻的状态之间的联系不明显，且时刻间其不同时刻的状态之间的联系不明显，且时刻间隔越大，联系越弱隔越大，联系越弱. .（1） 其中其中 随时间变化缓慢随时间变化缓慢，这个过程在两这个过程在两个不同时刻的个不同时刻的状态之间有较强的相关性状态之间有较强的相关性; ; 因此，必须引入描述随机过程在不同时因此，必须引入描述随机过程在不同时刻之间相关程度的数字特征刻之间相关程度的数字特征。自相自相关函数（简称相关函数）关函数（简称相关函数）就是就是用来描述随机过程两个不同时刻状态之间内用来描述随机过程两个不同时刻状态之间内在联系在联系（起伏程度）的重要数字特征（起伏程度）的重要数字特征。47图 随机过

17、程的起伏程度48图 随机过程的起伏程度采用两时刻或更多时刻状态的相关性去描述随机过程的起伏程度。49称为随机过程称为随机过程X(t)X(t)的自相关函数，简称相关函数的自相关函数，简称相关函数，我们把随机过程我们把随机过程 在任意两个在任意两个不同时刻不同时刻 的随机变量的随机变量 与与 的混的混合原点矩（若存在合原点矩（若存在） 记作记作 自相关函数反映了随机过程在两个不同时刻自相关函数反映了随机过程在两个不同时刻的状态之间的相关程度。的状态之间的相关程度。50(1)(1)(2)(2)随机过程数字特征之间的关系：随机过程数字特征之间的关系：从这些关系式看出，均值函数从这些关系式看出，均值函数

18、和相关函数和相关函数 是最基本的两个数字特征，是最基本的两个数字特征，其它数字特字特征，协方差函数其它数字特字特征，协方差函数 方差方差函数函数都可以由它们确定都可以由它们确定。515.5.互相关函数互相关函数两个随机过程之间的关系两个随机过程之间的关系互协方差函数互相关函数5253例例例例 设设X X( (t t)=)=Y Ycos(cos( t t)+)+Z Zsin(sin( t t) ), , t t00，Y Y, , Z Z相相互独立，互独立，EYEY= =EZEZ=0=0，DYDY= =DZDZ= = 2 2。求求 X X( (t t), ), t t00的的均值函数和协方差函数。

19、均值函数和协方差函数。 解 :54 55例例例例 设随机过程设随机过程X(tX(t)=)=Y+ZtY+Zt, , t0t0，其中其中Y, Z Y, Z 是相互独立的是相互独立的 N(0, 1)N(0, 1)随机变量，求随机变量，求 X(t), t0X(t), t0的一维概率密度。的一维概率密度。解解 因因Y, ZY, Z为相互独立的正态随机变量，则其线性组合为相互独立的正态随机变量，则其线性组合X(t)X(t)也也是正态随机变量，要计算是正态随机变量，要计算 X(t),tX(t),t 的一维概率密度，只需要的一维概率密度，只需要计算数字特征：均值、方差、协方差即可。计算数字特征：均值、方差、协

20、方差即可。56 随机过程随机过程 X X( (t t), ), t t 00的一维概率密度的一维概率密度57例例例例 设有两个随机过程设有两个随机过程X(tX(t)=g)=g1 1(t+(t+ ) )和和Y(tY(t)=g)=g2 2(t+(t+ ) )，其中其中g g1 1(t)(t)、g g2 2(t)(t)是周期为是周期为L L的函数，的函数， 是是U(0,L)U(0,L)， 求互相关函数求互相关函数R RXYXY(t,t(t,t+ + ) )。 解解58 59例例 设X(t)为信号过程，Y(t)为噪声过程，W(t)=X(t)+Y(t)，求W(t)的均值函数和相关函数。解60612.3

21、2.3 复随机过程复随机过程一、定义一、定义：设：设 X Xt t，t t T T ， Y Yt t，t t T T 是取实数是取实数值的两个随机过程，对任意的值的两个随机过程，对任意的t t T T ，Z Zt t = = X Xt t + + iYiYt t ，则称，则称 Z Zt t，t t T T 是是复随机过程复随机过程。二、复随机过程的数值特征函数二、复随机过程的数值特征函数n均值函数均值函数n方差函数方差函数62n相关函数相关函数n协方差函数协方差函数 显然有关系式显然有关系式63设设 X Xt t，t t T T ， Y Yt t，t t T T 是两个复随机过是两个复随机过程

22、，定义程，定义n互相关函数互相关函数n互协方差函数互协方差函数 显然有关系式显然有关系式64n复随机过程的复随机过程的协方差函数协方差函数具有具有性质性质(1)(1)共轭对称性共轭对称性 (2)(2)非负定性非负定性65例例 设复随机过程X1, X2, , Xn独立，w1, w2, , wn为参数，求Zt, t0的均值函数m(t)和相关函数R(s, t) 解66 67二阶矩过程二阶矩过程正交增量过程正交增量过程独立增量过程独立增量过程马尔可夫过程马尔可夫过程正态过程正态过程维纳过程维纳过程平稳过程平稳过程2.4 随机过程的几种基本类型随机过程的几种基本类型68二阶矩过程二阶矩过程定义：设已给定

23、随机过程 ，如果对于一切 均有 ，则称 为二阶矩过程。1、二阶矩过程必存在均值2、由Schwartz不等式 知其相关函数和协方差都存在。性质：69例题：设X(t),tT是正交增量过程，T=a,b为有限区间，且规定X(a)=0，当astb时，求其协方差函数。正交增量过程正交增量过程2、特点：不相重叠的区间上状态的增量互不相关。不相关不相关 t1 t2 t3 t4t1 t2 t3 t4 a s t b a s t b不相关不相关 t1 t2 t3 t4t1 t2 t3 t4 a s t b a s t b7071独立增量过程独立增量过程2、特点：独立增量过程在任一个时间间隔上过、特点：独立增量过程

24、在任一个时间间隔上过程状态的改变，不影响任一个与它不相重叠的程状态的改变，不影响任一个与它不相重叠的时间间隔上状态的改变。时间间隔上状态的改变。72正交增量过程独立增量过程定义依据：不相重叠的时间区间上增量的统计相依性互不相关相互独立正交增量过程独立增量过程正交增量过程独立增量过程二阶矩存在，均值函数恒为零3、独立增量过程与正交增量过程的关系73平稳独立增量平稳独立增量例题：考虑一种设备一直使用到损坏为止，然后换上同类型的设备。假设设备的使用寿命是随机变量，令N(t)为在时间段0,t内更换设备的件数，通常可以认为N(t)，t0是平稳独立增量过程。74马尔可夫过程马尔可夫过程2、马尔可夫性系统在

25、已知现在所处状态的条件下，它将来所处的状态与过去所处的状态无关。75定义：设X(t),tT是随机过程，若对任意正整数n及t1,t2, ,tnT，(X(t1),X(t2), ,X(tn)是n维正态随机变量，则称X(t),tT是正态过程或高斯过程。特点：1.在通信中应用广泛；2.正态过程只要知道其均值函数和协方差函数，即可确定其有限维分布。正态过程正态过程76(正态过程的一种特殊情况)1、物理背景 1827年英国植物学家罗伯特.布朗发现的现象：沉浸在液体或气体中质点不停地作不规则运动,只有在显微镜上才看得清的质点运动,称为布朗运动。维纳过程维纳过程77783.统计特征7980定义：设X(t),tT

26、是随机过程，如果对任意常数和正整数n， t1,t2, ,tnT，t1+,t2+, ,tn+ T，(X(t1),X(t2), ,X(tn)与(X(t1+),X(t2+), ,X(tn+)有相同的联合分布，则称X(t),tT为严平稳过程或侠义平稳过程。定义：设X(t),tT是随机过程，如果1.X(t),tT是二阶矩过程；2.对任意tT，mX(t)=EX(t)=常数；3.对任意s,t T，RX(s,t)=EX(s)X(t)=RX(t-s)则称X(t),tT为广义平稳过程，简称为平稳过程。平稳过程平稳过程81广义平稳过程严平稳过程广义平稳过程严平稳过程二阶矩存在对于正态过程，广义平稳过程和严平稳过程是等价的。82作业：2.4, 2.6, 2.10, 2.11, 2.16 第二章结束第二章结束