《随机过程的基本概念》由会员分享，可在线阅读，更多相关《随机过程的基本概念（200页珍藏版）》请在金锄头文库上搜索。
1、,第二章 随机过程的基本概念,第一节 随机过程的定义及其分类,第二节 随机过程的分布及其数字特征,第三节 复随机过程,第四节 几种重要的随机过程简介,第一节 随机过程的定义及其分类,一、直观背景及例,电话站在时刻t时以前接到的呼叫次数,例1,一般情况下它是一个随机变数X ，并且依赖时间t，即随机变数X（t），t0，24。,例2,研究某一商品的销售量,一般情况下它是一个随机变数X ，并且依赖时间t，即随机变数X（t），t=1，2，,首页,例3,国民收入问题,表示依赖于一个变动参量的一族随机变量。它虽然不能用一个确定的函数来描述，但也是有规律的。,随着各种随机因素的影响而随机变化，一般地有 其中C
2、（t）、I（t）分别表示t年的消费和积累,随机过程,首页,二、随机过程的定义,1随机 过程,设E是随机试验， 是它的的样本空间，T是一个参数集，若对于每一个 都有随机变量 ，与之对应，则称依赖于t的随机变量 为随机过程，或称为随机函数，,通常记作,说明1,参数集T在实际问题中，常常指的是时间参数，但有时也用其它物理量作为参数集。,首页,说明2,因为,是一个随机变量，,首页,2贝努利过程,设每隔单位时间掷一次硬币，观察它出现的结果。如果出现正面，记其结果为1；如果出现反面，记其结果为0。一直抛掷下去，便可得到一无穷序列,因为每次抛掷的结果是一个随机变量（1或0），所以无穷次抛掷的结果是一随机变量
3、的无穷序列，称为随机序列，也可称为随机过程。每次抛掷的结果与先后各次抛掷的结果是相互独立的，并且出现1或0的概率与抛掷的时间n无关。,首页,设,称具有这种特性的随机过程为贝努利型随机过程。,注,如果固定观测时刻t，则它的试验结果是属于两个样本点（0，1）所组成的样本空间,则样本空间出现的值为（0,0）,（0,1）,（1,0）,（1,1）,首页,三、随机过程的分类,1、按参数集和状态分类,参数集T的是一个可列集T=0，1，2，,离散参数,连续参数,参数分类,参数集T的是一个不可列集,状态分类,离散状态,连续状态,取值是离散的,取值是连续的,首页,T离散、I离散,T离散、I非离散（连续）,参数T状
4、态I分类,概率结构分类,2按过程的概率结构分类,T非离散（连续） 、I离散,T非离散（连续） 、I非离散（连续）,独立随机过程,独立增量随机过程,马尔可夫过程,平稳随机过程,首页,（1）独立随机过程,简称独立随机过程。,首页,（2）独立增量随机过程,是相互独立的，,首页,（3）马尔可夫过程,简称马氏过程。,首页,马氏过程的特点,马氏性实质上是无后效性，所以也称马氏过程为无后效过程。,称这个特性为马尔可夫性，简称马氏性。,首页,（4）平稳随机过程,平稳过程的统计特性与马氏过程不同，它不随时间的推移而变化，过程的“过去”可以对“未来”有不可忽视的影响。,返回,首页,第二节 随机过程的分布及其数字特
5、征,一、随机过程的分布函数,一维分布函数,其分布函数为,一维概率密度,首页,二维分布函数,联合分布函数,二维概率密度,首页,n 维分布函数,联合分布函数,n维概率密度,首页,有限维分布族,一维，二维，n维分布函数的全体：,易知,因此，一个随机过程的统计特性可由其有限维分布函数族表达出来。,首页,联合分布函数,n + m维随机向量,分布函数,称为随机过程和的n + m维联合分布函数,首页,相互独立,n + m维随机向量,分布函数,则称随机过程 相互独立,首页,例1,袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的t对应随机变量,试求这个随机过程的一维分布函数族。,
6、分析,先求概率密度,首页,所以,解,首页,二、随机过程的数字特征,1均值函数,或称为数学期望,说明,首页,2方差函数,说明,均方差函数,首页,3协方差函数,二阶中心混合矩,简称协方差函数,注,首页,4互协方差函数,其中,首页,5相关函数,简称相关函数,注,首页,6互相关函数,注,则,首页,7互不相关,注,有,则,即,若,首页,例2,解,求：（1）均值函数；（2）协方差函数；（3）方差函数。,（1）,（2）,（3）,首页,例3,解,试求它们的互协方差函数。,所以,首页,三、随机过程的特征函数,1一维特征函数,则,注,首页,2n维特征函数,则,3.有限维特征函数族,注,返回,首页,第三节 复随机过
7、程,一、定义,是两个实随机过程,则,称为复随机过程,并称,首页,二、数字特征,1均值函数,2自协方差函数,其中记号“”表示“共轭”,首页,3自相关函数,自协方差函数与自相关函数的关系,4方差函数,它实际上等于自协方差函数,且有,首页,证,由于,所以,即,首页,5互协方差函数,6互相关函数,首页,自相关 关系,即,类似地,互相关 关系,首页,例1,已知复随机过程,解,返回,首页,第四节 几种重要的随机过程简介,一、独立增量过程,1定义,随机变量的增量,是相互独立的,首页,2齐次性,或称时齐的,注,首页,例1,证,的随机变量序列，令,则,首页,二、泊松过程,1计数过程,则,且满足：,首页,注,如果
8、在不相交的时间区间中发生的事件个数是独立的，则称计数过程有独立增量。,2泊松过程,满足,若在任一时间区间中发生的事件个数的分布只依赖于时间区间的长度，则称计数过程有平稳增量。,首页,则称,注意,从条件（3）可知泊松过程有平稳增量，且,并称,生起率或强度,（单位时间内发生的事件的平均个数）,首页,说明,要确定计数过程是泊松过程，必须证明它满足三个条件：,为此给出一个与泊松过程等价的定义,满足,首页,则称,首页,例2,已知商店上午9：00开门，试求到9：30时仅到一位顾客，而到11：30时总计已达5位顾客的概率。,解,设 表示在时间t时到达的顾客数,首页,3到达时间间隔和等待时间的分布,定义,则称
9、,则称,首页,定理1,证,或,首页,那么类似地有,（增量的独立性）,（齐次独立增量过程）,首页,可见,一般地,首页,这就证明了到达时间间隔序列 是相互独立同分布的随机变量序列，且都具有相同均值为 的指数分布。,例3,甲、乙两路公共汽车都通过某一车站，两路汽车的到达分别服从10分钟1辆（甲），15分钟1辆（乙）的泊松分布。假定车总不会满员，试问可乘坐甲或乙两路公共汽车的乘客在此车站所需等待时间的概率分布及其期望。,解,反映甲、乙两路公共汽车到达情况的泊松分布,下面证明两路车混合到达过程 服从生起率为,首页,事实上,且,所以由泊松过程的定义可知,因此,由定理1知公共汽车的到达时间间隔服从均值为6分
10、钟的指数分布。,再由指数分布的无记忆性，,这位乘客的等待时间也服从均值为6分钟的指数分布。,首页,定理2,其概率密度为,证,因为,所以,首页,于是,首页,三、维纳过程,1定义,则称,或布朗运动过程,称为标准维纳过程,特别,首页,2均值、方差、协方差及相关函数,均值,协方差及相关函数,证,方差,由定义可得,均值、方差公式,首页,下证,同理,故,显然,首页,3,证,由于增量,是相互独立的正态变量。,所以,首页,首页,4具有马氏性,证,因此,所以,所以维纳过程是马氏过程。,首页,例4,试求,的协方差函数。,且,解,首页,可得,所以,首页,四、正态过程,1定义,为n维正态分布，,其密度函数为,也称高斯
11、过程,则称,首页,其中,且,K为协方差矩阵,首页,注,2维纳过程是正态过程,由正态过程的n维概率密度表达式知，正态过程的统计特性，由它的均值函数 及自协方差函数 完全确定。,由维纳过程定义知,服从n维正态分布,首页,故知,所以,又因,首页,例5,证,可得,注,逆命题也成立,返回,首页,第三章 马尔可夫过程,第一节 马尔可夫链的定义及其性质,第二节 马尔可夫链的状态分类,第三节 平稳分布与遍历性,第四节 时间连续的马尔可夫链,习题课,第一节 马尔可夫链的定义及其性质,一、马尔可夫链的定义,1马尔可夫链,首页,注:,而与以前的状态,有限马氏链,状态空间是有限集I=0,1,2,，k,2一步转移概率,
12、马氏链在时刻n处于状态 i 的条件下，到时刻n+1转移到状态 j 的条件概率，,即,称为在时刻n的一步转移概率，,首页,注:,由于概率是非负的，且过程从一状态出发，经过一步转移后，必到达状态空间中的某个状态,一步转移概率满足,3一步转移矩阵,称为在时刻n的一步转移矩阵,首页,即有,有限马氏链,状态空间I=0，1，2，k,首页,4齐次马氏链,即,则称此马氏链为齐次马氏链（即关于时间为齐次）,5初始分布,首页,注,马氏链在初始时刻有可能处于I中任意状态，初始分布就是马氏链在初始时刻的概率分布。,6绝对分布,概率分布,称为马氏链的绝对分布或称绝对概率,定态分布,即,首页,例1 不可越壁的随机游动,设
13、一质点在线段1，5 上随机游动，状态空间I=1，2，3，4，5，每秒钟发生一次随机游动，移动的规则是：,（1）若移动前在2，3，4处，则均以概率 向左或向右移动一单位，或停留在原处；,（2）若移动前在1处，则以概率1移到2处；,（3）若移动前在5处，则以概率1移到4处。,试写出一步转移矩阵.,首页,分析,故,首页,其一步转移矩阵为,若将移动规则改为,（1）若移动前在2，3，4处，则均以概率 向左或向右移动一单位； （2）若移动前在1，5处，则以概率1停留在原处。,因为质点在1，5两点被“吸收”，,故称,有两个吸收壁的随机游动,首页,分析,例2 赌徒输光问题,赌徒甲有资本a元，赌徒乙有资本b元，
14、两人进行赌博，每赌一局输者给赢者1元，没有和局，直赌至两人中有一人输光为止。设在每一局中，甲获胜的概率为p，乙获胜的概率为 ，求甲输光的概率。,这个问题实质上是带有两个吸收壁的随机游动。从甲的角度看，他初始时刻处于a，每次移动一格，向右移（即赢1元）的概率为p，向左移（即输1元）的概率为q。如果一旦到达0（即甲输光）或a + b（即乙输光）这个游动就停止。这时的状态空间为0，1，2，c，c = a + b，。现在的问题是求质点从a出发到达0状态先于到达c状态的概率。,首页,考虑质点从j出发移动一步后的情况,解,同理,根据全概率公式有,这一方程实质上是一差分方程，它的边界条件是,首页,于是,设,
15、则可得到两个相邻差分间的递推关系,于是,欲求,先求,需讨论 r,首页,当,而,两式相比,首页,故,当,而,因此,故,首页,用同样的方法可以求得乙先输光的概率,由以上计算结果可知,首页,例3 排队问题,顾客到服务台排队等候服务，在每一个服务周期中只要服务台前有顾客在等待，就要对排在前面的一位提供服务，若服务台前无顾客时就不能实施服务。,则有,求其转移矩阵,在第n周期已有一个 顾客在服务，到第n+1 周期已服务完毕,首页,解,先求出转移概率,首页,所以转移矩阵为,首页,说明：,二、基本性质,性质1,的联合分布可由初始分布及转移概率所决定，即有,首页,则,性质2,表明,一个马氏链，如果按相反方向的时间排列，所成的序列也是一个马氏链。,首页,性质3,表明,若已知现在，则过去与未来是独立的。,首页,则,性质4,表明,若已知现在，则过去同时对将来各时刻的状态都不产生影响。,
