统计计算09随机模拟计算——随机模拟方法的特点.pdf

《统计计算09随机模拟计算——随机模拟方法的特点.pdf》由会员分享，可在线阅读，更多相关《统计计算09随机模拟计算——随机模拟方法的特点.pdf（46页珍藏版）》请在金锄头文库上搜索。

1、随机模拟计算随机模拟计算 随机模拟方法的特点 求解确定性问题 内容和要求内容和要求 随机模拟的基本方法；用随机模拟方法求解确定 性问题；常用随机过程的模拟；模拟方法在随机 服务系统中的应用。 1 了解随机模拟方法的特点、基本步骤； 2 熟练掌握求解确定性问题的随机模拟方法； 3 掌握常见随机过程的模拟方法； 4 能够利用模拟方法进行服务系统的随机模 拟。 Monte-Carlo 方法 一、一、MC 的起源和发展的起源和发展 Buffon试验 排队系统模拟：M/G/1排队系统 试验 排队系统模拟：M/G/1排队系统 二、二、MC 的原理的原理 三、随机数的产生原理与三、随机数的产生原理与IMSL

2、库库 均匀分布均匀分布U(0,1)的随机数的产生 其他各种分布的随机数的产生 随机过程模拟 的随机数的产生 其他各种分布的随机数的产生 随机过程模拟 四、四、MC的应用举例的应用举例 定积分的定积分的MC计算 随机微分方程的数值模拟 计算 随机微分方程的数值模拟 五、五、EM算法及其算法及其MCMC方法方法 一、MC 的起源和发展 随机模拟方法，也称为Monte Carlo方法，是一种 基于“随机数”的计算方法。这一方法源于美国在 第一次世界大战进行的研制原子弹的“曼哈顿计 划”。该计划的主持人之一、数学家冯诺伊曼用驰 名世界的赌城摩纳哥的Monte Carlo来命名这 种方法，为它蒙上了一层

3、神秘色彩。冯诺伊曼是 公理化方法和计算机体系的领袖人物，Monte Carlo方法也是他的功劳。 事实上，Monte Carlo方法的基本思想很早以前就 被人们所发现和利用。早在17世纪，人们就知道 用事件发生的“频率”来决定事件的“概率”。18世纪 下半叶的法国学者Buffon提出用投针试验的方法 来确定圆周率的值。这个著名的Buffon试验是 Monte Carlo方法的最早的尝试！ 历史上曾有几位学者相继做过这样的试验。不过 呢，他们的试验是费时费力的，同时精度不够 高，实施起来也很困难。然而，随着计算机技术 的飞速发展，人们不需要具体实施这些试验，而 只要在计算机上进行大量的、快速的模

4、拟试验就 可以了。 在大众的心目中，科学的代言人是心不在焉的 牛顿或者爆炸式发型的爱因斯坦，但这只是传 统形象，比他们更了解现代计算技术的冯诺伊 曼是个衣着考究，风度翩翩的人物，他说：纯 粹数学和应用数学的许多分支非常需要计算工 具，用以打破目前由于纯粹分析的研究方法不 能解决非线性问题而形成的停滞状态。 Monte Carlo方法是现代计算技术的最为杰出 的成果之一，它在工程领域的作用是不可比拟 的。 Buffon试验 假设平面上有无数条距离为1的等距平行线，现向 该平面随机投掷一根长度为 的针( )， 则我们可计算该针与任一平行线相交的概率。这 里，随机投针指的是：针的中心点与最近的平行

5、线间的距离均匀的分布在区间。上，针 与平行线的夹角（不管相交与否）均匀的分布 在区间上。 因此，针与线相交的充要条件是 l1l 21 , 0 x , 0 2 1 sin x Buffon试验 从而针线相交的概率为 根据上式，若我们做大量的投针试验并记录针与 线相交的次数，则由大数定理可以估计出针线相 交的概率，从而得到的估计值。 针与线的位置关系： l dxd l XPp l 22 sin 2 0 sin 2 0 = = x l p 排队系统模拟：M/G/1排队系统 服务规则：服务规则：先到先服务 假设：假设：（）顾客到达遵循Poisson分布； （）服务时间服从一般分布； （）到达间隔与服务

6、时间相互独立 1 排队系统模拟：M/G/1排队系统 关心的指标：关心的指标： （）时刻t时，系统中的顾客数；即队长的分 布； （）顾客的等待时间； （）服务的忙碌程度； （） 用最朴素的Monte-Carlo方法可以得到这些指标 的估计 二、MC 的原理 应用Monte Carlo方法求解工程技术问题可以分为 两类： 确定性问题 随机性问题 确定性系统确定性系统 随机性系统随机性系统 模拟模拟 自然界自然界 Monte-Carlo模拟，即随机模拟（重复模拟，即随机模拟（重复“试验试验”） 重复试验重复试验 计算机模拟计算机模拟 思路： 1、 针对实际问题建立一个简单且便于实现的 概率统计模型，

7、使问题的解对应于该模型中随 机变量的概率分布或其某些数字特征，比如， 均值和方差等。所构造的模型在主要特征参量 方面要与实际问题或系统相一致的。 2、 根据模型中各个随机变量的分布，在计算 机上产生随机数，实现一次模拟过程所需的足 够数量的随机数。通常先产生均匀分布的随机 数，然后生成服从某一分布的随机数，再进行 随机模拟试验。 思路： 3、 根据概率模型的特点和随机变量的分布特 性，设计和选取合适的抽样方法，并对每个随 机变量进行抽样（包括直接抽样、分层抽样、 相关抽样、重要抽样等）。 4、 按照所建立的模型进行仿真试验、计算， 求出问题的随机解。 5、 统计分析模拟试验结果，给出问题的估计

8、 以及其精度估计。 6、 必要时，还应改进模型以降低估计方差和 减少试验费用，提高模拟计算的效率。 收敛性:收敛性: 由大数定律, Monte-Carlo模拟的收 敛是以概率而言的 误差:误差: 用频率估计概率时误差的估计，可由中 心极限定理，给定置信水平 的条件下，有： 模拟次数:模拟次数:由误差公式得 N U 2/1 | )(XgVar= 2 2/1 )( U N 三、随机数的产生原理与IMSL库 随机数的产生是实现MC计算的先决条件。 而大多数概率分布的随机数的产生都是基于均 匀分布U(0,1)的随机数。 首先，介绍服从均匀分布U(0,1)的随机数的产 生方法。 其次，介绍服从其他各种分

9、布的随机数的产生 方法。以及服从正态分布的随机数的产生方 法。 接下来，介绍随机过程模拟。 最后，关于随机数的几点注。 均匀分布U(0,1)的随机数的产生 产生均匀分布的标准算法在很多高级计算 机语言的书都可以看到。算法简单，容易实 现。使用者可以自己手动编程实现。IMSL统计 库中也提供给我们用于产生均匀分布的各种函 数。我们的重点是怎样通过均匀分布产生服从 其他分布的随机数。因此，直接使用IMSL提供 的可靠安全的标准函数，当然不用费事了。 IMSL库中的函数使用 RNSET: 种子的设定 CALL RNSET (ISEED) RNOPT:产生器的类型的设定 CALL RNOPT (IOP

10、T) RNUN/DRNUN: 产生均匀分布的随机数 CALL RNUN (NR, R) 其他各种分布的随机数的产生 基本方法有如下三种： 逆变换法 合成法 筛选法 逆变换法 设随机变量的分布函数为，定义 定理定理设随机变量服从上的均匀分布， 则的分布函数为。 因此，要产生来自的随机数，只要先产生 来自的随机数，然后计算即可。 其步骤为 X( )xF ( )( )10 ,:inf 1 = yyxFxyF U) 1 , 0( ( )UFX 1 =( )xF ( )xF ()1 , 0U( )uF 1 () ( ) = uFx uU 1 1 , 0 计算 ，抽取由 合成法 合成法的应用最早见于But

11、lter 的书中。 构思如下： 如果的密度函数难于抽样，而关于 的条件密度函数以及的密度函数 均易于抽样，则的随机数可如下产生： 可以证明由此得到的服从。 X( )xpXY ()yxpY( )yg X ( ) () xyxp yygY 抽取由条件分布 ，抽取的分布由 X ( )xp 筛选抽样 假设我们要从抽样，如果可以将表示 成，其中是一个密度函数且 易于抽样，而，是常数，则的抽 样可如下进行： 定理定理 设的密度函数，且， 其中，是一个密度函数。令 和分别服从和，则在的条件 下， 的条件密度为 ( )xp ( )( )( )xgxhcxp= ( )xp ()h ( )10 = 。，回到如果

12、，停止，则如果 ，抽取，由抽取由 13 2 1 , 01 ygu yxygu yyhuU X ( )xp( )( )( )xgxhcxp= ()h( )10xg1cU Y()1 , 0U( )yh( )YgU ( )()( )xpYgUxpY= Y 标准正态分布的随机数 的随机数产生方法很多。简要介绍三种。 法法1、 变换法（Box 和Muller 1958） 设， 是独立同分布的变量，令 则与独立，均服从标准正态分布。 法法2、 结合合成法与筛选法。（略） 法3、法3、 近似方法（利用中心极限定理） 即用 个变量产生一个变量。 其中 是抽自的随机数，可近似 为一个变量。 ()1 , 0N 1

13、 U 2 U()1 , 0U ()() ()() = = 212 211 2sinln2 2cosln2 2 1 2 1 UUX UUX 1 X 2 X n ()1 , 0U()1 , 0N ()2112=unx i u()1 , 0U = = n i i u n u 1 1 ()1 , 0N IMSL库中的函数使用 RNSET:种子的设定 CALL RNSET (ISEED) RNOPT:产生器的类型的设定 CALL RNOPT (IOPT) RNNOA:产生服从标准正态分布的伪随机数 CALL RNNOA (NR, R) 随机过程模拟 高斯白噪声的产生： 一种简单有效的模拟高斯白噪声过程的

14、方法是 由独立的单位正态随机序列，按照如图所 示的方式连接，其中 式中为白噪声的强度。 kk tD= k D 由于正态随机数的独立性，当很小时，按(a) 、(b)所构成的过程的相关时间很短，从而具有很高 的截止频率。 当然，过小，样本的计算量过大。因此，选取 适当小即可。 t t t 关于随机数的几点注 注1注1 由于均匀分布的随机数的产生总是采用某 个确定的模型进行的，从理论上讲，总会有周 期现象出现的。初值确定后，所有随机数也随 之确定，并不满足真正随机数的要求。因此通 常把由数学方法产生的随机数成为伪随机数。 但其周期又相当长，在实际应用中几乎不 可能出现。因此，这种由计算机产生的伪随机

15、 数可以当作真正的随机数来处理。 注2注2应对所产生的伪随机数作各种统计检验， 如独立性检验，分布检验，功率谱检验等等。 四、MC的应用举例 例一、定积分的例一、定积分的MC计算计算 随机投点法 样本平均值法 几种降低估计方差的 随机投点法 样本平均值法 几种降低估计方差的MC方法方法 例二、 随机微分方程的数值模拟例二、 随机微分方程的数值模拟 定积分的MC计算 事实上，不少的统计问题，如计算概率、各阶 距等，最后都归结为定积分的近似计算问题。 下面考虑一个简单的定积分 为了说明问题，我们首先介绍两种求的简单 的MC方法，然后给出几种较为复杂而更有效 的MC方法。 ( )dxxf b a =

16、 在计算积分上，MC的实用场合是计算重积分 其中是维空间的点，当较大时，用MC 方法比一般的数值方法有优点，主要是它的误 差与维数无关。 ( )dPPgI k = Pmm m 随机投点法 方法简述方法简述： 设 ，有限，并 设是在上均匀分布的二维随机变量，其联 合密度函数为。则易见 是中曲线下方的面积。假设我 们向中进行随机投点，若点落在下 方，(即称为中的，否则称为不中，则点中 的概率为。若我们进行了 次投点，其 中次中的，则用频率来估计概率。即。 ab ( )Mxf0 ()Mybxayx=0 ,:, ()YX, () ()Mybxa I abM 0, 1 ( )dxxf b a = ( )xfy = ( )xfy = ( )xfy ()