《概率论与随机过程：第五章 大数定律与中心极限定理》由会员分享，可在线阅读，更多相关《概率论与随机过程：第五章 大数定律与中心极限定理（50页珍藏版）》请在金锄头文库上搜索。
1、 第五章第五章大数定律与中心极限定理大数定律与中心极限定理 引言 概率论是研究随机现象统计规律性的学科概率论是研究随机现象统计规律性的学科. 随机现随机现象的规律性只有在相同的条件下进行象的规律性只有在相同的条件下进行大量大量重复试验时才会重复试验时才会呈现出来呈现出来. 也就是说，要从随机现象中去寻求必然的法则，也就是说，要从随机现象中去寻求必然的法则，应该研究应该研究大量随机现象大量随机现象. 极限定理的内容很广泛，其中最重要的有两种极限定理的内容很广泛，其中最重要的有两种: 与与大数定律大数定律中心极限定理中心极限定理下面我们先介绍大数定律下面我们先介绍大数定律 (1)事件发生的频率具有
2、稳定性，即随着试验次数的事件发生的频率具有稳定性，即随着试验次数的增加，事件发生的频率逐渐稳定于某个常数。增加，事件发生的频率逐渐稳定于某个常数。大数定律的客观背景大数定律的客观背景(现象)：大量抛掷硬币大量抛掷硬币正面出现频率正面出现频率字母使用频率字母使用频率生产过程中的生产过程中的废品率废品率一、大数定律一、大数定律(2)特别的，在实践中人们认识到大量测量值的算术平均特别的，在实践中人们认识到大量测量值的算术平均值具有稳定性。值具有稳定性。1.大数定律的定义 定义定义1 1 设X1,X2,Xn,为一随机变量序列,如果对于任意正整数k(k2)及任意k个随机变量 相互独立，则称随机变量序列X
3、1,X2,Xn,相互独立。 定义定义2 2 设Y1，Y2，Yn，是一随机变量序列，a是一常数，若对任意正数，有 ,则称序列Y1，Y2，Yn，依概率收敛Y，记为 定义定义3 3 设Xn为一随机变量序列,E(Xn)存在，记 则称Xn服从（弱）大数定律。大数定律。 2 2几个常见的大数定律几个常见的大数定律的定理的定理 定理定理1 1( (切比雪夫大数定理切比雪夫大数定理) ) 设X1，X2，,Xn，是相互独立的随机变量序列，且具有相同的数学期望与方差：E(Xk k)=，D(Xk k)=2(k=1，2),则Xn服从大数定律。即对于任意正数，有 切比雪夫切比雪夫 设随机变量设随机变量X有期望有期望E(
4、X)和方差和方差 ，则对于任给则对于任给 0,由切比雪夫不等式对于任意正数，有 令n，注意到概率不能大于1，即得 作为切比雪夫大数定律的特殊情况，有下面的定理作为切比雪夫大数定律的特殊情况，有下面的定理.分析分析 定理定理2(2(贝努利大数定理贝努利大数定理) ) 设nA A为n次独立重复试验中事件A发生的次数。p是事件A在每次试验中发生的概率,则事件A的频率依概率收敛到概率p，即对于任意正数，有 证：引入随机变量 由于各次试验是独立的。于是X1，X2，,Xn是相互独立的；又由于Xk k服从(0-1)分布，所以E(Xk k)=p，D(Xk k)=p(1-p)，k=1，2，n，。 显然: nA=
5、X1+X2+Xn，由定理一有 切比雪夫大数定理的条件可以减弱为（不要求方差存在不要求方差存在）定理定理3 3( (辛钦定理辛钦定理) ) 设随机变量X1，X2，,Xn，相互独立，服从同一分布，具有数学期望E(Xk k)= (k=1，2，)，则对于任意正数，有 分析分析 (1)在切比雪夫大数定理的证明过程中可以看出只要 ()， 则大数定理就能成立。这个条件称为马尔可夫条件。因此更一般的定理有马尔可夫大数定理：对于随机变量X1，X2，,Xn，若条件()成立，则对于任意0，有 注释注释 例如要估计某地区的平均亩产量，要收割某些有代表例如要估计某地区的平均亩产量，要收割某些有代表性的地块，例如性的地块
6、，例如n 块块. 计算其平均亩产量，则当计算其平均亩产量，则当n 较大时，较大时，可用它作为整个地区平均亩产量的一个估计可用它作为整个地区平均亩产量的一个估计. 大数定律为寻找随机变量的期望值提供了一条实大数定律为寻找随机变量的期望值提供了一条实际可行的途径际可行的途径.下面我们再举一例说明大数定律的应用下面我们再举一例说明大数定律的应用. .定积分的概率计算法。定积分的概率计算法。 求求的值的值 介绍均值法，步骤是介绍均值法，步骤是1) 产生在产生在(0,1)上均匀分布的随机数上均匀分布的随机数rn,2) 计算计算g(rn)， n=1,2,Nn=1,2,N即即3) 用平均值近似积分值用平均值
7、近似积分值 原理是什么呢？原理是什么呢？因此，当因此，当N充分大时，充分大时，设设XU(0, 1)由大数定律由大数定律应如何近似计算？请思考应如何近似计算？请思考.请看请看 定积分的概率计算法定积分的概率计算法 问：若求问：若求的值的值 中心极限定理的客观背景中心极限定理的客观背景 在实际问题中，常常需要考虑许多随机因素所产生总在实际问题中，常常需要考虑许多随机因素所产生总影响影响.例如：炮弹射击的落点与目标的偏差，就受着许多随机因素例如：炮弹射击的落点与目标的偏差，就受着许多随机因素的影响的影响.二、二、中心极限定理 空气阻力所产生的误差，空气阻力所产生的误差，对我们来说重要的是这些随机因素
8、的总影响对我们来说重要的是这些随机因素的总影响.如瞄准时的误差，如瞄准时的误差，炮弹或炮身结构所引起的误差等等炮弹或炮身结构所引起的误差等等. 自从高斯指出测量误差服从正态分布之后，人们发自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见现，正态分布在自然界中极为常见. 在实际中所遇到的许多随机变量，往往服从正态在实际中所遇到的许多随机变量，往往服从正态分布或近似服从正态分布。分布或近似服从正态分布。 他们共同的特点：这些随机现象是由大量的相互独立他们共同的特点：这些随机现象是由大量的相互独立随机因素的综合作用的结果。而其中每个个别因素所起随机因素的综合作用的结果。而其
9、中每个个别因素所起的作用是微小的，只是它们作用总和中的一部分。大量的作用是微小的，只是它们作用总和中的一部分。大量实践经验告诉我们这一总和的分布是近似服从正态分布。实践经验告诉我们这一总和的分布是近似服从正态分布。 现在我们就来研究独立随机变量之和所特有的规律性现在我们就来研究独立随机变量之和所特有的规律性问题问题. 当当n无限增大时，这个和的极限分布是什么呢？在什无限增大时，这个和的极限分布是什么呢？在什么条件下极限分布会是正态的呢？么条件下极限分布会是正态的呢？ 由于无穷个随机变量之和相当复杂，故我们不研究由于无穷个随机变量之和相当复杂，故我们不研究n个个随机变量之和本身而考虑它的标准化的
10、随机变量随机变量之和本身而考虑它的标准化的随机变量的分布函数的极限的分布函数的极限. 在概率论中，习惯于把和的分布收敛于正态分在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做布这一类定理都叫做中心极限定理中心极限定理.我们只讨论几种简单情形我们只讨论几种简单情形.1 1定义：定义： 设随机变量Xn和X的分布函数分别为Fn(x)，F(x)， n=1,2, . 若对F(x)的一切连续点x，有： ，则称Xn依分布收敛到X。 2. 2. 中心极限定理中心极限定理 定理定理1 1(独立同分布的中心极限定理) 设随机变量X1，X2，,Xn，相互独立，服从同一分布，且具有数学期望和方差 E(Xk
11、k)=，D(Xk k)=20,(k=1,2,) 则随机变量 依分布收敛到Y,而YN(0,1). 即Yn的分布函数Fn(y),对于任意x满足 定理定理2 2(李雅普诺夫Liapunov定理) 设随机变量X1，X2，,Xn，相互独立，它们具有数学期望和方差, E(Xk)=k ， D(Xk)=k20 (k=1，2，),记 若存在正数，使得当n时， ,则随机变量 的分布函数Fn(x)对任意x，满足 注释：(1)定理2表明，在定理的条件下，随机变量, 近似地服从正态分布.当n很大时，近似地服从正态分布 N(0，1)。由此，当n很大时，(2)同时定理也提供了大量独立随机变量之和有关的事件概率的近似计算方法
12、.定理定理3 3(德莫佛-拉普拉斯De Moivre-Laplace定理) 设随机变量n (n=1，2，) 服从参数为n,p (0p105 的近似值。 解: 易知E(Vk)=5，D(Vk)=100/12(k=1，2，20)。 由定理1，随机变量 近似服从正态分布N(0，1)， 即有 PV1050.348。 例2: 保险业是最早使用概率论的部门之一，保险公司为了估计企业的利润，需要计算各种概率。假设现要设置一项保险：一辆自行车年交保费2元，若自行车丢失，保险公司赔偿200元，设在一年内自行车丢失的概率为0.001,问至少要有多少辆自行车投保才能以不小于0.9的概率保证这一保险不亏本？ 解: 设有n辆自行车投保，n表示一年内n辆自行车中丢失的数量。则 nb(n, 0.001),问题归结为n至少为多少时， P2n-200n00.9 上式化为 Pn0.01n0.9 查表得,解不等式得n21.
