《概率论第五章大数定律和中心极限定理》由会员分享，可在线阅读，更多相关《概率论第五章大数定律和中心极限定理（36页珍藏版）》请在金锄头文库上搜索。
1、第五章第五章 大数定律和中心极限定理大数定律和中心极限定理n 大数定律大数定律n 中心极限定理中心极限定理 概率论与数理统计是研究随机现象统计规律概率论与数理统计是研究随机现象统计规律性的学科性的学科. 随机现象的规律性只有在相同的条件下随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来进行大量重复试验时才会呈现出来. 也就是说也就是说, 要从随机现象中去寻求必然的法则要从随机现象中去寻求必然的法则, 应该研究大应该研究大量随机现象量随机现象. 研究大量的随机现象，常常采用极限形式，研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究由此导致对极限定理进行研究. 极限
2、定理的内容极限定理的内容很广泛，其中最重要的有两种很广泛，其中最重要的有两种:与与大数定律大数定律中心极限定理中心极限定理本章要解决的问题：本章要解决的问题： 1 1为何能以某事件发生的频为何能以某事件发生的频率作为该事件的概率的估计？率作为该事件的概率的估计？2 2为何能以样本均值作为为何能以样本均值作为总体期望的估计？总体期望的估计？3 3为何正态分布在概率论为何正态分布在概率论中占有极其重要的地位？中占有极其重要的地位？4 4大样本统计推断的理大样本统计推断的理论基础是什么？论基础是什么？大数大数定律定律中心极中心极限定理限定理答复答复 1. 随着试验次数增大随着试验次数增大, 事件发生
3、的频率稳定于某事件发生的频率稳定于某个常数个常数; 2. 实践中大量测量值的算术平均值也具有稳定性实践中大量测量值的算术平均值也具有稳定性. 人们正是研究了这些稳定性得到了大数定律人们正是研究了这些稳定性得到了大数定律.大数定律的客观背景大数定律的客观背景大量抛掷硬币大量抛掷硬币正面出现频率正面出现频率字母使用频率字母使用频率生产过程中的生产过程中的废品率废品率 设设Xn为随机变量序列，为随机变量序列，a为常数，若任给为常数，若任给 0, 使得使得则称则称Xn依概率收敛依概率收敛于于a. 可记为可记为性质性质:一一. .依概率收敛依概率收敛5.1 5.1 大数定律大数定律函数函数 g(x, y
4、) 在在 (a, b) 连续连续,设设则则a意思是意思是: 当当时时, Xn落在落在内的概率越来越大内的概率越来越大.而而意思是意思是:, 当当即即Xn落在落在内内.二二.几个常用的大数定律几个常用的大数定律定理定理1 （切比雪夫大数定理）（切比雪夫大数定理） 设设 X1, X2, 是相互独立的随机变量是相互独立的随机变量序列，且期望存在序列，且期望存在 E(Xi) = i ，它们都有有限的方差，并且方差有共同它们都有有限的方差，并且方差有共同的上界，即的上界，即D(Xi) = i 2 K, i=1, 2, ，则对任给则对任给 0, 有有切比雪夫切比雪夫 切比雪夫大数定理表明，独立随机变量序切
5、比雪夫大数定理表明，独立随机变量序列列Xn，如果方差有共同的上界，则，如果方差有共同的上界，则与其数学期望与其数学期望 偏差很小的偏差很小的切比雪夫大数定理给出了平均值稳定性的科学描述切比雪夫大数定理给出了平均值稳定性的科学描述概率接近于概率接近于1. 即当即当n充分大时，充分大时， 差不多不再是随机差不多不再是随机的了，取值接近于其数学期望的概率接近于的了，取值接近于其数学期望的概率接近于1. 证明切比雪夫大数定律主要的数学工具是证明切比雪夫大数定律主要的数学工具是切比雪夫不等式切比雪夫不等式. 设随机变量设随机变量X有期望有期望E(X)和方差和方差 ，则对于任给则对于任给 0,作为切比雪夫
6、大数定理的特殊情况作为切比雪夫大数定理的特殊情况, 有下面的定理有下面的定理.定理定理2（独立同分布下的大数定理）（独立同分布下的大数定理） 设设X1, X2, 是独立同分布的随机变量序列，是独立同分布的随机变量序列，且且E(Xi)= ，D(Xi)= 20 ， i=1,2, 则则即对任给即对任给 0, 有有 设设fA是是n次独立重复试验中事件次独立重复试验中事件A发生的次数，发生的次数，p是事件是事件A在每次试验中在每次试验中发生的概率，则对任给的发生的概率，则对任给的 0，或或定理定理3. 伯努利伯努利大数定理大数定理伯努利伯努利下面给出定理下面给出定理2的一种特例的一种特例.证明证明: 因
7、为因为fAb(n,p)第第i次试验事件次试验事件A发生发生第第i次试验事件次试验事件A不发生不发生则则由切由切比雪夫大数定理比雪夫大数定理设设 伯努利伯努利大数定律表明，当重复试验次数大数定律表明，当重复试验次数n充分充分大时，事件大时，事件A发生的频率发生的频率fA / n与事件与事件A的概率的概率p有较有较大偏差的概率很小大偏差的概率很小. 伯努利伯努利大数定律提供了通过试验来确定事件概大数定律提供了通过试验来确定事件概率的方法率的方法.任给任给0， 下面给出的独立同分布下的大数定理，下面给出的独立同分布下的大数定理，不要求随机变量的方差存在不要求随机变量的方差存在. 设随机变量序列设随机
8、变量序列X1,X2, 独立同分独立同分布，具有有限的数学期布，具有有限的数学期E(Xi)=, i=1,2,， 则对任给则对任给 0 ，定理定理4（辛钦大数定理）（辛钦大数定理）辛钦辛钦 例如要估计某地区的平均亩产量，要收割例如要估计某地区的平均亩产量，要收割某些有代表性的地块，例如某些有代表性的地块，例如n 块块. 计算其平均亩计算其平均亩产量，则当产量，则当n 较大时，可用它作为整个地区平均较大时，可用它作为整个地区平均亩产量的一个估计亩产量的一个估计.这一讲我们介绍了大数定律这一讲我们介绍了大数定律 大数定律以严格的数学形式表达了随机现象大数定律以严格的数学形式表达了随机现象最根本的性质之
9、一：最根本的性质之一：它是随机现象统计规律的具体表现它是随机现象统计规律的具体表现.大数定律在理论和实际中都有广泛的应用大数定律在理论和实际中都有广泛的应用.平均结果的稳定性平均结果的稳定性休息片刻继续下一讲休息片刻继续下一讲 在实际问题中，常常需要考虑许多随机因素在实际问题中，常常需要考虑许多随机因素所产生总影响所产生总影响. 例如：炮弹射击的落点与例如：炮弹射击的落点与目标的偏差，就受着许多随机目标的偏差，就受着许多随机因素的影响因素的影响.中心极限定理的客观背景中心极限定理的客观背景空气阻力所产生的误差，空气阻力所产生的误差，对我们来说重要的是这些对我们来说重要的是这些随机因素的总影响随
10、机因素的总影响.如瞄准时的误差，如瞄准时的误差，炮弹或炮身结构所引起的误差等等炮弹或炮身结构所引起的误差等等. 观察表明，观察表明，如果一个量是由大量相互独立的随如果一个量是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中机因素的影响所造成，而每一个别因素在总影响中所起的作用不大所起的作用不大. 则这种量一般都服从或近似服从则这种量一般都服从或近似服从正态分布正态分布. 自从高斯指出测量误差服从正态分布自从高斯指出测量误差服从正态分布之后，人们发现，之后，人们发现，正态分布在自然界中极正态分布在自然界中极为常见为常见. 现在我们就来研究独立随机变量之和所特有现在我们就来研究独立随
11、机变量之和所特有的规律性问题的规律性问题. 当当n无限增大时，这个和的极限分布是什么呢？无限增大时，这个和的极限分布是什么呢？在什么条件下极限分布会是正态的呢？在什么条件下极限分布会是正态的呢？ 由于无穷个随机变量之和可能趋于由于无穷个随机变量之和可能趋于，故我们，故我们不研究不研究n个随机变量之和本身而考虑它的标准化的个随机变量之和本身而考虑它的标准化的随机变量随机变量的分布函数的极限的分布函数的极限.的分布函数的极限的分布函数的极限. 可以证明，满足一定的条件，上述极限分布可以证明，满足一定的条件，上述极限分布是标准正态分布是标准正态分布. 考虑考虑 在概率论中，习惯于把和的分布收敛于正态
12、分在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做布这一类定理都叫做中心极限定理中心极限定理.定理定理1（独立同分布下的中心极限定理）（独立同分布下的中心极限定理） 它表明，当它表明，当n充分大时，充分大时，n个具有期望和方差个具有期望和方差的独立同分布的的独立同分布的 r.v之和近似服从正态分布之和近似服从正态分布.设设X1,X2, 是独立同分布的随机变量序列，是独立同分布的随机变量序列，且且 E(Xk)= 0, k=1, 2, , 则则5.2 5.2 中心极限定理中心极限定理定理定理2( (李雅普诺夫定理李雅普诺夫定理) )则随机变量之和的标准化变量则随机变量之和的标准化变量定理
13、定理2 2表明表明:( (如实例中射击偏差服从正态分布如实例中射击偏差服从正态分布) )定理定理3 ( (棣莫佛拉普拉斯定理）棣莫佛拉普拉斯定理） 定理表明，当定理表明，当n很大，很大，0p1是一个定值时（或是一个定值时（或者说，者说，np(1-p)也不太小时），二项也不太小时），二项变量变量 n的的分布近分布近似正态分布似正态分布 N(np, np(1-p). 设随机变量设随机变量 n (n=1, 2, .)服从参数为服从参数为n, p(0p1)的二项分布，则的二项分布，则证明证明:设设第第i次试验事件次试验事件A发生发生第第i次试验事件次试验事件A不发生不发生则则由中心极限定理由中心极限定
14、理, 结论得证结论得证.下面我们举例说明中心极限定理的应用下面我们举例说明中心极限定理的应用X1 f(x)X1 +X2g(x)X1 +X2+X3 h(x)例例:20个个0-1分布的和的分布分布的和的分布几个几个(0,1)上均匀分布的和的分布上均匀分布的和的分布0123xfgh图示图示中心极限定理的客观背景中心极限定理的客观背景例例1. 将一颗骰子连掷将一颗骰子连掷100次，则点数之和大于等次，则点数之和大于等于于500的概率是多少？的概率是多少？解解:设设 Xi为第为第i 次掷出的点数次掷出的点数, i=1, 2 , 100, 则则X1, , X100独立同分布独立同分布.由中心极限定理由中心
15、极限定理例例2. 在一家保险公司里有在一家保险公司里有10000个人参加寿命保险，个人参加寿命保险，每人每年付每人每年付12元保险费元保险费. 在一年内一个人死亡的概在一年内一个人死亡的概率为率为0.6%, 死亡时其家属可向保险公司领得死亡时其家属可向保险公司领得1000元元,问：问： (1)保险公司亏本的概率有多大？保险公司亏本的概率有多大？ (2)其他条件不变其他条件不变, 为使保险公司一年的利润不少为使保险公司一年的利润不少于于60000元的概率至少为元的概率至少为90% , 赔偿金至多可设为多赔偿金至多可设为多少少?解解 设设X表示一年内死亡的人数，则表示一年内死亡的人数，则Xb(n, p), 其中其中n= 10000，p=0.6%，设设Y表示保险公司一年的利润，表示保险公司一年的利润， Y=10000 12-1000X于是由中心极限定理于是由中心极限定理 所以所以(1)PY0=P10000 12-1000X0=1 PX 120= 1 (7.75)=0;PY 60000=P10000 12-aX 60000 =PX 60000/a 0.9;（2）设赔偿金为）设赔偿金为a元，则元，则Y=10000 12-aX,令令由中心极限定理由中心极限定理, 上式等价于上式等价于
