《[理学]第五章 大数定律与中心极限定理》由会员分享，可在线阅读，更多相关《[理学]第五章 大数定律与中心极限定理（49页珍藏版）》请在金锄头文库上搜索。
1、1,第五章 大数定律和中心极限定理 5.1 大数定律 5.2 中心极限定理,2,本章引言： 对应于随机试验的一个结果w ，由描述该结果的随机变量序列X1,X2,可得到一个数列X1(w),X2(w),。不同试验结果对应的数列不同。以下将证明，可以近似地用某个确定数列的算术平均值代替随机变量序列的算术平均值。这类问题的解决依赖于大数定律。 还可证明随机变量序列的和函数经某种规范化，会在某种意义下收敛到分布已知的随机变量。这类问题的解决依赖于中心极限定理。,3,本章基本内容： 切比雪夫大数定律 辛钦大数定律 伯努利大数定律 科尔莫哥洛夫强大数定律 博雷尔强大数定律 林德伯格莱维中心极限定理 棣莫弗拉
2、普拉斯中心极限定理,大数定律,中心极限定理,强大数定律,大数定律,4,5.1 大数定律 对大数定律的直观认识： 学校有10000个学生，平均身高为a；若随意观察1个学生的身高X1，则X1与a可能相差较大。 若随意观察10个学生的身高X1, X2 , X10 ，则10个数据的均值(X1+X2+X10 )/10与a较接近； 若随意观察100个学生的身高X1, X2 , X100 ，则100个数据的均值(X1+X2+X100 )/100与a更接近； 若随意观察n(n10000)个学生的身高X1, X2 , Xn ，当n为很大数时，则n个数据的均值(X1+X2+Xn )/n(样本均值)，随着n的增大而
3、与a(总体均值)充分接近。,5,5.1.1 大数定律问题的提法 一般情况下，设随机变量序列X1,X2,(或记为Xn)，是否存在确定数列a1,a2,，使得在某种收敛意义下，有 答案是肯定的，并且有两种描述。 (1) 在某种条件下，对任意0，有 则称随机变量序列Xn服从大数定律。 (2) 在某种条件下，有 则称随机变量序列Xn服从强大数定律。,6,一般地，设有随机变量序列Xn和随机变量Y。 如果对于任意0，有 上述结果表明：Xn服从大数定律。 大数定律说明随机变量序列Xn依概率P收敛于随机 变量Y，或者说Xn在n时不收敛于Y的概率为0。,7,(2) 设有随机变量序列Xn和随机变量Y。 如果 上述结
4、果表明：Xn服从强大数定律。 强大数定律说明Xn依概率1收敛于随机变量Y，或者 说Xn几乎处处收敛于Y。,8,5.1.2 大数定律 定义 随机变量序列Xn服从大数定律 若随机变量序列Xn满足： 则称Xn服从大数定律。,9,引理 5.1.1 (切比雪夫不等式) 设随机变量X的方差Var(X)存在，则对任意0，有,10,可由切比雪夫不定式直接证明切比雪夫大数定律。 定理 5.1.1 (切比雪夫大数定律) 设X1,X2,为独立随机变量序列，Var(Xi)C，EXi =,i=1,2,， 则对任意0，有,11,定理5.1.2 (辛钦大数定律) 设Xn独立同分布，具有公共的数学期望，则对任意给定的0，有
5、证 (与切比雪夫大数定律的证明过程相同，使用切比雪夫不等式并求极限。) 或者先证马尔科夫不等式；再证切比雪夫不等式；然后证明本定理。,12,13,推论5.1.1 (伯努利大数定律)(频率收敛于概率) 记vn是n重伯努利试验中成功的次数，p为一次试验成功的概率，则,14,伯努利大数定律的意义： 依概率意义讲，随着n的增大，事件发生的频率vn/n 越来越接近概率p，而vn/n不接近p的可能性越来越小。 但不能说 ，因为不管n有多大，仍可能有pn 偏离p的情形出现(虽然这些例外情形出现的概率趋于0)。 该定理以严格的数学形式表达了频率的稳定性。即n很 大时，事件发生的频率与概率有较大偏差的可能性很小
6、。 比较： (1) 伯努利大数定律是切比雪夫大数定律的特例。 (2) 伯努利大数定律也是辛钦大数定律的特例。 (3) 各大数定律成立的条件不同，使用时请注意甄别。,15,5.1.3 强大数定律 定义 随机变量序列Xn服从强大数定律 设Xn是随机变量序列，若 则称Xn服从强大数定律。 上式表明,16,引理 5.1.2 (柯尔莫哥洛夫不等式) 设Xn为独立随机变量序列，具有有限的数学期望和方差，则对任意0，有 定理 5.1.3 (柯尔莫哥洛夫强大数定律) 设Xn为独立随机变量序列，具有有限的数学期望 且 则,17,定理 5.1.4 (柯尔莫哥洛夫强大数定律) 设Xn为独立同分布随机变量序列，具有有
7、限的数学期望，则 成立的充要条件是EXk存在且等于。 柯尔莫哥洛夫强大数定律表明： 将定理5.1.4应用于n重伯努利试验，即得如下比伯努利大数定律(描述频率依概率收敛)更强的博雷尔强大数定律(描述频率依概率1收敛) 。,18,推论5.1.2 (博雷尔强大数定律) 记vn为n重伯努利试验中成功的次数，p为一次试验成功的概率，则 博雷尔强大数定律表明： 博雷尔强大数定律分别是5.1.3和5.1.4两个柯尔莫哥洛夫强大数定律的特例。,19,20,21,22,5.2 中心极限定理 定义 5.2.1 设Xn为独立随机变量序列，具有有限的数学期望和方差，记其和函数为 ，若Yn标准化后服从标准正态分布，即
8、则称Xn服从中心极限定理。 说明： 该定义表明论证和函数 标准化后的分布收敛于正态分布的这类定理叫做“中心极限定理”。,23,定理 5.2.1 (林德伯格-莱维中心极限定理) 设Xn为独立同分布随机变量序列，具有有限的数学期望和方差20， 则Xn服从中心极限定理，即 说明： 上述定理并未规定独立同分布的随机变量序列Xn服从何种概率分布。因此，当n充分大时，无论独立同分布的Xn服从何种概率分布，其部分和标准化后的分布都可以近似地用正态分布代替(即定理5.2.1是用正态分布逼近其他分布)。,24,设Yn=X1+X2+Xn为随机变量序列的和函数(部分和) E(Yn)=E(X1)+E(X2)+E(X
9、n) = n D(Yn)=D(X1)+D(X2)+D(Xn) = n2 将Yn“标准化”： “标准化”后的和函数的分布函数Fn(x):,25,说明： 一般很难求出n个随机变量之和 的分布函数，而 表明，当n充分大时，可以通过(x)给出 近似的分布。由此，可利用正态分布对 作理论分析或实际计算。,26,27,例5.2.1 已知Xn为独立同分布随机变量序列，具有数学期望=1和方差2=4，试求P(X1+X2+X100125)。 解 由于n较大,可以利用上述定理做近似计算。 因为n=100， 所以,28,补充例1 每袋味精的净重为随机变量，平均重量为 100克，标准差为10克。一箱内装200袋味精，求
10、一箱味精的净重大于20500克的概率。 解 设箱中第i袋味精的净重为Xi, 则Xi 独立同分布，且 EXi=100，VarXi =100，由中心极限定理，所求概率为： 故一箱味精的净重大于20500克的概率为0.0002(很小)。,29,补充例2 设 X 为一次射击时命中的环数，其分布列为 求100次射击中命中环数在900环到930环之间的概率。 解 设 Xi 为第 i 次射击命中的环数，则Xi 独立同分布， 且 EXi =9.62，VarXi =0.82，故,30,当独立同分布的随机变量序列Xn服从B(1,p)时，有如下棣莫弗拉普拉斯中心极限定理。 定理5.2.2(棣莫弗-拉普拉斯中心极限定
11、理) 设Xn是独立同分布随机变量序列，同服从B(1,p)，则Xn服从中心极限定理，即 因为XB(1,p), P(Xi=1)=p, P(Xi=0)=1-p, (0p1), i=1,2, E(Xi)=p, Var(Xi)=p(1-p),代入定理5.2.1即得定理5.2.2。,31,说明： 棣莫弗拉普拉斯中心极限定理是林德伯格莱维中心极限定理的推论(特例)。 服从两项分布的随机变量是n个独立的同服从B(1,p)的随机变量的和。 定理5.2.2表明正态分布是两项分布的极限分布，可用正态分布逼近两项分布，故XB(n,p)，当n充分大时，可用正态分布近似计算两项分布的概率。,例如，若Yn=X1+X2+Xn
12、 , 且YnB(n,p)，计算P(t1Ynt2)时可用正态分布近似计算。 因为当n充分大时， 。,32,对此查标准正态 分布表，或用 R 软件计算结果。,33,补充说明一： 因为二项分布是离散分布，而正态分布是连续分布， 所以当n较小时，误差较大。 用正态分布作为二项分布的近似在n较小时，公式可修正为 对上式查标准正态分布表或用R软件计算结果。,34,补充说明二： 使用棣莫弗拉普拉斯中心极限定理的三类方法： (1) 已知n和x，求概率。 (2) 已知n和概率，求x 。 (3) 已知x 和概率，求n 。,35,给定 n 和 x，求概率 补充例题 100个独立工作(工作的概率为0.9)的部件组成一
13、个系统，求系统中至少有85个部件工作的概率。 解 用Xi=1表示第i个部件正常工作, 反之记为Xi=0。 又记Y=X1+X2+X100，则 E(Y)=90，Var(Y)=9。 由此得：,36,给定 n 和概率，求 x 补充例题 有200立工作的机床(正常工作的概率为0.7) ，每台机床工作时需15kw电力。问共需多少电力, 才可有95%的可能性保证正常生产? 解 用Xi=1表示第i台机床正常工作, 反之记为Xi=0。 又记Y=X1+X2+X200，则 EY=140，VarY=42。 设供电量为x, 则,37,给定 x 和概率，求 n 补充例题 用调查对象中的收看比例 k/n 作为某电视节 目的
14、收视率 p 的估计。 要有 90 的把握，使k/n与p的差异不大于0.05，问至少要调查多少对象？ 解 用Xn表示n个调查对象中收看此节目的人数，则Xn B(n, p) 分布，k 为Xn的实际取值。根据题意,38,补充例题 设每颗炮弹命中目标的概率为0.01，求500发炮弹中命中 5 发的概率。 解 设 X 表示命中的炮弹数,则X B(500, 0.01),39,例5.2.2 某地区原有一家小型电影院，为满足观众的需求，现拟筹建一所较大型的电影院。根据分析，该地区每天平均看电影者约有n=1600人，预计新电影院开业后，平均约有3/4的观众会去新电影院。现计划其座位数，要求座位数尽可能多，但“空
15、座达到200或更多”的概率不能超过0.1，问设多少座位为好？ 解 设每天看电影的人编号1,2,3,1600, 且令 假设各观众去不去电影院是独立选择的。,40,则X1, X2 , X1600是独立的0-1分布的随机变量，所以 X1+X2+X1600B(1600,0.75) 设座位数是m，按要求有 P(X1+X2+X1600m-200)0.1 既要求m尽可能最大，又要满足上述条件，故应在在上式取等号时求m ，即 P(X1+X2+X1600m-200)=0.1 由于n较大，可用棣莫弗-拉普拉斯中心极限定理作近似计算。,41,42,例 (合作问题) 设有同类设备200台，各台工作是相互独立的，发生故障的概率都是0.01，并且一台设备的故障可由一个人来处理，试求由4个人共同负责维修200台设备时，设备发生故障而不能及时维修的概率。 解 设Y为200台设备中在同一时间内发生故障的台数，则YB(200,0.01) np=2000.01=2, npq=20.99=1.98 设备发生故障而不能及时维修的概率为,43,直接用两项分布计算=0.0517 可见用泊松分布近似的结果更好一些。 但用泊松分布要查多个泊松分布表的数值，而用中心极限定理来近似只需查一个或两
